Este artigo foi escrito por Vincent Straub, pesquisador do Programa de Políticas Públicas do Alan Turing Institute e do Big Data Institute da Universidade de Oxford. Anteriormente, ele trabalhou no Oxford Internet Institute e na fundação de inovação Nesta.

  • O problema: com a crescente sofisticação e adoção da IA, os líderes governamentais precisam de adotar um vocabulário mais preciso para impedir a propagação de narrativas falsas.
  • Por que é importante: A história e o desenvolvimento dos termos usados ​​para falar sobre IA alinham-se com o privilégio institucional e conferem autoridade; os termos definem a agenda e orientam as políticas: devemos procurar uma linguagem precisa e informativa que possa ajudar a informar-nos a todos.
  • A solução: Uma abordagem futura é defender um glossário de termos de IA universalmente aceitos que incorpore mais termos que destaquem melhor a natureza mecânica dos modelos de IA; no nosso trabalho no Instituto Alan Turing, o instituto nacional de IA do Reino Unido, temos trabalhado ativamente neste problema.

À medida que o terceiro ano completo da Estratégia Nacional de IA do Governo do Reino Unido está bem encaminhado, os recentes avanços nas capacidades dos sistemas de IA continuam a ganhar as manchetes. O exemplo mais recente continua sendo os modelos Large Language (LLMs), como ChatGPT , que derivam seu poder de grandes quantidades de dados linguísticos.

Embora os LLM possam ser adaptados a uma gama impressionante de tarefas, a linguagem utilizada no governo, bem como nas empresas e nos meios de comunicação social, para os discutir é muitas vezes tomada fora do contexto, confusa e, na pior das hipóteses, semelhante aos efeitos da desinformação.

💬 Informe ao autor qual linguagem você usa atualmente ao se comunicar sobre IA e quais alternativas você sugere, deixando um comentário abaixo

O mais recente de muitos exemplos é a palavra 'alucinar', que o Cambridge Dictionary nomeou como palavra do ano 2023 . Em termos simples, este termo refere-se à tendência de programas como o ChatGPT de cometer erros e fornecer informações inventadas ou falsas.

No entanto, dizer que um chatbot está alucinando faz parecer que ele tem uma mente própria que às vezes imagina coisas. Como observou Giada Pistilli, principal especialista em ética da Hugging Face, que hospeda muitos modelos de IA de última geração, a linguagem antropomorfizante da alucinação obscurece o que os modelos de IA realmente estão fazendo. Um termo mais preciso pode ser simplesmente “mau funcionamento”.

Palavras filosoficamente carregadas

Muitos decisores políticos podem ser perdoados por adoptarem termos promulgados por investigadores sem saberem que muitos destes termos são eles próprios contestados. Justiça pode significar coisas diferentes dependendo de quais pesquisadores você perguntar, por exemplo, mas é regularmente invocada em discussões sobre IA.

Há meio século, quando a IA ainda era em grande parte domínio da ficção científica, as consequências da linguagem eram menores. Agora as palavras realmente importam.

No entanto, como muitos políticos e o público em geral ainda lutam para saber o que fazer com a IA e como separar os factos da ficção , a linguagem que utilizamos é claramente importante.

Como escreveu o estimado cientista da computação Murray Shanahan, precisamos evitar “o uso enganoso de palavras filosoficamente carregadas associadas à cognição humana para descrever as capacidades dos LLMs”, palavras como 'crença', 'compreensão' e - talvez a mais pouco informativa de tudo – 'consciência'.

Outros já sublinharam este ponto e argumentaram que precisamos de parar de falar sobre LLMs da mesma forma que falamos sobre humanos . Com todo o entusiasmo e medo em torno da IA, especialmente dos LLMs, devemos ser medidos.

Precisamos de saber o que esta tecnologia pode ou não fazer, quais os riscos que representa, para que possamos ter uma compreensão mais profunda e uma visão mais abrangente do seu impacto social. Um vocabulário que enfatize a natureza mecânica dos modelos de IA é o primeiro passo vital para esses dois objetivos.

Para onde ir a partir daqui?

Ao longo dos últimos anos, uma série de termos úteis para discutir LLMs entraram, é claro, gradualmente no léxico. Isso inclui viés algorítmico e interpretabilidade, entre outros. No entanto, estes termos são frequentemente relegados a segundo plano, agrupados em “preocupações éticas” e discutidos posteriormente. Então, para onde vamos a partir daqui?

Uma abordagem futura é que o governo e as organizações internacionais defendam um glossário de termos de IA universalmente aceites que incorpore mais termos que destaquem melhor a natureza mecânica dos modelos de IA.

A UE fez progressos nesta área ao desenvolver um glossário de termos de IA centrados no ser humano . Isto pode servir de inspiração para o Governo do Reino Unido, que carece de um equivalente.

Em nosso trabalho no Alan Turing Institute, o instituto nacional de ciência de dados e IA do Reino Unido, estamos pensando ativamente sobre esse problema. Num artigo recente , mapeámos mais de 100 conceitos atualmente apresentados nas discussões sobre IA, incluindo interpretabilidade, explicabilidade e supervisão. Com base na nossa análise, por sua vez introduzimos três dos nossos novos termos para captar a linguagem que pensamos que os governos deveriam utilizar.

Outros novos termos que coloquem em primeiro plano a natureza artificial da IA ​​e incluam todo o conjunto de critérios para avaliar os sistemas de IA proporcionariam aos decisores políticos uma linguagem comum para falar sobre todos os tipos de novos sistemas de IA e as implicações que eles acarretam para o governo e a sociedade .

Adotar e promover novos termos pode parecer uma ilusão, mas já aconteceu antes. Basta considerar a palavra “sustentabilidade”, cuja origem remonta há menos de 45 anos e que desde então se tornou uma pedra angular do discurso empresarial e do debate político.

Há meio século, quando a IA ainda era em grande parte domínio da ficção científica, as consequências da linguagem eram menores. Agora as palavras realmente importam e temos a chance de acertá-las. A história e a trajetória da linguagem da IA ​​alinham-se com o privilégio institucional e conferem poder de tomada de decisão. Os termos definem a agenda e orientam o progresso: devemos aspirar a uma linguagem holística e precisa que possa ajudar a informar-nos a todos.

Terminou de ler? Certifique-se de compartilhar suas próprias idéias sobre a responsabilidade dos governos em enfatizar a natureza mecânica dos modelos de IA, deixando um comentário abaixo ⬇️

(Crédito da imagem: Unsplash)