Este artículo está escrito por Vincent Straub, investigador del Programa de Políticas Públicas del Instituto Alan Turing y del Instituto Big Data de la Universidad de Oxford. Anteriormente trabajó en el Oxford Internet Institute y en la fundación de innovación Nesta.

  • El problema: con la creciente sofisticación y adopción de la IA, los líderes gubernamentales deben adoptar un vocabulario más preciso para detener la difusión de narrativas falsas.
  • Por qué es importante: La historia y el desarrollo de los términos utilizados para hablar de IA se alinean con el privilegio institucional y confieren autoridad; Los términos establecen la agenda y guían la política: debemos aspirar a un lenguaje preciso e informativo que pueda ayudarnos a informarnos a todos.
  • La solución: un enfoque a seguir es defender un glosario de términos de IA universalmente aceptados que incorpore más términos que resalten mejor la naturaleza mecánica de los modelos de IA; En nuestro trabajo en el Instituto Alan Turing, el instituto nacional de IA del Reino Unido, hemos estado trabajando activamente en este problema.

A medida que avanza el tercer año completo de la estrategia nacional de IA del gobierno del Reino Unido, los avances recientes en las capacidades de los sistemas de IA continúan acaparando los titulares. El último ejemplo siguen siendo los modelos de lenguaje grande (LLM) como ChatGPT , que obtienen su poder de grandes cantidades de datos lingüísticos.

Aunque los LLM pueden adaptarse a una impresionante variedad de tareas, el lenguaje utilizado en el gobierno, así como en las empresas y los medios de comunicación, para discutirlas a menudo se saca de contexto, es confuso y, en el peor de los casos, similar a los efectos de la desinformación.

💬 Informe al autor qué idioma utiliza actualmente cuando se comunica sobre la IA y qué alternativas sugiere dejando un comentario a continuación.

El último de muchos ejemplos es la palabra 'alucinar', que el Diccionario Cambridge nombró palabra del año 2023 . En términos simples, este término se refiere a la tendencia de programas como ChatGPT a cometer errores y proporcionar información inventada o falsa.

Sin embargo, decir que un chatbot está alucinando hace que parezca que tiene mente propia y que a veces imagina cosas. Como ha señalado Giada Pistilli, principal especialista en ética de Hugging Face, que alberga muchos modelos de IA de última generación, el lenguaje antropomorfizante de las alucinaciones oscurece lo que realmente están haciendo los modelos de IA. Un término más preciso podría ser simplemente "mal funcionamiento".

Palabras filosóficamente tensas

Se podría perdonar a muchos formuladores de políticas por adoptar términos promulgados por investigadores sin saber que muchos de ellos son en sí mismos cuestionados. La equidad puede significar diferentes cosas dependiendo de a qué investigadores se pregunte, por ejemplo, pero se invoca regularmente en los debates sobre la IA.

Hace medio siglo, cuando la IA todavía era en gran medida ámbito de la ciencia ficción, las consecuencias del lenguaje eran menores. Ahora las palabras realmente importan.

Sin embargo, como muchos políticos y el público en general todavía luchan por saber qué hacer con la IA y cómo separar la realidad de la ficción , el lenguaje que utilizamos claramente importa.

Como ha escrito el estimado científico informático Murray Shanahan, debemos evitar "el uso engañoso de palabras filosóficamente cargadas asociadas con la cognición humana para describir las capacidades de los LLM", palabras como 'creencia', 'comprensión' y, tal vez las menos informativas de todo - 'conciencia'.

Otros ya han enfatizado este punto y argumentado que debemos dejar de hablar de LLM de la misma manera que hablamos de humanos . Con todo el entusiasmo y el miedo que rodean a la IA, especialmente a los LLM, debemos ser medidos.

Necesitamos saber qué puede y qué no puede hacer esta tecnología, qué riesgos plantea, para que podamos tener una comprensión más profunda y una explicación más completa de su impacto social. Un vocabulario que enfatice la naturaleza mecánica de los modelos de IA es el primer paso vital hacia estos dos objetivos.

A dónde ir desde aquí?

Por supuesto, en los últimos años, una serie de términos útiles para discutir los LLM han ido entrando gradualmente en el léxico. Estos incluyen el sesgo algorítmico y la interpretabilidad, entre otros. Sin embargo, estos términos suelen ser relegados a un segundo plano, agrupados en "preocupaciones éticas" y discutidos a posteriori. Entonces, ¿dónde vamos desde aquí?

Un enfoque a seguir es que el gobierno y las organizaciones internacionales defiendan un glosario de términos de IA universalmente aceptados que incorpore más términos que resalten mejor la naturaleza mecánica de los modelos de IA.

La UE ha avanzado en este ámbito mediante el desarrollo de un glosario de términos de IA centrados en el ser humano . Esto puede servir de inspiración para el Gobierno del Reino Unido, que carece de un equivalente.

En nuestro trabajo en el Instituto Alan Turing, el instituto nacional de ciencia de datos e inteligencia artificial del Reino Unido, estamos pensando activamente en este problema. En un artículo reciente , mapeamos más de 100 conceptos que actualmente aparecen en los debates sobre la IA, incluida la interpretabilidad, la explicabilidad y la supervisión. Con base en nuestra revisión, a su vez introdujimos tres de nuestros propios términos nuevos para capturar el lenguaje que creemos que los gobiernos deberían usar.

Otros términos nuevos que ponen de relieve la naturaleza artificial de la IA y encapsulan todo el conjunto de criterios para evaluar los sistemas de IA proporcionarían a los formuladores de políticas un lenguaje común para hablar sobre todos los tipos de nuevos sistemas de IA y las implicaciones que conllevan para el gobierno y la sociedad .

Adoptar y promover nuevos términos puede parecer una ilusión, pero ya ha sucedido antes. Tomemos como ejemplo la palabra "sostenibilidad", cuyo origen se remonta a hace menos de 45 años y que desde entonces se ha convertido en una piedra angular del discurso empresarial y del debate político.

Hace medio siglo, cuando la IA todavía era en gran medida ámbito de la ciencia ficción, las consecuencias del lenguaje eran menores. Ahora las palabras realmente importan y tenemos la oportunidad de expresarlas correctamente. La historia y la trayectoria del lenguaje de la IA se alinean con el privilegio institucional y confieren poder de toma de decisiones. Los términos establecen la agenda y orientan el progreso: debemos aspirar a un lenguaje holístico y preciso que pueda ayudarnos a informarnos a todos.

¿Terminaste de leer? Asegúrate de compartir tus propios pensamientos sobre la responsabilidad de los gobiernos al enfatizar la naturaleza mecánica de los modelos de IA dejando un comentario a continuación ⬇️

(Crédito de la imagen: Unsplash)