Este artículo está escrito por Octavia Reeve, directora asociada del Instituto Ada Lovelace, Reino Unido.

Como parte del Campus de IA gubernamental recientemente lanzado, Apolitical está publicando una serie de artículos que exploran la adopción de IA en el gobierno. Estos artículos adoptan muchas formas, desde artículos de opinión escritos por expertos académicos hasta entrevistas con líderes del sector público que trabajan en la adopción de la IA. Vea más visitando el AI Campus .

Este artículo argumentará que al desarrollar la gobernanza , la regulación y la legislación de la IA, es vital no solo escuchar las perspectivas y experiencias de las personas en relación con la IA (junto con la experiencia de los responsables políticos y los desarrolladores e implementadores de tecnología), sino también involucrarlas en la toma de decisiones. de manera que sean legítimas, confiables y responsables.

La Ley de IA de la UE representa un hito en la alineación de las tecnologías de inteligencia artificial con las necesidades de las personas y la sociedad: es el primer intento integral de legislar la IA. A medida que se convierte en ley, vale la pena señalar que no tiene disposiciones definitivas para la participación pública directa en su implementación. El artículo 58a se compromete únicamente a establecer un foro consultivo de diversas partes interesadas comerciales y no comerciales para apoyar a la Comisión Europea en la implementación y aplicación de la Ley de IA, incluida la sociedad civil y los "interlocutores sociales" y el potencial de subdivisiones sobre temas específicos. grupos que podrían incluir miembros del público. No deberíamos dar por sentada la participación pública en la toma de decisiones políticas, ni asumir que los legisladores y formuladores de políticas saben cuándo, cómo y por qué hacerlo bien.

💬 Déjele saber al autor lo que piensa acerca de involucrar las perspectivas públicas en la gobernanza de la IA dejando un comentario a continuación.

"A medida que las tecnologías se vuelven comunes en el trabajo, los hogares y la educación, y la relación entre la IA, el gobierno y las personas que usan y se ven afectadas por estas tecnologías se vuelve cada vez más compleja, es cada vez más importante involucrar significativamente a las personas en la toma de decisiones sobre políticas de IA".

En el Reino Unido, la confianza pública en la toma de decisiones políticas está en su punto más bajo. En 2021, la Academia Británica describió las percepciones del público del Reino Unido como "activamente en desacuerdo con la sensación de que el sistema de gobierno central atiende sus necesidades y refleja su voz", y el rastreador de 2023 del CDEI muestra que los niveles de confianza en las prácticas de datos del gobierno siguen siendo bajos ( 41%) en comparación con otros actores. La confianza pública será vital para generar confianza y legitimidad en la toma de decisiones sobre la IA y lograr beneficios sociales. Cuando el Reino Unido avance hacia su propia legislación sobre IA, será imperativo que los responsables políticos del gobierno del Reino Unido y de otras jurisdicciones tengan una comprensión sólida no sólo de las actitudes públicas relevantes, sino también de cómo involucrar a las personas en las decisiones.

La investigación actual del Instituto Ada Lovelace muestra algunas opiniones públicas consistentes en relación con la IA: existe un fuerte apoyo a la protección de los derechos fundamentales (por ejemplo, la privacidad) y la creencia de que se necesita regulación. La gente tiene actitudes positivas sobre algunos usos de la IA (por ejemplo, en el desarrollo de la salud y la ciencia), pero existen preocupaciones sobre la IA para la toma de decisiones que afectan la vida de las personas (por ejemplo, la elegibilidad para recibir beneficios sociales).

A medida que las tecnologías se vuelven comunes en el trabajo, los hogares y la educación, y la relación entre la IA, el gobierno y las personas que usan y se ven afectadas por estas tecnologías se vuelve cada vez más compleja, es cada vez más importante involucrar significativamente a las personas en la toma de decisiones sobre políticas de IA.

Es importante destacar que en la mente del público no existe una sola IA: tienen puntos de vista matizados y diferencian entre los beneficios, riesgos, daños y oportunidades de los usos existentes y potenciales de diferentes tecnologías. También es significativo que algunas preocupaciones estén asociadas con diferencias sociodemográficas. Esto significa que no puede haber un solo modelo para la gobernanza de la IA: debe ser específico para cada contexto y tener en cuenta los beneficios y daños específicos para diferentes personas y comunidades. Por ejemplo, el uso de tecnologías de reconocimiento facial en espacios públicos necesitaría una consideración diferente que las residencias de ancianos que emplean trabajadores autónomos para cuidar de personas mayores y vulnerables.

La llamada ' ola deliberativa ' ha tenido altibajos en los últimos 20 años y aún no ha alcanzado el objetivo de una participación significativa e institucionalizada y el empoderamiento de las personas en la toma de decisiones. Sin embargo, parece estar llegando a las costas de la formulación de políticas del Reino Unido. En 2023, el regulador del Reino Unido, ICO, tuvo en cuenta la evidencia del Consejo Juvenil Británico y el Consejo de Biometría Ciudadana del Instituto Ada Lovelace en el desarrollo de su guía de datos biométricos, y el Departamento de Cultura, Medios y Deportes (ahora DSIT) encargó un mini-público. diálogo para considerar el enfoque del Gobierno del Reino Unido para gestionar su Marco de Confianza y desplegar su esquema de identidad digital a través de proveedores de servicios y tecnología del sector privado.

Se trata de pasos positivos (la jefa de Gabinete, Sue Gray, insinuó recientemente que un gobierno laborista entrante podría utilizar asambleas ciudadanas ), pero aún queda camino por recorrer antes de que los gobiernos involucren regular y sistemáticamente a las personas como participantes activos en el desarrollo y ejecución de políticas. Esto significa no sólo contribuir a las consultas públicas, sino también comprender y utilizar métodos de investigación social validados que permitan que el conocimiento y la experiencia de las personas contribuyan desde el comienzo de los procesos de formulación de políticas.

En un mundo ideal, la toma de decisiones políticas considerará de manera proactiva cómo diferentes actitudes públicas y enfoques participativos pueden ayudar a los formuladores de políticas a recopilar evidencia sólida sobre lo que el público quiere de la IA, encontrar nuevas formas de generar evidencia y construir relaciones legítimas y productivas con las personas que usan y afectados por las tecnologías. Sin estos enfoques, es más probable que los representantes electos y los servidores públicos se aproximen a un sentido subjetivo y no representativo de la opinión pública, lo que deja lugar a malentendidos y falta de información sobre personas y comunidades específicas.

Sin duda, hay mucho en juego para los responsables de las políticas, en un entorno en el que los tomadores de decisiones deben rendir cuentas ante los parlamentos, los tribunales, los medios de comunicación y los representantes públicos. Para apoyar los métodos participativos como parte de la formulación de políticas, los tomadores de decisiones deben poder confiar en que la evidencia sea de alta calidad, sólida, confiable y atribuible a poblaciones y grupos específicos. También deben comprender que los métodos participativos tienen objetivos distintos e importantes en comparación con los estudios cuantitativos: no aspiran a ser estadísticamente representativos, pero, bien diseñados, pueden incluir perspectivas diversas y brindar la oportunidad de una deliberación democrática que permita la reflexión y el pensamiento colaborativo. sobre grandes desafíos sociales.

Los métodos cuantitativos de las ciencias sociales pueden parecer atractivos y proporcionan información importante sobre lo que piensan amplios grupos de personas sobre temas particulares. En un entorno tecnológico en rápida evolución, proporcionan evidencia general para provocar más pensamientos y preguntas. Pero es importante cómo se construyen estos estudios, en particular cómo toman muestras de grupos que tal vez ya estén minorizados, subrepresentados o vulnerables, y si es posible aislar puntos de vista de comunidades particulares y realizar análisis interseccionales (¿qué piensan los niños escoceses o las mujeres negras en un país?). varias ubicaciones en todo el Reino Unido piensan en la IA, por ejemplo).

Todo esto apunta a todo tipo de razones, incluidas barreras institucionales y culturales, que podrían incentivar a los formuladores de políticas a ignorar las voces públicas. Estas barreras plantean cuestiones de poder y privilegios: quién es escuchado y quién no, quién está incluido en los datos y quién no. Cambiar esto requiere alejarse de una dependencia culturalmente arraigada en métodos específicos para ofrecer representaciones precisas de la opinión pública. Jennifer Gabrys ha abogado por que los datos de ciencia ciudadana se consideren " datos suficientemente buenos ", desafiando la dependencia de formas estrechas de producir, valorar y analizar conjuntos de datos.

El mundo en el que vivimos es desordenado, fluido y difícil de precisar, y todos los métodos de investigación cargan creencias políticas y filosóficas. Sin embargo, si los formuladores de políticas mantienen un apego únicamente a los datos de encuestas de gran tamaño (y, por implicación, a una realidad holística y sustancial que pueda ser informada), perderán la oportunidad de obtener valor de estudios que involucran y empoderan a las personas, como las deliberaciones públicas o la investigación entre pares . que puede decirnos no sólo lo que la gente piensa, sino también por qué.

Sin duda, las tecnologías de inteligencia artificial pueden ofrecer beneficios de eficiencia y resolución de problemas computacionales y rápidamente se convertirán en parte de la vida de todos, por ejemplo, en escuelas, hospitales y servicios sociales. La evidencia de las opiniones públicas nos dice que es particularmente importante tener en cuenta el contexto , lo que significa que es esencial que los formuladores de políticas tengan una comprensión sólida de los enfoques participativos que llegan a las personas subrepresentadas en las comunidades y los utilicen con rigor e integridad.

Además de todas las oportunidades que la IA presenta para los beneficios sociales, existe una oportunidad específica para los responsables de la formulación de políticas: escuchar e interactuar con las opiniones del público, para que su toma de decisiones pueda navegar de manera efectiva en el complejo y en rápido movimiento del mundo de la IA con legitimidad, confiabilidad y rendición de cuentas.

Para obtener más información, consulte nuestra revisión de evidencia publicada recientemente: https://www.adalovelaceinstitute.org/evidence-review/what-do-the-public-think-about-ai/

Conclusiones clave:

  • Tener en cuenta las perspectivas y experiencias de las personas en relación con la IA, junto con la experiencia de los formuladores de políticas y los desarrolladores e implementadores de tecnología, es vital para garantizar que la IA esté alineada con los valores y necesidades de la sociedad de manera legítima, confiable y responsable.

  • Mientras el gobierno del Reino Unido y otras jurisdicciones consideran la gobernanza y la regulación de la IA, es imperativo que los formuladores de políticas tengan una comprensión sólida de las actitudes públicas relevantes y de cómo involucrar a las personas en las decisiones.

  • Hay cierta evidencia de que quienes toman decisiones políticas están abiertos a escuchar e incluir las voces del público.

  • La investigación sobre las actitudes públicas y la investigación participativa son enfoques diferentes para escuchar las voces públicas que recopilan ideas distintivas con diferentes usos. En torno a la IA, pueden aportar legitimidad en la toma de decisiones.

  • Debido a la naturaleza omnipresente de la IA, es particularmente importante tener en cuenta el contexto, lo que significa que es esencial comprender realmente los enfoques participativos y utilizarlos con rigor e integridad.

¿Terminaste de leer? Asegúrese de compartir sus propios pensamientos sobre el papel de la opinión pública en la formulación de políticas de IA dejando un comentario a continuación ⬇️

(Crédito de la imagen: Unsplash )