Los gobiernos de todas partes están anunciando nuevas estrategias para la inteligencia artificial. Desde Francia, que ha prometido $ 1.85 mil millones en fondos para la investigación en el campo, a Canadá, que planea cultivar un lote de especialistas en IA en sus universidades, está claro que los líderes políticos ven a la IA como un área en la que necesitan mejorar rápidamente.

Además de ser una oportunidad económica, la IA también se puede implementar para reformar los servicios públicos. Pero se necesita cierta precaución: por cada beneficio, parece haber un peligro correspondiente. Los llamados "sistemas automatizados de toma de decisiones" ya han demostrado en varios casos que tienen efectos malignos en la vida de los ciudadanos. La forma en que el gobierno debería regular la adopción de la IA, si es que lo hace, sigue en disputa.

• Para más información como esta, vea nuestro suministro digital de noticias del gobierno .

Para los servidores públicos a punto de ingresar a este mundo, todo puede parecer un poco abrumador. Esto es lo que necesita saber sobre el debate:

¿Cuál es el problema con la IA?

Los servidores públicos han utilizado herramientas computacionales - "sistemas de decisión automatizados" - para asesorar y guiar sus decisiones durante años. Al procesar grandes cantidades de datos para evaluar la probabilidad de que ocurran ciertos eventos o para medir el rendimiento, los algoritmos pueden actuar como guías para los servidores públicos.

La IA se basa en estos. Permite que los sistemas automatizados aprendan mientras trabajan, adaptándose con el tiempo para mejorar su rendimiento. Muchos gobiernos ya los están utilizando y están comenzando a experimentar con el aprendizaje automático. Pueden ser altamente efectivos, pero vienen con peligros.

"Cuando la automatización y la inteligencia artificial se utilizan en el gobierno, los derechos de los afectados deben respetarse como si un humano estuviera tomando la decisión"

Por ejemplo, en Arkansas, EE. UU., El estado utilizó una herramienta automatizada de toma de decisiones , impulsada por un algoritmo, para calcular la cantidad de horas que las personas con discapacidades graves de atención médica de Medicaid podrían recibir. Pero una investigación legal descubrió que había un error en el código, lo que significa que a muchos se les redujo sus horas por error.

Los problemas con dicho sistema se aplican a la IA. Cuando un algoritmo complejo utiliza una masa de datos enrevesada para tomar una decisión, o incluso una recomendación, puede ser extremadamente difícil abrir el capó y explorar los datos para encontrar la falla.

¿Qué deben hacer los gobiernos?

Algunos sostienen que los nuevos derechos para los ciudadanos, adaptados a la era digital, deben ser consagrados. "Como ciudadano, como ser humano ... ¿cuáles son sus derechos en el contexto de la toma de decisiones automatizada y basada en datos?", Preguntó Meredith Whittaker del AI Now Institute de la Universidad de Nueva York en un panel en una reciente cumbre de la Asociación de Gobierno Abierto.

"Cuando la automatización y la inteligencia artificial se usan en el gobierno, los derechos de los afectados deben respetarse como si un humano estuviera tomando la decisión", dijo. Whittaker argumentó que, con demasiada frecuencia, estos se pierden a medida que el gobierno lucha por la eficiencia y el ahorro de costos.

Melanie Robert , uno de los funcionarios públicos clave que dirige la estrategia de IA de Canadá y que habló en el mismo panel, dijo que ahora, mientras los gobiernos planean sus estrategias de IA, es el momento perfecto para consagrar tales derechos en la estrategia del gobierno. Pero, reconoció, "es muy difícil en este momento para los servidores públicos que son reguladores y legisladores, porque no quieres avanzar demasiado rápido para sofocar la innovación".

El enfoque de Canadá es reunir un equipo multidisciplinario de expertos (abogados, especialistas en tecnología, filósofos) para investigar qué efectos puede tener la IA en la vida y los derechos de las personas cuando se usan dentro del gobierno. Utilizará la consulta para informar un marco ético. Robert temía que presionar demasiado con la regulación sin un proceso de investigación exhaustivo sofocaría cualquier beneficio.

No todos están de acuerdo. "He estado luchando por estos motivos durante más de veinte años", dijo Gus Hosein , director ejecutivo de Privacy International, una organización benéfica con sede en Londres, en el panel. Para Hosein, debe haber pruebas mucho más rigurosas de las formas en que el gobierno recopila datos, incluso antes de abordar la cuestión de cómo abordar la IA. Hay mucho en juego y el peligro para los derechos es demasiado importante: para él, la innovación y el desarrollo económico deben ser una preocupación secundaria.

¿Qué está funcionando ya?

En Francia, Etalab , la Oficina del Primer Ministro a cargo de los datos abiertos y el gobierno abierto, está investigando las aplicaciones de la IA a los servicios públicos. Está trabajando para consagrar la transparencia por diseño en el enfoque del gobierno, asegurando que, para cada algoritmo o sistema que se use, el público pueda acceder a su funcionamiento interno. Para el director de Etalab, Laure Lucchesi , este enfoque es ampliamente aceptado dentro del gobierno, "pero es realmente un desafío hacerlo efectivo para los ciudadanos".

Las razones de esto se reducen a la complejidad de los sistemas y la disponibilidad de experiencia técnica tanto en el gobierno como en la sociedad civil. A veces, incluso los ingenieros que construyen los sistemas automatizados utilizados por el gobierno tienen dificultades para comprender cómo funcionan.

Para abordar específicamente el problema del acceso público y la responsabilidad del gobierno, AI Now de Nueva York ha desarrollado procesos para examinar adecuadamente los sistemas automatizados cuando se utilizan para ayudar a la toma de decisiones.

El instituto argumenta que los departamentos gubernamentales deben completar " evaluaciones de impacto de IA " antes de implementar cualquier herramienta de análisis de IA o big data. Los expertos deberían tener acceso a algoritmos, incluso sistemas patentados desarrollados por compañías con fines de lucro, y deberían hacerse comprensibles para las personas cuyas vidas afectan. - Anoush Darabi

(Crédito de la imagen: Flickr / MU)