Este artículo de opinión fue escrito por Danny Buerkli, Director del Programa en el Center for Public Impact , una fundación global sin fines de lucro comprometida a ayudar a desbloquear el potencial positivo de los gobiernos para mejorar los resultados para los ciudadanos. Ha liderado su investigación y compromisos relacionados con el uso de la Inteligencia Artificial en el gobierno. También se puede encontrar en nuestro servicio de noticias digital del gobierno .

Nos arriesgamos a perder el potencial que la "Inteligencia Artificial" tiene para mejorar los servicios públicos si la gente no confía en lo que los gobiernos están haciendo. Cuando se trata de IA, escuchamos y tememos tanto el bombo como el horror.

La emoción que rodea a la IA está oficialmente fuera de control. Las publicaciones están llenas de titulares con ojos desorbitados sobre cómo la IA resolverá mágicamente todo tipo de problemas que los gobiernos enfrentan desde incendios forestales hasta el diagnóstico de cáncer .

Esta combinación irresponsable de exageración y alarmismo alcanzó alturas absurdas con "Sophia the AI robot" , un robot animatrónico que estaría en casa en un paseo en un parque de atracciones, que se presenta como una entidad inteligente y recibe la ciudadanía saudita. Pronto las publicaciones comenzaron a preocuparse acerca de si "Sophia" podría querer "destruir a los humanos" .

El potencial de la inteligencia artificial para mejorar la forma en que prestamos servicios públicos es enorme, pero no de la forma en que las historias sin aliento sobre esta tecnología que se apodera del mundo nos haría creer.

Tanto el bombo como el horror se interponen en el camino de una evaluación clara de lo que la IA puede y no puede hacer.

Con el fin de cortar la narrativa de alarmismo de "máquinas que se apoderan del mundo", debemos tomar medidas para generar legitimidad para el uso de la inteligencia artificial en el gobierno a medida que avanzamos. Para que la IA en el gobierno sea exitosa, debe diseñarse e implementarse de manera legítima, de manera que exija confianza y comprensión.

"La gente solo aceptará el uso de IA en los servicios públicos y la formulación de políticas cuando confíe en ella"

Realicé un debate en una mesa redonda sobre el potencial de la IA en el gobierno en la reciente Cumbre Digital de Tallin, una reunión de algunos de los gobiernos más avanzados digitalmente del mundo. Los ministros, altos funcionarios públicos y expertos técnicos coincidieron en que es fundamental utilizar la inteligencia artificial de una manera que genere confianza y legitimidad desde el principio.

Encuestas recientes han demostrado que los ciudadanos de todo el mundo son generalmente positivos sobre el uso del gobierno de la IA. Sin embargo, el nivel de soporte varía mucho según el caso de uso. A medida que el uso de AI se expande en dominios más sensibles, los ciudadanos comienzan a preocuparse. Por ejemplo, el 51% no está de acuerdo con el uso de IA para determinar la inocencia o la culpa en un juicio penal.

Las personas solo aceptarán el uso de IA en los servicios públicos y la formulación de políticas cuando confíen en ella. Si no lo hacen, veremos rápidamente una reacción violenta y perderemos la promesa y el potencial de esta tecnología.

Es posible utilizar la inteligencia artificial en el gobierno de manera reflexiva y de una manera que se considere legítima. Sin embargo, los gobiernos solo están aprendiendo cómo hacerlo.

En 2012, la policía de Durham, la fuerza policial responsable del área alrededor de Durham en el noreste de Inglaterra, comenzó a desarrollar una herramienta basada en la inteligencia artificial que apoya a los oficiales de custodia en la evaluación de la probabilidad de que un individuo vuelva a ofender.

Si bien quedan muchas preguntas abiertas sobre cómo exactamente la herramienta realiza su introducción, ha sido comparativamente reflexiva y deliberada. La fuerza policial ha sido relativamente abierta sobre la herramienta y ha hecho públicos los detalles sobre el modelo. La introducción de la herramienta de evaluación de riesgos también se estableció como un experimento con socios de investigación externos de la Universidad de Cambridge que proporcionan una revisión externa de la efectividad de la herramienta.

La única forma de hacer realidad la promesa de IA en el gobierno es hacer esto con los ciudadanos más que con ellos, desarrollar sistemas con quienes trabajan en los servicios públicos y el público en lugar de hacerlo para ellos.

Esto requiere que el gobierno opere de maneras que no necesariamente está acostumbrado. Requiere, por ejemplo, empatizar con las necesidades de los ciudadanos y funcionarios públicos y construir sistemas de IA que estén decididamente abiertos al escrutinio externo. Hemos establecido un plan práctico para ayudar a los gobiernos a lograr esto.

Ahora es el momento adecuado para mejorar la prestación de servicios públicos y la formulación de políticas con la ayuda de AI, pero debemos hacerlo sin la exageración o el horror.

A menos que hagamos esto con cuidado, los gobiernos no obtendrán el amplio apoyo público que necesitan para que estas tecnologías tengan éxito en mejorar la vida de las personas y brindar mejores servicios públicos. Aquí hay mucho en juego y ni los gobiernos ni los ciudadanos pueden darse el lujo de perder esta oportunidad. - Danny Buerkli

Vea más del trabajo de CPI sobre IA en el gobierno aquí .

(Crédito de la imagen: Flickr / Foto de las Naciones Unidas)