Este artículo está escrito por André Corrêa d'Almeida, profesor adjunto adjunto de Asuntos Internacionales y Públicos de la Universidad de Columbia, y Bernardo Rivera Muñozcano, especialista en asuntos urbanos, gobernanza de datos y tecnología.

A medida que los gobiernos adoptan y escalan las soluciones de Inteligencia Artificial (IA) , las herramientas de IA se vuelven más complejas y se ocupan cada vez más de la información confidencial y privada de los ciudadanos.

Tienen una influencia creciente, a veces sin supervisión, en los procesos de toma de decisiones públicas.

Por supuesto, los algoritmos han hecho que la prestación de servicios públicos sea más eficiente. Sin embargo, la investigación teórica y empírica muestra que estas herramientas pueden contener e incluso magnificar los prejuicios humanos, lo que permite la violación de los derechos y libertades civiles básicos al producir consecuencias no deseadas que pueden afectar negativamente a cientos o miles de vidas.

La conversación fundamental en estos días no es si se debe usar la inteligencia artificial y los métodos basados en datos para ayudar a la formulación de políticas, sino cómo construirlos y usarlos de manera ética. La equidad, el sesgo, la responsabilidad y la transparencia son conceptos cada vez más frecuentes en las discusiones entre expertos técnicos, académicos, profesionales de la industria y legisladores en IA.

Hay al menos dos aspectos críticos que los emprendedores públicos deben tener en cuenta al aventurarse en el diseño e implementación de herramientas y sistemas de IA para el bien común.

Primero, una identificación y priorización liderada por la comunidad de las preocupaciones que los miembros de sus comunidades tienen con respecto al uso de estas herramientas. En segundo lugar, la capacidad de trabajar con expertos técnicos para codificar estos valores y prioridades específicos del contexto en los algoritmos y sus regulaciones. Este artículo se centra en el primer tema crítico: la participación de la comunidad en la gestión de la IA.

Codificación de las voces de las personas en algoritmos localizados

Las sociedades tienen diferentes perspectivas en torno a cuestiones de privacidad y equidad en función de sus necesidades, actitudes, cultura e instituciones específicas. Las disparidades específicas entre estas prioridades son críticas, ya que siempre hay compensaciones al codificar la ética en modelos informáticos. Como argumentan Michael Kearns y Aaron Roth en su libro “ The Ethical Algorithm ”, existen compensaciones inevitables al 'ajustar' algoritmos: precisión versus equidad en la clasificación, privacidad versus relevancia analítica de los datos, entre otros.

Los estudios futuros y las metodologías de prospectiva pueden abrir un camino hacia la participación de la comunidad en un tema público complejo como este.

En lugar de tratar de crear un marco único para la gestión algorítmica ética , como parece ser el discurso principal , los formuladores de políticas deberían centrarse en los resultados locales deseados (por ejemplo, la privacidad del inquilino por encima de la eficiencia en el acceso a su edificio) y aplicar ingeniería inversa a sus soluciones y normativas en consecuencia. Al hacerlo, el esquema de priorización variará en función de estas preferencias sociales, las circunstancias históricas y las desigualdades estructurales prevalecientes en los contextos locales. Los promotores del localismo de la IA, un campo de investigación en crecimiento , destacan cómo al calibrar los algoritmos para las condiciones locales, los formuladores de políticas tienen más posibilidades de establecer circuitos de retroalimentación que darán como resultado una mayor eficacia y responsabilidad.

Este argumento sigue la lógica de la inmediatez y proximidad de los gobiernos locales a sus comunidades, en comparación con otros niveles de gobierno, como los marcos regulatorios regionales e internacionales. Un ejemplo de estas disparidades se puede dibujar en torno a los prejuicios raciales en los algoritmos. Incluso cuando este tema es primordial en una comunidad, puede ser difícil utilizar las pautas éticas extraídas de esta perspectiva e implementarlas en otros lugares. La diferencia podría aparecer fácilmente en una comunidad que no incluye una categorización legal clara de la raza, o donde la discriminación y las narrativas sociales se dibujan en torno a diferentes identidades raciales que se derivan de otras construcciones sociales .

La implementación de cualquier estrategia de participación de la comunidad es lo suficientemente desafiante, y puede parecer imposible involucrar con éxito a un público no especializado en una conversación altamente técnica. Sin embargo, los estudios futuros y las metodologías de prospectiva pueden abrir un camino hacia la participación de la comunidad en un tema público complejo como este. De hecho, algunas ciudades de todo el mundo han desarrollado ejercicios experimentales sobre la gobernanza de la IA con estas metodologías de estudios futuros. Sus usos podrían explorarse más allá del ámbito experimental y en mecanismos de gobernanza simplificados.

El Análisis Causal Layered (CLA) , por ejemplo, proporciona un marco apropiado en escenarios donde la aversión al riesgo y la resistencia al cambio están presentes, como en el sector público, y lo más importante para situaciones donde la inclusión de diferentes visiones del mundo, expresiones y niveles de participación. son requeridos.

Al proporcionar un espacio donde las visiones del mundo en conflicto se cruzan, esta metodología también permite la creación de conversaciones donde una amplia audiencia puede participar en el diálogo sobre nuevas tecnologías, mejorando la confianza pública en nuevos enfoques para la formulación de políticas. Al poder incorporar este valioso aporte participativo, las organizaciones pueden alinear los resultados de las políticas que pueden ser informados por capas alternativas de análisis (técnico, comunitario, legal, entre otros).

La gobernanza anticipatoria ofrece quizás uno de los métodos más interesantes para la participación de la comunidad en la gestión de la IA. Esta metodología permite a los tomadores de decisiones elegir y diseñar enfoques que incorporen capacidades prospectivas en sus procesos de toma de decisiones, incorporando desafíos sociales a largo plazo, pero manteniéndose lo suficientemente flexible para responder a circunstancias imprevistas.

Según el Instituto para el Futuro , la gobernanza anticipatoria podría significar incorporar procesos de previsión, visión y participación al establecer metas públicas, hacer que las instituciones gubernamentales se comprometan con esas metas y medir el progreso en función de ellas. La metodología permite a los gobiernos establecer circuitos de retroalimentación inmediata entre las herramientas tecnológicas y sus impactos sociales.

Technology Roadmapping es una técnica que se puede utilizar para explorar desarrollos tecnológicos y crear marcos para integrarlos con una planificación organizacional más amplia y, lo que es más importante, con valores y normas sociales predefinidos. Esta metodología también es útil para evaluar el impacto de las nuevas tecnologías y los desarrollos del mercado, y para capturar su panorama ambiental y social, las amenazas y las oportunidades para un grupo particular de partes interesadas en un área de tecnología o aplicación.

En el contexto de gobiernos y sociedades que enfrentan choques tecnológicos externos, esta técnica puede ayudar a los legisladores a prepararse para soluciones que tengan en cuenta la cultura organizacional, las nuevas tecnologías (imprevistas) y cómo las capacidades internas de la organización pueden lidiar con estos factores.

Dada la naturaleza abierta de estas metodologías, su flexibilidad a las conmociones externas y la (posiblemente) etapa inicial de la adopción actual de la IA en los gobiernos, su implementación es apropiada para contextos donde el ecosistema local aún tiene que definir la IA a largo plazo. objetivos.

El CLA y la gobernanza anticipada se pueden utilizar simultáneamente para crear una hoja de ruta integral que permita a los gobiernos adaptar los procesos de toma de decisiones sobre la marcha. La inmediatez de la participación de la comunidad y los circuitos de retroalimentación a nivel local tiene el potencial de mejorar los beneficios de estas herramientas en la provisión de servicios gubernamentales, al tiempo que limita los riesgos y daños a las comunidades donde se implementan. Estas hojas de ruta de la sociedad local podrían incluso influir en decisiones futuras tanto en el ámbito académico como en la investigación y el desarrollo industrial.

Al entrar en la tercera década del siglo XXI, los emprendedores e innovadores públicos deben continuar construyendo herramientas, técnicas y metodologías para el diseño de algoritmos éticos en la toma de decisiones públicas. Como argumentan Kearns y Roth, esto es fundamental para ampliar los principios en los que se basa nuestra tecnología. Si vamos a exigir que incorporen muchos de los valores que nos preocupan como individuos y como sociedades, debemos hacerlo de la mano de las comunidades a las que estas tecnologías servirán e impactarán. - André Corrêa d'Almeida y Bernardo Rivera Muñozcano

Queremos escuchar su opinión sobre este artículo. Envíenos un artículo o envíenos sus comentarios a hello@apolitical.co

(Crédito de la foto: UnSplash)