Este artículo está escrito por la Dra. Shainaz Firfiray, profesora titular de la Universidad de Aberdeen.

  • El problema: los problemas sobre la privacidad de los datos y el sesgo algorítmico en la IA están ocupando un lugar central junto con un enfoque sobre cómo garantizar la responsabilidad a medida que el trabajo se automatiza cada vez más.
  • Por qué es importante: es fundamental que encontremos un conjunto de estrategias que establezcan la confianza entre los servidores públicos y los ciudadanos de que la IA utilizada en los servicios públicos está alineada con los principios éticos. Además, es importante que reconozcamos los riesgos que implica el uso de la IA si queremos aprovechar sus beneficios potenciales.
  • La solución: un conjunto de estrategias que ofrecerán orientación sobre cómo generar confianza pública, respetar los derechos humanos y el estado de derecho y garantizar la transparencia y la divulgación responsable de los sistemas de IA.

Actualmente estamos presenciando un aumento en la adopción de tecnologías de IA dentro de los servicios públicos . A pesar de su popularidad, existe relativamente poca orientación sobre cuestiones de privacidad, seguridad, adquisición de datos e implicaciones éticas de la IA.

Las infracciones recientes de los sistemas de TI públicos y privados han recibido una amplia cobertura. Los problemas relacionados con la seguridad de los datos pueden verse exacerbados por el uso de aplicaciones de IA, que crean sistemas altamente conectados e interdependientes.

Hay varios juicios de compensación que deben hacerse cuando se utiliza la IA en los servicios públicos.

Los servicios ofrecidos por AI también están frecuentemente en conflicto con los ideales sociales de equidad, ya que los algoritmos que se destacan en la toma de decisiones más precisas pueden discriminar sistemáticamente a ciertas minorías. Hay varios juicios de compensación que deben hacerse cuando se utiliza la IA en los servicios públicos. Por ejemplo, juzgar cuándo es aceptable usar un algoritmo que funciona mal para una minoría específica si en promedio es preciso para la población. O determinar qué tipos de decisiones y habilidades siempre deben dejarse en manos de los humanos y dónde rechazar las aplicaciones de IA. O decidir cómo se pueden usar los datos para mejorar la calidad y la eficiencia de los servicios públicos respetando la privacidad y la dignidad de los ciudadanos. Sin embargo, el principal dilema al que se enfrentan los servidores públicos es cómo deben hacerse estos juicios de compensación.

Lente utilitaria y un análisis de costo-beneficio

Tradicionalmente, se ha aplicado un análisis de costo-beneficio basado en una lente utilitaria para hacer juicios de compensación, ya que permite a las personas tomar decisiones sobre la base de si los beneficios de adoptar una tecnología específica superan los costos. Estos procedimientos se utilizan ampliamente en la industria y la gobernanza porque se consideran objetivos y brindan pautas claras para tomar una decisión. Si bien un análisis de costo-beneficio puede atraer a algunos servidores públicos, por sí mismo no es ideal para explorar tales compensaciones. Puede generar algunos datos útiles que pueden contribuir al proceso de toma de decisiones, pero no reconoce que los valores son difíciles de cuantificar y que los números por sí solos pueden enmascarar algunos juicios de valor controvertidos.

Cuando diferentes grupos deliberan y expresan lo que les importa, es posible reconciliar perspectivas en conflicto y llegar a un compromiso.

La resolución de tales dilemas puede tomar varias formas. A continuación, propongo estrategias que darán voz a las partes interesadas relevantes y nos ayudarán a tomar decisiones que estén alineadas con los derechos y privilegios de las personas afectadas por las tecnologías de IA.

La participación pública es fundamental para abordar las cuestiones de compensación de una manera que pueda justificarse para todos los miembros de la sociedad, especialmente cuando surgen compensaciones debido a valores y perspectivas en conflicto de diferentes grupos. Sin embargo, cuando diferentes grupos deliberan y expresan lo que les importa, es posible reconciliar perspectivas en conflicto y llegar a un compromiso. Hay una variedad de métodos que se pueden implementar para fomentar la participación pública , incluidas encuestas públicas a gran escala, grupos focales con un elemento educativo para recopilar opiniones informadas de los ciudadanos y un diálogo público iterativo donde los expertos en tecnología y los ciudadanos colaboran para proponer recomendaciones para los legisladores.

Reforzando la ciberseguridad

Los problemas de seguridad cibernética pueden desarrollarse de manera compleja, ya que los sistemas de inteligencia artificial pueden verse comprometidos de maneras que son difíciles de entender y podrían provocar fallas importantes en la seguridad. Además, con un aumento en el uso de chatbots en los servicios públicos , los ciudadanos podrían convertirse en objetivos potenciales para los bots diseñados por piratas informáticos y estafadores que podrían acceder a información confidencial. Por lo tanto, las preocupaciones de seguridad y privacidad de los ciudadanos deben estar al frente de cualquier iniciativa de IA.

Fortalecimiento del ecosistema de IA

Existen barreras significativas para la adopción de tecnologías de IA en los servicios públicos, ya que son reacios al riesgo y, a menudo, escépticos de experimentar con innovaciones emergentes. Los servicios públicos se sienten más cómodos siguiendo en lugar de liderar el camino en la adopción de tecnologías de IA. Sin embargo, este enfoque de esperar y observar no es útil, dado el ritmo dinámico del cambio dentro del campo de la IA. El uso efectivo de la IA requerirá que los servicios públicos reformulen sus actitudes hacia el riesgo. Deben reconocer que las iniciativas de IA conllevan un cierto conjunto de riesgos, pero estos riesgos se pueden gestionar de manera efectiva con el tiempo. Sin embargo, la renuencia a comprometerse con las nuevas tecnologías de IA puede limitar severamente las oportunidades futuras que nos permitan abordar los principales problemas sociales.

Ganar la confianza del público

Los sistemas de IA utilizados en los servicios públicos deben monitorearse periódicamente. Hay informes frecuentes en los medios sobre el mal uso de la IA o los resultados negativos accidentales atribuidos a la IA. Sin embargo, desarrollar reglas y procesos para monitorear algoritmos es una tarea desafiante. Las empresas que desarrollan aplicaciones de IA a menudo no están dispuestas a compartir detalles sobre cómo funcionan sus sistemas y, en ausencia de esta información, es un desafío controlar estos sistemas o garantizar que funcionen de manera ética . Muchos investigadores han argumentado que las leyes existentes tienen una capacidad limitada para proteger a los ciudadanos contra algoritmos sesgados. Con un aumento en el uso de sistemas de IA, es crucial que los servicios públicos muestren su voluntad de abrir sus sistemas para inspección para garantizar que los ciudadanos entiendan cómo funcionan estos sistemas y puedan confiar en sus decisiones y resultados.

En resumen, la IA tiene consideraciones éticas que son diferentes a las de otras tecnologías. Las preocupaciones sobre la privacidad y la divulgación de información confidencial al público, el uso irresponsable de los datos compartidos, la incompatibilidad de los juicios algorítmicos versus humanos y los sesgos en la toma de decisiones están bien documentados. Para promover una vida mejor a través de la IA, debemos asegurarnos de que todas las iniciativas de la IA puedan fomentar una sociedad que trate a las personas con dignidad y compasión, respete el estado de derecho y actúe con transparencia.

👋 ¡Puedes escribir un artículo como este! Comparta sus pensamientos con una comunidad de servidores públicos. Aprende más

(Crédito de la imagen: Pexels)