Este artículo está escrito por Firdaus Imambaccus, un investigador social involucrado en un trabajo impactante en torno a los datos y la ética de la IA en el Departamento de Empleo y Desarrollo Social de Canadá, y Hugo Morin, un economista conductual que trabaja en el mundo de la ética de la IA en el Departamento de Empleo y Desarrollo Social. Desarrollo Social de Canadá.

Las opiniones expresadas en este documento son exclusivas de los autores y no reflejan necesariamente las opiniones de Empleo y Desarrollo Social de Canadá, ni las del Gobierno de Canadá.

  • El problema: la innovación en el campo de la inteligencia artificial (IA) ha tomado el centro del escenario en los últimos años con su rápida evolución. Este crecimiento explosivo obligó a los involucrados a unirse y alinearse en torno a principios compartidos para regular su uso y mitigar sus riesgos. Sin embargo, traducir estos principios e ideales en la práctica ha presentado sus propios desafíos.
  • Por qué es importante : los principios y marcos rectores, aunque necesarios, difícilmente son efectivos si no se ponen en práctica. El desafío consiste en descubrir cómo poner en práctica de manera efectiva estos ideales de una manera que nos permita regular los sistemas de IA sin comprometer la innovación.
  • La solución: en este artículo, presentamos estrategias y componentes críticos para la puesta en práctica de la ética de la IA, ejemplificándola a través de un ecosistema de ciencia de datos responsable. Este ecosistema es un conjunto de herramientas que se pueden aprovechar como parte de los marcos éticos o para respaldarlos.

Comencemos con una declaración universal: todos quieren construir y usar sistemas de IA de manera responsable, ética e imparcial . Sin embargo, los ejemplos de los impactos negativos y las consecuencias de los sistemas de IA están bien documentados. La prevalencia de estos riesgos y la necesidad de mitigar su actualización impulsaron el aumento de los marcos éticos de IA, tanto en el sector público como en el privado. Sin embargo, estos marcos éticos son muy parecidos a los pasteles de manzana: a nadie le desagrada la idea de un pastel, pero muy pocos son buenos para hornearlo con harina y agua hasta que quede crujiente.

Esto entonces plantea la pregunta: ¿cómo podemos poner en práctica estos principios en el mundo real ?

Dos lados de la misma moneda

Al igual que con otras cuestiones éticas, no existe una panacea para hacer operativa la ética de la IA, ya que su aplicación varía según los contextos. Sin embargo, podríamos categorizar sus componentes cruciales en dos temas entrelazados:

1. Sensibilización y empoderamiento

¡Un clásico en la gestión de riesgos ! La mejor idea absoluta es completamente inútil si nadie es consciente de ella.

En este contexto, la sensibilización implica educación y desarrollo de capacidades. La gente primero debe saber cómo distinguir la IA de 'Terminator' o alguna oscura pantalla de computadora de aspecto extraterrestre. ¿Cuáles son las capacidades de la inteligencia artificial? ¿Cuáles son sus riesgos? ¿Cómo se aprovecha en el contexto dado?

El siguiente paso es definir qué prácticas críticas subrayan la IA responsable. ¿Cuáles son las regulaciones y políticas relevantes de la base del desarrollo y uso responsable de la IA? ¿Cuáles son las mejores prácticas para evitar amplificar y reproducir sesgos sociales? ¿Es la intervención tecnológica el mejor enfoque en el contexto dado? Como señaló Maslow , "[Es] tentador, si la única herramienta que tienes es un martillo, tratar todo como si fuera un clavo".

2. Implementación de una fuerte supervisión de la gobernanza de la IA

Para garantizar que las soluciones de IA se desarrollen e implementen de manera responsable, los procesos de gobernanza juegan un papel fundamental para garantizar que los proyectos y las personas involucradas sigan cumpliendo con las regulaciones, pautas y objetivos generales relevantes durante el transcurso del proyecto de una manera que no impide los flujos de trabajo, la progresión del proyecto y la innovación.

¡Envuélvelo todo!

Las herramientas y los procesos de gobernanza permiten a las personas incorporar la reflexividad en su práctica y evaluar continuamente la eficacia y los riesgos de las soluciones de IA. Sin embargo, dado que los marcos éticos y las regulaciones relevantes pueden variar entre contextos, sería prácticamente imposible sugerir un enfoque general para la puesta en práctica de la ética de la IA.

Más bien, proponemos un conjunto de herramientas prácticas que se pueden aprovechar y movilizar en respuesta a las necesidades únicas del proyecto (o de la organización), empaquetadas como parte de un ecosistema de ciencia de datos responsable .

Por ejemplo, este ecosistema podría incluir:

  • Procesos de gobierno automatizados La automatización de los procesos de gobierno agiliza el proceso al tiempo que garantiza la privacidad, la transparencia, la confiabilidad, la responsabilidad y el cumplimiento de las reglamentaciones relevantes para su contexto.

  • Evaluaciones de imparcialidad Esta podría ser una canalización donde el desempeño del modelo podría probarse con varios subgrupos de la población, para determinar los resultados justos y equitativos del modelo.

  • Confianza en los datos Las personas que soliciten el uso de datos podrían ser guiadas a través de un proceso coordinado que involucre la evaluación de los riesgos, la verificación de la calidad de los datos y su relevancia y, si es necesario, una revisión ética de alto nivel.

  • Herramienta de desafío ético Esto podría tomar la forma de una herramienta de función de desafío para apoyar el uso y desarrollo ético y responsable de herramientas de IA y para abordar y mitigar los riesgos asociados. Esto podría ser tan simple como un conjunto de preguntas difíciles de responder, en las que los usuarios confrontan sus sesgos implícitos y se identifican y mitigan los riesgos potenciales de la solución.

  • Creación de capacidad Esto podría implicar la difusión de recursos educativos en torno a políticas, reglamentos o directivas pertinentes. Los recursos que son más generales, que aumentan la conciencia organizacional sobre los problemas clave y las estrategias de mitigación de riesgos, son tan cruciales como las capacitaciones técnicas más avanzadas. Al desarrollar dichos recursos, es importante ser consciente y sensible a las necesidades de la audiencia objetivo. Además, también es una buena práctica involucrar a las partes interesadas con diferentes experiencias y conocimientos sobre el tema en el desarrollo de los recursos.

De los ejemplos proporcionados, profundicemos en los desafíos éticos. Con demasiada frecuencia, y en particular con los sistemas adquiridos de proveedores externos, las consideraciones cruciales a menudo pueden quedar sin tener en cuenta. Tales consideraciones podrían ser:

Nadie (¡y ningún campo!) es una isla

Ahora que la gente está consciente y las herramientas de gobierno adecuadas están en su lugar, el trabajo aún no está completo. Ahora debemos cambiar nuestro enfoque a la mentalidad que la gente debe adoptar.

Cada campo tiene sus propios sesgos, perspectivas y enfoques. Al abordar la ética de la IA a través de una lente multidisciplinaria, podemos construir puentes entre personas con diversos conocimientos, experiencia y conocimientos; y en el proceso asegurando que se consideren una multitud de perspectivas y soluciones.

Si la IA está en su adolescencia, la ética de la IA está en su infancia.

Al hacerlo, se nos alienta a mantener la mente abierta y confrontar críticamente cómo nuestro origen, género, edad y campo de especialización, por nombrar algunos, influyen en nuestros puntos de vista sobre los problemas que se presentan. La colaboración con personas de diferentes perspectivas ayuda a minimizar estos sesgos y permite un enfoque más holístico del problema y su solución.

Esta apertura mental debe ir acompañada de humildad. Es importante evitar la necesidad de controlar (que podría ser difícil cuando se incuba un programa desde cero). El impulsor clave en el proceso de hacer operativa la IA responsable es ser humilde, receptivo y abierto a los comentarios de otros especialistas y partes interesadas.

Los recién nacidos crecen rápido

Si la IA está en su adolescencia, la ética de la IA está en su infancia. Es un recién nacido que es arrastrado en todo tipo de direcciones. Cuando unas pocas líneas de código pueden tener consecuencias dañinas no deseadas , y sabiendo que la codificación es adictiva , se deben construir límites claros y salvaguardas, a menudo desde una pizarra en blanco. Sin embargo, nuestro deseo de productividad y la creciente necesidad de eficiencia también deben ser moderados. Estas preguntas se vuelven más complejas con cada día que pasa. Por esta razón, es mejor que comience con un marco ético estricto. Desde una perspectiva de costo-beneficio, los retrasos en los proyectos podrían ser preferibles a las consecuencias del uso poco ético de la IA. De manera similar, un marco mal pensado podría infundir demasiada confianza en nuestros enfoques y tal vez hacer que seamos menos críticos y minuciosos al evaluar nuestra solución.

En última instancia, la puesta en funcionamiento de la ética de la IA sigue siendo un acto de equilibrio delicado que requiere una inversión de tiempo y esfuerzo a largo plazo. Como dijo una vez Matshona Dhliwayo : “Las rosas no florecen apresuradamente; porque la belleza, como cualquier obra maestra, necesita tiempo para florecer”.

👋 ¡Puedes escribir un artículo como este! Comparta sus pensamientos con una comunidad de servidores públicos. Más información

(Crédito de la imagen: Mente profunda, Unsplash)