Este artículo está escrito por Ayca Ariyoruk, asesora intercultural de políticas y ética de AI. También es miembro del Centro de IA y Política Digital en Washington, DC.
Como parte del Campus de IA gubernamental recientemente lanzado, Apolitical está publicando una serie de artículos que exploran la adopción de IA en el gobierno. Estos artículos adoptan muchas formas, desde artículos de opinión escritos por expertos académicos hasta entrevistas con líderes del sector público que trabajan ellos mismos en la adopción de la IA.
- El problema: la variación en los marcos de gestión de riesgos nacionales y multinacionales ha complicado el panorama de la gobernanza global de la inteligencia artificial. ¿Cómo pueden los responsables de la formulación de políticas armonizar las normas y al mismo tiempo acoger la diversidad social y cultural del mundo?
- Por qué es importante: la inteligencia artificial es una tecnología globalizada. Un enfoque global para la gobernanza de la IA facilitaría la colaboración, el comercio y la innovación internacionales, garantizaría la coherencia ética y ayudaría a minimizar los riesgos y maximizar los beneficios.
- La solución: los derechos humanos son un lenguaje universal. Al aprovechar los tratados e instrumentos internacionales existentes y aplicarlos a través de una nueva lente, vemos el impacto convergente de los derechos humanos en la IA y desarrollamos un marco de gestión de riesgos intercultural.
Crédito de la imagen: Creado por Ariyoruk usando Meta AI
Imagine que su nuevo refrigerador puede preparar desayunos según los suministros y recetas que le proporcionó. Compraste huevos, queso y mantequilla; etiquetado como tal y proporcionaba instrucciones paso a paso sobre cómo hacer una tortilla. A la mañana siguiente, abres la puerta del frigorífico y ahí está, una tortilla recién hecha mirándote los ojos hambrientos. Que encantador.
💬 Déjele saber al autor lo que piensa sobre el papel de los responsables políticos en la gobernanza eficaz de la IA dejando un comentario a continuación.
Ahora, imagina que a la mañana siguiente tu tortilla se ve un poco diferente. Hay ingredientes que no puedes reconocer. No compraste hongos, entonces, ¿de dónde vienen? ¿Eran orgánicos? ¿Fueron lavados minuciosamente? ¿Fueron robados o pagados? ¿De quién fue la receta que siguió el frigorífico?
Piensas para ti mismo: mi refrigerador sabe más. Al fin y al cabo, se trata de la última tecnología que está en auge en los mercados, por lo que debe ser fiable. Cuando extiendes tu mano para agarrar la tortilla, hay una sorpresa más. El frigorífico se niega a soltar el plato y se oye una voz: Ayca, estás gorda para una mujer de tu edad y altura. Saltarse el desayuno. A la mañana siguiente, su refrigerador se niega a prepararle una comida.
La diferencia clave entre las tortillas de queso y de champiñones.
La inteligencia artificial tradicional clasifica o predice resultados basándose en datos de entrada. El aprendizaje depende de conjuntos de datos etiquetados e instrucciones (código) para entrenar modelos. Cuando tu Netflix te hace una recomendación sobre qué mirar esta noche, eso es IA tradicional. La inteligencia artificial generativa (también conocida como modelos fundamentales), por el contrario, no solo analiza datos existentes, sino que crea otros nuevos que no existían antes. Es creativo y ofrece contenido nuevo que es similar pero distinto de los datos de entrenamiento. Ésa es la diferencia entre la tortilla de queso y la tortilla de champiñones. (Para obtener más información sobre la diferencia entre la IA tradicional y la generativa, consulte NoCode.ai de Armand Ruiz, director de ciencia de datos de IBM y fundador de NoCode.ai).
Ahora que su refrigerador ha logrado enojarlo, decide investigar más a fondo. Llamas al fabricante y le pides una explicación. La empresa dice que no, que no se puede. Es un secreto comercial. Revelar el secreto socavaría el espíritu de innovación y competencia en el mercado, poniendo en riesgo el crecimiento económico y las oportunidades. Pero la compañía no puede mantener al genio en una botella por mucho tiempo y, muy pronto, lees informes en las noticias de que los hongos en tu tortilla eran sintéticos, ni siquiera comida real. La receta fue robada a un chef que ahora está sin trabajo y no puede mantener a su familia. El trabajo detrás de escena en la producción de la tortilla involucró mano de obra de personas mal pagadas y que trabajaban en condiciones muy duras.
No termina ahí. Luego descubres por qué tu refrigerador (llámalo aplicación específica o caso de uso de la tecnología) tenía una opinión sexista. El frigorífico fue desarrollado por un ingeniero que tenía una visión particular de cómo debían lucir las mujeres. También se capacitó con conjuntos de datos grandes pero no diversos proporcionados por una población de clase media que reside en América del Norte sin condiciones de salud existentes. Te das cuenta de que esta nueva tecnología podría representar un riesgo significativo para la salud si la utilizan otros grupos demográficos. Eso, por supuesto, si pueden permitirse el lujo de comprar un refrigerador. Un refrigerador inteligente no ayudará a alimentar a una familia ni ofrecerá ganancias de productividad por el tiempo ahorrado en cocinar si el hogar no tiene acceso a Internet para empezar. (Hoy en día, alrededor de 3.700 millones de personas, casi la mitad de la población mundial, no tienen acceso a Internet ).
Reemplace la dieta alimentaria con una dieta informativa y quedará aún más claro que la IA no es como cualquier otra tecnología. La IA tiene opiniones que no siempre se basan en hechos.
Un avance rápido hasta el año siguiente y la empresa ha duplicado sus inversiones. El refrigerador inteligente ahora puede preparar el desayuno y entregar un menú completo a todo el vecindario de Silicon Valley. Como tal, exige más ingredientes y consume más electricidad. En este punto, la empresa ya no puede explicar el funcionamiento interno del frigorífico, aunque quisiera. ¿Cómo ese insumo produjo este resultado? Es un misterio. Los investigadores de IA lo llaman "Caja Negra". Bienvenido al campo del **aprendizaje automático. **
¿Qué es la inteligencia artificial?
Antes de entrar en el "subcampo" del aprendizaje automático, echemos un vistazo rápido al campo principal. ¿Qué es la inteligencia artificial? Lo creas o no, no existe un consenso científico sobre la definición de IA. Ni siquiera los investigadores de IA pueden ponerse de acuerdo sobre una definición única. El campo se redefine constantemente a medida que surgen nuevas tecnologías. El curso ' Elementos de IA ' de la Universidad de Helsinki, que es un excelente curso para principiantes para personas sin formación técnica, hace referencia a un viejo chiste sobre la definición de IA. La IA se define como "cosas interesantes que las computadoras no pueden hacer". Según esta definición, la IA nunca podrá progresar: "Tan pronto como encontramos una manera de hacer algo interesante con una computadora, deja de ser un problema de IA".
Hay algo de verdad en esta definición. Por irónico que parezca, los Elementos de la IA dicen: “Hace cincuenta años, por ejemplo, se consideraba que los métodos automáticos de búsqueda y planificación pertenecían al dominio de la IA. Hoy en día, estos métodos se enseñan a todos los estudiantes de informática. De manera similar, ciertos métodos para procesar información incierta se están comprendiendo tan bien que es probable que muy pronto pasen de la IA a la estadística o la probabilidad”.
A pesar de los desafíos, a efectos de regulación, ahora existe una definición de trabajo detallada proporcionada por la Organización para la Cooperación y el Desarrollo Económicos (OCDE), en la que los legisladores de la UE basaron la reciente Ley de IA de la UE. El truco consiste en encontrar una definición que mire hacia el futuro y lo abarque todo para no dejar de lado ninguna tecnología o caso de uso, pero que tampoco sea demasiado amplia como para que resulte poco práctica.
El arriesgado negocio del aprendizaje automático
A los efectos de la historia del refrigerador (y a riesgo de simplificar demasiado), se puede pensar en la IA como un subconjunto de la disciplina de la informática que utiliza datos para habilitar máquinas que resuelven problemas. El aprendizaje automático es un subcampo de la IA que puede adaptarse automáticamente pero depende de una mínima interferencia humana para corregir y aprender. El aprendizaje profundo es un subconjunto del aprendizaje automático que utiliza grandes cantidades de datos y aprende de su entorno y de errores pasados y sin intervención humana. (Para obtener más información sobre la diferencia, consulte Aprendizaje profundo frente a aprendizaje automático:una guía para principiantes de Coursera ).
Generalmente es en esa etapa de aprendizaje profundo cuando las tecnologías se vuelven inexplicables. Preguntas que vale la pena hacerse: si no podemos explicarlo, ¿es ciencia o ficción? ¿En qué punto nuestra confianza en las tecnologías emergentes se parece a nuestra relación con "Dios", más a una religión y menos a una investigación científica?
Es cierto que el hecho de que no podamos proporcionar pruebas de que algo existe no es prueba de que algo no exista.
Ahí es donde la IA se convierte en un negocio arriesgado. Uno de los mayores obstáculos para una gobernanza responsable de la IA es la variación en los marcos regulatorios de gestión de riesgos nacionales y multinacionales. Después de todo, lo que consideramos peligroso y cuánto riesgo podemos tolerar en lo desconocido depende de lo que valoremos.
La IA no es como cualquier otra tecnología. La IA es política.
Si la IA y la gestión de riesgos tienen que ver con valores, ¿cómo podemos entonces proteger la diversidad del mundo y al mismo tiempo armonizar nuestro enfoque? Ingrese a la política de la IA, la lucha por el poder para tomar las decisiones sobre las reglas del juego.
Los tecnodeterministas afirman que la IA es como cualquier otra tecnología y que un impacto progresivo en la sociedad es inevitable. Pero si avanzaremos o retrocederemos depende de los resultados de una lucha de poder en curso entre i) una poderosa industria tecnológica, ii) gobiernos con diferentes ideologías políticas y grados de control sobre la empresa privada y iii) sociedad civil con diferentes niveles de influencia en el gobierno. asuntos. Por mucho que la industria impulse la innovación y el crecimiento económico, y a pesar de los esfuerzos bien intencionados para presentar argumentos comerciales a favor de una IA responsable que sirva a la humanidad, la industria está atrapada en un modelo de negocios que antepone los intereses de los accionistas individuales al interés público colectivo.
La industria favorece la autorregulación porque puede hacerlo. Los gobiernos, ya sean liberales o autoritarios, quieren un manual que no socave su estilo de poder. Eso marca la diferencia en cómo la IA impulsa al gobierno y si la utilizará para socavar o empoderar a sus ciudadanos. ¿Qué quiere la gente? Cuando analizamos la actividad de la sociedad civil en la gobernanza de la IA, la respuesta queda clara. Queremos lo que siempre hemos querido: protección, promoción y defensa de nuestros derechos fundamentales.
Un marco de riesgo universal: “Los derechos humanos no son ajenos a ninguna cultura y son nativos de todas las naciones”.
“ Los derechos humanos no son ajenos a ninguna cultura y son nativos de todas las naciones ”, dijo Kofi Annan, el fallecido Secretario General de las Naciones Unidas. Son universales, indivisibles e interdependientes ya que son “lo que nos hace humanos”. Si se pregunta a los jefes de Estado, es posible que digan que tenemos que respetar las variaciones culturales, lo que a menudo se traduce en "no cuestiones mi autoridad". Pregúntele a la gente, y todos queremos las mismas cosas: vivir con dignidad, con la libertad de practicar nuestras religiones, igualdad de oportunidades de educación, empleo y beneficios sociales, tener voz en cómo nos gobiernan y un sistema de justicia justo. Somos inocentes antes de que se demuestre lo contrario.
¿Tiene la gente derecho a saber si su solicitud de empleo fue rechazada por una Caja Negra? ¿Qué pasa si un banco no puede explicar por qué a un ciudadano se le niega un préstamo para comprar una casa o ayuda financiera para la universidad, un despido de un empleador o un arresto porque una unidad de vigilancia lo consideró un criminal ? ¿Qué pasaría si un dispositivo de salud destinado a medir la presión arterial no funcionara simplemente por el color de la piel?
No hay nada controvertido o "relativo" en los derechos humanos cuando se trata de IA. Estas son preocupaciones universales para todas las personas, independientemente del contexto cultural, y reconocerlas como tales es crucial para mantener la confianza de los ciudadanos en las instituciones y servicios públicos. (Es importante no confundir el relativismo cultural en materia de derechos humanos –un pretexto para la tiranía– con la diversidad cultural, que es algo que debe protegerse y valorarse. El primero limita las libertades y la segunda las amplía.)
Es cierto que el aire de la Guerra Fría está enturbiando las negociaciones internacionales sobre la política de IA, lo que lleva a algunos diplomáticos a ver los derechos humanos como un tema divisivo difícil de poner en práctica. En realidad, la IA ha roto las reglas de la Guerra Fría. Mire la Orden Ejecutiva de Estados Unidos emitida por el presidente Biden en octubre de 2023. No hay forma de abordar los riesgos de la IA sin abrazar los derechos sociales y económicos. El presidente de Estados Unidos exige que el gobierno federal y sus agencias no adquieran ningún producto o servicio de inteligencia artificial que pueda, mediante “fraude, prejuicios involuntarios o discriminación”, socavar el acceso a “atención médica, servicios financieros, empleos, educación, vivienda y transporte”. De manera similar, al otro lado del Pacífico, el presidente Xi de China pidió regulaciones para proteger la privacidad individual y la seguridad de los datos. Es un raro ejemplo de un país que intenta limitar la interferencia del Estado con el individuo. Los derechos civiles y los derechos sociales son indivisibles e interdependientes, especialmente cuando se trata del ciclo de vida de la IA. No podemos evitar el sesgo y la discriminación sin el debido proceso para recibir comentarios del público o comentarios del usuario final. Existe una convergencia gradual en torno a la aplicación práctica de valores para la inteligencia artificial.
Volver a nuestra mágica historia del refrigerador
Entonces, la próxima vez que alguien les diga que la IA es como cualquier otra tecnología, espero que recuerden nuestra historia sobre el refrigerador. (El refrigerador inteligente es imaginario todavía. Pero las tecnologías con capacidades comparables son reales).
Reemplace la dieta alimentaria con una dieta informativa y quedará aún más claro que la IA no es como cualquier otra tecnología. La IA tiene opiniones que no siempre se basan en hechos. Los grandes modelos de lenguaje (IA generativa) escribirán las historias que nos contamos unos a otros y nuestra historia si lo permitimos. La IA puede generar y escalar propaganda y falsificaciones con consecuencias más duras que una tortilla con hongos sintéticos. La IA no mejorará a las sociedades por igual en todas partes (para obtener más información, vea la presentación basada en su libro Power and Progress, Our Thousand Year Struggle Over Technology and Prosperity de Daron Acemoglu, profesor y economista del MIT). Además, eche un vistazo al último Índice de Inteligencia Artificial y Valores Democráticos publicado por el Centro de IA y Política Digital para ver la evaluación del desempeño comparativo de su país en políticas y prácticas de IA. Cubre 80 países basándose en 12 métricas basadas en derechos humanos. (También puede postularse para las Clínicas de Políticas . Son cursos intensivos, interdisciplinarios, de un semestre de duración, que cubren la historia, los problemas, las instituciones, la regulación y los marcos políticos y los métodos de investigación de la IA).
Está bien no confiar en las manos invisibles de los algoritmos. No serás anti-tecnológico. Serás prohumano y te asegurarás de que nuestras tecnologías estén alineadas con el interés público. Por suerte para nosotros, tenemos una opción.
¿Terminaste de leer? Asegúrese de compartir sus propios pensamientos sobre el desarrollo de un marco de gestión de riesgos intercultural para la gobernanza de la IA dejando un comentario a continuación ⬇️
(Crédito de la imagen: Pexels )
Inicia sesión o regístrate para continuar la conversación