Este artículo está escrito por Ravit Dotan , investigador del Centro de Gobernanza y Mercados de la Universidad de Pittsburgh; Emmaline Rial , estudiante de posgrado, Universidad de Pittsburgh; Ana María Dimand , Profesora Asistente de Administración y Políticas Públicas, Universidad Estatal de Boise; y Virginia Dignum , profesora de Inteligencia Artificial Responsable, Escuela de Negocios, Economía y Estadística de Umeå. Este artículo fue publicado por primera vez por el Foro Económico Mundial . Lea el artículo original aquí y más artículos del Banco Mundial aquí .

  • Los gobiernos compran cada vez más sistemas de IA, pero es necesario adoptar prácticas de adquisición responsables que tengan en cuenta los riesgos y oportunidades sociales.
  • Los recursos existentes incluyen directrices generales, recomendaciones específicas e iniciativas regulatorias de organizaciones como AI Now, el gobierno del Reino Unido y la Oficina de Gestión y Presupuesto de EE. UU.
  • Se necesitan más herramientas y repositorios para respaldar la adquisición responsable de IA, incluidas plantillas de RFP, cláusulas contractuales y cuadros de mando para evaluar la madurez ética de la IA.

Los gobiernos y los administradores públicos compran IA a una escala cada vez mayor. Por ejemplo, en 2022, EE. UU. gastó 2,5 más en contratos relacionados con la IA que en 2017. Estas compras pueden ser muy útiles, pero incluyen sistemas de alto riesgo con un inmenso potencial de daño. Por lo tanto, los administradores públicos que compran sistemas de IA deben tener el conocimiento y los recursos necesarios para adquirir IA de manera responsable, teniendo en cuenta los riesgos y oportunidades sociales. Ya se están publicando recursos útiles, pero hay espacio para llenar vacíos adicionales, para adaptarse a la evolución de los sistemas de IA y sus aplicaciones. Este artículo revisa los recursos de inglés existentes y los vacíos que deben llenarse.

Directrices y regulación

El tipo de recurso más común disponible para los administradores públicos que adquieren IA son las directrices de IA. Las directrices se dividen en tres categorías: 1) asesoramiento general sobre adquisiciones; 2) recomendaciones específicas, centradas en un sector, un caso de uso, un tema o una lente; y 3) iniciativas regulatorias.

💬 Hazle saber al autor lo que piensas dejando un comentario a continuación.

Las directrices y recomendaciones generales incluyen las elaboradas por AI Now , DataEthics , Hickok , Miller and Waters , Rubenstein , el Gobierno del Reino Unido y el Foro Económico Mundial . Además, Estados Unidos ha anunciado que la Oficina de Gestión y Presupuesto (OMB) publicará directrices para la adquisición de IA.

Entre las directrices específicas, la Iniciativa de Política Penitenciaria proporciona directrices para la compra de tabletas en las prisiones. Si bien no abordan específicamente la IA, estas directrices incorporan requisitos de ética tecnológica que podrían adaptarse a la IA. Coglianese & Lampmann recomiendan añadir cláusulas contractuales sobre secretos comerciales, privacidad y ciberseguridad, auditoría y participación pública. Jacobs & Mulligan sugieren utilizar un método llamado "modelado de medición" en los procesos de adquisición para comprender los impactos esperados de los sistemas de IA.

Las iniciativas regulatorias también proporcionan pautas. Los profesionales de adquisiciones pueden buscar orientación en estas iniciativas, incluso si no se aplican a su jurisdicción e incluso si no se convirtieron en ley.

En Canadá, las agencias federales deben cumplir con la Directiva sobre la toma de decisiones automatizada , que incluye requisitos para la adquisición de IA en materia de evaluación de impacto, transparencia, garantía de calidad y más. En los EE. UU., la regulación de adquisición de IA existente incluye la Orden Ejecutiva (EO) 13960 , que requiere que las agencias federales diseñen, desarrollen, adquieran y utilicen IA de una manera que fomente la confianza pública , empatizando con temas como la privacidad, los derechos civiles y las libertades civiles. . La Ley de Formación en IA exige presupuestar la formación en IA para el personal de adquisiciones. Por último, los estados de Maryland , Connecticut y Washington propusieron proyectos de ley que introducen requisitos éticos de la IA en el proceso de adquisición.

Estas directrices e iniciativas regulatorias son un buen comienzo. Sin embargo, aún quedan lagunas que llenar para dotar a los profesionales de las herramientas adecuadas. En conversaciones con los autores de este artículo, los profesionales expresaron su preocupación de que, sin el apoyo adecuado, no se implementarán prácticas responsables de adquisición de IA, incluso si así lo exigieran la ley. Esto ha sucedido con regulaciones de adquisiciones similares en el pasado.

Herramientas

Existen herramientas útiles y relevantes disponibles públicamente, pero es necesario prestar más atención a su adecuada implementación, uso, mejora y expansión. La Fundación Ford , Richardson y el Foro Económico Mundial han creado listas de preguntas para que los profesionales de adquisiciones las hagan a medida que avanzan en el ciclo de vida de las adquisiciones. La ciudad de Ámsterdam creó una plantilla en inglés para los contratos de adquisición de IA , incorporando características de IA responsable (consulte a Miller y Waters para una contextualización y discusión). La ciudad de San José , California, ha creado varias herramientas de adquisición de IA. Estos incluyen un mapa del proceso de revisión al comprar un sistema de IA y un formulario para recopilar información de los proveedores de IA . Por último, el condado de Alameda en California publicó una solicitud de propuesta para un sistema de inteligencia artificial que incluye requisitos de privacidad. Se puede utilizar como plantilla.

Si bien lo anterior representa grandes esfuerzos en la dirección correcta, se necesita más trabajo para abordar la adquisición responsable de IA. Por ejemplo, los profesionales expresan la necesidad de plantillas de RFP completas, cláusulas breves para incorporar a los contratos existentes y cuadros de mando para evaluar la madurez ética de la IA de un posible proveedor. Además, las herramientas existentes no abordan los desafíos que enfrentan los profesionales cuando intentan adquirir IA de manera responsable, como las dificultades para lograr que los proveedores revelen información relacionada con la ética de la IA o hagan un seguimiento de los compromisos éticos de la IA, incluso si los compromisos están establecidos en contratos firmados.

Repositorios

Encontramos dos tipos de repositorios relacionados con la adquisición responsable de IA en la administración pública. Algunos repositorios ayudan con la gestión del conocimiento. Por ejemplo, la base de datos de leyes indicativas de Gutiérrez contiene una lista de leyes indicativas relacionadas con la adquisición de IA de los años 2001-2019. Puede encontrar discusiones sobre este repositorio aquí y aquí . Otro repositorio relevante de gestión del conocimiento es la Tabla Periódica de Innovaciones en Adquisiciones de EE. UU., creada por el Instituto Federal de Adquisiciones (FAI) de EE. UU.

Otros repositorios documentan información sobre la IA adquirida por la administración pública. Los Países Bajos , la ciudad de Ámsterdam , la ciudad de Helsinki y la ciudad de San José (California) han creado registros de algoritmos en sus municipios. Además, Eurocities creó un esquema para registrar algoritmos utilizados en las ciudades.

No se han encontrado repositorios que recopilen recursos sobre la adquisición responsable de IA. Sin embargo, sin un repositorio, los profesionales pueden tener dificultades para encontrar recursos relevantes y elegir los mejores para ellos. Nuestra revisión requirió una inmersión profunda que muchos involucrados en la adquisición de IA tal vez no puedan realizar.

Comidas para llevar

Los recursos actuales para la adquisición responsable de IA en la administración pública son útiles, pero necesitamos más atención en el desarrollo de estas herramientas y en la creación de recursos adicionales para garantizar que los profesionales estén completamente equipados para abordar el ciclo completo de adquisiciones. Al desarrollar nuevas herramientas, es fundamental incluir a los profesionales en mayor medida. Muchos de los recursos que encontramos no mencionan consultas sustanciales con los profesionales y no abordan los desafíos que enfrentan los profesionales. Cerrar estas brechas es una tarea crítica. La adquisición responsable de IA en la administración pública es clave para la seguridad pública y para influir en el sector tecnológico para que desarrolle la IA de manera más responsable.

Este artículo se ha beneficiado enormemente de la contribución de Beth Schwanke y Hubert Halopé. Beth Schwanke, PhD, es directora ejecutiva del Instituto de Derecho, Políticas y Seguridad Cibernéticas de la Universidad de Pittsburgh. Hubert Halopé es el líder de inteligencia artificial y aprendizaje automático en el Foro Económico Mundial.

¿Terminaste de leer? Asegúrate de compartir tus propios consejos dejando un comentario a continuación ⬇️

(Crédito de la imagen: Unsplash)