Por qué el sector público necesita mejores reglas, no más reglas, para la IA

Este artículo está escrito por Gianluca Sgueo, École d'Affaires Publiques, Sciences Po

Ha sido encargado y publicado como parte del Campus Gubernamental de IA , una iniciativa de Apolitical para preparar a los funcionarios públicos y a los formuladores de políticas para liderar en la era de la IA.

Muchos se sorprendieron al leerlo: un estudio de 14.000 trabajadores en 14 países publicado en noviembre de 2023 reveló que más de la mitad de esos trabajadores utilizan IA generativa en el trabajo sin permiso oficial, y el 40% son lo suficientemente imprudentes como para utilizar herramientas de IA prohibidas. Es como si el estudio dijera: detener el avance de la automatización no tiene sentido porque los primeros en quererla son los trabajadores comunes y corrientes, no las empresas.

¿Se aplica lo mismo en el sector público?

Sólo parcialmente, y probablemente no por las razones que muchos pensarían.

Por un lado, la automatización, impulsada por la Inteligencia Artificial (IA) y el aprendizaje automático, se adopta cada vez más en diversos sectores de la administración pública, desde la atención sanitaria y el transporte hasta la planificación urbana y la gestión medioambiental. Desde 2022, Singapur ha empleado asistentes virtuales impulsados ​​por inteligencia artificial para optimizar sus servicios públicos. Estas ayudas digitales no solo guían a los ciudadanos a través de los procesos gubernamentales sino que también ayudan a hacer que las decisiones administrativas internas sean más eficientes. Otro ejemplo: durante la última década, Estonia ha automatizado una parte importante de sus servicios públicos, incluidos la residencia electrónica, los impuestos electrónicos y la votación digital, lo que ha hecho que la administración pública sea altamente eficiente y transparente.

"El mensaje subyacente es claro: incluso una administración pública altamente automatizada depende de un capital humano significativo".

Lo cierto, sin embargo, es que el proceso de automatización de los servicios públicos ha sido mucho más lento, fragmentado y esporádico en comparación con otras áreas de la economía. Hay dos razones importantes para esto:

En primer lugar , el despliegue de tecnologías de vanguardia en las administraciones públicas suele ser más lento que en el mercado debido a la resistencia a la innovación, la falta de financiación, los recortes presupuestarios y el desajuste de capacidades. En 2019, el Observatorio de Innovación del Sector Público (OPSI) de la OCDE publicó un artículo que aplaudía el uso de la Inteligencia Artificial en el sector público, pero solo describía siete estudios de caso (la mayoría de los cuales eran solo directrices o directivas). Objetivamente, la situación no parece haber cambiado radicalmente desde entonces.

En segundo lugar , las administraciones públicas están menos incentivadas a apoyar la automatización. A pesar de ser un importante comprador de bienes, servicios y mano de obra, la organización promedio del sector público no reacciona a los cambios en el entorno cambiando radicalmente su enfoque y estructura. Las organizaciones del sector público generalmente han respondido a las demandas recurrentes y a la presión pública para una mayor eficiencia y reducción de costos adoptando enfoques más tradicionales como la reestructuración del personal, la creación de nuevas agencias o políticas de contratación de personal altamente calificado, pero sólo por períodos de tiempo limitados. Tomemos el ejemplo de la actual Comisión Europea. Dada su ambición de definir un marco de normas maduro y flexible en materia de tecnologías (datos, mercados y servicios digitales y, por supuesto, IA), desde 2022, la Comisión se ha embarcado en una campaña de contratación en busca de conocimientos especializados esenciales para gestionar expedientes técnicos: habilidades de las que carecía en gran medida, ya que tradicionalmente eran poco atractivas para el sector público. Entre ellos se incluyen, por ejemplo, expertos en ciencia de datos, abogados de competencia digital y auditores algorítmicos. La Comisión ha recurrido principalmente a la contratación de agentes temporales o contractuales de duración determinada. Esta mano de obra altamente especializada empleada por la Comisión, al final de sus contratos de seis años (generalmente no renovables), pasará a nuevos puestos de trabajo. Podemos esperar que pronto surja un problema de continuidad de la acción administrativa.

Además , la automatización de los servicios públicos crea nuevos desafíos que gestionar. ¿Quién es responsable en caso de error de algoritmo? Hay un precedente: el gobierno de Mark Rutte cayó en 2023 tras un escándalo creado por un sesgo algorítmico . Pero puede que no necesariamente ocurra lo mismo en otras situaciones. Otro problema: ¿cómo garantiza una decisión pública automatizada la inclusión y la transparencia? La mayoría de estas preguntas siguen sin respuesta o han sido respondidas de forma parcial e inadecuada.

Entonces, ¿deberíamos preocuparnos o no por la automatización de los servicios públicos y qué deberíamos esperar de la automatización de los servicios públicos?

Muchos creen que todos los aspectos problemáticos relacionados con la IA y la automatización (incluida la automatización de los servicios públicos) pueden resolverse mediante la regulación : “nuevas reglas”, donde no existen, o “mejores reglas”, donde sí existen. Según Global AI Legislation Tracker , se están realizando esfuerzos legislativos en todo el mundo, incluidos intentos de crear una legislación integral para casos de uso específicos o pautas y estándares voluntarios. El Índice de IA de 2023 de la Universidad de Stanford muestra que, a nivel mundial, en 2022 se aprobaron 37 proyectos de ley relacionados con la IA. Pero la legislación por sí sola no resuelve ninguno de los problemas que frenan la automatización en el sector público, y menos aún aquellos que lo hacen inseguro frente a el punto de vista de los derechos.

En primer lugar , el instrumento jurídico es incompatible con sistemas tecnológicos que evolucionan cada vez más rápidamente, generando nuevos riesgos asociados a su uso. La negociación de la Ley Europea de IA, por ejemplo, se estancó justo cuando parecía estar encaminada. ¿La razón? Los intereses nacionales en la tecnología emergente y la IA generativa escaparon a las reglas hasta ese momento.

En segundo lugar , una administración pública totalmente automatizada, a pesar de su eficiencia, no sería tan buena. Entre los cuatro escenarios producidos por la simulación “ El futuro del gobierno ”, realizada por la Comisión Europea entre 2018 y 2019, uno imaginaba que los servicios públicos impulsados ​​por la IA se ofrecerían a los ciudadanos de forma individualizada y predictiva, pero a expensas de sus libertades.

Entonces no reglas, sino mejores reglas. Eso puede significar muchas cosas, por supuesto. Aquí dos realmente imprescindibles: Uno es repensar el diseño de las interacciones digitales , abandonando para siempre el paradigma de la simplicidad al que nos tiene acostumbrados la tecnología. Otra es capacitar constantemente a los trabajadores públicos, al mismo tiempo que contrata a los más especializados de manera temporal. El mensaje subyacente es claro: incluso una administración pública altamente automatizada depende de un capital humano significativo.

El Estado, después de la pandemia, ha vuelto con fuerza al mercado. La automatización pone patas arriba el escenario: ¿cuánto mercado queremos dentro del Estado?

👋 ¡Puedes escribir un artículo como este! Comparta sus pensamientos con una comunidad de servidores públicos. Aprende más

(Crédito de la imagen: Unsplash)