Como parte del Campus de IA gubernamental recientemente lanzado, Apolitical está publicando una serie de artículos que exploran la adopción de IA en el gobierno. Estos artículos adoptan muchas formas, desde artículos de opinión escritos por expertos académicos hasta entrevistas con líderes del sector público que trabajan ellos mismos en la adopción de la IA.

_Leonardo Quattrucci, de Apolitical, habló recientemente con el Dr. Aaron Maniam, miembro de práctica y director de Educación para la Transformación Digital de la Escuela de Gobierno Blavatnik de la Universidad de Oxford, sobre cómo los gobiernos de todo el mundo podrían abordar la navegación por nuevas tecnologías como la IA generativa. _

Aaron Maniam se centra en cuestiones que conectan la tecnología, las políticas públicas y la administración pública. Copreside el Consejo del Futuro Global sobre el Futuro de la Política Tecnológica del Foro Económico Mundial y es miembro del Grupo de Expertos sobre el Futuro de la Inteligencia Artificial (IA) de la OCDE. Anteriormente fue formulador de políticas en el gobierno de Singapur, y recientemente fue subsecretario (Industria e Internacional) en el Ministerio de Comunicaciones e Información de Singapur, supervisando el trabajo del ministerio en economía digital, alfabetización e inclusión digitales y diplomacia digital. El doctorado de Aaron en la Escuela de Gobierno Blavatnik comparó el trabajo de estados digitales líderes como Estonia, Nueva Zelanda y Singapur. De https://www.bsg.ox.ac.uk/people/aaron-maniam-0

Aaron, puedes pensar en la IA desde múltiples perspectivas: como funcionario público y académico. Comparta un poco sobre su trayectoria profesional y cómo se cruza con la IA en el gobierno.

Comencé a explorar el tema de la IA por primera vez en 2010, durante mi mandato como Jefe del Centro para Futuros Estratégicos del Gobierno de Singapur. En ese momento, la IA (y la tecnología en general) jugó un papel crucial en la configuración de posibles escenarios futuros, que el Centro estudió. A medida que mi carrera evolucionó, mi atención se centró en las habilidades que los líderes gubernamentales necesitarán en el futuro. Por ejemplo, ¿cómo será la economía futura? ¿Cómo pueden los gobiernos utilizar, habilitar y regular mejor la tecnología? Ahora, en la Escuela de Gobierno Blavatnik de Oxford, intento unir estos conocimientos para el gobierno e involucrarme con la comunidad académica más amplia que investiga los impactos técnicos y sociotécnicos de la IA a nivel mundial.

La IA generativa ha hecho que la IA sea mucho más accesible. Se está discutiendo mucho sobre cómo gobernar AI, especialmente en un año con tantas elecciones. Lo que se discute menos es cómo se puede utilizar la IA generativa para mejorar la competitividad y el desempeño de los gobiernos. ¿Cómo pueden (y deberían) los gobiernos reequiparse en esta nueva era de la IA?

Es una pregunta tan importante. En general, los gobiernos saben bien que deben asumir un papel regulador. Eso no significa que siempre diseñen excelentes regulaciones, pero sí entienden su papel potencial en ellas.

Creo que los gobiernos pueden desempeñar otros dos papeles, mucho menos comprendidos: como usuarios y facilitadores de la tecnología. Los países económicamente más competitivos comprenden el papel facilitador porque saben que el gobierno es clave para crear y autorizar un entorno propicio. Pero, cuando se trata del gobierno como usuario de IA, encuentro que todavía es un área donde los gobiernos son relativamente débiles. Creo que la verdadera pregunta que deberíamos hacernos no es: "¿Serán reemplazados los humanos por la IA?". sino "¿Qué aspectos de nuestros trabajos puede asumir la IA que pueda realizar de manera responsable y con un alto nivel de calidad?"

La IA generativa es muy buena en tareas divergentes: tareas que requieren sintetizar una amplia gama de contenidos existentes. Entonces, por ejemplo, cuando el gobierno intenta investigar un tema para comprender lo que existe en términos de posibilidades e ideas, la IA generativa se puede utilizar mucho más.

La IA generativa también es buena en algunas tareas convergentes, es decir, cuestiones que involucran áreas de trabajo muy específicas. Esto incluye cosas como editar y garantizar la corrección gramatical. La IA generativa es buena para acortar o alargar un trabajo y para incluir ejemplos adicionales.

Pero también debemos reconocer el tipo de tareas para las que la IA simplemente no es adecuada. Estas tareas implican algún tipo de juicio, evaluación o decisión sobre qué priorizar.

💬 Hágale saber al autor lo que piensa acerca de que los gobiernos sean usuarios juiciosos y facilitadores de tecnología como la IA generativa dejando un comentario a continuación.

No creo que la IA generativa sea buena para generar datos o evaluar cosas con altos estándares. Aquí es donde los humanos deben intervenir. Necesitamos saber qué puede hacer y qué no; luego hacer que haga la mayor cantidad posible de cosas que hace bien para que liberemos las cargas cognitivas, emocionales y de ancho de banda de los humanos, quienes luego pueden concentrarse mucho más en aquello para lo que nuestras mentes fueron creadas: pensar, juzgar. , evaluar y emitir juicios de nivel superior.

¿Qué competencias y tecnologías necesitan adquirir los gobiernos para convertirse en mejores usuarios y facilitadores de la IA?

Una de mis frases favoritas es que los gobiernos no sólo deben ser buenos para encontrar proveedores, sino también buenos compradores. Esta es una habilidad clave. Se puede dividir en tres aspectos. En primer lugar, los gobiernos necesitan que parte de su personal tenga conocimientos técnicos en ingeniería, programación y codificación. Estas personas técnicamente alfabetizadas son quienes harán las preguntas correctas sobre qué hacer, qué subcontratar y cómo evaluar las propuestas de posibles proveedores. En segundo lugar, se necesita un liderazgo que también esté informado técnicamente. Los líderes no necesitan ser expertos, pero necesitan comprender qué es una tecnología y cómo funciona en términos generales para poder vincular esa tecnología y su funcionamiento con la misión y el propósito central de su organización. Eso significa en parte saber cómo adoptar y absorber tecnología, pero también significa gestionar el proceso de cambio que ocurre después de adoptar esa tecnología.

El tercer aspecto es que los gobiernos necesitan equipos de adquisiciones y contrataciones que estén bien informados sobre las tendencias tecnológicas. Deben comprender que el uso de tecnología y su adquisición implicarán técnicas diferentes a las de la adquisición de productos más estandarizados. Esto significa, por ejemplo, comprender que la tecnología seguirá cambiando y, por tanto, que los contratos no deberían obligar a los gobiernos a asumir compromisos a largo plazo. Significa permitir la contratación relacional dentro de la cual puedan seguir realizando ajustes dinámicos y evolucionando la tecnología en tiempo real.

Lo que acaba de describir suena como un plan coherente. Pero el trabajo gubernamental suele ser un poco complicado, especialmente en momentos de transición tecnológica. ¿Cuáles son los principales obstáculos o puntos débiles que encuentran los gobiernos al adaptarse al cambio tecnológico?

Hay algunos de estos, y muchos de los bloqueadores existen porque el gobierno digital sigue siendo gobierno. Tiene todas las posibilidades y el potencial del gobierno, pero también las mismas patologías, trampas, debilidades y fallas. Uno de los grandes obstáculos es el énfasis excesivo en la burocracia: los gobiernos terminan impidiéndose adaptarse bien a la transición tecnológica porque las viejas reglas no evolucionan lo suficientemente rápido. Además, a veces el gobierno se centra más en lo que puede ofrecer que en lo que necesitan los usuarios. Y creo que cuando no te concentras en el diseño centrado en el usuario, a veces puedes terminar suministrando los productos equivocados y no adaptándote bien a las transiciones tecnológicas.

Las estructuras heredadas son un segundo obstáculo. La mayoría de los sistemas ya cuentan con estructuras. Los gobiernos deben determinar qué partes de esos sistemas deben adaptarse. Este es el tipo de infraestructura nacional inteligente que Singapur busca construir. Las estructuras heredadas pueden ser muy peligrosas si te encierran en prácticas y mentalidades existentes.

Otro problema es la falta de talento. No tener el talento y las habilidades adecuadas puede obstaculizar la adopción de tecnología. Una manifestación de esta falta de talento es que los gobiernos, sin darse cuenta, asumen proyectos muy, muy grandes con plazos y desembolsos de costos significativos. Estos proyectos casi siempre están destinados al fracaso; para cuando termines incluso una parte de ese gran proyecto, la tecnología lo habrá superado.

Los proyectos modulares funcionan mejor porque pueden modificarse y adaptarse con rapidez y presteza. Con este tipo de proyectos, la transición suele ser mucho más fluida porque te estás adaptando en tiempo real a lo que hay ahí fuera.

Hablando de velocidad y evolución… Lo que los gobiernos están acostumbrados a hacer es buscar mejores prácticas. Pero, en un momento en que los desafíos que enfrentan se vuelven más complejos, necesitarán adoptar nuevas formas de pensar y operar, como usted describe. Por eso su trabajo reciente gira en torno a las metáforas. ¿Le importaría contarnos un poco sobre eso y qué nuevas metáforas necesitan los gobiernos para la IA generativa?

Tienes razón acerca de la influencia de las metáforas en nuestro pensamiento y su impacto en lo que priorizamos y enfatizamos dentro de un sistema. Introducir nuevas metáforas nos permite resaltar diferentes aspectos. Podríamos comenzar considerando metáforas tradicionales del gobierno, como el “Leviatán”, una entidad grande y monstruosa descrita en la Biblia judía, que simboliza el enorme tamaño y escala del gobierno. Otra es la "jaula de hierro" de la burocracia de Weber, que se refiere a las reglas estrictas y vinculantes que rigen el funcionamiento de los burócratas. Donald Kettl introdujo una metáfora populista más moderna, comparando al gobierno con una “máquina expendedora” que proporciona a los ciudadanos lo que quieren siempre que paguen sus impuestos, independientemente de si es beneficioso para ellos.

Sin embargo, necesitamos formas más matizadas de ver al gobierno. Por ejemplo, Anne-Marie Slaughter sugiere pensar en el gobierno como una “red”, y Tim O'Reilly ha discutido extensamente el concepto de gobierno como una “plataforma”. Estas metáforas enfatizan la interconexión y los efectos habilitantes del gobierno como anfitrión de nuevas ideas e instituciones.

Aprecio particularmente ver al gobierno como un viaje: un viaje de usuario que los individuos emprenden desde el nacimiento hasta la muerte, en el que el sector público desempeña un papel de apoyo en varias etapas. Esto incluye responder a acontecimientos importantes de la vida como la escolarización, el matrimonio, la compra de una vivienda, las enfermedades y el cuidado al final de la vida. Esta metáfora subraya las diversas interacciones que los individuos tienen con el sector público y el privado a lo largo de sus vidas.

Mi metáfora favorita, sin embargo, es la de la ecología. Todos somos parte de un sistema complejo y autorrenovable en el que diferentes componentes pueden morir mientras otros cobran vida. La gobernanza, en este sentido, implica que todos desempeñen roles únicos dentro de un sistema ecológico, contribuyendo dinámicamente. A diferencia de una ecología natural donde el león se come a la gacela sin consecuencias, la nuestra es una ecología moral donde estamos interconectados y somos responsables unos de otros. La tecnología mejora esta visión al conectarnos con mucha más gente que nunca, lo que puede profundizar nuestra comprensión de nuestras interconexiones ecológicas y fortalecerlas.

En momentos de transición, es fácil centrarse en los árboles en lugar de considerar todo el bosque, lo que lleva a pasar por alto problemas o malentendidos. ¿Cuáles cree que son los desafíos que el gobierno más pasa por alto en esta época de transición a la IA? ¿Y dónde y cómo deberían empezar a abordarlos?

Como dije, el gobierno digital sigue siendo gobierno: con silos, burocracia, énfasis en las reglas, etc. Creo que estas son patologías que los gobiernos realmente deben combatir, especialmente cuando la tecnología está democratizando el acceso a la información.

Creo que las guerras culturales son un segundo desafío que se pasa por alto. La política de identidad es mucho más prevalente y omnipresente hoy que nunca y está dando forma a la forma en que los gobiernos se comunican con los ciudadanos. Por ejemplo, los gobiernos pueden explicar a la gente por qué su identidad y sus creencias ideológicas están equivocadas; eso no les hará cambiar de opinión. De hecho, es mucho más probable que vuelvan a arraigar sus creencias predominantes. En última instancia, los ciudadanos necesitan que los gobiernos respondan a sus necesidades como seres humanos, y creo que los gobiernos que intentan abordar las guerras culturales de una manera más empática tienen más probabilidades de tener éxito.

Un tercer desafío surge del hecho de que hoy en día los gobiernos casi nunca abordan un equilibrio estable. A menudo nos entrenan para intentar llegar a lo que se llama un estado estable. Pero, en realidad, no existe un estado estacionario. Tenemos equilibrios inestables: problemas y posibilidades constantemente nuevos que surgen del cambio discontinuo. Me gusta describir esto no como entornos emergentes de "nuevas normales", sino como entornos "nunca normales" porque siempre estás evolucionando y moviéndote hacia un nuevo nivel de rendimiento, o al menos a un nuevo conjunto de tecnologías. La forma en que abordamos esto es muy diferente a cómo abordamos proyectos claros o planes quinquenales. Ni siquiera se trata de tener manifiestos claros, que pueden cambiar a medida que evolucionan la política y los entornos operativos. Creo que debemos prepararnos para el hecho de que la vida nunca será estable y normal. Siempre habrá nuevas evoluciones, nuevos caminos y trayectorias por las que nos lleve la tecnología. Y el papel del gobierno es, en parte, seguir el ritmo, si es posible. Si no, al menos poder responder rápidamente cuando las circunstancias cambien.

Como ex funcionario, ¿qué consejo les daría a los funcionarios de hoy sobre cómo aprender y mantenerse al día con la tecnología de IA de manera efectiva?

En la vida, es necesario equilibrar el optimismo y la cautela. Imagine lo mejor, pero también planifique lo peor. Esto se aplica a cualquier cosa en el gobierno. Cuanto más puedas imaginar y aprovechar lo mejor, más podrás aprovechar el potencial alcista de cualquier tendencia. Podría ser tecnología. Podría ser la participación ciudadana. Podría tratarse de cualquier tipo de problema emergente, pero siempre tenemos que planificar lo peor. Los gobiernos que no hacen esto están siendo irresponsables.

Pero realmente tienen que ser ambas cosas. Si sólo miras los riesgos o las desventajas, pierdes la esperanza o pierdes la imaginación. Si miras el lado positivo, te vuelves imprudente y poco realista. La buena gobernanza consiste en encontrar el punto óptimo entre ambas cosas.

¿Terminaste de leer? Asegúrate de compartir cómo imaginas lo mejor y planificas lo peor con Genertive AI en mente dejando un comentario a continuación ⬇️

(Crédito de la imagen: Unsplash )