Este artículo fue escrito por Cezary Gesikowski. Se publicó por primera vez en Generative AI , puedes leer el artículo original aquí .

En una era de rápidos avances tecnológicos, integrar la inteligencia artificial (IA) en el sector público es tanto una oportunidad como un desafío. En la reciente Cumbre DX 2023, Christina Montgomery, vicepresidenta y directora de privacidad y confianza de IBM, compartió sus ideas sobre las implicaciones éticas, regulatorias y sociales de la adopción de la IA en el gobierno. La conversación, organizada por Lori Turnbull, editora en jefe de Canadian Government Executive, destacó cuestiones y consideraciones clave para los servidores públicos y el público en general.

Puntos clave de la conversación

Importancia de la confianza y la responsabilidad en la adopción de la IA

Montgomery enfatizó la necesidad crítica de confianza y responsabilidad en el despliegue de la IA. Los modelos de IA, como los utilizados en ChatGPT, pueden transformar los servicios públicos al mejorar la recuperación de información, resumir datos e integrar fuentes de datos dispares.

Sin embargo, enfatizó que el éxito de la tecnología depende de una gobernanza sólida, transparencia y consideraciones éticas. La confianza en los sistemas de IA es fundamental para su adopción y eficacia.

Equilibrando la innovación con la regulación

El diálogo subrayó el delicado equilibrio entre fomentar la innovación y aplicar la regulación. Tradicionalmente, la adopción de nuevas tecnologías es más lenta que la del sector privado, por lo que los gobiernos deben desarrollar marcos que garanticen que la IA se utilice de manera responsable.

💬 Déjele saber al autor lo que piensa sobre las implicaciones éticas y regulatorias de la IA en el gobierno dejando un comentario a continuación.

Montgomery señaló la importancia de la colaboración entre el gobierno y los expertos del sector privado para crear regulaciones informadas y efectivas. Esta asociación es crucial para navegar por el complejo panorama de la ética y la gobernanza de la IA.

Aplicaciones prácticas y beneficios

Montgomery destacó las aplicaciones prácticas de la IA en el sector público, como la colaboración de IBM con la ciudad de Markham, Ontario. Aquí, un asistente virtual ayudó a los votantes a acceder a información electoral confiable, mostrando el potencial de la IA para mejorar los servicios públicos.

Sostuvo que la IA podría aumentar significativamente la productividad y la eficiencia en las operaciones gubernamentales, siempre que existan directrices claras y consideraciones éticas.

Abordar el sesgo y la transparencia de la IA

Un tema recurrente en la conversación fue abordar el sesgo de la IA y garantizar la transparencia. Montgomery señaló que es primordial eliminar los sesgos de los algoritmos de IA y preservar la privacidad. La necesidad de una IA explicable crece a medida que los sistemas de IA se integran más en los servicios públicos.

Tanto los servidores públicos como los ciudadanos deben comprender cómo se toman las decisiones de IA para confiar y utilizar eficazmente estos sistemas.

Cuidado con las brechas

Si bien el debate aportó ideas valiosas, persisten varias lagunas y desafíos. Algunos de ellos son y seguirán siendo difíciles de abordar:

  • Falta de directivas internas: a pesar de los esfuerzos del gobierno canadiense, como la Guía de la Secretaría de la Junta del Tesoro sobre el uso de IA generativa , muchos departamentos necesitan directivas internas más explícitas para sus empleados. Esta brecha puede conducir a implementaciones de IA inconsistentes y potencialmente riesgosas.
  • Restricciones fiscales: el entorno presupuestario actual plantea una barrera importante para experimentar con herramientas de IA generativa. Sin una financiación adecuada, los departamentos pueden tener dificultades para invertir en la infraestructura y la formación necesarias para la adopción de la IA. Esta limitación puede obstaculizar la innovación y los beneficios potenciales de la IA para los servicios públicos.

Riesgos de un enfoque poco claro

Un enfoque poco claro de la IA (es decir, modelos de lenguajes grandes (LLM) como ChatGPT) conlleva varios riesgos:

  • Uso indebido y mala interpretación: los empleados pueden hacer un mal uso de las herramientas de inteligencia artificial sin poder utilizar pautas, lo que lleva a la generación y difusión de información y datos incorrectos o sesgados.
  • Preocupaciones por la privacidad: una supervisión insuficiente puede dar lugar a violaciones de datos personales, lo que socava la confianza pública.
  • Ineficiencia: la implementación inconsistente de la IA puede crear ineficiencias, contrarrestando las posibles ganancias de productividad de la tecnología.

El camino a seguir

La conversación con Christina Montgomery destacó el potencial transformador de la IA en el sector público, equilibrado por la necesidad de una implementación y regulación responsables. Si bien existen importantes beneficios, el camino hacia la adopción eficaz de la IA está plagado de desafíos que requieren una navegación cuidadosa.

Es necesario abordar lagunas importantes para aprovechar el potencial de la IA y al mismo tiempo mitigar plenamente sus riesgos. Entre ellas se incluyen la educación pública, marcos éticos integrales, impactos en el empleo, políticas actualizadas, estándares globales , transparencia y ciberseguridad: todas áreas críticas que requieren atención a medida que navegamos por el complejo panorama de la integración de la IA en los servicios gubernamentales.

Al abordar estas brechas, los líderes del sector público pueden garantizar que las tecnologías de IA se utilicen de manera responsable y efectiva, beneficiando a la sociedad. Al mismo tiempo, los servidores públicos y el público en general deben mantenerse informados y comprometidos a medida que evolucionan las tecnologías de IA, garantizando su integración ética y efectiva en las operaciones del sector público.

Para aprovechar plenamente el potencial de la IA y al mismo tiempo mitigar sus riesgos, los líderes del sector público deben examinar las mejores formas de:

  • Desarrollar directrices claras: establecer directivas internas integrales que se alineen con las directrices gubernamentales más amplias sobre el uso de la IA.
  • Invertir en capacitación: garantizar que los servidores públicos estén bien capacitados en tecnologías de inteligencia artificial y sus implicaciones éticas.
  • Fomentar la colaboración: continuar fomentando asociaciones entre el gobierno, la academia y el sector privado para compartir conocimientos y mejores prácticas.
  • Garantizar la transparencia: mantener la transparencia en los procesos de toma de decisiones de IA para generar y mantener la confianza pública.

Lea el artículo en el último Ejecutivo del Gobierno Canadiense en línea:
Ejecutivo del gobierno canadiense - Volumen 30 - Número 1

¿Terminaste de leer? Asegúrate de compartir tus propios pensamientos sobre cómo la IA puede equilibrar la innovación y la responsabilidad en el sector público dejando un comentario a continuación ⬇️

(Crédito de la imagen: Pexels )