Este artículo es una entrevista entre Tom Orrell y Andrea Ulrich, dos subdirectores de programas, y Mihai Postelnicu, subdirector de desarrollo de software de organización digital y de datos, Development Gateway.

  • El problema: la IA generativa puede ser una gran herramienta para las organizaciones que buscan mejorar su productividad, particularmente cuando se trata de simplificar tareas analíticas complejas, pero muchas no saben cómo usarla de manera segura y ética.
  • Por qué es importante: En Development Gateway (DG), el desarrollo y la implementación de una política de IA se consideró crucial para navegar las complejidades de la IA generativa, abordar preocupaciones éticas y garantizar el uso responsable y eficaz de estas herramientas para mejorar los flujos de trabajo organizacionales.
  • La solución: la dirección de la DG colaboró ​​en la creación de una política de IA adaptable y orientada a la acción, respaldada por una comunicación continua, un comité interno y procesos de selección, para guiar al personal en la utilización segura y eficaz de herramientas de IA generativa en su trabajo diario. .

“Imagínese una IA que realmente hable su idioma, y ​​no solo sus palabras y su sintaxis. Imagine una IA que comprenda el contexto, los matices e incluso el humor.

_ _

_Esto ya no es sólo un concepto futurista: es la realidad de ChatGPT”. _

– Bernard Marr, 2023, Forbes

La IA generativa está teniendo un momento. La funcionalidad de herramientas como ChatGPT de Open AI mejoró exponencialmente en el transcurso de 2023. Como resultado, la aplicabilidad de la IA generativa a tareas analíticas complejas se ha disparado. Las herramientas de IA generativa ahora son tan avanzadas que se pueden utilizar en entornos empresariales para ayudar a los desarrolladores de programas a mejorar sus líneas de código y software, ayudar a los analistas a generar ideas, respaldar la capacitación y educación de los empleados y asesorar al personal sobre el tono y el lenguaje de los borradores de informes y correos electrónicos. , entre muchas otras tareas. Sin embargo, siguen estando lejos de ser herramientas perfectas. Las preguntas e incertidumbres relacionadas con la ética de los datos, la privacidad y los derechos de autor son solo algunos de los desafíos que deben superarse al utilizar herramientas de IA generativa en el lugar de trabajo.

Esté preparado para actualizar el documento de política continuamente para mantenerse al día con los desarrollos en este espacio.

Dentro de los espacios de desarrollo sostenible y políticas públicas, muchas organizaciones están considerando utilizar herramientas de IA generativa en su trabajo. Sin embargo, a muchos les cuesta discernir qué tipos de casos de uso son efectivos, apropiados y seguros. Development Gateway , una empresa IREX, es una de las primeras en adoptar tecnologías de IA generativa y ahora utiliza de forma segura varias herramientas diferentes en su trabajo diario. Un facilitador clave para Development Gateway ha sido la producción de una "política de IA" interna.

En esta entrevista con Andrea Ulrich , directora adjunta de programas y Mihai Postelnicu , director adjunto de desarrollo de software de Development Gateway, Tom Orrell , director general de DataReady, explora por qué y cómo Development Gateway elaboró ​​su política de IA, cómo ayuda al personal de forma eficaz y utilizar de forma segura herramientas de IA generativa y qué consejos tienen para otras organizaciones e instituciones que quieran seguir su ejemplo.

Tom: Para empezar, ¿podría contarnos sobre el trabajo que realiza Development Gateway?

Andrea: Development Gateway: un IREX Venture es una organización digital y de datos. Creamos herramientas digitales y diseñamos procesos que ayudan a recopilar, visualizar y utilizar datos para instituciones más responsables y efectivas. Trabajamos con ministerios de salud, educación y agricultura de países de todo el mundo para mejorar la forma en que utilizan los datos. También apoyamos un mejor aprendizaje y uso de datos para instituciones donantes como la Oficina de Asuntos Exteriores, Commonwealth y Desarrollo del Reino Unido y Asuntos Globales de Canadá.

Tom: Dado su trabajo, ¿por qué era importante para usted desarrollar una política de IA?

Mihai: Development Gateway lleva mucho tiempo involucrado en la implementación de proyectos digitales y de datos. Contamos con sólidos equipos de desarrollo técnico y programas. Dado nuestro interés por la tecnología en general, cuando las herramientas de IA generativa comenzaron a causar sensación en 2022, nuestros equipos técnicos exploraron cómo podrían aplicarse a nuestro trabajo. Dentro del equipo de tecnología, tuvimos la suerte de contar con las habilidades y el conocimiento para poder experimentar y probar de manera informal las aplicaciones y limitaciones de las nuevas herramientas de IA generativa. Descubrimos que había un margen sustancial para su aplicación tanto en nuestro trabajo técnico como programático. Sin embargo, éramos conscientes de que muchos colegas de toda la organización pueden tener dificultades para comprender cómo utilizar mejor las herramientas, cuáles podrían ser sus limitaciones y qué riesgos podrían plantear si se utilizan incorrectamente. Aquí surgió por primera vez la necesidad de una política de IA .

Andrea: También agregaría que con el tiempo también nos dimos cuenta de muchos desafíos y riesgos más amplios asociados con la IA generativa, por ejemplo, el potencial de resultados sesgados, racistas o sexistas, y problemas relacionados con los derechos de autor sobre los datos utilizados para entrenar. Modelos de IA generativa. Al mismo tiempo, los miembros del personal ya estaban empezando a utilizar herramientas de inteligencia artificial generativa para generar ideas e incluso realizar cálculos presupuestarios. A veces, las herramientas realizaban mal estas tareas. Esta combinación de factores (conocimiento de los riesgos externos involucrados y una necesidad pragmática de actuar rápidamente para apoyar al personal) realmente hizo evidente la necesidad de una política de IA en Development Gateway.

💬 Informe a los autores lo que piensa sobre los riesgos y oportunidades de la IA dejando un comentario a continuación.

Tom: ¿Cuáles son algunos de los beneficios y riesgos de utilizar IA generativa en Development Gateway?

Mihai: Las herramientas de IA generativa son una tecnología increíble que tiene el potencial de transformar la productividad de la oficina. Si se usan de manera adecuada y segura, pueden impulsar la producción de cualquier tipo de documento, la escritura de código fuente para software y otras cosas. Nuestros equipos de desarrolladores ya han experimentado un aumento en la productividad al utilizar herramientas para editar código, aprender nuevas técnicas de codificación e incluso aprender nuevos lenguajes de codificación.

Andrea: En el lado de los programas, hemos utilizado herramientas de inteligencia artificial generativa para resumir grandes cantidades de datos cualitativos de entrevistas, después de haber eliminado cuidadosamente cualquier dato personal y confidencial de antemano. También conozco a miembros del personal para quienes el inglés no es su lengua materna que utilizan herramientas de inteligencia artificial generativa para verificar el tono de los correos electrónicos y asegurarse de que sean claros y no groseros u ofensivos inadvertidamente. Como organización global, trabajamos en varios países en varios idiomas, por lo que un caso de uso realmente útil de la IA generativa para nosotros ha sido la traducción y la edición.

Mihai: En términos de riesgos, uno de los grandes riesgos que plantean las herramientas de IA generativa es el de las " alucinaciones ". Las herramientas de IA generativa son creativas por diseño, y esto significa que a veces tienden a derivar hacia interpretaciones de un problema más creativas de lo que cabría esperar. A veces pueden simplemente inventar información para responder a un problema o malinterpretarla. Esto significa que, al menos con la generación actual de herramientas de IA generativa, es realmente importante garantizar que los humanos estén informados en cada etapa de la entrada y salida de datos. Otros riesgos con los que debemos estar atentos incluyen garantizar que los datos de los clientes no se utilicen indebidamente de ninguna manera y garantizar que somos conscientes de cualquier sesgo que pueda surgir a medida que se procesan los datos.

Tom: ¿Cómo desarrolló su política de IA? ¿Cuál fue el proceso?

Andrea: Soy un gran partidario de la claridad y la estructura, especialmente cuando se trata de orientar a los miembros del equipo. Creo que una vez que el personal tenga pautas claras y conozca las limitaciones del sandbox, podrá ser libre de ser creativo y experimentar con nuevas innovaciones dentro de esos límites. Este pensamiento, que por un lado otorga al personal espacio para experimentar y, por otro, garantiza que existan las barreras necesarias, impulsó nuestro proceso de producción de políticas de IA.

Comenzamos el proceso cuando invité al equipo directivo a unirse a un grupo de trabajo para impulsar el desarrollo de la política. Una vez que se estableció un equipo de cuatro, que representaba tanto a los programas como al equipo técnico, pensamos en cuáles debían ser los pasos del proceso:

  • Primero realizamos una revisión de la literatura sobre políticas de IA, pero descubrimos que ya había muy poco desarrollado.
  • Luego trabajamos en la compilación de una base de datos de todas las herramientas de IA generativa que ya utiliza el personal de la organización.
  • Una vez que tuvimos esta información, comenzamos a redactar una política estructurada en torno a dos componentes: i) orientación para el personal sobre cómo evaluar las herramientas de IA generativa; y, ii) orientación sobre cómo utilizar herramientas de IA aprobadas.
  • Finalmente, llevamos a cabo dos rondas de comentarios sobre el borrador; primero con la alta dirección y luego con ocho colegas de toda la organización. Luego modificamos la política en función de los comentarios.

Las rondas de retroalimentación al final de nuestro proceso de redacción fueron realmente importantes. Al asegurarnos de que el personal de todos los niveles de la organización pudiera participar en el proceso, nos aseguramos de que realmente respondiera a sus necesidades y estuviera orientado de forma práctica.

Tom: ¿Puedes resumir brevemente la política?

Andrea: Nuestra política de IA está muy orientada a la acción y es adaptable. Simplemente cubre por qué se necesita la política, a quién se aplica, cómo evaluar las herramientas de IA generativa para garantizar que sean efectivas y seguras y a quién contactar si se requiere más información o apoyo. La política se complementa con una base de datos en constante crecimiento de casos de uso y herramientas auditadas.

Orientación sobre la selección de herramientas de IA generativa de la política de IA de Development Gateway

Antes de comenzar a utilizar una nueva herramienta, siga los siguientes pasos:

1. Determine si esta herramienta ha sido aprobada haciendo referencia a la sección "Herramientas" de esta política, así como a la sección "Casos de uso". ¿Está aprobado su caso de uso? ¿La herramienta que desea que se apruebe está en la hoja de cálculo?

  • En caso afirmativo a ambas preguntas: ¡Genial! Ya terminaste. Asegúrese de cumplir con las pautas de casos de uso.
  • Si la herramienta está aprobada, pero no según cómo planea usarla, vaya al paso 2.
  • No, esta es una herramienta nueva. Vaya al paso 2.

2. Defina cómo espera utilizar la herramienta (según su leal saber y entender)

  • ¿Qué datos o información introducirá en la herramienta?
  • ¿Es esto para uso interno (solo ojos DG) o uso externo?
  • ¿Existe alguna preocupación o restricción de privacidad relacionada con la información que ingresa?

3. Realice una evaluación de cómo la herramienta utiliza sus datos.

  • Consulta los términos y condiciones. ¿Cubren si sus datos se comparten con terceros y cómo se comparten?
  • ¿Utilizan sus datos de entrada para datos de entrenamiento? Si es así, ¿hay alguna forma de desactivar esa función?

4. Según la información de los Pasos 2 y 3, ¿tiene alguna inquietud sobre el uso de la herramienta?

  • No. ¡Genial! Infórmenos y comience a utilizar la herramienta para su caso de uso.
  • Sí. ¡No utilices la herramienta! Por favor avísenos para que podamos revisarlo más a fondo.
  • No estás seguro o necesitas más consejos. Háganos saber para que un miembro del comité pueda ayudarlo a evaluar más a fondo.

Yo enfatizaría que uno de nuestros principales objetivos al desarrollar esta política no fue sólo una política sino un proceso . Este proceso permite una constante reflexión, discusión, selección de herramientas y experimentación. Esto es realmente importante para nosotros porque el espacio de la IA generativa continúa evolucionando muy rápidamente. Para este fin, tenemos dos niveles de apoyo que rodean la política. Contamos con un comité interno que revisa las preguntas del personal y apoya la interpretación y el uso de las políticas. También tenemos un canal de Slack en vivo, así como una dirección de correo electrónico dedicada, a la que todo el personal puede acceder y utilizar para contactarnos con cualquier consulta que pueda tener.

Mihai: En la práctica, la política prevé un proceso de tres etapas para evaluar la idoneidad de las herramientas de IA generativa para su uso dentro de Development Gateway. En primer lugar, el personal puede consultar la lista existente de herramientas examinadas para ver si la herramienta que desean utilizar ya ha sido aprobada o excluida. En segundo lugar, si la herramienta que quieren utilizar no ha sido aprobada, pueden examinarla ellos mismos, utilizando las directrices de la política como punto de referencia. Finalmente, notifican al comité de IA sobre la investigación que han realizado y el resultado del ejercicio de selección.

Extracto de la política de IA de la DG

Incluso para herramientas y casos de uso aprobados, debe cumplir con las siguientes pautas:

1. Debe seguir las pautas establecidas en los casos de uso y documentos de herramientas .

2. Sea transparente sobre el uso de herramientas de IA interna y externamente

  • Si está trabajando en un proyecto, debe pedirle consentimiento al cliente antes de utilizar herramientas de IA generativa.
  • También debe informar a su equipo de proyecto cuándo ha utilizado una herramienta de IA generativa para trabajo interno o de cliente.

3. No ingrese información confidencial o del cliente

  • No ingrese ninguna información confidencial del cliente o interna de la DG ni información personal de los miembros del equipo de la DG o de las partes interesadas en los proyectos (por ejemplo, nombres de entrevistas de informantes clave) en herramientas de IA generativa, a menos que existan pautas de seguridad de datos vigentes. Cualquier violación de este proceso se considera un incumplimiento de la política de privacidad de datos de DG.

4. Se requiere revisión

  • Si el cliente y el equipo aceptan utilizar herramientas de IA generativa, debe revisar todos los resultados de la IA generativa. A menudo, los datos producidos están desactualizados o son incorrectos, por lo que se requiere una revisión exhaustiva. A esto se le suele denominar “intervención humana” y es una expectativa obligatoria de todos los consultores y el personal de la DG.

Tom: Finalmente, ¿qué consejo le daría a otras organizaciones con fines sociales e instituciones públicas que buscan desarrollar sus propias políticas de IA?

Andrea: Mis tres reflexiones principales son:

  • Asegúrese de incluir una amplia gama de personas y funciones en el desarrollo de la política. Nuestra política mejoró enormemente al pasar por un ciclo de retroalimentación con colegas que ya estaban usando herramientas de IA generativa.
  • No se descarte del proceso de desarrollo de una política de IA sólo porque no esté seguro de cómo funciona la IA generativa. Existe una tendencia entre las personas que se topan con algo técnico y dicen: "esto es algo que debería ser abordado por TI", pero debido a la naturaleza de estas herramientas, es realmente importante que se incluya una variedad de voces en el proceso de desarrollo de políticas. .
  • Es importante enfatizar DEMASIADO la importancia de la comunicación, en particular la comunicación bidireccional que permite discusiones y reflexiones internas para impulsar el aprendizaje en toda la organización.

Mihai: Mis tres reflexiones principales son:

  • No espere para iniciar una conversación sobre cómo se pueden utilizar estas herramientas en su trabajo. Incluso si no cree que sean relevantes, es posible que otros compañeros de trabajo ya estén utilizando herramientas de IA generativa. Es muy importante iniciar la conversación lo antes posible e iniciar un proceso para discernir cómo se ve el uso apropiado y seguro de las herramientas de IA generativa en su contexto.
  • Esté preparado para actualizar el documento de política continuamente para mantenerse al día con los desarrollos en este espacio.
  • Hay ventajas en ser los primeros en adoptar la tecnología de IA generativa. Estas herramientas realmente pueden funcionar a su favor y brindarle a usted y a su organización una ventaja competitiva. Son relativamente seguros de usar en muchos contextos, siempre y cuando se establezcan barreras de seguridad y exista un proceso claro para evaluar las herramientas y los casos de uso.

Puede encontrar más información sobre la política de IA de Development Gateway aquí : Si tiene alguna pregunta sobre el trabajo de Development Gateway o su política de IA, comuníquese con aulrich@developmentgateway.org y mpostelnicu@developmentgateway.org .

  1. Tal como se define en la Política de Datos de la DG, "Datos Sensibles" significa todos los demás datos no personales que: (i) no están disponibles para el público (confidenciales); (ii) los socios del proyecto/programa no quieren que se haga público (o que se haga público sólo después de la limpieza); o (iv) propiedad (parcial o total) de un tercero que requiere consulta y/o aprobación antes de que los datos puedan publicarse. Esto incluye, por ejemplo, secretos comerciales, nuevas tecnologías, software propietario y cualquier conversación confidencial compartida en entrevistas de CALM que se considere confidencial. Para cualquier herramienta de IA que retenga y comparta datos con terceros, esto también incluye documentación no pública (por ejemplo, documentos de estrategia, evaluaciones, informes de programas, etc. que pueden compartirse con la Dirección General como parte de una evaluación, pero que no están disponibles públicamente). .

¿Terminaste de leer? Asegúrate de compartir tus propios pensamientos sobre la política de IA dejando un comentario a continuación ⬇️

(Crédito de la imagen: Pexels )