Este artículo fue escrito por Wesley Hau (Presidente, Comunidad de Práctica de Datos Abiertos de la Agencia de Ontario), Amy Bihari (Líder de datos abiertos y tecnología emergente con el Servicio Digital de Ontario) y Dalia Hashim (Asesora de Políticas del Director de Datos y Digital de Ontario)

Durante el último año, muchos de nosotros en el servicio público hemos comenzado a encontrar nuevas tecnologías algorítmicas y hemos comenzado a discutir su lugar en nuestros programas y servicios.

Este nuevo conjunto de herramientas y tecnología trae nuevas promesas a nuestro trabajo colectivo, pero ¿a qué costo? En los tribunales estatales de Wisconsin , implementaron un algoritmo de caja negra para facilitar la sentencia, pero una de las consecuencias no deseadas fue la desigualdad racial descontrolada. El alcance y el impacto de estos pequeños cálculos pueden ser enormes, amplificando todo moviéndose más rápido y de manera más eficiente, pero ¿hacia servicios mejores y más rápidos o hacia la desigualdad masiva engendrada en nuestra tecnología y toma de decisiones ?

Tendemos a confiar en la tecnología porque pensamos que es neutral, imparcial a diferencia de nosotros, pero la verdad es que la mayoría de las veces simplemente incorporamos nuestros prejuicios en la tecnología mientras mantenemos su ilusión de neutralidad. A menudo nos engaña haciéndonos pensar que hemos creado resultados más positivos cuando simplemente hemos sistematizado los mismos.

Ahí es donde nos encontramos, al borde de un mundo nuevo y feliz. ¿Cómo manejamos estas nuevas herramientas de manera responsable? ¿Cómo podemos definir y orientar el uso que incorpore los ideales de equidad, confianza, equidad, justicia, bien social, bien económico, bien ambiental?

Abrazando el poder de Open

Somos un grupo de servidores públicos canadienses (principalmente en Ontario, de varias agencias y ministerios) que trabajan para sentar las bases para el uso responsable y ético de la inteligencia artificial y algorítmica (IA) por parte del gobierno.

Nuestro objetivo es integrar los principios abiertos en la forma en que el sector público se acerca a los algoritmos y la tecnología basada en datos como la inteligencia artificial. Para hacer esto, estamos trabajando juntos con la mayor frecuencia y colaboración que podamos para navegar este complejo espacio y servir bien a todas nuestras comunidades.

En Ontario tenemos un sólido programa de Datos Abiertos que requiere que todos los ministerios y agencias hagan sus activos de datos lo más abiertos posible. Esta base de Open by Default ha permitido a Ontario compartir datos y herramientas basadas en datos (incluido el código) de forma rápida y sencilla durante la pandemia actual de Covid-19, lo que permite una colaboración sin precedentes y una innovación liderada por la comunidad durante estos tiempos difíciles.

Esto puede no parecer una gran cosa, pero en el gobierno esto no es normal: se espera que trabaje dentro de su equipo, unidad o división y, en algunos casos, no se le recomienda comunicarse con un colega fuera de su grupo sin permiso expreso.

Los programas de datos abiertos se basan en principios como la transparencia, la accesibilidad y la colaboración, por lo que era natural que aquellos de nosotros más cercanos a los datos abiertos en nuestras organizaciones nos acercamos unos a otros para descubrir cómo podríamos trabajar mejor juntos en nuestro uso de datos. tecnología impulsada. Algo tan simple como crear una comunidad de práctica en la que podamos hablar entre nosotros sobre las diversas formas en que podríamos usar estas nuevas tecnologías, brindar ejemplos de cuándo hemos compartido datos al aire libre y cómo se han generado impactos positivos, puede ir un largo camino en el cambio de la cultura organizacional dentro del gobierno.

Puede que esto no parezca una gran cosa, pero en el gobierno esto no es normal: se espera que trabaje dentro de su equipo, unidad o división y, en algunos casos, no se le recomienda comunicarse con un colega fuera de su grupo sin permiso expreso. Estos límites entre los equipos gubernamentales y las organizaciones reflejan el pasado: necesidades pasadas, limitaciones pasadas, metas pasadas. Lo más probable es que sucedan las mismas cosas en su organización y esperamos que nuestras reflexiones puedan ayudarlo a romper los silos entre los equipos que necesitamos con urgencia para trabajar juntos para crear un enfoque más sostenible de la IA en el gobierno.

En el transcurso de unas semanas, pasó de una comunidad de 5 a una comunidad de más de 50

Sin embargo, cambiar la forma en que trabajamos no es tan simple como comprar o construir un nuevo espacio o herramienta colaborativa. Las personas deben estar capacitadas para reunirse, ya sea en espacios virtuales o físicos, y tener la libertad de hablar con franqueza sobre los desafíos y compartir de manera segura nuevas ideas (y esperanzas y temores). Este es el tipo de enfoque que estamos adoptando, creando espacios seguros y abiertos para compartir pensamientos, desafíos, preguntas y recursos a medida que comenzamos a navegar por nuevos enfoques, herramientas y tecnologías como el aprendizaje automático (ML), la inteligencia artificial (IA) y otros. Usos algorítmicos.

A través de nuestra comunidad de práctica, hemos podido aprender sobre nuevos pilotos que podrían estar en marcha utilizando IA, las razones por las que los equipos podrían haber considerado la IA, pero luego se alejaron de ella, o instancias en las que un proyecto / servicio se benefició de la adición de datos. tecnologías impulsadas. Todas estas historias, estudios de casos y aprendizajes también han ayudado a informar y dar forma a nuestro enfoque sobre cómo es el uso ético de la IA en Ontario que satisface las necesidades de los habitantes de Ontario y los servidores públicos por igual.

Creando espacio para la colaboración

Nuestro viaje comenzó con una taza de té.

Una tarde, algunos de nosotros nos reunimos en un café en Toronto después de intercambiar correos electrónicos y descubrir que todos estábamos metiéndonos en las turbias aguas del uso de ML / AI por parte del gobierno. Mientras charlábamos sobre nuestros respectivos proyectos, preocupaciones y comunidades, rápidamente se nos acabó el tiempo, pero queríamos mantener la conversación. Queríamos reunir más aliados, compartir archivos, enlaces, ideas; queríamos más tiempo juntos en el café.

Esa misma semana creamos un espacio de trabajo compartido de Slack, configuramos algunos canales (salas de chat) para nuestros temas favoritos y comenzamos a invitar a nuestros amigos. A medida que las personas se unían, las alentamos a agregar su agencia u organización a su perfil para ayudar a resaltar la comunicación entre equipos que estábamos construyendo. En el transcurso de unas pocas semanas, pasó de una comunidad de 5 a una comunidad de más de 50. Esto ayudó a generar confianza en que más de una persona, equipo u organización pensaba que esta era una buena idea. También proporcionó señalización sobre quién podría ser una buena persona a la que acudir para obtener información o consejo: veo que Amy es una líder de datos en el servicio digital de Ontario, ella podría contarme sobre la perspectiva provincial sobre la adopción de estándares de datos (o conectar yo con alguien lo hace!).

Ahora teníamos nuestro café virtual.

Nuestros esfuerzos de colaboración no terminan dentro del gobierno, eso es solo el comienzo

Durante los meses siguientes compartimos borradores de documentos, diapositivas de presentación y enlaces a eventos de aprendizaje. Visitamos los comités y grupos de trabajo de los demás a través de equipos de MS o Zoom para compartir nuestros viajes y aprendizajes sobre temas como alfabetización digital, transparencia algorítmica y gobernanza de datos. No se lograron colaboraciones formales, por lo que no se navegaron aprobaciones, pero la colaboración estaba ocurriendo. Cada vez más personas visitaban el espacio compartido de Slack del que habían oído hablar, y comenzaron a aparecer más alineaciones en nuestras presentaciones e informes sobre los sistemas de inteligencia artificial responsables.

Yendo audazmente ... juntos

Actualmente, estamos utilizando nuestra red en crecimiento para explorar y desarrollar trabajos relacionados con la alfabetización en IA y la orientación de IA para Ontario . Esperamos que al establecer un entendimiento común de usos, problemas y objetivos, podamos crear las condiciones para una colaboración y perspectivas más amplias en nuestros estándares, prácticas y políticas futuras relacionadas con la IA.

A medida que la IA comienza a ser considerada o adoptada por todas las facetas del gobierno, en todos los sectores y continentes, existe la oportunidad de desarrollar protecciones más sólidas contra la desigualdad, los prejuicios y la discriminación en todos nuestros programas y servicios. Al abordar el ML / IA con una lente de transparencia, ética y justicia desde el principio, podemos trabajar de manera diferente y producir diferentes resultados, resultados que son mejores para más comunidades.

Creemos firmemente que la transparencia y la participación colaborativa nos están colocando como servidores públicos en un camino inclusivo hacia un futuro con datos mejorados. Planeamos continuar abriendo espacio para más aliados de diferentes espacios con diferentes experiencias para conectar y dar forma a nuestra comprensión colectiva del uso responsable, seguro y beneficioso de la tecnología basada en datos como algoritmos y ML / AI.

La IA ética, innovadora y transparente debe ser un esfuerzo de colaboración entre muchas partes interesadas, incluido usted mismo. Queremos escuchar a los profesionales de la IA, los usuarios de datos, las empresas que dependen de la IA y otras tecnologías basadas en datos. Nuestros esfuerzos de colaboración no terminan dentro del gobierno, eso es solo el comienzo. Puede comunicarse con nosotros a través de nuestros proyectos de GitHub o enviarnos un correo electrónico para compartir sus pensamientos, consejos, unirse a nuestro entorno Slack o reunirse para tomar una taza de té (virtual).

Envíenos sus comentarios sobre nuestro trabajo actual, indíquenos preguntas con las que pueda estar lidiando en relación con la IA o simplemente cuéntenos cuál ha sido su experiencia con la tecnología de IA hasta ahora. Nos encantaría saber de ti. - Wesley Hau , Amy Bihari y Dalia Hashim

(Crédito de la imagen: Unsplash)