Esta pieza fue escrita por Andrew Collinge, Asesor, Smart Dubai. Para más información como esta, vea nuestro suministro de noticias digital del gobierno .

El mes pasado, Will.I.Am, el músico convertido en empresario, visitó la Cumbre del Gobierno Mundial en Dubai. ¿Su tarjeta de visita? Una plataforma de Inteligencia Artificial (AI) asistida por voz, desarrollada por su propia compañía de IA, IAM + . Su mensaje? Al igual que este producto, una IA más amplia necesita proteger la privacidad de las personas y aumentar su control sobre cómo se usan sus datos.

Smart Dubai , el acelerador de tecnología y datos de la ciudad, es igualmente ambicioso y cuidadoso. Tenemos claro que la exploración del potencial de innovación de los sistemas de IA se corresponde con una gobernanza que mitiga los riesgos a la baja.

• ¿Quieres escribir para nosotros? Echa un vistazo a la guía de Apolitical para contribuyentes

Vemos que la ética, ser respetuosa con un conjunto básico de valores basados en la equidad, la responsabilidad, la confianza y la explicabilidad, es fundamental para la adopción de la sociedad de la inteligencia artificial y el desarrollo del mercado en general.

Para Smart Dubai, el imperativo se deriva del hecho de que gran parte del impacto transformador de AI se encuentra en los servicios y operaciones de la ciudad. Sidewalk Toronto es el ejemplo actual más obvio de cómo un proyecto de regeneración urbana rico digitalmente puede toparse con una seria preocupación pública por cuestiones más amplias de privacidad de datos. Ya sea comercio, comunidad o gobierno, la confianza es lo que hace que las ciudades sean fuertes.

Y aunque podría decirse que todavía estamos en las estribaciones, AI introduce otra dimensión de confianza en la esfera pública. Es vital que el gobierno reconozca abiertamente la ética de la IA y promueva una discusión de múltiples partes interesadas a su alrededor.

Es por eso que Smart Dubai publicó sus Principios y Pautas de Ética de AI . Estos están ayudando a desarrollar los enfoques de "aprender haciendo" y de gobernanza ágil que creemos que son necesarios en torno a la aplicación de algoritmos y aprendizaje automático.

En diciembre de 2018, la Comisión Europea publicó un proyecto de directrices sobre IA ética para su consulta (la versión final vence en abril de 2019). El grupo de Ética en Acción del IEEE está produciendo un trabajo de muy alta calidad en el diseño éticamente alineado de IA. Sostenemos que los organismos gubernamentales internacionales y nacionales remotos no pueden replicar la proximidad y el entorno activo de investigación y desarrollo de las ciudades.

La ciudad como laboratorio (ético) de IA

Hay tres elementos principales en nuestro trabajo:

  1. Smart Dubai Dubai AI: una línea de producción para servicios de AI en la ciudad, en la que tiene lugar la planificación, experimentación y estabilización de casos de uso. El laboratorio también lidera la capacitación vital del personal del sector público.
  2. Principios y pautas éticas de IA: un factor diferenciador de nuestro trabajo en un campo de otros ejemplos es una herramienta de autoevaluación, diseñada para ayudar a los desarrolladores e implementadores de IA a juzgar sus sistemas desde varios ángulos éticos. La base de evidencia más amplia que genera este ciclo de retroalimentación a nivel de ciudad nos permite mejorar aún más el apoyo que brindamos al ecosistema de IA de Dubai.
  3. Consejo Asesor de Ética de AI: compuesto por expertos legales, tecnológicos y éticos, y representantes de la academia y el gobierno. Deliberadamente diversa, esta junta reunirá una variedad de perspectivas para que pueda gobernar y proporcionar una dirección estratégica para los primeros dos elementos de nuestro trabajo de IA.

Este enfoque de tres vías forma una propuesta poderosa, basada en una verdad: la ética de la inteligencia artificial es un campo en el que nadie tiene todas las respuestas. De hecho, las diversas competencias y experiencia necesarias hacen que la colaboración sea esencial.

Dirección futura: colaboración, pero ¿qué pasa con la regulación?

La nota más importante para terminar esta pieza es que, como en casi cualquier otro lugar, Dubai se encuentra en las primeras etapas de una implementación sofisticada de inteligencia artificial.

En este sentido, no existe un camino claro hacia una regulación más estricta. De hecho, algunos han argumentado que los principios y pautas éticos de IA son demasiado amplios para ser significativos, y deberían descartarse a favor de educar al personal del sector público para que ejerzan un buen juicio humano junto con la IA.

No estamos necesariamente en desacuerdo con este punto de vista. ¿Quién sabe si nos vamos a fijar en nuestro propio conjunto de herramientas de ética de IA dentro de tres años? Podemos encontrar muchos otros instrumentos de política que funcionan mejor con la ruta de desarrollo de esta tecnología emocionante y ambigua.

Dicho esto, al publicar nuestros principios éticos de IA, pautas y nuestra herramienta voluntaria de autoevaluación, Smart Dubai está señalando, en primer lugar, la importancia de la ética para una adopción más amplia, y en segundo lugar, el trabajo de liderazgo y asociación que se necesita, si se maneja al alza y los riesgos a la baja de la IA deben normalizarse.

Este movimiento hacia una gobernanza adaptativa y ágil que mejore, en lugar de limitar, la innovación es cómo entregaremos una IA ética hoy y, a largo plazo, construiremos confianza en las tecnologías que impulsan la sociedad digital y la economía del mañana. - Andrew Collinge

(Crédito de la imagen: Pexels)