Este artículo de opinión fue escrito por Rana El Kaliouby, Director Ejecutivo y Cofundador, Affectiva, y fue publicado originalmente por el Foro Económico Mundial. Para obtener más información como esta, vea nuestro suministro de noticias sobre salud y bienestar .

Una niña con un robot en el mercado Kuromon Ichiba, Ōsaka-shi, Japón.

Imagen: Andy Kelly / Unsplash

Mi madre vive a 5,000 millas de distancia en El Cairo, Egipto. Cuando me llama, puede saber de inmediato si algo está mal, simplemente por la forma en que digo "Hola" o "Estoy bien". Al igual que muchas relaciones con aquellos que tenemos cerca, mi madre y yo hemos construido un nivel de confianza hasta el punto de que ella sabe cómo me siento por una simple palabra o frase.

Pero desafortunadamente, yo, como muchos otros en el mundo de hoy , paso tanto (si no más) tiempo interactuando con la tecnología como lo hago con las personas cercanas a mí. Sin embargo, a diferencia de hablar con mi madre o un amigo, la forma en que interactuamos con los dispositivos es completamente transaccional. Mi teléfono celular no puede leer entre líneas y entender lo que realmente está pasando conmigo.

Este problema es cada vez más notable a medida que nuestras interacciones con la tecnología hacen un uso cada vez mayor de la inteligencia artificial (IA). A medida que la IA asume nuevos roles en la sociedad, desde trabajar junto a nosotros hasta conducir nuestros automóviles, ayudar con nuestra atención médica y más, estamos forjando un nuevo tipo de asociación con la tecnología. Y con esa asociación viene un nuevo contrato social: uno que se basa en la confianza mutua, la empatía y la ética.

¿Puede AI confiar en nosotros?

Comienza con la confianza mutua. Después de todo, no podemos trabajar o vivir de manera efectiva con personas en las que no confiamos y que no confían en nosotros. La IA no es diferente.

Los ejemplos de por qué la confianza mutua es importante entre las personas y la IA son muy amplias. Tome vehículos semiautónomos, por ejemplo. Como estos automóviles aún están en desarrollo, requieren que un conductor humano esté preparado para recuperar el control si la IA del automóvil ya no puede navegar de manera segura.

¿Cómo podemos fomentar un sentimiento tan personal como la confianza con las máquinas, y cómo podemos hacerlo mutuo?

Pero, ¿cómo puede la IA confiar en que la persona está lista para hacerse cargo? ¿Que la persona que debe conducir está alerta y comprometida, y no somnolienta o distraída? Los sistemas de inteligencia artificial deben ser capaces de comprender realmente nuestros estados emocionales y cognitivos, en este caso, reconocer si alguien muestra signos de distracción o estados de deterioro potencialmente peligrosos, antes de confiarlos.

Entonces, la pregunta es: ¿cómo podemos fomentar un sentimiento tan personal como la confianza con las máquinas , y cómo podemos hacerlo mutuo?

AI como un compañero empático

Según el profesor de tecnología de Harvard Business School, Frances Frei , la empatía es uno de los elementos más importantes para establecer la confianza entre las personas. Entonces, quizás la empatía también sea la clave para crear un entendimiento y confianza entre la IA y los humanos.

La clave para construir IA que realmente nos "atrape" no es centrarse únicamente en la cognición, sino desarrollar algoritmos con inteligencia emocional. Al igual que en las asociaciones entre personas, dar a AI la capacidad de comprender cómo se siente alguien es la única forma en que un automóvil semiautónomo sabrá si su conductor está en condiciones de tomar el volante, o un compañero de equipo entenderá si sus colegas humanos se siente preparado para el trabajo en un día determinado.

Esto puede parecer demasiado personal o antinatural para algunos. Pero para mí, continuar avanzando en la investigación y el desarrollo de la IA no es lo que representará una amenaza para nuestros trabajos o la humanidad. La verdadera pregunta es, ¿qué harán las personas con la tecnología y cómo cambiarán nuestro mundo nuestras elecciones de IA?

Esbozar el desarrollo ético y el despliegue de la IA.

Los sistemas de IA diseñados para interactuar con humanos tendrán muchos datos y sabrán mucho sobre las personas con las que interactúan. Esto plantea preocupaciones: si bien existe un gran potencial para que la IA mejore nuestras vidas, también tiene el mismo potencial para agravar la desigualdad o causar daño.

Imagen: Franck V / Unsplash

A medida que diseñamos este nuevo contrato social, necesitamos establecer estándares para el desarrollo ético y el despliegue de la IA. Esto significa asegurarse de que la IA esté construida por diversos equipos y con diversos datos, para garantizar que la tecnología no reproduzca los prejuicios inherentes a la sociedad. Significa considerar la necesidad de aceptar y consentir cuando las personas interactúan con AI y priorizar la privacidad de los datos.

Reconociendo esto, algunas de las mentes más brillantes en tecnología, academia y más allá ya se están asociando para establecer estándares que garanticen que las personas usen la IA de manera ética y para bien, desde la Iniciativa de Ética y Gobernanza de AI de MIT y Harvard , hasta la Asociación sobre IA , que es una colaboración entre grandes empresas tecnológicas como Microsoft, Amazon, Google, Facebook y Apple, y nuevas empresas como Affectiva. Esto también forma parte de mi cargo como Joven Líder Global del Foro Económico Mundial. El Foro nos brinda la oportunidad de analizar las implicaciones de la IA con líderes que aportan perspectivas de todos los ámbitos y entornos diferentes.

Todavía hay mucho por descubrir mientras navegamos por nuestra relación cambiante con la IA. Pero existe una necesidad inmediata de comenzar a enmarcar la conversación de esta manera, como una asociación basada en la confianza, la empatía y la comprensión, en lugar de continuar discutiendo la IA con miedo y desarrollar la tecnología sin permitir que realmente se relacione con nosotros.

Este artículo fue publicado originalmente por el Foro Económico Mundial . Para leer el artículo, haga clic aquí .

(Crédito de la imagen: Unsplash)