Este artículo está escrito por Mehrdad Safaei, analista de datos e IA de la Escuela de Servicio Público de Canadá (CSPS), el grupo de la Academia Digital involucrado en el desarrollo de cursos de datos e IA para servidores públicos de Canadá.

Las opiniones expresadas en este documento son únicamente del autor y no reflejan necesariamente las opiniones de la Escuela de Servicio Público de Canadá (CSPS), ni las del Gobierno de Canadá.

  • El problema: los grandes modelos generativos de IA (LGAIM) como ChatGPT y Stable Diffusion están transformando la industria a gran velocidad, pero presentan desafíos y beneficios.
  • Por qué es importante: debemos asegurarnos de que los LGAIM se utilicen de manera responsable y ética para minimizar sus daños potenciales.
  • La solución: Desarrollar estrategias efectivas para abordar los desafíos de las nuevas tecnologías de IA generativa.

Imagen de herramientas de IA Imagen 1: Herramientas de Inteligencia Artificial / DALL.E

A medida que la inteligencia artificial (IA) continúa evolucionando, los grandes modelos de IA generativa (LGAIM) como ChatGPT y Stable Diffusion están transformando la forma en que trabajamos y nos comunicamos. Sin embargo, un gran poder conlleva una gran responsabilidad. En esta publicación de blog, analizaremos más de cerca las oportunidades y los desafíos de usar ChatGPT en varias industrias, incluidas la banca, la hospitalidad, el turismo y la tecnología de la información.

Uno de los beneficios más importantes de ChatGPT es su capacidad para mejorar las actividades comerciales, como la gestión y el marketing. Sin embargo, también hay posibles consecuencias a considerar, como sesgos, interrupciones en las prácticas y amenazas a la privacidad y la seguridad. Para abordar estas preocupaciones, se necesita más investigación. Esto incluye identificar las habilidades y los recursos necesarios para manejar la IA generativa, examinar los sesgos atribuibles a los conjuntos de datos de entrenamiento, explorar los contextos más adecuados para la implementación de la IA generativa, determinar el equilibrio óptimo entre la IA humana y la generativa para diversas tareas, evaluar la precisión del texto producido por la IA generativa. IA y descubrimiento de problemas éticos y legales en el uso de IA generativa en diferentes contextos.

En el centro de esta discusión está la necesidad de un uso responsable de los LGAIM. A medida que exploramos el potencial de estas poderosas herramientas, también debemos considerar su impacto en la sociedad y las personas. Al desarrollar estrategias efectivas para abordar estos desafíos, podemos garantizar que los LGAIM se usen de manera responsable y ética, maximizando sus beneficios potenciales y minimizando sus daños potenciales.

Grandes modelos generativos de IA (LGAIM)

Los grandes modelos generativos de IA (LGAIM) son un tipo de algoritmo de aprendizaje automático no supervisado o semisupervisado que utiliza contenido existente como texto, imágenes, audio, video e incluso código para crear contenido nuevo que se asemeja al lenguaje humano, las imágenes o el sonido. Su objetivo principal es generar contenido original que parezca real y creado por humanos, como un texto sofisticado. Los LGAIM como GPT-4 (Generative Pre-trained Transformer 4) o Stable Diffusion están entrenados en conjuntos de datos masivos y pueden producir resultados altamente sofisticados. Sus aplicaciones potenciales son numerosas, incluidos los chatbots, el procesamiento del lenguaje natural y la generación de contenido.

Los LGAIM actuales, como GPT-4 y Stable Diffusion, son algunos de los modelos de IA más avanzados disponibles en la actualidad. GPT-4 es un modelo de generación de lenguaje creado por OpenAI que puede producir texto altamente sofisticado que a menudo es indistinguible del texto escrito por un humano. Ha sido entrenado en una enorme cantidad de datos de Internet y puede realizar una amplia gama de tareas lingüísticas, incluidas la traducción, el resumen y la respuesta a preguntas. Por otro lado, Stable Diffusion es un modelo generativo que puede producir imágenes y videos de alta calidad. Se basa en un proceso de difusión que le permite generar imágenes complejas con texturas y formas realistas. Tanto GPT-4 como Stable Diffusion son ejemplos de LGAIM que tienen el potencial de transformar la forma en que nos comunicamos, creamos e innovamos. Sin embargo, también presentan importantes desafíos éticos y legales, y es crucial considerar cuidadosamente sus implicaciones para la sociedad y las personas.

Oportunidades de uso de LGAIMs

Aplicaciones en las industrias de banca, hotelería, turismo y tecnología de la información

La integración de la tecnología en la banca no es un fenómeno nuevo, ya que los bancos siempre han adoptado nuevas tecnologías para transformar sus operaciones. Con el surgimiento de ChatGPT, los bancos tienen la oportunidad de explorar sus posibles aplicaciones en la comercialización de servicios financieros, el análisis de datos y la mejora de las experiencias de los clientes. Sin embargo, dada la alta regulación del sector bancario, la adopción de tecnología a menudo se explora estratégicamente. ChatGPT se puede utilizar para la creación de contenido, apelaciones emocionales y ofertas personalizadas para los clientes. Si bien presenta oportunidades para los bancos, es necesario considerar las limitaciones y las posibles consecuencias. La confianza en la prestación de servicios y el impacto en los consumidores vulnerables son algunas de las preocupaciones que deben abordarse. Se espera que los bancos inviertan en infraestructura y exploren las capacidades técnicas y los recursos humanos para integrar ChatGPT en sus estrategias de transformación digital existentes.

El uso de ChatGPT puede ayudar tanto a turistas como a organizaciones proporcionando información rápida y precisa, creando itinerarios de viaje, recomendando servicios y actividades de viaje y generando contenido de marketing. ChatGPT también puede ayudar con las funciones administrativas y mejorar los servicios de valor agregado, como la ingeniería de menús y el desarrollo de recetas. Con soporte multilingüe, ChatGPT puede mejorar la experiencia de viaje en general y aumentar la satisfacción. El uso de ChatGPT en estas industrias puede revolucionar la comunicación con el cliente, mejorar el servicio, agilizar las operaciones y acceder a bancos de datos de conocimiento.

Según un estudio reciente[1], la inteligencia artificial, en particular la naturaleza generativa de ChatGPT, puede aportar nuevas ideas y conceptos y ayudar a los miembros del equipo humano a comprender mejor su problema y su espacio de solución. Tiene el potencial de convertirse en miembro de un equipo de innovación híbrido actuando como innovador en el proceso de desarrollo de nuevos productos. Además, informes recientes han demostrado que la IA puede desempeñar un papel en el desarrollo de software, ayudando con la escritura de código, automatizando tareas simples y gestionando errores en varias fases del desarrollo.

Desafíos del uso de LGAIM

Sesgo, seguridad, fiabilidad y privacidad

Estudios recientes[2] han destacado varias limitaciones y posibles consecuencias de las LGAIM, incluidos los sesgos, las interrupciones de las prácticas y las amenazas a la privacidad y la seguridad. Los LGAIM pueden perpetuar los sesgos presentes en sus datos de entrenamiento, lo que lleva a resultados discriminatorios para ciertos grupos de personas. Además, el uso de LGAIM puede interrumpir las prácticas establecidas, como los procesos de toma de decisiones en industrias como las finanzas y la atención médica. También existen preocupaciones sobre la seguridad y privacidad de los datos personales que recopilan y procesan los LGAIM. Si estos sistemas se ven comprometidos, podría tener consecuencias significativas tanto para las personas como para las organizaciones. Por lo tanto, es esencial abordar estas limitaciones y posibles consecuencias de los LGAIM para garantizar que se desarrollen y utilicen de manera ética y responsable.

Preparándonos para el futuro del trabajo

Un nuevo informe de Goldman Sachs sugiere que hasta dos tercios de los puestos de trabajo en EE. UU. y Europa podrían automatizarse hasta cierto punto. El informe señala que, si bien es probable que haya una interrupción significativa en el mercado laboral, históricamente, el progreso tecnológico no solo hace que los trabajos sean redundantes, sino que también crea otros nuevos. El uso de la tecnología de inteligencia artificial podría impulsar el crecimiento de la productividad laboral y aumentar el PIB mundial hasta en un 7 % con el tiempo. Ciertos trabajos, como los que requieren trabajo físico, tienen menos probabilidades de verse afectados significativamente. En los EE. UU., los trabajos de oficina y de apoyo administrativo tienen la mayor proporción de tareas que podrían automatizarse, seguidos por el trabajo legal y las tareas dentro de la arquitectura y la ingeniería. Se espera que países como Hong Kong, Israel, Japón, Suecia y EE. UU. sean los más afectados por la automatización de la IA. Sin embargo, aún no está claro cuán disruptiva será la IA en la realidad.

Necesidad de una pausa

Ejecutivos y académicos de la industria tecnológica, incluidos Elon Musk y Steve Wozniak, han firmado una carta abierta en la que piden una pausa de seis meses en los experimentos a gran escala con inteligencia artificial . La carta advierte que las empresas que investigan la IA están en una "carrera fuera de control" para desarrollar e implementar mentes digitales más poderosas que nadie puede entender, predecir o controlar. Pide a los gobiernos que intervengan si no se puede promulgar una pausa rápidamente, para evitar escenarios potencialmente apocalípticos, como el desarrollo de mentes no humanas que eventualmente podrían ser más astutas y reemplazarnos. Si bien algunos especialistas en ética critican la carta por centrarse en los daños teóricos, los organismos de control de la industria advierten que las empresas están probando nuevas tecnologías de inteligencia artificial en el público sin considerar consecuencias más amplias.

Llame para más investigación

A medida que la tecnología evoluciona rápidamente, es fundamental explorar e investigar diversos temas para lograr un equilibrio entre la IA y las capacidades humanas[3]. Para lograr este equilibrio, se necesita más investigación en las siguientes áreas:

  • Identificar las habilidades, los recursos y las capacidades necesarios para manejar de manera efectiva la IA generativa.
  • Examinar los sesgos potenciales que pueden surgir de los conjuntos de datos y procesos de entrenamiento y cómo mitigarlos.
  • Explorar los contextos empresariales y sociales más adecuados para implementar la IA generativa.
  • Determinar las combinaciones óptimas de IA humana y generativa para diversas tareas.
  • Desarrollar formas de evaluar la precisión y confiabilidad del texto producido por IA generativa.
  • Investigar las consideraciones éticas y legales que rodean el uso de la IA generativa en diferentes contextos.

Al abordar estos temas de investigación, podemos comprender mejor los beneficios y los inconvenientes potenciales de integrar la IA generativa en diversas industrias y contextos, al tiempo que nos aseguramos de que se implemente de manera responsable y ética.

👋 ¡Puedes escribir un artículo como este! Comparta sus pensamientos con una comunidad de servidores públicos. Aprende más

(Crédito de la imagen: Unsplash)