Este artigo foi escrito por Mehrdad Safaei, analista de dados e IA da Canada School of Public Service (CSPS), o grupo da Digital Academy envolvido no desenvolvimento de cursos de dados e IA para funcionários públicos do Canadá.

As opiniões expressas neste documento são exclusivamente do autor e não refletem necessariamente as opiniões da Escola de Serviço Público do Canadá (CSPS), nem as do Governo do Canadá.

  • O problema: grandes modelos de IA generativa (LGAIMs), como ChatGPT e Stable Diffusion, estão transformando a indústria em ritmo acelerado, mas trazem desafios e também benefícios.
  • Por que é importante: precisamos garantir que os LGAIMs sejam usados de forma responsável e ética para minimizar seus possíveis danos.
  • A solução: desenvolver estratégias eficazes para enfrentar os desafios das novas tecnologias generativas de IA.

Imagem das ferramentas de IA Figura 1: Ferramentas de Inteligência Artificial / DALL.E

À medida que a inteligência artificial (IA) continua a evoluir, grandes modelos generativos de IA (LGAIMs), como ChatGPT e Stable Diffusion , estão transformando a maneira como trabalhamos e nos comunicamos. No entanto, com grandes poderes vêm grandes responsabilidades. Nesta postagem do blog, examinaremos mais de perto as oportunidades e os desafios do uso do ChatGPT em vários setores, incluindo bancos, hotelaria, turismo e tecnologia da informação.

Um dos benefícios mais significativos do ChatGPT é sua capacidade de aprimorar atividades de negócios, como gerenciamento e marketing. No entanto, também há possíveis consequências a serem consideradas, como preconceitos, interrupções nas práticas e ameaças à privacidade e à segurança. Para abordar essas preocupações, mais pesquisas são necessárias. Isso inclui identificar as habilidades e recursos necessários para lidar com IA generativa, examinar vieses atribuíveis a conjuntos de dados de treinamento, explorar contextos mais adequados para implementação de IA generativa, determinar o equilíbrio ideal de IA humana e generativa para várias tarefas, avaliar a precisão do texto produzido por generativa IA e descobrir questões éticas e legais no uso de IA generativa em diferentes contextos.

No centro desta discussão está a necessidade de uso responsável de LGAIMs. À medida que exploramos o potencial dessas ferramentas poderosas, também devemos considerar seu impacto na sociedade e nos indivíduos. Ao desenvolver estratégias eficazes para enfrentar esses desafios, podemos garantir que os LGAIMs sejam usados de forma responsável e ética, maximizando seus benefícios potenciais e minimizando seus danos potenciais.

Grandes modelos de IA generativa (LGAIMs)

Grandes modelos de IA generativa (LGAIMs) são um tipo de algoritmo de aprendizado de máquina não supervisionado ou semi-supervisionado que usa conteúdo existente como texto, imagens, áudio, vídeo e até mesmo código para criar novo conteúdo que se assemelha à linguagem humana, imagens ou som. Seu principal objetivo é gerar conteúdo original que pareça real e de autoria humana, como texto sofisticado. LGAIMs como GPT-4 (Transformador Pré-treinado Gerativo 4) ou Difusão Estável são treinados em conjuntos de dados massivos e podem produzir saídas altamente sofisticadas. Suas aplicações potenciais são numerosas, incluindo chatbots, processamento de linguagem natural e geração de conteúdo.

Os LGAIMs atuais, como GPT-4 e Stable Diffusion, são alguns dos modelos de IA mais avançados disponíveis atualmente. O GPT-4 é um modelo de geração de linguagem criado pela OpenAI que pode produzir texto altamente sofisticado que muitas vezes é indistinguível do texto escrito por um ser humano. Ele foi treinado em uma enorme quantidade de dados da internet e pode executar uma ampla gama de tarefas de linguagem, incluindo tradução, resumo e resposta a perguntas. Por outro lado, Stable Diffusion é um modelo generativo que pode produzir imagens e vídeos de alta qualidade. Baseia-se num processo de difusão que lhe permite gerar imagens complexas com texturas e formas realistas. Tanto o GPT-4 quanto o Stable Diffusion são exemplos de LGAIMs que têm o potencial de transformar a maneira como nos comunicamos, criamos e inovamos. No entanto, eles também apresentam desafios éticos e legais significativos, e é crucial considerar cuidadosamente suas implicações para a sociedade e os indivíduos.

Oportunidades de usar LGAIMs

Aplicações nos setores bancário, hoteleiro, turístico e de tecnologia da informação

A integração da tecnologia no setor bancário não é um fenômeno novo, pois os bancos sempre adotaram novas tecnologias para transformar suas operações. Com o surgimento do ChatGPT, há uma oportunidade para os bancos explorarem suas possíveis aplicações no marketing de serviços financeiros, análise de dados e aprimoramento das experiências do cliente. No entanto, dada a alta regulamentação do setor bancário, a adoção de tecnologia costuma ser explorada estrategicamente. O ChatGPT pode ser usado para criação de conteúdo, apelos emocionais e ofertas personalizadas ao cliente. Embora apresente oportunidades para os bancos, as limitações e possíveis consequências precisam ser consideradas. A confiança na prestação de serviços e o impacto nos consumidores vulneráveis são algumas das preocupações que precisam ser abordadas. Espera-se que os bancos invistam em infraestrutura e explorem capacidades técnicas e recursos humanos para integrar o ChatGPT em suas estratégias de transformação digital existentes.

A utilização do ChatGPT pode ajudar tanto turistas como organizações, fornecendo informações rápidas e precisas, criando roteiros de viagem, recomendando serviços e atividades turísticas e gerando conteúdo de marketing. O ChatGPT também pode ajudar com funções de back-office e aprimorar serviços de valor agregado, como engenharia de menu e desenvolvimento de receitas. Com suporte multilíngue, o ChatGPT pode melhorar a experiência geral de viagem e aumentar a satisfação. O uso do ChatGPT nessas indústrias pode revolucionar a comunicação com o cliente, melhorar o atendimento, agilizar operações e acessar bancos de dados de conhecimento.

De acordo com um estudo recente[1], a inteligência artificial, particularmente a natureza generativa do ChatGPT, pode contribuir com novas ideias e conceitos e ajudar os membros humanos da equipe a entender melhor seu problema e espaço de solução. Tem potencial para se tornar membro de uma equipe híbrida de inovação, atuando como inovador no processo de desenvolvimento de novos produtos. Além disso, relatórios recentes mostraram que a IA pode desempenhar um papel importante no desenvolvimento de software, auxiliando na escrita de códigos, automatizando tarefas simples e gerenciando erros em várias fases do desenvolvimento.

Desafios do uso de LGAIMs

Viés, segurança, confiabilidade e privacidade

Estudos recentes[2] destacaram várias limitações e possíveis consequências dos LGAIMs, incluindo vieses, interrupções nas práticas e ameaças à privacidade e à segurança. Os LGAIMs podem perpetuar vieses presentes em seus dados de treinamento, levando a resultados discriminatórios para certos grupos de pessoas. Além disso, o uso de LGAIMs pode interromper práticas estabelecidas, como processos de tomada de decisão em setores como finanças e saúde. Também há preocupações com a segurança e a privacidade dos dados pessoais que os LGAIMs coletam e processam. Se esses sistemas forem comprometidos, isso poderá ter consequências significativas para indivíduos e organizações. Portanto, é essencial abordar essas limitações e possíveis consequências dos LGAIMs para garantir que sejam desenvolvidos e usados de maneira ética e responsável.

Preparando-se para o futuro do trabalho

Um novo relatório do Goldman Sachs sugere que até dois terços dos empregos nos EUA e na Europa poderiam ser automatizados até certo ponto. O relatório observa que, embora seja provável uma ruptura significativa no mercado de trabalho, historicamente, o progresso tecnológico não apenas torna os empregos redundantes, mas também cria novos. O uso da tecnologia de IA pode aumentar o crescimento da produtividade do trabalho e aumentar o PIB global em até 7% ao longo do tempo. Certos trabalhos, como aqueles que exigem trabalho físico, têm menos probabilidade de serem significativamente afetados. Nos Estados Unidos, os trabalhos de suporte administrativo e de escritório têm a maior proporção de tarefas que podem ser automatizadas, seguidos por trabalhos jurídicos e tarefas de arquitetura e engenharia. Espera-se que países como Hong Kong, Israel, Japão, Suécia e Estados Unidos sejam os mais afetados pela automação de IA. No entanto, ainda não está claro o quão disruptiva a IA será na realidade.

Necessidade de uma pausa

Executivos e acadêmicos da indústria de tecnologia, incluindo Elon Musk e Steve Wozniak, assinaram uma carta aberta pedindo uma pausa de seis meses em experimentos em larga escala com inteligência artificial . A carta adverte que as empresas que pesquisam IA estão em uma “corrida fora de controle” para desenvolver e implantar mentes digitais mais poderosas que ninguém pode entender, prever ou controlar. Ele pede que os governos intervenham se uma pausa não puder ser decretada rapidamente, para evitar cenários potencialmente apocalípticos, como o desenvolvimento de mentes não humanas que poderiam eventualmente nos superar e nos substituir. Enquanto alguns especialistas em ética criticam a carta por se concentrar em danos teóricos, os vigilantes do setor alertam que as empresas estão testando novas tecnologias de IA no público sem considerar as consequências mais amplas.

Chamada para mais pesquisas

À medida que a tecnologia evolui rapidamente, é crucial explorar e pesquisar vários tópicos para encontrar um equilíbrio entre a IA e as capacidades humanas[3]. Para alcançar esse equilíbrio, mais pesquisas são necessárias nas seguintes áreas:

  • Identificar as habilidades, recursos e capacidades necessárias para lidar efetivamente com a IA generativa.
  • Examinar os possíveis vieses que podem surgir de conjuntos de dados e processos de treinamento e como mitigá-los.
  • Explorando os contextos sociais e de negócios mais adequados para a implementação de IA generativa.
  • Determinar as combinações ideais de IA humana e generativa para várias tarefas.
  • Desenvolver maneiras de avaliar a precisão e a confiabilidade do texto produzido pela IA generativa.
  • Investigando considerações éticas e legais em torno do uso de IA generativa em diferentes contextos.

Ao abordar esses tópicos de pesquisa, podemos entender melhor os possíveis benefícios e desvantagens da integração da IA generativa em vários setores e contextos, garantindo que seja implementada de maneira responsável e ética.

👋 Você pode escrever um artigo como este! Compartilhe suas ideias com uma comunidade de servidores públicos. Saber mais

(Crédito da imagem: Unsplash)