Este artigo é uma entrevista entre Tom Orrell e Andrea Ulrich, dois vice-diretores de programas, e Mihai Postelnicu, vice-diretor de desenvolvimento de software em dados e organização digital, Development Gateway.

  • O problema: a IA generativa pode ser uma excelente ferramenta para organizações que procuram melhorar a sua produtividade, especialmente quando se trata de simplificar tarefas analíticas complexas, mas muitas não sabem como utilizá-la de forma ética e segura.
  • Porque é importante: Na Development Gateway (DG), o desenvolvimento e a implementação de uma política de IA foram considerados cruciais para navegar nas complexidades da IA ​​generativa, abordando questões éticas e garantindo a utilização responsável e eficaz destas ferramentas na melhoria dos fluxos de trabalho organizacionais.
  • A solução: a gestão da DG colaborou na criação de uma política de IA adaptável e orientada para a ação, apoiada por comunicação contínua, um comité interno e processos de triagem, para orientar o pessoal na utilização segura e eficaz de ferramentas de IA generativas no seu trabalho diário .

“Imagine uma IA que realmente fale a sua língua – e não apenas as suas palavras e sintaxe. Imagine uma IA que entende o contexto, as nuances e até o humor.

_ _

_Este não é mais apenas um conceito futurista – é a realidade do ChatGPT.” _

– Bernard Marr, 2023, Forbes

A IA generativa está passando por um momento. A funcionalidade de ferramentas como o ChatGPT da Open AI melhorou exponencialmente ao longo de 2023. Como resultado, a aplicabilidade da IA ​​generativa a tarefas analíticas complexas explodiu. As ferramentas de IA generativa são agora tão avançadas que podem ser usadas em ambientes de negócios para apoiar os desenvolvedores de programas a melhorar suas linhas de código e software, ajudar os analistas a debater ideias, apoiar o treinamento e a educação dos funcionários e aconselhar a equipe sobre o tom e a linguagem dos rascunhos de relatórios e e-mails , entre muitas outras tarefas. No entanto, eles permanecem longe de serem ferramentas perfeitas. As questões e incertezas relacionadas com a ética dos dados, a privacidade e os direitos de autor são apenas alguns dos desafios que têm de ser enfrentados ao utilizar ferramentas generativas de IA no local de trabalho.

Esteja preparado para atualizar continuamente o documento político para acompanhar os desenvolvimentos neste espaço.

Nos espaços de desenvolvimento sustentável e de políticas públicas, muitas organizações estão a considerar a utilização de ferramentas generativas de IA no seu trabalho. No entanto, muitos têm dificuldade em discernir que tipos de casos de utilização são eficazes, apropriados e seguros. Development Gateway , um IREX Venture, é um dos primeiros a adotar tecnologias generativas de IA e agora usa com segurança diversas ferramentas diferentes em seu trabalho diário. Um dos principais facilitadores disto para o Development Gateway foi a produção de uma “política de IA” interna.

Nesta entrevista com Andrea Ulrich , vice-diretora de programas e Mihai Postelnicu , vice-diretor de desenvolvimento de software da Development Gateway, Tom Orrell , diretor administrativo da DataReady, explora por que e como a Development Gateway produziu sua política de IA, como ela está ajudando a equipe de forma eficaz e usar com segurança ferramentas generativas de IA e quais conselhos eles darão para outras organizações e instituições que buscam seguir o exemplo.

Tom: Para começar, você poderia nos contar sobre o trabalho que o Development Gateway faz?

Andrea: Development Gateway: an IREX Venture é uma organização digital e de dados. Criamos ferramentas digitais e processos de design que ajudam a coletar, visualizar e usar dados para instituições mais responsáveis ​​e eficazes. Trabalhamos com ministérios da saúde, da educação e da agricultura em países de todo o mundo para melhorar a forma como utilizam os dados. Também apoiamos a melhoria da aprendizagem e da utilização de dados por instituições doadoras, como o Foreign, Commonwealth and Development Office do Reino Unido e o Global Affairs Canada.

Tom: Considerando o seu trabalho, por que foi importante para você desenvolver uma política de IA?

Mihai: A Development Gateway está envolvida há muito tempo na implementação de projetos digitais e de dados. Temos fortes equipes de desenvolvimento técnico e de programas. Dado o nosso interesse pela tecnologia em geral, quando as ferramentas generativas de IA começaram a fazer sucesso em 2022, as nossas equipas técnicas exploraram como poderiam ser aplicadas ao nosso trabalho. Dentro da equipe de tecnologia, tivemos a sorte de ter as habilidades e o conhecimento necessários para experimentar e testar informalmente as aplicações e limitações de novas ferramentas generativas de IA. Descobrimos que havia uma margem substancial para a sua aplicação tanto no nosso trabalho técnico como programático. No entanto, estávamos cientes de que muitos colegas em toda a organização podem ter dificuldade em compreender a melhor forma de utilizar as ferramentas, quais podem ser as suas limitações e quais os riscos que podem representar se forem utilizadas indevidamente. Foi aqui que surgiu pela primeira vez a necessidade de uma política de IA .

Andrea: Eu também acrescentaria que, com o tempo, também nos tornamos conscientes de muitos desafios e riscos mais amplos associados à IA generativa, por exemplo, o potencial para resultados tendenciosos, racistas ou sexistas, e questões relacionadas aos direitos autorais sobre os dados usados ​​para treinar. modelos generativos de IA. Ao mesmo tempo, os membros da equipe já estavam começando a usar ferramentas generativas de IA para debater ideias e até mesmo fazer cálculos orçamentários. Às vezes, as ferramentas executavam essas tarefas de maneira errada. Esta combinação de factores – conhecimento dos riscos externos envolvidos e uma necessidade pragmática de agir rapidamente para apoiar o pessoal – realçou realmente a necessidade de uma política de IA no Development Gateway.

💬 Deixe os autores saberem o que você pensa sobre os riscos e oportunidades da IA, deixando um comentário abaixo

Tom: Quais são alguns dos benefícios e riscos do uso de IA generativa no Development Gateway?

Mihai: As ferramentas generativas de IA são uma tecnologia incrível que tem o potencial de transformar a produtividade do escritório. Se usados ​​de maneira adequada e segura, podem turbinar a produção de qualquer tipo de documento, a escrita de código-fonte de software e outras coisas. Nossas equipes de desenvolvedores já experimentaram um aumento na produtividade ao usar as ferramentas para editar código, aprender novas técnicas de codificação e até mesmo aprender novas linguagens de codificação.

Andrea: Do lado dos Programas, utilizámos ferramentas generativas de IA para resumir grandes quantidades de dados qualitativos de entrevistas – depois de termos removido cuidadosamente todos os dados pessoais e sensíveis. Também estou ciente de que os funcionários para quem o inglês não é sua língua nativa usam ferramentas generativas de IA para verificar o tom dos e-mails e garantir que sejam claros e não inadvertidamente rudes ou ofensivos. Como organização global, trabalhamos em vários países e em vários idiomas, portanto, um caso de uso realmente útil de IA generativa para nós tem sido a tradução e a edição.

Mihai: Em termos de riscos, um dos grandes riscos que as ferramentas generativas de IA representam é o das ' alucinações '. As ferramentas de IA generativa são criativas por design, e isso significa que às vezes tendem a derivar para interpretações mais criativas de um problema do que você poderia esperar. Às vezes, eles podem simplesmente inventar informações para responder a um problema ou interpretá-las erroneamente. Isto significa que – pelo menos com a geração atual de ferramentas generativas de IA – é realmente importante garantir que os humanos sejam mantidos informados em todas as fases de entrada e saída de dados. Outros riscos que devemos estar atentos incluem a garantia de que os dados dos clientes não sejam utilizados indevidamente de qualquer forma e a garantia de que estamos cientes de quaisquer preconceitos que possam surgir à medida que os dados são processados.

Tom: Como você desenvolveu sua política de IA? Qual foi o processo?

Andrea: Sou uma grande fã de clareza e estrutura, principalmente quando se trata de orientação para os membros da equipe. Acredito que, uma vez que os funcionários tenham diretrizes claras e conheçam as limitações da sandbox, poderão ser livres para serem criativos e experimentar novas inovações dentro desses limites. Este pensamento, por um lado, conceder ao pessoal espaço para experimentar e, por outro lado, garantir que as protecções necessárias estavam implementadas, impulsionou o nosso processo de produção de políticas de IA.

Iniciamos o processo quando convidei a equipe de gestão para participar de uma força-tarefa para impulsionar o desenvolvimento da política. Uma vez estabelecida uma equipe de quatro pessoas, que representava tanto a equipe de programas quanto a de tecnologia, discutimos quais deveriam ser as etapas do processo:

  • Primeiro, realizamos uma revisão da literatura sobre políticas de IA, mas descobrimos que muito pouco já havia sido desenvolvido.
  • Em seguida, trabalhámos na compilação de uma base de dados de todas as ferramentas generativas de IA já utilizadas pelo pessoal da organização.
  • Assim que obtivemos esta informação, começámos a elaborar uma política estruturada em torno de duas componentes: i) orientação para o pessoal sobre como avaliar ferramentas generativas de IA; e, ii) orientação sobre como usar ferramentas de IA aprovadas.
  • Finalmente, realizamos duas rodadas de feedback sobre o rascunho; primeiro com a alta administração e depois com oito colegas de toda a organização. Em seguida, alteramos a política com base no feedback.

As rodadas de feedback no final do nosso processo de redação foram muito importantes. Ao garantir que o pessoal de todos os níveis da organização pudesse contribuir para o processo, garantimos que este realmente respondesse às suas necessidades e fosse orientado para a prática.

Tom: Você pode resumir brevemente a política?

Andrea: Nossa política de IA é muito orientada para a ação e adaptável. Abrange simplesmente a razão pela qual a política é necessária, a quem se aplica, como avaliar as ferramentas generativas de IA para garantir que são eficazes e seguras e quem contactar se for necessária mais informação ou apoio. A política é complementada por um banco de dados cada vez maior de casos de uso e ferramentas auditadas.

Orientação sobre a triagem de ferramentas generativas de IA da política de IA do Development Gateway

Antes de começar a usar uma nova ferramenta, execute as seguintes etapas:

1. Determine se esta ferramenta foi aprovada consultando a seção “Ferramentas” desta política, bem como a seção “Casos de uso”. Seu caso de uso foi aprovado? A ferramenta que você deseja que seja aprovada na planilha?

  • Se sim para ambas as perguntas: Ótimo! Você Terminou. Certifique-se de seguir as diretrizes de caso de uso.
  • Se a ferramenta for aprovada, mas não de acordo com a forma como você planeja usá-la, vá para a etapa 2.
  • Não, esta é uma nova ferramenta. Vá para a etapa 2.

2. Defina como você espera usar a ferramenta (até onde você sabe)

  • Quais dados ou informações você inserirá na ferramenta?
  • Isto é para uso interno (somente olhos DG) ou uso externo?
  • Há alguma preocupação ou restrição de privacidade relacionada às informações que você está inserindo?

3. Faça uma avaliação de como a ferramenta utiliza seus dados.

  • Verifique os termos e condições. Eles cobrem se/como seus dados são compartilhados com terceiros?
  • Eles usam seus dados de entrada para dados de treinamento? Em caso afirmativo, existe uma maneira de desativar esse recurso?

4. Com base nas informações das Etapas 2 e 3, você tem alguma preocupação com o uso da ferramenta?

  • Não. Ótimo! Informe-nos e comece a usar a ferramenta para seu caso de uso.
  • Sim. Não use a ferramenta! Por favor, avise-nos para que possamos analisá-lo melhor.
  • Você não tem certeza ou precisa de mais conselhos. Informe-nos para que um membro do comitê possa ajudá-lo a avaliar melhor.

Gostaria de salientar que um dos nossos principais objectivos no desenvolvimento desta política não foi apenas uma política, mas um processo . Este processo permite constante reflexão, discussão, triagem de ferramentas e experimentação. Isto é muito importante para nós porque o espaço generativo da IA ​​continua a evoluir muito rapidamente. Para tanto, contamos com duas camadas de apoio que circundam a política. Temos um comitê interno que analisa as perguntas dos funcionários e apoia a interpretação e utilização das políticas. Também temos um canal Slack ao vivo, bem como um endereço de e-mail dedicado, que todos os funcionários podem acessar e usar para entrar em contato conosco em caso de dúvidas.

Mihai: Na prática, a política prevê um processo de três fases na triagem da adequação das ferramentas de IA generativas para utilização no Development Gateway. Primeiro, os funcionários podem verificar a lista existente de ferramentas avaliadas para ver se a ferramenta que pretendem utilizar já foi aprovada ou excluída. Em segundo lugar, se a ferramenta que pretendem utilizar não tiver sido aprovada, podem analisá-la eles próprios, utilizando as directrizes da política como referência. Finalmente, notificam o comité de IA sobre a investigação que realizaram e o resultado do exercício de triagem.

Trecho da Política de IA da DG

Mesmo para ferramentas e casos de uso aprovados, você deve seguir as seguintes orientações:

1. Você deve seguir as orientações estabelecidas nos documentos de casos de uso e ferramentas .

2. Seja transparente sobre o uso de ferramentas de IA interna e externamente

  • Se você estiver trabalhando em um projeto, deverá pedir consentimento ao cliente antes de usar ferramentas generativas de IA.
  • Você também deve divulgar à sua equipe de projeto quando tiver usado uma ferramenta de IA generativa para trabalho interno ou de cliente.

3. Não insira informações confidenciais ou de clientes

  • Não insira quaisquer informações confidenciais de clientes ou informações internas da DG ou informações pessoais de membros da equipe da DG ou partes interessadas nos projetos (por exemplo, nomes de informantes-chave entrevistados) em ferramentas de IA generativas, a menos que existam diretrizes de segurança de dados em vigor. Qualquer violação deste processo é considerada uma violação da política de privacidade de dados da DG.

4. A revisão é obrigatória

  • Se o cliente e a equipe concordarem em usar ferramentas de IA generativa, você deverá revisar todos os resultados da IA ​​generativa. Muitas vezes os dados produzidos estão desatualizados ou incorretos, por isso é necessária uma revisão completa. Isto é muitas vezes chamado de “human-in-the-loop” e é uma expectativa obrigatória de todos os consultores e funcionários da DG.

Tom: Finalmente, que conselho você daria a outras organizações com fins sociais e instituições públicas que buscam desenvolver suas próprias políticas de IA?

Andrea: Minhas três principais reflexões são:

  • Certifique-se de incluir uma ampla gama de indivíduos e funções no desenvolvimento da política. Nossa política foi bastante melhorada ao passar por um ciclo de feedback com colegas que já usavam ferramentas generativas de IA.
  • Não se desconsidere do processo de desenvolvimento de uma política de IA só porque não tem certeza sobre como funciona a IA generativa. Há uma tendência para as pessoas que se deparam com algo técnico dizerem: “isto é algo que deve ser tratado pela TI”, mas devido à natureza destas ferramentas, é realmente importante que uma série de vozes sejam incluídas no processo de desenvolvimento de políticas .
  • É importante enfatizar excessivamente a importância da comunicação, em particular a comunicação bidirecional que permite discussões e reflexões internas para impulsionar a aprendizagem em toda a organização.

Mihai: Minhas três principais reflexões são:

  • Não espere para iniciar uma conversa sobre como essas ferramentas podem ser utilizadas em seu trabalho. Mesmo que você não ache que elas sejam relevantes, pode ser que alguns outros colegas de trabalho já estejam usando ferramentas generativas de IA. É muito importante iniciar a conversa o mais rápido possível e iniciar um processo para discernir como é o uso apropriado e seguro de ferramentas generativas de IA em seu contexto.
  • Esteja preparado para atualizar continuamente o documento político para acompanhar os desenvolvimentos neste espaço.
  • Há benefícios em ser um dos primeiros a adotar a tecnologia de IA generativa. Essas ferramentas podem realmente funcionar a seu favor e dar a você e à sua organização uma vantagem competitiva. Eles são relativamente seguros para uso em muitos contextos, desde que sejam implementadas proteções e haja um processo claro para selecionar ferramentas e casos de uso.

Mais informações sobre a Política de IA do Development Gateway podem ser encontradas aqui : Se você tiver alguma dúvida sobre o trabalho do Development Gateway ou sua política de IA, entre em contato com aulrich@developmentgateway.org e mpostelnicu@developmentgateway.org .

  1. Conforme definido na Política de Dados da DG, “Dados Sensíveis” significa todos os outros dados, não Pessoais, que: (i) não estão disponíveis ao público (confidenciais); (ii) os parceiros do projeto/programa não querem que seja tornado público (ou seja tornado público apenas após a limpeza); ou (iv) de propriedade (parcial ou total) de terceiros que exijam consulta e/ou aprovação antes que os dados possam ser publicados. Isto inclui, por exemplo, segredos comerciais, novas tecnologias, software proprietário e quaisquer conversas confidenciais partilhadas em entrevistas CALM que sejam consideradas confidenciais. Para qualquer ferramenta de IA que retenha e partilhe dados com terceiros, isto também inclui documentação não pública (por exemplo, documentos de estratégia, avaliações, relatórios de programas, etc., que podem ser partilhados com a DG como parte de uma avaliação, mas não estão disponíveis publicamente). .

Terminou de ler? Certifique-se de compartilhar suas próprias idéias sobre a política de IA, deixando um comentário abaixo ⬇️

(Crédito da imagem: Pexels )