Este artigo foi escrito por Firdaus Imambaccus, um pesquisador social envolvido em um trabalho impactante sobre dados e ética da IA no Departamento de Emprego e Desenvolvimento Social do Canadá, e Hugo Morin, um economista comportamental que trabalha no mundo da Ética da IA no Departamento de Emprego e Desenvolvimento Social Canadá.

As opiniões expressas neste documento são exclusivamente dos autores e não refletem necessariamente as opiniões do Employment and Social Development Canada, nem as do Governo do Canadá.

  • O problema: a inovação no campo da inteligência artificial (IA) ocupou o centro do palco nos últimos dois anos com sua rápida evolução. Esse crescimento explosivo obrigou os envolvidos a se unirem e se alinharem em torno de princípios compartilhados para regular seu uso e mitigar seus riscos. No entanto, traduzir esses princípios e ideais na prática apresentou seus próprios desafios.
  • Por que é importante : Princípios orientadores e estruturas, embora necessários, dificilmente são eficazes se não forem colocados em prática. O desafio é descobrir como operacionalizar efetivamente esses ideais de uma forma que nos permita regular os sistemas de IA sem comprometer a inovação.
  • A solução: neste artigo, apresentamos estratégias e componentes críticos para a operacionalização da ética da IA, exemplificando-a por meio de um ecossistema de ciência de dados responsável. Esse ecossistema é um conjunto de ferramentas que podem ser aproveitadas como parte ou para apoiar estruturas éticas.

Vamos começar com uma declaração universal: todo mundo quer construir e usar sistemas de IA de maneira responsável, ética e imparcial . No entanto, exemplos dos impactos negativos e consequências dos sistemas de IA estão bem documentados. A prevalência desses riscos e a necessidade de mitigar sua atualização levaram ao surgimento crescente de estruturas éticas de IA, tanto no setor público quanto no privado. No entanto, essas estruturas éticas são muito parecidas com as tortas de maçã: ninguém realmente não gosta da ideia da torta, mas muito poucos são bons em assá-la com farinha e água até a perfeição crocante.

Isso então levanta a questão: como podemos operacionalizar esses princípios no mundo real ?

Dois lados da mesma moeda

Como em outras questões éticas, não há solução mágica para operacionalizar a ética da IA, pois sua aplicação varia de acordo com os contextos. No entanto, poderíamos categorizar seus componentes cruciais em dois temas interligados:

1. Conscientização e empoderamento

Um clássico na gestão de riscos ! A melhor ideia absoluta é totalmente inútil se ninguém estiver ciente dela.

Nesse contexto, a conscientização envolve educação e capacitação. As pessoas devem primeiro saber como distinguir IA de 'O Exterminador do Futuro' ou alguma tela de computador obscura de aparência extraterrestre. Quais são as capacidades da inteligência artificial? Quais são seus riscos? Como é alavancado no contexto dado?

O próximo passo é definir quais práticas críticas destacam a IA responsável. Quais são os regulamentos e políticas relevantes da base do desenvolvimento e uso responsável da IA? Quais são as melhores práticas para evitar a amplificação e reprodução de preconceitos sociais? A intervenção tecnológica é a melhor abordagem no contexto dado? Como Maslow apontou , "[É] tentador, se a única ferramenta que você tem é um martelo, tratar tudo como se fosse um prego."

2. Implementação de forte supervisão de governança de IA

Para garantir que as soluções de IA sejam desenvolvidas e implantadas com responsabilidade, os processos de governança desempenham um papel fundamental para garantir que os projetos e as pessoas envolvidas permaneçam em conformidade com os regulamentos, diretrizes e objetivos abrangentes relevantes ao longo do projeto, de maneira que não impede os fluxos de trabalho, a progressão do projeto e a inovação.

Enrole tudo!

As ferramentas e os processos de governança permitem que as pessoas incorporem a reflexividade em sua prática e avaliem continuamente a eficácia e os riscos das soluções de IA. No entanto, como as estruturas éticas e os regulamentos relevantes podem variar entre os contextos, seria praticamente impossível sugerir uma abordagem geral para a operacionalização da ética da IA.

Em vez disso, propomos um conjunto de ferramentas práticas que podem ser aproveitadas e mobilizadas em resposta às necessidades exclusivas do projeto (ou organizacional), empacotadas como parte de um ecossistema responsável de ciência de dados .

Por exemplo, esse ecossistema pode incluir:

  • Processos de governança automatizados A automação dos processos de governança agiliza o processo, garantindo privacidade, transparência, confiabilidade, responsabilidade e adesão aos regulamentos relevantes para o seu contexto.

  • Avaliações de imparcialidade Este poderia ser um canal onde o desempenho do modelo poderia ser testado com vários subgrupos da população, para determinar os resultados justos e equitativos do modelo.

  • Confiança nos dados Os indivíduos que solicitam o uso de dados podem ser orientados por meio de um processo coordenado envolvendo avaliação dos riscos, verificação da qualidade dos dados e sua relevância e, se necessário, uma revisão ética de alto nível.

  • Ferramenta de desafio ético Isso pode assumir a forma de uma ferramenta de função de desafio para apoiar o uso e desenvolvimento ético e responsável de ferramentas de IA e para abordar e mitigar os riscos associados. Isso pode ser tão simples quanto um conjunto de perguntas difíceis de responder, nas quais os usuários confrontam seus preconceitos implícitos e os riscos potenciais da solução são identificados e mitigados.

  • Capacitação Isso pode envolver a disseminação de recursos educacionais em torno de políticas, regulamentos ou diretrizes relevantes. Os recursos mais gerais, aumentando a conscientização organizacional sobre os principais problemas e as estratégias de mitigação de riscos, são tão cruciais quanto os treinamentos técnicos mais avançados. Ao desenvolver tais recursos, é importante estar ciente e sensível às necessidades do público-alvo. Além disso, também é uma boa prática envolver as partes interessadas com experiência e conhecimento variados do assunto no desenvolvimento dos recursos.

Dos exemplos fornecidos, vamos nos aprofundar nos desafios éticos. Com muita frequência, e particularmente com sistemas adquiridos de fornecedores terceirizados, considerações cruciais podem permanecer desaparecidas. Tais considerações podem ser:

Ninguém (e nenhum campo!) é uma ilha

Agora que as pessoas estão cientes e as ferramentas de governança adequadas estão em vigor, o trabalho ainda não está concluído. Devemos agora mudar nosso foco para a mentalidade que as pessoas devem adotar.

Cada campo tem seus próprios vieses, perspectivas e abordagens. Ao abordar a ética da IA por meio de lentes multidisciplinares, podemos construir pontes entre pessoas com diversas especialidades, conhecimentos e experiências; e no processo garantindo que uma multiplicidade de perspectivas e soluções sejam consideradas.

Se a IA está na adolescência, a ética da IA está na infância.

Ao fazer isso, somos encorajados a manter a mente aberta e confrontar criticamente como nossa origem, gênero, idade e área de especialização, para citar alguns, influenciam nossas opiniões sobre os problemas apresentados. Colaborar com pessoas de diferentes perspectivas ajuda a minimizar esses preconceitos e permite uma abordagem mais holística do problema e sua solução.

Essa mente aberta deve ser aliada à humildade. É importante evitar o desejo de controlar (o que pode ser difícil ao criar um programa do zero). O principal impulsionador no processo de operacionalização da IA responsável é ser humilde, receptivo e aberto ao feedback de outros especialistas e partes interessadas.

Recém-nascidos crescem rápido

Se a IA está na adolescência, a ética da IA está na infância. É um recém-nascido que é arrastado em todas as direções. Quando algumas linhas de código podem resultar em consequências prejudiciais não intencionais e sabendo que a codificação é viciante , limites e salvaguardas claros devem ser construídos, geralmente a partir de uma lousa em branco. No entanto, nosso desejo de produtividade e a crescente necessidade de eficiência também devem ser moderados. Essas questões estão se tornando mais complexas a cada dia que passa. Por esse motivo, provavelmente é melhor começar com uma estrutura ética rigorosa. De uma perspectiva de custo-benefício, os atrasos no projeto podem ser preferidos às consequências do uso antiético da IA. Da mesma forma, uma estrutura mal pensada pode inspirar muita confiança em nossas abordagens e talvez fazer com que sejamos menos críticos e minuciosos ao avaliar nossa solução.

Em última análise, a operacionalização da ética da IA continua sendo um delicado ato de equilíbrio que exige investimento de longo prazo de tempo e esforço. Como Matshona Dhliwayo disse uma vez : “As rosas não florescem apressadamente; pois a beleza, como qualquer obra-prima, leva tempo para florescer.

👋 Você pode escrever um artigo como este! Compartilhe suas ideias com uma comunidade de servidores públicos. Saiba mais .

(Crédito da imagem: Deep Mind, Unsplash)