Governos em todos os lugares estão anunciando novas estratégias para inteligência artificial. Da França, que prometeu $ 1,85 bilhão em financiamento para pesquisas no campo, para o Canadá, que planeja cultivar um lote de especialistas em IA em suas universidades, está claro que os líderes políticos veem a IA como uma área em que precisam se aprimorar rapidamente.

Além de ser uma oportunidade econômica, a IA também pode ser implantada para reformar os serviços públicos. Mas algum cuidado é necessário: para cada benefício, parece haver um perigo correspondente. Os chamados "sistemas automatizados de tomada de decisão" já foram mostrados em vários casos como tendo [efeitos malignos](https://apolitical.co/solution_article/new-york-writes-new-rules-to-rein- no governo por algoritmo /) nas vidas dos cidadãos. Como o governo deve regular a adoção da IA, se é que deve, continua em disputa.

• Para mais informações sobre o assunto, consulte nosso governo digital newsfeed.

Para funcionários públicos prestes a entrar neste mundo, tudo pode parecer um pouco opressor. Aqui está o que você precisa saber sobre o debate:

Qual é o problema com a IA?

Os funcionários públicos têm usado ferramentas computacionais - “sistemas de decisão automatizados” - para aconselhar e orientar suas decisões há anos. Ao processar grandes quantidades de dados para avaliar a probabilidade de ocorrência de certos eventos ou para medir o desempenho, os algoritmos podem atuar como guias para os servidores públicos.

A IA se baseia nisso. Ele permite que sistemas automatizados aprendam enquanto trabalham, adaptando-se com o tempo para melhorar seu desempenho. Muitos governos já os estão usando e estão começando a experimentar o aprendizado de máquina. Eles podem ser altamente eficazes, mas trazem perigos.

“Quando a automação e a IA são usadas no governo, os direitos das pessoas afetadas por ela devem ser respeitados como se um ser humano estivesse tomando a decisão”

Por exemplo, em Arkansas, EUA, o estado usou uma ferramenta automatizada de tomada de decisão , alimentado por um algoritmo, para calcular o número de horas de assistência médica Medicaid que pessoas com deficiências graves poderiam receber. Mas uma investigação legal descobriu que havia um erro no código - o que significa que muitos tiveram suas horas reduzidas indevidamente.

Os problemas com tal sistema se aplicam à IA. Quando um algoritmo complexo usa uma massa complicada de dados para chegar a uma decisão, ou mesmo a uma recomendação, pode ser extremamente difícil abrir o capô e vasculhar os dados para encontrar a falha.

O que os governos devem fazer?

Alguns argumentam que novos direitos para os cidadãos, adaptados à era digital, precisam ser consagrados. “Como cidadão, como ser humano ... quais são os seus direitos no contexto da tomada de decisão automatizada e baseada em dados?” perguntou Meredith Whittaker do [Instituto AI Now] da Universidade de Nova York (https://ainowinstitute.org/) em um painel em uma recente Parceria de Governo Aberto cume.

“Quando a automação e a IA são usadas no governo, os direitos das pessoas afetadas por ela devem ser respeitados como se um ser humano estivesse tomando a decisão”, disse ela. Whittaker argumentou que, com demasiada frequência, eles se perdem à medida que o governo se esforça para obter eficiência e economia de custos.

Melanie Robert, uma das principais autoridades públicas que dirigem a estratégia de IA do Canadá que falava no mesmo painel, disse agora, enquanto os governos planejam seu Estratégias de IA, é o momento perfeito para consagrar esses direitos na estratégia do governo. Mas, ela reconheceu, “é muito difícil agora para os funcionários públicos que são reguladores e legisladores, porque você não quer ir muito rápido para sufocar a inovação”.

A abordagem do Canadá é reunir uma equipe multidisciplinar de especialistas - advogados, especialistas em tecnologia, filósofos - para investigar quais efeitos a IA pode ter na vida e nos direitos das pessoas quando usada dentro do governo. Ele usará a consulta para informar uma estrutura ética. Robert temia que pressionar muito a regulamentação sem um processo de pesquisa completo sufocaria quaisquer benefícios.

Nem todos concordam. “Tenho lutado por isso há vinte e tantos anos”, disse Gus Hosein, diretor executivo da Privacy International, uma instituição de caridade com sede em Londres , no painel. Para Hosein, é preciso haver testes muito mais rigorosos das maneiras como o governo coleta dados, mesmo antes de abordarmos a questão de como abordar a IA. As apostas são muito altas e o perigo para os direitos muito significativo - para ele, a inovação e o desenvolvimento econômico devem ser uma preocupação secundária.

O que já está funcionando?

Na França, Etalab, o Gabinete do Primeiro Ministro encarregado de dados abertos e governo aberto, está investigando as aplicações da IA aos serviços públicos . Ele está trabalhando para consagrar a transparência desde o projeto na abordagem do governo, garantindo que, para cada algoritmo ou sistema usado, o público será capaz de acessar seu funcionamento interno. Para a diretora da Etalab, Laure Lucchesi, essa abordagem é amplamente aceita dentro do governo, “mas é realmente um desafio torná-la eficaz para os cidadãos”.

As razões para isso se resumem à complexidade dos sistemas e à disponibilidade de conhecimento técnico tanto no governo quanto na sociedade civil. Às vezes, até mesmo os engenheiros que constroem os sistemas automatizados usados pelo governo têm dificuldade entender como eles trabalham.

Para lidar especificamente com o problema de acesso público e responsabilidade governamental, o AI Now de Nova York desenvolveu processos para examinar adequadamente os sistemas automatizados quando são usados para auxiliar na tomada de decisões.

O instituto argumenta que os departamentos governamentais devem completar "avaliações de impacto da IA" antes para implementar qualquer ferramenta de análise de IA ou Big Data. Os especialistas devem ter acesso a algoritmos, até mesmo sistemas proprietários desenvolvidos por empresas com fins lucrativos, e devem ser tornados compreensíveis para as pessoas cujas vidas eles afetam. - Anoush Darabi

(Crédito da foto: Flickr / M U)