Por que o setor público precisa de melhores regras, e não de mais regras, para a IA

Este artigo foi escrito por Gianluca Sgueo, École d'Affaires Publiques, Sciences Po

Foi encomendado e publicado como parte do Government AI Campus — uma iniciativa da A Political para preparar funcionários públicos e legisladores para liderar na era da IA.

Muitos ficaram chocados ao lê-lo: um estudo realizado com 14.000 trabalhadores em 14 países, publicado em Novembro de 2023, revelou que mais de metade desses trabalhadores utilizam IA generativa no trabalho sem autorização oficial, e 40% são imprudentes o suficiente para utilizar ferramentas de IA proibidas. É como se o estudo dissesse: não adianta parar o avanço da automação porque os primeiros a quererem isso são os trabalhadores comuns, não as empresas.

O mesmo se aplica ao setor público?

Apenas parcialmente, e provavelmente não pelas razões que muitos pensam.

Por um lado, a automação, alimentada pela Inteligência Artificial (IA) e pela aprendizagem automática, é cada vez mais adotada em vários setores da administração pública, desde a saúde e transportes até ao planeamento urbano e à gestão ambiental. Desde 2022, Singapura emprega assistentes virtuais orientados por IA para agilizar os seus serviços públicos. Estes assessores digitais não só orientam os cidadãos através dos processos governamentais, mas também ajudam a tornar as decisões administrativas internas mais eficientes. Outro exemplo: ao longo da última década, a Estónia automatizou uma parte significativa dos seus serviços públicos, incluindo a residência eletrónica, a tributação eletrónica e a votação digital, tornando a administração pública altamente eficiente e transparente.

“A mensagem subjacente é clara: mesmo uma administração pública altamente automatizada depende de um capital humano significativo.”

A verdade, porém, é que o processo de automatização dos serviços públicos tem sido muito mais lento, fragmentado e esporádico em comparação com outras áreas da economia. Existem duas razões importantes para isso:

Em primeiro lugar , a implantação de tecnologias de ponta nas administrações públicas é geralmente mais lenta do que no mercado devido à resistência à inovação, à falta de financiamento, aos cortes orçamentais e à inadequação de competências. Em 2019, o Observatório da Inovação do Sector Público (OPSI) da OCDE publicou um artigo saudando a utilização da Inteligência Artificial no sector público, mas descreveu apenas 7 estudos de caso (a maioria dos quais eram apenas directrizes ou directivas). Objectivamente, a situação não parece ter mudado radicalmente desde então.

Em segundo lugar , as administrações públicas são menos incentivadas a apoiar a automatização. Apesar de ser um grande comprador de bens, serviços e mão-de-obra, a organização média do sector público não reage às mudanças no ambiente alterando radicalmente a sua abordagem e estrutura. As organizações do sector público têm normalmente respondido às exigências recorrentes e à pressão pública no sentido de uma maior eficiência e redução de custos, adoptando abordagens mais tradicionais, como a reestruturação do pessoal, a criação de novas agências ou políticas de recrutamento de altas competências, mas apenas por períodos limitados de tempo. Tomemos o exemplo da actual Comissão Europeia. Dada a sua ambição de definir um quadro de regras maduro e flexível no que diz respeito às tecnologias (dados, mercados e serviços digitais e, claro, IA), desde 2022, a Comissão iniciou uma campanha de recrutamento em busca de conhecimentos especializados essenciais para a gestão altamente dossiês técnicos – competências que lhe faltavam em grande parte, uma vez que estas eram tradicionalmente pouco atractivas para o sector público. Estes incluem, por exemplo, especialistas em ciência de dados, advogados de concorrência digital e auditores algorítmicos. A Comissão recorreu principalmente ao recrutamento a termo certo de agentes contratuais ou temporários. Esta mão-de-obra altamente especializada empregada pela Comissão irá, no final dos seus contratos de seis anos (geralmente não renováveis), mudar para novos empregos. Podemos esperar que surja em breve um problema de continuidade da acção administrativa.

Além disso , a automatização dos serviços públicos cria novos desafios de gestão. Quem é responsável em caso de erro de algoritmo? Há um precedente para isso: o governo de Mark Rutte caiu em 2023 na sequência de um escândalo criado por um viés algorítmico . Mas o mesmo pode não acontecer necessariamente em outras situações. Outro problema: como é que uma decisão pública automatizada garante a inclusão e a transparência? A maioria destas questões permanece sem resposta ou foi respondida parcial e inadequadamente.

Então, deveríamos ou não nos preocupar com a automação dos serviços públicos, e o que deveríamos esperar da automatização dos serviços públicos?

Muitos acreditam que todos os aspectos problemáticos relacionados com a IA e a automatização (incluindo a automatização dos serviços públicos) podem ser resolvidos através de regulamentação : “novas regras”, onde não existem, ou “melhores regras”, onde existem. De acordo com o Global AI Legislation Tracker , esforços legislativos estão sendo feitos em todo o mundo, incluindo tentativas de criar legislação abrangente para casos de uso específicos ou diretrizes e padrões voluntários. O Índice de IA de 2023 da Universidade de Stanford mostra que, globalmente, 37 projetos de lei relacionados à IA foram aprovados em lei em 2022. Mas a legislação por si só não resolve nenhum dos problemas que retardam a automação no setor público, muito menos aqueles que o tornam inseguro. o ponto de vista dos direitos.

Em primeiro lugar , o instrumento jurídico é incompatível com sistemas tecnológicos que evoluem cada vez mais rapidamente, gerando novos riscos associados à sua utilização. A negociação da Lei Europeia da IA, por exemplo, estagnou justamente quando parecia estar no bom caminho. A razão? Os interesses nacionais na tecnologia emergente e na IA generativa escaparam às regras até então.

Em segundo lugar , uma administração pública totalmente automatizada, apesar da sua eficiência, não seria tão boa. Entre os quatro cenários produzidos pela simulação “ O Futuro do Governo ”, realizada pela Comissão Europeia entre 2018 e 2019, imaginava-se que os serviços públicos orientados pela IA seriam oferecidos de forma individualizada e preditiva aos cidadãos, mas à custa de suas liberdades.

Não regras então, mas regras melhores. Isso pode significar muitas coisas, é claro. Aqui estão dois realmente essenciais: Um é repensar o design das interações digitais , abandonando para sempre o paradigma de simplicidade a que a tecnologia nos habituou. Outra está constantemente a formar funcionários públicos, ao mesmo tempo que recruta temporariamente as competências mais especializadas. A mensagem subjacente é clara: mesmo uma administração pública altamente automatizada depende de um capital humano significativo.

O Estado, depois da pandemia, está poderosamente de volta ao mercado. A automação vira o cenário de cabeça para baixo: quanto mercado queremos dentro do estado?

👋 Você pode escrever um artigo como este! Compartilhe suas idéias com uma comunidade de servidores públicos. Saber mais

(Crédito da imagem: Unsplash)