** _ Este artigo de opinião foi escrito por Krzysztof Izdebski, Diretor de Políticas, ePaństwo Foundation co-autor do recente relatório sobre alGOVrithms. Para obter mais informações sobre o assunto, consulte nosso feed de notícias digitais do governo ._ **

Se hoje existe uma falta generalizada de confiança nos governos, temos então - como cidadãos - também o direito de desconfiar das ferramentas que nos são fornecidas pela administração pública?

Uma resposta a esta difícil questão está se tornando muito urgente na tomada de decisão automatizada de campo e AI.

A tomada de decisão automatizada é um sistema que usa o raciocínio automatizado para auxiliar ou substituir um processo de tomada de decisão que de outra forma seria executado por humanos e recentemente se tornou um tema quente discutido em várias conferências e reuniões de política.

_• Quer escrever para nós? Dê uma olhada no [guia para colaboradores] do Apolitical (https://apolitical.co/opinion-writing-becoming-an-apolitical-contributor/) _

Cada vez mais governos mostram envolvimento nesses debates elaborando suas estratégias ou - em alguns casos raros, como Canadá ou França - preparando regulamentações concretas.

Ainda assim, muitos governos parecem tratar o tópico como a base para a implementação da Inteligência Artificial em procedimentos administrativos ou judiciais, em vez de se concentrarem na situação real.

** Algoritmos de jardim de infância **

Na cidade polonesa de Wrocław, as autoridades locais implementaram uma ferramenta de software para organizar o recrutamento de pessoal para jardins de infância locais. De acordo com pais frustrados, no entanto, o processo está longe de ser perfeito.

Um dos pais entrevistado pela estação de notícias local disse que “para ter acesso a informações de recrutamento atualizadas, nós precisamos se organizar nas redes sociais, comparar resultados, coletar erros, informar o escritório de quaisquer deficiências, interrogar policiais que estão completamente despreparados para fornecer informações e que nos enviam de volta para outros funcionários igualmente desinformados. Então, escrevemos para instituições apropriadas sem receber nenhuma resposta. ”

Este exemplo ilustra como a falta de políticas em torno da tomada de decisão automatizada pode minar a confiança das autoridades públicas e dos serviços que fornecem ao público. E o problema não se limita a uma cidade ou a um país.

** Apesar do debate em andamento sobre os perigos da influência dos algoritmos sobre os direitos humanos, não identificamos nenhuma política governamental geral existente em relação à implementação de algoritmos em nenhum dos países participantes da pesquisa **

É um fenômeno comum revelado no recente relatório sobre “alGOVrithms. O estado do jogo. Relatório sobre o uso de algoritmos nas relações governo-cidadão, que fui coautor e que foi publicado pela Fundação ePaństwo, sediada na Polônia, trabalhando com parceiros da Geórgia, Hungria, Sérvia, Tcheca e Eslováquia. A pesquisa sobre o atual ambiente de tomada de decisão automatizada nos países da Europa Central e Oriental fornece evidências de que os cidadãos já têm alguns motivos para não confiar nas autoridades.

** Sem estrutura legal e ética **

No relatório encontramos evidências de tomada de decisão automatizada implementada em um grande número de esferas públicas incluindo controle de velocidade, alocação de juízes e outros funcionários públicos, escolha de lotes para realização de controles e fiscalizações, distribuição de benefícios sociais, detecção de fraudes ou mesmo pré-seleção de empreiteiros em procuração pública.

Apesar do debate em andamento sobre os perigos da influência de algoritmos 'sobre os direitos humanos, não identificamos nenhuma política governamental geral existente sobre a implementação de algoritmos em qualquer um dos países participantes na pesquisa.

Não há exemplos detectados de estruturas éticas ou legais que descrevam de forma abrangente a responsabilidade pessoal pela aplicação das ferramentas, a segurança de sua implementação ou os direitos e obrigações dos estados e cidadãos a esse respeito.

O conhecimento de seu funcionamento permanece sigiloso. Isso não é apenas problemático para os cidadãos e para aqueles que buscam desesperadamente informações sobre os problemas relativos ao processo de recrutamento do jardim de infância, mas também para os funcionários públicos que não têm conhecimento de como as ferramentas que usam para realizar tarefas públicas realmente funcionam.

** Retomando o controle público **

Algoritmos usados em software criado para tomada de decisão automatizada não estão sujeitos à transparência e obter acesso público aos algoritmos ou ao código-fonte que os inclui não é possível.

Por exemplo, não são apenas os cidadãos, mas também os juízes, que estão privados de acesso às informações relacionadas com o Sistema de Alocação Aleatória de Juízes, que é usado na Polónia, Geórgia e Sérvia.

Freqüentemente, apenas as empresas que criam ferramentas para instituições públicas têm pleno conhecimento das funções dos algoritmos e não passam por nenhum processo de auditoria externa que determina a justiça e precisão das ferramentas.

Além disso, nenhum dos países pesquisados estabeleceu um órgão de coordenação responsável pelo monitoramento da implementação da tomada de decisão automatizada, incluindo a criação de ferramentas e seu desempenho.

O relatório é seguido por Recomendações de política que deve ser implementado imediatamente por governos na região e fora dela.

À medida que mais e mais ferramentas no setor público fazem uso de IA, os problemas descritos no relatório só vão piorar. Portanto, recomendamos que os governos devem:

  • Introduzir novas políticas regulando a tomada de decisão automatizada, descrevendo a transparência do processo de implementação e funcionamento das ferramentas;
  • Use as avaliações de impacto algorítmico (AIA) nos sistemas usados na área de legislação, como Avaliações de Impacto Regulatório, onde uma instituição responsável pela implementação das ferramentas é obrigada a demonstrar a necessidade da sua utilização, o seu impacto nos direitos dos cidadãos, definição dos riscos e métodos de avaliação;
  • Criar os mecanismos de controle independente de algoritmos;
  • Instituir garantias legais para combater a discriminação e fornecer meios eficazes de proteção legal.

Finalmente, a abordagem multidisciplinar no processo de criação de algoritmos é imprescindível.

As organizações de direitos humanos desempenham um papel importante no fornecimento de conhecimentos especializados em inclusão social e igualdade, prevenção da discriminação e transparência dos governos.

Há também uma comunidade crescente de tecnologia cívica que pode ajudar os governos a criar ferramentas que sejam verdadeiramente destinadas a apoiar os cidadãos e o interesse público em vez de confortar as autoridades e a mal compreendida “eficácia” das instituições públicas. - Krzysztof Izdebski

_ (Crédito da foto: Unsplash) _