Este artigo foi escrito pelo Dr. Shainaz Firfiray, professor sênior da Universidade de Aberdeen.

  • O problema: questões sobre privacidade de dados e viés algorítmico na IA estão ocupando o centro do palco, juntamente com o foco em como garantir a responsabilidade, pois o trabalho está se tornando cada vez mais automatizado.
  • Por que é importante: é fundamental encontrarmos um conjunto de estratégias que estabeleçam a confiança entre servidores públicos e cidadãos de que a IA usada nos serviços públicos está alinhada com os princípios éticos. Além disso, é importante reconhecer os riscos envolvidos no uso da IA ​​se quisermos colher seus benefícios potenciais.
  • A solução: Um conjunto de estratégias que oferecerá orientação sobre como construir a confiança do público, respeitar os direitos humanos e o estado de direito e garantir a transparência e a divulgação responsável dos sistemas de IA.

Atualmente, estamos testemunhando um aumento na adoção de tecnologias de IA nos serviços públicos . Apesar de sua popularidade, há relativamente pouca orientação sobre questões de privacidade, segurança, aquisição de dados e implicações éticas da IA.

Violações recentes de sistemas de TI públicos e privados receberam ampla cobertura. Problemas relacionados à segurança de dados podem ser exacerbados pelo uso de aplicativos de IA, que criam sistemas altamente conectados e interdependentes.

Existem vários julgamentos de trade-off que precisam ser feitos ao usar IA em serviços públicos.

Os serviços oferecidos pela IA também estão frequentemente em conflito com os ideais sociais de justiça, pois algoritmos que se destacam em tomar as decisões mais precisas podem discriminar sistematicamente certas minorias. Existem vários julgamentos de trade-off que precisam ser feitos ao usar IA em serviços públicos. Por exemplo, julgar quando é aceitável usar um algoritmo com desempenho ruim para uma minoria específica se for preciso em média para a população. Ou determinar quais tipos de decisões e habilidades devem sempre ser deixados para os humanos e onde rejeitar aplicativos de IA. Ou decidir como os dados podem ser usados ​​para melhorar a qualidade e a eficiência dos serviços públicos, respeitando a privacidade e a dignidade dos cidadãos. No entanto, o principal dilema diante dos servidores públicos é como esses julgamentos de trade-off devem ser feitos.

Lentes utilitárias e uma análise de custo-benefício

Tradicionalmente, uma análise de custo-benefício baseada em lentes utilitárias tem sido aplicada para fazer julgamentos de trade-off, pois permite que as pessoas tomem decisões com base em se os benefícios de adotar uma tecnologia específica superam os custos. Esses procedimentos são amplamente utilizados na indústria e na governança porque são vistos como objetivos e fornecem diretrizes claras para a tomada de decisão. Embora uma análise de custo-benefício possa atrair alguns funcionários públicos, por si só não é ideal para explorar tais compensações. Pode fornecer alguns dados úteis que podem alimentar o processo de tomada de decisão, mas não reconhece que os valores são difíceis de quantificar e que os números por si só podem mascarar alguns julgamentos de valor controversos.

Quando diferentes grupos deliberam e expressam o que é importante para eles, é possível reconciliar perspectivas conflitantes e chegar a um acordo.

A resolução de tais dilemas pode assumir várias formas. Abaixo, proponho estratégias que darão voz às partes interessadas relevantes e nos ajudarão a tomar decisões alinhadas com os direitos e privilégios das pessoas afetadas pelas tecnologias de IA.

O envolvimento público é fundamental para abordar questões de trade-off de uma forma que possa ser justificada para todos os membros da sociedade, especialmente quando surgem trade-offs devido a valores e perspectivas conflitantes de diferentes grupos. No entanto, quando diferentes grupos deliberam e expressam o que é importante para eles, é possível reconciliar perspectivas conflitantes e chegar a um compromisso. Há uma variedade de métodos que podem ser implantados para promover o engajamento público , incluindo pesquisas públicas em larga escala, grupos focais com um elemento educacional para reunir opiniões informadas dos cidadãos e diálogo público iterativo em que especialistas em tecnologia e cidadãos colaboram para propor recomendações aos formuladores de políticas.

Reforço da segurança cibernética

Os problemas de segurança cibernética podem ocorrer de maneiras complexas, pois os sistemas de IA podem ser comprometidos de maneiras difíceis de entender e podem resultar em grandes falhas de segurança. Além disso, com o aumento do uso de chatbots em serviços públicos , os cidadãos podem se tornar alvos potenciais de bots projetados por hackers e golpistas que podem obter acesso a informações confidenciais. Portanto, as preocupações de segurança e privacidade dos cidadãos devem estar na vanguarda de qualquer iniciativa de IA.

Fortalecendo o ecossistema de IA

Existem barreiras significativas para a adoção de tecnologias de IA em serviços públicos, pois eles são avessos ao risco e muitas vezes céticos em experimentar inovações emergentes. Os serviços públicos ficam mais à vontade seguindo do que liderando o caminho na adoção de tecnologias de IA. No entanto, essa abordagem de esperar e observar é inútil, dado o ritmo dinâmico da mudança no campo da IA. O uso eficaz da IA ​​exigirá que os serviços públicos reformulem suas atitudes em relação ao risco. Eles precisam reconhecer que as iniciativas de IA vêm com um certo conjunto de riscos, mas esses riscos podem ser gerenciados de forma eficaz ao longo do tempo. No entanto, a relutância em se envolver com novas tecnologias de IA pode limitar severamente as oportunidades futuras que nos permitem enfrentar os principais problemas sociais.

Ganhando a confiança do público

Os sistemas de IA usados ​​nos serviços públicos devem ser monitorados regularmente. Há relatos frequentes na mídia sobre o uso indevido da IA ​​ou os resultados negativos acidentais atribuídos à IA. No entanto, desenvolver regras e processos para monitoramento de algoritmos é uma tarefa desafiadora. As empresas que desenvolvem aplicativos de IA geralmente não estão dispostas a compartilhar detalhes sobre como seus sistemas funcionam e, na ausência dessas informações, é um desafio controlar esses sistemas ou garantir que funcionem de forma ética . Muitos pesquisadores argumentaram que as leis existentes são limitadas em sua capacidade de proteger os cidadãos contra algoritmos tendenciosos. Com o aumento do uso de sistemas de IA, é crucial que os serviços públicos mostrem vontade de abrir seus sistemas para inspeção para garantir que os cidadãos entendam como esses sistemas funcionam e possam confiar em suas decisões e resultados.

Resumindo, a IA tem considerações éticas diferentes das de outras tecnologias. As preocupações com a privacidade e a divulgação de informações confidenciais ao público, o uso irresponsável de dados compartilhados, a incompatibilidade de julgamentos algorítmicos versus baseados em valores humanos e os vieses na tomada de decisões estão bem documentados. Para promover uma vida melhor por meio da IA, precisamos garantir que todas as iniciativas de IA sejam capazes de promover uma sociedade que trate as pessoas com dignidade e compaixão, respeite o estado de direito e aja com transparência.

👋 Você pode escrever um artigo como este! Compartilhe suas ideias com uma comunidade de servidores públicos. Saber mais

(Crédito da imagem: Pexels)