Este artigo foi escrito por Octavia Reeve, Diretora Associada, Ada Lovelace Institute, Reino Unido.

Como parte do recém-lançado Government AI Campus , a A Political está publicando uma série de artigos explorando a adoção de IA no governo. Estes artigos assumem muitas formas, desde artigos de opinião escritos por especialistas académicos até entrevistas com líderes do setor público que trabalham eles próprios na adoção da IA. Veja mais visitando o AI Campus .

Este artigo argumentará que, no desenvolvimento da governação , regulamentação e legislação da IA, é vital não só ouvir as perspetivas e experiências das pessoas em relação à IA - juntamente com a experiência dos decisores políticos e dos criadores e implementadores de tecnologia - mas também envolvê-las na tomada de decisões. de maneiras legítimas, confiáveis ​​e responsáveis.

A Lei da UE sobre IA representa um marco no alinhamento das tecnologias de inteligência artificial com as necessidades das pessoas e da sociedade: é a primeira tentativa abrangente de legislar sobre a IA. À medida que se transforma em lei, vale a pena notar que não contém disposições definitivas para o envolvimento público direto na sua implementação. O Artigo 58-A compromete-se apenas a criar um fórum consultivo de diversas partes interessadas comerciais e não comerciais para apoiar a Comissão Europeia na implementação e aplicação da Lei da IA, incluindo a sociedade civil e os «parceiros sociais» e o potencial para sub- grupos que_ poderiam_ incluir membros do público. Não devemos considerar o envolvimento público na tomada de decisões políticas como garantido, nem presumir que os legisladores e os decisores políticos sabem quando, como — e porquê — fazê-lo bem.

💬 Deixe o autor saber o que você pensa sobre o envolvimento das perspectivas públicas na governança da IA , deixando um comentário abaixo

“À medida que as tecnologias se tornam comuns no trabalho, nos lares e na educação, e a relação entre a IA, o governo e as pessoas que utilizam e são afetadas por estas tecnologias se torna cada vez mais complexa, é cada vez mais importante envolver significativamente as pessoas na tomada de decisões políticas de IA.”

No Reino Unido, a confiança do público na tomada de decisões políticas está em declínio. Em 2021, a Academia Britânica descreveu as percepções do público do Reino Unido como “ativamente em desacordo com a sensação de que o sistema de governo central está a servir as suas necessidades e a reflectir a sua voz”, e o rastreador de 2023 do CDEI mostra que os níveis de confiança nas práticas de dados do governo permanecem baixos ( 41%) em comparação com outros atores. A confiança pública será vital para construir confiança e legitimidade na tomada de decisões sobre IA e obter benefícios sociais. Quando o Reino Unido avançar para uma legislação própria sobre IA, será imperativo que os decisores políticos do governo do Reino Unido e de outras jurisdições tenham uma compreensão sólida não apenas das atitudes públicas relevantes, mas também de como envolver as pessoas nas decisões.

A investigação actual do Instituto Ada Lovelace mostra algumas opiniões públicas consistentes em relação à IA: há um forte apoio à protecção dos direitos fundamentais (por exemplo, privacidade) e uma crença de que é necessária regulamentação. As pessoas têm atitudes positivas sobre algumas utilizações da IA ​​(por exemplo, na saúde e no desenvolvimento científico), mas existem preocupações sobre a IA na tomada de decisões que afectam a vida das pessoas (por exemplo, a elegibilidade para benefícios sociais).

À medida que as tecnologias se tornam comuns no trabalho, nos lares e na educação, e a relação entre a IA, o governo e as pessoas que utilizam e são afetadas por estas tecnologias se torna cada vez mais complexa, é cada vez mais importante envolver significativamente as pessoas na tomada de decisões políticas de IA.

É importante ressaltar que, na mente do público, não existe apenas uma IA: eles têm visões diferenciadas e diferenciam entre os benefícios, riscos, danos e oportunidades dos usos existentes e potenciais de diferentes tecnologias. Também significativo é que algumas preocupações estão associadas a diferenças sociodemográficas. Isto significa que não pode haver um modelo único de governação da IA ​​— este deve ser específico ao contexto e ter em conta benefícios e danos específicos para diferentes pessoas e comunidades. Por exemplo, a utilização de tecnologias de reconhecimento facial em espaços públicos necessitaria de uma consideração diferente dos lares de idosos que empregam prestadores de cuidados autónomos para cuidar de pessoas idosas e vulneráveis.

A chamada “ onda deliberativa ” tem diminuído e diminuído nos últimos 20 anos e ainda não atingiu o objectivo de envolvimento significativo e institucionalizado e de capacitação das pessoas na tomada de decisões. No entanto, parece estar a atingir as margens da elaboração de políticas no Reino Unido. Em 2023, o regulador do Reino Unido, ICO, teve em conta as evidências do British Youth Council e do Citizen's Biometrics Council do Ada Lovelace Institute no desenvolvimento das suas orientações sobre dados biométricos, e o Departamento de Cultura, Mídia e Desporto (agora DSIT) encomendou um mini-público diálogo para considerar a abordagem do Governo do Reino Unido à gestão do seu Trust Framework e à implementação do seu esquema de identidade digital através de fornecedores de tecnologia e serviços do sector privado.

Estes são passos positivos – a Chefe de Gabinete Sue Gray sugeriu recentemente que um novo governo trabalhista poderia recorrer a assembleias de cidadãos – mas ainda há algum caminho a percorrer antes que os governos envolvam regular e sistematicamente as pessoas como participantes activos no desenvolvimento e implementação de políticas. Isto significa não apenas contribuir para consultas públicas, mas compreender e utilizar métodos de investigação social validados que permitam que o conhecimento e a experiência das pessoas contribuam desde o início dos processos de elaboração de políticas.

Num mundo ideal, a tomada de decisões políticas considerará proativamente como diferentes atitudes públicas e abordagens participativas podem ajudar os decisores políticos a recolher evidências sólidas sobre o que o público pretende da IA, encontrar novas formas de gerar evidências e construir relações legítimas e produtivas com pessoas que utilizam e afetados pelas tecnologias. Sem estas abordagens, é mais provável que os representantes eleitos e os funcionários públicos se aproximem de um sentido subjetivo e não representativo da opinião pública, deixando espaço para mal-entendidos e falta de informação sobre pessoas e comunidades específicas.

Os riscos são, sem dúvida, elevados para os responsáveis ​​políticos, num ambiente onde os decisores são responsabilizados pelos parlamentos, tribunais, meios de comunicação social e representantes públicos. Para apoiar métodos participativos como parte da elaboração de políticas, os decisores devem poder confiar em evidências de alta qualidade, robustas, fiáveis ​​e atribuíveis a populações e grupos específicos. Devem também compreender que os métodos participativos têm objectivos distintos e importantes em comparação com os estudos quantitativos: não pretendem ser estatisticamente representativos, mas - bem concebidos - podem incluir diversas perspectivas e proporcionar a oportunidade para a deliberação democrática que permite a reflexão e o pensamento colaborativo. sobre grandes desafios sociais.

Os métodos quantitativos das ciências sociais podem parecer atraentes, fornecendo informações importantes sobre o que amplos grupos de pessoas pensam sobre questões específicas. Num ambiente tecnológico em rápida evolução, fornecem evidências abrangentes para provocar mais reflexões e questões. Mas a forma como estes estudos são construídos é importante - em particular a forma como amostram grupos que já podem estar minorizados, sub-representados ou vulneráveis, e se é possível isolar pontos de vista de comunidades específicas e realizar análises interseccionais (o que fazem as crianças escocesas ou as mulheres negras num vários locais em todo o Reino Unido pensam em IA, por exemplo?).

Tudo isto aponta para todos os tipos de razões, incluindo barreiras institucionais e culturais, que podem incentivar os decisores políticos a ignorar as vozes públicas. Estas barreiras levantam questões de poder e privilégio – quem é ouvido e quem não é, quem está incluído nos dados e quem está desaparecido. Mudar esta situação requer abandonar a confiança culturalmente incorporada em métodos específicos para fornecer representações precisas da visão do público. Jennifer Gabrys defendeu que os dados da ciência cidadã sejam considerados “ dados suficientemente bons ”, desafiando a dependência de formas estreitas de produzir, avaliar e analisar conjuntos de dados.

O mundo em que vivemos é confuso, fluido e difícil de definir, e todos os métodos de investigação carregam crenças políticas e filosóficas. No entanto, se os decisores políticos mantiverem um apego apenas aos grandes dados de inquéritos - e, por implicação, a uma realidade holística e substancial que pode ser relatada - perderão a oportunidade de obter valor de estudos que envolvem e capacitam as pessoas, como deliberações públicas ou investigação entre pares . que pode nos dizer não apenas o que as pessoas pensam, mas por quê.

As tecnologias de IA podem, sem dúvida, proporcionar benefícios de eficiência e resolução de problemas computacionais e tornar-se-ão rapidamente parte da vida de todos — por exemplo, nas escolas, nos hospitais e na prestação de assistência social. As evidências das opiniões públicas dizem-nos que é particularmente importante ter em conta o contexto , o que significa que é essencial que os decisores políticos tenham uma forte compreensão das abordagens participativas que atingem as pessoas sub-representadas nas comunidades e que as utilizem com rigor e integridade.

Juntamente com todas as oportunidades que a IA apresenta para benefícios sociais, existe uma oportunidade específica para os decisores políticos: ouvir e envolver-se com as opiniões do público, para que a sua tomada de decisão possa navegar eficazmente no mundo complexo e em rápida evolução da IA ​​com legitimidade, confiabilidade e responsabilidade.

Para obter mais informações, consulte nossa revisão de evidências publicada recentemente: https://www.adalovelaceinstitute.org/evidence-review/what-do-the-public-think-about-ai/

Principais conclusões:

  • Ter em conta as perspetivas e experiências das pessoas em relação à IA — juntamente com a experiência dos decisores políticos e dos criadores e implementadores de tecnologia — é vital para garantir que a IA esteja alinhada com os valores e necessidades da sociedade de forma legítima, fiável e responsável.

  • À medida que o Governo do Reino Unido e outras jurisdições consideram a governação e regulamentação da IA, é imperativo que os decisores políticos tenham uma compreensão sólida das atitudes públicas relevantes e de como envolver as pessoas nas decisões.

  • Existem algumas evidências de que os decisores políticos estão abertos a ouvir e incluir as vozes públicas.

  • A investigação sobre atitudes públicas e a investigação participativa são abordagens diferentes para ouvir as vozes públicas que reúnem percepções distintas com diferentes utilizações. Em torno da IA, eles podem proporcionar legitimidade na tomada de decisões.

  • Devido à natureza generalizada da IA, é particularmente importante ter em conta o contexto, o que significa que é essencial compreender realmente as abordagens participativas e utilizá-las com rigor e integridade.

Terminou de ler? Certifique-se de compartilhar suas próprias idéias sobre o papel da opinião pública na formulação de políticas de IA, deixando um comentário abaixo ⬇️

(Crédito da imagem: Unsplash )