Este artigo foi co-escrito por Juan Mateos-Garcia, diretor de análise de dados da Nesta e George Richardson, chefe de ciência de dados na prática de análise de dados da Nesta. Este artigo foi publicado pela Nesta , a agência de inovação do Reino Unido para o bem social. Leia o artigo original aqui .

Há uma onda de entusiasmo sobre os desenvolvimentos modernos em inteligência artificial (IA).

A chegada de poderosos geradores de imagens , agentes de IA capazes de realizar várias tarefas ou chatbots aparentemente (para alguns) sencientes são uma perspectiva empolgante para cientistas de dados que usam aprendizado de máquina para enfrentar grandes desafios sociais em áreas como saúde , educação e meio ambiente.

Uma das atribuições não oficiais da IA é “resolver a inteligência e depois resolver todo o resto”. Temos que assumir que a “solução” incluiria reduzir as desigualdades na educação, combater a obesidade e descarbonizar nossas casas. Estamos prestes a obter sistemas de IA que possam nos ajudar a resolver esses problemas?

IA industrializada

O modelo dominante para a IA é o industrial. Ele treina redes artificiais profundas em grandes volumes de dados da web e de mídia social. Essas redes aprendem padrões preditivos e podem ser úteis para trabalhos de percepção, como identificar um rosto em uma foto. Eles são bons para tarefas que não têm entrada humana ou onde não estamos interessados em entender por que alguém fez uma escolha, como curtir uma postagem de mídia social.

As grandes empresas de tecnologia que desenvolvem esses sistemas os usam para prever resultados relevantes de mecanismos de pesquisa, qual conteúdo de mídia social é mais atraente e para fazer recomendações que podem resultar em uma compra. Isso ajuda essas empresas a criar sites e aplicativos mais atraentes e lucrativos.

Mas quando se trata de setores de impacto social, os dados são escassos, a explicação é mais importante do que a previsão e cometer erros pode custar vidas.

Ausência de dados no setor social

Nossas sociedades enfrentam grandes desafios: uma crescente diferença de resultados entre as crianças mais pobres e as demais; taxas crescentes de obesidade ; a necessidade de reduzir urgentemente as emissões domésticas . Sistemas de IA, como os descritos acima, podem ajudar a enfrentar esses desafios, mapeando os problemas e direcionando as soluções. Infelizmente, isso é mais fácil dizer do que fazer.

Mecanismos de busca e sites de redes sociais geram grandes quantidades de dados padronizados que são altamente preditivos de resultados relevantes. Por outro lado, setores de impacto social, como educação e saúde, compreendem centenas ou milhares de organizações (autoridades locais, hospitais ou escolas), cada uma coletando conjuntos de dados pequenos, incompletos e desconectados. Dados de mídias sociais ou mecanismos de busca que podem ser relevantes para melhorar os resultados em saúde (os anúncios de alimentos aos quais diferentes grupos estão expostos, por exemplo) ou educação (cujas estruturas de redes sociais aumentam a resiliência da comunidade e a mobilidade social) são caros ou impossíveis de acessar. Mesmo que fosse possível, é provável que eles fornecessem uma visão tendenciosa da situação, excluindo ou sub-representando alguns grupos vulneráveis .

É claro que as lacunas de dados podem ser superadas investindo na coleta, padronização e integração de dados. Mas, mesmo que fizéssemos isso, treinar modelos massivos de aprendizado profundo nesses dados e usá-los para fazer previsões em escala pode não ser uma boa ideia. Aqui está o porquê.

Riscos do modelo

Existem importantes descompassos entre os resultados gerados pelos modelos industriais de IA e o contexto dos setores de impacto social. Tentar aplicar um ao outro é como levar um carro autônomo treinado nos subúrbios do Arizona para as ruas densas e movimentadas do centro de uma cidade europeia. Haverá acidentes.

Tentar aplicar a IA industrial ao contexto de setores de impacto social é como levar um carro autônomo treinado nos subúrbios do Arizona para as ruas densas e movimentadas do centro de uma cidade europeia. Haverá acidentes.

Primeiro, os modelos industriais de IA carecem de robustez : eles geralmente não conseguem generalizar para situações fora de seu conjunto de treinamento. Este é um problema em setores como saúde cuja composição e comportamento mudam ao longo do tempo, degradando a qualidade das previsões de um sistema de IA, talvez drasticamente. Vimos isso no início da pandemia de Covid-19, quando o súbito choque econômico e social causado pela pandemia interrompeu muitos modelos de machine learning e analytics treinados em dados históricos .

Em segundo lugar, os modelos de aprendizado profundo são eficazes para gerar previsões, mas não explicações. Eles inferem padrões de dados que são correlacionais em vez de causais . Infelizmente, sem explicações para uma decisão, as pessoas que trabalham em serviços públicos perdem o poder e podem perder sua agência e capacidade de entender ou contestar decisões de alto risco. Também se torna mais difícil interpretar as saídas do modelo para determinar se ele está funcionando.

Riscos éticos

Sabemos que alguns sistemas de IA podem arraigar a discriminação nas organizações que os adotam, por exemplo, prevendo que grupos historicamente discriminados são mais propensos a cometer crimes .

Mesmo sistemas projetados para gerar previsões justas ainda podem gerar resultados injustos. Por exemplo, eles podem priorizar ajudar uma organização exploradora a reduzir custos em detrimento da qualidade do serviço. Um exemplo disso é que os sistemas de IA preditivos podem favorecer 'intervenções direcionadas' que atingem diretamente um resultado (por exemplo, negar fiança a indivíduos com alto risco de reincidência) em vez de intervenções mais profundas que podem ser possíveis com conhecimento causal sobre os impulsionadores desse resultado (por exemplo, apoiar intervenções que mitiguem o risco de reincidência em primeiro lugar).

Riscos políticos

A complexidade dos desafios sociais torna-os difíceis de enfrentar. Há desacordo sobre os objetivos que queremos alcançar e os métodos para alcançá-los. Essa questão é frequentemente vista no debate sobre o papel da mudança tecnológica versus mudança comportamental quando se trata de atingir as metas de sustentabilidade. Qualquer sistema técnico que envie os debates para determinados tipos de valores ou intervenções deve ser abordado com cuidado. Há evidências de que os sistemas de IA industrial tendem a priorizar determinados valores , como eficiência, em detrimento de outros, como transparência ou participação. Quando implantados, eles podem incorporar esses valores na infraestrutura organizacional e nos processos que podem ser difíceis de mudar no futuro. Eles também podem centralizar a tomada de decisões e reduzir o espaço para o debate democrático, responsabilização e experimentação.

Juntos, esses fatores tornam os sistemas de IA industrializados menos adequados para setores onde há uma diversidade de valores e uma variedade de fatores de mudança.

Criar IA

Tudo isso não quer dizer que a ciência de dados e o aprendizado de máquina não tenham nada a contribuir para os setores de impacto social. Eles podem ser muito valiosos – se forem implantados seguindo uma abordagem diferente que leve em consideração o contexto do setor. Nós o chamamos de IA artesanal e possui os seguintes recursos.

Essas ideias são inspiradas no trabalho de uma ampla gama de comunidades, incluindo cientistas de dados para impacto social, pesquisadores em áreas como aprendizado de máquina causal e participativo, estudos críticos de IA, inovação responsável e inclusiva e justiça de dados. Muitas dessas ideias foram apresentadas em resposta aos riscos éticos levantados pelos modelos de IA industrializados e como uma oportunidade para superar as barreiras técnicas que podem nos impedir de desenvolver sistemas de IA confiáveis e de propósito geral.

A Craft AI provavelmente será mais lenta, mais complexa, localizada e menos escalável do que a IA industrializada. Também requer mais envolvimento humano. Talvez faça sentido pensar nisso como uma instância de aumento de inteligência ( IA ) onde usamos máquinas para aumentar nossas capacidades em vez de automatizá-las, não nos esquivando da responsabilidade de enfrentar pensativamente e cuidadosamente os maiores desafios do nosso tempo.

👋 Você pode criar um post como este! Compartilhe seus pensamentos com uma comunidade de servidores públicos. Saber mais

(Crédito da imagem: Unsplash)

Certifique-se de partilhar as suas próprias ideias com o autor ao deixar um comentário abaixo