** Este artigo foi escrito por Wesley Hau (Presidente, Comunidade de Prática de Dados Abertos da Agência de Ontário), Amy Bihari (líder de dados abertos e tecnologia emergente do Serviço Digital de Ontário) e Dalia Hashim (Consultora de política do Diretor de Dados e Digital de Ontário ) **

Ao longo do último ano, muitos de nós no serviço público começamos a encontrar novas tecnologias algorítmicas e a discutir seu lugar em nossos programas e serviços.

Este novo conjunto de ferramentas e tecnologia traz novas promessas ao nosso trabalho coletivo, mas a que custo? Em tribunais estaduais de Wisconsin, eles implementaram um algoritmo de caixa preta para facilitar a condenação, mas uma das consequências indesejadas foi a desigualdade racial não verificada. O alcance e o impacto desses pequenos cálculos podem ser enormes, ampliando tudo por se mover mais rápido e mais eficiente - mas em direção a serviços melhores e mais rápidos ou [desigualdade em massa gerada em nossa tecnologia e tomada de decisão](https://algorithmwatch.org/en/ história / algoritmo de syri-holanda /)?

Temos a tendência de confiar na tecnologia porque pensamos que ela é neutra, imparcial, ao contrário de nós, mas a verdade é que, na maioria das vezes, simplesmente incorporamos nossos preconceitos à tecnologia enquanto mantemos sua ilusão de neutralidade. Muitas vezes nos induzindo a pensar que criamos resultados mais positivos quando simplesmente sistematizamos os mesmos.

É onde nos encontramos, à beira de um admirável mundo novo. Como manejamos essas novas ferramentas com responsabilidade? Como podemos definir e orientar o uso que incorpore ideais de equidade, confiança, equidade, justiça, bem social, bem econômico, bem ambiental?

Abraçando o poder de abrir

Somos um grupo de servidores públicos canadenses (principalmente em Ontário, de várias agências e ministérios) trabalhando para estabelecer uma base para o uso responsável e ético de Inteligência artificial e algorítmica (IA) pelo governo.

Nosso objetivo é incorporar princípios abertos na forma como o setor público aborda algoritmos e tecnologia baseada em dados, como IA. Para fazer isso, estamos trabalhando juntos com a maior frequência e colaboração possível para navegar neste espaço complexo e servir bem a todas as nossas comunidades.

Em Ontário, temos um forte [programa de dados abertos](https://www.ontario.ca/page/sharing-government-data#:~:text=Open%20Data%20Directive%20and%20the,confidentiality%20or%20commercially % 2Dsensível% 20razões) exigindo que todos os ministérios e agências tornem seus ativos de dados o mais abertos possível. Esta base de Open by Default permitiu a Ontário compartilhar dados e orientado por dados [ferramentas](https://github.com / ongov) (incluindo código) de forma rápida e fácil durante a atual pandemia Covid-19 permitindo colaboração sem precedentes e comunidade -led innovation durante esses tempos difíceis.

** Isso pode não parecer grande coisa, mas no governo isso não é normal - espera-se que você trabalhe dentro de sua equipe, unidade ou divisão e, em alguns casos, é desencorajado a entrar em contato com um colega fora de seu grupo sem expressa permissão**

Os programas de dados abertos são baseados em princípios como transparência, acessibilidade e colaboração, por isso era natural para aqueles de nós mais próximos dos dados abertos em nossas organizações se comunicarem, para descobrir como poderíamos trabalhar melhor juntos em nossos usos de dados - tecnologia dirigida. Algo tão simples como criar uma comunidade de prática onde podemos conversar uns com os outros sobre as várias maneiras de usar essas novas tecnologias, fornecer exemplos de quando compartilhamos dados abertamente e como isso levou a impactos positivos, pode ir um longo caminho na mudança da cultura organizacional dentro do governo.

Isso pode não parecer grande coisa, mas no governo isso não é normal - espera-se que você trabalhe dentro de sua equipe, unidade ou divisão e, em alguns casos, é desencorajado a entrar em contato com um colega fora de seu grupo sem permissão expressa. Essas fronteiras entre equipes e organizações governamentais refletem o passado: necessidades passadas, limitações passadas, objetivos passados. Provavelmente, as mesmas coisas estão acontecendo em sua organização, e esperamos que nossas reflexões possam ajudá-lo a quebrar os silos entre as equipes que precisamos urgentemente trabalhar juntos para criar uma abordagem mais sustentável para IA no governo.

** No decorrer de algumas semanas, passou de uma comunidade de 5 para uma comunidade de mais de 50 **

No entanto, mudar a forma como trabalhamos não é tão simples quanto comprar ou construir um novo espaço ou ferramenta colaborativa. As pessoas precisam ter autonomia para se reunir, seja em espaços virtuais ou físicos, e ser livres para falar abertamente sobre os desafios e compartilhar novas ideias (e esperanças e medos) com segurança. Este é o tipo de abordagem que estamos adotando, criando espaços abertos e seguros para compartilhar pensamentos, desafios, perguntas e recursos à medida que começamos a navegar por novas abordagens, ferramentas e tecnologias como [Aprendizado de Máquina](https://apolitical.co/machine -learning-boot-camp /) (ML), Inteligência Artificial (AI) e outros usos algorítmicos.

Por meio de nossa comunidade de prática, pudemos aprender sobre novos pilotos que podem estar em andamento usando IA, motivos pelos quais as equipes podem ter considerado a IA, mas depois se afastou dela ou casos em que um projeto / serviço se beneficiou da adição de dados tecnologias impulsionadas. Todas essas histórias, estudos de caso e aprendizados também ajudaram a informar e moldar nossa abordagem sobre como é o uso ético da IA em Ontário, que atende às necessidades de ontarianos e servidores públicos.

Criando espaço para colaboração

Nossa jornada começou com uma xícara de chá.

Uma tarde, alguns de nós nos encontramos em um café em Toronto depois de trocar e-mails e descobrir que estávamos todos entrando nas águas turvas do uso de ML / AI pelo governo. Enquanto conversávamos sobre nossos respectivos projetos, preocupações e comunidades, rapidamente ficamos sem tempo, mas queríamos manter a conversa. Queríamos incluir mais aliados, compartilhar arquivos, links, ideias - queríamos mais tempo juntos no café.

Naquela mesma semana, criamos um espaço de trabalho compartilhado do Slack, configuramos alguns canais (salas de bate-papo) para nossos tópicos favoritos e começamos a convidar nossos amigos. À medida que as pessoas aderiam, nós as encorajamos a adicionar sua agência ou organização ao perfil para ajudar a destacar a comunicação entre as equipes que estávamos construindo. No decorrer de algumas semanas, passou de uma comunidade de 5 para uma comunidade de mais de 50. Isso ajudou a construir a confiança de que mais de uma pessoa, equipe ou organização achou que era uma boa ideia. Também fornecia sinalização para quem poderia ser uma boa pessoa a quem recorrer para obter informações ou conselhos - vejo que Amy é uma líder de dados no serviço digital de Ontário, ela pode me falar sobre a perspectiva provincial sobre a adoção de padrões de dados (ou contato me com alguém faz!).

Agora tínhamos nosso café virtual.

** Nossos esforços de colaboração não terminam dentro do governo, isso é apenas o começo **

Ao longo dos próximos meses, compartilhamos documentos de rascunho, slides de apresentação e links para eventos de aprendizagem. Visitamos os comitês e grupos de trabalho uns dos outros por meio de equipes de MS ou Zoom para compartilhar nossas jornadas e aprendizados sobre tópicos como alfabetização digital, transparência algorítmica e governança de dados. Nenhuma colaboração formal foi firmada, então nenhuma aprovação foi navegada, mas a colaboração estava acontecendo. Mais e mais pessoas estavam visitando o espaço compartilhado do Slack de que tinham ouvido falar, e mais alinhamento começou a aparecer em nossas apresentações e relatórios sobre sistemas de IA responsáveis.

Indo com ousadia ... juntos

Atualmente, estamos usando nossa rede crescente para explorar e desenvolver trabalhos relacionados à alfabetização em IA e orientação de IA para Ontário Esperamos que, estabelecendo entendimentos comuns de usos, problemas e objetivos, possamos criar as condições para uma colaboração e perspectivas mais amplas em nossos padrões, práticas e políticas futuras relativas à IA.

Conforme a IA começa a ser considerada ou adotada por todas as facetas do governo, em todos os setores e continentes, há uma oportunidade de desenvolver [proteções mais fortes](https://apolitical.co/en/solution_article/how-machine-learning-can -ajuda-com-transparência-do-setor público) contra a desigualdade, preconceito e discriminação em todos os nossos programas e serviços. Ao abordar o BC / IA com lentes de transparência, ética e justiça desde o início, podemos trabalhar de forma diferente e produzir resultados diferentes, resultados que são melhores para mais comunidades.

Acreditamos fortemente que a transparência e a participação colaborativa estão nos colocando como servidores públicos em um caminho inclusivo para um futuro aprimorado por dados. Planejamos continuar a abrir espaço para mais aliados de diferentes espaços com experiências diferentes para conectar e moldar nosso entendimento coletivo do uso responsável, seguro e benéfico de tecnologia baseada em dados, como algoritmos e ML / AI.

IA ética, inovadora e transparente precisa ser um esforço colaborativo entre muitas partes interessadas, incluindo você. Queremos ouvir os profissionais de IA, usuários de dados, empresas que contam com IA e outras tecnologias orientadas a dados. Nossos esforços de colaboração não terminam dentro do governo, isso é apenas o começo. Você pode entrar em contato conosco por meio de nossos projetos do GitHub ou por e-mail para compartilhar suas ideias, conselhos, participar de nosso ambiente Slack ou encontrar-se para um copo (virtual) de chá.

Envie-nos seus comentários sobre nosso trabalho atual, indique-nos perguntas que você possa estar enfrentando no que diz respeito à IA ou simplesmente diga-nos como foi sua experiência com a tecnologia de IA até agora. Adoraríamos ouvir de você. - [Wesley Hau](mailto: agencyai@protonmail.com), [Amy Bihari](mailto: Amy.Bihari@ontario.ca) e [Dalia Hashim](mailto: Dalia.Hashim@ontario.ca)

(Crédito da imagem: Unsplash)