Como parte do recém-lançado Government AI Campus , a A Political está publicando uma série de artigos explorando a adoção de IA no governo. Estes artigos assumem muitas formas, desde artigos de opinião escritos por especialistas académicos até entrevistas com líderes do setor público que trabalham eles próprios na adoção da IA.

_Leonardo Quattrucci da A Political conversou recentemente com o Dr. Aaron Maniam, Fellow of Practice e Diretor, Educação para a Transformação Digital, Escola de Governo Blavatnik, Universidade de Oxford, sobre como os governos em todo o mundo podem abordar a navegação em novas tecnologias, como a IA generativa. _

Aaron Maniam concentra-se em questões que conectam tecnologia, políticas públicas e administração pública. Ele co-preside o Conselho do Futuro Global sobre o Futuro da Política Tecnológica do Fórum Econômico Mundial e é membro do Grupo de Especialistas em Futuros de Inteligência Artificial (IA) da OCDE. Anteriormente um decisor político no governo de Singapura, foi recentemente secretário adjunto (Indústria e Internacional) no Ministério das Comunicações e Informação de Singapura, supervisionando o trabalho do ministério na economia digital, literacia e inclusão digital e diplomacia digital. O doutoramento de Aaron na Escola de Governo Blavatnik comparou o trabalho dos principais estados digitais como a Estónia, a Nova Zelândia e Singapura. De https://www.bsg.ox.ac.uk/people/aaron-maniam-0

Aaron, você pode pensar sobre IA de múltiplas perspectivas – como funcionário público e acadêmico. Compartilhe um pouco sobre sua jornada profissional e como ela se cruza com a IA no governo.

Comecei a explorar o tema da IA ​​em 2010, durante o meu mandato como Chefe do Centro para Futuros Estratégicos do Governo de Singapura. Naquela altura, a IA — e a tecnologia em geral — desempenhou um papel crucial na definição de potenciais cenários futuros, que o Centro estudou. À medida que minha carreira evoluiu, meu foco mudou para as habilidades que os líderes governamentais precisarão no futuro. Por exemplo, como será a economia futura? Como podem os governos utilizar, permitir e regular melhor a tecnologia? Agora, na Escola de Governo Blavatnik de Oxford, tento transmitir estas ideias ao governo e envolver-me com a comunidade académica mais ampla que pesquisa os impactos técnicos e sociotécnicos da IA ​​a nível global.

A IA generativa tornou a IA muito mais acessível. Como governar a IA, principalmente em um ano com tantas eleições, está sendo muito discutido. O que é menos discutido é como a IA generativa pode ser usada para melhorar a competitividade e o desempenho dos governos. Como podem – e devem – os governos reequipar-se nesta nova era da IA?

É uma questão tão importante. Principalmente, os governos sabem que precisam assumir um papel regulador. Isso não significa que sempre elaboram regulamentações excelentes, mas compreendem o seu papel potencial nelas.

Penso que os governos podem desempenhar dois outros papéis, que são muito menos compreendidos: como utilizadores e facilitadores da tecnologia. Os países economicamente mais competitivos compreendem o papel facilitador porque sabem que o governo é fundamental para criar e autorizar um ambiente favorável. Mas, quando se trata do governo como utilizador de IA, considero que ainda é uma área onde os governos são relativamente fracos. Acho que a verdadeira questão que deveríamos fazer não é “Será que os humanos serão substituídos pela IA?” mas “Que aspectos do nosso trabalho a IA pode assumir de forma responsável e com um alto nível de qualidade?”

A IA generativa é muito boa em tarefas divergentes: tarefas que requerem a síntese de um amplo conteúdo existente. Assim, por exemplo, quando o governo está a tentar investigar uma questão para compreender o que existe em termos de possibilidades e ideias, a IA generativa pode ser muito mais utilizada.

A IA generativa também é boa em algumas tarefas convergentes, ou seja, questões que envolvem áreas de trabalho muito específicas. Isso inclui coisas como editar e garantir a correção gramatical. A IA generativa é boa para encurtar ou alongar um trabalho e incluir exemplos adicionais.

Mas também precisamos de reconhecer os tipos de tarefas para as quais a IA não é adequada. Estas tarefas envolvem algum tipo de julgamento, avaliação ou decisão sobre o que priorizar.

💬 Deixe o autor saber o que você pensa sobre os governos serem usuários criteriosos e facilitadores de tecnologia como a IA generativa , deixando um comentário abaixo

Não creio que a IA generativa seja boa para gerar dados ou avaliar coisas de acordo com padrões elevados. É aqui que os humanos precisam intervir. Precisamos saber o que podem e o que não podem fazer; em seguida, faça com que ele faça o máximo possível daquilo que faz bem, para que possamos liberar a carga cognitiva, emocional e de largura de banda dos humanos, que podem então se concentrar muito mais naquilo que nossas mentes foram feitas para fazer: pensar, julgar , para avaliar e fazer julgamentos de nível superior.

Que competências e tecnologias os governos precisam de adquirir para se tornarem melhores utilizadores e facilitadores da IA?

Uma das minhas frases favoritas é que os governos precisam não apenas ser bons em encontrar fornecedores, mas também bons compradores. Esta é uma habilidade fundamental. Pode ser dividido em três aspectos. Em primeiro lugar, os governos precisam que parte do seu pessoal tenha conhecimentos técnicos em engenharia, programação e codificação. São essas pessoas com conhecimento técnico que farão as perguntas certas sobre o que fazer, o que terceirizar e como avaliar propostas de possíveis fornecedores. Em segundo lugar, é necessária uma liderança que também seja tecnicamente informada. Os líderes não precisam de ser especialistas, mas precisam de compreender o que é uma tecnologia e como funciona em termos gerais, para que possam ligar essa tecnologia e o seu funcionamento à missão central e ao propósito central da sua organização. Isso significa, em parte, saber como adotar e absorver a tecnologia, mas também significa gerir o processo de mudança que acontece após a adoção dessa tecnologia.

O terceiro aspecto é que os governos precisam de equipas de aquisição e contratação que estejam bem informadas sobre as tendências tecnológicas. Precisam de compreender que a utilização da tecnologia e a sua aquisição envolverão técnicas diferentes da aquisição de produtos mais padronizados. Isto significa, por exemplo, compreender que a tecnologia continuará a mudar e, portanto, que os contratos não devem vincular os governos a compromissos de longo prazo. Significa permitir contratações relacionais dentro das quais eles possam continuar fazendo ajustes dinâmicos e evoluindo a tecnologia em tempo real.

O que você acabou de descrever parece um plano coerente. Mas o trabalho governamental é muitas vezes um pouco complicado, especialmente em momentos de transição tecnológica. Quais são os principais bloqueadores ou pontos problemáticos que os governos encontram na adaptação às mudanças tecnológicas?

Existem alguns deles, e muitos bloqueadores existem porque o governo digital ainda é governo. Tem todas as possibilidades e potencialidades do governo, mas também as mesmas patologias, armadilhas, fraquezas e falhas. Um dos grandes bloqueadores é a ênfase excessiva na burocracia – os governos acabam por impedir-se de se adaptarem bem à transição tecnológica porque as regras antigas não evoluem com rapidez suficiente. Além disso, o governo por vezes concentra-se mais naquilo que pode fornecer do que naquilo que os utilizadores necessitam. E acho que quando você não se concentra no design centrado no usuário, às vezes você pode acabar fornecendo os produtos errados e não se adaptando bem às transições tecnológicas.

As estruturas legadas são um segundo bloqueio. A maioria dos sistemas já possui estruturas instaladas. Os governos precisam de descobrir que partes desses sistemas precisam de se adaptar. Este é o tipo de infraestrutura nacional inteligente que Singapura pretende construir. Estruturas legadas podem ser muito perigosas se prenderem você às práticas e mentalidades existentes.

Outro problema é a falta de talento. Não ter o talento e as competências certas pode impedir a adoção da tecnologia. Uma manifestação desta falta de talento é que os governos assumem inadvertidamente projetos muito, muito grandes, com prazos e despesas significativas. Tais projetos estão quase sempre fadados ao fracasso; quando você terminar pelo menos uma parte desse grande projeto, a tecnologia já o terá superado.

Projetos modulares funcionam melhor porque podem ser modificados e adaptados com rapidez e entusiasmo. Com esses projetos, a transição geralmente ocorre de maneira muito mais tranquila porque você está se adaptando em tempo real ao que está por aí.

Falando em velocidade e evolução… O que os governos estão habituados a fazer é procurar as melhores práticas. Mas, numa altura em que os desafios que enfrentam se tornam mais complexos, terão de adoptar novas formas de pensar e operar, como você descreve. É por isso que o seu trabalho recente é sobre metáforas. Você se importaria de nos contar um pouco sobre isso e quais novas metáforas os governos precisam para a IA generativa?

Você está certo sobre a influência das metáforas em nosso pensamento e seu impacto naquilo que priorizamos e enfatizamos dentro de um sistema. A introdução de novas metáforas permite-nos destacar diferentes aspectos. Poderíamos começar por considerar as metáforas tradicionais para o governo, como o “Leviatã” – uma entidade monstruosa e grande descrita na Bíblia Judaica, simbolizando o vasto tamanho e escala do governo. Outra é a “gaiola de ferro” da burocracia de Weber, que se refere às regras estritas e vinculativas que regem o modo como os burocratas operam. Donald Kettl introduziu uma metáfora mais moderna e populista, comparando o governo a uma “máquina de venda automática” que fornece aos cidadãos o que querem, desde que paguem os seus impostos, independentemente de isso ser benéfico para eles.

No entanto, precisamos de maneiras mais diferenciadas de ver o governo. Por exemplo, Anne-Marie Slaughter sugere pensar no governo como uma “rede”, e Tim O'Reilly discutiu extensivamente o conceito de governo como uma “plataforma”. Estas metáforas enfatizam a interligação e os efeitos facilitadores do governo como anfitrião de novas ideias e instituições.

Aprecio particularmente ver o governo como uma viagem – uma viagem de utilizador que os indivíduos embarcam desde o nascimento até à morte, com o sector público a desempenhar um papel de apoio em várias fases. Isto inclui responder a acontecimentos significativos da vida, como escolaridade, casamento, compra de casa, doença e cuidados no final da vida. Esta metáfora sublinha as diversas interacções que os indivíduos têm com os sectores público e privado ao longo das suas vidas.

Minha metáfora favorita, porém, é a de uma ecologia. Todos fazemos parte de um sistema complexo e auto-renovável, onde diferentes componentes podem morrer enquanto outros ganham vida. A governança, neste sentido, envolve todos desempenhando papéis únicos dentro de um sistema ecológico, contribuindo de forma dinâmica. Ao contrário de uma ecologia natural onde o leão come a gazela sem consequências, a nossa é uma ecologia moral onde estamos interligados e somos responsáveis ​​uns pelos outros. A tecnologia melhora esta visão, ligando-nos a muito mais pessoas do que nunca, o que pode aprofundar a nossa compreensão das nossas interconexões ecológicas e fortalecê-las.

Em momentos de transição, é fácil concentrar-se nas árvores em vez de considerar toda a floresta, o que leva à negligência de questões ou a mal-entendidos. Quais você acha que são os desafios mais negligenciados para o governo neste momento de transição para a IA? E onde e como deveriam começar a abordá-los?

Como disse, o governo digital ainda é governo — com silos, burocracia, ênfase em regras, etc. Penso que estas são patologias que os governos realmente precisam de combater, especialmente quando a tecnologia está a democratizar o acesso à informação.

Penso que as guerras culturais são um segundo desafio negligenciado. A política de identidade é hoje muito mais prevalecente e difundida do que nunca e está a moldar a forma como os governos comunicam com os cidadãos. Por exemplo, os governos podem explicar às pessoas porque é que a sua identidade e crenças ideológicas estão erradas – isso não lhes fará mudar de ideias. Na verdade, é muito mais provável que reforcem as suas crenças predominantes. Em última análise, os cidadãos precisam de ter as suas necessidades como seres humanos respondidas pelos governos, e penso que os governos que tentam lidar com as guerras culturais de uma forma mais empática têm mais probabilidades de ter sucesso.

Um terceiro desafio advém do facto de os governos quase nunca lidarem hoje em dia com um equilíbrio estável. Muitas vezes somos treinados para tentar chegar ao que é chamado de estado estacionário. Mas, na realidade, não existe um estado estacionário. Você tem equilíbrios instáveis ​​– problemas e possibilidades consistentemente novos emergindo de mudanças descontínuas. Gosto de descrever isso não como o surgimento de “novos normais”, mas como ambientes “nunca normais”, porque você está sempre evoluindo e sempre avançando para um novo nível de desempenho, ou pelo menos um novo conjunto de tecnologias. A forma como lidamos com isto é muito diferente da forma como lidamos com planos claros ou planos quinquenais. Não se trata sequer de ter manifestos claros, que podem mudar à medida que a política e os ambientes operacionais evoluem. Acho que precisamos nos preparar para o fato de que a vida nunca será estável e normal. Sempre haverá novas evoluções, novos caminhos e trajetórias pelas quais a tecnologia nos leva. E o papel do governo é, em parte, acompanhar esse ritmo, se possível. Caso contrário, pelo menos para poder responder rapidamente quando as circunstâncias mudarem.

Como ex-funcionário público, que conselho você daria aos funcionários públicos hoje sobre como aprender e acompanhar de forma eficaz a tecnologia de IA?

Na vida, você precisa equilibrar otimismo e cautela. Imagine o melhor, mas também planeje o pior. Isso se aplica a qualquer coisa no governo. Quanto mais você imaginar e aproveitar o que há de melhor, mais poderá aproveitar o potencial positivo de qualquer tendência. Poderia ser tecnologia. Poderia ser o envolvimento dos cidadãos. Pode ser qualquer tipo de problema emergente, mas sempre temos que planejar para o pior. Os governos que não fazem isso estão sendo irresponsáveis.

Mas realmente tem que ser ambos. Se você olhar apenas para os riscos ou para o lado negativo, perderá a esperança ou a imaginação. Se você olhar para o lado positivo, você se tornará imprudente e irrealista. A boa governação consiste em encontrar o ponto ideal no meio.

Terminou de ler? Certifique-se de compartilhar como você imagina o melhor e planeja o pior com a IA Genertiva em mente , deixando um comentário abaixo ⬇️

(Crédito da imagem: Unsplash )