** _ Este artigo foi escrito por Clare Welch, mestre em Governança de Mídia e Comunicações da London School of Economics and Political Science, com especialização em ética em IA e as causas e efeitos socioeconômicos das campanhas de desinformação. Para mais informações como essa, consulte nosso feed de notícias governo digital ._ **

_ “A verdade raramente é pura e nunca simples.” - Oscar Wilde, A Importância de Ser Sincero_

Imagine o seguinte: você está navegando casualmente pelo feed do Facebook e se depara com um [vídeo do CEO do Facebook, Mark Zuckerberg](https://www.theverge.com/2019/6/11/18662027/instagram-facebook-deepfake-nancy- pelosi-mark-zuckerberg).

Nele, ele diz “quem controla os dados controla o futuro”. Naturalmente, à luz do escândalo Cambridge Analytica, você está alarmado com sua aparente proclamação sincera. Você questiona a veracidade deste vídeo; certamente o presidente-executivo de uma das empresas mais poderosas do mundo não ficaria tão blasé com sua sede de poder.

Mas parece que o verdadeiro Zuckerberg do vídeo, tem os mesmos maneirismos de Zuckerberg, fala no mesmo tom vagamente robótico de Zuckerberg. Então, como diz o velho ditado, se ele anda como um pato e fala como um pato ...

Porém, neste caso, o pato não é um pato.

O que é um deepfake?

O vídeo de Zuckerberg que circulou pela Internet em junho não era, na verdade, um vídeo de Zuckerberg; foi uma falsificação profunda.

Criado por um grupo de artistas usando aprendizado de máquina, o [vídeo](https://www.vice.com/en_us/article/pajvq9/mark-zuckerberg-deepfake-facebook-misinformation-moderation-satire?utm_campaign=The%20Interface&utm_medium = email & utm_source = Revue% 20newsletter) foi postado inicialmente no Instagram (que é propriedade do Facebook) antes de ser sinalizado por dois parceiros de verificação de fatos do Facebook.

Veja esta postagem no Instagram

[‘Imagine isto ...’ (2019) Este trabalho de imagens em movimento falsas é da série ‘Big Dada’, parte do projeto ‘Spectre’. Onde big data, IA, dados e arte conceitual se combinam. .Artworks de Bill Posters & @danyelhau #spectreknows #privacy #democracy #surveillancecapitalism #dataism #deepfake #deepfakes #contemporaryartwork #digitalart #generativeart #newmediaart #codeart #markzuckerberg #artivism #contemporaryart p / ByaVigGFP2U /? utm_source = ig_embed & utm_campaign = carregando)

Uma postagem compartilhada por Bill Posters (@bill \ _posters \ _uk) em 7 de junho de 2019 às 7h15 PDT

O vídeo de Zuckerberg seguiu de perto outro [vídeo viral adulterado](https://www.dailymail.co.uk/video/news/video-1931728/Video-Watch-doctored-video-Nancy-Pelosi-slurring- speech.html) - o da presidente da Câmara dos EUA, Nancy Pelosi, parecendo arrastar seu discurso. Em ambos os casos, o material de áudio e vídeo falsificado se espalhou amplamente antes de ser sinalizado pela plataforma host. Embora verificadores de fatos terceirizados e outros comentaristas da Internet tenham sido visivelmente mais rápidos em identificar esses vídeos como falsos, as [respostas do Facebook] variadas e inconsistentes (https://www.cnet.com/news/mark-zuckerberg-defends-facebooks-decision- to-keep-up-doctored-pelosi-video /? utm_campaign = O boletim% 20Interface & utm_medium = email & utm_source = Revue% 20) e de outras plataformas de mídia social representa apenas a ponta do iceberg quando se trata do problema deepfake.

Deepfakes são imagens e vídeos realistas alterados para retratar alguém fazendo ou dizendo algo que nunca realmente aconteceu.

Eles se tornaram uma espécie de palavra da moda desde que surgiram em 2017. Um portmanteau de "deep-learning" e "fake", deepfakes usam pares de algoritmos chamados de redes neurais para criar "[redes adversárias geradoras"](https: //www .foreignaffairs.com / articles / world / 2018-12-11 / deepfakes-and-new-disinformation-war) ou “GANs”, que colocam os pares de redes neurais uns contra os outros. Os dois algoritmos aprendem um com o outro, com um gerando conteúdo modelado nos dados de origem e o outro tentando localizar o conteúdo artificial, resultando em conteúdo falso de áudio e visual altamente realista.

O que acontece quando cai nas mãos erradas?

Embora a tecnologia original exista desde 2017, quando foi usada pela primeira vez para inserir os rostos das pessoas na pornografia sem seu conhecimento ou consentimento, a capacidade da IA necessária para criar falsificações de aparência realista avançou rapidamente. Por exemplo, pesquisadores em Stanford criaram um algoritmo em a primavera de 2019, que permite aos editores de vídeo modificar os vídeos como se você estivesse usando um processador de texto.

Embora a maioria dos projetos atuais, como o de Stanford, tenham usos benignos, como simplificar a edição de filmes na pós-produção, o mesmo aprendizado de máquina que possibilitou esses estudos também está amplamente disponível para qualquer pessoa com conexão à Internet e curiosidade para testar os limites do que é possível.

Aplicações mais nefastas de GANs podem levar a programas como [DeepNude](https://www.vice.com/en_us/article/kzm59x/deepnude-app-creates-fake-nudes-of-any-woman?utm_campaign=The% 20Interface & utm_medium = email & utm_source = Revue% 20newsletter), um aplicativo deepfake que permitia aos usuários criar fotos realistas de mulheres nuas em trinta segundos. Um [sistema de IA que gera textos falsos '](https://arstechnica.com/information-technology/2019/02/researchers-scared-by-their-own-work-hold-back-deepfakes-for-text-ai /) release foi emparelhado por seus criadores porque seu mimetismo da escrita humana era tão plausível que era quase impossível diferenciar seus resultados bem-sucedidos de notícias reais, análises de produtos e até mesmo tweets.

** deepfakes ameaçam a integridade das eleições em todos os lugares **

Em agosto, a agência de aplicação da lei da União Europeia, Europol, relatou o [primeiro crime cibernético cometido usando IA](https://www.wsj.com/articles/fraudsters-use-ai-to-mimic-ceos-voice-in -unusual-cybercrime-case-11567157402? shareToken = stfd758587874846febc6b0a92cf5e8ece); criminosos enganaram uma empresa de energia sediada no Reino Unido em quase € 200.000 euros (US $ 219.200), usando um programa que imitava quase perfeitamente a voz de um executivo-chefe.

Dada a proliferação de tecnologia deepfake, não é de admirar que os legisladores em todo o mundo tenham percebido os perigos que ela representa para a sociedade.

Embora a desinformação disseminada por meio da manipulação de imagem e vídeo tenha sido um desafio para os governos por décadas, os deepfakes são uma ameaça indiscutivelmente mais maligna. A maioria das pessoas confia mais no que vêem ou ouvem do que no que lêem, pela simples razão de que permite que as pessoas julguem o que observam como se fossem [testemunhas oculares em primeira mão](https://www.foreignaffairs.com/articles/world / 11-12-2018 / deepfakes-and-new-disinformation-war) para o evento.

Como entendemos nossa situação atual?

A proeminência dos smartphones e do compartilhamento instantâneo nas redes sociais tornou os vídeos e clipes de som mais comuns do que nunca, e muitas vezes são a primeira coisa que as pessoas encontram quando acontece um grande evento de notícias. Deepfakes, portanto, ameaçam os fatos básicos da realidade compartilhada - a base para qualquer sistema de governo em funcionamento.

Além disso, os deepfakes representam ameaças graves às liberdades fundamentais; reproduzir a semelhança de alguém sem seu conhecimento ou consentimento, especialmente sua voz e maneirismos, ameaça a personalidade de alguém. O [aumento da chamada “pornografia de vingança”](https://www.vice.com/en_us/article/kzm59x/deepnude-app-creates-fake-nudes-of-any-woman?utm_campaign=The%20Interface&utm_medium = email & utm_source = Revue% 20newsletter) e outros usos de deepfake AI para chantagem já afetam muitas mulheres, sem mencionar o potencial para que esse tipo de chantagem seja usado para fins políticos. Por outro lado, a tecnologia também é utilizada como expressão artística ou crítica de poder, como foi o caso dos falsos vídeos de Zuckerberg de junho.

** Uma boa formulação de políticas pode proteger tanto a sociedade contemporânea quanto as gerações futuras dos abusos de novas tecnologias **

Abundam as perguntas sobre a melhor forma de proteger os direitos individuais de expressão e, ao mesmo tempo, proteger o direito da sociedade a um sistema de informação livre e preciso. A qualidade, resistência à detecção e acessibilidade da tecnologia deepfake, não apenas para agências de inteligência, mas para outros atores não-estatais e civis colocam em risco a estabilidade da sociedade.

Em uma escala global, atores mal-intencionados podem usar essa tecnologia para representar mais ou menos qualquer pessoa falando coisas inflamatórias e para desacreditar os oponentes ou incitar a violência. Em nível nacional, os deepfakes ameaçam a integridade das eleições em todos os lugares.

Por meio da mídia social, as pessoas costumam retuitar ou compartilhar informações que veem de outras pessoas sem se preocupar em verificar se são verdadeiras, especialmente se forem negativas ou novas. Ambos [setor](https://www.theatlantic.com/technology/archive/2019/06/zuckerberg-very-good-case-deepfakes-are-completely-different-from-misinformation/592681/?utm_campaign=The% 20Interface & utm_medium = email & utm_source = Revue% 20newsletter) e policymakers semelhantes concordam que um novo paradigma precisa ser estabelecido, mas as propostas atuais apenas arranham a superfície de minimizar a ameaça potencial dos deepfakes.

Apenas sinalizar um vídeo como falso provavelmente não interromperá o efeito de um deepfake destinado a espalhar desinformação; se as pessoas são expostas repetidamente a informações falsas, é provável que acreditem. Isso também é chamado de efeito de verdade ilusória e geralmente ocorre com conteúdo manipulado ou sintético, pois as pessoas apenas se lembram de que viram as informações falsas antes, não que sabiam que eram falsas. Nem é exigir que todo o conteúdo falsificado tenha marca d'água uma medida sustentável, já que a aplicação dessa legislação seria quase impossível além das fronteiras estaduais.

O que o governo pode fazer?

No entanto, nem toda esperança está perdida.

Embora o estado atual do cenário da mídia global, juntamente com a falta de padrões coerentes para regulamentação de conteúdo entre plataformas em diferentes jurisdições, pinte um quadro sombrio para o potencial de regulamentação profunda e sustentável, existem medidas que todos os governos podem e devem tomar para pavimentar o caminho para um novo regime de governança.

Em primeiro lugar, a educação para a mídia deve ser uma prioridade para todos os cidadãos, independentemente da idade. A educação adequada sobre como as informações falsas são disseminadas e uma consciência mais geral do que constitui um dano online não apenas ajudará os cidadãos a identificar deepfakes, mas também os ajudará a identificar informações enganosas em outros lugares na Internet.

Em segundo lugar, os governos devem reconsiderar sua difamação, fraude e apropriação indevida de leis de semelhança. Isso ajudaria a definir o que é um deepfake malicioso e protegeria melhor os cidadãos comuns de serem vítimas do desenvolvimento de tecnologia.

Terceiro, os governos devem formar parcerias mais estreitas com a indústria para investir em soluções técnicas melhores e mais flexíveis que ajudarão a identificar deepfakes para fins de moderação. Uma melhor identificação de deepfakes ajudaria as plataformas de mídia social a criar políticas mais uniformes em relação a deepfakes e ajudaria a proteger o direito das pessoas à expressão, sem permitir a proliferação de conteúdo prejudicial.

Finalmente, os governos precisam estabelecer diretrizes de transparência sobre como e quando o próprio governo usa tecnologia deepfake. Assim como os cidadãos têm o direito de ser protegidos de campanhas estrangeiras de desinformação, eles também têm o direito de saber quando e como seu próprio governo está implantando o aprendizado de máquina.

Não importa o quanto possamos desejar, os deepfakes só vão se tornar mais comuns. No momento, pode parecer que isolar as sociedades das consequências negativas dos avanços na [inteligência artificial](https://apolitical.co/solution_article/how-public-sector-ai-is-going-from-hype-to-reality /) é impossível (ou - no mínimo - improvável). No entanto, devemos reconhecer que os desafios apresentados pelos deepfakes são semelhantes aos desafios que nós, como sociedade, superamos no passado.

Uma boa formulação de políticas pode proteger tanto a sociedade contemporânea quanto as gerações futuras dos abusos das novas tecnologias. - Clare Welch

_ (Crédito da imagem: Anthony Quintano //Wikimedia Commons) _