Deepfakes, a tecnologia de Fake News que permite a criação de vídeos falsos

Nova tecnologia desenvolvida por inteligência artificial, o Deepfake permite a manipulação de vídeos e potencializa ainda mais a propagação de Fake News no ambiente online.

As tão temidas Fake News, antes usadas para espalhar informações deturpadas na Web em forma de texto, invadiram o mundo dos vídeos e representações digitais. Denominado Deep Fake, o mecanismo consiste em manipular as imagens e o áudio de um vídeo original por meio de inteligência artificial. Assim como notícias falsas, estes vídeos falsos causam riscos e são eficazes em divulgar desinformações convincentes, nos mais variados segmentos.

Nos dias de hoje, quando nos vemos conectados digitalmente e com tantos recursos de computação gráfica, avaliar a precisão da informação se tornou um desafio para os usuários da Internet. É preciso aumentar a vigilância não só no compartilhamento de notícias nas redes sociais para não cair no conto das Fake News, mas também adquirir o hábito de assistir cuidadosamente aos vídeos, antes confiáveis, agora possivelmente manipuláveis.

As Deepfakes se utilizam de um mecanismo de inteligência artificial (AI) para estudar os diferentes ângulos do rosto de seu alvo, com o objetivo de sobrepor essas características a outra, criando uma fraude. Os algoritmos de AI dos Deepfakes podem reunir grandes quantidades de dados, inclusive amostras de voz e maneirismos físicos da pessoa e, a partir deles, dar vida a um personagem que faz ou diz algo que nunca fez, inclusive replicando os movimentos faciais praticamente reais. O método para incluir o áudio é o de sincronização labial, que completa a encenação com os movimentos dos lábios e da boca, gerando um falso discurso.

Deepfakes: origem da tecnologia de manipulação de vídeos falsos

A capacidade de colocar qualquer pessoa em um vídeo falso ou foto que nunca tenha participado, já existe há décadas – foi assim que o falecido ator Paul Walker ressuscitou na tela na pele do agente Brian O’Conner, em “Velozes e Furiosos 7” (2015). Mas essa façanha costumava ocupar estúdios inteiros de especialistas e um longo tempo para criar esses efeitos. Agora, as tecnologias de computação gráfica podem sintetizar imagens e vídeos muito mais rapidamente, representando um verdadeiro aliado para as Fake News.

Segundo Hao Li, CEO da Pinscreen e pioneiro na criação de Deepfakes – e também o principal colaborador da reencenação de Paul Walker –, técnicas para produzir imagens e vídeos manipulados que parecem perfeitamente reais estarão acessíveis para todas as pessoas antes do final de 2020. De fato, o cientista da computação esteve no Brasil como convidado na 5a. edição da VFX Rio, que aconteceu em dezembro de 2019, e menos de seis meses depois, as declarações que deu já se confirmam.

Hoje, qualquer indivíduo pode acessar um aplicativo em seu smartphone e produzir Deepfakes bastante realistas. E tem mais, os vídeos falsos não precisam ser de nível laboratorial ou de alta tecnologia para terem um efeito destrutivo na sociedade, conforme ilustrado nos Deepfakes pornográficos não consensuais e outras formas problemáticas ligadas às organizações políticas e às fraudes financeiras.

A título de curiosidade, as Deepfakes receberam essa denominação pelo primeiro exemplo do gênero, criado em 2017 por um usuário do site Reddit, que se autodenomina r/deepfakes. Ele usou a biblioteca de aprendizado de código aberto do Google para trocar os rostos de artistas pornôs pelos de atrizes famosas. A partir daí, muitos dos Deepfakes de bricolage encontrados são derivados desse ousado experimento e hoje estão indo além da cultura dos memes, causando um crescente desconforto e confusão nos mais diferentes segmentos.

A expressão “Deepfake” tem origem na junção da palavra ‘fake’ (falso, em tradução livre do inglês) e com o termo ‘deep learning’ (que significa aprendizado profundo).

Os setores mais atingidos pelos Deepfakes e seus vídeos falsos

O poder de convencimento dos vídeos falsos tem crescido rapidamente e alcançando proporções preocupantes. O número de vídeos manipulados lançados na Web nos últimos dois anos é assustador e, provavelmente, os fraudadores se utilizam deles para cometer crimes cibernéticos. Hoje vemos Deepfakes envolvendo figuras públicas, celebridades, ativistas, jornalistas, ameaçando minar suas identidades reais, além de casos de pornografia, violência de gênero, chantagem, entre outras práticas nefastas.

Na política global, observa-se a proliferação de Fake News e Deepfakes em sites de mídia social em escala preocupante, levando aos usuários notícias e vídeos falsos com conteúdos focados em desinformação. O uso da tecnologia corrobora os métodos mais modernos de fraude, inclusive as eleitorais.

A informação manipulada sempre foi um instrumento de poder usado para influenciar e enganar as massas, um caminho tortuoso para chegar a um resultado específico, haja visto o compartilhamento online por meio de aplicativos de mídia social direcionados, como o WhatsApp, que já agitou eleições em muitos países.

A maioria das celebridades estão no centro dos Deepfakes, mas as mulheres também são alvos claros – a pornografia não consensual é responsável por boa parte dos vídeos falsos implantados na Internet. Esses vídeos também podem abrir portas para o bullying de maneira geral, seja nas escolas ou nos ambientes de trabalho.

Já no ambiente empresarial, o número de façanhas possíveis nos negócios é limitado apenas pela imaginação do ator nefasto. Uma amostra dos mais óbvios golpes inclui falsas alegações, desvio de dinheiro, extorsão profunda, um boato sobre a situação financeira de uma companhia, entre outros. O dano potencial causado por um vídeo difamatório será igualmente significativo para a reputação individual ou corporativa, e a recuperação de uma história falsa leva ainda mais tempo se o observador casual não puder provar que é uma farsa.

 

Ações concretas para banir os Deepfakes e acabar com a propagação de vídeos falsos

As preocupações com os Deepfakes estão levando os próprios especialistas em segurança cibernética a adotar contramedidas para deter a sua proliferação. Novas leis visam impedir indivíduos de produzi-las e distribuí-las. No início deste ano, plataformas de mídia social como Twitter, Facebook, TikTok, Reddit e Youtube fizeram grandes mudanças em suas políticas, dando um passo para banir Deepfakes de suas redes.

Uma postagem do Twitter em seu blog diz: “Você não pode compartilhar supostamente mídias manipuladas que possam causar danos. Além disso, podemos rotular tweets contendo mídia manipulada para ajudar as pessoas a entender a autenticidade do conteúdo e fornecer um contexto adicional.”

O Google está trabalhando para lançar uma plataforma de suporte a jornalistas e veículos de comunicação para checagem de informações e autenticidade de vídeos e imagens. Chamada de “Assembler”, a ferramenta, que ainda está em fase de testes, poderá ser incorporada às redes sociais evitando a proliferação de conteúdos manipulados, inclusive vídeos falsos.

Conferências de tecnologia estão repletas de temas que descrevem métodos de defesa contra as Deepfakes. Mas com os desafios constantes no mundo da segurança, é preciso reunir esforços de todos os organismos para conseguir controlar as falsificações, cada vez mais sofisticadas. Muitos laboratórios de pesquisa desenvolveram maneiras de detectar vídeos falsos – incorporando marcas d’água ou uma blockchain, por exemplo.

Além dessas iniciativas, a educação digital dirigida para os usuários de mídias sociais, os esforços dos governantes e das instituições privadas, que também fazem investimentos em segurança de dados, devem ser consideradas como parte da solução. Finalmente, os nossos instintos e a escolha consciente, certamente contribuirão para impedir criminosos cibernéticos de continuar suas trilhas.

Use este espaço apenas para a comunicação de erros





Aceito que meu nome seja creditado em possíveis erratas.

DEIXE SEU COMENTÁRIO

Por favor digite seu comentário!
Por favor, digite seu nome aqui

Artigo anteriorIncidência da covid-19 cresce quatro vezes no primeiro mês flexibilização do isolamento
Próximo artigoCom cuidados reforçados, obras seguem em condomínios em Cuiabá e VG