Imagine que um vídeo está circulando pela Internet e nele você aparece fazendo algo que não fez. Quem sabe as imagens o coloquem em uma situação constrangedora e até mesmo fazendo parte de eventos e filmes – entre eles pornográficos. A filmagem é tão real que é difícil identificar que se trata de uma deepfake, vídeos falsos e realistas gerados por inteligência artificial (IA) . Em segundos, sua reputação está destruída.
Todo este cenário pode até parecer coisa de filme e realmente pode ser. Contudo, seria um filme embasado em situações do cotidiano dos dias atuais e que traz à luz os debates éticos entre a tecnologia e a privacidade, que ganharam força após a nova temporada da série da Netflix Black Mirror, no episódio: Joan é péssima.
Desde sua emergência em 2017, as deepfakes têm levantado questões éticas e preocupações sobre suas implicações. Essa técnica utiliza algoritmos avançados de aprendizado profundo, alimentados por imagens e vídeos das pessoas envolvidas, para criar resultados convincentes. Apesar de suas aplicações benéficas, como efeitos especiais no cinema e terapia por videoconferência, os deepfakes também carregam riscos consideráveis.
O que é real?
A disseminação de deepfakes levanta preocupações sobre a autenticidade do conteúdo e a manipulação de informações. A capacidade dos deepfakes de criar vídeos falsos tem implicações significativas para a sociedade e a democracia.
O potencial de disseminação de informações falsas compromete a credibilidade do conteúdo publicado, e a criação de discursos fictícios de políticos influentes pode gerar desinformação em larga escala. Além disso, os deepfakes pornográficos, que envolvem a substituição de rostos em vídeos de conteúdo adulto, levantam complexas questões éticas e legais, podendo causar danos irreparáveis às pessoas retratadas.
É importante notar que identificar um deepfake torna-se cada vez mais difícil, exigindo atenção e análise cuidadosa. Alguns sinais que podem ajudar a detectar um deepfake incluem movimentos labiais que correspondam ao que está sendo dito, entonação e tom de voz que soem naturais, piscar de olhos que pode estar ausente ou irregular, movimentos corporais que pareçam autênticos e comparação com outros vídeos de fontes confiáveis para verificar a veracidade das imagens.
Mas, há lado positivo?
Apesar das preocupações éticas e das implicações negativas, a tecnologia de deepfake também apresenta aplicações benéficas. No mundo do cinema, pode ser utilizada para criar efeitos especiais e cenas com rostos e personagens digitais de forma mais acessível.
Contudo o uso no cinema também preocupa. Porque, como mostra o episódio de Black Mirror, existe a possibilidade da empesa construir um vídeo inteiro sem a participação do ator ou até mesmo pagar pela imagem dele e usar como quiser.
Não se preocupe. Não vamos aqui dar spoiler, mas sim contextualizar o debate. No filme, as pessoas são envolvidas em situações para lá de embaraçosas em uma série produzida pela inteligência artificial em uma plataforma streaming. Elas não participaram da gravação, mas deram o direito de imagem para a empresa.
Veja o trailer:
https://www.youtube.com/watch?v=nYUS1cOiaJQ
Como funciona
O processo de criação de deepfakes baseia-se em softwares especializados, como TensorFlow e Keras, que utilizam redes neurais para aprender as características faciais, expressões e reações à luz e sombras das pessoas. Esses algoritmos encontram pontos de correspondência entre as faces originais e a face desejada, permitindo que sejam “costuradas” de forma realista.
