De políticos a atrizes famosas, chegando até ao fundador do Facebook, não foram poucas as pessoas afetadas pelo deepfake – esse novo formato de vídeo tem se mostrado uma grande dor de cabeça, pelo menos por enquanto, e também tem feito muitos pesquisadores somarem forças para encontrar formas de identificá-lo ou neutralizá-lo.
Conforme a tática evolui e o número de casos aumenta, fica cada vez mais difícil discernir o que é real ou não – em menos de um ano, a quantidade de deepfakes rodando pela internet duplicou, passando de 7.964 para 14.698. Uma outra notícia ruim? 96% desse conteúdo é de cunho pornográfico, segundo dados do relatório The State of Deepfakes, publicado pela empresa de cibersegurança Deeptrance.
Mas o que é o deepfake? Qual tecnologia está por trás dele e como identificá-lo? Existe alguma regulamentação que possa puni-lo? Essas são apenas algumas das dúvidas que afloram conforme a tecnologia avança e se torna cada vez mais comum em nosso dia a dia.
O que é esse tal de deepfake e qual a tecnologia por trás dele?
O deepfake é uma forma de utilizar a Inteligência Artificial (IA) para criar vídeos falsos, onde o rosto de determinada pessoa é colocado em outro corpo, reproduzindo uma situação que não aconteceu de fato. A expressão tem parentesco com o deep learning e ficou famosa no ano de 2017, quando um usuário do Reddit começou a postar vídeos pornográficos com atrizes mundialmente conhecidas.
Para que montagens como essa sejam feitas, é necessário que um software seja alimentado com diversas fotos e vídeos de uma pessoa – tarefa que não é nada complicada, considerando a quantidade de informações que existem disponíveis online. Todos esses dados são processados e, assim, a máquina aprende características como as feições de um rosto ou a forma como ele se movimenta.
Tecnologicamente falando, o deepfake funciona utilizando o que chamamos de Redes Adversariais Generativas (GAN), onde dois tipos de inteligência artificial – uma geradora e outra discriminadora – são conflitados. Ambos os tipos são alimentados com informações, dessa forma, conforme a inteligência discriminadora vai ganhando experiência em distinguir o que é falso ou verdadeiro, a geradora também se aprimora em desenvolver fakes que vão enganar a inteligência discriminadora.
É assim que o programa acaba sendo simultaneamente treinado com dados originais e falsos, até que encontre um ponto de intersecção onde possa unir os dois rostos, recebendo informações de uma pessoa e processando como se fosse outra.
Os casos mais famosos de deepfake
Talvez você já tenha ouvido falar de deepfake e veio parar aqui, em nosso blog, justamente por causa de um desses acontecimentos intrigantes:
Em 2018, o diretor Jordan Peele viralizou um vídeo em que aparece dublando ninguém mais, ninguém menos do que o próprio Barack Obama, ex-presidente dos Estados Unidos. A intenção do vídeo era chamar a atenção para o fato de que discursos políticos falsos – mas convincentes – agora fazem parte da rotina da população, e é preciso ter cautela ao tomá-los como verdade.
Outra manipulação que ficou bem conhecida aconteceu com a democrata Nancy Pelosi. No vídeo, que teve a sua velocidade drasticamente reduzida e foi compartilhado até pelo presidente Donald Trump, a política norte-americana aparentava estar bêbada.
Um caso emblemático de deepfake envolveu o presidente do Gabão, Ali Bongo. Após ter sumido por alguns meses, várias especulações começaram a surgir sobre o seu estado de saúde, fazendo com que as pessoas acreditassem que ele estava doente ou até mesmo morto. Para acalmar os ânimos, o governo publicou um vídeo com Bongo que atiçou ainda mais a ira da população, desconfiada da utilização de inteligência artificial no material. A confusão foi tanta que houve até uma tentativa malsucedida de golpe após o dito vídeo.
E, por fim, nem Mark Zuckerberg conseguiu se proteger dessa ameaça crescente – em junho deste ano, uma agência publicitária e dois artistas fizeram um deepfake onde o fundador do Facebook fala sobre como a empresa tem poder em relação aos dados e vidas de milhões de pessoas. Ironicamente, a proposta do vídeo, originalmente publicado no Instagram, era confrontar a política das redes de Zuckerberg em não remover esse tipo de material quando postado.
Como identificar um deepfake?
Identificar um deepfake tem se mostrado um grande desafio, mas os especialistas são unânimes em afirmar que existem certos traços humanos que esse tipo de inteligência artificial não consegue imitar – é só prestar atenção em alguns padrões como piscadas de olhos estranhas, movimentos bruscos e forçados quando comparados aos movimentos humanos e borrões na imagem.
Também é possível analisar fatores como a coloração da imagem e checar se a fala está coordenada com o movimento da boca. Além disso, a IA do deepfake ainda não consegue desenvolver rostos tridimensionais – ela gera uma espécie de máscara em duas dimensões, que é ajustada para ficar sobre o rosto verdadeiro da pessoa.
Entre os pesquisadores, vários esforços têm sido feitos para não apenas identificar quando um vídeo é um deepfake, mas também para evitar essas montagens. Nas universidades de Berkeley e Southern California foi desenvolvido um algoritmo para descobrir essas manipulações, a partir das mesmas tecnologias utilizadas para criar os vídeos falsos.
Em um teste realizado com imagens de possíveis candidatos presidenciais das próximas eleições norte-americanas, esse algoritmo capturava características particulares das personalidades analisadas, como certos traços e expressões faciais, além do modo de falar, com o objetivo de desenvolver um perfil biométrico de cada uma delas. Por meio desse perfil, foi possível apontar quando as falas apresentadas nos vídeos eram verdadeiras ou falsas. Embora seja um avanço, o algoritmo ainda apresenta certa dificuldade ao analisar imagens onde o locutor não estava olhando diretamente para a câmera.
Já pesquisadores da Cornell University desenvolveram um método para barrar a criação de deepfakes. Isso é feito por meio de ruídos imperceptíveis aos olhos humanos, que são inseridos na imagem original – dessa forma, o algoritmo não identifica o rosto verdadeiro contido na foto e, em vez disso, capta diversos elementos que não existem, dificultando assim a propagação de um vídeo falso.
Existe alguma lei para proteger as pessoas das deepfakes?
O Brasil ainda está engatinhando quando se fala em regulamentações que objetivam proteger os dados e a privacidade de seus cidadãos – exemplo disso é a própria LGPD, que entra em vigor pleno no próximo ano. Ainda existem tamém divergências entre os próprios juristas sobre utilizar leis já existentes e que sejam aplicáveis aos casos de deepfake, ou se seria preciso criar leis completamente novas, específicas para essa situação.
Enquanto isso, diversas empresas ao redor do mundo têm tomado atitudes isoladas para combater a proliferação de vídeos falsos – o próprio Google disponibilizou um treinamento para que pesquisadores possam testar seus métodos de detecção de deepfakes.
Como ainda faltam mecanismos de proteção contra esse método de falsificação – e como ele tem se expandido em maior velocidade do que suas ferramentas de combate – é preciso ter cuidado com os conteúdos compartilhados online, checando sempre a veracidade das informações e procurando mais de uma fonte confiável para confirmá-las.
Sabe aquele ditado que diz “uma imagem vale mais do que mil palavras”? Você não pode mais levá-lo tão a sério.
Aqui na idwall, nós estamos sempre desenvolvendo soluções inovadoras para proteger os brasileiros contra um outro tipo de fraude, muito comum por aqui: a fraude de identidade. Se você quiser saber como podemos te ajudar a combatê-la, é só entrar em contato com nossos especialistas pelo formulário abaixo: