Recentemente o mundo tem vivenciado uma onda de proliferação de fake news através das redes sociais e Internet no geral. Já faz alguns anos que pessoas má intencionadas estão usando a tecnologia de forma maliciosa. Seja para alterar resultados de pesquisas, aplicar golpes ou até mesmo atacar, de forma pessoal, outras pessoas.
E, conforme a tecnologia avança, os meios de criar fake news também evoluem. Se até um tempo atrás uma imagem adulterada ou uma mensagem de texto já eram o suficiente para criar caos, imagina hoje em dia com novas práticas como o Deepfake.
Neste conteúdo iremos falar o que é o Deepfake, como surgiu o termo, como identificar e como se proteger. Então, se você ainda não conhece essa tecnologia, continue com a leitura até o final para saber como se proteger e não cair nessa situação!
O que é deepfake?
Deepfake é o nome dado para a técnica de criar mídias, em sua maioria vídeos falsos, em que pessoas são colocadas em situações não verdadeiras, como por exemplo falando e fazendo coisas que nunca fizeram de fato.
Para isso, é usada a Inteligência Artificial para combinar, fundir, sobrepor ou até mesmo substituir áudios e imagens reais com outros criados com o propósito de transmitir informações falsas.
Essa técnica distorce a percepção que as pessoas possam ter de um indivíduo, visto que com ela é possível realizar a troca de rostos, clonagem de voz, sincronização labial a um áudio diferente do original.
Para criar um material de deepfake é preciso ter acesso ao arquivo verdadeiro que servirá de base para o produto manipulado. Levando em conta que esse material é criado a partir de uma IA, é necessário alimentar o banco de dados com imagens, áudios e vídeos verdadeiros.
Quanto mais “material” verdadeiro disponível, melhor e mais realista será o resultado final do material criado usando deepfake. Isso acontece porque a IA usa o conteúdo original como fonte de estudo para aprender a reproduzir padrões, como por exemplo os movimentos, expressões, vozes e outras características do indivíduo-alvo do deepfake.
Apesar de ser mais usado para criar polêmica e acusar alguém de algo que essa pessoa não cometeu, os conteúdos criados por deepfake também podem ter cunho humorístico. No início, essa técnica era usada apenas pelo humor, no entanto, com o passar do tempo, se tornou algo perigoso e mais usado por cibercriminosos e pessoas com intenções maliciosas.
Origem do termo
O termo deepfake apareceu em meados de 2017 no portal de notícias e fórum de discussão americano Reddit. Acredita-se que esse era o nome de usuário da primeira pessoa que postou um software que conseguia sintetizar, em fotos, a face de um indivíduo no lugar de outra pessoa.
Conforme o tempo passou e a tecnologia avançou, o nome passou a ser usado para identificar a técnica de manipular vídeos e imagens para propagar informações falsas. O termo “fake” mostra que as coisas desenvolvidas ali são falsas.
Já o termo “deep” é usado porque essa técnica em específico necessita de muitas camadas para funcionar de forma realista. Essas camadas dão a ideia de “profundidade”. Assim, também é possível diferenciar as deepfakes das shallowfakes, que são manipulações mais simples e menos camadas.
O “deep” também está associado ao fato de que a tecnologia usada para gerar esses conteúdos têm base no deep learning (aprendizagem profunda).
Tipos de ataque com deepfake
A deepfake é um assunto que precisa de muita atenção e vem causando muita preocupação para empresas e pessoas da área da segurança da informação. O motivo é que cibercriminosos estão usando essa técnica para aplicar golpes milionários.
Um dos ataques feitos usando deepfake é o ataque de engenharia social. Esse ataque é muito usado para aplicar golpes em empresas, mas criminosos podem usar para outros fins também.
No ataque de engenharia social é criado um vídeo falso a fim de induzir alguém a tomar uma decisão que normalmente não tomaria. Como por exemplo, um vídeo falso do CEO de uma empresa pedindo para o responsável pelas finanças fazer transferência de um valor altíssimo para uma conta X.
A pessoa que recebeu o vídeo não saberá que é falso e irá fazer a transferência. E, ainda é possível usar essa técnica em vídeo chamada. Então, mesmo que o colaborador desconfie e faça uma chamada, ainda pode cair no golpe.
Outro ataque muito usado pela deepfake é a propagação de fake news. Essa técnica é muito usada para manipular a opinião e informações em geral de pessoas públicas, como políticos e artistas.
Por se tratar de um vídeo, que até então era mais difícil de manipular, e muito realista, comprovar que aquele material é falso é mais difícil. Sendo assim, muitas pessoas acreditam e compram aquela ideia.
Como identificar
Como os materiais produzidos usando deepfake possuem alta tecnologia e são feitos com a intenção de parecerem o mais realista possível, identificá-los pode ser uma tarefa não muito fácil. Contudo, existem alguns pontos de atenção que podem ajudar nesse quesito.
Apesar de muito avançada, essa tecnologia ainda não alcançou a perfeição. Sendo assim, sempre que receber um vídeo preste atenção se a cabeça da pessoa no vídeo está alinhada com o resto do corpo.
Observe também se há borrões ou sombras estranhas aparecendo nas imagens. Comparar o movimento dos lábios com o que está sendo dito também é uma boa forma de identificar manipulação.
Por vezes, ao sobrepor um vídeo em outro, acontece que algumas partes do rosto ficam duplicadas.
Porém, sabemos que a tecnologia está cada vez mais perto de chegar ao resultado perfeito. Isso poderá dificultar a identificação desses pontos que citamos. Sendo assim, é de extrema importância prestar atenção no contexto do que está sendo falado no vídeo.
Vídeos de deepfake normalmente são polêmicos e criados com a intenção de prejudicar alguém ou alguma empresa. Se atente ao que está sendo falado e desconfie da veracidade.
Como se proteger do deepfake
Não compartilhar dados e informações pessoais com ninguém, desconfiar de vídeos que receber e de notícias com tom sensacionalista são pontos fundamentais para se prevenir de ser alvo desses ataques.
Ainda não existe uma proteção específica para esse tipo de ataque e ameaça. Mas, com tantas ameaças que não param de surgir, o recomendado para empresas é contar com uma equipe especializada, como a Setrix, para implementar bons projetos de segurança da informação.
Comments