O que é deepfake? Entenda os riscos. Por Clayton Santos

Já pensou ver o seu rosto em um vídeo totalmente aleatório? Ou ouvir sua própria voz dizendo coisas que jamais diria? Bom, isso é possível com uma tecnologia chamada deepfake, que permite essa manipulação, principalmente em vídeos, de uma forma bastante convincente.

O método pode ser usado para ações criminosas, como disseminação de pornô de vingança, desinformação e fake news, e até mesmo golpes milionários em empresas e pessoas comuns.

• Leia também de Clayton Santos: Taxa de letalidade alta da covid-19 está associada à subnotificação, diz professor.

Em virtude de novas tecnologias que o aproximam da realidade, a deepfake está cada vez mais popular. Por isso, materiais que utilizam esse recurso podem impactar o cotidiano de forma frequente nos próximos anos.

Abaixo, são exibidos cinco exemplos de ações criminosas que já usam, ou há chances de começarem a usar, a tecnologia deepfake. Confira!

1. Desinformação

O uso do deepfake como forma de influenciar a opinião pública pode ter graves consequências, porque é sempre muito difícil determinar, em um primeiro momento, se o material é real ou não. Assim, a tecnologia pode acabar contribuindo para a disseminação de fake news e compartilhamento de imagens que não retratam a verdade.

Um dos exemplos mais conhecidos é um vídeo do ex-presidente norte-americano Barack Obama em que ele fala sobre o filme Pantera Negra e critica Donald Trump.

Além de falsificar um discurso, a técnica pode ser usada para criar um vídeo falso de bastidores, em que um agente público faz uma confissão comprometedora falsa, ou ainda matérias de divulgação que espalham notícias falsas.

2. Pornô de vingança

Um dos usos mais evidentes do deepfake atualmente é a criação de material pornográfico, o que é considerado crime. Esta técnicas pode ser usada para despir e mostrar menores em atos sexuais, ou mesmo criar vídeos pornográficos de vingança, em que ex-parceiros ou até mesmo desconhecidos, acabam expondo as vítimas em clipes falsos.

Mais recentemente, temos o “deepfake ao vivo”, como demonstrado na novela “Travessia”. Essa tecnologia exige um computador potente com capacidade para processar as alterações em tempo real. Esses algoritmos vão processando dados, que são a imagem e a voz de uma pessoa. Quanto mais dados, maior a eficiência do “deepfake ao vivo”.

Nesse tipo de golpe, crianças abaixo de 13 anos são os principais alvos de pedófilos, que buscam atraí-las para ficarem nuas na frente da tela e produzir conteúdo de pornografia infantil (grooming).

Além disso, o nível de tecnologia não precisa ser perfeito porque a criança dificilmente vai conseguir identificar as falhas, já que é uma conversa em tempo real. A falta de qualidade da imagem, por exemplo, pode ser confundida com baixa velocidade de internet.

Cabe ressaltar que, para criar empatia, os golpistas escolhem o rosto e a voz de personagens do mundo infantil. Pode ser de um influenciador ou até mesmo de um desenho animado.

3.  Ataques de engenharia social

Outro cenário preocupante em torno do deepfake são usos em que algum tipo de material é criado para induzir a vítima a tomar uma decisão que pode colocá-la em risco.

Um vídeo falso poderia induzir o usuário a achar que um familiar está em uma emergência e precisa, por exemplo, dos seus dados bancários para fazer um saque, ou pagar uma despesa com cartão de crédito.

4.  Criação de pessoas virtuais

Outra aplicação da tecnologia está na criação de identidades falsas virtuais. Nesse cenário, o deepfake é usado para criar pessoas que nunca existiram. Então, esses perfis e personagens são utilizados em ações que vão desde a criação de bots (robô eletrônico) em redes sociais a golpes e fraudes.

Com aplicações mais sofisticadas das tecnologias de deepfake, criminosos poderiam criar essas identidades falsas para fraudes, como a abertura de contas bancárias e empréstimos.

5. Criação de provas falsas

Outro exemplo de aplicação preocupante do deepfake está no risco de que criminosos usem a tecnologia para forjar provas em imagem, som e vídeo. Suponha que um crime está em investigação e a polícia tem razões suficientes para acreditar que já identificou o culpado.

Um material deepfake, como um vídeo com aparência caseira, poderia ser suficiente para dar ao criminoso um álibi, ou ao menos servir de evidência para que a polícia continue as investigações.

Como identificar um deepfake?

• Observe movimentos estranhos dos olhos e da face, indicando que a transição de quadros do vídeo foi manipulada de alguma forma. Outra sugestão é reparar em expressões faciais que não condizem com as emoções ou situação da gravação.

• Analise o cabelo. As tecnologias de IA têm dificuldade em simular o comportamento natural dos fios de cabelo, que acabam aparecendo “engessados” em vídeos deepfake. Se notar que os fios não mudam de posição, apresentam um aspecto rígido ou ainda estão lisos demais, quando deveriam ser crespos, há boa chance de que o vídeo seja falso.

• Analisar borrões e desalinhamento em traços da imagem: se o rosto não está corretamente alinhado com o pescoço, ou se a união dessas duas características aparece borrada, o vídeo tem grandes chances de ser falso.

• Assistir o vídeo com velocidade reduzida é algo que geralmente revela trechos em que junções e alterações foram realizadas, além de usar a busca do Google para ver se os resultados não mostram imagens parecidas, originais, que podem indicar a origem do material adulterado.

— O JC também está no Telegram. Siga-nos e leia notícias, veja vídeos e muito mais.