Com o avanço acelerado da inteligência artificial (IA), especialmente das redes neurais generativas, um novo tipo de ameaça tem ganhado destaque no cenário da segurança da informação: os “deepfakes”. Essas tecnologias — capazes de gerar áudio, imagem e vídeo falsificados com alta precisão — têm sido exploradas por cibercriminosos em ataques de engenharia social cada vez mais convincentes e sofisticados.

Se, até pouco tempo atrás, as tentativas de fraude se limitavam a e-mails de phishing com erros gramaticais e identidades falsas mal construídas, hoje nos deparamos com mensagens de voz clonadas, vídeos manipulados e chamadas ao vivo com rostos simulados que desafiam a capacidade de discernimento até mesmo de profissionais experientes.

Mas, afinal, o que são deepfakes?

O termo “deepfake” surge da combinação entre “deep learning” (aprendizado profundo) e “fake” (falsificado). Trata-se de uma técnica que utiliza algoritmos de IA, principalmente redes adversariais generativas (GANs), para criar conteúdo sintético realista, muitas vezes indistinguível da realidade para o observador comum. Essa tecnologia, inicialmente usada de forma lúdica ou artística, passou a ser aproveitada por criminosos para enganar pessoas e sistemas de forma extremamente eficaz.

Casos reais de golpes com deepfakes

Diversos casos ao redor do mundo demonstram o potencial destrutivo dessa tecnologia quando usada com intenções maliciosas. Em 2019, uma empresa britânica foi vítima de um golpe em que o CEO recebeu uma chamada de voz supostamente vinda de seu superior hierárquico, solicitando uma transferência urgente de 220 mil euros. A voz, recriada por IA, imitava perfeitamente o sotaque e os padrões de fala do executivo, convencendo a vítima a seguir com a transação.

Mais recentemente, houve relatos de deepfakes sendo usados em chamadas de vídeo para simular a presença de diretores de empresas em reuniões virtuais, viabilizando golpes de engenharia social com pedidos de informações sensíveis ou movimentações financeiras.

Por que os deepfakes são tão perigosos?

A força dos deepfakes reside em sua capacidade de burlar a confiança interpessoal. Ao utilizar imagens e vozes familiares — como as de chefes, colegas de trabalho, familiares ou figuras de autoridade —, os golpistas exploram a vulnerabilidade humana da presunção de veracidade através das percepções visuais e auditivas.

Além disso, a popularização de ferramentas de deepfake acessíveis e de código aberto facilita o uso da tecnologia por qualquer pessoa com conhecimentos técnicos intermediários. Plataformas como o GitHub e aplicações de IA generativa permitem, com poucos cliques, a criação de áudios ou vídeos falsos com base em dados públicos — por exemplo, falas retiradas de redes sociais ou entrevistas, nas quais pode-se treinar a inteligência artificial para reproduzir com quase perfeição a fala de qualquer pessoa.

O papel da engenharia social nos ataques com deepfakes

A engenharia social é o conjunto de técnicas utilizadas para manipular psicologicamente uma pessoa a fim de obter informações confidenciais ou acessar sistemas, induzindo a vítima a executar ações que comprometem a segurança da informação. Com os deepfakes, essas técnicas ganharam uma nova dimensão, pois agora contam com ferramentas capazes de simular contextos reais com altíssimo grau de realismo.

Ao explorar a urgência, a autoridade e a familiaridade, o atacante cria cenários que dificultam a aplicação de medidas de verificação tradicionais. Isso torna as vítimas mais propensas a agir por impulso, principalmente em ambientes corporativos de alta pressão.

Como se proteger contra deepfakes?

Embora não exista uma solução única para combater os ataques com deepfakes, algumas medidas podem reduzir consideravelmente o risco:

1. Educação e conscientização: Capacitar funcionários, colaboradores e usuários sobre os riscos dos deepfakes é fundamental. A percepção do perigo é o primeiro passo para que as pessoas se tornem mais cautelosas.
2. Políticas de verificação de identidade: Estabelecer processos adicionais de autenticação, como confirmações por múltiplos canais (ex: ligação e e-mail), uso de senhas temporárias ou palavras-chave combinadas previamente.
3. Ferramentas de detecção de deepfake: Algumas soluções baseadas em IA estão sendo desenvolvidas para identificar padrões artificiais em áudios e vídeos. Embora ainda imperfeitas, essas ferramentas podem auxiliar na análise de conteúdo suspeito.
4. Boas práticas de segurança da informação: Manter sistemas atualizados, usar autenticação multifator (MFA), restringir o compartilhamento de dados sensíveis e monitorar atividades suspeitas são pilares essenciais para mitigar riscos.
5. Redução da exposição digital: Executivos e figuras de liderança devem ter cautela ao divulgar áudios e vídeos publicamente, uma vez que esses materiais podem ser usados como base para deepfakes.

Com a constante evolução das tecnologias de IA, é esperado que os deepfakes se tornem ainda mais realistas e difíceis de detectar. Isso impõe às empresas, governos e indivíduos um desafio crescente: desenvolver métodos de verificação e educação digital que acompanhem o ritmo da inovação.

Por outro lado, novas abordagens tecnológicas também estão surgindo para combater essa ameaça. Sistemas de autenticação por blockchain, assinaturas digitais biométricas e IA voltada para a detecção de manipulações são exemplos de soluções que podem ajudar a restaurar a confiança na comunicação digital.

Em suma, o uso de deepfakes em ataques de engenharia social representa um marco na evolução das ameaças cibernéticas, exigindo uma resposta proporcional em termos de tecnologia, educação e cultura de segurança. Em um mundo onde não podemos mais confiar cegamente no que vemos ou ouvimos, a verificação se torna uma habilidade essencial. O futuro da cibersegurança dependerá da nossa capacidade coletiva de nos adaptarmos a essa nova realidade e reforçarmos continuamente os pilares da segurança digital.

Allan Julianelli é gerente de TI da Associação do Ministério Público do Estado do Rio de Janeiro desde 1998 e policial civil do Estado do Rio de Janeiro desde 2002.

allan.julianelli@amperj.org