Deepfakes são imagens ou vídeos gerados por IA para produzir conteúdo altamente realista. Confira o artigo que preparamos e aprenda como se proteger e evitar ser vítima de informações falsas.
Como são feitos os deepfakes?
O aprendizado profundo é um método avançado de Inteligência Artificial (IA) que usa múltiplas camadas de algoritmos de aprendizado de máquina para extrair recursos de nível progressivamente mais alto da entrada bruta. O método consegue promover a aprendizagem com base em dados não estruturados, como o rosto humano.
Esses dados são processados para criar um vídeo Deepfake por meio de uma GAN (Generative Adversarial Network) - um sistema especializado em aprendizado de máquina. Duas redes neurais são usadas para competirem entre si na aprendizagem das características de um conjunto de dados de treinamento (como fotografias e rostos, por exemplo). Em seguida, elas geram novos dados, com base nas características aprendidas (novas "fotografias").
À medida que a rede testa as imagens criadas em relação ao conjunto de treinamento, as imagens, vídeos e áudios falsos se tornam mais convincentes. Isso torna o Deepfake uma ameaça ainda mais potente, pois eles podem utilizar técnicas de sintetização para replicar vozes.
Outro método para criar deepfakes é usar a arquitetura de autocodificador. Uma rede neural autocodificadora é projetada para codificar dados (como uma imagem) em uma representação latente de dimensão inferior (ou seja, em vetores matemáticos em vez de pixels), compactar os dados e então reconstruir os mesmos dados na outra extremidade do pipeline. Os autocodificadores são usados para muitos propósitos em visão computacional, como análise de caligrafia e reconhecimento facial.
Como os autocodificadores buscam dados "essenciais" de uma imagem (como a imagem de um rosto), eles são muito bons em eliminar ruído visual. No caso de um software deepfake, isso significa que uma arquitetura de autocodificador pode aprender características e traços fundamentais da fotografia de um rosto, ignorando amplamente fatores estranhos, como granulação, sombras e outros elementos "não faciais" que possam estar presentes na imagem, resultando em modelos versáteis e bem generalizados (ou seja, modelos que podem executar transformações úteis em dados diferentes dos dados de treinamento originais).
Como os deepfakes são usados?
Embora o conceito de deepfakes também seja usado para criar efeitos visuais em filmes, os deepfakes online têm muitas intenções:
- Campanhas de desinformação e fake news: Ocorrem especialmente durante eleições, para influenciar a opinião das pessoas.
- Chantagem: Quando alguém cria um vídeo ou imagem deepfake de uma pessoa, e ameaça divulgá-la se ela não ceder às exigências.
- Deepfake Phishing: Se passar por alguém em tempo real sob o pretexto de ajudar um amigo, familiar ou colega.
- Fraude financeira: Usar deepfakes para roubo de identidade .
Quais são os perigos dos Deepfakes?
À medida que a tecnologia e a IA evoluem, vídeos e imagens deepfake online se tornam mais fáceis de gerar e mais convincentes. Os perigos de ser vítima de deepfakes representam um alto risco para empresas, celebridades, funcionários, candidatos eleitorais e até mesmo para pessoas comuns.
Conheça alguns exemplos:
Fraude milionária
Em 2023, um trabalhador financeiro em Hong Kong pagou US$ 25 milhões a um golpista por causa de uma tecnologia deepfake. O trabalhador foi convidado a participar de uma videochamada com colegas e o diretor financeiro da empresa. Durante a ligação, o funcionário concordou em enviar US$ 200 milhões em dólares de Hong Kong.
Apesar de ele ter visto os outros funcionários e o CFO na reunião, tudo era uma IA deepfake que manipulou os recursos de reconhecimento facial para se parecerem com os colegas de trabalho.
Chantagem e difamação
Em 2020, a polícia sul-coreana descobriu uma quadrilha de homens tirando fotos de meninas do ensino médio para criar e distribuir no aplicativo de mensagens Telegram. Ajudando os homens estavam garotos do ensino médio que tiravam fotos de seus colegas de classe, alguns dos quais eram menores de idade, e depois as enviavam aos criadores.
Esses vídeos eram distribuídos em diversas plataformas, deixando as meninas sem possibilidade de ação. Embora não sejam elas no ato, as provas falsas afetam a forma como elas são vistas pela sociedade e ainda são traumatizantes.
Falso relacionamento online
Em 2024, uma mulher britânica de 77 anos, Nikki, foi enganada e perdeu £ 17.000 devido a vídeos deepfake. Nikki conheceu outra mulher online, e elas iniciaram um relacionamento — ou assim ela pensou.
O fraudador alegou que estava trabalhando em uma plataforma de petróleo e não podia fazer chamadas de vídeo, e sua vítima precisava pagar por vouchers para ter acesso à internet. Quando Nikki começou a desconfiar, o agressor começou a enviar vídeos dela mesma na plataforma de petróleo, acabando com as suspeitas de Nikki.
Conforme o relacionamento prosseguia, Nikki frequentemente solicitava uma chamada de vídeo, que era sempre negada, mas logo depois ela recebia documentos, imagens e vídeos gerados por IA para deixá-la mais tranquila — e então o golpista pedia mais dinheiro.
Nikki só foi informada do golpe quando tentava transferir dinheiro para a conta bancária do parceiro.
Deepfakes inofensivos
Alguns deepfakes online podem ter fins puramente de entretenimento, numa tentativa de ganhar mais seguidores em plataformas de mídia social.
Um dos deepfakes mais populares foi o de Tom Cruise , que foi lançado no TikTok. A conta tinha um milhão de seguidores e alguns vídeos atingiram quase 50 milhões de visualizações, apesar de não serem vídeos reais do ator. Inicialmente, as pessoas pensaram que a celebridade havia entrado na plataforma uma vez que os vídeos, a aparência, a voz e até mesmo a personalidade eram muito convincentes.
Em 2022, um criador do YouTube, Shamook, pegou o novo trailer do filme Homem-Aranha e substituiu o ator Tom Holland pelo ator original Tobey Maguire. Como o trailer falso de Homem-Aranha está listado como Deepfake no título, ele é um ótimo exemplo de algo que foi feito apenas para entreter.
Como prevenir os deepfakes?
Com os deepfakes se tornando uma preocupação crescente e um risco à segurança, há algumas medidas que você pode tomar para evitar que isso aconteça com você ou com sua empresa.
Verifique todas as solicitações
Se lhe pedirem informações pessoais ou confidenciais, não compartilhe esses dados e confirme a identidade do autor da chamada por meio de um canal secundário, como retornar a ligação para a empresa da qual ele disse ser.
Use as configurações de privacidade em todas as contas online
Restrinja o acesso a contas de redes sociais com vídeos ou imagens suas para reduzir oportunidades de replicarem sua imagem.
Proteja suas senhas ao máximo
Mude as suas senhas regularmente. Certifique-se de que todas as senhas sejam fortes , únicas, complexas e tenham pelo menos 16 caracteres. Em contas compartilhadas, use um software de compartilhamento de senhas para que você não precise fornecê-las a familiares ou funcionários.
Adicione autenticação de dois fatores para contas
Certifique-se de que todas as contas on-line exijam que você verifique sua identidade antes de acessar com autenticação de dois fatores. Isso torna mais difícil para golpistas invadirem suas contas.
Atualize seu antivírus regularmente
As atualizações de software antivírus são cruciais para garantir que seus dispositivos estejam protegidos contra os malwares, spywares e bugs mais recentes.
Treine os funcionários regularmente
Assim como a tecnologia evolui, o modus operandi da fraude deepfake também evolui. É essencial manter-se atualizado sobre os golpes mais recentes e interagir com os funcionários e colegas e trabalho sobre como identificá-los.
Saiba como identificar um vídeo deepfake
Siga as características faciais do indivíduo no vídeo para verificar se elas são consistentes com os movimentos humanos normais.
- O vídeo apresenta trepidações ou nitidez inconsistente?
- Verifique os movimentos naturais, como piscar. É pouco ou muito?
- Observe as sombras e a iluminação no vídeo para ver se são artificiais.
- Faça uma captura de tela e envie-a para o Google para autenticar a fonte.
PROTEJA SEU CELULAR COMO UM ESPECIALISTA - CURSO GRÁTIS + CERTIFICADO
Aprenda com especialistas da Kaspersky em um curso gratuito, conquiste seu certificado e desbloqueie descontos exclusivos em antivírus para manter todos os seus dispositivos seguros.
INSCREVA-SE AGORA!O que fazer se você for vítima de deepfake?
Documente as evidências
Certifique-se de salvar os deepfakes e qualquer coisa relacionada a eles, incluindo comentários, plataformas nas quais foram compartilhados (se aplicável), capturas de tela e quaisquer dados associados a eles. Anote a data, a hora e a plataforma em que isso aconteceu.
Notifique as plataformas
Se o conteúdo deepfake for de uma plataforma como YouTube, Facebook ou X, denuncie usando os próprios canais de suporte. A maioria das plataformas tem políticas para remover mídia manipulada.
Entre em contato com as autoridades
Deepfakes que envolvem roubo de identidade ou financeiro são crimes. Notifique a polícia local e apresente suas evidências para que as autoridades possam emitir um relatório formal. Este relatório pode ser usado para suas contas bancárias, de seguros e outras contas oficiais sobre o crime.
Considere entrar com uma ação legal
Com a ajuda de um advogado, informe-se sobre leis de difamação, direitos autorais ou privacidade em sua região para garantir que você tenha um caso convincente. Verifique se outras pessoas não foram vítimas do mesmo golpe e, se possível, investigue uma ação coletiva.
Contrate uma empresa de relações públicas
Se a sua reputação ou a da sua empresa estiver em jogo, trabalhar com um especialista em relações públicas pode ajudar você a elaborar uma resposta e distribuí-la às partes necessárias para mitigar qualquer dano.
Tecnologia anti-falsificação de última geração
Várias empresas de tecnologia estão produzindo ferramentas de detecção de deepfake para ajudar a impedir a disseminação de informações incorretas, fraudes e golpes de phishing SAD.
Novas tecnologias estão ajudando os produtores de vídeo a autenticar suas criações. Um algoritmo criptográfico pode ser usado para inserir hashes em intervalos definidos durante o vídeo. Se o vídeo for alterado, os hashes serão alterados. IA e blockchain podem registrar uma impressão digital à prova de adulteração para vídeos. Essa técnica é semelhante aos documentos com marca d’água. A dificuldade com o vídeo é que os hashes precisam se manter, caso o vídeo seja comprimido para uso com codecs diferentes.
Outra forma de combater as tentativas de deepfake é usar um programa que insere "elementos" digitais especialmente projetados em vídeos para ocultar os padrões de pixels que o software de detecção de rosto usa. Eles retardam os algoritmos de deepfake e geram resultados de má qualidade, reduzindo as chances de sucesso dos vídeos falsos.
Proteção de segurança preventiva
- Garantir que funcionários e familiares saibam como funciona a tecnologia de deepfake e os desafios que isso representa.
- Informar-se e ensinar as outras pessoas como detectar um deepfake.
- Adquirir conhecimentos sobre mídias e utilizar fontes de notícias de boa qualidade.
- Ter bons protocolos básicos. Uma atitude cética em relação a mensagens de voz e vídeos não garante que nunca seremos enganados, mas pode nos ajudar a evitar muitas armadilhas.
- Backups realizados com regularidade protegem os dados contra ransomware e oferecem a capacidade de restaurar dados danificados.
- Usar senhas diferentes e fortes para contas diferentes só porque uma rede ou serviço foi invadida não significa que nenhuma outra conta tenha sido comprometida. Se alguém invadir uma conta do Facebook, ninguém vai querer que essa pessoa entre nas outras contas também.
- Use um bom pacote de segurança, como o Kaspersky Premium, para proteger sua rede doméstica, notebook e smartphone contra ameaças cibernéticas. Este pacote fornece software antivírus, uma VPN para impedir que suas conexões Wi-Fi sejam hackeadas e proteção para suas webcams também.
Qual é o futuro do Deepfake?
O deepfake continua a evoluir. Há dois anos, era muito fácil identificar vídeos de deepfake pela baixa qualidade dos movimentos e pelo fato de que a pessoa representada parecia nunca piscar os olhos. Garantir que você permaneça seguro online e que permaneça vigilante e desconfiado de qualquer atividade suspeita, especialmente quando se trata de informações pessoais, ajuda as pessoas a identificar a fraude antes que ela aconteça.
Perguntas Frequentes sobre Deepfake
O que é deepfake phishing?
Ataques de engenharia social para enganar são um tipo de golpe de phishing que engana e manipula indivíduos se passando por outras pessoas. O objetivo desses golpes é extrair informações confidenciais e fazer com que as vítimas transfiram dinheiro ou acessem sistemas.
Devo me preocupar com golpes de deepfakes de voz?
Sim. Agora, os golpistas podem gerar áudios deepfake que soam exatamente como você, para extorquir dinheiro de amigos, familiares ou colegas sob o pretexto de lhe ajudar. Para contornar isso, defina uma palavra-chave ou pergunta de segurança com seus entes queridos, que o golpista não saberá responder, e que você pode perguntar durante uma ligação para verificar a identidade deles.
Como acontece o roubo de identidade?
Os fraudadores podem usar sua imagem ou voz para falsificar documentos, alterar números de contas ou se passar por você pelo telefone.
Como são feitos os deepfakes?
Vídeos, áudio e imagens deepfake são feitos por IA. O aprendizado de máquina coleta todos os dados da sua aparência física e cria uma versão sintetizada.
