A inteligência artificial é segura? É sem dúvida o tópico mais popular no mundo da tecnologia no momento, e é um que está atraindo um debate significativo.
Em uma cúpula global em Paris em fevereiro de 2025, as opiniões sobre a segurança da IA diferiram entre os líderes mundiais. Por exemplo, o presidente da França, Emmanuel Macron, pediu mais regulamentação para ajudar a IA a avançar, enquanto o vice-presidente dos Estados Unidos, JD Vance, disse que “políticas de IA pró-crescimento” devem ser priorizadas em relação às preocupações de segurança.
Enquanto empresas, autoridades e pessoas legítimas estão explorando formas de usar a IA de forma responsável e segura, há também outra ameaça: o uso da IA por criminosos cibernéticos para tornar suas atividades maliciosas ainda mais poderosas e bem-sucedidas.
O crime cibernético de IA é um divisor de águas para a segurança em todo o cenário digital, e é vital que todos estejam cientes dos riscos e das ações necessárias para se manterem seguros. Este guia explora os diferentes tipos de ataques cibernéticos de IA, o que esses ataques significam do ponto de vista da segurança e o que você pode fazer agora para reforçar suas defesas.
Exemplos de hackers bem-sucedidos usando IA
O risco de malware gerado por IA e outras atividades criminosas é muito mais do que teórico - esses ataques já estão acontecendo e fazendo vítimas em todo o mundo. Aqui estão apenas três de um grande número de exemplos:
Representação: Guido Crosetto
No início de 2025 , os golpistas usaram a tecnologia de voz gerada por IA para se passar pelo ministro da Defesa da Itália, Guido Crosetto. Eles então contataram empresários ricos na Itália com um pedido fictício de apoio financeiro que supostamente seria usado para ajudar a libertar jornalistas italianos sequestrados no Oriente Médio. Pelo menos um empresário foi enganado ao enviar dinheiro para o que provou ser uma conta fraudulenta.
Malware: DeepSeek ClickFix scam
Uma operação de cibercriminosos configurou uma página da Web de verificação que imita a nova IA chinesa DeepSeek. Os usuários que concluem o que pensam ser uma verificação de Captcha comandam a instalação do Vidar Stealer e do Lumma Stealer, malware que pode ser usado para roubar informações confidenciais, incluindo logins e dados bancários, resultando em fraude bancária on-line .
Erro do usuário: vazamento do ChatGPT da Samsung
Embora não seja um ataque de malware ou vírus de IA, esse incidente de alto perfil destacou como a porta pode ser aberta inadvertidamente para ataques de IA. Na primavera de 2023, a equipe da gigante de tecnologia coreana Samsung usou o ChatGPT para verificar parte de seu código-fonte, sem perceber que os dados seriam retidos para treinar ainda mais o modelo de IA. Isso efetivamente colocou algumas das propriedades intelectuais altamente confidenciais da Samsung em domínio público para qualquer pessoa acessar.
Tipos de ataques cibernéticos de IA
Já existem várias maneiras pelas quais a IA pode ser usada para atividades maliciosas, seja diretamente ou em apoio a outras empresas criminosas:
Engenharia social
Um ataque de engenharia social ocorre quando os criminosos tentam influenciar o comportamento humano e fazer com que os usuários forneçam informações ou ativos a eles voluntariamente. Isso pode ser qualquer coisa, desde dados pessoais confidenciais , informações de conta bancária, dinheiro ou criptomoeda ou acesso a determinados dispositivos e bancos de dados. A IA está se mostrando muito útil nesse tipo de ataque, ajudando os cibercriminosos a identificar alvos, desenvolver personas e mensagens convincentes e criar gravações de áudio e vídeo que adicionam plausibilidade ao golpe.
Ataques de phishing
Os ataques de phishing dependem de os usuários pensarem que as mensagens, links e anexos de e-mail recebidos são reais e clicarem no que se revela ser malware. Uma boa educação do usuário ajudou a reduzir o sucesso desses ataques no passado, mas a IA agora está sendo usada para tornar as tentativas de phishing mais convincentes do que nunca. Ele pode ser usado em comunicações em tempo real, como mensagens do WhatsApp ou comunicações de mídia social, e até mesmo em chatbots falsos de atendimento ao cliente, nos quais os clientes pensam que estão compartilhando os detalhes da conta com membros reais da equipe.
AI ransomware
A AI expandiu substancialmente os recursos técnicos dos ataques de ransomware . Isso inclui a pesquisa de alvos, como a avaliação de sistemas para as vulnerabilidades mais promissoras a serem exploradas e a capacidade de adaptar arquivos de ransomware para que eles ainda possam evitar a detecção de soluções de segurança cibernética.
IA adversária e GPTs maliciosos
Muitos cibercriminosos distorcem a saída gerada pela IA, alimentando-os com dados imprecisos ou adulterando as configurações do modelo de IA. As imprecisões introduzidas podem levar à criação de vieses perigosos ou de instruções que atendem aos objetivos do hacker. Além disso, houve um aumento no uso de ferramentas de IA maliciosas que não contêm nenhuma proteção para proteger contra parcialidade e uso indevido; O GhostGPT é um exemplo recente de um chatbot sem censura que pode ser usado para criar malware de IA.
Deepfakes
Você pode pensar que os deepfakes são apenas uma preocupação para figuras públicas cujos rostos e vozes são colocados em posições fictícias e comprometedoras, mas a ameaça para todos é real. A tecnologia Deepfake pode ser usada para se passar por qualquer pessoa por meio de vídeo, voz ou uma combinação dos dois. Eles podem ser usados para obter acesso a informações confidenciais ou até contas bancárias, enganando os procedimentos de segurança e verificação.
Combater o fogo com fogo: o que o crime cibernético com tecnologia de IA significa para a segurança?
A melhor ferramenta para usar contra ameaças cibernéticas de IA é a própria inteligência artificial. Isso não significa que as soluções de segurança padrão são impotentes para impedir ataques suportados por IA: elas ainda serão capazes de proteger contra muitos tipos de malware e hackers. No entanto, trazer a IA para a combinação de segurança pode adicionar uma dimensão extra a vários métodos de segurança, como:
Resposta a incidentes
A IA pode ser usada para automatizar as atividades de resposta a incidentes. Por exemplo, o Kaspersky Incident Response pode bloquear atividades maliciosas e os sistemas afetados podem ser isolados muito mais rapidamente do que um humano que responde a um alerta do sistema poderia gerenciar. A redução drástica dos tempos de resposta e resolução pode minimizar o impacto de qualquer ataque, o que, em última análise, limita a escala de interrupção, despesa e perda de dados.
Detecção de ameaças e busca proativa de ameaças
Com tantas ameaças ao redor, pode ser difícil para as equipes de segurança acompanhar tudo o que está por aí e investigar cada alerta. É aqui que a IA pode ajudar, analisando detalhadamente o comportamento do usuário e o tráfego de rede, detectando ameaças potenciais mais rapidamente e filtrando os falsos positivos que custam tempo valioso às equipes de segurança. A IA também pode tornar a detecção de ameaças proativa, caçando ciberataques antes mesmo que eles comecem.
Análise de malware
Os insights que a IA pode gerar podem fornecer às equipes de segurança uma compreensão muito melhor e aprofundada de como os diferentes tipos de malware funcionam na prática. Ser capaz de automatizar essa análise significa que as equipes de segurança podem acessar esses insights muito mais rapidamente e podem tomar decisões mais informadas sobre onde e como suas defesas são projetadas e implementadas.
Verificação de vulnerabilidades
As ferramentas de IA podem avaliar sistemas e infraestrutura para descobrir onde estão as maiores vulnerabilidades, para que as equipes de segurança possam priorizar melhor seu tempo e recursos para encerrar essas vulnerabilidades. Essas informações são vitais para um melhor gerenciamento de patches e atualizações, garantindo que as atualizações mais urgentes sejam instaladas primeiro.
Gerenciamento de Identidade e Acesso (IAM)
A força do Gerenciamento de Identidade e Acesso foi substancialmente reforçada pela IA por meio de sua capacidade de detectar padrões incomuns de atividade do usuário de diferentes locais para tentativas de acesso à velocidade de digitação e movimento do mouse. Essas anomalias podem ser sinalizadas em tempo real para bloquear qualquer acesso não autorizado em potencial e/ou para gerar camadas adicionais de verificação para confirmar o uso legítimo.
Hacking ético
O hacking ético e os testes de penetração são ferramentas cruciais para descobrir vulnerabilidades e eliminá-las proativamente. No entanto, pode ser uma empresa lenta e demorada apenas devido ao tamanho da carga de trabalho envolvida. A IA pode aliviar a carga administrativa dessas tarefas, no entanto, de duas maneiras importantes: automatizar as tarefas mais simples e repetitivas que atrasam as equipes e analisar seus resultados para fornecer insights acionáveis.
Avaliações de risco
Os mesmos benefícios da IA para o hacking ético também podem ser aplicados ao desenvolvimento de avaliações de risco e à priorização de ameaças de acordo com o nível de perigo. Essa também pode ser uma tarefa mundana e demorada (por mais importante que seja), portanto, usar a IA para acelerar o processo, cuidar de tarefas repetitivas e gerar insights mais detalhados pode ser extremamente útil.
Como se proteger contra ataques cibernéticos de IA
Juntamente com os recursos de segurança baseados em IA acima, há muitas maneiras de minimizar as chances de o hacking de IA ser bem-sucedido. Do ponto de vista de nosso especialista, o melhor caminho a seguir reúne pessoas, planejamento e tecnologia:
Crie um plano de resposta a incidentes
Quanto mais rápido você puder responder a um incidente, mais rápido poderá mitigar qualquer impacto e garantir que o dano não se espalhe muito . Assim como uma simulação de incêndio, você deve saber exatamente o que fazer quando ocorrer um incidente de segurança. Seu plano deve abranger a preparação (ou seja, prevenção e como responder), detecção e análise (confirmação da natureza e gravidade do ataque), contenção e erradicação do ataque (isolamento do sistema, correção e correção) e táticas de recuperação que impedem o ataque incidente aconteça novamente.
Saiba mais sobre como criar uma estratégia eficaz com as soluções de Resposta a incidentes da Kaspersky .
Use as plataformas de segurança mais fortes disponíveis
Assegure-se de ter as proteções de segurança mais abrangentes em vigor para protegê-lo contra ameaças existentes e novos ataques baseados em crimes cibernéticos de IA. O Kaspersky Premium , por exemplo, fornece proteção antivírus em tempo real que atua imediatamente para impedir um ataque; ele também inclui a Proteção de Identidade que protege ainda mais os dados pessoais confidenciais.
Avalie a postura de segurança regularmente
Com a IA e o cibercrime evoluindo rapidamente, as medidas de segurança implementadas hoje podem não ser suficientes 12 meses depois (ou potencialmente até mais cedo do que isso). Isso significa que a segurança deve ser auditada e revisada regularmente; A IA pode dar suporte a isso por meio da análise em tempo real da atividade do usuário e da detecção de qualquer atividade anômala em comparação com o período de auditoria anterior.
Mantenha a conscientização sobre segurança de usuários e funcionários
O sucesso contínuo dos ataques de phishing - desenvolvidos ou não usando IA - destaca o fato de que uma boa segurança começa com os usuários. Agora é a hora de conscientizar os usuários sobre o risco de hackers de IA e ataques relacionados, especialmente sobre quão convincentes podem ser o texto, o áudio e o vídeo gerados pela IA. Isso pode ajudar a lembrar os usuários de permanecerem extremamente vigilantes e não realizarem nenhuma atividade, a menos que tenham 100% de certeza de que é seguro fazê-lo. Explore como o Treinamento em segurança cibernética da Kaspersky pode ajudar sua equipe a permanecer vigilante contra ataques conduzidos por IA.
Artigos relacionados:
- Mídias sociais e IA: é seguro?
- O ChatGPT é seguro de usar? O que você precisa saber
- Como evitar ataques cibernéticos
Produtos relacionados:
