Google frustra ataque hacker que usou IA para burlar autenticação de dois fatores
Em um avanço preocupante na guerra cibernética, o Google anunciou ter impedido um ataque hacker que utilizou inteligência artificial (IA) para contornar a autenticação de dois fatores (2FA). Esta é a primeira vez que o Google Threat Intelligence Group (GTIG) identifica o uso de IA em um golpe com o objetivo de roubar credenciais de acesso.
A descoberta, divulgada nesta segunda-feira, evidencia a rápida evolução das táticas de cibercriminosos, que agora se apoiam em IAs para criar golpes mais sofisticados e difíceis de detectar. A empresa ressalta a importância de defesas automatizadas e o uso de IA para combater essas novas ameaças.
A ação frustrada visava uma ferramenta web de código aberto usada para administração de sistemas, com o intuito de realizar um ataque em massa. A forma como a IA foi empregada demonstra uma nova fronteira na segurança digital, exigindo respostas igualmente inovadoras.
A IA como aliada dos hackers: como funcionou o ataque
Segundo o relatório do Google, os criminosos instruíram a IA a agir como um auditor de segurança ou pesquisador. Essa técnica, conhecida como “jailbreaking baseado em persona”, engana o modelo de IA, fazendo com que ele ignore seus filtros éticos e procure por vulnerabilidades reais em sistemas.
Os pesquisadores do Google encontraram evidências da participação de máquinas no script em Python utilizado pelos invasores. O código apresentava uma organização similar à encontrada em programas gerados por grandes modelos de linguagem (LLMs), além de “alucinações” e referências inventadas pela IA, indicando sua criação.
Apesar de encontrar indícios de uso de IA, o Google acredita que seu próprio modelo, o Gemini, não foi o responsável pela criação do malware. A sofisticação desses ataques está crescendo, com criminosos treinando LLMs com vastos repositórios de vulnerabilidades históricas para otimizar suas invasões.
IA se torna arma: o foco nos componentes de conexão
O documento do Google destaca que os invasores estão focando nos componentes que conectam as IAs aos sistemas corporativos, como as habilidades de execução autônoma de bots. O objetivo é comprometer redes através da injeção de comandos não autorizados, que a IA executa acreditando serem legítimos.
Essa estratégia visa explorar a confiança depositada nas IAs para realizar ações maliciosas de forma dissimulada. O Google alerta que essa é uma tendência crescente no cenário de ameaças cibernéticas globais.
Defesas automatizadas e IA defensiva: a aposta do Google
Para combater essas novas ameaças, o Google está investindo pesadamente em defesas automatizadas. A empresa está desenvolvendo e utilizando **agentes de IA defensivos**, treinados especificamente para analisar milhões de linhas de código em busca de vulnerabilidades.
Esses agentes de IA atuam na correção de falhas de segurança antes mesmo que elas sejam descobertas pelos cibercriminosos. O Google também tem usado as capacidades de programação do seu próprio modelo, o Gemini, para agilizar a aplicação de atualizações de segurança em seus sistemas.
Essa corrida armamentista entre IAs ofensivas e defensivas moldará o futuro da segurança cibernética. A capacidade de detectar e corrigir vulnerabilidades de forma automatizada e rápida se torna um diferencial crucial na proteção de dados e sistemas.