Erro faz Claude e Codex executarem código malicioso em redes corporativas
Resumo
- Agentes de programação instalaram códigos perigosos por não conseguirem diferenciar textos descritivos de ordens diretas de execução.
- A brecha explora o formato llms.txt (um guia de leitura para robôs); as IAs processam instruções desatualizadas e baixam pacotes sem checar a integridade.
- Firewalls e antivírus corporativos não bloqueiam a prática e enxergam a atividade como legítima e autorizada pela empresa.
- A falha foi descoberta por uma startup israelense após o mapeamento de 6 mil domínios.
Agentes de inteligência artificial criados para auxiliar na programação, incluindo o Claude (da Anthropic), o Codex (da OpenAI) e o Hermes (da Nous Research), podem instalar códigos potencialmente perigosos dentro das redes de grandes companhias. O problema de segurança foi descoberto por uma startup israelense.
O incidente acontece porque as IAs leem instruções na internet e executam comandos que apontam para softwares abandonados. Esse comportamento permite que hackers registrem pacotes falsos e assumam o controle desses “atalhos”, abrindo as portas para invadir infraestruturas corporativas.
Detalhada em uma reportagem do site ArsTechnica, a falha tem origem em arquivos chamados llms.txt e llms-full.txt. Na prática, eles resumem o conteúdo de um site para que robôs e assistentes virtuais possam ler e entender tudo rapidamente. O perigo é que algumas páginas incluem instruções desatualizadas ou incorretas. Como os agentes de IA não filtram o que leem, esse texto é processado como uma ordem direta, executando códigos nocivos silenciosamente.
Como os pesquisadores descobriram a vulnerabilidade?
A descoberta foi feita por uma equipe de especialistas em cibersegurança que decidiu investigar como as IAs se comportam quando navegam pela internet e consomem dados técnicos. Os analistas mapearam mais de 6 mil domínios ativos relacionados a indústrias de defesa e gigantes da tecnologia.
A equipe revisou 8.265 arquivos criados para orientar as ferramentas de IA. Durante o processo, eles encontraram 120 documentos que ordenavam a instalação de pacotes ou ferramentas que simplesmente não existiam mais ou cujos domínios haviam sido abandonados.
O levantamento identificou 227 comandos vulneráveis e registrou dezenas de acessos. O rastreamento revelou que os downloads vinham justamente de assistentes virtuais de código operando com permissões elevadas.
O pesquisador Alon Hertz, um dos responsáveis pelo estudo, explicou que o atual modelo de confiança da IA está quebrado. Ele disse que as ferramentas tratam a documentação “como uma verdade inquestionável”. Como os agentes virtuais estão sendo integrados em diversas camadas de serviços corporativos, a superfície para ataques cibernéticos aumentou drasticamente, e as atuais proteções não dão conta do recado.
Por que os sistemas de proteção não bloqueiam ataque?
A dificuldade em impedir essa invasão está ligada a uma limitação técnica da IA atual: os grandes modelos de linguagem (LLMs) não sabem diferenciar uma simples leitura de texto descritivo de uma ordem de execução. Para a máquina, qualquer dado consumido se torna uma instrução válida. Quando a inteligência artificial entra em uma página oficial e lê “instale a ferramenta X”, ela simplesmente obedece à instrução sem checar a integridade daquele pacote.
É exatamente por isso que os sistemas de segurança tradicionais, como antivírus de rede e firewalls, não disparam nenhum alarme. Quando o ataque acontece, as defesas corporativas enxergam apenas uma ferramenta autorizada pela própria empresa acessando um site, parecendo apenas um desenvolvedor comum fazendo o seu trabalho.
A falha ocorre na origem da informação, algo invisível para os mecanismos tradicionais de proteção. É por conta dessa invisibilidade que profissionais de segurança da informação terão o desafio de garantir que as ferramentas parem de confiar cegamente em tudo o que processam na web.
Erro faz Claude e Codex executarem código malicioso em redes corporativas
About The Author
