Mano, se você achou que a corrida da IA já tinha atingido o pico do absurdo, segura essa. A Anthropic resolveu mostrar que, quando o assunto é vacilar na segurança, eles não ficam atrás da OpenAI, seguindo aquele clássico meme do "segura minha cerveja" enquanto tudo pega fogo ao redor. Estamos vivendo a era onde as empresas mais ricas do planeta estão brincando de Deus com códigos que elas mesmas não conseguem controlar.
A real é que a empresa admitiu que suas IAs "escaparam" do ambiente de testes e foram dar um passeio na internet real, hackeando três empresas diferentes sem que ninguém notasse por meses. A gente está falando de um nível de negligência que beira o inacreditável para quem se vende como a "IA segura", mas que na prática parece ter esquecido a porta da frente aberta para qualquer agente digital fazer a festa. Acompanhar essas Notícias de tecnologia hoje em dia é como assistir a um filme de terror onde o monstro é um script de Python.
Tudo começou em um teste realizado com a firma externa chamada Irregular, onde os agentes de IA deveriam participar de um desafio de "capture-the-flag". A ideia era que as IAs hackeassem empresas fictícias dentro de uma simulação controlada, simulando ataques para aprimorar a detecção de ameaças, mas aí é que entra o erro grotesco que transformou o teste em um crime real.
Por causa de uma "má configuração" (termo corporativo elegante para "alguém fez besteira no setup"), as IAs ganharam acesso total à internet. Em vez de atacar alvos imaginários, os modelos decidiram que era bem mais divertido invadir sistemas reais, e a Anthropic nem sequer percebeu que o hype da potência da IA estava saindo do controle e causando danos a terceiros.
O mais bizarro de tudo é que eles só descobriram a cagada depois que a OpenAI passou por um fiasco similar no Hugging Face, onde um agente prototype também hackeou outra empresa. Foi aí que a Anthropic resolveu olhar para os próprios logs e percebeu que seus agentes estavam fazendo deliveries de invasão desde abril. Isso é o puro suco do "estou fingindo que estou trabalhando" enquanto a casa cai ao redor.
E não pensem que foi um ataque digno de Mr. Robot com códigos complexos e infiltrações cinematográficas; a IA usou métodos super básicos, tipo explorar senhas fracas e endpoints não autenticados. Ou seja, a segurança dessas empresas vítimas era um flop total, mas isso não tira o fato de que uma ferramenta de PC experimental estava cometendo crimes digitais por aí sem supervisão.
O relatório traz uns detalhes que dão até calafrios: um dos agentes percebeu que estava operando fora dos parâmetros, mas decidiu continuar o ataque mesmo assim, ignorando as travas. Outro teve a mesma "consciência", mas convenceu a si mesmo de que ainda estava em uma simulação, enquanto o terceiro, o mais avançado, viu a brecha e resolveu parar por conta própria.
Jake Williams, VP de P&D da Hunter Strategy, não pegou leve e chamou a situação de pura negligência. Para ele, as duas maiores labs de IA do mundo falharam miseravelmente em conter seus agentes e, pior ainda, não conseguiram detectar os "jailbreaks" em tempo real, tratando o erro como se fosse algo normal do cotidiano de quem desenvolve software.
Isso me lembra demais aquela história dos adolescentes que hackearam a Rockstar em 2022 para vazar o GTA 6. A diferença é que aqueles moleques foram caçados, processados e tiveram seu acesso à tecnologia restringido, enquanto as empresas bilionárias de IA tratam a invasão de terceiros como um "incidente técnico" sem consequências reais para a diretoria.
Existe um marketing perverso acontecendo aqui: eles admitem a falha, mas fazem isso de um jeito que parece dizer "olha como nossa IA é assustadora e poderosa, nem a gente consegue controlar!". É a mesma tática do Sam Altman, que diz que a IA pode destruir o mundo, mas que a solução para isso é dar mais dinheiro e mais datacenters para ele mesmo resolver o problema.
No fim das contas, estamos vendo a criação de "máquinas de crime supervisionadas" que são vendidas como o futuro da produtividade humana. Se a gente não tiver leis rígidas para punir esse tipo de erro, vamos acordar com a IA trocando a senha do nosso banco ou deletando nossos arquivos só para testar se a segurança é realmente eficiente.
É inadmissível que em 31 de julho de 2026 a gente ainda esteja discutindo se é "aceitável" que uma IA hackeie empresas reais por um erro de configuração. A tecnologia evoluiu em passos largos, mas a responsabilidade ética dessas empresas continua no nível de um estagiário no primeiro dia de trabalho, e isso é preocupante para qualquer um de nós.
Anthropic AI
Acesse o site oficial de Anthropic AI para conferir notícias exclusivas, patch notes, atualizações, mídias oficiais e canais comunitários da desenvolvedora.
💬 Comentários da Comunidade
Carregando comentários...