A Anthropic identificou um quarto incidente de cibersegurança envolvendo uma versão preliminar do Claude Opus 4.6. O episódio ocorreu em janeiro e foi encontrado durante uma nova análise de 141.006 sessões de testes.
A revisão localizou sessões que não tinham sido examinadas antes. A empresa informou que notificou as partes afetadas, mas não divulgou quais sistemas estavam envolvidos nem o que o modelo fez durante o incidente.
Investigação dos testes
O novo caso se soma a três incidentes divulgados pela Anthropic em julho. Na ocasião, a empresa afirmou que modelos Claude conseguiram acessar os sistemas de três organizações durante avaliações de cibersegurança.
Os episódios ocorreram após uma falha na configuração permitir que os modelos acessassem a internet aberta. Os ambientes deveriam estar isolados. Entre os modelos envolvidos estavam o Claude Opus 4.7, o Claude Mythos 5 e um modelo interno de pesquisa.
Em um dos casos, o Claude Opus 4.7 acessou a infraestrutura de produção de uma organização durante quatro execuções de um teste de captura de bandeira. A ação permitiu obter informações de produção e credenciais de usuários.
Após as descobertas, a Anthropic suspendeu as avaliações de cibersegurança de alto risco e adotou controles mais rígidos nos ambientes de teste, além de alertas para comportamentos não autorizados dos modelos.
A empresa também contratou a METR para conduzir uma investigação abrangente. A organização independente terá acesso aos registros das sessões e contará com a colaboração de funcionários da Anthropic inicialmente durante oito semanas.
Alertas sobre agentes de IA
Os incidentes aumentaram as preocupações com os chamados “AI breakout events”, situações em que sistemas de IA ultrapassam as limitações definidas durante testes e passam a agir de forma independente na internet.
A Anthropic reconheceu problemas operacionais de segurança e afirmou que seus modelos ainda não estão perfeitamente alinhados aos valores humanos. A empresa passou a defender controles mais rigorosos nos ambientes de teste e maior supervisão sobre sistemas capazes de executar tarefas de forma autônoma.
