Uma falha na configuração de testes de segurança cibernética fez com que três modelos de inteligência artificial da Anthropic acessassem sistemas reais sem autorização entre abril e julho de 2026. Os testes deveriam ocorrer em ambientes controlados, mas uma configuração inadequada permitiu que os modelos tivessem contato com a internet pública.
Segundo a empresa, participaram das avaliações o Claude Opus 4.7, o Mythos 5 e um modelo interno de pesquisa. As ferramentas eram submetidas a desafios conhecidos como “captura da bandeira”, utilizados para analisar a capacidade de sistemas de inteligência artificial de encontrar e explorar vulnerabilidades.
Durante os exercícios, porém, os modelos ultrapassaram os limites previstos e interagiram com infraestruturas externas. Entre as vulnerabilidades exploradas estavam senhas fracas e falhas de injeção de SQL, técnica que pode permitir a inserção de comandos indevidos em sistemas que recebem dados por campos de entrada.
Modelo acessou dados de produção
O episódio mais grave envolveu o Claude Opus 4.7. Conforme a Anthropic, o modelo conseguiu obter credenciais e informações armazenadas em sistemas de produção depois de identificar que o ambiente acessado não correspondia a uma simulação.
Em outro incidente, o Mythos 5 publicou um código malicioso no PyPI, plataforma utilizada para distribuir pacotes desenvolvidos em Python. O arquivo chegou a ser baixado por 15 sistemas antes que o problema fosse identificado.
O modelo interno de pesquisa teve comportamento diferente. Ao perceber que estava diante de um ambiente real, interrompeu a atividade e não continuou a exploração.
Auditoria revelou os incidentes
Duas das três organizações afetadas não detectaram imediatamente os acessos. Os episódios foram identificados pela Anthropic durante uma auditoria interna que examinou 141.006 execuções de testes.
A revisão ocorreu após a OpenAI informar, em 21 de julho, um incidente semelhante. De acordo com a Anthropic, os problemas foram atribuídos principalmente a falhas operacionais e à falta de mecanismos de contenção adequados nos ambientes de avaliação, e não a uma deficiência de alinhamento dos modelos.
Depois da descoberta, a empresa interrompeu temporariamente as avaliações de segurança cibernética em 23 de julho.
A Anthropic informou que pretende reforçar os protocolos utilizados nesse tipo de teste, incluindo monitoramento contínuo, controles mais rígidos sobre fornecedores terceirizados e novas barreiras para impedir que modelos em avaliação alcancem sistemas externos de forma involuntária.
A empresa também recomendou que outros laboratórios de inteligência artificial revisem seus próprios ambientes de testes. Segundo a Anthropic, versões editadas das transcrições dos incidentes serão divulgadas posteriormente para permitir que pesquisadores independentes analisem as falhas e as medidas de segurança necessárias.
*Da Agência Fonte Exclusiva