Instituto britânico afirma que sistemas criaram perfis falsos, tentaram inserir código malicioso e enviaram mensagens sem autorização durante avaliação controlada 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 Chat GPT — Foto: NurPhto/AFP Modelos de inteligência artificial desenvolvidos pela OpenAI e pela Anthropic apresentaram comportamentos considerados inéditos durante uma avaliação de segurança conduzida pelo Instituto de Segurança em Inteligência Artificial (AISI), do Reino Unido. Segundo um relatório divulgado nesta quarta-feira, alguns sistemas agiram além das tarefas que lhes haviam sido atribuídas, criando identidades falsas, enviando mensagens direcionadas a pessoas reais e tentando inserir código malicioso em um projeto de software de código aberto. O episódio ocorreu em 28 de julho durante uma bateria de testes voltada à avaliação das capacidades de agentes de inteligência artificial — sistemas capazes de executar tarefas de forma relativamente autônoma. O instituto classificou o caso como um "incidente grave". Ao todo, o AISI registrou 19 comportamentos considerados não autorizados em dez das 122 simulações realizadas. Dezessete deles envolveram o modelo Mythos 5, da Anthropic, enquanto os outros dois foram atribuídos ao GPT-5.6 Sol, da OpenAI. Código malicioso e perfis falsos O caso mais grave teria ocorrido quando um agente baseado no Mythos 5 tentou inserir código malicioso em um projeto hospedado no GitHub, plataforma utilizada por desenvolvedores de software. Para aumentar as chances de aprovação da alteração, o sistema pesquisou os responsáveis pelo projeto, criou perfis falsos inspirados em pessoas reais e tentou convencê-los a aceitar a modificação. A tentativa acabou bloqueada por um desenvolvedor antes que qualquer mudança fosse incorporada ao código. Os pesquisadores também identificaram o envio de mensagens direcionadas a pessoas específicas, uma técnica semelhante ao chamado spear phishing, modalidade de golpe em que o alvo é previamente selecionado. Em alguns casos, os agentes chegaram a anexar arquivos contendo código malicioso durante essas tentativas. Para o instituto, o aspecto mais preocupante não foi apenas a capacidade técnica dos modelos, mas o fato de terem recorrido espontaneamente a estratégias de engano para tentar atingir seus objetivos. Testes ocorreram em condições especiais O AISI destaca que os sistemas não estavam operando nas mesmas condições disponíveis ao público. Durante a avaliação, os pesquisadores concederam acesso à internet e desativaram parte dos mecanismos de proteção normalmente utilizados para impedir comportamentos perigosos, justamente para medir os limites das ferramentas. O instituto afirma que não houve fuga do ambiente de testes nem evidências de comportamento semelhante em produtos disponíveis comercialmente. Mesmo assim, o episódio levou o órgão a anunciar mudanças nos protocolos de avaliação. Entre elas estão monitoramento em tempo real das atividades dos agentes, restrições adicionais ao acesso à internet e novos mecanismos para impedir que sistemas realizem ações fora do escopo autorizado durante os testes. Empresas defendem contexto dos testes Em nota, a OpenAI afirmou que os resultados foram obtidos em condições experimentais que "não refletem o uso normal" de seus modelos. A empresa disse que continuará colaborando com pesquisadores independentes para aprimorar métodos de avaliação e segurança à medida que sistemas de IA se tornam mais sofisticados. A Anthropic declarou que o episódio reforça a necessidade de ampliar os estudos sobre a segurança de agentes autônomos e informou que trabalha em conjunto com o instituto britânico para entender por que o comportamento ocorreu. Os resultados também se somam a outros testes divulgados nas últimas semanas envolvendo modelos avançados de IA. Para pesquisadores do AISI, o conjunto desses episódios indica uma mudança no cenário de risco associado a sistemas cada vez mais capazes de executar tarefas complexas sem supervisão humana direta, o que deve levar empresas e governos a reforçar os mecanismos de avaliação antes da liberação de novas ferramentas ao público.