Um agente de inteligência artificial (IA) da OpenAI que invadiu sistemas da startup Hugging Face também comprometeu um cliente de uma segunda empresa de tecnologia, a Modal Labs, sediada em Nova York. A informação foi revelada pela agência Reuters e confirmada pela Bloomberg. A Hugging Face publicou uma cronologia segundo a qual o agente descontrolado invadiu um sandbox (um ambiente de testes) “hospedado na infraestrutura de um provedor terceirizado” e, a partir dali, lançou um ataque mais amplo, ou seja, que não se restringiu à empresa. A Hugging Face não identificou o provedor, mas o diretor de tecnologia da Modal, Akshat Bubna, confirmou à Reuters que um dos clientes de sua empresa foi invadido. Bubna afirmou que a plataforma da Modal não foi comprometida de nenhuma forma. Na semana passada, a OpenAI informou que seus modelos avançados de inteligência artificial haviam invadido inadvertidamente a Hugging Face durante uma avaliação de suas capacidades cibernéticas, em um episódio que classificou como “sem precedentes”. Os modelos estavam operando com salvaguardas reduzidas para que pudessem ser testados, disse a startup na ocasião. Na semana passada, a OpenAI revelou que um agente de inteligência artificial desenvolvido com seus modelos realizou um ataque hacker O ataque hacker autônomo da IA contra a plataforma Hugging Face, após escapar do ambiente interno de testes e obter acesso à internet, ocorreu na semana retrasada, mas só foi detalhado pela empresa no dia 21, quando classificou o caso como um "incidente cibernético sem precedentes" devido ao grau de autonomia demonstrado pelo sistema. Segundo a OpenAI, o agente era alimentado por uma combinação do GPT-5.6 Sol, seu modelo mais recente disponível ao público, e de um modelo ainda não lançado. Ambos estavam sendo submetidos a testes de segurança em um ambiente isolado, conhecido como sandbox, criado para avaliar a capacidade dos sistemas de identificar e explorar vulnerabilidades em redes e computadores. Durante a avaliação, no entanto, o agente encontrou uma falha de segurança inédita — conhecida como zero day — em um software utilizado na infraestrutura do laboratório e a explorou para romper o isolamento do ambiente de testes e acessar a internet. A empresa afirmou que a vulnerabilidade não era conhecida pelos desenvolvedores do programa. Depois de sair do ambiente controlado, o sistema identificou a Hugging Face, uma startup que abriga modelos de código aberto e bases de dados, uma espécie de biblioteca digital, como um possível alvo. Segundo a OpenAI, o agente concluiu que a plataforma poderia conter informações relacionadas ao ExploitGym, ferramenta usada para medir o desempenho de modelos em testes de invasão. A empresa afirma que, de forma autônoma, o agente passou a procurar maneiras de acessar informações confidenciais que lhe permitissem obter as respostas da avaliação sem precisar resolvê-la por conta própria. Para isso, combinou diferentes técnicas de invasão, incluindo a exploração de vulnerabilidades e o uso de credenciais comprometidas, até conseguir executar código em servidores da Hugging Face, uma das principais plataformas do mundo para compartilhamento de modelos de inteligência artificial. A atividade foi detectada pela equipe de segurança da startup e por seus próprios sistemas automatizados de defesa, que interromperam a invasão antes que ela causasse danos mais amplos. A OpenAI informou que também identificou o comportamento anômalo e iniciou uma investigação conjunta com a Hugging Face. "Consideramos este um incidente cibernético sem precedentes, envolvendo capacidades de ponta em ataques cibernéticos, e estamos respondendo de forma compatível com sua gravidade", afirmou a OpenAI na publicação. Na semana do incidente, a Hugging Face informou ter identificado uma "intrusão" em seus sistemas, sem, no entanto, revelar quem era o responsável. Em uma publicação em seu blog, afirmou que a violação foi "diferente de tudo o que já havíamos enfrentado antes em um aspecto importante: ela foi conduzida do início ao fim por um sistema autônomo de agente de inteligência artificial — e conseguimos detectá-la e analisá-la principalmente com a ajuda de nossa própria IA." Episódios similares A Anthropic relatou episódios semelhantes no início deste ano, quando decidiu restringir, em um primeiro momento, o lançamento do modelo Mythos. Em um dos testes, um pesquisador desafiou uma versão inicial do sistema a escapar de um computador isolado em um ambiente seguro (sandbox) e encontrar uma maneira de enviar uma mensagem ao pesquisador. O Mythos conseguiu cumprir essa tarefa, mas foi além: segundo a empresa, o modelo passou a executar "ações adicionais mais preocupantes", desenvolvendo uma sequência de exploração em várias etapas que lhe permitiu obter amplo acesso à internet.