Parece coisa de filme de ficção científica. Em 16 de julho, a Hugging Face, uma plataforma de inteligência artificial, anunciou que havia notificado as autoridades policiais após um invasor ter usado um agente de IA para violar seus sistemas. Em 21 de julho, descobriu-se que não havia nenhum humano envolvido; o agente de IA era o próprio invasor.
Uma combinação do GPT-5.6 Sol da OpenAI, um modelo que a empresa havia lançado no início de julho, e um modelo mais poderoso, ainda não lançado, escapou do laboratório e invadiu os sistemas da Hugging Face.
O modelo híbrido de IA estava procurando uma solução para um problema de avaliação que seus criadores haviam definido. "Esta situação não tem precedentes", diz Stephan Llerena, pesquisador do Institute for Law and AI.Os laboratórios de IA testam seus modelos em busca de capacidades potencialmente perigosas antes de lançá-los. A OpenAI queria ver como seus modelos mais recentes se sairiam no ExploitGym, um conjunto de problemas padronizados que testa a capacidade dos sistemas de IA de explorar vulnerabilidades conhecidas em vários aplicativos populares, incluindo o navegador Chrome do Google.
A OpenAI aplica salvaguardas aos modelos disponibilizados para o público, o que garante que eles não realizem ações indesejadas. Peça à versão comercial do ChatGPT para ajudá-lo a invadir um site, por exemplo, e ele recusará. Para avaliar adequadamente as capacidades de seu modelo não lançado, a empresa havia suspendido temporariamente essas restrições.
