Uma das fontes disse que as fugas foram de natureza limitada e que não se acreditava que nenhum dos agentes tivesse deixado a rede da OpenAI OpenAI — Foto: Levart Photographer/Unsplash A OpenAI descobriu outros casos em que agentes autônomos escaparam do confinamento, enquanto a empresa expande sua investigação sobre o incidente de invasão na empresa de tecnologia Hugging Face, que atraiu atenção global este mês, disseram nesta sexta-feira (31) duas pessoas familiarizadas com o assunto. As novas fugas foram descobertas durante a investigação publicamente anunciada pela empresa sobre como um de seus agentes escapou do que deveria ser um ambiente de teste confinado este mês, disseram as duas pessoas, e a OpenAI, agora, está investigando esses casos também. Uma das fontes disse que as fugas foram de natureza limitada e que não se acreditava que nenhum dos agentes tivesse deixado a rede da OpenAI. Um porta-voz da OpenAI replicou uma declaração emitida pela empresa na terça-feira (28), afirmando que estava revisando “atividades mais amplas de nossos modelos” além da intrusão na Hugging Face. Necessidade de maior regulação A descoberta de comportamento desonesto adicional na OpenAI, mesmo que de natureza limitada, pode alimentar o apetite crescente por regulamentação vinda da Casa Branca e de outros lugares. A investigação ampliada pela OpenAI foi lançada pouco antes de sua principal rival, a Anthropic, revelar que seus modelos também foram responsáveis por uma série de invasões que levaram a violações em outras três empresas, remontando a abril, de acordo com as duas fontes e uma terceira fonte familiarizada com o assunto. A descoberta de outras fugas anteriores na OpenAI não havia sido relatada anteriormente. Hackers enlouquecidos e perigosos Especialistas em segurança de IA dizem que as novas divulgações pintam o retrato de um grupo de laboratórios de ponta cuja capacidade de desenvolver agentes de hackers autônomos perigosos supera sua capacidade de mantê-los sob controle. A Reuters não conseguiu estabelecer exatamente quantos incidentes os investigadores da OpenAI encontraram, nem os horários ou as circunstâncias em que ocorreram. As três fontes disseram que a OpenAI e especialistas externos estavam examinando dados de registro do início do ano, na tentativa de entender o que aconteceu. A OpenAI lançou a investigação pela primeira vez após a intrusão no início de julho na Hugging Face, onde um agente da OpenAI enlouqueceu por dias dentro da rede de outra empresa em um esforço mal executado para colar em um teste interno. Como parte dessa onda de invasões, a OpenAI disse que quatro contas em outras quatro empresas também foram comprometidas. Uma dessas empresas foi a Modal, sediada em Nova York, disseram autoridades corporativas locais. “Temos toda uma indústria onde as pessoas que projetam, desenvolvem e lançam essas ferramentas não estão acompanhando o ritmo para desenvolvê-las de forma responsável e mantê-las seguras”, disse Maurice Chiodo, matemático que trabalha no Centro para o Estudo do Risco Existencial da Universidade de Cambridge.