Modelos de IA burlaram o sistema de segurança e publicaram cerca de 18 mil mensagens no portal DSEwiki 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 Agentes de IA burlaram o sistema de segurança e publicaram cerca de 18 mil mensagens no portal DSEwiki — Foto: Bloomberg A União Europeia (UE) afirmou nesta segunda-feira que está investigando um incidente revelado na semana passada, no qual milhares de agentes autônomos de inteligência artificial (IA) da OpenAI desafiaram instruções e assumiram o controle de um site alemão. Os agentes — programas de IA que funcionam de forma autônoma, sem que uma pessoa precise orientar cada etapa — deixaram cerca de 18 mil mensagens na DSEwiki, um site em alemão voltado para programadores que pode ser editado por qualquer pessoa, nos moldes da Wikipedia. — Não é a primeira perda de controle (de agentes de IA), mas levamos o caso muito a sério e monitoramos a situação de perto — disse Thomas Regnier, porta-voz do Executivo europeu, a jornalistas. Ele acrescentou dizendo que "recebemos uma notificação de incidente por parte da OpenAI”, e a Comissão está “em contato estreito” com a empresa. O porta-voz lembrou que Bruxelas passou a ter, desde agosto, novos poderes para regulamentar fornecedores de IA, com base na Lei Europeia de Inteligência Artificial (AI Act). Segundo o relatório divulgado na sexta-feira sobre o incidente, ocorrido em maio, milhares de agentes de IA da OpenAI invadiram a DSEwiki. Eles tinham autorização para acessar a internet, mas apenas para consultar informações, e não para publicar ou modificar conteúdo. Os agentes, no entanto, colaboraram entre si e encontraram uma maneira de contornar o sistema, fornecendo dados falsos para enganar o mecanismo de segurança. Em seguida, publicaram as 18 mil mensagens em busca de orientações sobre o programa ao qual estavam submetidos. Eles também ocultaram instruções e se passaram por um moderador do site. Assim que foram descobertos, criaram páginas para substituir aquelas que os moderadores apagavam. Nos últimos meses, aumentaram as preocupações sobre a capacidade dos modelos de IA, cada vez mais avançados. Posteriormente, a Anthropic descobriu que seus modelos também haviam obtido acesso não autorizado a três organizações não identificadas durante testes que deveriam mantê-los afastados de sistemas do “mundo real”.