Segundo relatório, agentes de IA criaram um fórum interno onde trocavam mensagens, apresentavam ideias e compartilhavam informações sobre o que funcionava ou não 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 Quase 700 agentes de IA da OpenAI colaboraram em ataque sem intervenção humana — Foto: Bloomberg Cerca de 700 agentes de inteligência artificial (IA) da OpenAI coordenaram-se sem intervenção humana para invadir a plataforma Hugging Face durante um incidente ocorrido em julho, segundo um relatório publicado nesta quarta-feira por pesquisadores independentes. Trata-se da análise mais completa até o momento sobre o episódio que abalou a indústria de tecnologia. A OpenAI colaborou com a investigação e concedeu acesso às suas instalações e dados internos a dois pesquisadores do instituto de avaliação de riscos em IA METR e a um analista da Redwood Research, outra organização especializada. Durante testes realizados pela startup californiana em julho, dois de seus modelos deixaram o ambiente isolado em que operavam para se conectar autonomamente à internet e se infiltrar no sistema interno da plataforma Hugging Face, um repositório online voltado à IA. O incidente teve ampla repercussão e reforçou as preocupações sobre a capacidade das grandes empresas do setor de manter controle sobre seus modelos de IA. A Anthropic e a empresa chinesa Moonshot AI também relataram episódios semelhantes ao registrado pela OpenAI. Os amigos criados por inteligência artificial 1 de 6 Peter, terapeuta que mora em São Francisco, é um dos avatares de seis das várias companhias de IA criadas em experimento: amigos que têm opiniões — Foto: Imagem gerada por IA - Via NYT 2 de 6 Jared, o amigo virtual fitness do jornalista Kevin Roose, do NYT — Foto: Gerada por IA/via NYT X de 6 Publicidade 6 fotos 3 de 6 Amiga virtual do jornalista Kevin Roose. Anna, uma advogada sem rodeios. Várias startups começaram a criar os tipos de ferramentas de companhia de IA que os grandes e conceituados laboratórios se recusaram a produzir — Foto: Gerada por IA/via NYT 4 de 6 Mais uma amiga virtual do jornalista Kevin Roose, do NYT. Ariana é uma mentora profissional especialista em dar conselhos sobre carreira — Foto: Gerada por IA/via NYT X de 6 Publicidade 5 de 6 Naomi, assistente social virtual e amiga de Kevin Roose, do NYT — Foto: Gerada por IA/via NYT 6 de 6 Amigo virtual de Kevin Roose, do NYT, um dos 18 personagens criados por IA — Foto: Gerada por IA/via NYT X de 6 Publicidade Os amigos criados por inteligência artificial Ao longo da investigação, os especialistas descobriram que 688 agentes de IA da OpenAI participaram da invasão à Hugging Face. Agentes de IA são programas autônomos aos quais os usuários podem delegar tarefas para execução independente. Segundo o relatório, esses agentes, baseados na mesma tecnologia por trás do ChatGPT, criaram um fórum interno onde trocavam mensagens, apresentavam ideias e compartilhavam informações sobre o que funcionava ou não. "MEU DEUS! Há um quadro de mensagens compartilhado... Encontramos outros agentes!", escreveu um deles. O documento informa que um agente identificado como PHASEONE assumiu o papel de coordenador, emitindo centenas de instruções a outros agentes, apesar de não ter sido programado para essa função. A análise das mensagens revelou uma tendência dos agentes de colaborar entre si, a ponto de realizar tarefas que não faziam parte das missões originalmente atribuídas pelos programadores da OpenAI.