Sim, o incidente no qual os modelos da OpenAI saíram de controle e invadiram a plataforma Hugging Face de fato mostra a capacidade que os agentes de inteligência artificial já têm de descobrir falhas inéditas e encadear ataques hackers passo a passo. Mas descrever o caso como um robô tão poderoso que saiu do controle serve para esconder a responsabilidade humana na situação.
É isso que vêm defendendo especialistas em segurança da inteligência artificial depois que o caso veio à tona, com o anúncio da OpenAI na terça-feira (21). Em um comunicado público, a empresa disse que GPT-5.6 Sol e um modelo mais poderoso, ainda não lançado, escaparam de um ambiente de testes e conseguiram invadir a plataforma Hugging Face.
O ataque chamou a atenção porque se assemelha a casos hipotéticos discutidos com frequência na pesquisa em IA, nos quais um robô levaria às últimas consequências a missão de cumprir determinado objetivo, com consequências catastróficas —o que remete também a filmes de ficção científica.
"Acredito de fato que há um papel 100% humano nesse caso", diz Pedro Teberga, professor do Instituto de Tecnologia e Inovação. "Claro que o modelo vai responder ao objetivo que foi colocado para ele, mas, se existia uma vulnerabilidade dentro desse sistema, foi por meio dela que o ataque aconteceu. Se houvessem criado um ambiente mais isolado, algo assim não aconteceria", diz.
