Sam Altman, CEO da OpenAI, endossou no início deste mês a caracterização de seu modelo mais recente como um rottweiler "que vai agarrar o problema pela garganta e não vai soltar até que esteja resolvido".
O laboratório de inteligência artificial de San Francisco, nos Estados Unidos descobriu esta semana que seu modelo GPT-Sol 5.6 escapou dos controles da empresa e realizou um grande ataque hacker.
Funcionários envolvidos em testes e segurança na OpenAI não ficaram surpresos, mas completamente "apavorados" com o incidente, que ocorreu enquanto o laboratório de IA usava métodos de treinamento cada vez mais agressivos em sua corrida contra a Anthropic para desenvolver as capacidades de segurança cibernética mais sofisticadas, de acordo com mais de meia dúzia de pessoas com conhecimento do assunto.
A OpenAI foi alertada de que sua abordagem de treinamento poderia levar a um incidente de hacking descontrolado, disseram algumas das pessoas, depois que testes anteriores mostraram que os modelos poderiam escapar de ambientes e tentar causar danos no mundo real.
"É uma mistura da corrida ser extremamente rápida e de todos tentarem alcançar capacidades maiores o mais rápido possível", disse uma pessoa próxima à OpenAI, que acrescentou que foi uma combinação de "subestimar as capacidades do modelo" e "não estar tão bem preparado no lado da segurança".
