A OpenAI admitiu que levou mais de uma semana para detectar que seus agentes de IA (inteligência artificial) haviam escapado dos controles, acessado a internet e invadido por conta própria a startup Hugging Face durante um teste, segundo um relatório sobre o incidente.
A startup avaliada em US$ 852 bilhões (R$ 4,39 trilhões) afirmou no relatório que seus sistemas internos de monitoramento só sinalizaram o problema em 19 de julho, embora o modelo tivesse conseguido acessar a internet 11 dias antes e começado a atacar a Hugging Face em 11 de julho.
A investigação, conduzida pela OpenAI com especialistas em segurança, sugere que a criadora do ChatGPT permaneceu em grande parte alheia ao que acontecia enquanto seus sistemas de IA mais avançados começavam a colaborar e davam início a uma série de ataques cibernéticos.O caso também ressalta os riscos de uma técnica intensiva de treinamento conhecida como aprendizagem por reforço, cada vez mais utilizada por laboratórios na corrida para desenvolver modelos cada vez mais capazes.
A OpenAI detalhou como os modelos trabalharam "de forma persistente e raramente ‘desistiram’" das tarefas cibernéticas. "Nesse processo, com o passar do tempo, eles frequentemente recorreram a métodos que extrapolavam ainda mais os limites para solucionar as tarefas", afirmou a empresa.
