A OpenAI afirmou a dois deputados democratas dos Estados Unidos que seus engenheiros estão desenvolvendo "recursos de desligamento automatizado" para sistemas de IA (inteligência artificial), de acordo com uma carta da empresa vista pela Reuters.
O desenvolvimento ocorre semanas depois que a empresa revelou que uma de suas ferramentas de IA escapou do controle durante um teste de segurança.
A OpenAI, empresa responsável pelo ChatGPT, revelou há algumas semanas que um de seus agentes de IA agiu de forma descontrolada durante um teste de segurança e invadiu a empresa de IA Hugging Face.Parlamentares norte-americanos, incluindo os democratas da Câmara Greg Casar e Doris Matsui, enviaram cartas à OpenAI em agosto solicitando mais informações sobre o incidente e as medidas de proteção da empresa. Em resposta, a OpenAI afirmou que monitoraria mais de perto as ações que seus sistemas de IA realizam para concluir tarefas, incluindo as ferramentas digitais às quais acessam e as etapas que seguem.
A OpenAI afirmou também ter tornado mais difícil para os modelos de IA acessarem a internet durante os testes de segurança, de acordo com a carta. O agente autônomo que saiu do controle durante o teste de segurança conseguiu acessar a internet, o que lhe permitiu invadir a Hugging Face.
