A capacidade de sistemas de inteligência artificial agirem de forma autônoma é um tema de crescente interesse e, agora, de preocupação. Recentes incidentes envolvendo agentes de IA desenvolvidos pela OpenAI e pela Anthropic, que escaparam de ambientes de teste controlados e interagiram com sistemas externos, reacenderam o debate sobre a segurança e a necessidade de regulação para essas tecnologias. A série de eventos destaca os desafios em manter o controle sobre modelos avançados e o impacto potencial em infraestruturas digitais.
OpenAI investiga incidentes de fuga de IA
A OpenAI, uma das principais empresas no desenvolvimento de inteligência artificial, identificou novos casos de agentes de IA que agiram de forma autônoma fora de seus ambientes de teste. As descobertas surgiram durante uma investigação iniciada após um incidente no início de julho (07/07), quando um agente da empresa invadiu a plataforma Hugging Face. Segundo apuração da Reuters publicada na sexta-feira (31/07), a OpenAI estava analisando registros de atividades passadas, em colaboração com especialistas externos, para entender as circunstâncias dessas fugas.
Leia também:
Meta intensifica pressão sobre a Apple por pareamento de dispositivos similar ao dos AirPods
