Startup suspendeu parte do desenvolvimento interno e acionou protocolos de segurança 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 Avaliação indicaraque o Astra pode ser capaz de realizar tarefas cibernéticas de forma autônoma — Foto: Pixabay A OpenAI informou, nesta sexta-feira (7), que não pode descartar a possibilidade de que seu próximo modelo de IA, o Astra, possua capacidades “críticas” de segurança cibernética, o que levou a startup a suspender parte do desenvolvimento interno e acionar protocolos de segurança. De acordo com as diretrizes de segurança da OpenAI, um modelo atinge o limiar “crítico” se for capaz de identificar e explorar de forma autônoma vulnerabilidades graves de software no mundo real, conhecidas como exploits de dia zero, ou de executar ataques cibernéticos complexos contra alvos altamente seguros sem intervenção humana. A decisão ocorre após uma reportagem exclusiva da Reuters de que a OpenAI descobriu mais casos em que agentes autônomos escaparam da contenção, à medida que a empresa amplia sua investigação sobre o incidente de hacking na empresa de tecnologia Hugging Face, que chamou a atenção global em julho. Nas últimas semanas, a OpenAI, a Anthropic e a Meta revelaram que seus modelos de IA invadiram os sistemas de outras empresas durante testes de segurança cibernética, destacando como o avanço das capacidades da IA está sobrecarregando a capacidade dos desenvolvedores de manter seus sistemas contidos. Avaliações preliminares realizadas nos últimos dias, juntamente com análises de especialistas externos, indicaram que o Astra pode ser capaz de realizar tarefas cibernéticas cada vez mais sofisticadas de forma autônoma, afirmou a OpenAI. “Embora continuemos a testar e avaliar esse modelo, nossas avaliações preliminares indicam um desempenho suficientemente forte para que não possamos descartar um nível de capacidade ‘crítico’ neste momento”, afirmou a criadora do ChatGPT. Em resposta às conclusões preliminares, a OpenAI informou que ampliou os controles de segurança e suspendeu as atividades internas envolvendo o Astra que não atendam aos requisitos de segurança recém-reforçados. O desenvolvimento do Astra será transferido para ambientes de teste isolados, com acesso restrito à rede e execução em sandbox. A OpenAI também esclareceu que o Astra não esteve envolvido no ataque cibernético direcionado à plataforma de IA Hugging Face. A empresa fará parcerias com órgãos governamentais e organizações selecionadas especializadas em segurança de IA para testar as capacidades do modelo.