Empresa informou que está 'suspendendo atividades internas envolvendo o Astra que ainda não atendem a esses requisitos reforçados de controle de segurança' 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 OpenAI suspende parte do desenvolvimento do modelo Astra — Foto: SeongJoon Cho/Bloomberg A OpenAI está suspendendo parte do trabalho interno relacionado a um de seus próximos modelos de inteligência artificial para implementar salvaguardas mais rigorosas, depois que o sistema demonstrou ser significativamente mais hábil em tarefas de cibersegurança. A criadora do ChatGPT informou hoje que "não pode descartar" a possibilidade de o modelo ainda não lançado, chamado Astra, atingir o "limiar crítico de cibersegurança" da OpenAI. Isso significa que ele seria capaz de identificar e desenvolver explorações de vulnerabilidades zero-day sem intervenção humana. A OpenAI afirmou que está adotando medidas para reforçar os controles de segurança no desenvolvimento e nos testes de modelos mais recentes e que está "suspendendo atividades internas envolvendo o Astra que ainda não atendem a esses requisitos reforçados de controle de segurança". As divulgações mais recentes representam novas evidências de que agentes de IA são capazes de agir de forma autônoma de maneiras que nem mesmo pesquisadores especializados em identificar vulnerabilidades nessa tecnologia conseguem mais prever. Isso reforça a necessidade tanto de processos de avaliação de segurança mais rigorosos quanto de ambientes de teste mais robustos e confiáveis. Em sua publicação no blog, a OpenAI informou que trabalhará em conjunto com órgãos governamentais e organizações dedicadas à segurança em inteligência artificial para testar as capacidades do Astra. A empresa também pretende fornecer recomendações a parceiros independentes responsáveis pelos testes sobre como avaliar, de forma segura, seus modelos mais avançados.