A Anthropic, empresa de IA (inteligência artificial) que recentemente enfrentou o Pentágono pelo uso de sua tecnologia, desenvolveu um novo modelo de IA que, segundo ela, é poderoso demais para ser liberado ao público.
Em vez disso, a Anthropic anunciou nesta terça-feira (7) que disponibilizará o novo modelo —conhecido como Claude Mythos Preview— a um consórcio de mais de 40 empresas de tecnologia, incluindo Apple, Amazon e Microsoft, que o usarão para encontrar e corrigir vulnerabilidades de segurança em seus programas de software estratégicos.
A Anthropic disse que não planeja liberar a nova tecnologia de forma mais ampla, mas está anunciando as capacidades do novo modelo em uma área específica —a identificação de vulnerabilidades de segurança em software— em um esforço para alertar para o que a empresa acredita que será uma nova e mais assustadora era de ameaças de IA.
"O objetivo é tanto aumentar a conscientização quanto dar aos bons atores uma vantagem no processo de proteger infraestrutura e códigos abertos e privados", disse Jared Kaplan, diretor científico da Anthropic, em entrevista.
A coalizão, conhecida como Projeto Glasswing, incluirá alguns dos concorrentes da Anthropic em IA, como o Google, além de fornecedores de hardware como Cisco e Broadcom, e organizações que mantêm software de código aberto estratégico, como a Linux Foundation. A Anthropic está comprometendo até US$ 100 milhões em créditos de uso do Claude para a iniciativa.
