Quando, em 2019, a OpenAI terminou de treinar um novo modelo de linguagem de grande escala chamado GPT-2, o laboratório de IA (inteligência artificial) inicialmente declarou que ele era perigoso demais para ser lançado. Dario Amodei, então diretor de pesquisa da empresa, insistiu que o mundo precisava de tempo para se preparar.
No fim das contas, o modelo foi lançado ainda naquele ano. Uma sequência de modelos muito mais poderosos foi desenvolvida desde então sem desencadear o Armagedom. No entanto, sete anos depois, Amodei, agora à frente da Anthropic, rival ferrenha da OpenAI, está preocupado novamente.
Na última terça-feira (7), ele declarou que a mais recente adição à família de modelos Claude, batizada de "Mythos", é poderosa demais para ser amplamente disponibilizada por enquanto. Desta vez, ele pode estar certo.
Segundo a Anthropic, as capacidades do Mythos são "substancialmente superiores às de qualquer modelo que treinamos anteriormente". O laboratório afirma estar particularmente preocupado com a capacidade do sistema de encontrar vulnerabilidades em softwares e corrigi-las (se configurado para atuar como defensor) ou explorá-las (se agindo como hacker).
Tais afirmações normalmente seriam recebidas com certa desconfiança. A Anthropic construiu o modelo, conduziu os testes e tem a ganhar com a percepção de que seu sistema é muito mais brilhante do que qualquer outro já criado. O laboratório tem estado em alta ultimamente. Na véspera do anúncio do Mythos, afirmou que sua receita anualizada havia alcançado US$ 30 bilhões, contra apenas US$ 9 bilhões no final do ano passado. A empresa certamente está ansiosa para manter esse ritmo.
