A Anthropic está pedindo que os principais laboratórios de inteligência artificial (IA) considerem uma pausa coordenada e verificável no desenvolvimento da tecnologia, alertando que os avanços rápidos na área podem em breve permitir que sistemas de IA se aprimorem sozinhos mais rapidamente do que a sociedade consegue administrar os riscos. A criadora do Claude afirmou que a capacidade da IA de realizar tarefas de forma autônoma vem dobrando aproximadamente a cada quatro meses e está caminhando para o chamado “autoaperfeiçoamento recursivo” (“recursive self-improvement”), ponto em que a tecnologia consegue evoluir sem intervenção humana. “Se os sistemas forem capazes de construir integralmente seus próprios sucessores, as formas de protegê-los, monitorá-los e moldar seu comportamento se tornarão muito mais importantes”, afirmou a startup em uma longa publicação em blog divulgada na quinta-feira, acrescentando que uma pausa permitiria à sociedade “lidar com suas enormes implicações”. “Ainda não chegamos lá, e o autoaperfeiçoamento recursivo não é inevitável. Mas ele pode surgir antes do que a maioria das instituições esteja preparada para enfrentar”, escreveram no texto o cofundador da Anthropic, Jack Clark, e a líder do Anthropic Institute, Marina Favaro. Os temores de que sistemas avançados de IA possam escapar ao controle humano e causar danos à sociedade cresceram à medida que a tecnologia se torna cada vez mais capaz. O próprio modelo Mythos, da Anthropic, provocou forte repercussão em setores como o bancário e o de software no início deste ano devido à sua capacidade de encontrar vulnerabilidades em códigos existentes. Mas a regulamentação tem avançado lentamente, especialmente nos Estados Unidos, onde estão sediados a maioria dos principais laboratórios de IA. Uma ordem executiva do governo Trump publicada nesta semana transferiu a responsabilidade para os próprios laboratórios, solicitando que eles submetam voluntariamente seus modelos mais avançados a testes governamentais de cibersegurança antes do lançamento público. Pesquisadores de IA já defenderam uma pausa anteriormente, mas tiveram pouco sucesso. Elon Musk, proprietário do laboratório xAI, esteve entre os apoiadores de uma iniciativa de 2023 liderada pela organização sem fins lucrativos Future of Life Institute que defendia a interrupção do desenvolvimento da IA por seis meses para permitir a criação de salvaguardas de segurança. A Anthropic há muito se posiciona como um laboratório focado em segurança. No início deste ano, recusou-se a permitir que as Forças Armadas dos Estados Unidos utilizassem seus modelos para vigilância doméstica e sistemas de armas totalmente autônomos, provocando reação do governo, que incluiu a empresa em uma lista de restrições de segurança nacional cuja aplicação está prevista para o fim de 2026. A Reuters informou nesta sexta-feira que a disputa dá sinais de arrefecimento em partes do governo americano. Ainda assim, a Anthropic continuou lançando modelos cada vez mais poderosos e, em fevereiro, recuou em um importante compromisso de segurança ao afirmar que não deixaria mais de lançar sistemas potencialmente perigosos caso concorrentes estivessem próximos de igualar suas capacidades. A empresa foi recentemente avaliada em US$ 965 bilhões em uma rodada de financiamento de grande porte e protocolou confidencialmente, na segunda-feira, um pedido de oferta pública inicial de ações (IPO) nos Estados Unidos, colocando-se à frente da rival OpenAI tanto em valor de mercado quanto na corrida para captar recursos considerados essenciais. Ação coordenada A publicação da Anthropic na quinta-feira alertou que desacelerações unilaterais ou mal coordenadas podem produzir o efeito contrário caso agentes menos cautelosos continuem avançando, reduzindo potencialmente a segurança geral. Segundo a empresa, uma pausa significativa exigiria um acordo entre “múltiplos laboratórios bem financiados” que operam na fronteira tecnológica, além de regras sobre quais condições acionariam ou encerrariam essa pausa e quem seria responsável por supervisioná-la. “Uma pausa unilateral por parte de um único laboratório, por outro lado, é viável imediatamente, mas alcança muito menos: mudaria apenas quem está na liderança, sem criar o processo mais amplo de deliberação que atualmente está faltando”, afirmou a startup. Seu braço de pesquisa, o Anthropic Institute, pretende estudar os sistemas necessários para sustentar uma desaceleração do desenvolvimento e, nos próximos meses, reunirá formuladores de políticas públicas, pesquisadores, organizações da sociedade civil e empresas rivais de IA para discutir a gestão de riscos como o autoaperfeiçoamento recursivo. A OpenAI, a xAI, a Alphabet, a Meta Platforms e a francesa Mistral não responderam imediatamente aos pedidos de comentário sobre a possibilidade de aderirem ao apelo. — Foto: Bloomberg