Um dia após Jacob Coxon, ex-funcionário da Anthropic e da OpenAI, alarmar o mundo ao afirmar que sistemas de inteligência artificial (IA) podem exterminar a humanidade até 2030, autoridades e especialistas de diferentes espectros políticos reagiram pedindo regulação e desaceleração no desenvolvimento da tecnologia — mas também houve críticas ao tom catastrofista da mensagem. Na terça-feira, Coxon postou no X: “Nenhuma das empresas está agindo com responsabilidade. Elas estão correndo a toda velocidade rumo a uma superinteligência que se aprimora sozinha e estão brincando com nossas vidas. (...) “As pessoas que desenvolvem IA acreditam sinceramente que ela pode nos matar a todos antes do final da década. Isso não é uma estratégia de marketing.” Um dos comentários no post veio de Evan Hubinger, da divisão de segurança da Anthropic. Ele disse que a empresa não tem um plano para resolver a questão do “alinhamento com a superinteligência” e que não há um caminho claro para isso. Alinhamento é um campo de pesquisa da IA que tenta ajustar e prever os objetivos de sistemas sintéticos para que não prejudiquem a Humanidade. Geoffrey Hinton, ganhador do Prêmio Nobel em 2024, disse à BBC que é difícil estimar a probabilidade de extinção humana por IAs, mas afirmou que “10% não parece ser uma estimativa irracional.” ‘Braços cruzados’ Paul Christiano, conselheiro de tecnologia do governo americano, disse não acreditar “que o setor de IA em geral, incluindo a OpenAI, esteja atualmente no caminho certo para reduzir esse risco a um nível aceitável.” Christiano tomou posse no conselho do braço sem fins lucrativos da criadora do ChatGPT, cuja missão é servir de contrapeso à aceleração descontrolada da tecnologia. Nos EUA, líderes de diferentes espectros políticos também reagiram. “Uma pesquisa recente mostra que a população americana deseja, de forma esmagadora, proibir a superinteligência artificial e suspender o desenvolvimento da IA até que sejam estabelecidos padrões claros de segurança”, afirmou no X o senador Bernie Sanders, um dos principais nomes da esquerda americana. Já o senador republicano Ted Cruz disse, em entrevista ao canal ABC, que a mensagem de Coxon é “altamente preocupante”: — Isso me lembrou a entrevista que fiz no ano passado com Elon Musk. Uma das perguntas foi: “Quais as chances de a IA destruir a Humanidade?” E ele olhou para mim e disse: “10% a 20%.” Eu fiquei “Nossa, que loucura!” Apple inicia nova era de lançamentos de dispositivos: Saiba o que vem por aí em 2026, 27, 28... Sanders e Cruz têm propostas de regulação de IA para impor limites ao desenvolvimento da tecnologia. A deputada democrata Lori Trahan afirmou que “já passou da hora de o Congresso deixar de cruzar os braços e cumprir seu papel”. Ela lembrou que “pesquisadores da área de segurança estão se demitindo, modelos poderosos de IA estão saindo dos laboratórios e as empresas continuam avançando a todo vapor.” Já o primeiro-ministro britânico, Andy Burnham, afirmou ao Parlamento, na quarta-feira, que “a IA representa riscos para nossa segurança nacional, mas também pode ser a fonte de soluções para nos manter mais seguros”. Alarmismo criticado Apesar de gerar preocupações, outros especialistas criticaram não apenas Coxon, mas o discurso supostamente alarmista de empresas como OpenAI e Anthropic. Gary Marcus, professor da Universidade de Nova York e crítico de longa data da indústria, publicou que previsões de fim do mundo pelas mãos da IA serviram apenas para deixar essas empresas mais ricas. “Na minha opinião, a probabilidade de que a IA elimine os seres humanos nos próximos cinco anos é praticamente nula. Os seres humanos estão geograficamente muito dispersos, são geneticamente muito diversos e têm muita criatividade para simplesmente desaparecerem de uma vez por todas. A ideia de que a IA vai matar todos nós em cinco anos é absurda”, escreveu. Timnit Gebru, especialista em ética em IA, atrelou as histórias alarmistas à proximidade das ofertas iniciais de ações da Anthropic e da OpenAI, que devem ocorrer até o começo de 2027. A expectativa é que sejam avaliadas em US$ 1 trilhão. Para ela, falar em sistemas superperigosos é uma maneira de vender a capacidade desses sistemas. “Por que você acha que essas histórias estão ganhando força agora, logo antes dos IPOs dessas empresas? Porque, se você tem medo das ‘capacidades’ dos produtos delas, isso ao mesmo tempo ajuda-as a divulgar o quão ‘poderosos’ esses produtos são e a se esquivarem de suas responsabilidades. Afinal, o problema não é a negligência da OpenAI, e sim os ‘modelos que saem do controle’”, escreveu ela. Gebru faz parte de uma corrente de pensadores para os quais as discussões sobre a extinção humana por máquinas deixam de lado questões mais urgentes sobre a tecnologia, como impacto ambiental, direitos autorais, desigualdade social, concentração de poder e desemprego.