O descompasso é impressionante. De um lado, alertas sobre um risco existencial, talvez uma chance de 10% de que a civilização chegue ao fim. Do outro, a paralisia do governo. Os alertas sobre agentes de inteligência artificial imprevisíveis e fora de controle aumentaram dramaticamente nas últimas semanas. Washington não apenas teve dificuldades para reagir. Mal conseguiu chegar a um consenso sobre se havia, de fato, algo com que se preocupar. Tudo começou com agentes de IA que não apenas escaparam de seus limites, mas pareciam conspirar entre si para esconder seus rastros enquanto invadiam a biblioteca de ferramentas de IA de outra empresa. Então, em um eco deliberado da carta de Albert Einstein a Franklin D. Roosevelt sobre o potencial poder das armas nucleares, mais de 1.300 cientistas da computação pediram que a indústria desacelerasse e que o governo interviesse. Nos últimos dias, Jacob Coxon, um engenheiro da Anthropic que havia trabalhado anteriormente na OpenAI, pediu demissão da maneira mais pública possível, declarando nas redes sociais que os dois principais laboratórios de IA manifestavam profunda preocupação, mas, ao mesmo tempo, continuavam avançando rumo a “sistemas sobre-humanos capazes de invadir qualquer coisa, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais”. Ainda assim, em Washington, quase não houve uma resposta substantiva. Se, dos anos 1940 aos anos 1980, o mundo se dedicou a encontrar maneiras de reduzir o risco de um confronto nuclear — criando novas instituições, como a Comissão de Energia Atômica, e tratados de controle de armas para estabelecer regras sobre como a tecnologia mais perigosa do mundo seria administrada —, até agora a abordagem do governo dos Estados Unidos tem sido a mais branda possível. É claro que há muitos cientistas da computação que acreditam que esses alertas são exagerados. O próprio Trump tem estado na linha de frente do grupo do “por que eu deveria me preocupar?”, recusando-se a discutir como equilibrar os riscos com as possíveis recompensas. Na quinta-feira, quando um repórter lhe perguntou se tinha “alguma preocupação com a possibilidade de a IA levar à extinção da humanidade”, ele descartou a questão. —Não, não tenho nenhuma — respondeu. —Minha preocupação é que, se não vencermos a corrida pela IA, vamos ficar em uma posição muito ruim. O presidente rapidamente voltou à resposta que a Casa Branca — e aqueles que consideram os apelos por uma desaceleração e por regulamentação um enorme erro estratégico — vê como o fator decisivo: se os Estados Unidos vacilarem, a China ocupará seu lugar. —Estamos liderando a China agora por uma margem bastante significativa — disse Trump, observando que Xi Jinping, líder da China, viria a Washington em menos de duas semanas. Mas, em vez de falar sobre a possibilidade de explorar um acordo bilateral sobre IA com os chineses, voltou-se para o jantar de Estado, que, segundo ele, seria um dos pontos altos da visita. —Acho que vai ser ótimo— acrescentou. “Ótimo” não é a palavra mais usada neste verão de surpresas provocadas pela IA. Os cenários apocalípticos mais temidos no Vale do Silício incluem a possibilidade de os sistemas de IA se tornarem tão avançados que aprendam a se aprimorar automaticamente, em um processo chamado de “autoaperfeiçoamento recursivo”. Uma preocupação relacionada, decorrente de uma série de incidentes na OpenAI e em outros laboratórios de IA, é que os agentes rompam suas restrições e decidam concluir suas tarefas programadas de uma maneira que, na linguagem da indústria de IA, seja “desalinhada” com as intenções humanas. Outra preocupação é que a IA possa permitir que agentes mal-intencionados — ou governos imprudentes — criem patógenos letais, obtenham acesso a sistemas de comando e controle de armas nucleares ou desencadeiem ataques cibernéticos impossíveis de conter, capazes de provocar uma grande perda de vidas ou o colapso da sociedade. Os cientistas da computação sugerem que os americanos deixem de pensar na IA como uma mera ferramenta e passem a vê-la como algo semelhante a uma espécie alternativa, com a qual o mundo terá de conviver, para o bem ou para o mal. A Casa Branca se recusou a disponibilizar seus principais responsáveis pelas políticas de IA para responder a perguntas. Mas afirmou que o governo continuava a buscar um equilíbrio entre inovação e segurança, sem entrar em detalhes específicos. Trump assinou, no início do verão, uma ordem executiva criando um sistema voluntário para que os laboratórios de IA de fronteira submetessem seus novos modelos a uma revisão de segurança de 30 dias. Mas a medida estava repleta de brechas. (Modelos de código aberto — o tipo que empresas chinesas estão produzindo em grande quantidade e que pode ser adaptado a necessidades específicas por empresas, cientistas ou, talvez, grupos terroristas — não estão sujeitos à revisão.) Em meio aos muitos eventos em memória realizados na sexta-feira pelo 25º aniversário dos ataques de 11 de Setembro, o contraste com aquela época é marcante. A revelação da vulnerabilidade dos Estados Unidos levou o vice-presidente Dick Cheney a desenvolver o que logo ficou conhecido como a “doutrina do 1%”. Motivada pelo temor de que cientistas paquistaneses pudessem ajudar a Al Qaeda a desenvolver uma arma nuclear, a doutrina defendia que o governo precisava agir mesmo quando o risco fosse remoto, porque as consequências seriam extremamente graves. Neste caso, 1% parece ser uma probabilidade bastante razoável: Evan Hubinger, que lidera a área de pesquisa em “alinhamento” na Anthropic — que busca fazer com que o código permaneça alinhado aos objetivos humanos — escreveu nos últimos dias que o risco de extinção em massa na próxima década era superior a 10%. É impossível saber se essa estimativa está correta. Mas, como colocou Ben Buchanan, professor assistente da Universidade Johns Hopkins e coautor de um livro que será lançado em breve, The Bitter Struggle: Superintelligence, Superpowers, and the Fate of the World (“A Luta Amarga: Superinteligência, Superpotências e o Destino do Mundo”, em português): “Não tenho nenhuma dúvida de que a tecnologia continuará melhorando muito rapidamente, levantando questões urgentes sobre riscos biológicos e perda de controle. Estamos em um período de desenvolvimento exponencial, e há apenas duas maneiras de reagir: cedo demais ou tarde demais”, disse ele. “O mundo perdeu a oportunidade de agir cedo demais.” O medo de se antecipar a Trump A atitude indiferente de Trump em relação aos temores existenciais provocados pela IA influencia tanto seu governo quanto o Partido Republicano, que ele ainda controla firmemente. Em uma conferência realizada em Washington na semana passada, autoridades do governo e executivos de empresas falaram sobre as promessas da IA — desde operações militares de próxima geração até espionagem e segurança cibernética de infraestruturas críticas — durante praticamente todos os painéis. Embora os riscos do uso da IA por adversários tenham sido mencionados ocasionalmente, pouco se falou sobre a necessidade de desacelerar ou regulamentar essa poderosa tecnologia. Falando no palco na última quinta-feira, durante a Cúpula de Cibersegurança de Billington, Sean Cairncross, diretor nacional de cibersegurança da Casa Branca, afirmou que o governo estava “tentando equilibrar o lado da inovação e avançar em alta velocidade com a proteção de nossos sistemas e o uso responsável dessa tecnologia, o que significa não permitir que ela caia nas mãos de pessoas que possam nos fazer mal, nossos adversários”. Cairncross não abordou diretamente os temores crescentes sobre o ritmo acelerado dos avanços da IA nem os episódios recentes de agentes descontrolados que escaparam de suas limitações e invadiram outras redes. Algumas pessoas na Casa Branca e em outras áreas do governo reconhecem a necessidade de uma atuação mais proativa para enfrentar os riscos à segurança relacionados à IA, mas não querem contrariar Trump, segundo ex-funcionários. — Existe um medo de se antecipar ao presidente — disse Michael Garcia, que ocupou o cargo de chefe-adjunto de políticas da Agência de Segurança Cibernética e de Infraestrutura até deixar o posto em junho. —Já vimos executivos de tecnologia ligarem para o presidente quando ficam sabendo de uma possível nova política para manifestar seu descontentamento, e isso acaba levando à alteração ou ao cancelamento da política — disse Garcia. —Isso inevitavelmente gera uma inércia na elaboração de novas políticas de segurança nacional que podem ser extremamente necessárias. De fato, David Sacks, capitalista de risco e influente ex-czar de IA de Trump, classificou, durante uma entrevista à Fox News, os alertas de Coxon como uma operação coordenada da mídia “destinada a assustar o público” e a abrir caminho para uma regulamentação governamental excessivamente onerosa. E Jensen Huang, CEO da gigante de chips Nvidia, afirmou que essa nova onda de medo havia sido fomentada pelo setor de cibersegurança. No Capitólio, a história não é muito diferente. Até a semana passada, para muitos parlamentares, a IA só havia ganhado relevância no contexto da oposição da população à construção de centros de dados, um tema que adquiriu importância política nas eleições de meio de mandato, segundo parlamentares e assessores dos dois partidos. Esforços anteriores para analisar as possíveis consequências da IA resultaram em audiências e declarações alarmadas de preocupação de ambos os partidos, mas em pouco mais do que isso. O deputado Josh Gottheimer, democrata de Nova Jersey, que integra vários subcomitês de IA e cibersegurança, afirmou que a velocidade vertiginosa da evolução da IA tornava difícil para os parlamentares acompanhar os acontecimentos. — Continuo enfatizando a importância de educar regularmente os parlamentares sobre IA e sobre os avanços mais recentes — disse Gottheimer. —Incidentes recentes, como o ataque hacker à Hugging Face, são um verdadeiro sinal de alerta sobre o que pode acontecer se não enfrentarmos seriamente os riscos que esses modelos podem representar— acrescentou, referindo-se à empresa de IA que foi invadida por modelos descontrolados da OpenAI no início deste ano. O deputado Josh Gottheimer (Democrata de Nova Jersey) integra diversas subcomissões sobre inteligência artificial e cibersegurança, afirmou que a velocidade vertiginosa da evolução da IA ​​torna difícil para muitos legisladores acompanharem o ritmo — Foto: Eric Lee/The New York Times Outro fator que aumenta esse desafio é que a IA não é apenas uma questão tecnológica, mas também uma questão relacionada a empregos, às forças armadas e à sociedade como um todo. Isso significa que não existe um único comitê do Congresso claramente posicionado para assumir a liderança no enfrentamento de todas as ramificações do problema. Com a China, um 'dilema do prisioneiro' Após a renúncia de Coxon nesta semana, democratas e alguns republicanos foram despertados de sua letargia. Eles apresentaram uma enxurrada de reações e propostas preocupadas para investigar as empresas de IA e o ritmo de avanço dos modelos, incluindo uma proposta dos democratas para criar um comitê especial sobre IA caso o partido retome o controle da Câmara no próximo ano, informou o Politico. À medida que o tema ganha importância nas próximas eleições de meio de mandato, o ex-presidente Barack Obama alertou, em um evento privado de arrecadação de fundos na semana passada, que a IA poderia ser “perigosa” e instou os democratas a desenvolverem “um plano muito claro” para lidar com os riscos à segurança e à economia. O senador Bernie Sanders, independente de Vermont, que há meses é talvez o mais estridente “Cassandra” do Capitólio ao alertar sobre os riscos sociais da IA, convidou parlamentares para uma reunião privada nos próximos dias a fim de discutir as preocupações com especialistas em segurança de IA. Sanders tem defendido a proibição da IA superinteligente, embora outros parlamentares tenham criticado a iniciativa, alegando que ela sufocaria a inovação americana. O senador Bernie Sanders (Independente de Vermont) no Capitólio: ele tem defendido a proibição de inteligência artificial superinteligente, embora outros legisladores critiquem a iniciativa, alegando que ela sufoca a inovação americana — Foto: Kenny Holston/The New York Times As mensagens enviadas pelo Congresso ganharam um tom mais urgente após a divulgação, na última quinta-feira, de um relatório da Anthropic que mostrou as várias maneiras pelas quais agentes de todo o mundo, inclusive da China, Rússia, Irã e Iêmen, vinham usando seus diferentes modelos Claude para desenvolver ataques cibernéticos, vigiar dissidentes e construir mísseis, bombas e drones. O relatório também documentou vários casos de possíveis tentativas de desenvolver armas biológicas, consideradas uma das mais graves ameaças existenciais relacionadas à IA. Seria de esperar que esse relatório provocasse alguma reação: ele combinava a atuação de adversários estrangeiros com ataques contra alvos americanos, embora a Anthropic tenha bloqueado ou impedido muitos dos casos de abuso documentados. Ainda assim, apesar dos sinais de alarme, os parlamentares estão longe de chegar a um acordo sobre como avançar na regulamentação dos modelos de IA ou das empresas que os desenvolvem. As perspectivas de aprovação de uma legislação substantiva no curto prazo parecem remotas, em parte porque muitos veem a questão como um “dilema do prisioneiro” criado pela corrida pela IA entre os Estados Unidos e a China. Com a supremacia em IA sendo a principal questão de segurança nacional do século, os dois países certamente estariam em melhor situação se cooperassem para estabelecer limites. Mas talvez não confiem que o outro lado cumprirá um acordo desse tipo. E, de qualquer forma, ao contrário do que ocorre com o controle de armas nucleares, seria praticamente impossível verificar o cumprimento de um acordo. O senador Ted Cruz, republicano do Texas e presidente do Comitê de Comércio, reconheceu na semana passada que estava profundamente preocupado com os riscos da IA para a humanidade. Mas também sugeriu que Coxon fazia parte de um esforço coordenado para apoiar as iniciativas dos democratas de “estrangular a IA americana” e entregar à China a liderança nessa tecnologia. — Eu preferiria que fossem robôs assassinos americanos, e não robôs assassinos chineses — disse Cruz ao Politico. Ainda assim, Cruz afirmou que estava trabalhando em uma proposta legislativa com os senadores Amy Klobuchar, democrata de Minnesota, e John Thune, republicano de Dakota do Sul e líder da maioria, com o objetivo de enfrentar riscos catastróficos da IA relacionados a ameaças biológicas e nucleares. A possibilidade de essa ou de outras propostas legislativas — incluindo a exigência de um “botão de desligamento” nos modelos de IA que pudesse interrompê-los imediatamente — ganhar força significativa dois meses antes de uma eleição parece pequena. Também não está claro se um novo Congresso no próximo ano conseguirá superar as profundas divisões partidárias para lidar com uma tecnologia que evolui tão rapidamente, especialmente diante dos alertas de Trump contra a regulamentação. Algumas autoridades do governo Trump reconheceram que a IA elevou dramaticamente o nível de risco. Nick Anderson, diretor interino da Agência de Segurança Cibernética e de Infraestrutura, afirmou que as ameaças digitais se tornaram mais urgentes na era da IA e exigem uma ação rápida. — Sabemos o pior que pode acontecer— disse ele. Dirigindo-se ao público formado por autoridades governamentais e executivos de cibersegurança na conferência de Billington, Anderson fez um alerta contundente: se não forem tomadas medidas adicionais para proteger o país, cenários apocalípticos poderão se tornar realidade. —Todos vocês terão de voltar para casa e olhar para suas famílias, olhar para seus amigos, e explicar a eles como vocês sabiam o pior que poderia acontecer e por que não fizemos o suficiente — afirmou.