No sábado, o CEO da Anthropic, Dario Amodei, indústria de IA precisa desacelerar o ritmo de desenvolvimento de modelos. Sam Altman, da OpenAI, e Elon Musk, da xAI, apoiaram a proposta 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 Presidente dos EUA, Donald Trump — Foto: CHIP SOMODEVILLA/GETTY IMAGES/AFP O presidente dos Estados Unidos, Donald Trump, minimizou ontem os crescentes alarmes sobre os riscos da inteligência artificial e rejeitou a ideia de reduzir o ritmo da tecnologia proposta no sábado por alguns dos mais importantes líderes empresariais do setor. — Acho que há muitas forças negativas levantando essa questão quando não deveriam, e estão sugerindo coisas que não vão acontecer — disse o presidente republicano em visita à Irlanda. Os pedidos por maior cautela têm crescido com alertas de ex-executivos e cientistas da computação que desenvolvem a tecnologia de que são grandes os riscos de descontrole dos agentes de IA mais avançados, com ameaças até à própria sobrevivência da humanidade, o chamado “risco existencial”. O presidente-executivo da Anthropic, Dario Amodei, publicou no sábado um longo texto em seu blog pedindo que o setor desacelere, numa ação coordenada entre a indústria e os governos de todos os países. O CEO da OpenAI, Sam Altman, e Elon Musk, que dirige a xAI, se pronunciaram a favor. Contudo, se depender de Trump, a proposta tem poucas chances de avançar. — Estamos à frente da China em IA. Somos o país mais sofisticado do mundo e, francamente, quero continuar sendo assim, porque quem vencer em IA vencerá — argumentou o presidente. Amodei afirmou que a Anthropic implementará novas medidas de segurança, incluindo o uso de avaliadores independentes, uma ideia que Altman também disse que adotará. Mas há dúvidas sobre o quanto os líderes da IA estarão realmente comprometidos em moderar o ritmo de desenvolvimento de seus modelos mais avançados e mais lucrativos diante da concorrência de rivais chineses. Alerta da Anthropic sobre IA pode pesar sobre ações de fabricantes de chips; perspectivas do setor permanecem intactas Em entrevista à CBS, o CEO da Anthropic reafirmou ontem que há um papel para a regulamentação governamental da IA: — A regulamentação permite que o público e seus representantes eleitos tenham voz e limita o que as empresas privadas podem fazer. Mas David Sacks, ex-czar de IA de Trump, que agora é copresidente do conselho consultivo de tecnologia da Casa Branca, disse que as empresas de IA não precisam de autorização do governo para desacelerar o ritmo ou agir de maneira mais responsável. “Você enfrenta uma enorme exposição a processos se seus produtos possibilitarem um ataque cibernético devastador. O próprio mercado já pune modelos que se comportam de maneiras imprevisíveis ou não autorizadas”, escreveu ele em uma publicação no X. Ao mesmo tempo, argumentou, “não sabemos se as empresas chinesas ou o governo de Pequim estarão interessados em trabalhar com empresas americanas para desacelerar o ritmo ou estabelecer salvaguardas”. O diretor do Conselho Econômico Nacional, Kevin Hassett, disse que a proposta de Amodei é boa como um possível modelo para o setor privado. Ele classificou a segurança da IA como um “problema solucionável” e afirmou que integrantes do governo Trump estão estudando a questão. O ex-presidente Barack Obama disse a uma plateia em um evento privado de arrecadação de fundos para as eleições legislativas e estaduais de meio de mandato, em 3 de novembro, que os democratas deveriam fazer da supervisão da IA uma questão central em suas campanhas. O senador Chris Coons, democrata de Delaware que ajudou a apresentar um projeto de lei para proteger denunciantes de irregularidades relacionadas à IA, afirmou que a falta de conhecimento especializado no Congresso corre o risco de dificultar a regulamentação da IA, enquanto o governo Trump mantém uma postura de pouca intervenção: — Esse é um dos nossos grandes desafios. Temos pessoas no Senado e na Câmara que não estão tão envolvidas, curiosas e atualizadas sobre essa tecnologia. Precisamos de um acordo entre republicanos e democratas no Congresso para deixar de lado nossas disputas partidárias pré-eleitorais e estabelecer algumas salvaguardas reais antes que a IA saia de controle. O rei Charles III, do Reino Unido, se reunirá nesta semana, na Escócia, com os líderes de empresas como Nvidia, Google, DeepMind, OpenAI e Anthropic, além de autoridades do governo britânico e outras pessoas, “para discutir como a IA pode ser desenvolvida e utilizada de maneiras que beneficiem a sociedade”. Motivos para alertas A preocupação atual foi motivada em grande parte por um ataque hacker ocorrido contra a Hugging Face, empresa de infraestrutura de IA, orquestrado por um grupo de agentes criados pela OpenAI que invadiram os sistemas da empresa, roubaram dados, obtiveram controle de um servidor e tentaram encobrir seus rastros. Esse ataque — e outro incidente semelhante ocorrido pouco depois dentro da própria OpenAI — aumentou drasticamente os temores sobre a velocidade com que as máquinas poderiam escapar do controle humano, com consequências potencialmente devastadoras.