No sábado, o CEO da Anthropic, Dario Amodei, indústria de IA precisa desacelerar o ritmo de desenvolvimento de modelos. Sam Altman, da OpenAI, e Elon Musk, da xAI, apoiaram a proposta 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 O rei Charles III — Foto: Paul Ellis/AFP O rei Charles III, do Reino Unido, se reunirá nesta semana, na Escócia, com líderes de grandes empresas de inteligência artificial em meio ao aumento dos temores de que o desenvolvimento rápido e sem controle da tecnologia possa levar a uma catástrofe global. O rei reunirá líderes de empresas como Nvidia, Google, DeepMind, OpenAI e Anthropic, além de autoridades do governo e outras pessoas, “para discutir como a IA pode ser desenvolvida e utilizada de maneiras que beneficiem a sociedade”, segundo comunicado do Palácio de Buckingham. O encontro será realizado em Ayrshire, no sudoeste da Escócia, na Dumfries House, sede da King’s Foundation, uma organização beneficente voltada à educação. A reunião ocorre em um momento em que especialistas e executivos de algumas das empresas mais poderosas do setor de IA vêm fazendo alertas sobre essas ferramentas e sobre a velocidade com que estão evoluindo. Alguns defendem a criação de diretrizes comuns e um ritmo de avanço deliberadaente mais lento, para garantir que os seres humanos consigam acompanhar. O encontro de Charles sobre IA vai discutir como a tecnologia pode ser usada para o bem, a fim de “fortalecer comunidades e melhorar vidas”, afirmou o Palácio de Buckingham. O palácio não informou quem participará pelas empresas de IA mencionadas no comunicado. Anthropic, DeepMind, Google e Nvidia não responderam imediatamente aos pedidos de confirmação de sua participação. A OpenAI informou que Sarah Friar, sua diretora financeira, estará presente. A preocupação atual com o rápido avanço da IA foi motivada em grande parte por um ataque hacker ocorrido neste verão contra a Hugging Face, empresa de infraestrutura de IA, orquestrado por um grupo de agentes de IA criados pela OpenAI. Os agentes da OpenAI invadiram os sistemas da Hugging Face, roubaram dados, obtiveram controle de um servidor e tentaram encobrir seus rastros. Alerta da Anthropic sobre IA pode pesar sobre ações de fabricantes de chips; perspectivas do setor permanecem intactas Esse ataque — e outro incidente semelhante ocorrido pouco depois dentro da própria OpenAI — aumentou drasticamente os temores sobre a velocidade com que as máquinas poderiam escapar do controle humano, com consequências potencialmente devastadoras. Dario Amodei, CEO da empresa de inteligência artificial Anthropic, publicou no sábado uma carta aberta de 3.800 palavras defendendo um desenvolvimento mais lento da IA. Além do ataque à Hugging Face, ele citou como motivo de preocupação o fato de os modelos atuais de IA estarem cada vez mais capazes de construir a próxima geração de ferramentas de inteligência artificial. Amodei afirmou que essa dinâmica, conhecida como autoaperfeiçoamento recursivo, “poderia superar nossa capacidade de compreender e controlar esses sistemas” se não houver limites.