Empresa também interrompeu tentativas de espionagem contra a Ucrânia e ataques de concorrentes chineses 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 A Anthropic interrompeu tentativas de uso de seus modelos Claude para o desenvolvimento de armas biológicas e a execução de uma suposta campanha de ciberespionagem ligada à Rússia contra a Ucrânia, informou a gigante de inteligência artificial em relatório divulgado na quinta-feira. A desenvolvedora de IA também acusou concorrentes chineses de tentativas de invasão voltadas à extração das capacidades do Claude em seu mais recente relatório de inteligência contra ameaças, que documentou o uso malicioso de sua tecnologia ao longo dos últimos oito meses. O avanço no número de ofensivas ilícitas conduzidas por agentes autônomos de IA, somado aos alertas sobre os riscos da tecnologia manifestados por especialistas do próprio setor, intensificou a pressão sobre as empresas pioneiras da área, ampliando a perspectiva de regras mais duras de regulação. Nesta semana, dois pesquisadores da própria Anthropic alertaram que a rápida evolução da inteligência artificial pode levar à extinção da espécie humana em um horizonte não muito distante. Mísseis, drones e armas biológicas No documento, a Anthropic destacou que há tempos existe a preocupação de que modelos de IA possam atingir um nível de capacidade que permita tornar patógenos existentes ainda mais letais ou criar organismos inteiramente novos. O relatório documentou cinco episódios de cientistas utilizando a ferramenta para dar suporte ao desenvolvimento de armamentos biológicos. Em um dos casos, um pesquisador situado em uma região não atendida oficialmente pela Anthropic utilizou servidores virtuais privados (VPN, na sigla em inglês) para acessar o Claude e, durante semanas, recorreu ao modelo para planejar experimentos de adaptação da gripe aviária a mamíferos. Entre os países bloqueados pela companhia figuram nações como Rússia, China e Coreia do Norte. Após identificar a violação, a empresa baniu as contas envolvidas e incorporou as descobertas aos mecanismos de salvaguarda de seus modelos de fronteira, aos processos de fiscalização e à divisão de inteligência contra ameaças. A Anthropic não divulgou as instituições, os países de origem nem os agentes biológicos e técnicas de pesquisa específicos envolvidos nos incidentes. O documento também identificou o surgimento de “novas categorias de agentes de ameaça”. As ocorrências envolveram o uso da plataforma para “desenvolver softwares destinados a armas convencionais, incluindo armas de fogo, mísseis, drones armados, bombas e outras munições, bem como os sistemas de mira e controle operacional correspondentes”. O relatório detalhou episódios de operadores na China, na Rússia e no Iêmen que recorreram ao Claude para desenvolver códigos voltados a projetos bélicos ou para apoiar a coleta de informações e a aquisição de insumos para programas de armamentos. O salto de desempenho dos modelos da Anthropic trouxe à tona novos fatores de risco, afirmou Jacob Klein, chefe de inteligência contra ameaças da companhia, à Reuters. “Há um ano, se alguém quisesse otimizar o desempenho de um drone ou o software de um míssil, os modelos simplesmente não seriam tão eficientes nessa tarefa quanto são hoje”, pontuou Klein. Hackers russos usam IA contra autoridades da Ucrânia A Anthropic identificou que cibercriminosos e grupos com suporte estatal estão utilizando a inteligência artificial para planejar e executar fatias substanciais de ataques cibernéticos, nos quais os operadores humanos frequentemente atuam apenas como supervisores, sem intervenção manual contínua no código. “O emprego da tecnologia extrapolou simples perguntas e respostas em um chatbot, passando a envolver arranjos complexos com múltiplos agentes autônomos”, informou a empresa. Um dos grupos teria conduzido operações de “phishing”, invasão de redes Wi-Fi em hotéis e sequestro de contas de WhatsApp contra alvos no governo ucraniano, nas forças armadas e no corpo diplomático do país, recorrendo à IA em praticamente todas as etapas da ofensiva. O padrão de atuação é compatível com as táticas do grupo russo Midnight Blizzard, apontado pelo governo dos Estados Unidos como um braço de operações cibernéticas do Serviço de Inteligência Estrangeira da Rússia (SVR). A Embaixada da Rússia em Washington não respondeu de imediato aos pedidos de comentário. O grupo teria empregado a ferramenta para estruturar um sistema que detectava de forma automatizada quando seu malware era barrado por defesas digitais, reescrevendo o código malicioso de forma iterativa até que ele burlasse os sistemas de proteção. A Anthropic afirmou ainda ter neutralizado atividades associadas a integrantes do coletivo ShinyHunters, atualmente uma das organizações cibercriminosas mais ativas do cenário internacional, ligada a ataques contra grandes corporações globais. Laboratórios chineses realizam ofensivas para clonar o Claude A companhia de tecnologia revelou também ter interrompido investidas atribuídas a sete laboratórios sediados na China durante a vigência do relatório, incluindo as empresas Alibaba, Moonshot, DeepSeek e Xiaomi. As companhias citadas não retornaram aos pedidos de esclarecimento. Operadores ligados ao Alibaba conduziram o que a Anthropic classificou como o maior ataque de “destilação ilícita” já registrado, voltado a extrair as capacidades dos modelos Claude e incorporá-las ao aprimoramento dos modelos Qwen, desenvolvidos pelo grupo chinês. A Anthropic informou ter rastreado mais de 151 milhões de interações atribuídas ao Alibaba entre maio e julho, com picos próximos a 3 milhões de requisições diárias a partir de mais de 3.500 contas descritas como fraudulentas. O processo de destilação consiste em treinar modelos menores a partir das respostas geradas por sistemas maiores e de desenvolvimento mais custoso, visando baratear o treinamento de novas ferramentas de IA. Em outra frente de uso indevido, a desenvolvedora afirmou que a DeepSeek e a Moonshot, criadora do chatbot Kimi, teriam roteado conversas em tempo real de seus próprios usuários, muitas contendo dados sensíveis, por meio do Claude, utilizando as respostas da empresa norte-americana como insumo de treinamento para suas próprias bases. O Ministério das Relações Exteriores da China declarou não ter conhecimento do documento publicado pela Anthropic, reiterando que o país defende o desenvolvimento da inteligência artificial para fins pacíficos e construtivos e que se opõe à distorção de fatos e difamações contra sua indústria. — Foto: Patrick Sison/AP/File Photo