Relatório detalha seis casos ligados a armas convencionais e cinco em que a IA poderia contribuir para pesquisas de armas biológicas 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 Site da Anthropic — Foto: Bloomberg A Anthropic afirma ter identificado e interrompido, nos últimos oito meses, uma série de operações em que usuários tentaram usar o Claude, seu modelo de inteligência artificial (IA), para "atividades maliciosas", incluindo o desenvolvimento de armas e pesquisas que poderiam contribuir para a produção de armas biológicas. As revelações fazem parte do mais recente relatório de inteligência sobre ameaças da empresa, publicado na quinta-feira. Segundo a Anthropic, entre dezembro de 2025 e agosto de 2026, sua equipe interrompeu operações envolvendo sete áreas de risco, entre elas desenvolvimento de armas convencionais, possível uso biológico, operações cibernéticas, vigilância, influência, golpes e fraude e destilação de modelos de IA. Armas convencionais A Anthropic detalhou seis casos de uso do Claude relacionados a armas convencionais. A empresa identificou três operações na China, duas na Rússia e uma no Iêmen. Segundo o relatório, os grupos utilizaram a IA para desenvolver softwares destinados a armas como mísseis, drones armados e outros equipamentos, além de sistemas de direcionamento e controle. Em quatro dos casos, os usuários empregaram o Claude diretamente no desenvolvimento de softwares para os próprios sistemas de armas. Nos outros dois, a ferramenta foi usada para coleta de informações sobre programas militares e para aquisição de equipamentos de uso militar e civil. Entre os episódios descritos está o de uma célula baseada no norte do Iêmen — provavelmente ligada aos Houthis, rebeldes apoiados pelo Irã que controlam grande parte da região — que utilizou o Claude para desenvolver softwares de orientação, navegação e controle de armas. A empresa afirma que o grupo trabalhava em três programas: um foguete guiado, um míssil balístico com alcance declarado superior a 2 mil km e um projétil equipado com um “planador hipersônico”. Já em um dos casos descobertos na China, por exemplo, um usuário empregou o Claude para elaborar especificações e propostas para um sistema de combate a torpedos. Em outro, a ferramenta foi usada para criar um sistema de guerra eletrônica capaz de analisar radares e posições de defesa aérea, classificar alvos e calcular estratégias de interferência. A Anthropic afirma que, em uma das operações, o software chegou a ser testado em simulações e teve seu código carregado em equipamentos reais. A empresa também identificou um grupo que usou o Claude para reunir informações sobre armas de energia dirigida e suas cadeias de fornecedores. Os casos chamaram a atenção da empresa porque a IA foi empregada para automatizar tarefas que tradicionalmente exigiriam profissionais especializados. Em uma avaliação divulgada paralelamente ao relatório, a Anthropic afirmou que modelos atuais já conseguem executar algumas tarefas nos campos militar e de inteligência que historicamente dependiam de especialistas altamente treinados. A empresa diz ter banido as contas associadas às operações e incorporado as descobertas aos sistemas de segurança para tentar impedir novos usos semelhantes. Também afirmou ter compartilhado informações com autoridades e parceiros do setor quando considerado apropriado. Risco biológico Além dos casos relacionados a armas convencionais, a Anthropic descreveu cinco situações em que seus modelos foram utilizados de maneiras que poderiam contribuir para o desenvolvimento de armas biológicas. A empresa não afirma que os pesquisadores envolvidos tinham intenção de causar danos. Em alguns casos, tratava-se de cientistas trabalhando em pesquisas de natureza potencialmente benéfica, mas que também poderiam ter aplicações perigosas. Por isso, a Anthropic classificou o uso indevido de IA para fins biológicos como um dos riscos mais graves associados aos chamados modelos de fronteira. Um dos casos envolveu uma plataforma que tentou contornar restrições de acesso para permitir a pesquisadores o uso do Claude em trabalhos sobre o vírus chikungunya. Segundo a empresa, o projeto envolvia pesquisas de ganho de função relacionadas à transmissibilidade e à capacidade de evasão do sistema imunológico. Em outro caso, um pesquisador passou semanas planejando experimentos relacionados à adaptação do vírus da gripe aviária a mamíferos. A Anthropic diz ter restringido o trabalho aos modelos considerados menos capazes e não revelou a identidade dos pesquisadores, das instituições ou os agentes biológicos envolvidos. A empresa destaca, porém, a dificuldade de diferenciar usos legítimos e perigosos em pesquisas desse tipo. O mesmo conhecimento científico que pode contribuir para o desenvolvimento de uma vacina ou tratamento também pode, em determinadas circunstâncias, ser utilizado para criar agentes nocivos. — Você não está vendo alguém, como num gibi, dizer: “Ei, quero construir uma arma biológica para matar todo mundo” — afirmou Jacob Klein, chefe de inteligência sobre ameaças da Anthropic, ao New York Times. Segundo a empresa, atores sofisticados podem deliberadamente esconder a finalidade de suas pesquisas e apresentar atividades potencialmente perigosas como trabalhos científicos legítimos. Outros usos Os casos envolvendo armas e biologia fazem parte de um conjunto maior de operações identificadas pela Anthropic. O relatório também descreve o uso do Claude em operações cibernéticas, campanhas de influência, sistemas de vigilância, golpes e fraude e tentativas de destilar modelos de IA. Entre os exemplos estão aplicativos falsos de relacionamento usados para enganar vítimas, sistemas de vigilância criados para identificar dissidentes e uma operação de espionagem cibernética atribuída pela empresa a um grupo cuja atuação seria compatível com a do Midnight Blizzard, associado à Rússia. A Anthropic também afirma ter identificado tentativas de empresas chinesas de IA de reproduzir as capacidades de seus modelos. Os casos envolveram atores que a empresa classifica como suspeitos de atuar com apoio estatal, criminosos interessados em ganhos financeiros, fornecedores comerciais de spyware, instituições de propaganda e indivíduos motivados politicamente. A companhia afirma que nenhum dos casos descritos envolveu os modelos Claude Fable ou da classe Mythos, com exceção de um episódio de destilação ilícita. Debate sobre segurança O relatório surge em meio ao debate sobre os riscos do avanço acelerado da inteligência artificial. A Anthropic afirma que, à medida que os modelos se tornam mais capazes, aumenta também seu potencial de uso tanto para aplicações benéficas quanto para atividades prejudiciais. Na quinta-feira, o senador americano Bernie Sanders defendeu uma pausa no desenvolvimento de sistemas avançados de IA e apresentou uma proposta para proibir a chamada superinteligência artificial. O presidente americano, Donald Trump, por sua vez, tem defendido a continuidade da corrida tecnológica. Na quinta-feira, afirmou estar preocupado com a possibilidade de os Estados Unidos ficarem em uma posição desfavorável caso não liderem o desenvolvimento da IA. Em setembro, o cientista-chefe da OpenAI, Jakub Pachocki, também pediu que empresas do setor adotassem “desacelerações voluntárias” até que salvaguardas fossem estabelecidas. A Anthropic afirma que os casos descritos no relatório não significam que seus modelos estejam permitindo atualmente a produção de armas operacionais. Para a empresa, eles mostram, porém, que grupos ligados a atividades estatais já estão tentando contornar controles de acesso e explorar as capacidades da IA em atividades militares e pesquisas de uso duplo. (Com AFP)