Claude teria tido acesso à internet por acidente durante testes e "invadiu" outras companhias; ChatGPT também já violou privacidade de organizações e acendeu alerta para perigos de avanço desenfreado da IA 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 O aplicativo do Claude, modelo de IA da Anthropic — Foto: Gabby Jones/Bloomberg Os modelos de inteligência artificial (IA) da Anthropic "obtiveram acesso não autorizado" aos sistemas de três empresas durante testes nos quais, em teoria, deveriam permanecer isolados "do mundo real", informou a empresa nesta quinta-feira (30). O anúncio ocorre apenas alguns dias depois de sua concorrente OpenAI revelar, pela primeira vez, que dois de seus modelos saíram, por iniciativa própria, do ambiente isolado em que estavam sendo testados para atacar o site Hugging Face. A Anthropic avaliou mais de 141 mil "operações de teste" e descobriu que três versões diferentes de seu modelo, conhecido como Claude, acessaram indevidamente sistemas de três organizações que não foram identificadas. Ao contrário do incidente envolvendo a OpenAI, os modelos da Anthropic tiveram acesso à internet por causa de "um mal-entendido entre nós e nosso parceiro de avaliação", chamado Irregular, informou a empresa em uma publicação em seu blog. Ainda assim, o Claude utilizou "técnicas básicas, como explorar senhas fracas e pontos de conexão sem autenticação". Entre os modelos envolvidos estava um dos mais avançados da empresa, conhecido como Mythos 5, que foi disponibilizado apenas para um número limitado de parceiros autorizados. A Anthropic afirmou que está trabalhando com a Irregular para analisar a situação e que entrou em contato — ou tentou entrar — com as três organizações afetadas. Na terça-feira, a OpenAI confirmou que seus modelos violaram a segurança de várias empresas. A companhia admitiu na semana passada que seus agentes de IA escaparam do ambiente isolado de testes, conectaram-se à internet e invadiram o Hugging Face, uma plataforma onde desenvolvedores armazenam e compartilham seu código. Dias depois, a empresa criadora do ChatGPT informou que encontrou outros três incidentes. O diretor-executivo da OpenAI, Sam Altman, afirmou em um podcast nesta semana que a empresa "pausou" seus próprios testes após o incidente, enquanto reforçava a segurança de seu sistema de sandboxing, um ambiente controlado utilizado para testes.