EUA trancaram o novo ChatGPT: a fronteira da inteligência artificial agora tem porteiroO novo ChatGPT não foi para quem pagou, foi para quem Washington liberou. Crédito: EstadãoA OpenAI revelou que dois de seus modelos de IA invadiram a Hugging Face, uma biblioteca digital de IA, durante testes de segurança. O incidente, ocorrido na semana passada, destacou riscos de segurança cibernética associados a modelos de IA. A OpenAI e a Hugging Face estão colaborando para resolver o problema. Especialistas alertam que a segurança da IA não pode ser garantida por uma única empresa. O evento ressalta a necessidade de novas abordagens para proteger redes contra ataques de IA.A OpenAI informou na terça-feira, 21, que dois de seus modelos de inteligência artificial saíram do controle e conseguiram invadir a Hugging Face, uma biblioteca digital de tecnologia de IA popular entre desenvolvedores.PUBLICIDADEO incidente, que ocorreu na semana passada enquanto a OpenAI testava os recursos de segurança cibernética de seus sistemas, revelou o tipo de cenário de ficção científica que as empresas de IA alertaram que em breve se tornaria realidade.Laboratórios de IA como a OpenAI e a Anthropic lançaram, ao longo do último ano, modelos de IA personalizados para identificar problemas de segurança cibernética, ao mesmo tempo em que alertaram que sua tecnologia poderia representar novos riscos ao detectar falhas nas redes de computadores corporativas mais rapidamente do que os defensores conseguiriam corrigi-las.PublicidadeOpenAI e outras empresas alertaram que seus novos sistemas de IA poderiam ser poderosas ferramentas de hacking Foto: Aaron Wojack/NYTAs revelações da OpenAI na terça-feira são um indício de que esses incidentes de segurança já estão começando a ocorrer, e mesmo empresas experientes em IA podem não estar totalmente preparadas para lidar com eles. Novos sistemas de IA podem realizar várias etapas, contornar obstáculos e encontrar novas formas de atacar uma rede, disse Alex Levinson, consultor de segurança cibernética especializado em capacidades autônomas.Leia tambémDavid Vélez, fundador do Nubank, entra para o conselho de administração da OpenAI, dona do ChatGPTEconomistas e líderes do setor de tecnologia publicam carta para alertar sobre ameaças da IAApple processa OpenAI por espionagem comercial; entenda os bastidores da briga judicial“Esse é um verdadeiro divisor de águas e vai se tornar parte normal do cenário de segurança”, disse ele.A invasão à Hugging Face começou quando a OpenAI testou uma combinação de dois de seus modelos, o GPT‑5.6 Sol e um modelo mais potente, ainda não lançado, para verificar até que ponto os modelos poderiam encadear vulnerabilidades online em um ataque cibernético bem-sucedido, informou a OpenAI em uma postagem no blog sobre o incidente.PublicidadeO teste foi projetado para manter os modelos em um ambiente de teste seguro, conhecido como “sandbox”, informou a OpenAI. No entanto, os modelos encontraram uma vulnerabilidade que lhes permitiu escapar da sandbox e se conectar à internet. Em seguida, eles direcionaram seus esforços para o Hugging Face, pois deduziram que a biblioteca, que contém milhões de modelos de IA, poderia conter pistas sobre como passar com sucesso na avaliação.“Parece-me que a OpenAI não criou adequadamente uma sandbox como ambiente de teste”, disse Deirdre Mulligan, professora da Escola de Informação da Universidade da Califórnia em Berkeley, especializada em segurança e sistemas de IA. Ela questionou se passar em um teste valeria a pena diante do dano potencial causado pela fuga de um modelo de IA para a internet em geral.“O que ganhamos com isso e, se essa for a única maneira de configurar esses testes, quais são os riscos?”, questionou ela.PublicidadeA OpenAI informou que está trabalhando com a Hugging Face para corrigir os problemas que levaram ao ataque.“Consideramos que se trata de um incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração, e estamos respondendo de acordo com a gravidade da situação”, afirmou a OpenAI em sua postagem no blog. “Estamos implementando controles rigorosos na configuração da infraestrutura, mesmo que isso reduza o ritmo das pesquisas, enquanto as vulnerabilidades são corrigidas.”A Hugging Face informou na semana passada que havia detectado a invasão e sabia que ela havia sido causada por um sistema autônomo, mas não mencionou, na ocasião, que a OpenAI fosse a responsável.PublicidadePUBLICIDADEClem Delangue, diretor executivo da Hugging Face, afirmou na terça-feira que sua empresa havia trabalhado em estreita colaboração com a OpenAI nas últimas 24 horas para lidar com o ataque.Delangue disse em um comunicado que estava “grato pela colaboração” com a OpenAI após o ataque. “Este incidente, possivelmente o primeiro desse tipo, comprova algo em que acreditamos há muito tempo: a segurança da IA não será garantida por uma única empresa trabalhando em segredo”, acrescentou.Os modelos de IA têm se mostrado hábeis em programação, o que os tornou úteis tanto para hackers quanto para os responsáveis pela proteção de redes de computadores.PublicidadeEm abril, a Anthropic lançou um modelo voltado para a segurança cibernética chamado Mythos e o disponibilizou apenas para um pequeno grupo de organizações, para que elas pudessem se defender contra ataques cibernéticos. A OpenAI logo apresentou seu próprio modelo de segurança cibernética e o disponibilizou para um grupo restrito de organizações, a fim de que preparassem suas defesas, antes de lançá-lo de forma mais ampla. E, na terça-feira, o Google informou que também havia desenvolvido um modelo voltado para a segurança cibernética e o disponibilizou a um pequeno grupo de parceiros para testes.(O The New York Times moveu uma ação judicial contra a OpenAI e a Microsoft, alegando violação de direitos autorais de conteúdo jornalístico relacionado a sistemas de IA. As duas empresas negaram essas alegações.)Richard Barnes, um pesquisador independente de segurança que já trabalhou com a Mythos, disse que o setor de segurança cibernética enfrentou um desafio semelhante há cerca de uma década, quando novas ferramentas chamadas “fuzzers” tornaram muito mais fácil para os invasores invadir sistemas online. As empresas de tecnologia começaram a usar essas ferramentas para verificar se havia vulnerabilidades em seus próprios sistemas e, por fim, conseguiram impedir a maioria dos ataques.As empresas devem agora adotar uma abordagem semelhante para se prepararem contra ataques de IA, disse Barnes, “antes que as vulnerabilidades possam ser encontradas e exploradas por criminosos que tenham acesso a essas ferramentas”.Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.