La empresa de inteligencia artificial Anthropic afirm� este jueves que ha frustrado varios posibles complots en los que se utilizaron sus modelos de Inteligencia Artificial (IA) para realizar investigaciones que podr�an haber contribuido al desarrollo de armas biol�gicas.La compa��a indic� en un informe que detect� y bloque� estos usos indebidos durante este a�o, aunque no pudo determinar si los estudios ten�an fines leg�timos o maliciosos, por lo que opt� por bloquearlos ante el riesgo de que sus modelos pudieran contribuir al desarrollo de pat�genos peligrosos."Si bien las evaluaciones son �tiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizar�a alguna vez para desarrollar armas biol�gicas en el mundo real", explic� la empresa en el documento.Hasta el momento, la compa��a californiana neg� que tuviera constancia de que alguna empresa privada haya compartido p�blicamente "evidencia del posible mal uso de sus plataformas para el desarrollo de armas biol�gicas".Anthropic incluy� adem�s en otro comunicado una extensa lista de casos detectados en los �ltimos ocho meses en los que se hab�an usado sus modelos de IA de manera indebida, incluido el chatbot Claude, en China, Rusia y Yemen.Este informe surge entre crecientes preocupaciones de expertos en el sector tecnol�gico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biol�gicas tambi�n pueden servir para actividades peligrosas, as� como tambi�n de voces que alertan de los peligros derivados de la creciente autonom�a de estos modelos.La empresa tecnol�gica asegur� haber desarrollado sistemas de detecci�n para identificar y bloquear los usos que puedan suponer un riesgo en sus modelos de IA.
Anthropic afirma que ha bloqueado varios intentos de crear armas biol�gicas con su IA
La compa��a indic� en un informe que detect� y bloque� estos usos indebidos durante este a�o, aunque no pudo determinar si los estudios ten�an fines leg�timos o maliciosos,...
Anthropic bloqueó intentos de usar Claude para investigaciones sobre armas biológicas detectados en 2024 en China, Rusia y Yemen. El dual-use risk obliga a CTOs a reforzar governance y compliance en la selección de foundation models para sus stacks.










