ClaudeLa corporaci�n californiana neg� que tuviera constancia de que alguna empresa privada haya compartido p�blicamente "evidencia del posible mal uso de sus plataformas para ese desarrollo"El CEO de Anthropic, Dario Amodei, en una imagen de archivoActualizado Jueves,
septiembre
20:59Audio generado con IALa �ltima pol�mica sobre los usos potencialmente peligorosos de la inteligencia artificial (IA) se centra en el �mbito de la tecnolog�a y su aplicaci�n al armamento militar.Tal como publica Forbes, la compa��a Anthropic, responsable del asistente de IA Claude, ha prohibido iniciativas que -posiblemente- pretend�an utilizar su modelo para crear armas biol�gicas, anunci� la compa��a este jueves, al revelar las conclusiones de una investigaci�n apenas unos d�as despu�s de que" expertos en inteligencia artificial alertaran sobre el potencial de unos asistentes digitales cada vez m�s potentes para provocar la extinci�n de la humanidad".La compa��a indic� en un informe que detect� y bloque� estos usos indebidos durante este a�o, aunque no pudo determinar si los estudios ten�an fines leg�timos o maliciosos, por lo que opt� por bloquearlos ante el riesgo de que sus modelos pudieran contribuir al desarrollo de pat�genos peligrosos."Si bien las evaluaciones son �tiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizar�a alguna vez para desarrollar armas biol�gicas en el mundo real", explic� la empresa en el documento.Hasta el momento, la corporaci�n californiana neg� que tuviera constancia de que alguna empresa privada haya compartido p�blicamente "evidencia del posible mal uso de sus plataformas para el desarrollo de armas biol�gicas".Anthropic incluy� adem�s en otro comunicado una extensa lista de casos detectados en los �ltimos ocho meses en los que se hab�an usado sus modelos de IA de manera indebida, incluido Claude, en China, Rusia y Yemen.Este informe surge entre crecientes preocupaciones de expertos en el sector tecnol�gico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biol�gicas tambi�n pueden servir para actividades peligrosas, as� como tambi�n de voces que alertan de los peligros derivados de la creciente autonom�a de estos modelos.La empresa tecnol�gica asegur� haber desarrollado sistemas de detecci�n para identificar y bloquear los usos que puedan suponer un riesgo en sus modelos de IA.Ayer se public� que un investigador de Anthropic abandona la industria de la inteligencia artificial por temor a que el laboratorio y sus competidores est�n compitiendo por construir sistemas que no ser�n capaces de controlar, una se�al de la creciente preocupaci�n por la seguridad dentro de las principales compa��as de IA.
