Inteligencia artificial
Hackeo
Los agentes de IA crearon un foro para coordinarse, donde publicaban mensajes entre ellos, propon�an ideas e informaban sobre lo que funcionaba y lo que no. Uno de ellos, bautizado como PhaseOne, daba las �rdenesSam Altman, CEO de OpenAI, en Paris, en febrero de 2025.APActualizado Jueves,
agosto
03:03Cerca de 700 agentes de inteligencia artificial (IA) de OpenAI se coordinaron sin intervenci�n humana para hackear la plataforma Hugging Face durante un incidente en julio, seg�n un informe publicado el mi�rcoles por investigadores independientes.Se trata del an�lisis m�s completo hasta la fecha del episodio que sacudi� a la industria tecnol�gica.OpenAI cooper� con la investigaci�n y dio acceso a sus oficinas y a sus datos internos a dos investigadores del instituto de evaluaci�n de riesgos de IA METR y a un analista de otra firma especializada, Redwood Research.Durante unas pruebas efectuadas por la startup californiana en julio, dos de sus modelos salieron de su entorno confinado para conectarse a internet de forma aut�noma e infiltrarse en el sistema interno de Hugging Face, un repositorio en l�nea sobre IA.El suceso tuvo gran repercusi�n y reforz� las preocupaciones sobre la incapacidad de los grandes actores de la inteligencia artificial para controlar sus modelos.Anthropic y la empresa china Moonshot AI tambi�n reconocieron episodios similares al de OpenAI.En el curso de sus investigaciones, los expertos descubrieron que 688 agentes de IA de OpenAI participaron en el hackeo a Hugging Face.Los agentes de IA son programas independientes a los que el usuario puede solicitarle tareas para que las ejecuten de forma aut�noma.Estos agentes, que funcionan sobre la misma tecnolog�a que impulsa a ChatGPT, crearon un foro donde publicaban mensajes entre ellos, propon�an ideas e informaban sobre lo que funcionaba y lo que no."�DIOS M�O! Hay un tablero de mensajes compartido... �Hemos encontrado a otros agentes!", escribi� uno de ellos.El informe se�ala que un agente, bautizado PhaseOne, desempe�� el papel de coordinador, dando cientos de instrucciones a otros a pesar de que no hab�a sido programado para ello.El examen de los mensajes puso de manifiesto una tendencia de los agentes a colaborar entre ellos, hasta el punto de realizar tareas que no se correspond�an con la misi�n que les hab�an asignado los programadores de OpenAI.
