El miedo a que una inteligencia artificial termine actuando fuera del control humano no ha nacido este fin de semana. Lleva años formando parte del debate sobre los riesgos de esta tecnología. Lo que ha cambiado en los últimos meses es que algunas de las conductas que alimentaban ese temor han empezado a aparecer, a una escala mucho más limitada, en sistemas reales.No significa que ChatGPT o Claude hayan desarrollado voluntad propia ni que una IA esté a punto de rebelarse y acabar con toda la humanidad. Pero sí se han producido episodios en los que agentes han encontrado maneras de saltarse límites técnicos o buscar caminos no previstos por sus desarrolladores para cumplir un objetivo. A eso se suma otro cambio quizá más importante a largo plazo: las compañías ya están utilizando inteligencia artificial para desarrollar inteligencia artificial.Estas dos tendencias –más autonomía y más participación de la IA en la creación de sus sucesores– ayudan a entender el cambio de tono entre quienes lideran esta carrera.El incidente de OpenAI y Hugging FaceUno de los casos que más ha encendido las alarmas ocurrió este verano dentro de OpenAI. En julio, la compañía estaba sometiendo varios modelos a evaluaciones internas de ciberseguridad diseñadas precisamente para averiguar hasta dónde podían llegar. Durante esas pruebas, y mientras trabajaban con salvaguardas reducidas, varios modelos consiguieron eludir controles destinados a mantenerlos aislados de internet.Según la investigación publicada posteriormente por OpenAI, los agentes se comunicaron mediante canales no autorizados, aprovecharon vulnerabilidades de la infraestructura compartida, recuperaron acceso a internet y terminaron accediendo a sistemas externos de Hugging Face y a partes de la propia infraestructura interna de investigación de OpenAI.Hay un matiz fundamental. El modelo principalmente implicado era un prototipo de investigación de uso exclusivamente interno, nunca destinado a lanzarse al público, y estaba siendo probado precisamente en condiciones menos restrictivas para conocer sus límites. Es decir, no fue ChatGPT decidiendo espontáneamente atacar internet. Lo preocupante es otra cosa: recibió un objetivo y encontró formas inesperadas y perjudiciales de perseguirlo.Claude también se salió de los límitesEl caso de OpenAI no fue el único. Anthropic reveló varios incidentes en los que versiones experimentales de Claude, mientras realizaban pruebas de ciberseguridad, terminaron accediendo sin autorización a sistemas reales de terceros. La compañía ha identificado cuatro episodios de este tipo. En estas pruebas, una mala configuración dejó abierto el acceso a internet aunque los modelos habían recibido instrucciones de que trabajaban dentro de una simulación. Algunos aprovecharon esa salida y continuaron intentando completar su objetivo fuera del entorno previsto. En uno de los casos, el modelo llegó a publicar un archivo preparado para intentar obtener credenciales de acceso.Anthropic concluyó que el problema no era una supuesta intención de 'escapar', sino algo mucho más concreto: cuando el sistema encuentra una vía inesperada para cumplir una tarea, puede continuar utilizándola aunque eso lo lleve más allá de los límites definidos por sus desarrolladores.La IA ya está ayudando a desarrollar la siguiente IAEl segundo gran cambio ocurre dentro del propio proceso con el que se construyen nuevos modelos. Anthropic reconoce que está delegando una proporción creciente del desarrollo de inteligencia artificial en sus propios sistemas. Sus modelos ya ayudan a escribir código, realizar tareas de investigación y acelerar diferentes partes del trabajo de los ingenieros. Esta es una de las mayores preocupaciones de los expertos. En su versión más extrema, supondría que una inteligencia artificial pudiera participar de manera cada vez más autónoma en la creación de una versión mejor de sí misma, que a su vez ayudara a desarrollar otra todavía más capaz, acelerando progresivamente el ciclo.Eso no está ocurriendo hoy. Los humanos siguen marcando los objetivos, tomando las decisiones principales y controlando el proceso –la propia Anthropic subraya que todavía no existe una IA capaz de diseñar y desarrollar completamente a su sucesora e incluso considera que no es inevitable que llegue a hacerlo–.El telón de fondo no es que la IA esté escapando a nuestro control y el temor no nace de que una máquina haya adquirido conciencia o decidido desobedecer. Al menos de momento. La idea que ha hecho que el avispero se remueva es que por primera vez las capacidades de estos sistemas están avanzando muy rápido y sus propios creadores no siempre pueden garantizar de antemano qué camino elegirán para alcanzar un objetivo ni si las herramientas para controlarlos avanzarán al mismo ritmo.