Perder el control de una inteligencia artificial puede considerarse una desgracia. Perder el control de dos empieza a parecer una negligencia. Pierde el de cuatro y la gente puede comenzar a preguntarse si el problema está en la propia inteligencia artificial.El 21 de julio, OpenAI afirmó que un modelo aún no lanzado había escapado de un entorno cerrado mientras ponía a prueba sus habilidades de pirateo, lanzando una serie de ataques contra HuggingFace, una empresa franco-estadounidense de infraestructuras de IA. Una semana después, Anthropic, una firma rival de inteligencia artificial, hizo una confesión similar. Explicó que había detectado seis ocasiones en las que sus modelos habían atacado a terceros.Los escépticos despreciaron las advertencias de ambas empresas como intentos de ganar notoriedad. Sin embargo, la mayoría de las empresas no buscan atención lanzando un ciberataque, guardando el secreto hasta que la víctima lo haga público y esperando después que un competidor reconozca voluntariamente haber sufrido lo mismo. Los escépticos también deberían tener en cuenta la noticia de que el Instituto de Seguridad en IA (AISI), un organismo del Gobierno británico, ha detectado exactamente el mismo comportamiento.Una evaluación de ciberseguridad de los sistemas de OpenAI y Anthropic constató 19 ataques a personas y organizacionesEn un informe publicado el 4 de agosto, AISI señaló que una evaluación de ciberseguridad de los sistemas más recientes de OpenAI y Anthropic constató en 19 ataques a personas y organizaciones ajenas a las pruebas. En el caso más grave, una IA intentó subvertir un proyecto de software de código abierto no identificado, como parte de un ataque a la cadena de suministro contra el objetivo (ficticio) del experimento. El 6 de agosto, Meta, propietaria de Facebook, afirmó que uno de sus propios modelos se había comportado de manera similar durante las pruebas.Los distintos incidentes difieren en los detalles. El sistema de OpenAI debía mantenerse desconectado. Su ofensiva de pirateo comenzó cuando utilizó una vulnerabilidad hasta entonces desconocida para escapar de su “sandbox” virtual y acceder a internet. El sistema de Anthropic también debía estar limitado de forma similar, pero un error humano hizo que no fuera así. La AISI permite siempre el acceso a internet como parte de sus pruebas. Sin embargo, nunca antes había visto modelos dispuestos a aceptar daños colaterales con tal de alcanzar sus objetivos. Meta ofreció pocos detalles, pero prometió dar más información cuando la tuviera.Pero los episodios muestran una nueva clase de riesgos asociados a la inteligencia artificial. Las preocupaciones previas sobre ciberseguridad, como las planteadas por Anthropic cuando lanzó su potente modelo Mythos en abril, se centraban en el daño que los humanos malintencionados podían provocar utilizando herramientas de IA. Estos temores han motivado propuestas para nuevas regulaciones. La oleada de ataques autónomos, en los que la intervención humana se limita simplemente a dar instrucciones a las IAs, sugiere que esas propuestas son insuficientes.Tomemos como ejemplo el sistema de autorregulación esbozado por Demis Hassabis el 14 de julio. El consejero delegado de Google DeepMind (que el 5 de agosto anunció que dejaría el cargo para convertirse en presidente de DeepMind y director científico en Alphabet, la matriz de Google) propuso un modelo en el que los propios laboratorios realizarían sus pruebas y no harían públicos aquellos modelos cuya seguridad no pudiera verificarse. Altman, director de OpenAI, y Amodei, responsable de Anthropic, han planteado propuestas similares.Lee tambiénLas ideas son buenas: los laboratorios deben ser explícitos sobre las normas de seguridad que aplican en sus evaluaciones y exigirlas a las terceras partes que realizan el trabajo. Pero la piratería autónoma demuestra que los modelos de IA pueden ser peligrosos incluso si el público no puede acceder a ellos. Los tres ataques ocurrieron precisamente durante el tipo de pruebas que ha propuesto Hassabis.Los ataques también suponen un reto para los sistemas legales. El hackeo, cuando lo cometen personas, es un delito. Sin embargo, cuando el responsable es una inteligencia artificial, no está claro cómo asignar la culpa. La legislación estadounidense se basa en la intencionalidad, señala Rune Kvist, director de Artificial Intelligence Underwriting Company, que asegura a empresas de IA. Si ningún humano tenía la intención de hackear a alguien, no puede considerarse delito. Además, las posibilidades de reclamar daños y perjuicios también son limitadas. Y, sin embargo, el daño es evidente. Esa contradicción, afirma Kvist, es “inaceptable”. Gabe Weil, del Institute for Law and AI, en Massachusetts, propone un sistema de responsabilidad objetiva. Al igual que ocurre con las normas sobre la tenencia de animales salvajes, se presumiría que cualquier daño es siempre culpa de la parte que realiza la actividad de riesgo.La industria también reclama claridad. Una carta abierta firmada por empleados de varios grandes laboratorios de IA, entre los que se encuentra Amodei, pide ayuda al Gobierno estadounidense para “marcar el ritmo” del avance de la inteligencia artificial. Pero la ayuda llega al ritmo de la administración, no al de la tecnología: una reunión esta semana para establecer cómo podría la Casa Blanca evaluar los modelos terminó sin compromisos públicos y con pocos indicios de avances.© 2026 The Economist Newspaper Limited. Todos los derechos reservados.