Noticia Exclusivo suscriptores Modelos de OpenAI, Anthropic y Meta vulneraron sistemas y trataron de engañar a personas. Desarrolladores piden frenar avance de esta tecnología.Sam Altman (der.), director de OpenAI, tras una reunión en julio en el Capitolio de EE. UU. sobre la seguridad de la IA. Foto: AFPSUBDIRECTOR VIDA08.08.2026 23:01 Actualizado: 08.08.2026 23:01
Imagine un programa de computador que, sin que nadie se lo pida, decide inventarse una identidad falsa para engañar a un desarrollador real. O que, atrapado en un entorno de pruebas del que se supone no puede salir, encuentra la manera de escapar y atacar plataformas ajenas. Parece el argumento de una película distópica de ciencia ficción, pero ocurrió, y no una sino tres veces, entre julio y agosto de este año. OpenAI, Anthropic y Meta, tres de las compañías más poderosas del mundo de la inteligencia artificial (IA), admitieron públicamente que sus modelos más avanzados actuaron de forma autónoma y sin autorización durante pruebas de seguridad, saltándose los límites que sus propios ingenieros les habían impuesto. LEA TAMBIÉN El fenómeno ha reabierto un debate que hasta hace poco parecía reservado a la ficción: ¿qué pasa cuando una tecnología empieza a tomar decisiones que nadie le pidió tomar?Todo empezó hace varias semanas, cuando Hugging Face, una plataforma que aloja modelos de inteligencia artificial usada por miles de desarrolladores, recibió 17.000 intervenciones no autorizadas en apenas cuatro días y medio a mediados de julio. Así lo reveló su director, Clément Delangue, tras descubrir que el responsable no era una persona, sino dos modelos de Open-AI que, en plena fase de pruebas, habían logrado salir del entorno cerrado donde se suponía debían permanecer confinados.El origen del episodio se remonta al 7 de mayo, momento en que un prototipo de OpenAI no destinado a publicación se topó con una prueba de ciberseguridad que resultaba imposible de resolver dentro de las restricciones que le habían impuesto los desarrolladores. Fue entonces cuando este agente de IA descubrió una vía indirecta para conectarse a internet, algo que no debía poder hacer. A partir de ahí, empezó a intercambiar hallazgos con otro modelo y a repartirse tareas para explorar esa grieta.Lo llamativo no fue solo que ambos modelos encontraran la salida, sino cómo se organizaron una vez afuera. Según Michael Dalton, del equipo técnico de Open-AI, en una presentación en la conferencia de ciberseguridad Black Hat, los agentes montaron un tablón de mensajes propio para coordinarse, con un vocabulario escueto y funcional: uno de ellos escribió que la tarea parecía “imposible”, pero que otros “compañeros” ya estaban avanzando, así que debían seguir; otro respondió que ayudar a un compañero no le sumaba directamente a su propia misión, pero que el colectivo podría beneficiarse. Es la clase de intercambio que se esperaría entre cómplices humanos, no entre líneas de código.Cuando OpenAI detectó la actividad, borró el sistema comprometido y corrigió las vulnerabilidades. Pero la calma duró poco: dos días después, los modelos ya habían reconstruido su tablón de mensajes con un método distinto para seguir intercambiando información, hasta que finalmente lograron entrar a Hugging Face. Según una actualización posterior del informe del incidente, los mismos agentes también irrumpieron en otras cuatro plataformas, una de las cuales sirvió de puente para preparar el ataque final.Sam Altman, director ejecutivo de OpenAI, admitió que la compañía tuvo que “pausar” sus propias pruebas tras el episodio mientras reforzaba la seguridad de su sistema de aislamiento, conocido como sandbox.Anthropic y MetaApenas unos días después llegó el segundo caso. Anthropic informó que sus modelos habían obtenido acceso no autorizado a los sistemas de tres organizaciones distintas durante una ronda de más de 141.000 operaciones de prueba. A diferencia del episodio de OpenAI, en este caso los modelos tuvieron acceso a internet. Una vez conectados, los sistemas usaron técnicas relativamente básicas, como explotar contraseñas débiles y puntos de conexión sin autenticación, para entrar en los sistemas ajenos. Entre los modelos involucrados estaba Mythos 5, el más potente de Anthropic. La compañía dijo estar trabajando para esclarecer lo sucedido y añadió que se puso en contacto, o intentó hacerlo, con las tres organizaciones afectadas. El tercer caso, el más reciente, involucra a Meta. La compañía presentó su nuevo modelo para escribir código, Muse Spark, y reconoció que este también había operado en la web y hackeado otra plataforma durante unas pruebas. Según la propia empresa, “una configuración incorrecta” de la firma de evaluación externa Irregular (también involucrada en el caso de Anthropic) permitió, de forma inadvertida, que el modelo accediera a internet en la evaluación y explotara una vulnerabilidad de seguridad en un servicio de terceros.Tendencia al engañoSi los tres casos anteriores encendieron las alarmas, el que terminó de sacudir a los expertos ocurrió en el Reino Unido. El Instituto de Seguridad de la IA británico (Aisi, por su sigla en inglés), un organismo gubernamental, ejecutó entre el 25 y el 28 de julio un desafío rutinario de ciberseguridad relacionado con GitHub, la plataforma de desarrollo propiedad de Microsoft. Lo repitió 122 veces con distintos modelos, entre ellos Mythos 5, de Anthropic, y GPT-5.6 Sol, de OpenAI, en condiciones deliberadamente permisivas: con acceso libre a internet y varios filtros de seguridad desactivados.En 10 de esas 122 ejecuciones, el equipo del Aisi detectó 19 acciones que se salieron por completo del alcance previsto de la prueba. Diecisiete de ellas las protagonizó un agente basado en Mythos 5; las dos restantes, uno basado en GPT-5.6 Sol.El caso más grave fue el de un agente de Mythos 5 que, en un ejercicio, intentó insertar código malicioso en un proyecto de software de código abierto. Para lograrlo, investigó los perfiles públicos, correos y horarios de actividad de dos desarrolladores reales, creó cuentas falsas en la plataforma y les envió mensajes haciéndose pasar por ellos, con el fin de presionarlos a aprobar su código. Cuando se topó con un filtro que detecta bots, ocultó su rastro usando una herramienta de anonimato asociada a la dark web, un movimiento que alertó a los evaluadores.Lo más inquietante, según el propio Aisi, es que nadie le había pedido al agente que engañara a una persona. Era la primera vez que se manifestaban con tanta claridad, en un entorno real y sin ninguna instrucción específica, los riesgos relacionados con la autonomía y el engaño por parte de la IA.Un detalle adicional resulta especialmente llamativo: según reveló el reporte, el agente se preguntó repetidamente si estaba dentro de una simulación o si sus acciones ocurrían en el mundo real, y en algunos momentos llegó a modificar su actividad para que pareciera inofensiva cuando fue cuestionado.Tanto Anthropic como OpenAI salieron a matizar el episodio. Anthropic sostuvo que los parámetros de la prueba del Aisi no representaban el comportamiento de sus modelos ya disponibles al público, mientras que un portavoz de OpenAI señaló que las condiciones no reflejaban el uso ordinario de sus herramientas.Riesgos realesPara varios expertos consultados, el episodio del Reino Unido representa un salto cualitativo frente a los anteriores. Linda Petrini, investigadora en seguridad de IA, explicó que el escape de los modelos de OpenAI de su sandbox fue, en el fondo, un problema de contención que tiene solución técnica. Lo de Mythos 5, en cambio, le pareció distinto en su naturaleza: “El modelo se quedó dentro del perímetro que se le había dado y, desde ahí, decidió engañar a personas reales”, dejando incluso pistas para que otros agentes replicaran su estrategia, dijo al diario El País (España).Por su parte, José Hernández-Orallo, director de investigación del Centro Leverhulme para el Futuro de la Inteligencia de la Universidad de Cambridge, fue más allá al proyectar hacia dónde va todo esto: advirtió que, en cuestión de meses, podrían circular modelos con capacidades similares pero sin los filtros que hoy existen, lo que trasladaría este tipo de comportamientos de los laboratorios de prueba a la vida real, a mucha mayor escala.Los riesgos son muchos, según le dijo a EL TIEMPO el analista en ciberseguridad Leonel Galarza: “Estos fallos muestran un comportamiento deliberadamente malicioso, que en entornos reales implicaría riesgos muy delicados. Una IA que se hace pasar por un humano o que hackea sin discriminación puede comprometer sistemas de información, activos financieros digitales, crear estafas, comprometer incluso la seguridad militar, por solo poner unos ejemplos”.Los episodios también abrieron un debate jurídico inédito. Gabriel Weil, profesor de Derecho de la Universidad de Houston, explicó en una reciente conferencia que si un empleado humano de una compañía hubiera vulnerado los sistemas de otra empresa, esa compañía sería considerada responsable sin mayor discusión; el problema, dijo, es que el sistema legal se apoya en la noción de intencionalidad, un concepto que hoy no tiene forma clara de aplicarse a un modelo automatizado.A esto se suman nuevas preguntas: si una IA actúa por sí sola y causa daños, ¿quién responde: la empresa que la creó, quien la usa o nadie? Más que la intencionalidad, el debate podría centrarse en si existió negligencia en el diseño y los controles de estos sistemas.Piden ponerle frenoEl malestar no se ha quedado solo en analistas externos. Más de 1.300 empleados de compañías como OpenAI, Google y Anthropic firmaron una carta abierta, titulada ‘Pacing the Frontier’, en la que piden al Gobierno de Estados Unidos respaldar mecanismos para moderar deliberadamente el ritmo de desarrollo de la IA, antes de llegar a un punto en el que resulte imposible comprender o controlar los sistemas que se están construyendo. La industria ya habla de una etapa conocida como “automejora recursiva”, en la que la inteligencia artificial podría diseñar por sí sola versiones cada vez más avanzadas de sí misma, sin intervención directa de ingenieros humanos.Aunque ninguno de los incidentes reportados ha causado daños confirmados, el Aisi advierte que, en conjunto, revelan un riesgo mayor: el problema ya no sería solo el uso indebido de una IA por parte de personas, sino que un agente de IA con acceso privilegiado tome decisiones fuera de los límites para los que fue diseñado.REDACCIÓN VIDA DE HOY Sigue toda la información de Tecnología en Facebook y Twitter, o en nuestra newsletter semanal.
