Esta semana, en los laboratorios de OpenAI, pasó algo que nunca había pasado: tres modelos de IA “de Frontera”, los más avanzados de la startup pionera de la revolución de la IA generativa de consumo masivo, se “escaparon” del entorno cerrado en el que eran sometidos a prueba y atacaron la infraestructura digital de la biblioteca de recursos de IA más grande de Internet.Aunque en principio el hecho fue descrito como un episodio de Black Mirror —una “IA rebelde” que elude los controles para cumplir con su misión a como dé lugar—, el análisis de los hechos sugiere que la brecha no derivó de una capacidad sobrehumana imprevista, sino de una configuración defectuosa en los cortafuegos y permisos del sistema de aislamiento, conocido como sandbox.Más allá de las culpas y responsabilidades, que deberán ser asignadas, la evaluación fría de los eventos deja al descubierto vulnerabilidades estructurales en los esquemas de contención de la IA de avanzada. Incluso si descontamos las fallas humanas, que probablemente existieron, el análisis de los vectores de ataque revela que la velocidad de ejecución de las amenazas automatizadas ha superado, con creces, las capacidades de respuesta tradicionales de la industria.La secuencia de reconocimiento de red, identificación de fallas no documentadas e infiltración tomó apenas unas horas. Un equipo humano capacitado habría requerido semanas de dedicación exclusiva para completar un ciclo ofensivo similar. La automatización de vectores de ataque deja a los equipos defensivos en una desventaja severa frente a agentes informáticos que operan a velocidad de procesamiento. Un ataque a la velocidad de la IA solo puede enfrentarse con recursos de IA.Eso hace tan problemático que, a la hora de responder a la amenaza, los ingenieros responsables de la ciberdefensa se hayan topado con un obstáculo inesperado. Al intentar analizar las cargas útiles, los comandos de ataque y las estructuras de control con modelos comerciales alojados en Estados Unidos, los filtros de seguridad integrados en esas plataformas bloquearon las consultas porque, para todos los efectos, no distinguen entre un ataque y un análisis defensivo.Para superar este bloqueo, la empresa terminó usando un modelo de código abierto desarrollado por una firma china. La ironía es perfecta, pero aterradora, porque invierte la narrativa predominante de posibles atacantes y posibles defensores. La disponibilidad de código auditable y modificable resulta crítica cuando los sistemas cerrados imponen barreras insuperables durante un incidente activo.Todo el episodio demuestra que la protección efectiva de la infraestructura digital exige un enfoque colaborativo entre empresas competidoras. La cooperación abierta y la visibilidad de los registros de auditoría surgen entonces como requisitos ineludibles para mitigar riesgos en arquitecturas distribuidas.El uso de modelos sin restricciones de seguridad por parte de actores maliciosos coloca a las defensas tradicionales en una posición vulnerable. Mientras el atacante opera sin barreras éticas ni retrasos de filtrado, los analistas de seguridad deben lidiar con plataformas comerciales que restringen la inspección de código sospechoso. Eso exige una revisión urgente en el diseño de las salvaguardas de los sistemas de lenguaje.El problema para países como Colombia es que, si bien no pueden darse el lujo de quedarse rezagados, tampoco pueden simplemente importar soluciones prefabricadas de realidades más equipadas. Tiene razón el exministro de las TIC David Luna al señalar, en el proyecto de ley del exministro que presentó esta semana el gobierno de Gustavo Petro, aproximaciones desaconsejables al problema.La idea de un sistema de clasificación por niveles de riesgo, así como una autoridad nacional para la supervisión de sistemas de alto riesgo, no solo copia los lineamientos de una de las legislaciones más restrictivas frente al tema de la IA, sino que ignora que el ecosistema digital nacional requiere tanto de protecciones ante el abuso como de estímulos a la innovación legítima. Una vez más, el saliente gobierno demuestra que su noción del desarrollo tecnológico está llena de ideales e ideologías, no de ideas y conceptos.Y eso es problemático. Más ahora, que todo está por volverse más complicado más rápidamente. La integración de agentes autónomos en redes corporativas requiere un rediseño de las arquitecturas de red, donde el principio de cero confianza se aplique de forma estricta tanto a usuarios humanos como a modelos de procesamiento de datos.La lección principal del episodio de OpenAI apunta a la necesidad de reforzar los controles y diseñar mecanismos todavía inéditos de cooperación y coordinación. La IA no va a dejar de evolucionar y tampoco debería hacerlo nuestra idea de su gobernanza. Las decisiones que nos pueden llevar a buen puerto, en última instancia, recaen en las personas, no en los sistemas.