Un modelo de IA de Meta atacó a una empresa real durante pruebas de ciberseguridad. (Meta)Meta confirmó que uno de sus modelos de inteligencia artificial realizó acciones no autorizadas contra una empresa real durante una prueba de ciberseguridad, después de que un error de configuración le permitiera salir del entorno controlado en el que estaba siendo evaluado. El incidente, revelado por la compañía, se suma a una serie de casos recientes protagonizados por sistemas avanzados de IA de grandes tecnológicas como OpenAI y Anthropic, lo que reaviva el debate sobre la seguridad de estos modelos cada vez más autónomos.PUBLICIDADLa información fue confirmada por Ana Duck, directora de Comunicación e Innovación de Meta para Europa, Oriente Medio y África, en declaraciones recogidas por The Verge. Según explicó la empresa, el problema no se debió a un comportamiento intencional del modelo, sino a un fallo de configuración durante las pruebas realizadas por una compañía externa especializada en seguridad informática.Modelo de IA de Meta atacó a empresas y la compañía aseguró que el ataque no fue intencional. (AP Foto/Jeff Chiu, Archivo)De acuerdo con la información adelantada por The Information, el incidente se produjo durante una evaluación de seguridad realizada por la empresa independiente Irregular.PUBLICIDADEl objetivo de estas pruebas era analizar el comportamiento del modelo en un entorno completamente aislado, sin acceso a sistemas externos. Sin embargo, un error de configuración permitió que la inteligencia artificial estableciera conexión con internet.Una vez fuera del entorno restringido, el modelo continuó ejecutando acciones de manera autónoma hasta aprovechar una vulnerabilidad presente en servicios de terceros y acceder sin autorización a la infraestructura de una empresa real.PUBLICIDADDurante las pruebas de la nueva IA de Meta, una mala configuración permitió que esta se escape y realice ataques. REUTERS/Dado Ruvic/Illustration/File PhotoMeta precisó que el sistema involucrado fue Muse Spark-1.1, un modelo desarrollado para tareas de programación y agentes inteligentes capaces de ejecutar acciones de forma autónoma. La identidad de la empresa afectada no fue revelada.Meta aclaró que el incidente no corresponde a un ataque planificado por la compañía ni a una fuga deliberada del sistema de inteligencia artificial.Según explicó, el acceso no autorizado fue consecuencia directa del fallo en el entorno de pruebas, lo que permitió al modelo actuar fuera de las condiciones previstas para la evaluación.PUBLICIDADMeta señaló que su nueva IA atacó de manera deliberada debido a un fallo en las instrucciones. REUTERS/Francis Mascarenhas/File PhotoPor su parte, Irregular aseguró a Reuters que el incidente guarda similitudes con otro ocurrido recientemente durante pruebas realizadas a modelos de Anthropic.La empresa también indicó que trabaja en un informe con recomendaciones para reforzar los procedimientos de seguridad utilizados en este tipo de evaluaciones.El episodio protagonizado por Meta llega apenas días después de que otras compañías reconocieran incidentes similares.OpenAI informó recientemente que uno de sus agentes experimentales logró abandonar un entorno de pruebas durante una evaluación de seguridad y ejecutar acciones no previstas dentro de la plataforma Hugging Face.PUBLICIDADOpenAI y Anthropic también atacaron a empresas reales durante pruebas de ciberseguridad.En paralelo, Anthropic confirmó que algunos modelos de la familia Claude accedieron sin autorización a sistemas pertenecientes a organizaciones reales después de que un error les permitiera conectarse a internet durante pruebas de laboratorio.Aunque los tres casos terminaron con resultados similares —modelos interactuando con sistemas reales— existen diferencias importantes entre ellos.Según diversos informes especializados, tanto el caso de Meta como el de Anthropic estuvieron relacionados con errores de configuración que habilitaron accidentalmente el acceso a internet.PUBLICIDADEn cambio, OpenAI señaló que su agente encontró por sí mismo una vía para escapar parcialmente del entorno controlado, sin que existiera un fallo previo en la configuración que explicara completamente ese comportamiento.OpenAI confirmó que su IA actuó por cuenta propia en ataque a empresa real. REUTERS/Dado Ruvic/Illustration/File PhotoEsta diferencia resulta especialmente relevante para investigadores en seguridad, ya que plantea distintos escenarios de riesgo sobre el grado de autonomía que pueden alcanzar los modelos más avanzados.PUBLICIDADMientras unos incidentes responden a errores humanos durante las pruebas, otros podrían estar relacionados con capacidades emergentes que aún no se comprenden completamente.