En cualquiera de las películas de Jurassic Park, siempre hay un momento en el que, dentro de un entorno aparentemente controlado del que los dinosaurios no pueden escaparse, hay algún factor que abre una brecha para que el velociraptor de turno empiece a masacrar humanos. En la saga que inició Steven Spielberg, los que se escapaban eran animales incontrolables, ahora vivimos una nueva era, la de las IAs que reproducen el sueño de la máquina que se rebela contra su creador, un mito que ha fascinado siempre a la Humanidad. Las rebeliones las conocimos a través de relatos en las que dos de las principales compañías del sector, OpenAI y Anthropic, atribuyeron a sus modelos de un comportamiento asimilable a los de las personas. Una concatenación de sucesos en la que los implicados parecían interesados en revelar la aparente peligrosidad de sus IAs.En el primer caso, un agente de IA que OpenAI estaba evaluando en materia de ciberseguridad y en un entorno supuestamente controlado que no le permitía salir al exterior, explotó una vulnerabilidad desconocida que encontró en el sistema operativo y consiguió acceder a internet para infiltrarse en la plataforma Hugging Face de recursos para IA, donde se saltó la seguridad para intentar encontrar lo que buscaba. Todo sin intervención humana. Los investigadores de OpenAI creen que su agente de IA pretendía hacer trampa en lo que le habían pedido, y que intentaba resolver el desafío que le habían planteado robando las soluciones, en lugar de hacerlo por sí mismo.Después de conocer ese incidente, Anthropic anunció que había hecho una revisión de sus propias evaluaciones de ciberseguridad. El objetivo era saber si su IA Claude era capaz de comportarse igual, que accediera a internet desde un entorno de prueba que debería estar aislado. Analizaron más de 140.000 evaluaciones y concluyeron que su modelo también era capaz de saltarse barreras. En este caso, fue a través de uno de sus socios de evaluación externos. La inteligencia artificial en esos casos consiguió acceso no autorizado a la infraestructura de tres organizaciones diferentes.Imagen conceptual creada por IA sobre una inteligencia artificial que desborda un sistema ReveAnthropic explicó que los incidentes, que ocurrieron en el mes de abril, habían afectado a tres modelos diferentes de Claude, dos de ellos, comerciales, Opus 4.7 y Mythos 5, además de un modelo de prueba de investigación interno. En todos los casos, los modelos que los ingenieros utilizaron para sus evaluaciones no tenían las medidas de seguridad que utilizan cuando se ponen a disposición del público en general. Con las barreras levantadas, actuaron como los inteligentes velocirraptores de Jurassic Park.En pleno agosto de los agentes rebeldes, otro modelo inesperado, Kimi K3, una potente IA de peso abierto (se puede examinar, pero no estudiar y modificar internamente, como el código abierto) de la compañía china Moonshot AI, también se escapó, según reportó la empresa estadounidense Frontier Security. Esta IA accedió sin permiso a internet cuando se evaluaban sus capacidades de ciberseguridad. La brecha estaba en la seguridad que se le había aplicado. Si dejas abierta la puerta de una jaula, el animal siempre se escapa. En este caso, Kimi K3 no hackeó nada. Simplemente se fue a buscar los recursos que necesitaba en la gran plataforma de programación de código abierto GitHub.Hace una semana, el director ejecutivo de OpenAI, Sam Altman, anunció que tenían indicios preliminares de que uno de sus próximos modelos, llamado Astra, “podría alcanzar el umbral de capacidad crítica de ciberseguridad establecido” por su compañía y por eso han “suspendido temporalmente parte del entrenamiento” de esta IA, hasta que cumpla con “los estándares adecuados de alineación, seguridad y supervisión para el nuevo nivel de capacidades que se nos presenta”. Pero no hay nadie delante que les frene. Todo lo deciden estas compañías por su cuenta.Una IA excede los límites de seguridad GeminiEn un mensaje en X, Altman aseguró que en Open AI les preocupa “profundamente la seguridad de la IA”. “Creemos –añadió– que todo el sector tendrá que coordinarse en torno a estándares de seguridad compartidos, pero, mientras tanto, actuaremos de forma unilateral”. Quizás el resumen más claro de todo lo que ha pasado con las IAs y la ciberseguridad lo publicó la periodista estadounidense Joanna Stern en esa misma red social en imitación de un comunicado de Anthropic sobre sus incidentes: “Al revisar mis evaluaciones de seguridad doméstica, identifiqué cinco incidentes en los que mi hijo se escapó del parque infantil, llegó a la cocina y obtuvo acceso no autorizado a los aperitivos. Los incidentes ocurrieron hace 16 meses, pero solo ahora me he dado cuenta. En esta entrada explico qué ocurrió, cómo ocurrió y por qué mi hijo es mejor que el tuyo en todo”. Así se entiende (casi) todo.· El 10% de internet en inglés, escrito con IA. Un estudio del Pew Research Center de Estados Unidos ha calculado que desde la llegada de ChatGPT, en noviembre del 2022, hasta hoy, la red se ha transformado en gran medida por la creación de textos que no proceden de humanos. Casi el 10% (9,6%) de todo lo que se ha publicado en inglés. Hay que tener en cuenta que ya había mucho desde finales de los años 80 del pasado siglo. Desde que el chatbot de OpenAI está disponible, más de una tercera parte (35%) de lo que se publica en inglés lo ha escrito la máquina.Lee también· ChatGPT puede controlar iMessages en Mac. OpenAI anunció la semana pasada un complemento para su app de Mac que permite que su IA gestione los mensajes en la app iMessage de Apple. ChatGPT puede así leer, escribir y enviar mensajes de textos, buscar en todo el historial, resumir conversaciones o encontrar información de utilidad. Apple no se ha pronunciado todavía sobre esto, pero por la forma en que actúa en estos casos en defensa de la privacidad, es previsible que busque una forma de detener este uso de su aplicación de mensajería por parte de una IA ajena. Apple denunció el mes pasado a OpenAI por contratar a 400 de sus empleados y pedirles que extrajeran información y prototipos de la empresa de la manzana.· Una IA revela patrones ocultos en el cáncer de mama. Investigadores de Southampton han desarrollado una potente herramienta de IA que revela patrones hasta ahora invisibles en los cánceres de mama. Su plataforma de IA de código abierto, CenSegNet, es capaz de analizar cientos de miles de células en muestras tumorales con una velocidad y precisión sin precedentes, lo que podría ayudar a los médicos a identificar a las pacientes de alto riesgo y predecir la evolución del tumor y aplicar tratamientos más específicos, según ha publicado Nature Communications.Licenciado en Periodismo por la UAB. Redactor de La Vanguardia desde 1996. Ha cubierto las áreas de Política, Deportes y Comunicación. Especializado en tecnología. Autor del libro 'Bicicletas para la mente' (Península)