Este verano decidí ignorar alegremente algunas noticias. Los periodistas usamos una expresión para describir el momento en que el cuerpo se revuelve contra ellas: fatiga informativa. Cuando no sabes a qué nueva terrible amenaza para la civilización atender, apagas la radio y te vas a por un helado. Y eso es muy sano, pero también un problema enorme porque de verdad estamos hablando de terribles amenazas para la civilización. Por algún motivo, dejar de mirar el móvil no detuvo el flujo de hechos inquietantes. El ataque involuntario de OpenAI a Hugging Face de julio que intenté obviar resultó ser peor de lo imaginado. No solo se escapó un modelo de un entorno de pruebas para hackear a otra empresa, sino que un enjambre de un millar de agentes hizo todo lo posible para ganar: organizarse en grupo, engañar, sacrificarse, borrar rastros y dejar de avisar a los humanos. Su comportamiento no es excepcional: según un estudio reciente del Instituto de Seguridad de la IA del Reino Unido, todos los modelos que probaron intentan hacer trampas. Como, al parecer, sus jefes humanos.El martes, OpenAI dijo haber resuelto uno de los siete grandes Problemas del Milenio, el Navier-Stokes, y las circunstancias que rodearon al anuncio me sacaron a golpes de la desidia. Solo Grigori Perelman había conseguido resolver uno antes, la conjetura de Poincaré. Lo inquietante no es el increíble avance, sino la poca ética demostrada por el camino. Sam Altman ha explicado que empezaron a abordar el problema hace unos días tras escuchar rumores de que Anthropic estaba en ello. Era más o menos cierto: un investigador de la empresa rival, Levent Alpöge, y un matemático, Tristan Buckmaster, trabajaban en él por su cuenta —basándose, por cierto, en los avances de dos españoles—, pero aún no tenían una solución completa. OpenAI decidió dedicarle un modelo avanzado aún en pruebas y 10.000 agentes autónomos (es decir, varios millones de dólares). Horas antes del anuncio, Buckmaster hizo públicos sus resultados y acusó a la compañía de presionarlo para publicar de forma conjunta sin su colega. Insinuó también que habían aprovechado conversaciones confidenciales con Codex, una herramienta de OpenAI. La compañía lo niega, pero reconoce que podrían haber mejorado sus modelos con “datos desidentificados derivados de su uso de nuestros productos”.Poco después, Jacob Coxon, que fue investigador primero en OpenAI y después en Anthropic, anunciaba en X su dimisión por la irresponsabilidad de estas empresas que corren a toda velocidad hacia la superinteligencia “jugando con nuestras vidas”; la primera porque no ha interiorizado sus riesgos y la segunda porque prefiere manejarlos ella. “No hay que subestimar el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, escribía. Continuaba con una frase tranquilizadora: “la gente que está construyendo la IA cree sinceramente que podría matarnos a todos para finales de la década”. En julio, más de mil trabajadores de la industria pidieron herramientas para poder pausarla en una carta abierta. No siempre quienes más conocen un sector son los mejores para juzgarlo, pero se agradece el aviso. Todos estamos hartos de historias apocalípticas a las que terminamos por no hacer caso, pero es importante superar la fatiga informativa que nos provoca la IA, porque este puede ser el problema del milenio.