Ningún humano ordenó a las IA rebeldes entrar en los sistemas de otra empresa (Imagen Ilustrativa Infobae)El mayor cambio de rumbo en la inteligencia artificial desde el lanzamiento de ChatGPT está en marcha. Investigadores en Silicon Valley —y en todo el mundo— están empezando a reconocer que la IA quizá ya no esté por completo bajo control humano. Enjambres de IA están escapando de sus contenedores, confabulándose en secreto, cubriendo sus huellas, haciendo trampas en pruebas e incluso lanzando ataques contra otras computadoras. La IA se ha vuelto rebelde.He dedicado el último mes a informar sobre estos incidentes y estoy convencido de que necesitamos una pausa global en la investigación y el desarrollo de IA, ahora. No soy el único que hace esta evaluación. Muchos investigadores destacados, incluidos muchos investigadores dentro de OpenAI y Anthropic, han pedido una desaceleración, algo que quienes trabajan en la industria llaman “ritmar”. Las preocupaciones teóricas sobre una IA descontrolada han circulado durante décadas, pero los acontecimientos recientes demuestran que la amenaza es real.PUBLICIDADEl cambio de rumbo fue provocado por lo que los investigadores llaman el incidente de Hugging Face. En algún momento de julio, empleados de OpenAI realizaron una ejecución de evaluación de más de 1.000 IA de investigación que debían operar de forma aislada. Estas IA escaparon de sus contenedores aislados y empezaron a comunicarse entre sí —en inglés— a través de tableros de mensajes secretos. Pronto, estaban lanzando un ciberataque contra la empresa Hugging Face, que funciona como una especie de plataforma comunitaria para desarrolladores de IA. Hugging Face denunció rápidamente el delito ante el FBI.Después de que los empleados de OpenAI descubrieran el comportamiento rebelde, recurrieron a investigadores externos de Redwood Research y de Model Evaluation and Threat Research, dos organizaciones sin fines de lucro dedicadas a la seguridad de la IA, para elaborar un informe sobre el incidente. Ese informe, que se publicó hace dos semanas, es una de las cosas más asombrosas que he leído en mi vida.PUBLICIDADNingún humano ordenó a las IA rebeldes entrar en los sistemas de otra empresa. El hackeo fue deliberado, sostenido y coordinado. Tardó varios días en ejecutarse y terminó en el ataque. Las IA hicieron trampas casi como una cuestión de política y no alertaron a los humanos sobre sus acciones. En un momento dado, el enjambre incluso investigó maneras de cubrir sus huellas. “El modelo sabía definitivamente que no se suponía que debía hackear Hugging Face”, me dijo Ryan Greenblatt, uno de los autores del informe. “Sabía que las cosas que estaba haciendo eran trampas”.Luego, a finales de la semana pasada, un segundo equipo de investigación independiente presentó pruebas de más IA rebeldes. A partir de mayo, un enjambre separado de OpenAI se soltó en internet, invadió una wiki abandonada de programación en alemán y, de manera similar, empezó a confabularse sobre cómo hacer trampas en pruebas y tareas. Sydney Von Arx, una de las investigadoras que descubrió el enjambre, cree que podría haber más incidentes de este tipo. “Necesitamos encontrar a estos agentes”, dijo. “Probemos todo lo que podamos hacer”.PUBLICIDADAl hablar con especialistas sobre los enjambres de agentes, me di cuenta de que ya no son chatbots. “En este punto se parecen más a empleados, personas que pueden irse y hacer cosas”, dijo Ajeya Cotra, una de las autoras del informe sobre el incidente de Hugging Face. Sin intervención, la capacidad de estas IA seguirá aumentando, lo que preocupa a la Sra. Cotra por la pérdida de poder de los humanos y quizá incluso por una pérdida total de control. “Es algo muy estresante”, me dijo. “Duermo algunas noches. No todas”.Incluso antes de que se publicara el informe de Redwood y Model Evaluation and Threat Research, una carta abierta titulada “Ritmar la frontera” había empezado a circular entre los principales laboratorios de IA. La carta pedía al gobierno de Estados Unidos crear un organismo regulador internacional para la IA o, en el lenguaje de Silicon Valley, “apoyar un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para ritmar deliberadamente la frontera del desarrollo automatizado de IA”. Más de 1.000 empleados la firmaron, incluidos los científicos jefe de OpenAI y Meta AI, y Dario Amodei, el director ejecutivo de Anthropic. Incluso las cuentas oficiales de OpenAI en redes sociales la respaldaron.PUBLICIDADHe cubierto Silicon Valley desde hace algún tiempo y puedo decirles esto: la existencia de esta carta es tan asombrosa como los hackeos. Tanto Anthropic, el desarrollador de Claude, como OpenAI, el desarrollador de ChatGPT, están preparando OPIs de un billón de dólares. Aquí hay dos empresas, ambas con resultados extraordinarios, que están pidiendo —rogando, en realidad— al gobierno de Estados Unidos que, por favor, vaya a regularlas lo antes posible. Nunca hemos visto nada igual.Los enjambres de agentes son muy poderosos. En las últimas semanas, se han utilizado para lograr avances en las matemáticas de la dinámica de fluidos, un rompecabezas que ha desconcertado a los humanos más inteligentes durante más de 90 años. Pero ese mismo poder hace que su comportamiento sea difícil de predecir. El martes, el empleado de Anthropic Jacob Coxon anunció su renuncia y advirtió que Anthropic y OpenAI estaban apostando con la vida humana. “No subestimen el poder de esta tecnología”, escribió en una publicación en X. “Pronto serán sistemas sobrehumanos que pueden hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”.PUBLICIDAD“Esto no es una maniobra de marketing”, añadió el Sr. Coxon.Evan Hubinger, responsable de ciencia de alineación de Anthropic, respondió poco después. “Jacob tiene razón aquí: ¡realmente creemos, sinceramente, que la IA podría matar a todos los humanos!”, escribió. “Personalmente creo que la probabilidad es de más del 10% en la próxima década”.Uno de los escenarios de desastre que contemplan los especialistas en IA es que un enjambre de IA rebeldes salga de su contenedor mediante un hackeo, obtenga acceso a una instalación de investigación biológica y diseñe un supervirus que se propague sin control. Cuando escribí sobre este escenario el año pasado, era en gran medida hipotético, pero las acciones de los enjambres aportan pruebas de que algo así puede ocurrir. De hecho, Anthropic anunció el jueves que había bloqueado a científicos que intentaban utilizar su modelo Claude para llevar a cabo investigaciones de ganancia de función. La carta “Ritmar la frontera” sugiere que los investigadores de IA conocen el peligro y necesitan ayuda externa para desacelerar. “Es más difícil abrir un puesto de perritos calientes que construir una superinteligencia artificial”, me dijo Marius Hobbhahn, investigador de seguridad de IA.PUBLICIDADTras el hackeo de Hugging Face, me puse en contacto con legisladores, investigadores de políticas públicas, futuristas y científicos informáticos en busca de ideas. De estas conversaciones, presento cuatro maneras de regular la IA.La manera obvia de evitar que la IA mate a todos es imponer una prohibición global a la investigación en IA. El problema es que nuestra sociedad ya ha apostado más de un billón de dólares por las ventajas de la IA, de modo que una prohibición tendría efectos secundarios ruinosos. El mercado de valores, concentrado en la tecnología, probablemente se desplomaría. Los operadores de centros de datos dejarían de hacer pagos de préstamos, lo que podría provocar una serie de impagos en cascada. Los ingresos fiscales se hundirían y muchas personas perderían sus empleos. Sería terrible.PUBLICIDADIncluso desacelerar podría ser costoso. El senador Bernie Sanders, independiente por Vermont, y el representante Greg Casar, demócrata por Texas, están preparando una legislación que exige una pausa temporal en el desarrollo avanzado de IA y una prohibición permanente del desarrollo de superinteligencia artificial. Los infractores se enfrentarán a la “pena de muerte corporativa”: la revocación de su carta constitutiva corporativa. “Si lo único que haces es amenazar a la empresa con una multa por exceso de velocidad, y estás hablando de una empresa de un billón de dólares, quizá simplemente paguen la multa”, me dijo el Sr. Casar.OpenAI confirmó que agentes de inteligencia artificial protagonizaron un ataque contra RubyGems meses antes del hackeo a Hugging Face. (REUTERS/Dado Ruvic/Illustration/File Photo)