El optimismo cauteloso de Hassabis

El 14 de julio, Demis Hassabis, CEO de Google DeepMind, publicó en X el manifiesto A Framework for Frontier AI and the Dawning of a New Age (en castellano, Un marco para la IA de vanguardia y el amanecer de una nueva era), en el cual ofrece su visión del momento tecnológico actual y propone un marco para gobernar los modelos de inteligencia artificial más avanzados.La inteligencia artificial general (IAG) podría estar mucho más cerca de lo que muchos gobiernos y empresas están dispuestos a admitir. Según Hassabis, podríamos estar a solo unos años de contar con sistemas capaces de igualar las capacidades cognitivas humanas en prácticamente cualquier ámbito.Hassabis compara este punto de inflexión con descubrimientos como el fuego o la electricidad, y sostiene que su impacto económico y social podría superar al de la Revolución Industrial, tanto en magnitud como en velocidad. El impacto económico y social de la IAG, afirma, podría ser hasta 10 veces superior al de la Revolución Industrial, pero a 10 veces su velocidad. Durante décadas, el relato dominante sobre el impacto tecnológico nos llevó a imaginar transiciones graduales. Suponíamos que cada avance nos daría tiempo suficiente para adaptarnos, regular y reeducar a la sociedad. Sin embargo, la inteligencia artificial ha superado esa lógica lineal. Su desarrollo avanza sobre una curva exponencial, y lo que antes requería décadas de investigación hoy puede medirse en semestres.El diagnóstico de Hassabis es claro: la seguridad de la IA y el desarrollo de salvaguardas éticas y técnicas no reciben la prioridad económica ni la atención política que exigen. La lógica corporativa empuja a las grandes tecnológicas hacia una carrera armamentística comercial: ninguna empresa quiere frenar sus lanzamientos por miedo a perder hegemonía. En ese contexto, los equipos dedicados al alineamiento y la seguridad de la IA corren el riesgo de convertirse en adornos reputacionales, frenos de mano que nadie se atreve a accionar mientras el vehículo acelera.Los gobiernos parecen atrapados en una desconexión generacional y conceptual. Salvo excepciones parciales, como los marcos impulsados por la Unión Europea o las cumbres internacionales sobre seguridad, la legislación avanza con lentitud. Para cuando una norma entra en vigor, el paisaje tecnológico ha cambiado varias veces.La IAG efectivamente permitirá avances científicos extraordinarios en áreas como el descubrimiento de fármacos, el diseño de materiales avanzados y la energía limpia. Sin embargo, también se desprenderán determinados riesgos, como ciberataques impulsados por IA, amenazas biológicas o nucleares, el comportamiento engañoso por parte de agentes autónomos y la posible pérdida de control sobre los agentes autónomos.La urgencia no impone la necesidad de asumir un neoludismo radical, reclamando que sean apagados los servidores. Sería ingenuo pensar que la investigación en inteligencia artificial podría detenerse por decreto. Lo que este momento exige es revisar qué entendemos por progreso y bajo qué condiciones estamos dispuestos a acelerarlo.Invertir en IA no puede reducirse a ampliar la capacidad de cómputo mientras se destinan recursos marginales al alineamiento, la supervisión y el control. Una estrategia responsable debería apoyarse en tres prioridades:Financiar la seguridad técnica. Dedicar recursos suficientes al alineamiento, la evaluación y la supervisión de los sistemas más avanzados.Fortalecer la regulación. Crear agencias con personal técnico de primer nivel, capaces de auditar los modelos más potentes antes de su despliegue público.Coordinar la gobernanza internacional. Establecer líneas rojas compartidas, con una ambición comparable a la de los acuerdos que ayudaron a contener el riesgo nuclear durante la Guerra Fría.Una pausa no ofrece garantías, pero sí abre una oportunidad decisiva para construir mecanismos de contención, evaluación y responsabilidad antes de que la tecnología supere nuestra capacidad de reacción.Si dentro de un lustro miramos atrás y descubrimos que la llegada de la IAG nos encontró desarmados, no podremos alegar ignorancia. Nadie podrá decir que no fuimos advertidos. La pregunta que hoy deben responder líderes políticos y empresariales no es si la IAG es posible, sino qué están dispuestos a sacrificar ahora para garantizar que el mundo de mañana siga siendo, ante todo, un lugar seguro para los seres humanos.Hassabis propone crear en Estados Unidos un organismo independiente de estándares para la IA de frontera. Su función sería establecer criterios técnicos comunes, coordinar auditorías previas al despliegue y convertir la seguridad en una condición verificable antes del lanzamiento de los modelos más potentes.Además, Hassabis presenta una serie de recomendaciones:Los modelos más avanzados deberían someterse a una ventana de evaluación de 30 días antes de su lanzamiento público, mediante auditorías técnicas independientes que pongan a prueba sus capacidades, límites y posibles riesgos.El marco podría comenzar como un compromiso voluntario de los laboratorios líderes, pero debería evolucionar hacia un requisito común del mercado para evitar que la seguridad dependa solo de la buena voluntad de cada empresa.Las obligaciones más estrictas deberían aplicarse solo a los laboratorios y modelos de última generación que superen umbrales dinámicos de capacidad, riesgo o escala, evitando una regulación indiscriminada.Las pequeñas empresas, los investigadores académicos y los modelos de menor escala deberían quedar exentos de las cargas más pesadas, para no sofocar la competencia ni frenar la investigación abierta.Los laboratorios deberían publicar tarjetas de modelo, reforzar sus estándares de ciberseguridad e incorporar marcas de agua digitales en los contenidos generados por IA para facilitar la trazabilidad y la rendición de cuentas.Aunque Estados Unidos tomaría la iniciativa, el marco debería servir como base para un estándar mundial y permitir, si los riesgos lo justifican, pausas o desaceleraciones temporales coordinadas entre laboratorios.La postura de Demis Hassabis subraya la necesidad de reconsiderar con urgencia el ritmo al que la sociedad responde a la evolución tecnológica. La posible llegada de la IAG rompe con la idea de un desarrollo gradual y convierte la adaptación en una carrera exponencial: el margen de reacción ya no se mide en décadas, sino en años, e incluso en semestres.Con un impacto socioeconómico potencialmente superior, en magnitud y velocidad, al de la Revolución Industrial, la IAG no solo representa un salto tecnológico comparable al fuego o la electricidad: también plantea un desafío institucional, político y ético sin precedentes. Por eso, el “optimismo cauteloso” de Hassabis no debe leerse como una celebración ingenua del progreso técnico, sino como una advertencia: urge construir marcos de gobernanza sólidos, proactivos y globales antes de que la aceleración tecnológica supere de forma irreversible nuestra capacidad colectiva de regulación, adaptación y control.

Raccontata daabc.eseluniversal.com.mx