La inteligencia artificial, que arranc� como gran promesa tecnol�gica del siglo XXI, con m�quinas capaces de aprender, de curar, de invertir o de revertir el cambio clim�tico, ha acabado implicada en guerras, econom�as y elecciones, llev�ndonos a la inquietante pregunta de qui�n va a controlar todo esto, si es que se puede.Rom�n Or�s est� en ello. Profesor de Ikerbasque (Fundaci�n Vasca para la Ciencia) en el Donostia International Physics Center (DIPC), director cient�fico de Multiverse Computing, compa��a espa�ola especializada en computaci�n cu�ntica e IA, es ahora tambi�n el �nico espa�ol entre los 40 elegidos por Naciones Unidas para asesorar a los gobiernos sobre qu� hacer con todo esto, empezando por evitar que las grandes tecnol�gicas se hagan con el control.�No hay otra alternativa que evitarlo�, advierte Or�s. �O sea, que la alternativa a evitarlo es cero. La inteligencia artificial es una herramienta potent�sima, y no hemos hecho m�s que empezar a rascar la punta del iceberg. Lo que vendr� en los pr�ximos a�os ni siquiera nos lo podemos imaginar comparado con lo que estamos viendo ahora. Y necesita control, como en aquel anuncio de BMW que dec�a que la potencia sin control no sirve de nada. Aqu� es un poco lo mismo. Va a hacer falta una regulaci�n, pero tiene que ser flexible y facilitar el avance de la tecnolog�a. Lo que no puede hacer es limitarla, ni tampoco frenar la adopci�n o la innovaci�n. Ah� es donde est� el reto. Yo pongo mucho el ejemplo de la bomba at�mica. La IA es casi el nuevo Proyecto Manhattan�.Para saber m�sDe hecho, viendo nuestro curr�culum b�lico, la bomba at�mica quiz� sea la demostraci�n de que la IA no puede ser controlada, al poder ser desarrollada no solo por gobiernos, sino tambi�n por corporaciones o individuos. �La primera bomba at�mica se desarrolla por gobiernos, mientras que los primeros grandes modelos de IA han sido desarrollados por empresas privadas. Hay art�culos cient�ficos que te explican en qu� est�n basados estos modelos y muchos son de c�digo abierto�. Es decir, que es como ponerle puertas al campo. �Es muy complicado, pero algo hay que hacer, porque si no nos vamos a topar con una guerra de desinformaci�n, en la que no vamos a poder creernos nada de lo que veamos, por ejemplo, en redes sociales. Y ya no te hablo de riesgos en ciberseguridad, de ciberataques, etc. El �ltimo modelo de Anthropic lo han tenido que parar porque era tan potente que hab�a riesgos de ciberseguridad. Y esto no va a hacer m�s que evolucionar�.En la distop�a Alien: Earth de Disney+, el mundo del a�o 2120 ya no est� dirigido por gobiernos democr�ticos, sino por megacorporaciones a las que, a cambio de solucionarnos problemas ordinarios como la vivienda, el empleo o la alimentaci�n, les hemos cedido todo el poder. El presidente del Gobierno, Pedro S�nchez, al inaugurar el pasado abril en Madrid la reuni�n del Panel de Expertos en IA de la ONU, habl� de �colonialismo silencioso� para referirse a la concentraci�n del poder en manos de las tecnol�gicas. �Es cierto que hoy en d�a hay much�simos actores pol�ticos m�s all� de los pol�ticos�, reconoce Or�s. �A los pol�ticos les toca regular, pero quien tiene la sart�n por el mango son las empresas tecnol�gicas que est�n desarrollando los modelos, ni m�s ni menos. Y son ellas las que tienen que adaptarse a la regulaci�n que surja. Pero s� que es cierto que, desde un punto de vista pol�tico, da la sensaci�n de que la sociedad est� evolucionando hacia una especie de tecnocracia, donde se est� acumulando much�simo poder en actores pol�ticos que no son los representantes democr�ticos del pueblo, sino empresas con capital privado. Esto es un debate que yo no tengo capacidad de resolver. Es m�s grande que el problema de la IA. �Hacia d�nde va la sociedad? �Cu�l va a ser el modelo de capitalismo del futuro? Quiz� estemos atisbando los primeros s�ntomas del agotamiento del modelo capitalista que tenemos desde el siglo XIX�."Desde un punto de vista pol�tico, da la sensaci�n de que la sociedad evoluciona hacia una especie de tecnocracia"Es imposible no imaginarse al comit� de expertos de la ONU elaborando un simple c�digo de buenas pr�cticas y pas�ndoselo despu�s a las tecnol�gicas para ver si est�n de acuerdo. �No, no va a funcionar as�. Nosotros vamos a hacer informes, pero no se los vamos a pasar a las tecnol�gicas. Nosotros no hacemos la regulaci�n. Somos un comit� asesor. Somos la bisagra, digamos, entre el mundo cient�fico y quienes regulan, que son los pol�ticos. El primer informe lo vamos a hacer en julio, pero luego iremos haciendo m�s porque esto evoluciona muy r�pido�.La experiencia con las redes sociales ha mostrado c�mo una tecnolog�a puede expandirse globalmente antes de que exista un marco para gestionar sus efectos negativos. Incluso antes de saber que tendr� efectos negativos. �Esto siempre pasa�, recuerda Or�s. �Cuando se crearon las redes sociales, no fue con la idea de generar un impacto negativo. Cuando Mark Zuckerberg mont� Facebook lo hizo para conectar con sus amigos. Pues lo mismo pasa con los modelos de lenguaje y cualquier otro tipo de tecnolog�a. Esto no se restringe a la inteligencia artificial; pasa tambi�n con la cu�ntica o con la biotecnolog�a, que es incluso peor. Todo desarrollo tecnol�gico conlleva oportunidades y riesgos, desde que el hombre descubri� el fuego o la rueda. La rueda es muy �til para llevar carros, pero tambi�n puedes hacer un tanque, y nos estamos enfrentando a este dilema una vez m�s. La IA conlleva riesgos, s�, pero no por eso vamos a dejar de desarrollarla. Lo que pasa es que tenemos que desarrollarla bien porque conlleva una serie de oportunidades que, si se canalizan correctamente, pueden llevar a la humanidad a un nivel de desarrollo tecnol�gico y de evoluci�n nunca visto, y en poqu�simo tiempo�.Rom�n Or�s en su despacho en el Donostia International Physics Center (DIPC).ALBERTO R. VENTURA / ARABA PRESSSi miramos al plano geopol�tico, el problema se amplifica. La inteligencia artificial ya no es solo una herramienta tecnol�gica, sino un elemento estrat�gico. �Hoy en d�a la guerra es una guerra de informaci�n, aunque luego se traduzca en el campo de batalla. Y ah� quien est� marcando un poco el ritmo de lo que est� pasando son algunas empresas privadas. Palantir, por ejemplo�. La tecnol�gica est� en el foco como ejemplo de c�mo los gobiernos contratan empresas privadas para servicios militares, lo que se interpreta como una cesi�n de soberan�a. �Me imagino que al Estado le interesar� estar de forma sustancial en el accionariado y, de alguna manera, controlarlo. No estoy hablando de expropiar la empresa, pero puedo imaginar que habr� Estados interesados en entrar en el capital�.�Eso convierte a las tecnol�gicas en un objetivo militar leg�timo? �Por supuesto que es un objetivo leg�timo. Sin ir m�s lejos, cuando empez� el bombardeo de EEUU en Ir�n, Ir�n respondi� con bombardeos y una de las primeras cosas que atac� fueron centros de datos de Amazon. Ni m�s ni menos. Y as� dej� a toda la zona del Golfo sin taxi, sin internet...�.En la pr�ctica, buena parte de las decisiones que afectan hoy a la vida cotidiana est�n dependiendo de inteligencias que el ciudadano ordinario no acaba de comprender, lo que supone una p�rdida de control sobre nuestras propias vidas. �Es que incluso los mismos algoritmos de inteligencia artificial, tal y como est�n dise�ados ahora, son una caja negra. No sabemos realmente por qu� deciden lo que deciden. No sabemos realmente c�mo funciona por dentro un modelo de inteligencia artificial. Y ese es uno de los grandes problemas de la IA. Tiene muchos otros problemas: la eficiencia energ�tica, el coste, lo que sea. Pero otro muy grande es el de la explicabilidad. No solo para aplicaciones b�licas, tambi�n para modelos financieros, donde tienes que saber explicarle a tu cliente por qu� debe invertir en una cosa y no en otra. Ah� tienes un problema. Y no le pasa solo al ciudadano medio; incluso a los propios t�cnicos. Saben c�mo se ha desarrollado el algoritmo, pero no qu� pasa exactamente en las tripas de la m�quina a la hora de decidir si ir por aqu� o por all�. Eso todav�a no est� claro�."Los algoritmos de la IA son una caja negra, no sabemos por qu� deciden lo que deciden, y eso es un problema"Por eso no entendemos por qu� a veces se pone a alucinar, dando respuestas un tanto extra�as a nuestros problemas. �Lo que hace la IA en realidad es identificar patrones y, en funci�n de los patrones que observa, es capaz de detectar correlaciones que para otro tipo de algoritmo o m�quina pueden ser muy dif�ciles o imposibles de detectar. Y en funci�n de eso predice cosas; por eso es tan buena prediciendo. Dependiendo de la potencia que tenga para detectar patrones, predice mejor o peor y, cuando predice peor, se pone a alucinar. Ya est�.Mirando al futuro tecnol�gico, la pregunta ya no es solo qu� puede hacer la IA, sino qu� tipo de mundo est� configurando: si uno con sistemas cada vez m�s centralizados, donde unos pocos modelos organizan el funcionamiento global, o si habr� una red distribuida de inteligencias interconectadas semejante a internet. �Creo que va a ser m�s una red distribuida�, apunta Or�s. �Sam Altman, de OpenAI, cre�a al principio que todo iba a ser un modelo centralizado, pero ahora se est� desdiciendo. Obviamente, vamos a tener todo el espectro. Modelos muy grandes, tipo ChatGPT o Mythos. Pero para tus tareas del d�a a d�a, para una receta de tortilla de patatas, no necesitas el cerebro de Albert Einstein. Entonces vamos a tener IA embebida en todos los dispositivos: m�viles, tabletas, relojes, freidoras, coches, sat�lites, drones... Y todos ser�n modelos individuales que correr�n en un hardware muy limitado, con muy poca memoria. No ser�n modelos hiperinteligentes, pero s� lo suficientemente inteligentes como para hacer tareas espec�ficas. Por ejemplo, para un dron: que sepa volar, maniobrar, detectar cosas, etc. Al final acabaremos teniendo redes de agentes que interactuar�n entre ellos y har�n todo por nosotros de manera autom�tica. Con los modelos de Anthropic ya lo estamos viendo. Le puedes pedir que te haga presentaciones, an�lisis, Excel... Incluso hay modelos a los que ya puedes pedirles que te traigan comida del japon�s. Esto es hacia d�nde vamos y no est� exento de problemas. Hay much�simos: el consumo energ�tico, que nadie sabe c�mo se van a coordinar entre ellos... Toda esta alineaci�n tiene que ser correcta y supervisada en alg�n momento por un humano para comprobar que no pasan cosas raras. En fin, hay toda una historia enorme que justo estamos empezando a descubrir�.Incluido el riesgo de sacar la IA del mundo digital para que empiece a actuar directamente sobre la realidad f�sica. �Hay tambi�n unos modelos que se est�n analizando y que se llaman world models, o modelos de mundo, que cogen los datos directamente del entorno. Porque llega un momento en el que, cuando ya no hay m�s datos para entrenarlo, �de d�nde sacas los datos? Pues del universo�.�Como un ser vivo? �Bueno, no s� si es vivo, pero es ponerle sensores a una m�quina y que coja los datos de ah�. Eso genera muchas preguntas, �no? �Qu� estamos fabricando aqu�?�. Pues alguien capaz de sentir, de alg�n modo, el mundo. �Primero habr� que definir qu� tipo de entidad estamos creando. �Es esto inteligencia? �Qu� tipo de inteligencia es? Nos obliga a redefinir cu�l es el papel del ser humano en todo esto. Una vez m�s. Esto ha pasado much�simas veces en la historia de la ciencia. Cuando Nicol�s Cop�rnico dijo que la Tierra giraba alrededor del Sol, a la gente le entr� una crisis terrible. �Por qu� no est�bamos en el centro del mundo? Pues aqu� ocurre otra vez lo mismo. Esta entidad pensante nos va a obligar a replantearnos cu�l es nuestro papel en todo esto�.