Cualquier investigación sobre el impacto de la inteligencia artificial implica una reflexión sobre la inteligencia humana. Nos obliga a preguntas que permiten indagar piezas de nosotros mismos, los humanos, que quizá dábamos por acotadas definitivamente. Parafraseando a Paul Goodman, se podría decir que la inteligencia artificial es una rama de la filosofía moral, no de la ciencia (La nueva reforma, 1971).Velocidad, complejidad e incertidumbre: he aquí tres dimensiones problemáticas del actual espacio tecnológico. Para los legisladores, la dificultad consiste en prever cuáles serán las situaciones por regular y en tener que hacerlo siempre in fieri, es decir, sin saber muy bien cómo se concretará la realidad futura. Aquí es donde aparece el dilema de Collingridge, que ya en 1980 mostraba cómo las consecuencias negativas de las innovaciones tecnológicas, en un primer momento, son difíciles de ver, pero fáciles de regular. Mientras que, con el paso del tiempo, a causa de los intereses y los negocios que generan, se vuelve cada vez más fácil verlas, pero más difícil regularlas (D. Collingridge, The Social Control of Technology, 1980). Si se interviene demasiado pronto, se corre el riesgo de pergeñar normas mal armadas, que no logran subsumir los casos concretos en tipos legales verdaderamente eficaces. Por otro lado, si se actúa de manera tardía, será ya muy arduo plegar la aplicación consolidada de la técnica a los designios de la ley. Me he acordado del dilema de Collingridge al ver la gesta de Sebastian Sawe, que ha establecido el récord mundial de maratón, logrando por primera vez un humano bajar de las dos horas (mejor dicho, dos humanos, pues el segundo clasificado en el maratón de Londres también rompió esa barrera). En muchos comentarios, se ha hecho hincapié en que la hazaña ha sido posible también gracias a las zapatillas que ha usado, que pesaban tan solo noventa y siete gramos (el mismo Sawe se ha encargado de mostrarlas) y a una diferente manera de alimentarse durante la carrera. En lugar de los tradicionales puestos de agua, el atleta iba recogiendo por el trayecto determinadas dosis de carbohidratos y cafeína. No cabe duda de que Sawe, al margen de sus excepcionales dotes físicas y el increíble trabajo realizado, además del impagable esfuerzo proteínico, ha podido aprovechar un impulso protésico. Ha sabido utilizar la técnica, sus prótesis, como un recurso capaz de optimizar e incluso mejorar sus potencialidades biológicas y psíquicas. Una hazaña transhumanista, podría decir Nick Bostrom. En definitiva, Sawe habría logrado conjugar sus enormes facultades naturales con unos artefactos inteligentes porque son fabricados con ingenio. Inteligencia humana e inteligencia artificial, al fin y al cabo. Esa parece ser la clave de la sinergia para regular (con) la inteligencia (lo) artificial. Pero la reflexión no debería detenerse aquí. Hace más de dos mil años, el mito de Prometeo nos enseñó la ambivalencia del progreso científico. El regalo del fuego mantuvo las promesas de dominio del ser humano sobre las demás criaturas, pero, al mismo tiempo, no le pudo evitar incomprensiones violentas y conflictos devastadores, provocados por la incapacidad humana de controlar la técnica. La moraleja bien se amolda a esta época especialmente algorítmica: la perspectiva tecnológica nos proporciona el conocimiento de lo que es la IA y cómo funciona; la perspectiva normativa nos proporciona el conocimiento de cómo debería ser y funcionar. De forma aislada, los dos saberes son parciales e insuficientes. De forma conjunta, son la clave de acceso a la solución de problemas. Los resultados y las consecuencias, los éxitos y los fracasos de investigar sobre la IA son, en definitiva, elementos de reflexión sobre la inteligencia humana. Sin embargo, parece que esto es así solo desde que las aplicaciones de la IA han prosperado de una forma sensacional, porque antes los resultados aplicativos de una tecnología que existe desde los años cincuenta no habían alcanzado el nivel de los últimos años. Hace ya tiempo que la IA se ha integrado en muchos aspectos de nuestras vidas, aunque no se etiquetara como tal: por ejemplo, los sistemas de navegación o de recomendación de productos en las plataformas audiovisuales. Lo que más recientemente ha transformado nuestra percepción han sido aplicaciones como los modelos de lenguaje natural, en las que los usuarios pueden interactuar de manera directa con la máquina. Los humanos, al usar tales sistemas, dejamos de ser meros destinatarios ‘pasivos’ de sus algoritmos y empezamos a relacionarnos con ellos como si fueran entidades sintientes. Entablamos una comunicación con estos dispositivos altamente tecnológicos y, a la vez que les delegamos porciones crecientes de nuestra autonomía decisional, les vamos entregando datos e informaciones crematísticamente preciosas. Si los datos son el nuevo petróleo, como declararon hace unos años los estrategas del Bank of America, “la IA es la nueva electricidad”. Porque las grandes multinacionales del sector, las llamadas Big Tech, ofrecen servicios fundamentales no solo para la vida cotidiana de los ciudadanos, sino también para el ejercicio de sus derechos; y esto confiere a estos agentes privados un enorme poder público. Hay que tener en cuenta, además, los mecanismos que rigen la relación entre el poder de estos sujetos y los usuarios. Hoy en día, el principio de acumulación económica que alimenta lo que Soshana Zuboff ha denominado acertadamente “capitalismo de la vigilancia” ya no consiste en la simple concentración de las fuerzas de producción, sino en la apropiación de la experiencia humana, privatizando en unas pocas manos digitales la inmensa cantidad de conocimiento que, de manera efectiva, aunque a menudo inconsciente, cedemos con nuestros datos. Como ilustra la propia Zuboff, en este contexto el capitalismo tiránico no necesita el látigo del déspota ni debe recurrir a los instrumentos de represión típicos del totalitarismo. Todo lo que necesita se encuentra en los mensajes tranquilizadores y en los emoticonos de lo que ella llama el Big Other, el Gran Otro (S. Zuboff, La era del capitalismo de la vigilancia, 2020). Como escribió Giuliano da Empoli en su novela El mago del Kremlin, los flujos psicológicos de las personas, incluido su sueño, ya no tienen secretos para los californianos de Facebook… se han convertido en cifras que hoy están al servicio del beneficio económico, pero que mañana podrían estar al servicio de la vigilancia más implacable que jamás haya existido (G. da Empoli, El Mago del Kremlin, 2023). Los algoritmos de inteligencia artificial de las grandes plataformas multinacionales ya no manipulan nuestro consentimiento, ni tratan de doblegar nuestras preferencias, sino que las fabrican directamente, las construyen. No registran ni clasifican nuestros gustos, los crean: es una nueva forma de soberanía. Y se trata de una nueva geografía social, donde el poder puede someter sin fuerza física, sin infundir pánico. Es más, ni siquiera necesita la persuasión ideológica característica de las formas políticas contemporáneas. Esto se debe a que la manipulación del consenso no es, evidentemente, prerrogativa de las nuevas tecnologías: basta con recordar el desternillante cartel electoral de un partido que G. Guareschi ideó y llevó a la fama en Don Camillo y el honorable Peppone: querido votante, “en el secreto de la cabina, ¡Dios te ve, Stalin no!“. La propaganda que pretende generar consenso condicionando la voluntad subjetiva de manera más o menos solapada, pero siempre detectable, no es una novedad. Ahora, sin embargo, la intromisión en las conciencias individuales se produce al vigilar nuestros teléfonos inteligentes, al escuchar a escondidas nuestros susurros en la cama. Para transformar en valor económico esta cantidad inconmensurable de información, el bien de mercado más preciado es la experiencia humana, extraída en clics, entregada con nuestra huella digital, robada sin delito gracias al reconocimiento facial que delata expresiones, arrugas y otros signos del paso del tiempo, convertidos al instante en datos comercializables. Siguiendo las sugerencias, a menudo intrigantes, de Byung-Chul Han, diríamos que el panóptico benthamiano negaba o sometía la libertad, mientras que el panóptico digital la explota (B.-Ch. Han, Psicopolítica, 2015). Este vuelco de perspectiva nos invita a cambiar el punto de observación, a desviar la mirada con un pequeño giro. Parece una sugerencia similar a la que cuenta Hedley Bull sobre el escocés que buscaba el camino a Edimburgo y, al verse perdido, pidió indicaciones a un granjero del lugar, quien le respondió que lo mejor para llegar a aquel destino sería partir desde otro punto (H. Bull, La sociedad anárquica, 1977). Quiero decir que en la tradición cultural y jurídica de la modernidad occidental, la relación entre libertad y autoridad se ha desarrollado en una dirección bien definida: somos y pensamos lo que queremos, pero sólo podemos hacer lo que se nos permite. Pero en la era de la inteligencia artificial y de la oligarquía tecnológica que caracteriza al capitalismo digital, el camino parece invertido: hacemos lo que queremos porque solo deseamos lo que se nos permite.