Carissa Véliz se ha convertido en una de las voces más codiciadas para hablar de tecnología, Inteligencia Artificial y sus implicaciones sociales. Filósofa y profesora en la Universidad de Oxford, presenta ahora su nuevo libro, Profecía (Debate). Analiza el anhelo humano por anticipar el futuro y cómo ha evolucionado hacia propuestas que prometen una exactitud ya casi matemática con la inteligencia artificial. Véliz pretende desmontar las narrativas de infalibilidad de las grandes corporaciones de Silicon Valley y advierte sobre el peligro de sustituir los hechos reales y los criterios de justicia por predicciones algorítmicas de carácter puramente probabilístico. Hablamos por videoconferencia durante algo menos de una hora. PREGUNTA. Una de las premisas de tu libro es que el ser humano siempre ha tratado de predecir el futuro. Le dedicas al menos un capítulo a hablar de que ese anhelo lo cubrían antes adivinos, hechiceros, la observación de aves, de entrañas, oráculos... Hoy en día pensamos que detrás de esas predicciones hay un método científico que se ha llevado al paroxismo con la inteligencia artificial. Tenemos la sensación de que ahora sí podemos hacer predicciones basadas en hechos y en la ciencia, para saber qué va a pasar con el planeta o con las democracias. ¿No hay diferencia entonces entre las predicciones de antes y las de ahora? RESPUESTA. Sí y no. Los métodos, por supuesto, son diferentes. Hacer una predicción con modelos matemáticos es muy diferente a hacerlo con astrología. Sin embargo, el uso político de esas predicciones muchas veces es demasiado parecido. Incómodamente parecido, diría. Esto es así porque asumimos que utilizar inteligencia artificial ya es un método científico. La IA se puede utilizar de una manera científica dentro del método científico, pero hay muchas maneras de utilizarla que no son nada científicas, sobre todo las predicciones que tienen que ver con seres humanos, las predicciones sociales, etcétera. Las predicciones sobre cuestiones políticas nunca pueden ser científicas. En ese sentido no hay diferencia con los oráculos. Los abusos en el uso de predicciones que estamos viendo ya los hemos visto antes y no hemos aprendido las lecciones. P. Aseguras que esas predicciones casi nunca son desinteresadas. Puede haber una ambición intelectual, que no es más que una actitud vanidosa, pero generalmente lo que hay detrás es también un negocio o una propuesta de poder. A menudo, dices, funcionan como profecías autocumplidas, como sucede con las encuestas. Cuando alguien quiere colocar a su partido como un posible vencedor en unas elecciones, lo primero que hace es inflar encuestas. ¿Pronosticar algo es una manera de conseguir que suceda? R. Sí, y además funciona. Las predicciones sobre personas funcionan como un tipo de imán, tienen una fuerza de atracción que hace que cambien las expectativas de tal manera que sea más probable que se cumpla esa predicción. Eso no quiere decir que esté garantizado, hay veces que no se cumple. Pero es un riesgo, y no somos lo suficientemente conscientes cuando utilizamos la IA en ámbitos como la justicia o para decidir si te conceden un préstamo, un apartamento o un trabajo. P. ¿Qué predicciones alimentadas por la IA se hacen pasar por realidad y pueden resultar peligrosas o convertirse en profecías autocumplidas? R. Si tú me pides un préstamo o una hipoteca y yo lo rechazo porque no cumples ciertos criterios transparentes y demostrables, eso es un hecho y podemos tener una discusión. Si un criterio es tener como mínimo 10.000 euros ahorrados, o los tienes o no los tienes. Si yo digo que no los tienes, puedes probar que me equivoco. Pero si yo rechazo tu solicitud en base a una predicción, no puedes argumentar nada contra mí, porque una predicción no es un hecho, no es verificable, no es falsificable. Es una manera muy engañosa de aparentar que hay un proceso de justicia cuando en realidad es una manera de lavarte las manos, porque creas un sistema más kafkiano. P. Una pesadilla burocrática elevada al algoritmo. R. Exacto. El algoritmo que está basado en machine learning en realidad está basado en estadísticas, no en reglas. Es decir, tu vida está siendo determinada por un análisis estadístico que no tiene que ver con criterios de justicia ni hechos. No deja mucho margen al individuo. Algo muy importante, y es un punto filosófico pero con unas implicaciones prácticas brutales, es que la predicción nunca puede ser un hecho, los hechos pertenecen al pasado, no al futuro. Por lo tanto, en el mejor de los casos, una predicción no deja de ser una mera hipótesis. P. La IA se venía usando en terrenos delicados como la justicia o la banca mucho antes de la llegada de ChatGPT. Y Amazon, Netflix, Google o Meta llevan usando desde hace años sistemas de predicción para saber qué es lo próximo que nos gustaría ver o comprar. ¿Qué ha cambiado en las tripas de esos sistemas si comparamos la era pre-ChatGPT versus los últimos cuatro años? R. Lo principal que ha cambiado es que más y más gente está usando inteligencia artificial. Y, a más usos de la IA, más riesgos se generan, riesgos individuales pero también sistémicos. Hay cosas criticables en que Netflix utilice algoritmos para identificar contenido. Por ejemplo, siento que estamos siendo mucho menos creativos y que parte de la crisis de la industria de las películas y las series en este momento es porque la gente está aburrida, llevamos viendo la misma serie desde House of Cards, que, por cierto, ya era un refrito. Pero no podemos comparar el grado de riesgo de utilizar un algoritmo para sugerir películas frente a usarlo en un sistema de justicia. P. El peligro entonces no es tanto la tecnología en sí, su capacidad, sino extenderla sin control a todas las parcelas de nuestra vida. R. Si, estamos importando esa mentalidad probabilística a esferas de la vida donde es inapropiado. Por ejemplo, en Reino Unido hay un enorme debate porque la policía puede hacer una predicción de si alguien va a ser encontrado culpable o no por un jurado. Es decir, ellos pueden arrestar a una persona con las manos en la masa, estar seguros de que es culpable y, aun así, no acusarlo si predicen que un jurado no lo va a encontrar culpable. Las predicciones siempre han sido peligrosas, pero la IA añade al menos dos o tres peligros extras. La primera es que escala muy bien. Cuando todo el mundo está usando el mismo sistema, multiplicas los riesgos. La segunda es que es muy barata. O, al menos, nos la están vendiendo como algo barato. Pero, ¿cuál es el precio que estamos pagando? Detrás hay, por ejemplo, un coste ecológico muy alto, y un coste de perder elementos democráticos importantes. La tercera cosa diferente es que introduce un nuevo nivel de opacidad. Porque cuando un jefe de policía, un detective o una persona hace una predicción de que un jurado no va a encontrar a alguien culpable, a pesar de que no puedas argumentar contra esa predicción, puedes identificar a la persona responsable. Pero cuando es un algoritmo, todo el mundo se lava las manos y dice que no fueron ellos. "Una dictadura es muchísimo más eficiente que la democracia. ¿Y por eso vamos a escoger la dictadura? Espero que no" P. Llevando esto a la ciencia política y al control de masas, en China argumentan que por fin pueden dirigir la mano invisible del mercado gracias a la IA. Pueden dirigir toda la sociedad y la economía, dicen, porque disponen de datos suficientes para saber en cada momento qué es mejor y qué es peor para la gente. Al revés de lo que pasó con la URSS, que se hundió según las teorías liberales clásicas porque era imposible dirigir la mano invisible del mercado, los chinos dicen que ya han encontrado una solución al dilema. R. Es un riesgo mayúsculo llevar estas ideas a la política. Entre otras razones porque en la política el valor más importante, por lo menos en una democracia liberal, no es la eficiencia. Una dictadura es muchísimo más eficiente que la democracia. ¿Y por eso vamos a escoger la dictadura? Espero que no. Que China la escoja si quiere, pero espero que nosotros vayamos por otra vía. Efectivamente, una de las observaciones interesantes cuando estudias la historia es que, cuando nos volvemos más precisos sobre la predicción humana, es decir, sobre el comportamiento humano, no es síntoma de avance científico. No es que estemos descubriendo mejor el futuro. Es que lo estamos produciendo. Es que estamos determinando ese comportamiento. Por poner un ejemplo muy extremo: si quieres estar seguro de dónde va a estar alguien al día siguiente, encarcélalo. Lo de que con las predicciones se puede controlar mejor la mano invisible del mercado... Si hubiera completa certidumbre de todo, no habría mercado. Parte de lo que hace el mercado es la incertidumbre. Además, está influido por muchas cosas, pero entre otras, la tecnología y la ciencia. El filósofo Karl Popper fue el primero que hizo este argumento de que, por razones estrictamente lógicas, es imposible predecir el futuro de la historia porque la historia está influida por la ciencia y la tecnología, y si supiéramos qué vamos a descubrir, ya lo habríamos descubierto. El CEO de Palantir, Alex Karp. (Reuters) P. Defiendes que la idea de que más datos equivalen a mejores decisiones es errónea. Sin embargo, el paradigma que defienden ahora mismo las big tech va justo en esa línea: cuantos más datos y servidores para procesarlos haya, mejor. Palantir, por ejemplo, basa su negocio precisamente en almacenar millones de datos, procesarlos y cerrar contratos millonarios. ¿El éxito financiero de Palantir no desmonta en parte la teoría de que más datos no implican mejores decisiones? R. Bueno, eso es lo que vende Palantir. Buena parte del éxito comercial de las tecnológicas no viene tanto de la tecnología, sino de la narrativa. Lo que me parece increíble es observar cuánto estamos dispuestos a dar por válidas esas promesas que no se cumplen hoy, ni mañana, ni en diez, ni en 20. Pero seguimos dando pábulo a esas promesas. Palantir es un buen ejemplo, es una empresa que tiene mucho poder político y comercia con promesas que no está claro que pueda cumplir y, sobre todo, a qué precio. Lo que está defendiendo es, en esencia, un estado de vigilancia. Otro muy claro es el de la medicina. Es muy tentador, por supuesto todos queremos una medicina más eficiente, queremos vivir mejor y más sanos. Y es tal el deseo que estamos dispuestos a tener plena confianza en la gente que nos dice que lo va a lograr. Hay investigaciones que demuestran que la IA no siempre es el mejor método para avanzar en la ciencia y que, de hecho, no solo estamos descubriendo menos que antes, sino que además la IA está introduciendo nuevos errores científicos a una escala mayor. The Lancet, una de las revistas médicas más importantes del mundo, publicó justo este mes un artículo sobre cómo las citas falsas se han multiplicado por doce desde 2023 porque la gente está utilizando modelos de lenguaje. P. Palantir cerró un contrato millonario con el sistema de salud británico, el NHS, y han reportado cientos de datos de mejoras, con hospitales aumentando un 12% el uso de quirófanos, reducciones del 40% en cancelaciones de pacientes el mismo día, aumento del 10% en cirugías... No pueden inventarse esos datos. R. Por supuesto que podrían, no habría ninguna consecuencia. Nadie lo está verificando. Uno de los patrones que he encontrado es que tendemos a usar más números cuando desconfiamos más de las personas. Y se nos olvida que son los seres humanos los que inventamos los números y los que decidimos qué datos se recolectan y cómo. Si tú le preguntas a cualquier persona en Inglaterra que compare el estado del NHS hoy con lo que era hace diez o quince años, todo el mundo te diría que ha empeorado en todos los aspectos: calidad, tratamiento, esperas... Lo peligroso de los datos es la ideología de que los datos mandan, de que los datos dicen la verdad, cuando los datos los recolecta alguien con una agenda en particular y decide qué datos se publican y cuáles no. "Anthropic está diciendo cosas realmente tóxicas: que la persona a cargo de ética diga que quiere que Claude sea feliz es preocupante" P. El fundador de Palantir, Alex Karp, publicó recientemente el libro La república tecnológica. Está fundamentado en tres o cuatro narrativas muy fuertes, muy atractivas. Se ve de manera muy clara que hay una inversión enorme de tiempo y esfuerzo en generar esas narrativas que están en la base de gran parte del negocio de las tecnológicas y de todo el movimiento financiero alrededor de ellas. R. Totalmente. Creo que las grandes tecnológicas han tenido más éxito en las narrativas que en cualquier otra cosa. Y eso es muy interesante porque, por una parte, es decepcionante, muestra nuestros errores a la hora de contrarrestarlas, pero, por otra parte, también apunta a un futuro mucho más optimista porque nosotros también podemos construir narrativas más cercanas a la verdad y más humanas. P. ¿Qué te pareció la encíclica del papa León XIV sobre la IA? R. Me parece que el contenido es en muchas partes positivo, bienvenido y acertado. Pero me preocupa que las grandes instituciones se utilicen unas a las otras para lavar su imagen. Me llama la atención que alguien como el Papa todavía tenga la capacidad de atraer tantísima atención. Y me preocupa que el discurso siga estando tan increíblemente dominado por hombres. Si miras las 224 referencias de la encíclica, me parece que solamente viene una mujer citada. P. ¿Es Anthropic la gran ganadora de esa pelea de narrativas, presentándose como la IA 'buena'? R. Sí, totalmente, y presentándose como contrapeso a Palantir y como la opción moral, cuando ellos no son ningunos santos. Entrenaron su sistema, literalmente, robando libros y a sabiendas. Y luego están diciendo cosas que me parecen realmente tóxicas para el discurso público: que la persona a cargo de ética en Anthropic diga que quiere que Claude sea feliz es increíblemente preocupante. Si se lo cree, es superpreocupante, y si no se lo cree, también. El CEO y cofundador de Anthropic, Dario Amodei. (Reuters) P. Siguiendo con este tema de las narrativas, me interesa tu opinión sobre dos de las tesis más seductoras. Por un lado, la idea de que las mejores mentes en ingeniería e informática de las últimas décadas se han dedicado a hacer tonterías y banalidades como aplicaciones para móviles y programas para destruir nuestra atención. Dicen que toca volver a hacer cosas importantes, como ir a la Luna o defender militarmente la democracia. La otra tesis es que si no lo hace Occidente o Estados Unidos, lo va a hacer China. Sostienen que si no nos metemos en esta carrera, desregulamos y hacemos todo lo necesario para ganar, la carrera la van a ganar los chinos y al final va a ser peor para nosotros. R. Es cierto que es un poco triste que muchas mentes brillantes se hayan pasado tanto tiempo tratando de engancharnos a las redes sociales o a los móviles. Pero, por otra parte, estoy completamente en desacuerdo en que el gran proyecto sea este plan masculino de dominar el mundo con la tecnología. Eso me parece todavía más triste. Creo que una de las cosas que se han puesto en evidencia en los últimos años es que la tecnología sin buena gobernanza nos puede dejar en un mucho peor lugar que si nunca la hubiéramos desarrollado. Creo que el proyecto que deberíamos tener enfrente es uno de renovación de la democracia, de mejora de la sociedad civil, de asegurarnos de que no perdemos conocimiento, de que no perdemos habilidades, de defender los derechos humanos. Me gustaría que esos fueran los proyectos a los que se dedicaran las mentes brillantes. Sobre la pelea Occidente-China, ¿cuál es de verdad la meta de esa carrera? Porque si el objetivo es diseñar una tecnología perfecta para una dictadura, yo espero que perdamos esa carrera. Creo que el objetivo debería ser desarrollar una IA que pueda dar soporte a la democracia y no que la erosione. Esa sí es una carrera que me gustaría que ganáramos. P. No parece que la actual administración Trump esté interesada en ese tipo de carrera. ¿Cree que el aceleracionismo que estamos viendo en la industria de la IA está en buena parte impulsado por la alianza entre Trump y Silicon Valley? R. Esa pregunta me la voy a saltar y no te puedo decir por qué. Pero me gustaría terminar invitando al optimismo y recordándole a la gente que el futuro es nuestro y que siempre es posible interceder. Aunque haya batallas que sean duras de pelear, merece la pena pelearlas, se ganen o se pierdan, porque, en parte, una buena vida está en vivir bien. Tenemos que buscar más la serendipia, hablar con extraños, leer muy ampliamente, estar abiertos a la incertidumbre y acordarnos de que cuando el futuro es incierto, aunque eso nos provoque ansiedad, en realidad son muy buenas noticias porque quiere decir que no está escrito.