Hace apenas una semana, el papa León XIV visitó la Universidad de La Sapienza, en Roma. Ante un auditorio abarrotado de estudiantes, avisó de los riesgos de la IA. "Tenemos que asegurar que esta tecnología no agrave la tragedia de los conflictos", dijo. Se llevó una ovación cerrada. Solo tres días después, la situación se repitió, pero con actores y mensajes muy diferentes: el ex CEO de Google, Eric Schmidt, dio el discurso de graduación en la Universidad de Arizona, y también mencionó la IA. "Esta tecnología impactará en todas las profesiones, todas las aulas, todos los hospitales y todas las personas y relaciones", advirtió. El abucheo fue tan ensordecedor que tuvo que detener su intervención... varias veces. Ambos episodios, casi calcados, pero con resultados opuestos, son la prueba más reciente de que algo se está cociendo. ¿Estamos empezando a odiar la IA? "La inteligencia artificial necesita ser desarmada. La palabra es fuerte, lo sé, pero la he elegido deliberadamente porque este momento necesita palabras capaces de atraer la atención. [...] La IA exige ahora ser “desarmada”, liberada de las lógicas que la convierten en un instrumento de dominación, exclusión y muerte". Son palabras del papa León XIV, pronunciadas en la presentación de su primera encíclica, un documento que se ha convertido ya en el mayor y más sonado alegato en defensa de un desarrollo responsable de la IA. Es decir, en todo lo contrario de lo que está ocurriendo hoy en día. "Este papa está diciendo cosas muy sensatas", resume Alex Hanna, investigadora, matemática, ingeniera y exempleada de la unidad de ética de IA de Google, en una entrevista con El Confidencial. Hanna lleva años estudiando movimientos sociales surgidos como reacción a innovaciones tecnológicas. Y recuerda que los datos respecto a la IA no son tranquilizadores. Según el Pew Research Center, el 50% de los adultos estadounidenses dice estar más preocupado que entusiasmado por la IA. En España, los porcentajes son mayores: al 75% de los adultos la IA les genera incertidumbre, según el CIS, y al 51% miedo. Entre los jóvenes de 18 y 29 años, la foto es aún peor: en EEUU, el 61% cree que la IA va a perjudicar a su creatividad, y el 58% a su habilidad para establecer relaciones con otras personas. Los abucheos a Eric Schmidt y las palabras de León XIV no son casuales. En su último libro, La estafa de la IA, un alegato similar a la encíclica del papa, pero escrito a derribo, Alex Hanna y la lingüista Emily Bender exponen su teoría de lo que está ocurriendo. "La IA es una estafa en el sentido de que, para crearla, han robado millones de datos sin consentimiento, barriendo con todo lo que hay en internet. Los centros de datos arrebatan el derecho al aire y el agua limpia en muchas comunidades por su coste medioambiental. Y se ofrece como un reemplazo barato para los servicios sociales o el asesoramiento médico, descualificando a los trabajadores a gran escala", explica Hanna. Según ella, estamos asistiendo al nacimiento de un movimiento social anti-IA al que, quién lo iba a decir, el papa León XIV acaba de echar gasolina. PREGUNTA. Christopher Olah, cofundador de Anthropic, asistió y habló en la presentación de la encíclica del papa. El lobo en el gallinero. ¿Cómo se explica? ¿Marketing? ¿Lobby papal? RESPUESTA. Eso ha sido bastante decepcionante. Parece que Anthropic ha ido ganando la partida del relato público con su mensaje de “Oye, nosotros somos la empresa buena de IA ¡Mirad, incluso hablamos con el papa!”. Han llegado incluso a acercarse a la Iglesia para debatir sobre teología y sobre cómo dotar a sus chatbots de “moral”. La idea de que realmente estén haciendo algo así es ridícula a simple vista, pero la gente de Anthropic, supuestamente, se lo toma completamente en serio. P. ¿Qué impacto crees que tendrá la encíclica del papa León XIV en la industria de la IA y a nivel geopolítico? R. No estoy segura de que vaya a tener mucho efecto ni en una ni en otra, sobre todo porque Trump ha estado enfrentándose abiertamente al papa. Solo hay que recordar aquel tuit en el que le acusó de ser “blando con el crimen”. El papa León XIV saluda al cofundador de Anthropic, Christopher Olah, durante la presentación de su encíclica 'Magnifica humanitas' este lunes. (Reuters) P. Se empieza a hablar de una especie de rebelión contra la IA. En EEUU, los abucheos de estudiantes a empresarios y directivos tecnológicos ya son tendencia. Hace un par de semanas le pasó a Eric Schmidt (y antes a Gloria Caulfield o Scott Borchetta). No se había visto algo así en mucho tiempo. R. Eric Schmidt es una figura enorme, exconsejero delegado de Google y expresidente del consejo de administración. Lo interesante de Schmidt fue que, cuando todo el mundo empezó a abuchearle, él adoptó una postura desafiante. Dijo algo así como "podéis abuchear, pero tengo razón. Eso solo significa que no os gusta la ciencia”. Eso me molestó. Como científica social pensé, no, en realidad muchas de estas personas sí se preocupan por la ciencia y por eso te abuchean, porque la IA está arruinando la investigación científica. Se veía muy claro que vive en su burbuja y no entendía lo que estaba pasando. Su reacción fue en plan: “¿Por qué me odian? Esto va a cambiarlo todo y la gente tiene que aceptarlo”. P. ¿Te parecen anecdóticas esas reacciones o crees que son el germen de una tendencia mayor? R. Creo que reflejan algo más amplio; no me parece que sea idiosincrático. Reflejan claramente cómo a esta generación le disgusta la IA. Hay varias encuestas que muestran que existe mucho sentimiento anti-IA. También hay antagonismo cultural hacia el 'contenido basura' generado por IA, el IA slop. Esa oposición y ese sentimiento son reales. P. La gente joven que protesta contra la IA a la vez la usa de forma intensiva. ¿No es contradictorio? R. La usan mucho, pero empiezan a distanciarse de ella. El mensaje con el que se les está bombardeando es: “Vais a ser reemplazados en vuestros trabajos”. En algunos sectores se está disparando la tasa de desempleo para recién graduados. En EEUU, la tasa de desempleo media para nuevos graduados está alrededor del 4,2%. Pero en ingeniería e ingeniería informática roza el 8%. El subempleo es también muy elevado, en torno al 41,5%. Si están subempleados, tienen que trabajar en uno, dos o incluso en tres empleos a la vez. Al mismo tiempo, tienen a todos estos impulsores de la IA diciéndoles que van a ser reemplazados. P. ¿Qué crees que piensan Eric Schmidt, Elon Musk y muchos otros impulsores de la IA al ver estos abucheos... o a gente tirando cócteles molotov a la puerta de su casa, como le ocurrió a Sam Altman? R. Creo que es importante social y culturalmente que exista resistencia. No creo que esto vaya a disuadir a Schmidt o a Altman, están ganando dinero a espuertas y buscan desarrollar un apoyo cultural a sus tecnologías. Pero si a la generación Z no le gusta la IA, a ellos les da igual, solo necesitan convencer a los líderes empresariales. No necesitan ser creadores de tendencias culturales porque ya tienen el capital económico. P. Las protestas universitarias son solo uno de los frentes. Hay gente manifestándose contra la instalación de centros de datos en sus ciudades, psiquiatras y psicólogos avisando de los riesgos de la IA para la salud mental, empleados de Google, OpenAI o Amazon exigiendo a sus empresas que no firmen acuerdos con el Pentágono para usar la IA con fines armamentísticos. ¿Es todo parte de la misma tendencia anti-IA? R. Es difícil decir si todas estas resistencias son iguales. La oposición a los centros de datos a menudo proviene de personas que no son creadores de tendencias culturales. En EEUU ocurre mucho en zonas rurales y conservadoras, lo cual es sorprendente porque no es el perfil que uno esperaría en una coalición anti-IA. Estamos viendo una convergencia interesante. No creo que sean necesariamente las mismas personas, buena parte de la oposición está ligada a intereses materiales particulares más que a elementos culturales o al futuro de los trabajos cualificados, pero la resistencia viene de muchos lados. "Hay una gran diferencia entre el Google de antes y el de ahora. Google empezó siendo un negocio enfocado al consumidor, ahora, en empresas" P. ¿Es una rebelión? ¿Un movimiento? ¿Cuán relevante es? R. Depende de cómo lo mires; puede ser una rebelión o un movimiento. Lo que define a un movimiento es la combinación de un grupo de personas, una coalición, una solidaridad mutua y organizada para movilizarse. ¿Existe eso aquí? En la oposición a los centros de datos sí hay organizaciones formalizadas luchando contra proyectos específicos. Eso sí podría ser un movimiento. Un movimiento suele tener demandas concretas; agitan contra algo y proponen alternativas. Estamos viendo muchos rechazos interconectados que podrían convertirse en partes de un movimiento. Todavía no tenemos una visión de 360 grados sobre esto, está muy fragmentado. P. Mirando los datos, la industria de la IA no está muy preocupada. Anthropic está a punto de superar en valoración a OpenAI, ha cerrado 11.000 millones de ingresos en su último trimestre, OpenAI va a salir también a bolsa, Google va mejor que nunca... R. Sí, aunque la gente los odie, ellos no venden al consumidor. Hay una gran diferencia entre el Google de antes y el de ahora. Google empezó siendo un negocio enfocado al consumidor, ahora está enfocado en empresas. Cuando empezaron, parecían una empresa guay que te ayudaba a acceder a la información. Eso es muy diferente de vender herramientas de productividad empresarial o software de programación a grandes corporaciones. A las empresas no les importa si algo es cool o no; solo les importa el beneficio económico. Alex Hanna. (Foto: Will Toft/Cedida) P. El precedente histórico que todos tenemos en mente de rebelión contra la tecnología es el de los luditas de finales del s. XVIII y comienzos del XIX. ¿Hay algún paralelismo? R. Los luditas estaban limitados a un lugar, Reino Unido, y a una industria, la de los tejedores. Tenían una táctica clara, una red social muy densa y nadie se delataba. Su objetivo estaba centralizado: romper los telares mecánicos. Hoy en día, la diferencia está en las tácticas. ¿Va a ir la gente a destrozar servidores a centros de datos ubicados en sitios casi militarizados? No tiene sentido. Eso no significa que la resistencia actual esté menos organizada, sino que las tácticas han tenido que cambiar. En uno de nuestros proyectos, el Luddite Resource Hub, acabamos de publicar un trabajo que recopila casos de estudio de sindicatos y organizaciones laborales que luchan contra la IA mediante la negociación de contratos, derechos de acción individual o educación política. Son tácticas menos públicas y menos violentas, pero están muy organizadas. P. Es interesante compararlo también con la popularización de internet a finales de los 90. Fue una gran revolución, pero no hubo apenas resistencia social. R. La promesa de internet era diferente. Se vendía como una herramienta para permitir a los individuos expresar sus opiniones. Quienes la impulsaron no decían que te iba a quitar el trabajo. Ahora tienes a Sam Altman y a Dario Amodei diciendo abiertamente que la IA va a acabar con todos los empleos. Amodei habló de un "baño de sangre para los trabajadores de cuello blanco". Entre el nacimiento del internet comercial y el momento actual, hemos vivido una entrada masiva de los fondos de inversión, la consolidación de las industrias de medios, el auge de la extrema derecha y la especulación del capital privado. Las grandes tecnológicas ahora lo controlan todo y lo están arruinando mediante la especulación masiva. P. Hace un año publicaste un libro junto a Emily Bender titulado La estafa de la IA. Quienes lo critican aseguran que es muy extremista: la IA puede ser una herramienta muy útil y potente. Parece que en IA todo son extremos, o es una amenaza existencial para la humanidad o una estafa. ¿No hay grises? R. No creo que sea una postura extrema en absoluto. De hecho, está muy en línea con la actitud de gran parte de la sociedad. Quienes la consideran extrema son los que se autodenominan 'expertos en IA'. Un informe del Pew Research Center del año pasado mostraba la enorme brecha entre esos expertos en IA y el público general. El 56% de los expertos en EEUU cree que el impacto de la tecnología en los próximos 20 años será positivo, mientras que el 35% de los adultos lo ve como algo negativo. Hay un abismo enorme. La industria de la IA vende un producto que no hace lo que aseguran que hace. Además, se vende para enriquecer a un grupo muy reducido de empresas. Que sea útil o no para tareas individuales es otra historia, pero la discusión sobre la estafa es clara. Las posiciones extremas son las de quienes creen en el riesgo existencial y dicen que esta tecnología nos va a matar a todos. Eso sí me parece un delirio. La lingüista Emily Bender, coautora junto a Alex Hanna del libro 'La estafa de la IA'. (Foto: DAIR/Cedida) P. Su colega Emily Bender popularizó la expresión "loros estocásticos" para referirse a la IA: parece que razona, pero en realidad repite palabras como un loro, sin entender lo que dice. No hay inteligencia, no hay razonamiento, solo patrones estadísticos. Muchos especialistas en IA creen que esta teoría ha quedado desfasada, aseguran que los modelos son cada vez más complejos y razonan cada vez más. R. La analogía del loro estocástico sigue siendo totalmente válida porque la tecnología subyacente hace lo mismo. Lo que llaman "razonamiento" consiste en integrar diferentes puntos de control donde el sistema se consulta a sí mismo para facilitar las instrucciones posteriores. La IA actual sigue estando basada en la arquitectura Transformer y la generación de texto sintético. Que haya más pasos intermedios no cambia la raíz. Usar el término "razonamiento" es una antropomorfización confusa, no razona como un humano. P. Está claro que hay una mayor preocupación ahora respecto a la IA que hace dos o tres años. ¿Qué crees que va a ocurrir a partir de ahora? ¿Qué escenarios crees que pueden producirse? R. Los movimientos sociales siempre van a trompicones. Pensar que el éxito significa que se van a cumplir todas las demandas de golpe es no entender nada. Los movimientos funcionan porque cambian las cosas culturalmente, logran intervenciones políticas o hacen que la situación actual sea insostenible. Reid Hoffman [fundador de LinkedIn] escribió un libro terrible llamado Superagency donde habla de los luditas y dice: "Si los luditas hubieran ganado, habrían tenido tejidos excelentes, pero el resto del mundo se habría automatizado y adelantado a Reino Unido". Lo que me parece más perverso de ese argumento es ignorar que no habríamos obtenido derechos laborales básicos si no hubiera sido por la gente que destrozaba las máquinas. No tendríamos prohibiciones sobre el trabajo infantil, ni protecciones ambientales. Aunque los logros parezcan modestos en retrospectiva, la gente sudó y murió para hacerlos posibles. Eso no ocurre de forma automática, ocurre mediante la agitación y la organización, y siempre será así. Quizás no detengamos por completo la tecnología, pero podemos lograr un marco político mejor y protecciones laborales sólidas. "Estamos en un periodo en el que la democracia está bajo ataque. La lucha anti IA es, en el fondo, una lucha por la democracia". P. ¿Cuál sería para ti la definición de éxito del movimiento anti IA? R. Que las personas recuperen el control sobre el futuro de sus comunidades locales y su entorno. Que no se construyan centros de datos que envenenen los recursos locales, o que su desarrollo esté regulado y las corporaciones paguen los impuestos que les corresponden. Por ejemplo, en Ohio, donde vive mi madre, un senador estatal me dijo que es el séptimo estado con mayor crecimiento de centros de datos de todo EEUU, pero ocupa el puesto 27 en ingresos fiscales derivados de ellos. El éxito sería que los centros de datos cumplan estrictos requisitos medioambientales, que la energía no destruya a las comunidades y que los estados recauden lo justo de empresas que valen miles de millones de dólares. A nivel laboral, el éxito significa tener protecciones que garanticen un trabajo con dignidad. Necesitamos controlar a estas enormes organizaciones que dictan el rumbo del mundo. Ahora mismo, las personas con la mayor cantidad de dinero del mundo están tomando decisiones por todos nosotros. Frenar eso es el objetivo del movimiento anti-IA. P. ¿No están para eso las democracias? ¿Para escoger (o no) a gobernantes que solucionen estos problemas? R. Claro, pero estamos precisamente en un periodo en el que la democracia está bajo ataque. Hay un ensayo corto de Elizabeth Anderson titulado Private Government: How Employers Rule Our Lives and Why We Don't Talk About It, que explica muy bien cómo en el entorno laboral estamos controlados por organizaciones profundamente antidemocráticas sobre las cuales no tenemos ninguna influencia. No es solo un problema tecnológico o de puestos de trabajo. La lucha anti-IA es, en el fondo, una lucha por la democracia.