Martin Wolf

Londres / 11.06.2026 00:27:07

La semana pasada pregunté si la inteligencia artificial es una burbuja, una bendición o una maldición. Mis respuestas fueron, en orden, “hasta cierto punto sí y sí”. Ahora quiero analizar más a fondo la última pregunta, sobre las “maldiciones”. Los temas que abordaré son: ¿qué tan peligrosa es la IA?, ¿qué debemos hacer para contenerla?, ¿funcionará alguna forma de regulación? Mis principales conclusiones serán que definitivamente es peligrosa, que sin duda debemos tratar de regularla y, sin embargo, con toda probabilidad, el intento va a fallar.Algunos me dicen que no tengo derecho a opinar porque no soy un experto. Otros, que debemos aceptar todo lo que la tecnología nos ofrece, porque es la fuente del crecimiento económico. Ambas posturas son erróneas. Una democracia es un proyecto político compartido. Todos tenemos derecho a participar en los debates sobre cómo manejar las tecnologías.Esto fue cierto cuando se inventó la bomba atómica. Lo mismo ocurre con la IA, que tendrá consecuencias mucho más complejas, pero también peligrosas. Además, el supuesto derecho a decidir ese tipo de asuntos que reclamaban algunos gigantes tecnológicos, sin duda se perdió después del enorme daño causado por las redes sociales a los jóvenes y al bien público de la información veraz.¿Es descabellada la comparación entre IA y armas nucleares? No, porque la primera también puede acarrear graves perjuicios. Estos se dividen en tres categorías: un colapso de los valores humanos fundamentales, algunos peligros específicos de gran magnitud y disrupción generalizada.Los humanos pensamos, creamos y actuamos. ¿Qué va a suceder cuando (o si) las máquinas hagan la tarea de pensar e incluso de crear y actuar por nosotros? ¿Seguiremos esforzándonos por comprender o nos acostumbraremos a que nos lo den todo hecho? En resumen, ¿la IA no sólo cambiará lo que hacemos los humanos, sino quiénes somos?Un aspecto fundamental de lo que significa ser humano es la rendición de cuentas. Este problema se hizo evidente cuando Javier Milei, presidente de Argentina, anunció la creación de la “corporación no humana”. Como respondió Yuval Harari: “Los países que otorgan personalidad jurídica a las IA corren el riesgo de convertirse en algo para lo que la historia no ofrece analogía: no un Estado empresarial, sino un Estado de IA”.Legalmente las empresas son “personas”. Pero las compañías de IA podrían tomar decisiones sin intervención humana. ¿Cómo y ante quién sería responsable un programa de IA? Los directores ejecutivos delincuentes pueden ir a prisión. ¿Cuál es el equivalente para la IA? Como dice el papa, la IA es una “herramienta”. No es una persona. ¿Sufre? ¿Sangra? ¿Puede asumir responsabilidad moral? ¿Puede rendir cuentas de alguna manera significativa? No. Además, esta cuestión de la responsabilidad no se limita al ámbito empresarial. ¿Quién es responsable de los crímenes de guerra una vez que la IA dirige ejércitos de robots?El problema de la rendición de cuentas también surge para otras instituciones capaces de utilizar los recursos disponibles gracias a la integración de la IA con otras tecnologías. Las posibilidades de vigilancia masiva son enormes. Lo mismo ocurre con las de crear armas autónomas. La fabricación de falsedades, deepfakes y estafas ya se potenció enormemente. Estos avances pueden ser utilizados por Estados, actores privados o ambos. ¿Cómo funcionarán la ley y la rendición de cuentas política en un mundo así? En un artículo provocador en Substack, el economista Noah Smith incluso argumenta que la IA se apoderará del mundo.Luego están los peligros más específicos. Uno obvio es la capacidad de perturbar nuestra civilización cibernética. Tuvimos un atisbo de esto cuando Anthropic advirtió sobre la amenaza de Mythos para la ciberseguridad. Casi todo de lo que dependemos depende, a su vez, de estos sistemas. Si la IA pudiera causar una disrupción, la vida se volvería insegura y las posibilidades de extorsión serían ilimitadas. La posibilidad de diseñar patógenos letales también es aterradora.Niall Ferguson, de la Institución Hoover, advierte que parte de lo que hace que la IA sea incontrolable es que la impulsan dos carreras armamentistas simultáneas: una entre un pequeño número de empresas y otra entre EU y China. Hasta ahora, Estados Unidos ha decidido no regular la carrera entre sus empresas, y ambos países intentan controlar la que se da entre ellos. Ferguson argumenta que la primera se explica en gran medida por la segunda. Un acuerdo entre Washington y Pekín sobre la regulación de la IA es, según él, una condición necesaria para controlar la competencia “parecida a la de la mafia” de las principales empresas estadunidenses.Como argumenté la semana pasada, estamos en una trampa: los tecnólogos nos están catapultando, a una velocidad extraordinaria, hacia un mundo nuevo cuyas implicaciones ni comprendemos ni controlamos. Esto se debe en parte a que la IA es la más “general” de las tecnologías de propósito general. Incluso puede significar la sustitución de la inteligencia humana por la artificial. Las implicaciones, como ya señalé, van más allá de las preocupaciones sobre peligros específicos. La IA también afectará tanto a nuestro sentido de identidad como humanos como a la forma en que organizamos y comprendemos la sociedad: ¿los programas deberían actuar como personas, cuando no sienten, ni son conscientes, ni tienen conciencia?En cualquier caso, sin duda querríamos contener los mayores peligros, sobre todo los ya mencionados. Por tanto, una solución sensata es que EU y China identificaran y acordaran algún tipo de tratado de desarme de la IA. Eso puede generar mayor seguridad para todos.Hay una buena noticia: el temor a las disrupciones económicas y sociales que nos esperan genera preocupación. Creen, con razón, que el futuro es demasiado importante como para dejarlo en manos de unos cuantos “expertos en tecnología”, del mismo modo que la guerra es tan relevante como para dejarla en manos de generales. Ante esto, puede abrirse la puerta a la regulación. La próxima semana analizaré qué medidas pueden adoptarse al respecto.