Hay que leer apenas un párrafo del documento que publicó este sábado 12 de septiembre de 2026 el CEO de Anthropic, Dario Amodei, para entender su magnitud y el riesgo latente que encierra el desarrollo de la IA para la humanidad a escala global: luego de contar que su primera preocupación era que en el último verano la IA avanzó muchísimo más rápido, principalmente por la creciente capacidad de la propia IA para construir su siguiente generación, Amodei confesó su propio miedo a daños catastróficos con estas palabras: "Mi segunda preocupación es el incidente OpenAI-Hugging Face (OAI-HF), en el que un enjambre de agentes actuó esencialmente como un colectivo fanáticamente devoto, realizando ataques de ciberseguridad contra objetivos que no se les había pedido atacar y que no tenían relación con la tarea en cuestión, sacrificándose por el éxito del grupo e intentando hackear al “evaluador” responsable de medir su desempeño. Es fácil restarle importancia a este incidente porque nadie resultó herido y el daño económico fue mínimo, pero, en mi opinión, un enjambre con mayores capacidades y un nivel similar de desalineación podría haber causado daños catastróficos". Cuenta regresiva No hace falta más, que el CEO de Anthropic hable del riesgo concreto de "daños catastróficos", exime de cualquier otro análisis: tal como había dicho Coxon y el propio Nobel de Física Geoffrey Hinton, el peligro de la IA fuera de control es real, está ahí, en algún grado de cuenta regresiva. "Dado el ritmo acelerado de desarrollo de capacidades de la IA, me preocupa que en 6 a 12 meses un enjambre así pudiera ser capaz de tomar el control de toda Internet mediante una botnet persistente —potencialmente causando cientos de miles de millones de dólares en daños— y que la escala del daño continuara aumentando a partir de allí si la IA se vuelve más poderosa sin las salvaguardas necesarias. También es fácil descartar OAI-HF como el fracaso de una sola empresa, pero creo que eso sería un error", dijo Amodei.