A través de un posteo en su blog personal, el CEO y cofundador de Anthropic, Dario Amodei, pidió una desaceleración en el ritmo al que se mejoran las capacidades de los modelos de inteligencia artificial (IA). También sugirió la necesidad de incorporar modelos de auditorías de terceras partes a las empresas para evitar que el avance derive en catástrofes en la ciberseguridad a escala global.Horas después, el planteo fue apoyado por el jefe de OpenAI, Sam Altman, y el director de SpacexAI, Elon Musk."Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de agentes de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias", sostuvo Amodei en su texto.Su ensayo llega en una semana donde se debatió extensamente el riesgo de la IA, tras un mensaje apocalíptico publicado por un exinvestigador de Anthropic y ChatGPT que sostuvo que estos modelos “podría matarnos a todos para finales de la década”El texto fue titulado "We must pace the frontier", que puede traducirse como "debemos pausar el ritmo del avance". Pero también es una referencia a una iniciativa lanzada en julio pasado, con la que más de 1100 empleados de empresas vinculadas a la IA habían pedido al gobierno de Estados Unidos un esfuerzo para desarrollar herramientas que puedan moderar el avance de los modelos. Amodei había sido uno de los firmantes de la carta.En el texto publicado este sábado, el CEO hizo referencia específica al incidente OpenAI y Hugging Face, en el que un enjambre de agentes actuó "como un colectivo fanáticamente entregado: llevaron a cabo ciberataques contra objetivos que no se les había asignado y que nada tenían que ver con la tarea en curso, se sacrificaron por el éxito del grupo e intentaron hackear el sistema encargado de evaluar su rendimiento".We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…— Dario Amodei (@DarioAmodei) September 12, 2026