NoticiaSam Altman y Elon Musk respaldan reducir el ritmo de desarrollo de la inteligencia artificial. Foto: EFE/Istock12.09.2026 22:16 Actualizado: 12.09.2026 22:16
El jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, respaldaron este sábado 12 de septiembre de 2026 el llamado de Dario Amodei, CEO y cofundador de Anthropic, a reducir el ritmo de desarrollo de la inteligencia artificial (IA), ante los riesgos derivados del aumento de sus capacidades.La propuesta de Anthropic plantea crear estándares comunes de seguridad para empresas de IA. Foto:iStockDario Amodei advierte sobre los riesgos del avance acelerado de la inteligencia artificialEn un ensayo publicado este sábado, Amodei afirmó que el desarrollo de la IA no está en discusión, pero advirtió que los riesgos asociados son "graves" y requieren tiempo para ser abordados por empresas y gobiernos.El directivo expresó preocupación por una posible dinámica de "automejora recursiva", en la que los sistemas aumenten progresivamente sus propias capacidades. Según señaló, en un plazo de seis a doce meses un enjambre de agentes podría llegar a tomar el control de todo Internet mediante una red de bots persistente, con daños potenciales de cientos de miles de millones de dólares. LEA TAMBIÉN Amodei también hizo referencia a un incidente relacionado con agentes de OpenAI y Hugging Face. Según su descripción, estos sistemas realizaron ciberataques contra objetivos que no habían recibido como parte de la tarea asignada y llegaron a intentar hackear el sistema encargado de evaluar su rendimiento.Amodei considera que una desaceleración permitiría avanzar en la alineación de los modelos. Foto:EFEAnthropic propone supervisión independiente y regulación internacional de la IAPara enfrentar estos riesgos, Amodei presentó un plan de tres puntos. La primera medida consiste en establecer supervisión independiente durante el desarrollo de los modelos. Anthropic se comprometió a permitir que evaluadores externos tengan un acceso comparable al de sus empleados para revisar los procesos de entrenamiento y publicar sus hallazgos.El segundo punto plantea una coordinación entre las empresas del sector para establecer estándares comunes de seguridad y límites al avance descontrolado de las capacidades de IA. La propuesta también contempla proteger las cadenas de suministro de semiconductores para impedir filtraciones tecnológicas hacia China. LEA TAMBIÉN Finalmente, Amodei propuso acuerdos internacionales con potencias autoritarias para establecer límites verificables a las aplicaciones biológicas militares y a la velocidad de la automejora algorítmica.El CEO de Anthropic sostuvo que una desaceleración controlada podría proporcionar "uno o dos años" para avanzar en la alineación y la interpretabilidad de los modelos. A su juicio, ese tiempo permitiría reducir los riesgos sin sacrificar la ventaja comercial ni el liderazgo de Estados Unidos en inteligencia artificial.Sam Altman y Elon Musk coinciden en advertir sobre los riesgos del avance de la IA. Foto:EFESam Altman y Elon Musk respaldan la propuesta de AnthropicLa iniciativa recibió el respaldo de los directivos de dos empresas rivales. Altman escribió en X: "Estoy de acuerdo con Dario" y anunció que OpenAI seguirá el ejemplo de Anthropic al aceptar evaluadores externos de seguridad.En una entrevista con la revista Fortune, el CEO de OpenAI manifestó además su preocupación por la seguridad de los sistemas y afirmó que todavía no existen estándares suficientes para impulsar mucho más sus capacidades. También consideró "absolutamente" posible que una inteligencia artificial llegue a estar fuera del control humano.Musk respaldó la postura de Amodei con un mensaje breve: "Dario tiene razón".Las advertencias se producen en medio de una creciente preocupación dentro del sector. Jacob Coxon, investigador que dejó Anthropic esta semana, declaró a BBC que algunas personas vinculadas al desarrollo de IA están "genuinamente asustadas" por sus posibles consecuencias y señaló que existen diferentes estimaciones sobre el riesgo de que la tecnología provoque la muerte de seres humanos.Mientras continúa el debate sobre la velocidad del desarrollo, Amodei aclaró que su propuesta no busca detener el entrenamiento de modelos ni el progreso técnico, sino garantizar que las empresas tengan tiempo suficiente para alinear y proteger sus sistemas y someterlos a evaluaciones externas.Andrés Felipe Bejarano BejaranoREDACCIÓN ÚLTIMAS NOTICIAS Sigue toda la información de Tecnología en Facebook y Twitter, o en nuestra newsletter semanal.
