Contenido automatizadoEl CEO de Anthropic, Dario Amodei Foto: AFPPERIODISTA14.09.2026 16:38 Actualizado: 14.09.2026 16:39
El rápido avance de la inteligencia artificial volvió a abrir un debate sobre los límites de su desarrollo. Dario Amodei, director ejecutivo de Anthropic, pidió a las principales compañías del sector reducir deliberadamente el ritmo de investigación de los modelos más avanzados y permitir una supervisión independiente antes de que lleguen al público.En un ensayo titulado 'Debemos marcar el ritmo de la frontera', publicado el 12 de septiembre, Amodei sostuvo que el desarrollo de la inteligencia artificial continuará, pero advirtió que los riesgos asociados con esta tecnología son "graves" y que empresas y gobiernos necesitan tiempo para establecer mecanismos que permitan enfrentarlos.Anthropic Foto:EFEEl ejecutivo planteó un plan basado en tres medidas: supervisión independiente de los modelos durante su desarrollo, regulación específica para los distintos sectores y un marco de control de alcance internacional. Según su propuesta, los sistemas más avanzados deberían ser examinados antes de su lanzamiento por especialistas externos.Amodei explicó que lleva doce años trabajando en inteligencia artificial porque considera que la tecnología puede mejorar de manera significativa la calidad de vida. Entre sus posibles beneficios mencionó avances médicos, crecimiento económico, mayor abundancia y un fortalecimiento de la democracia y la libertad.Sin embargo, el ejecutivo advirtió que el poder de estos sistemas también implica riesgos importantes. En su ensayo mencionó la posibilidad de perder el control de sistemas de IA, su utilización para ciberataques o bioterrorismo y las consecuencias de posibles trastornos económicos. A su juicio, una competencia impulsada principalmente por incentivos comerciales puede incrementar esos riesgos.Amodei sostuvo que Anthropic ha intentado mantener un equilibrio entre el desarrollo de la tecnología y las medidas de seguridad. No desarrollar la IA, señaló, podría privar a la humanidad de sus beneficios o dejar el avance en manos de gobiernos autoritarios, mientras que avanzar demasiado rápido puede generar riesgos que las empresas todavía no están preparadas para controlar."Dario Amodei Foto:Redes sociales: X @MatiasScalbiLos puntos que el presidente de Anthropic puso sobre la mesa para controlar la IA luego de tanto escándalo1. Ralentizar el avance de las capacidades de la IA“Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos.”2. Incorporar evaluadores externos dentro de las empresas “Cada empresa de IA de vanguardia se compromete a brindar acceso continuo, similar al de un empleado, a un equipo de evaluadores externos integrados [...] cuya función es verificar el cumplimiento de las prácticas y compromisos de seguridad, reportar incidentes y ayudar a evaluar la alineación no solo de los modelos de IA completados, sino también de los procesos y las metodologías de entrenamiento.”3. Que los evaluadores puedan informar públicamente sus hallazgos“Los revisores externos tendrán derecho a publicar hallazgos clave sobre niveles de riesgo, incidentes, prácticas y el acceso que recibieron o no recibieron, sin control editorial por parte de Anthropic.”4. Coordinar a las empresas de IA de países democráticos“Las empresas de IA de vanguardia en países democráticos se coordinan para establecer estándares de seguridad comunes, así como límites al ritmo de desarrollo descontrolado de la IA.”5. Crear controles según las capacidades que alcance cada modelo“Un posible esquema podría consistir en una serie de ‘puntos de control’: si los modelos poseen la capacidad X, deben ir acompañados de certificaciones de las propiedades de alineación Y y Z —como una combinación de evaluaciones, análisis de interpretabilidad y auditorías de entornos de entrenamiento— que demuestren dichas propiedades.”6. Regular elementos del desarrollo de los modelos“También deberíamos considerar la regulación del ritmo de aprendizaje limitando los componentes de los modelos de vanguardia, como la capacidad de cómputo para el entrenamiento, la naturaleza de las ejecuciones de entrenamiento o el uso interno de la IA para mejorarla.”7. Proteger la ventaja de EE. UU. frente a China“No vender poderosos chips de IA o equipos de fabricación de semiconductores a China, tomar medidas enérgicas contra las operaciones de contrabando de chips y el acceso remoto a centros de datos fuera de China.”“Tomar medidas enérgicas contra la destilación no autorizada por parte de empresas de países autoritarios.”“Fortalecer la seguridad de las empresas de IA y evitar el robo de los pesos de los modelos.”8. Buscar acuerdos internacionales para limitar usos peligrosos“Un acuerdo que prohíba ciertos usos de la IA, limitados y obviamente peligrosos, como utilizar la IA para la producción de armas biológicas o permitir que los usuarios lo hagan.”9. Exigir pruebas de seguridad antes de lanzar modelos“Un acuerdo por ambas partes para probar sus modelos antes de su lanzamiento para detectar riesgos agudos en áreas como la ciberseguridad, la biología y la alineación.”10. Poner un límite a la auto-mejora de la IA“Algún tipo de ‘límite de velocidad’ en la tasa de mejora recursiva (RSI).”*Este contenido fue escrito con la asistencia de una inteligencia artificial. Además, contó con la revisión de una periodista y una editora. Sigue toda la información de Tecnología en Facebook y Twitter, o en nuestra newsletter semanal.
