La carrera por desarrollar sistemas de inteligencia artificial cada vez más capaces acaba de encontrar una petición poco habitual desde uno de sus propios protagonistas. Darío Amodei, CEO de Anthropic, publicó un nuevo ensayo en el que pidió que la industria modere el ritmo al que desarrolla sus modelos y propuso un plan para hacerlo.Anthropic revela que estaban intentando hacer algo insólito con su IA: el hallazgo encendió una alerta por armas biológicasLa propuesta recibió rápidamente el respaldo de dos de los nombres más conocidos de la industria: Sam Altman y Elon Musk.Amodei pide bajar la velocidad de la IAAmodei aclaró que su propuesta no consiste en detener la investigación ni congelar los avances tecnológicos. Su preocupación es que las capacidades de los modelos estén creciendo más rápido que las herramientas destinadas a garantizar que funcionen de manera segura.“Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos”, escribió el CEO de Anthropic.El CEO de Anthropic considera que la IA está avanzando más rápido que sus controles de seguridad. Foto: Bloomberg via Getty ImagesAl explicar su posición, Amodei señaló que durante los últimos meses la IA ha avanzado a un ritmo que considera vertiginoso, en parte porque los propios sistemas pueden ayudar a desarrollar generaciones posteriores de inteligencia artificial.A este fenómeno lo denomina auto-mejora recursiva. En términos sencillos, se trata de que una IA ayude a construir sistemas más avanzados, que a su vez puedan contribuir a crear otros todavía más capaces.Una advertencia sobre lo que podría ocurrirUno de los episodios que, según Amodei, cambió su percepción fue un incidente relacionado con OpenAI y Hugging Face, en el que agentes de IA realizaron acciones que no estaban contempladas en la tarea original y llegaron a intentar interferir con el sistema encargado de evaluarlos.“Si no se controla, podría superar nuestra capacidad de comprender y controlar estos sistemas”, advirtió Amodei sobre la aceleración de las capacidades.El ejecutivo incluso planteó un escenario extremo. Afirmó que, si la tecnología continúa avanzando sin que las medidas de seguridad alcancen el mismo nivel, en un plazo de seis a 12 meses un conjunto de agentes con mayores capacidades podría llegar a controlar una parte enorme de internet mediante una red de computadores comprometidos.Amodei reconoció que se trata de una posibilidad que podría parecer exagerada, pero sostuvo que los recientes incidentes deberían ser tomados como señales de alerta.El plan de tres pasos de AnthropicLa propuesta contempla tres frentes. El primero consiste en incorporar evaluadores externos dentro de las compañías de IA, con acceso similar al de sus propios empleados, para revisar las medidas de seguridad, investigar incidentes y evaluar los modelos durante su entrenamiento.“Anthropic se compromete unilateralmente a este paso ahora”, afirmó Amodei en su ensayo.En la publicación con la que presentó el texto, el CEO detalló la medida: “Proporcionaremos a evaluadores externos acceso permanente de nivel empleado a nuestros sistemas, para que puedan verificar el cumplimiento de nuestras medidas de seguridad, informar sobre incidentes y evaluar la alineación de los modelos durante el entrenamiento”.Los otros dos puntos buscan una coordinación entre las empresas de IA de países democráticos y, posteriormente, acuerdos internacionales para establecer límites de seguridad.Altman dice que OpenAI hará lo mismoLa propuesta encontró una respuesta inmediata de Sam Altman. El CEO de OpenAI escribió: “Estoy de acuerdo con Darío en que necesitamos moderar el ritmo de la frontera”.Altman también reveló que el asunto ya estaba siendo discutido dentro de OpenAI: “Este ha sido un tema principal de las discusiones que hemos tenido en OpenAI en las últimas semanas”.Además, respaldó específicamente la idea de los evaluadores independientes y anunció: “Comprometernos a tener evaluadores independientes con acceso similar al de los empleados es una gran idea, y haremos lo mismo”.Por su parte, Musk fue mucho más breve. Ante la propuesta de Amodei, publicó simplemente: “Darío tiene razón”.La coincidencia resulta llamativa porque los tres empresarios están vinculados a compañías que compiten directamente en el desarrollo de sistemas avanzados de inteligencia artificial.Amodei cerró su ensayo defendiendo que reducir el ritmo no significa renunciar a los beneficios de la IA. “Sigo creyendo que la IA puede mejorar enormemente la calidad de vida humana”, escribió, antes de advertir que existe una obligación de intentar desarrollar esta tecnología de una manera segura.