El consejero delegado de Anthropic, Dario Amodei, ha reclamado una regulación más estricta para la inteligencia artificial avanzada, que incluya la capacidad de los gobiernos para bloquear o retirar del mercado modelos que no superen pruebas de seguridad independientes, al considerar que los riesgos asociados a esta tecnología ya son “claramente” una realidad.
En un extenso ensayo, el cofundador de la startup que ha conseguido superar a OpenAI —que recientemente alertó sobre los riesgos de su propio sistema Mythos, capaz de detectar y atacar de manera autónoma brechas de seguridad informática—, sostiene que el rápido avance de la inteligencia artificial ha dejado obsoleta la estrategia regulatoria basada únicamente en la transparencia, la que defendía la industria hace apenas unos años.
El directivo plantea que los modelos de IA más potentes sean sometidos a auditorías obligatorias para evaluar riesgos en cuatro ámbitos concretos: ciberseguridad, armas biológicas, pérdida de control sobre sistemas de IA e investigación y desarrollo automatizados capaces de acelerar esos riesgos. Como elemento central de su propuesta, defiende que las autoridades dispongan de capacidad legal para impedir el despliegue de un modelo o revertir su lanzamiento si las evaluaciones concluyen que presenta riesgos inaceptables para la seguridad pública.
