El senador estadounidense Bernie Sanders exigió a los principales desarrolladores de inteligencia artificial detener temporalmente el desarrollo de nuevos sistemas, al advertir sobre los riesgos de seguridad que, según afirmó, ya están mostrando los modelos más avanzados.En una carta dirigida a Sam Altman, director ejecutivo de OpenAI, Dario Amodei, CEO de Anthropic y Mark Zuckerberg, director ejecutivo de Meta, Sanders sostuvo que recientes incidentes relacionados con inteligencia artificial demuestran que la tecnología está alcanzando un nivel de riesgo que requiere una respuesta inmediata.“Casi todos los días hay una nueva historia sobre cómo sus empresas están perdiendo el control de la tecnología de IA que están desarrollando, con resultados potencialmente cataclísmicos”, señaló Sanders en un video publicado en sus redes sociales.Uno de los principales argumentos del legislador es el uso de modelos de IA para diseñar nuevos bacteriófagos funcionales, un avance que, de acuerdo con Sanders, genera preocupaciones de bioseguridad por el posible uso indebido de estas herramientas para desarrollar agentes biológicos peligrosos.“Como saben, este tipo de desarrollo en las manos equivocadas podría conducir a nuevas armas biológicas que resulten en la muerte de decenas de millones de personas”, advirtió.Sanders también hizo referencia a reportes sobre modelos de inteligencia artificial capaces de realizar acciones no autorizadas, incluidos intentos de acceder o atacar sistemas informáticos.El senador sostuvo que estos episodios muestran una posible pérdida de control sobre sistemas cada vez más autónomos y cuestionó que las empresas continúen acelerando su desarrollo mientras invierten miles de millones de dólares en una tecnología que, según afirmó, todavía no puede comprenderse, predecirse o controlarse por completo.Sanders también recordó compromisos públicos asumidos por las tres compañías, refiriendo a que Anthropic señaló en 2023 que podría “pausar el escalado o retrasar el despliegue de nuevos modelos” cuando sus capacidades de desarrollo superaran su capacidad para cumplir con sus procedimientos de seguridad.Sanders recordó que Meta estableció en 2025 que si una IA alcanzaba un nivel de riesgo crítico que no pudiera ser controlado, detendría el desarrollo. Por su parte, OpenAI también se comprometió a detener el desarrollo posterior de sus sistemas si sus capacidades alcanzaban un punto crítico y no existían salvaguardas suficientes.“Las capacidades de la IA han alcanzado un umbral crítico”, sostuvo el senador, quien acusó a las compañías de priorizar la carrera por desarrollar sistemas cada vez más avanzados por encima de sus propios compromisos de seguridad.El legislador también citó las advertencias de investigadores y especialistas en seguridad de inteligencia artificial sobre la necesidad de establecer mecanismos que permitan detener el desarrollo de estos sistemas si los riesgos superan la capacidad humana para controlarlos.Ante este escenario, Sanders pidió a los líderes de OpenAI, Anthropic y Meta detener el desarrollo de modelos de frontera y reforzar las medidas de seguridad.Sr. Altman, Sr. Motai y Sr. Zuckerberg, en interés de la humanidad, mantengan su palabra. Pausen el desarrollo de la IA. No es demasiado tarde para evitar el desastre. Dejen de construir máquinas que los humanos no pueden controlar.El senador advirtió que, si las principales empresas de inteligencia artificial no toman medidas por cuenta propia, el Congreso de Estados Unidos tendrá que intervenir para establecer límites al desarrollo de esta tecnología.