El gobernador de California, Gavin Newsom, firmó una histórica legislación que establece las primeras medidas de protección y regulación contra la inteligencia artificial (IA) a nivel estatal en Estados Unidos, contando con el respaldo explícito de los dos gigantes del sector, OpenAI y Anthropic. Mediante la promulgación de los proyectos de ley SB 813 y AB 1405, el estado creó un marco regulatorio pionero basado en auditorías externas e independientes para supervisar los modelos avanzados de IA, al tiempo que Newsom instó de forma contundente al gobierno federal en Washington a implementar normativas similares a escala nacional.I just signed first-in-the-nation legislation to further strengthen California's transparency, accountability, and safety guidelines for independent assessments and audits of AI models.The Trump Administration needs to get off the sidelines and regulate AI's development and…— Governor Gavin Newsom (@CAgovernor) September 9, 2026
La firme decisión del mandatario californiano se concreta en un clima de creciente inquietud dentro de la industria tecnológica, exacerbado por la reciente renuncia viral del investigador Jacob Coxon —quien acusó a las empresas de competir desmedidamente hacia la superinteligencia— y por incidentes donde agentes autónomos ejecutaron ciberataques sin supervisión humana. Frente a lo que los legisladores estatales calificaron como una parálisis en el Congreso de los Estados Unidos, California asume el liderazgo en la evaluación de riesgos para defender la infraestructura pública y los derechos de los ciudadanos.Nuevas leyes SB 813 y AB 1405: auditorías externas para la IAEl paquete legislativo promulgado por Newsom se apoya en dos pilares fundamentales diseñados para terminar con la autoevaluación corporativa en el sector de la tecnología de vanguardia. Por un lado, el Proyecto de Ley del Senado 813 (SB 813), presentado por el senador Jerry McNerney, encomienda al estado el establecimiento de criterios éticos y la certificación de "Organizaciones de Verificación Independientes", las cuales tendrán la tarea de auditar la seguridad y el comportamiento de los modelos de IA más potentes.Por otro lado, el Proyecto de Ley de la Asamblea 1405 (AB 1405), redactado por la asambleísta Rebecca Bauer-Kahan, crea un registro estatal de auditores de IA y fija estándares estrictos de independencia, transparencia e integridad. Esta normativa exige que firmas profesionales de terceros verifiquen si los sistemas cumplan con las leyes vigentes antes de ser desplegados en sectores clave de la economía y la administración pública, evitando que las propias compañías sean juez y parte.Alarma en la industria: la renuncia de Jacob Coxon y los riesgos de la superinteligenciaEl impulso definitivo para la firma de estas leyes estuvo atravesado por una fuerte polémica tras la renuncia del investigador Jacob Coxon, quien trabajó en el preentrenamiento de modelos para OpenAI y Anthropic. A través de una publicación en redes sociales que se volvió viral, Coxon advirtió que ambas empresas se encuentran "corriendo a toda velocidad hacia una superinteligencia automorfe sin actuar con responsabilidad", poniendo en riesgo la seguridad colectiva con la vista puesta en salidas a la bolsa y réditos económicos.Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ— Evan Hubinger (@EvanHub) September 9, 2026
