Gavin Newsom promulgó en California un paquete de leyes que prohíbe funciones adictivas de redes sociales para menores de 16 años y establece controles sobre chatbots de inteligencia artificial. (REUTERS/Mike Blake/File Photo)El gobernador de California, Gavin Newsom, promulgó el 10 de septiembre un paquete de leyes que prohíbe a las plataformas de redes sociales ofrecer funciones adictivas a usuarios menores de 16 años y establece controles sobre los chatbots de inteligencia artificial (IA). La legislación, que incluye restricciones al desplazamiento infinito, a la reproducción automática y a los sistemas de recomendación algorítmica, convierte a California en el primer estado de Estados Unidos en adoptar una regulación de este alcance.Newsom la firmó ante el Puente Golden Gate, acompañado de legisladores y familias afectadas por los riesgos de la tecnología en la infancia.PUBLICIDADEl gobernador Gavin Newsom publica un mensaje en redes sociales sobre la firma de leyes de seguridad infantil para inteligencia artificial y plataformas digitales en California. (@GavinNewsom)El paquete promulgado el 10 de septiembre incluye 13 normas que abarcan desde las redes sociales y los chatbots de IA hasta la privacidad escolar y los juguetes tecnológicos:Las plataformas podrán cumplir la norma al desactivar esas funciones para menores o al impedirles el acceso, con verificación de edad mediante una señal del sistema operativo desde enero de 2027.AB 1709: Prohíbe funciones adictivas (scroll infinito, autoplay, feeds algorítmicos) en redes sociales para usuarios menores de 16 años.SB 1119 (Ley Adam): Regula los chatbots de acompañamiento: exige evaluaciones de riesgo, controles parentales, protocolos de crisis y límites de tiempo para menores.AB 2: Fija sanciones civiles de hasta un millón de dólares por niño a plataformas que causen daños por negligencia.SB 1276: Amplía la definición legal de explotación sexual infantil para incluir imágenes digitalmente alteradas o generadas con IA.SB 1128: Prohíbe a las escuelas exigir a los alumnos de jardín de infantes y preescolar que lleven dispositivos electrónicos a sus casas.SB 867: Prohíbe durante cuatro años la fabricación y venta de juguetes con chatbots de acompañamiento para menores de 16 años.AB 1856: Ajusta el sistema de señales de verificación de edad establecido por la AB 1043, con una exención para sistemas operativos de código abierto.AB 2246: Actualiza las obligaciones de diseño seguro para servicios digitales accesibles a menores.AB 1946: Crea un mecanismo de denuncia de material de abuso sexual infantil en plataformas digitales.AB 1159: Fortalece la protección de la información personal de los estudiantes en sistemas de IA.AB 2071: Incorpora contenidos de bienestar digital en los estándares de educación en informática.AB 302: Regula el uso de feeds algorítmicos adictivos en comunicaciones escolares sobre actividades extracurriculares.AB 2298: Actualiza los estándares curriculares de informática con enfoque en bienestar y seguridad digital.La norma central del paquete es la Ley AB 1709, impulsada por el asambleísta demócrata Josh Lowenthal. La ley prohíbe que las redes sociales ofrezcan a usuarios menores de 16 años elementos de diseño como el scroll infinito, la reproducción automática de videos y los feeds personalizados —conocidos popularmente como páginas “Para ti”— que se construyen a partir del historial de navegación y el perfil del usuario. Estos mecanismos, según los legisladores, prolongan el tiempo de uso de las plataformas más allá de la intención original del usuario.PUBLICIDADLa ley no obliga a los menores a abandonar las plataformas: las empresas pueden cumplirla desactivando esas funciones para ese grupo de edad o, en su defecto, vedándoles el acceso a sus servicios por completo. Para verificar la edad de los usuarios, las plataformas deberán apoyarse en un sistema introducido por otra norma estatal aprobada el año pasado, la AB 1043, que exigirá a los proveedores de sistemas operativos transmitir a las aplicaciones una señal con el rango de edad del usuario a partir de enero de 2027.“Esto es sobre abordar el problema real: el scroll, los algoritmos. Esto es sobre abordar la cuestión sustantiva alrededor de la ingeniería”, afirmó Newsom ante la prensa, según recogió The Guardian. “Y eso es lo que convierte a esta en una ley verdaderamente significativa y trascendente”. PUBLICIDADEl paquete dirige exigencias específicas a los chatbots de acompañamiento, IA que mantienen conversaciones continuas con usuarios. La ley SB 1119, llamada Ley Adam por Adam Raine, un adolescente californiano que murió por suicidio en 2025 tras usar ChatGPT, fija obligaciones para los operadores de estos sistemas:Las plataformas podrán cumplir la norma al desactivar esas funciones para menores o al impedirles el acceso, con verificación de edad mediante una señal del sistema operativo desde enero de 2027. (REUTERS/Sam Wolfe/File Photo)Realizar evaluaciones de riesgo independientes antes de lanzar sus productos al público.Implementar controles parentales activos y protocolos de crisis: si un chatbot detecta señales de autolesión en un usuario menor de edad, la empresa deberá notificarlo a sus padres o tutores.Fijar límites de tiempo de uso para menores de edad.Incorporar recursos de salud mental dentro de la propia interfaz del chatbot.Efectuar auditorías de seguridad infantil independientes de forma anual.Maria Raine, madre de Adam, participó de la firma de la legislación. “Adam fue un adoptante temprano de la IA, y muchos padres no entendíamos los peligros en ese momento. Ahora nos estamos volviendo más conscientes de los peligros de los chatbots de acompañamiento”, declaró, según The Guardian.Otra ley de California prohíbe por cuatro años la venta de juguetes con inteligencia artificial conversacional para menores de 16 años y refuerza la privacidad infantil. (REUTERS/Sam Wolfe)Otras dos leyes del paquete amplían este marco: una prohíbe durante cuatro años la venta de juguetes con capacidades de IA conversacional para niños menores de 16 años y otra fortalece las protecciones de privacidad infantil al impedir que las empresas recopilen datos de menores como condición para acceder a sus servicios.PUBLICIDADLa ley AB 2, también firmada en la misma jornada, establece que las compañías tecnológicas pueden enfrentar multas de hasta un millón de dólares por cada niño al que sus plataformas hayan causado daños demostrables, como ansiedad, depresión u otros perjuicios para la salud mental. La norma fija como indemnización el mayor entre dos montos: 5.000 dólares por violación con un tope de un millón por niño, o el triple de los daños reales acreditados, lo que en la práctica puede elevar las multas por encima de ese umbral.El paquete también incluye una disposición que amplía la definición legal de explotación sexual infantil para incorporar imágenes generadas o alteradas con IA que representen a menores. Por otra parte, la ley SB 1128 prohíbe a las escuelas exigir a los alumnos de jardín de infantes y preescolar que se lleven dispositivos electrónicos a sus casas, una medida orientada a limitar la exposición temprana a pantallas.PUBLICIDADLa aprobación de este paquete se produce semanas después de que Meta llegara a un acuerdo con California y otros 28 estados que habían presentado demandas colectivas contra la empresa. Las acusaciones sostenían que la compañía diseñó sus plataformas Instagram y Facebook de forma deliberada para generar comportamientos adictivos entre los menores y que engañó a los consumidores sobre la seguridad de sus productos.El paquete amplía la definición de explotación sexual infantil a imágenes generadas o alteradas con inteligencia artificial y prohíbe que escuelas de jardín de infantes y preescolar envíen dispositivos electrónicos a las casas.Meta acordó pagar hasta 18.000 millones de dólares y comprometerse a aplicar una serie de cambios en sus plataformas para adolescentes, entre ellos límites diarios de uso y bloqueos automáticos durante la noche. El acuerdo evitó la celebración de un juicio federal en California. El caso fue uno de los más resonantes de los últimos años en materia de responsabilidad de las plataformas digitales frente al bienestar infantil, e influyó en el clima político que hizo posible la aprobación de estas leyes.PUBLICIDADDías antes, Newsom había promulgado dos leyes de supervisión más amplia de la IA, respaldadas por Anthropic: una crea un marco para que organizaciones independientes evalúen la seguridad de sistemas y modelos de IA; la otra establece un registro estatal de auditores con estándares de independencia financiera, transparencia e integridad.Ambas se suman a una estrategia que el estado viene construyendo desde 2024, con normas sobre deepfakes, marcas de agua digitales y divulgación pública de protocolos de seguridad por parte de las grandes empresas del sector. Australia fue el primer país del mundo en prohibir las redes sociales para menores de 16 años y desde entonces más de 40 países han tomado esa decisión como referencia.PUBLICIDADLa legislación no estuvo exenta de críticas. La Electronic Frontier Foundation (EFF), organización sin fines de lucro dedicada a la privacidad digital y la libertad de expresión, considera que la AB 1709 opera en la práctica como una prohibición encubierta del uso de redes sociales para los menores de 16 años, ya que eliminar funciones básicas de navegación puede excluirlos de comunidades, información y espacios de expresión digital.“Negarles a los menores el acceso a foros digitales —o eliminar las herramientas básicas necesarias para navegar en ellos— no los hará más seguros ni más saludables”, sostuvo Rindala Alajaji, directora adjunta de asuntos estatales de la EFF, en un comunicado recogido por The Guardian. Con este paquete de 13 leyes, California se ubica entre las jurisdicciones que intentan fijar límites concretos al impacto de las plataformas y la inteligencia artificial en la infancia.PUBLICIDAD