El Gobierno ha dado luz verde al proyecto de ley de orgánica para regular la Inteligencia Artificial (IA), que ahora deberá ser remitida a las Cortes Generales para su entrada en vigor. En su segunda vuelta, uno de los cambios cualitativos que ha recibido la norma es que ha pasado a tener categoría de ley orgánica. Esto se debe a que los contenidos afectan a los derechos fundamentales. El texto es una adaptación de la legislación española al Reglamento Europeo de IA y amplía sus regulaciones, con la intención de garantizar un modelo "humanista" y "confiable" de esta tecnología disruptiva.PublicidadUna de las principales novedades que trae la ley es la prohibición expresa de las ultrafalsificaciones o los deepfakes sexuales y de la pornografía infantil, que no incluía la regulación comunitaria. Si el reglamento contempla ocho vetos específicos a determinados sistemas de IA, la norma española eleva la lista a diez. "Había modelos de IA conocidos por todos usados por niñas y niños", ha indicado el ministro para la Transformación Digital, Óscar López, durante la rueda de prensa tras el Consejo de Ministros este martes. Aunque no lo ha mencionado explícitamente, López se ha referido a Grok, la herramienta de la red social X, como ejemplo angular de los problemas derivados de estas prácticas. Así, la prohibición específica de esta clase de usos supone "un avance importante en la protección de los menores y especialmente de las niñas", ha defendido. La nueva norma contempla multas de hasta 35 millones de euros para quienes desarrollen prácticas prohibidas con estas tecnologías.Las prohibiciones europeas (y españolas) en la IAExisten ocho "sistemas inaceptables" que el reglamento comunitario prohíbe expresamente. El primero tiene que ver con las técnicas subliminales. Se trataría de la manipulación engañosa para anular la voluntad, causando daños físicos o psíquicos. El segundo tiene que ver con la explotación de la vulnerabilidad, por la cual un sistema pueda "distorsionar materialmente el comportamiento" de una persona por su edad, discapacidad o situación socioeconómica, según explica el propio reglamento.Una tercera prohibición tiene que ver con la clasificación biométrica, la cual sirva para deducir la raza, religión u orientación sexual de alguien mediante rasgos sensibles. También se veta la puntuación social, que permita evaluar la conducta para imponer tratos desfavorables o exclusión ciudadana injustificada. El quinto sistema prohibido es la vigilancia predictiva, es decir, analizar el riesgo de una persona de cometer delitos basándose solo en perfiles o rasgos personales.El reglamento proscribe el reconocimiento de emociones en entornos laborales y educativos, ya que puede vulnerar la intimidad y generar una situación de estrés. El scraping de rostros también queda vetado. Esta técnica consiste en extraer de manera masiva imágenes de personas con sistemas automatizados. Por último, también se prohíbe la identificación en tiempo real. Esta consiste en el uso de biometría remota en espacios públicos para conocer la identidad de una persona –algo que no se debe confundir con la verificación, la cual no está prohibida ni se considera una práctica de riesgo alto–.PublicidadUna legislación que aplica a empresas no europeasEl reglamento europeo y, por extensión, el proyecto de ley orgánica, tiene un carácter extraterritorial. Esto quiere decir que aplica a todos los proveedores de servicios que operen en Europa, incluso si estas empresas los ofrecen desde otros países. Esto ha provocado la críticas de los "tecnoligarcas", como los ha denominado Óscar López. El dueño de X, Elon Musk, llamó a la "abolición" de la Unión Europea después de que la Comisión Europea anunciara una multa de 120 millones de euros a la red social de su propiedad por el "diseño engañoso" de su marca azul de verificación de cuentas.El dueño de Telegram, Pavel Durev, envió un mensaje a todos sus usuarios el pasado mes de febrero. "El gobierno de Pedro Sánchez está impulsando nuevas regulaciones peligrosas que amenazan vuestras libertades en internet", aseguraba el magnate. En este contexto, "todo lo que sea atribuir responsabilidades a proveedores me parece una buena noticia", valora en declaraciones a Público Álvaro San Román, investigador en el programa de Doctorado de Filosofía la UNED y especializado en tecnologías.Cuatro niveles de riesgoEl reglamento clasifica cuatro niveles de riesgo y en función de este se contemplan mayores o menores limitaciones. De mayor a menor: mínimo o nulo, limitado, alto e inaceptable. En el primer nivel se categorizan la mayoría de los sistemas de IA y no están regulados. En este estrato entrarían los juegos o los filtros de correo no deseado, entre otros. Los chatbots como Grok, ChatGPT, Gemini, Claude, DeepSeek o Copilot, en cambio, suponen un riesgo limitado. Esto significa que "están sujetos a obligaciones de transparencia, como la de informar a los usuarios de que su contenido se ha generado mediante IA", informan el Consejo de la UE y el Consejo Europeo.PublicidadEn el tercer nivel de riesgo se encuentran los sistemas utilizados para diagnosticar enfermedades, la conducción autónoma o la biometría. Para este tipo de tecnologías se contemplan "requisitos y obligaciones estrictos", así como "pruebas rigurosas, transparencia y supervisión humana". Esto último no quiere decir que una persona se encargue de evaluar los resultados de cada trabajo realizado por la IA. La supervisión humana tiene un carácter más técnico y busca analizar cambios en los algoritmos que puedan haber convertido la herramienta en discriminatoria, según aclaran fuentes conocedoras. Por último, el riesgo inaceptable lo componen los ocho sistemas prohibidos –y a los que España suma los deepfakes sexuales y la pornografía infantil–.¿Preparados para el "salto civilizatorio"?Las medidas tomadas en el seno de la UE y también por parte del Gobierno central buscan establecer un marco legal capaz de hacer frente a unas tecnologías disruptivas que alteran las condiciones materiales de la sociedad y su organización. "Hemos dado un salto muy importante en un debate que es absolutamente civilizatorio", ha destacado el titular de Transformación Digital. San Román considera "elocuente" la frase de López. "Por un lado asume por fin que la IA supone un cambio civilizatorio, pero por otro considera que avanzar (tecnológicamente, se entiende) es la única forma de tomar partido en el debate sobre ese cambio", analiza.El investigador mira con sospecha las declaraciones del ministro. "La pregunta es ¿a qué debate se refiere? ¿sobre qué se va a debatir? ¿Sobre la forma de organizar esta nueva civilización? ¿O más bien el debate que se debe tener es sobre si, como sociedad, queremos asumir ese cambio?". El diagnóstico de San Román se aleja del optimismo del Gobierno: "Mientras debatimos sobre el mejor modo de legislar esta tecnología, dejamos de debatir el hecho brutal de que ya se nos ha impuesto, dejamos de debatir sobre el hecho de si queremos y necesitamos esta tecnología, dejamos de atender al hecho brutal de que la decisión civilizatoria ya ha sido tomada sin los ciudadanos, a costa de los ciudadanos y a costa del medioambiente".