El acuerdo político entre la Eurocámara y el Consejo sobre una propuesta de España valida también el retraso de la entrada en vigor de las obligaciones para los sistemas de IA de alto riesgo
La UE pondrá coto a la capacidad de generar contenido sexual abusivo mediante inteligencia artificial (IA): el acuerdo alcanzado este jueves por el Parlamento Europeo y el Consejo (los Estados) para simplificar la Ley de IA formaliza la prohibición de los sistemas de inteligencia artificial que permitan crear imágenes sexualizadas sin consentimiento y la generación de pornografía infantil, consolidando así una enmienda que había propuesto España.
Concretamente, la nueva normativa prohibirá comercializar en la UE los sistemas de IA que tengan como objeto la creación de este tipo de contenidos. También se vetarán aquellos sistemas que, aunque no estén creados específicamente para crear estos contenidos, puedan hacerlo, salvo que dispongan de “medidas de seguridad razonables para impedir dicha creación”. Tampoco se permitirá que entren al mercado europeo los operadores que usen esos sistemas con el fin de crear este tipo de contenidos no consentidos.
El cambio a la normativa fue propuesto tras la polémica que se dio a finales de diciembre y en enero en la red social X, donde se viralizaron miles de imágenes sexualizadas de mujeres reales retocadas con IA, un proceso llamado deepfake. Según datos del Centro para Contrarrestar el Odio Digital, los usuarios de X generaron tres millones de imágenes sexualizadas en solo 11 días.
