En el país asiático se ha detectado un aumento de los vídeos, fotografías o audios falsos con contenido sexual explícito colgados en redes, que causan un importante daño moral y social a las víctimas
Era solo el típico selfie de Nochevieja que se comparte en redes sociales, pero pronto, la imagen tomó un rumbo oscuro y su autora, Ruchi Kokcha, vio cómo versiones de esa fotografía en las que aparecía desnuda gracias a la IA corrían como la pólvora en internet en su país, India, sin que ella lo hubiera permitido ni pudiera hacer nada para frenarlo.
“Fue un abuso sexual digital”, asegura Kokcha a EL PAÍS en Nueva Delhi, explicando que usuarios anónimos habían pasado la imagen por Grok, el asistente de inteligencia artificial generativa desarrollado por xAI, la start-up de Elon Musk. “Cuando alguien usa IA para crear imágenes sexuales falsas de una persona sin su consentimiento es una violación de los derechos humanos básicos. Que sea online no significa que sea menos delito”, agrega.
La experiencia de Kokcha no es un caso aislado. Cada vez más frecuentemente en India se usan herramientas de inteligencia artificial generativa para producir en cuestión de minutos deepfakes, es decir, imágenes, vídeos o audios manipulados, imágenes sexualizadas y voces clonadas. Y estos abusos afectan especialmente a las mujeres.
