A medida que el uso de la inteligencia artificial se ha ido extendiendo entre la población, la aparición de deepfakes ha sido uno de los mayores motivos de preocupación para los ciudadanos. Se trata del nombre que se usa para denominar a imágenes o, sobre todo, vídeos manipulados de manera precisa con inteligencia artificial, generalmente falseando o suplantando una identidad.En ocasiones, sirven para hacer creer a la población que un determinado personaje público ha efectuado unas declaraciones que no han ocurrido en realidad. En otras, se muestra a personas en situaciones sexuales o de desnudez de manera no consentida. Según el informe Redes que atrapan, de Save the Children, 1 de cada 5 jóvenes españoles afirman haber sido víctimas de la creación de deepfakes no consentidos.Por lo riesgoso de su utilización y difusión, y desde los inicios de las redes sociales y el uso de la IA, los expertos en ciberseguridad han batallado para encontrar maneras de identificar estos vídeos e imágenes falsas. Sin embargo, la tecnología puede estar avanzando demasiado rápido para nuestros ojos. Hany Farid, forense digital y uno de los mayores expertos en deepfakes a nivel internacional, ha asegurado que ya no confía en la capacidad humana para poder detectarlos.Farid es especialista en análisis de imagen digital, y es frecuentemente considerado como el padre de esta disciplina, pues lleva trabajando en ella desde principios de los 2000, cuando la manipulación de imágenes era un problema mucho más marginal que en la actualidad. Su primera empresa de análisis, Fourandsix Technologies, lanzó en el año 2018 Fourmatch, una herramienta pensada para identificar de manera algorítmica la veracidad de las fotografías que se utilizan como prueba en juicios.Demasiado realistaSin embargo, el experto ha dejado de “confiar en sus propios ojos” durante los últimos seis meses. En una entrevista con The New York Times, Farid afirma que siente “como si me estuviera quedando ciego. La tecnología es demasiado buena”. No es solo que expertos como él ya no puedan detectar los deepfakes con facilidad: es que la población general no puede hacerlo. “Puede que pienses que sabes distinguirlo mientras estás en tu casa, scrolleando en redes sociales… Pero no puedes. Créeme. Nadie puede”.La incertidumbre sobre el avance de la IA y sus implicaciones ha creado una profunda paranoia en el experto, una que muchos usuarios y ciudadanos comparten. “Ya no me creo nada. En cada imagen que veo, estoy fijándome en las líneas de las sombras y comprobando geometría mentalmente. Intento entender qué estoy viendo”. Se muestra pesimista al respecto: “Es el fin. Dentro de un año o dos, todo nuestro sistema visual será inútil”.No poder confiar en lo que vemos puede convertirse en un problema a nivel social. Hasta ahora, una fotografía se consideraba, por norma general, como prueba fidedigna de un hecho. Pero si las imágenes falsas que circulan en internet y en los medios parecen, a todas luces, imágenes reales, entonces es difícil decidir qué creemos y qué no. Qué ha sucedido de verdad y qué es mera ficción.Para luchar contra esta incertidumbre, Farid trabaja desde hace unos años junto a Get Real Security para crear herramientas que faciliten la identificación. A través de técnicas algorítmicas, la empresa ofrece servicios de análisis que detectan inflexiones en la voz o cambios en las expresiones y la iluminación, en busca de posibles inconsistencias. Ayudándose de ellas, el analista asegura que podría identificar la mayoría de vídeos falsos creados con IA.Pero hay un problema mayor: el tiempo. En las redes sociales y plataformas online, los mensajes se difunden en cuestión de segundos. En apenas unos minutos, la imagen falsa se ha convertido en realidad para mucha gente: “Veinte minutos después, el daño ya está hecho”.En los últimos años hemos presenciado varios acontecimientos donde la viralidad de estos mensajes ha quedado sobradamente probada. En 2022, un deepfake del presidente ucraniano Volodímir Zelensky instaba a los soldados a rendirse ante Rusia; para cuando el gobierno de la nación lo desmintió oficialmente, horas después, el mensaje ya había llegado a millones de ciudadanos y a las propias tropas. En el año 2024, imágenes generadas por IA de la cantante Taylor Swift en situaciones sexuales circularon por la plataforma X, obteniendo más de veinte mil millones de visualizaciones en apenas un par de horas. Unos meses más tarde, un agente financiero en Hong Kong aprobó la transferencia de 25 millones de dólares a unos estafadores que simularon, deepfakes mediante, una videollamada con la cúpula directiva del banco para el que trabajaba.Una incógnita para la que, por el momento, el analista no encuentra solución. Los deepfakes se crean de manera sencilla y rápida, y detectarlos cuesta tiempo y recursos que las instituciones y empresas no están dispuestas a invertir. En ocasiones, incluso aunque se intentase controlar, sería inútil. Y reitera: “Veinte minutos después de la publicación, el daño ya está hecho.” Periodista graduada en la Universidad de Zaragoza y especializada en videojuegos, tecnología retro, y tener demasiadas plumas estilográficas. También me podéis ver en Eurogamer.