Barcelona, 10 de junio del 2026, 9.50 horas. Un hombre es tiroteado en la confluencia de la calle Balmes con La Granada del Penedès, delante de una comisaría de la Policía Nacional. Las cámaras de seguridad graban al pistolero y la imagen se difunde con rapidez en las redes. En ella se muestra a un hombre caucásico, con el pelo moreno y, ¿de complexión media? ¿con barba? La instantánea, capturada en un móvil, está borrosa y apenas se pueden distinguir sus facciones.Alguien se apresura a buscar una solución para identificar al autor del asesinato. “¡Inteligencia artificial, haz tu magia!”. Una nueva fotografía del sospechoso nace de las entrañas de ChatGPT, que colorea convincentemente de un color caqui los pantalones cortos del hombre. Ni rastro del gris que el ojo humano podría interpretar en la foto original. Redimensiona la pistola, algo más voluminosa, y transforma la sombra de la barbilla en una incipiente barba que perfila el rostro del individuo. Hasta parece haber concluido que las orejas del sospechoso son más pequeñas de lo que podría parecer. Y así, píxel a píxel, genera una nueva imagen con una cara fácil de identificar si de su vecino se tratase. Toda una fantasía, de no ser porque la única información de la que se disponía entonces para potenciar la imagen era la misma imagen.La imagen del pistolero de la calle Balmes captada por cámaras de seguridad LV/ Terceros“Alguien ha tomado la foto sospechosa del tiroteo en Balmes y la ha ‘potenciado’ con IA (ChatGPT, concretamente). La podemos considerar FALSA porque esta cara la ha inferido la IA, no tiene porqué asemejarse a la real. Tampoco sabemos el prompt, que condiciona”, advertía el especialista en verificación Carlos Baraibar. En efecto, condiciona. @copdefuzz lo ve claro: “El prompt es evidente. 'Ponle rasgos árabes'”. @mlsboy100 ve una clara cojera. “Por lo que veo, este tío camina cojo, será fácil encontrarlo”. @Pallacus acude al rescate: “No se puede sacar información de donde no la hay”.A veces, la evidencia es tal que la creación del bicho tecnológico se delata por sí sola. Sobre todo cuando es uno mismo el que sale retratado. Es lo que le ocurrió a Luis Gil Borrallo, un sacerdote que clamó al ver que los dedos se le habían multiplicado en una fotografía en la que aparecía confesando a un joven en la calle en Madrid, durante la visita del papa León XIV la semana pasada.“Tengo como quince dedos, me cambian la cara, desaparecen las gafas de sol, desaparece la cruz de mis manos, desaparece el bordado de la estola... todo para hacer un reportaje”, protestaba. Rastreando la imagen, damos con otra publicación en la que se muestra la misma instantánea y la sometemos al chivato de OpenAI, matriz y creadora de ChatGPT. La herramienta revela, según se detalla en la misma plataforma, si el archivo “contiene señales de procedencia asociadas con imágenes generadas por herramientas de OpenAI. Busca señales compatibles, incluidos metadatos C2PA y marcas de agua SynthID, e informa de si detecta alguna de las dos”. Bingo: Generado con herramientas de OpenAI.Imagen generada con IA LVLa proliferación de contenidos audiovisuales creados o editados con IA obliga al usuario a estar en alerta permanente. ¿Cómo saber si lo que estamos viendo es real? Inspeccionar la imagen —contando los dedos de quienes aparecen en pantalla, por ejemplo— es un buen inicio. El fondo también puede ser un indicador de que hay algo que se escapa de la realidad. Si no hay ninguna incoherencia, la comprobación de los metadatos del archivo es otro recurso: suelen desaparecer al someter el contenido a la IA. Hacer una búsqueda inversa en Google y usar detectores de imágenes de IA también ayuda, aunque no es concluyente.La IA, un reto para los usuarios... y para sus creadoresLa IA avanza a pasos agigantados. El acceso universal a estas herramientas y su rápida evolución suponen también un desafío para sus propios desarrolladores. El 12 de junio, Anthropic se vio obligado a recular y cortar el acceso a Mythos y 5 y Fable 5, sus mejores modelos, a cualquier ciudadano que no fuera estadounidense, incluidos sus empleados. El veto llegó por orden de la Administración Trump, que alegó cuestiones de “seguridad nacional”. ¿Qué es lo que teme el Gobierno de EE.UU.? En un comunicado, la compañía sugirió que las autoridades habrían descubierto “un método para eludir, o ‘desbloquear’ Fable 5”, de manera que información confidencial podría verse comprometida en circunstancias específicas. Una IA blindada en términos de seguridad parece no ser posible hoy en día, motivo insuficiente a ojos de Anthropic para paralizar un modelo de IA. “No estamos de acuerdo en que el descubrimiento de una posible vulnerabilidad limitada deba ser motivo para retirar un modelo comercial implementado para cientos de millones de personas. Si este criterio se aplicara a toda la industria, creemos que paralizaría prácticamente todos los nuevos lanzamientos de modelos para todos los proveedores de modelos de vanguardia”, defienden.¿Cómo evitar entonces que la IA se descontrole? Antrophic apuesta por los límites, pero impuestos desde un organismo independiente. A principios de junio, el CEO de la compañía, Dario Amodei, alertó en una publicación de la necesidad de poner coto a la inteligencia artificial ante su evolución vertiginosa: “En solo cuatro años, los modelos de IA han pasado de apenas poder escribir una línea de código coherente a escribir la mayor parte del código en las principales empresas de IA”.Identificar los desafíos que supone y evitar que caiga en las manos equivocadas es imprescindible para poner límites a una IA cada vez con mayor poder. El tiempo apremia: la cara de inventada de un asesino o un cura con 15 dedos será el menor de nuestros problemas.Redactora en La Vanguardia desde febrero de 2015, Miriam Elies (Barcelona, 1990) es graduada en Periodismo por la Universitat de Vic. Ha colaborado en el blog Uvica’t, en el espacio Sense Boira de la edición digital de El 9 Nou y en Ràdio Sant Feliu. En la actualidad, es portadista de la edición digital del diario.