Niente da fare: la ricerca di soluzioni tecnologiche per fare piazza pulita dei deepfake e delle immagini fake generate con l’AI continua a dispensare delusioni e i problemi per chi vorrebbe bloccare con efficacia la diffusione di notizie false su pagine web e social network.A sancire la scarsa affidabilità dei software per l’analisi delle immagini contraffatte è NewsGuard, che in una ricerca pubblicata lo scorso 11 maggio ha messo a confronto cinque dei più diffusi strumenti di questo tipo. Il risultato è sconfortante: nella maggior parte degli esperimenti effettuati almeno uno dei software ha sbagliato a giudicare l’autenticità delle immagini.Una valutazione delicataA rendere particolarmente complessa la classificazione tra immagini originali e artefatte contribuisce, tra le altre cose, il fatto che l’AI viene spesso utilizzata anche per modificare in maniera “innocua” le immagini. È il motivo per cui stentano a prendere piede i sistemi basati su watermark (il marchio digitale “nascosto” nelle proprietà dei file) che identificano le immagini create con l’uso dell’intelligenza artificiale.Spesso, infatti, gli utenti usano l’AI per apportare modifiche che non stravolgono il reale contenuto, come l’applicazione di filtri o il miglioramento del contrasto o della luminosità. In questi casi, la presenza del watermark finisce per avere l’effetto involontario di “marchiare” come falsa un’immagine che, in realtà, è stata solo leggermente migliorata a livello estetico.Lo stesso problema si pone per i software di analisi delle immagini, motivo per cui i ricercatori di NewsGuard hanno impostato il loro esperimento modificando le immagini in due modi diversi: una prima volta inserendo modifiche leggere (alterazioni della luminosità o sfocature) che non ne alteravano in alcun modo il contenuto. Una seconda in cui, invece, le modifiche erano decisamente più impattanti a livello di significato, come l’aggiunta di scritte, simboli e bandiere, fin ad arrivare allo stravolgimento completo dell’immagine chiedendo all’AI, per esempio, di generare la scena di un’esplosione partendo dalla fotografia di un edificio.Fonte: NewsGuard