È un bel pomeriggio mite al Dolores Park di San Francisco e sto cantando tanti auguri a un dinosauro. Appena finisco la mia serenata, nella mia mano vuota compare magicamente un cupcake con una candelina rosa. Quando soffio sulla fiamma, sul volto della creatura in stile cgi compare un’espressione calma e appagata.Anche se l’uomo in questo video generato dall’AI mi somiglia e ha una voce identica alla mia, la clip è creata usando avatar, una delle nuove funzioni disponibili nell’app Gemini di Google. Le ricostruzioni digitali ricordano quelle che creava Sora, l'app che OpenAI ha recentemente chiuso. In sostanza, sono cloni digitali degli utenti che possono essere inseriti all'interno di video generati dall’intelligenza artificiale. Gli avatar sono alimentati da Omni, il nuovo modello video dell’azienda, e sono disponibili per i soli abbonati.Pago quasi 22 euro al mese per il piano AI Pro di Google e ho raggiunto rapidamente i limiti di utilizzo di Gemini, che si azzerano ogni cinque ore. Mi è bastato fare qualche domanda e generare due clip da 10 secondi con il mio avatar perché l’app mi invitasse a tornare più tardi.Video: Reece RogersIl mio volto nei video di GeminiNei primi due tentativi con Omni, sono finito a cantare tanti auguri a un dinosauro a San Francisco e a fare surf sotto il Golden Gate Bridge. I risultati mi hanno colpito e inquietato allo stesso tempo. I contenuti erano imbarazzanti, con alcuni passaggi confusi e outfit privi di senso, ma l’uomo nel video ero effettivamente io. Ho zoomato l’immagine con le dita per ingrandire il volto dell'avatar e osservare da vicino i movimenti della bocca. I denti erano un po’ strani, ma per il resto avevo davanti me stesso Reece.A differenza di OpenAI, in cui fino a poco tempo erano gli utenti a decidere se consentire ad altri di generare video AI con le loro sembianze, gli avatar AI di Google sono disponibili solo per gli adulti.Per configurare il mio avatar tramite l’app Gemini mi sono serviti circa cinque minuti. La procedura prevedeva di sedermi in una stanza ben illuminata, con la fotocamera del telefono puntata sul volto, e leggere una serie di numeri a due cifre. Poi ho girato lentamente lo sguardo verso destra, ho ruotato la testa verso sinistra. Reece 2.0 era nato, pronto a diventare la star dei miei deepfake. Fate attenzione a cosa indossate durante la configurazione, perché è probabile che il vostro outfit compaia nelle generazioni AI, ma ci torneremo più avanti.Per capire davvero cosa ho provato, analizziamo la clip del compleanno fotogramma per fotogramma. Il prompt che ho inserito recitava: “Genera un video in cui canto tanti auguri a un dinosauro anziano in cima alla collina del Dolores Park”.AI-generated clip by Reece RogersIl primo secondo si apre con la classica millennial pause. A colpire è soprattutto il fotorealismo dell’ambientazione. Invece di piazzare il mio avatar su una collina enorme di un parco qualsiasi, lo sfondo del video AI di Google assomiglia in modo sorprendente al luogo reale. Dai marciapiedi fiancheggiati dalle palme alla Salesforce Tower che svetta in lontananza, si riconosce subito il parco rappresentato nel video, anche se il risultato non è perfetto. Tutto sommato, non è un risultato sorprendente per un’azienda nota per aver mappato il pianeta.Quando la mia versione AI ha iniziato a cantare, con una voce meno stonata della mia, l'attacco mi è sembrato naturale. Muovevo le mani su e giù a tempo, come un piccolo direttore d’orchestra. Poi però mi sono inceppato su una parola e Gemini è passato su un’inquadratura più ampia proprio mentre iniziava il vero caos. Dal nulla è comparso un cupcake alla vaniglia e io ho esalato una nuvola di fumo per spegnere la candelina di compleanno.Anche la seconda clip che ho generato con la funzione avatar alternava momenti caotici a inquadrature realistiche in cui parlavo alla videocamera. Il prompt che ho usato in questo caso recitava: “Genera un video in cui faccio surf sotto il Golden Gate Bridge”.Invece di mettermi una muta, Gemini mi ha vestito di denim dalla testa ai piedi (almeno sulla tavola non avevo le scarpe). Il video includeva anche alcune immagini che sembravano riprese da una GoPro fissata alla tavola da surf.AI-generated clip by Reece RogersSicurezza al centroVia via che sempre più persone usano l’AI generativa, affidandosi soprattutto a modelli senza barriere di sicurezza rigide, aumentano anche le donne vittime di deepfake non consensuali. Google sostiene di aver messo la sicurezza al centro del lancio della sua nuova funzione. “Cerchiamo di prevenire i danni”, spiega Nicole Brichtova, che guida il team al lavoro su Omni presso Google DeepMind. “E cerchiamo di farlo senza bloccare contenuti innocui”.Questo articolo è apparso originariamente su Wired US.