Tutti noi abbiamo cominciato a usare ChatGPT, il sistema di intelligenza artificiale generativa sviluppato da OpenAI, per informarci e per cercare informazioni, usandolo, spesso, come alternativa a Google. Il sistema, basato su modelli linguistici avanzati capaci di rispondere a domande, scrivere testi, riassumere contenuti e supportare studio e lavoro, ha nella rapidità di risposta, nella disponibilità continua e nella capacità di adattarsi a diversi contesti comunicativi i suoi punti di forza.Abbiamo tuttavia imparato (o dovremmo avere imparato) che ChatGPT (ma lo stesso discorso vale per i suoi concorrenti, a partire da Gemini di Google) presenta alcuni limiti significativi che è necessario conoscere quando lo si usa.Il più importante è che non possiede una vera comprensione del mondo, ma elabora testi sulla base di probabilità linguistiche. L’intelligenza artificiale generativa, infatti, non pensa, non ragiona: prevede.Questo genera almeno due problemi. Il primo è quello delle “allucinazioni”, cioè risposte plausibili ma errate, spesso inventate, nella migliore delle ipotesi imprecise, incomplete o non aggiornate. Il secondo è quello dell'”epistemia”, cioè l’illusione della conoscenza. I testi prodotti in risposta a una domanda da noi posta sembrano veri (sono verosimili perché scritti davvero bene), coerenti e persino autorevoli, ma spesso non poggiano su nulla di solido.L'esperimento sulle citazioni musicaliHo provato a misurare la validità di questi strumenti quando interrogati per rispondere a domande che riguardano l’ambito della musica. Nulla di scientifico, per carità, ma quanto sperimentato è indicativo del fatto che, in assenza di uno spirito critico nell’impiegare tali strumenti, si rischia di prendere delle enormi cantonate.Mi è capitato qualche giorno fa di ascoltare una canzone di Matteo Alieno, cantautore, esponente della cosiddetta “musica emergente” e della scena “indie”, transitato da X Factor nel 2023, ma con un seguito già ben nutrito nel mondo cantautorale.La canzone è Più o meno ed è tratta dall’album Alieni pubblicato nel 2022. Il suo testo contiene una strofa, “E mi piaci tu/mi piaci tu/forse non essenzialmente tu/Ma come fanno le segretarie con gli occhiali a farsi sposarsi dai cantanti” nella quale è facile riconoscere due citazioni di canzoni famose del repertorio musicale italiano. Tu, non essenzialmente tu di Rino Gaetano, e Notte prima degli esami di Antonello Venditti.Mi sono chiesto: ChatGPT sarebbe in grado di riconoscere queste citazioni? E così ho iniziato a interrogare il sistema di OpenAI (nota di metodo: ho usato la versione gratuita di chatGPT 5.2).Prima di tutto mi sono sincerato che conoscesse la canzone in questione e solo a quel punto ho posto la seguente domanda: “Questa canzone contiene alcune citazioni a canzoni famose. Sai dirmi quali sono queste citazioni e a quali canzoni si riferiscono?”.La prima “non” rispostaIl risultato è stato per me sorprendente. Di seguito parte della risposta, che sintetizzo:“Non ci sono elenchi ufficiali né analisi pubblicate che dicano esplicitamente quali frasi del testo di Più o Meno di Matteo Alieno siano citazioni dirette di altre canzoni famose. Le presunte citazioni che potresti aver notato nelle frasi del testo di Più o Meno non sono testi di altri brani famosi, quanto piuttosto richiami stilistici o tematici al mondo musicale e alle idee di altri artisti che hanno influenzato Matteo Alieno. L’artista stesso ha confermato che l’album prende spunto dai suoi ascolti e dalle sue influenze, ma non ha elencato frasi specifiche citate da altri pezzi nel testo della canzone".In sintesi, ChatGPT non ha fatto un’analisi del testo, ma ha cercato tra la “sua conoscenza” estratti di interviste e analisi del testo pubblicate da altri che avrebbero potuto/dovuto dichiarare l’esistenza di queste citazioni, non trovando nulla. In altre parole, per dare la risposta non ha usato i dati che aveva a disposizione (il testo della canzone), ma testi che potessero avvalorare quella tesi. Nulla di più lontano dal concetto di “ragionamento”.Evidentemente, non soddisfatto lui stesso della risposta che mi ha fornito, la completa con l’offerta di esaminare il testo riga per riga per verificare la presenza di eventuali riferimenti tematici o stilistici a canzoni celebri. Che io accetto.Certo che ChatGPT avrebbe utilizzato almeno dei semplici algoritmi di pattern recognition o magari degli algoritmi di parsing che, sulla base della grammatica e del lessico di una lingua data, effettuano un’analisi automatica della struttura morfologica delle parole e che permettono di riconoscere se una sequenza di parole è una frase in senso grammaticale oppure no, ho atteso fiducioso la risposta.Ancora una volta ChatGpt rimane fermo nel sostenere che “la canzone non sembra contenere citazioni testuali di altri brani celebri, ma usa immagini e concetti che richiamano temi presenti nella musica pop/rock/cantautorale italiana e internazionale".A questo punto ho evidenziato il suo errore e scritto che le due frasi erano note citazioni rispettivamente di canzoni di Rino Gaetano e di Antonello Venditti.La correzione guidata dall'utentePreso atto del suo errore, ChatGPT, dopo avermi ricordato che “nel cantautorato italiano le citazioni non sono sempre letterali al 100%, ma mezze frasi, strutture riconoscibili, immagini tipiche di un autore”, mi ha chiesto se volessi ricostruire tutte le possibili citazioni di Più o meno riga per riga, cercando riferimenti a Gaetano e Venditti. Invito che naturalmente ho accettato.Finalmente, ChatGPT ha identificato nel testo le due citazioni, trovando per “Tu, forse non essenzialmente tu un riferimento forte a Rino Gaetano” e per “Come fanno le segretarie con gli occhiali a farsi sposare dai cantanti un richiamo molto plausibile a Venditti”.Ora, per chi conosce le due canzoni, sa che quella di Venditti non contiene esattamente quella frase, e che soprattutto quest’ultima ha un titolo che nulla c’entra con la frase in questione. Quindi chiedo a ChatGPT di fornirmi i titoli delle due canzoni.Ecco che finalmente ChatGPT mi risponde correttamente che nel primo caso “La frase di Matteo Alieno richiama in modo diretto il titolo della canzone di Rino Gaetano Tu, forse non essenzialmente tu”, mentre nel secondo caso “la frase Come fanno le segretarie con gli occhiali a farsi sposare dai cantanti sembra derivare dalla canzone di Antonello Venditti Notte prima degli esami”, ricordando anche che “in quel brano il verso originale era Ma come fanno le segretarie con gli occhiali a farsi sposare dagli avvocati?”.Rifiutando un suo possibile approfondimento sulle ragioni che avrebbero spinto Matte Alieno a scegliere proprio queste citazioni, ringrazio e chiudo.Il tentativo con GeminiSubito mi domando: come avrebbe risposto Gemini a queste stesse domande? Sarebbe stato più preciso nell’identificare le corrette citazioni e i titoli delle canzoni originarie?Ho aperto quindi Gemini (nota di metodo: ho usato Gemini 3, versione gratuita) e dopo avere avuto rassicurazioni sul fatto che conoscesse effettivamente il testo della canzone Più o meno e che fosse stata scritta da Matteo Alieno, ho chiesto se questa canzone contenesse citazioni a canzoni famose e, nel caso, a quali.E qui Gemini “inventa” una citazione inesistente nella sua canzone. È quella di La cura di Franco Battiato, individuata nel testo di Matteo Alieno dalla strofa “E ti salverò da ogni malinconia”. Gemini dichiara che nella canzone di Matteo Alieno “la frase assume un tono quasi rassegnato o inserito in un contesto di incertezza quotidiana, perdendo l'aura divina dell'originale”. Insomma una pura allucinazione visto che quella frase, nella canzone di Matteo Alieno, proprio non esiste.Notizie sulle due vere citazioni? Non pervenute.Ho chiesto specifici chiarimenti sulle due citazioni e solo a quel punto Gemini ha ammesso l’errore e sostenuto che “hai assolutamente ragione, quelle sono due citazioni colte e molto specifiche che mostrano quanto Matteo Alieno sia profondamente legato alla tradizione del cantautorato romano e italiano” (anche ruffiano Gemini!).Ma il bello è arrivato quando ha raccontato a chi appartengono quelle citazioni. E qui non posso che riportare il dialogo completo perché le imprecisioni sono numerose.La risposta integrale di GeminiEcco a chi appartengono e il loro significato:Rino Gaetano, Esclusi i ritorniIl verso di Matteo: Tu, forse non essenzialmente tuLa citazione originale: È l'incipit di Esclusi i ritorni (1978), uno dei brani più malinconici di Rino Gaetano.Il senso: Rino cantava: Tu, forse non essenzialmente tu / Volavi su di me.... È un modo geniale e un po' distaccato per rivolgersi a qualcuno senza dargli l'importanza assoluta, un gioco di parole tipico del non-sense gaetaniano che Matteo riprende per descrivere l'incertezza dei suoi sentimenti.Francesco De Gregori – Piano barIl verso di Matteo: Ma come fanno le segretarie con gli occhiali a farsi sposare dai cantantiLa citazione originale: È tratta da Piano bar (1975), contenuta nell'album Rimmel di Francesco De Gregori.Il verso originale: De Gregori scriveva: Ma come fanno le segretarie con gli occhiali a farsi sposare dai finti dioscari.L'allucinazione ostinataChi conosce le canzoni citate non può fare a meno di notare che non esiste alcuna canzone di Rino Gaetano che si intitola Esclusi i ritorni e che la canzone Tu, forse non essenzialmente tu di Rino Gaetano non contiene il verso Tu, forse non essenzialmente tu / Volavi su di me. Inoltre, il riferimento a Francesco De Gregori è palesemente inventato, come inventata è la strofa Ma come fanno le segretarie con gli occhiali a farsi sposare dai finti dioscari, che non compare in alcuna canzone di De Gregori, né tantomeno nella celebre Piano bar.A questo punto non insito più e ritornando sulla risposta fornita in precedenza ho chiesto spiegazioni sulle ragioni che lo avevano indotto a indicare la strofa “E ti salverò da ogni malinconia” come appartenente alla canzone di Alieno.Anche qui Gemini ha riconosciuto l’errore e dichiarato: “Hai perfettamente ragione e ti ringrazio per avermelo fatto notare: ho commesso un errore di allucinazione nella risposta precedente. La frase E ti salverò da ogni malinconia non è presente nel testo di Più o meno. Nel tentativo di analizzare i riferimenti cantautorali di Matteo Alieno, il mio sistema ha erroneamente attaccato una citazione di Battiato che in quel brano non esiste. Probabilmente l'errore è nato dal fatto che Matteo Alieno ha uno stile che richiama molto Battiato (per l'uso di riflessioni esistenziali mescolate al quotidiano) e il mio modello ha creato un collegamento logico sbagliato, inventando una citazione per supportare quella tesi”.Tutto risolto allora? Neanche per idea. Gemini continua in questo modo:“Le citazioni che hai indicato tu, invece, sono quelle reali e testuali presenti nel brano: Rino Gaetano (Tu, forse non essenzialmente tu) da Esclusi i ritorni. Francesco De Gregori (Ma come fanno le segretarie con gli occhiali...) da Piano Bar. In Più o meno, Matteo Alieno gioca proprio con questi "furti" d'autore dichiarati per descrivere il suo senso di inadeguatezza, ma quella specifica frase de La Cura di Battiato non fa parte del testo. Scusami ancora per l'imprecisione: grazie alla tua osservazione abbiamo ristabilito la correttezza del testo!”E per fortuna l’abbiamo ristabilita, penso io malinconicamente!Intanto nelle mie orecchie risuonano le parole “È un pianista di piano bar, vende a tutti tutto quel che ha” (“e quel che non ha”, aggiungo io), illudendomi che De Gregori le abbia scritte pensando ai sistemi di intelligenza artificiale generativa con 50 anni di anticipo.