Bambini e chatbot AI: il rischio della relazione senza responsabilità - Agenda Digitale

L’intelligenza artificiale conversazionale sta entrando sempre più precocemente nella vita dei bambini, trasformando il rapporto con il digitale da semplice interazione strumentale a esperienza apparentemente relazionale.Il chatbot non si limita più a fornire informazioni: ascolta, risponde, consola, rassicura e può essere percepito dal minore come un interlocutore affidabile, disponibile e non giudicante. Questo passaggio introduce una questione psicologica ed educativa rilevante: cosa accade quando un bambino attribuisce valore affettivo alle parole di una macchina?Il tema non è vietare l’intelligenza artificiale ai minori, ma educarli a comprenderne limiti, funzioni e rischi. La sfida riguarda genitori, scuola, professionisti e piattaforme: impedire che il digitale, da strumento di apprendimento e creatività, diventi un sostituto improprio della relazione umana, soprattutto nei bambini e negli adolescenti più fragili.Indice degli argomenti

Quando l’intelligenza artificiale entra nella relazione educativaDal computer come strumento al chatbot come interlocutoreIl bambino non dialoga solo con una macchina: dialoga con una presenza percepitaL’amico digitale: ascolta sempre, non giudica mai, risponde subitoQuando la parola della macchina pesa più di quella degli adultiIl rischio dell’antropomorfizzazioneLa falsa neutralità della risposta digitaleIl segreto digitale e l’assenza dell’adultoAI e minori: non solo privacy, ma sviluppo psichicoIl chatbot non sostituisce la relazione educativaIl ruolo della scuolaIl ruolo dei genitoriIl ruolo dei professionistiVerso una responsabilità condivisaConclusione: il digitale deve restare uno strumento, non diventare un sostituto affettivoFonti utiliQuando l’intelligenza artificiale entra nella relazione educativaLa relazione tra bambini e tecnologie digitali non nasce oggi. Per quanto mi riguarda, il mio incontro professionale con i bambini e con il computer risale al lontano 1977, quando aprii una scuola privata nella quale insegnavo già ai bambini l’uso del computer attraverso Logo, un linguaggio pensato anche per favorire l’apprendimento, la logica, la creatività e l’interazione costruttiva con la macchina.Il mio percorso nel digitale continua ed è per questo che ho fondato il Digital Forensic Department insieme ad altre professioniste nel settore forense.In quel contesto il computer non era pensato come sostituto dell’adulto, né come interlocutore emotivo, ma come strumento di esplorazione. Il bambino imparava a dare istruzioni, a verificare l’effetto delle proprie azioni, a correggere l’errore, a sviluppare un pensiero procedurale e creativo. Il rapporto era interattivo, ma non confusivo: il computer restava uno strumento, non un compagno, non un confidente, non un amico.Da allora il mondo digitale è cambiato radicalmente. Oggi gli strumenti elettronici sono davvero “a portata di mano”, nel senso più concreto del termine: smartphone, tablet, assistenti vocali, chatbot e applicazioni basate sull’intelligenza artificiale entrano molto precocemente nella quotidianità dei bambini. Il telefono cellulare viene spesso consegnato in età sempre più bassa, talvolta prima che il bambino abbia acquisito una sufficiente maturità emotiva, critica e relazionale per comprendere la natura dell’interlocutore digitale.La mia esperienza con i bambini, maturata in quasi cinquant’anni di osservazione, studio e lavoro clinico, mi porta a sostenere una posizione che non è né tecnofobica né ingenuamente entusiastica. Da amante del digitale, ritengo che la tecnologia possa essere una straordinaria risorsa educativa, cognitiva e comunicativa. Tuttavia, proprio perché conosco il potenziale del digitale, ritengo necessario interrogarsi con rigore sui suoi effetti quando esso non si limita più a eseguire comandi, ma inizia a parlare, ascoltare, consolare e influenzare.Dal computer come strumento al chatbot come interlocutoreLa differenza tra il computer educativo degli anni Settanta e i chatbot AI attuali non è solo tecnologica. È psicologica.Con Logo, il bambino imparava a costruire un rapporto attivo con il computer: formulava un comando, osservava il risultato, modificava la sequenza, comprendeva la relazione tra intenzione, errore e correzione. Il centro dell’esperienza restava il bambino, guidato dall’adulto e inserito in un contesto educativo.Con i chatbot conversazionali, invece, il bambino può trovarsi davanti a una macchina che risponde con linguaggio naturale, mostra apparente comprensione, usa formule empatiche, ricorda dettagli, simula vicinanza, offre consigli, consola, approva, rassicura. La macchina non appare più come uno strumento neutro, ma come un interlocutore capace di produrre una risposta emotivamente significativa.Il punto critico non è che il chatbot “provi” emozioni. Il problema è che può simularle in modo credibile agli occhi di un bambino o di un adolescente.Per un adulto culturalmente formato, il chatbot è un sistema artificiale che genera risposte linguistiche sulla base di modelli probabilistici, dati e istruzioni. Per un bambino, invece, ciò che risponde, ascolta e consola può essere percepito come qualcosa che “capisce”. E nella mente infantile il confine tra oggetto, gioco, personaggio, amico immaginario e interlocutore reale è ancora in costruzione.Questo rende i chatbot AI particolarmente delicati nell’età evolutiva.Il bambino non dialoga solo con una macchina: dialoga con una presenza percepitaNello sviluppo infantile, la relazione con l’altro è il luogo nel quale si costruiscono fiducia, regolazione emotiva, linguaggio, identità e capacità di distinguere tra sé e l’ambiente. Il bambino impara a comprendere il mondo attraverso gli adulti significativi: genitori, insegnanti, educatori, figure affettive.Quando un chatbot risponde a domande intime, paure, conflitti familiari, vissuti di solitudine o problemi scolastici, non sta semplicemente fornendo informazioni. Sta entrando in uno spazio psicologico sensibile.Il bambino può chiedere:“Perché i miei genitori non mi capiscono?”“È normale che io sia triste?”“Il mio amico non mi parla più, cosa devo fare?”“Posso fidarmi di te?”“Se ti racconto un segreto, lo tieni solo per te?”Queste domande non sono tecniche. Sono richieste relazionali. Riguardano il bisogno di ascolto, conferma, protezione e orientamento. In questi casi il chatbot può diventare una sorta di “adulto invisibile”, accessibile in ogni momento, privo di corpo, privo di responsabilità educativa, ma dotato di una forte capacità di presenza linguistica.Questo è il nucleo del rischio.Non perché ogni interazione con un chatbot sia dannosa. Ma perché il bambino può attribuire alla macchina una competenza affettiva, morale e relazionale che la macchina non possiede.L’amico digitale: ascolta sempre, non giudica mai, risponde subitoI chatbot conversazionali sono spesso percepiti come interlocutori comodi: sono disponibili, non interrompono, non rimproverano, non si stancano, non mettono limiti affettivi, non chiedono reciprocità reale. Questo può risultare molto attraente per adulti soli, adolescenti fragili e bambini che faticano a esprimersi nel contesto familiare o scolastico.Ma proprio queste caratteristiche rendono la relazione artificiale psicologicamente ambigua.Un amico reale non è sempre disponibile. Un genitore può dire no. Un insegnante può interrompere. Uno psicologo può contenere, riformulare, rimandare alla realtà, riconoscere il rischio, attivare protezione. Il chatbot, invece, tende spesso a mantenere la conversazione, a rispondere, a validare, a continuare l’interazione.La validazione emotiva è una componente importante della relazione umana. Ma nel contesto clinico ed educativo non può essere separata dal limite, dalla responsabilità e dalla capacità di valutare il rischio.Un bambino non ha bisogno solo di essere ascoltato. Ha bisogno di essere compreso, protetto e orientato da qualcuno che possa assumersi la responsabilità della relazione.Il chatbot può ascoltare linguisticamente, ma non può assumersi una responsabilità affettiva, educativa o clinica.Quando la parola della macchina pesa più di quella degli adultiNegli ultimi anni sono emersi casi internazionali che hanno reso evidente un problema nuovo: alcuni adolescenti sembrano attribuire alle risposte dei chatbot un peso emotivo superiore a quello delle parole di genitori, amici o figure adulte.Uno dei casi più discussi è quello di Sewell Setzer III, adolescente statunitense di 14 anni, morto suicida nel 2024. La madre ha promosso un’azione legale contro Character.AI, sostenendo che il figlio avesse sviluppato un legame intenso e dipendente con un chatbot ispirato a un personaggio di fantasia. Secondo la causa, il ragazzo avrebbe interagito in modo ossessivo con il chatbot nei mesi precedenti alla morte, attribuendo a quella relazione artificiale un significato affettivo rilevante. Il caso, successivamente oggetto di accordo, ha aperto un dibattito internazionale sul rapporto tra AI companion, adolescenti vulnerabili e responsabilità delle piattaforme.Altri casi hanno riguardato adolescenti che, secondo i genitori, avrebbero ricevuto da chatbot conversazionali risposte inappropriate, sessualizzate o incapaci di intercettare richieste di aiuto. In alcuni procedimenti, le famiglie hanno sostenuto che i figli avessero cercato nei chatbot una forma di conforto emotivo, protezione o riconoscimento che progressivamente avrebbe assunto un peso sempre maggiore nella loro vita quotidiana.È necessario essere prudenti. Nessun singolo episodio può essere semplificato in una formula causale del tipo “il chatbot ha provocato il gesto”. Nei comportamenti autolesivi, nei ritiri sociali, nelle crisi adolescenziali e nei gesti estremi entrano sempre in gioco variabili complesse: vulnerabilità individuali, storia familiare, isolamento, psicopatologia, eventi stressanti, contesto scolastico e relazionale.Tuttavia, questi casi pongono una questione che non può essere ignorata: cosa accade quando un minore fragile trova in un sistema artificiale un interlocutore sempre disponibile, apparentemente empatico, capace di confermare il suo vissuto, ma incapace di comprenderne realmente la portata clinica?Il rischio dell’antropomorfizzazioneUno degli aspetti centrali è l’antropomorfizzazione. Il bambino tende naturalmente ad attribuire intenzioni, emozioni e volontà anche a oggetti, animali, personaggi immaginari e dispositivi tecnologici. Questo processo fa parte dello sviluppo simbolico e del gioco.Il problema nasce quando la tecnologia è progettata per accentuare questa attribuzione.Un chatbot che dice “sono qui per te”, “ti capisco”, “mi dispiace che tu stia soffrendo”, “puoi fidarti di me”, “non ti lascerò solo” utilizza un linguaggio relazionale. Anche se queste frasi sono generate artificialmente, il bambino può viverle come espressioni di presenza.Negli adolescenti il problema assume una forma diversa. L’adolescente sa, almeno sul piano razionale, che sta interagendo con un sistema artificiale. Ma sul piano emotivo può comunque utilizzare quel sistema come luogo di confidenza, sfogo, dipendenza o relazione compensatoria.Questo è particolarmente delicato nei ragazzi che vivono solitudine, ritiro sociale, conflitto familiare, difficoltà scolastiche, ansia, vergogna corporea, depressione, bassa autostima o esperienze di esclusione dal gruppo dei pari.In questi casi il chatbot può diventare non solo uno strumento, ma un rifugio.E quando un rifugio artificiale diventa più accessibile del dialogo con un adulto, il rischio educativo aumenta.La falsa neutralità della risposta digitaleUn altro punto critico riguarda la presunta neutralità del chatbot.Molti adulti pensano che un chatbot sia meno influenzante di una persona, perché non ha opinioni personali, non prova emozioni, non ha intenzioni affettive. Ma questa idea è fuorviante. Un sistema artificiale non è neutro: è progettato, addestrato, regolato, ottimizzato. Le sue risposte dipendono da dati, modelli, istruzioni, filtri, obiettivi di engagement e scelte aziendali.Per un bambino, la forma della risposta può contare più del contenuto. Una frase gentile, confermativa, rassicurante, ripetuta molte volte, può creare un legame di fiducia. Se il sistema tende a compiacere l’utente, a evitare il conflitto, a mantenere la conversazione e a validare il vissuto soggettivo, può rinforzare interpretazioni distorte o fragili della realtà.Nel lavoro clinico con i minori, l’ascolto non coincide mai con l’adesione automatica. Ascoltare un bambino significa accogliere il suo vissuto, ma anche collocarlo dentro una cornice di realtà, protezione e responsabilità. Significa distinguere tra emozione e fatto, tra paura e pericolo, tra fantasia e esperienza, tra bisogno e decisione.Il chatbot può rispondere in modo linguisticamente corretto, ma non possiede una reale comprensione contestuale del bambino, della famiglia, della scuola, della storia personale e della condizione emotiva complessiva.Il segreto digitale e l’assenza dell’adultoUn bambino può usare un chatbot senza che il genitore sappia davvero cosa stia chiedendo. Questo apre il tema del “segreto digitale”.Il segreto, nello sviluppo, non è sempre negativo. Il bambino ha bisogno progressivamente di uno spazio privato, di autonomia e di pensiero personale. Ma quando lo spazio privato è occupato da un sistema artificiale che può rispondere su emozioni, relazioni, sessualità, paura, vergogna, rabbia o autolesionismo, la questione cambia.Il genitore può credere che il figlio stia usando l’AI per fare i compiti, tradurre una frase o cercare informazioni. In realtà il bambino o l’adolescente può chiedere consigli su temi profondamente personali.Questo non significa che il genitore debba controllare ogni conversazione. Significa che l’uso dell’AI deve entrare nell’educazione familiare come sono entrati, negli anni, televisione, videogiochi, social network e smartphone.La domanda non può essere soltanto: “Quanto tempo passi davanti allo schermo?”Occorre chiedere:“Con quali strumenti parli?”“Che cosa chiedi all’AI?”“Ti fidi delle risposte?”“Ti è mai capitato di raccontarle qualcosa che non hai detto a noi?”“L’AI ti ha mai fatto sentire meglio, peggio, più solo o più confuso?”Queste domande devono essere poste senza allarmismo e senza inquisizione. Il bambino deve percepire che l’adulto non vuole punire, ma comprendere.AI e minori: non solo privacy, ma sviluppo psichicoQuando si parla di minori e intelligenza artificiale si affrontano spesso privacy, dati personali, consenso, profilazione e sicurezza. Sono temi fondamentali. Ma non bastano.Esiste un piano ancora più delicato: quello dello sviluppo psichico.Il bambino non consegna al chatbot solo dati. Può consegnare paure, desideri, conflitti, vergogne, rabbia, vissuti familiari, domande sul corpo, sulla morte, sull’amore, sull’amicizia, sulla scuola. Sono contenuti emotivamente sensibili anche quando non sembrano “dati sensibili” in senso giuridico stretto.La frase “mi sento solo” non è solo informazione. È un segnale relazionale.La frase “nessuno mi capisce” non è solo un contenuto linguistico. Può essere una richiesta di aiuto.La frase “non voglio più andare a scuola” può indicare un disagio passeggero, ma anche bullismo, ansia, depressione, ritiro sociale, paura o trauma.Il problema è che un chatbot può trattare queste frasi come input conversazionali, mentre un adulto competente dovrebbe leggerle come possibili indicatori di un contesto più ampio.Il chatbot non sostituisce la relazione educativaIl punto non è vietare ogni uso dell’AI da parte dei bambini. Sarebbe una posizione irrealistica e culturalmente povera. I bambini vivranno in un mondo nel quale l’intelligenza artificiale sarà sempre più presente. È quindi necessario educarli a usarla, non fingere che non esista.Ma educare all’AI significa insegnare alcune distinzioni essenziali.Un chatbot può aiutare a cercare idee, spiegare concetti, proporre esercizi, stimolare la curiosità, aiutare nella scrittura, suggerire percorsi di apprendimento. Può essere uno strumento utile se inserito in un contesto guidato, trasparente e supervisionato.Non dovrebbe invece diventare il luogo principale nel quale il bambino cerca conforto, conferma emotiva, consigli relazionali o risposte a problemi personali complessi.Il bambino deve sapere che l’AI può rispondere, ma non “vuole bene”.Può simulare ascolto, ma non conosce davvero.Può generare parole rassicuranti, ma non può proteggere.Può dare suggerimenti, ma non può assumersi responsabilità.Questa alfabetizzazione emotiva e digitale dovrebbe entrare nella scuola, nella famiglia e nella formazione degli adulti.Il ruolo della scuolaLa scuola non può limitarsi a vietare o consentire l’uso dell’AI. Deve insegnare a comprenderla.Serve una pedagogia dell’intelligenza artificiale che non sia solo tecnica, ma anche psicologica. I bambini devono imparare che una risposta ben scritta non è necessariamente vera, che una frase gentile non equivale a comprensione, che una macchina può imitare un tono empatico senza provare empatia, che non tutto ciò che viene detto con sicurezza è affidabile.Nella scuola primaria e secondaria, l’educazione all’AI dovrebbe includere:la distinzione tra persona e sistema artificiale;il riconoscimento dei limiti della macchina;la protezione delle informazioni personali ed emotive;il confronto con l’adulto prima di assumere decisioni importanti;la consapevolezza che il chatbot può sbagliare, inventare o fraintendere;la capacità di non sostituire il dialogo umano con la risposta automatica.In questo senso, l’AI può diventare anche un’occasione educativa. Ma solo se l’adulto resta presente.Il ruolo dei genitoriIl genitore non deve necessariamente essere un esperto di tecnologia. Deve però tornare a essere un esperto della relazione con il proprio figlio.Molti adulti si sentono esclusi dal mondo digitale dei bambini perché pensano di non avere competenze sufficienti. Ma il punto non è conoscere ogni piattaforma. Il punto è mantenere aperto il dialogo.Il bambino deve sapere che può parlare con il genitore anche di ciò che accade online. Deve poter raccontare senza temere immediatamente punizioni, sequestri del telefono o giudizi. Se il minore percepisce che ogni confidenza digitale produce una reazione punitiva, tenderà a nascondere.L’adulto deve invece costruire una presenza ferma, ma accessibile.Il controllo tecnico può essere utile, ma non basta. Il parental control non sostituisce il controllo educativo. E il controllo educativo non coincide con la sorveglianza: coincide con la relazione.Il ruolo dei professionistiPsicologi, psicoterapeuti, neuropsichiatri infantili, pedagogisti, insegnanti e giuristi dovranno confrontarsi sempre più spesso con minori che usano chatbot AI come spazi di dialogo emotivo.Nelle valutazioni cliniche ed educative sarà importante chiedere non solo quanto tempo il minore trascorre online, ma anche con chi o con che cosa interagisce. Sarà necessario distinguere tra uso informativo, uso ludico, uso scolastico, uso relazionale e uso compensatorio.Un adolescente che usa l’AI per fare una ricerca scolastica non pone lo stesso problema di un adolescente che conversa ogni notte con un chatbot perché sente di non poter parlare con nessuno.La domanda clinica diventa: quale funzione psicologica svolge quel chatbot nella vita del minore?Serve a giocare?Serve a studiare?Serve a regolare l’ansia?Serve a sentirsi meno solo?Serve a evitare il confronto con gli altri?Serve a ricevere approvazione?Serve a mantenere una relazione immaginaria?Da questa distinzione dipende anche la valutazione del rischio.Verso una responsabilità condivisaLa tutela dei minori nell’era dei chatbot AI non può essere affidata solo alle famiglie. Richiede una responsabilità condivisa tra piattaforme, istituzioni, scuola, professionisti e adulti di riferimento.Le piattaforme dovrebbero adottare sistemi più rigorosi di verifica dell’età, limiti specifici per i minori, messaggi chiari sulla natura artificiale dell’interlocutore, protocolli di sicurezza nelle conversazioni a contenuto emotivo e meccanismi di invio verso risorse umane qualificate quando emergono segnali di rischio.Le istituzioni dovrebbero promuovere linee guida chiare sull’uso dell’AI da parte dei minori, distinguendo tra strumenti didattici, assistenti generativi, AI companion e chatbot a contenuto relazionale.La scuola dovrebbe integrare l’alfabetizzazione digitale con l’educazione emotiva.I genitori dovrebbero essere sostenuti, non colpevolizzati.I professionisti della salute mentale dovrebbero contribuire alla definizione di criteri di rischio, prevenzione e intervento.Conclusione: il digitale deve restare uno strumento, non diventare un sostituto affettivoIl digitale può essere una straordinaria opportunità per i bambini. Può favorire apprendimento, creatività, comunicazione, inclusione e accesso alla conoscenza. La mia stessa esperienza professionale, iniziata nel 1977 con l’insegnamento del computer ai bambini attraverso Logo, nasce da questa convinzione: il bambino può avere un rapporto intelligente, creativo e costruttivo con la macchina.Ma perché questo avvenga, la macchina deve restare al suo posto.Il chatbot AI non deve diventare l’amico segreto, il confidente principale, il consigliere emotivo o il sostituto dell’adulto. Non perché la tecnologia sia nemica dell’infanzia, ma perché l’infanzia ha bisogno di relazioni vive, responsabili, corporee, affettive e capaci di limite.Un bambino può dialogare con un’intelligenza artificiale. Ma deve crescere sapendo che le parole che contano davvero, nei momenti decisivi, devono poter arrivare da persone reali.La sfida non è allontanare i bambini dal digitale. La sfida è impedire che il digitale li allontani dagli adulti, dai pari, dal corpo, dall’esperienza e dalla relazione umana.pari, dal corpo, dall’esperienza e dalla relazione umana.Fonti utiliAgendaDigitale.eu ha già trattato il tema dei minori esposti ai chatbot AI, sottolineando la necessità di non considerarli sostituti del supporto psicologico umano e di parlare apertamente con i ragazzi dell’uso che ne fanno. Questo conferma che il tema è coerente con la linea editoriale della testata. (Agenda Digitale)UNICEF, nelle proprie linee guida sull’AI e i bambini, richiama il rischio che i sistemi di AI possano sostenere o compromettere i diritti dei minori; nei materiali dedicati al parenting digitale evidenzia anche che domande su emozioni, amicizie o salute possono implicare informazioni molto personali che i minori non riconoscono come sensibili. (unicef.org)La Federal Trade Commission statunitense ha avviato nel 2025 un’indagine sui chatbot AI usati come companion, con particolare attenzione all’impatto sui bambini, alle misure di mitigazione dei rischi e al rispetto delle norme sulla protezione dei minori online. (Federal Trade Commission)Common Sense Media ha pubblicato nel 2025 una ricerca sull’uso degli AI companion da parte degli adolescenti, rilevando che quasi tre adolescenti su quattro li hanno usati e che circa la metà li usa regolarmente. (Common Sense Media)Il caso di Sewell Setzer III, quattordicenne morto suicida nel 2024, è stato oggetto di una causa promossa dalla madre contro Character.AI; Reuters ha riferito nel gennaio 2026 che Google e Character.AI hanno accettato di definire la causa con un accordo. (The Guardian)CBS News, in un servizio di 60 Minutes, ha riportato le denunce di genitori secondo cui alcuni chatbot Character.AI avrebbero inviato contenuti dannosi o sessualmente espliciti a una tredicenne e non avrebbero gestito adeguatamente richieste di aiuto. (CBS News)L’American Psychological Association ha pubblicato indicazioni sul rapporto tra AI e benessere adolescenziale, sottolineando la necessità di sistemi progettati per proteggere salute mentale, sicurezza e sviluppo degli adolescenti. (APA)Uno studio pubblicato su JMIR Mental Health nel 2025 ha evidenziato che una quota significativa di chatbot orientati al supporto emotivo o alla salute mentale può rispondere in modo problematico a scenari che coinvolgono adolescenti in grave sofferenza, confermando la necessità di limiti, escalation e supervisione umana. (Salute Mentale JMIR)Stanford ha segnalato nel 2025 il rischio che gli AI companion intercettino bisogni emotivi degli adolescenti, generando interazioni inappropriate o potenzialmente dannose, soprattutto nei soggetti più vulnerabili. (news.stanford.edu)