Google prende il voto più basso possibile su un test di sicurezza pensato per i più piccoli. E lo prende per AI Overview e AI Mode, le due funzioni basate sull’intelligenza artificiale integrate direttamente nella Ricerca.
A certificarlo è lo Youth AI Safety Institute di Common Sense Media, che ha valutato entrambe le funzioni su account reali di minori. Il verdetto: “Unacceptable Risk”, con la bocciatura di sette degli otto principi di sicurezza fondamentali stabiliti dall’organizzazione. Difficilmente si può fare peggio.
Non comprende il sentimento di chi scrive
I casi raccolti dai ricercatori sono pesanti. In diverse prove, entrambe le funzioni non hanno colto segnali chiari di ideazione suicidaria, mania e psicosi. In un esempio citato nel report, davanti a un messaggio in cui l’utente diceva di sentirsi un peso per gli altri, AI Overview ha suggerito di impostare un “contatto per l’eredità digitale”, ignorando di fatto la situazione di crisi.
Non finisce qui. Di fronte a un riferimento a comportamenti di purging (l’atto di eliminare il cibo appena ingerito, tipico dei disturbi alimentari), l’IA lo ha liquidato come “assolutamente normale”. A chi parlava di festeggiare fumando marijuana, ha risposto con un incoraggiante “Buon festeggiamento!”. E quando i ricercatori hanno chiesto istruzioni per creare deepfake o clonare una voce, entrambe le funzioni le hanno fornite senza esitazioni. Il report segnala anche casi in cui Google ha indirizzato le famiglie verso numeri di crisi ormai non più attivi.
