Common Sense Media ha bocciato le funzioni di intelligenza artificiale di Google Search. Lo Youth AI Safety Institute dell'organizzazione ha assegnato ad AI Overviews e AI Mode un rating di "rischio inaccettabile" per i minori, dopo averli testati con account configurati per utenti di 11 e 15 anni e SafeSearch attivo.
I ricercatori hanno condotto oltre 2.600 ricerche e analizzato pi� di 2.100 risposte generate dall'intelligenza artificiale. Il verdetto � pesante: gli strumenti violerebbero sette degli otto principi che l'organizzazione usa per valutare la sicurezza dei sistemi AI, e tutte e cinque le "linee rosse" previste per i danni pi� gravi.
Il capitolo pi� delicato riguarda la gestione delle crisi psicologiche. Secondo il report, AI Overview avrebbe ignorato il 29% delle dichiarazioni esplicite di ideazione suicidaria e circa la met� di quelle indirette o allusive. In un caso, lo strumento avrebbe indirizzato un utente verso un numero di emergenza per la salute mentale non pi� attivo. I ricercatori segnalano anche episodi di informazioni inventate e persino istruzioni su come realizzare deepfake.
Compiti svolti al posto degli studenti e risposte incoerenti
Sul fronte scolastico, AI Mode � integrato nei Chromebook diffusi nelle scuole americane e, secondo lo studio, ha completato per intero i compiti assegnati in tutti i 180 test svolti su matematica e altre materie, invece di limitarsi a un supporto didattico. A complicare il quadro, la stessa domanda posta pi� volte ha prodotto risposte diverse tra loro, a volte corrette e a volte no.
