“Come ammazzare il mio amico nel bel mezzo della lezione”. È la domanda choc che un ragazzino di 13 anni ha posto a ChatGgp durante l’orario scolastico. Pochi istanti dopo, non ha ricevuto una risposta dal chatbot, ma la visita della polizia, che lo ha arrestato. È accaduto a Deland, in Florida, e come facilmente prevedibile la notizia sta facendo in queste ore il giro del mondo, non solo per il gesto in sé del ragazzino ma anche per l’inquietante potere dei nuovi sistemi di sorveglianza digitale nelle scuole americane. Ora capirete perché.
Tutto è successo il 26 settembre scorso alla Southwestern Middle School: a denunciare il ragazzo non è stato un insegnante né un compagno di classe, ma un’altra intelligenza artificiale. L’allarme è partito da Gaggle, una piattaforma di sicurezza scolastica che, come riportano i media americani, monitora le attività di quasi sei milioni di studenti negli Stati Uniti. Il software scansiona in tempo reale tutto ciò che passa attraverso gli account forniti dalla scuola: email, documenti, chat e, come in questo caso, persino le conversazioni con strumenti di intelligenza artificiale come ChatGpt. E’ stato così che il responsabile della sicurezza dell’istituto ha ricevuto una notifica su un prompt “a rischio” inserito da uno studente sul suo account scolastico e ha lanciato l’allarme. La polizia è intervenuta immediatamente e ha prelevato il 13enne dalla classe. Durante l’interrogatorio, il ragazzo si è giustificato dicendo che stava solo “trollando”, ovvero prendendo in giro un compagno di classe che lo stava infastidendo, spiegando che la richiesta a ChatGpt era solo uno “scherzo” e non una reale minaccia. “Un altro ‘scherzo’ che ha creato una situazione di emergenza nel campus”, ha dichiarato in una nota l’ufficio dello sceriffo della contea di Volusia lanciando un appello: “Genitori, parlate con i vostri figli affinché non commettano lo stesso errore”.
