C'è una stanza, di notte, e la luce blu di uno schermo che illumina il viso di un ragazzino. Dall'altra parte non c'è nessuno, eppure c'è qualcuno che ascolta, che incoraggia, che non si stanca mai, che non dice mai "ora basta, vai a dormire". È una voce paziente, costruita per piacere, addestrata a tenerti lì. È un chatbot. E per milioni di adolescenti, in questi mesi, è diventato il primo confidente, il compagno delle ore vuote, a volte l'unico.
Ieri, a Washington, due senatori che di solito non si parlano hanno deciso di provare a entrare in quella stanza. Il repubblicano John Curtis e il democratico Adam Schiff hanno presentato il SAFE KIDS Act, un disegno di legge bipartisan che vuole imporre regole ai chatbot quando dall'altra parte c'è un minore. La proposta costruisce una cornice federale che obbliga i sistemi di intelligenza artificiale alla sicurezza fin dalla progettazione, ai controlli parentali, al divieto di pubblicità rivolta ai bambini e al divieto di vendere o cedere i loro dati personali.
Il cuore del provvedimento è una frase di Schiff che pesa più di mille pagine di codice. I chatbot che promettono compagnia, ha detto, pongono rischi seri per le menti giovani e in formazione. Compagnia. Non informazione, non aiuto con i compiti. Compagnia. È lì che si gioca la partita.
