Nelle scorse ore Meta ha annunciato che avviser� i genitori quando la conversazione di un figlio adolescente con Meta AI lascia intendere un rischio di suicidio o autolesionismo. Gli avvisi sono gi� attivi per chi utilizza la supervisione genitoriale di Instagram in Stati Uniti, Regno Unito, Australia e Canada, e diventeranno disponibili a livello globale entro la fine dell'anno. La misura estende un impianto di controlli gi� esistente. Fino a oggi, quando un adolescente accennava a pensieri di questo tipo, Meta AI si limitava a indirizzarlo verso le linee di supporto e a incoraggiarlo a rivolgersi a un genitore o a un altro adulto di fiducia, come un consulente scolastico. Ora l'azienda notificher� in modo proattivo anche il genitore che esercita la supervisione, accompagnando la segnalazione con risorse e indicazioni su come affrontare il discorso con il figlio. Per individuare queste conversazioni Meta dichiara di aver costruito un sistema di intelligenza artificiale dedicato, messo a punto con esperti e addestrato a riconoscere anche i riferimenti pi� indiretti a un intento di farsi del male. Ogni chat segnalata dal sistema viene comunque rivista manualmente prima che l'avviso parta e, quando l'intento resta ambiguo, la scelta dichiarata � di procedere per prudenza. "Comprendiamo quanto questi avvisi possano risultare angoscianti da ricevere per un genitore" scrive l'azienda, ammettendo che in alcuni casi la notifica potr� partire senza una reale causa di allarme. Gli interventi arrivano mentre Meta e le altre aziende del settore restano sotto osservazione da parte di autorit� di regolamentazione e genitori sul modo in cui i chatbot rispondono agli utenti in difficolt�, in particolare i pi� giovani. La questione della responsabilit� pesa sempre pi� sul modo in cui questi prodotti vengono progettati e presentati. La linea diretta con i servizi di emergenza Sul fronte pi� delicato, Meta sta lavorando alla possibilit� di contattare i servizi di emergenza quando una conversazione con Meta AI, di un adulto o di un minore, indica un rischio imminente di togliersi la vita. Non � una pratica inedita per l'azienda: quando un contenuto pubblicato su Facebook o Instagram segnala un rischio concreto, Meta allerta gi� i soccorsi, cos� che gli operatori possano effettuare una verifica sullo stato della persona. L'azienda dichiara di aver effettuato oltre 19.000 segnalazioni di questo tipo nel mondo nell'ultimo anno; la novit� porta lo stesso meccanismo dentro le chat con l'assistente. Le risposte riviste con i clinici Il lavoro sulle risposte, riferisce Meta, ha coinvolto oltre 75 clinici specializzati in salute mentale degli adolescenti, chiamati a valutare centinaia di risposte dell'assistente su suicidio e autolesionismo e a indicare come migliorarle. L'obiettivo dichiarato � far s� che Meta AI riconosca lo stato d'animo del ragazzo mentre lo indirizza verso le risorse di supporto, senza chiudere la conversazione in modo troppo brusco. Impostazioni di contenuto pi� severe Gli account per adolescenti sono collocati in modo automatico in un'impostazione di contenuti pensata per gli utenti dai 13 anni, che vale anche per i dialoghi con Meta AI: l'assistente � addestrato a non intrattenere conversazioni a sfondo sessuale o sentimentale con i minori e a non fornire, per esempio, ricette di cocktail alcolici. A questa si aggiunge ora Limited Content, l'impostazione pi� restrittiva introdotta a ottobre che i genitori possono attivare per un'esperienza ancora pi� circoscritta: estesa a Meta AI, porta l'assistente a rifiutare una gamma pi� ampia di richieste. Sul contenuto preciso di questo filtro, per�, l'azienda non � entrata nel dettaglio, e non ha chiarito quali richieste aggiuntive Meta AI si rifiuter� di soddisfare.