Un gruppo di procuratori generali degli Stati Uniti ha inviato una lettera alle principali aziende di intelligenza artificiale chiedendo misure di sicurezza più stringenti per evitare gli effetti dannosi dei chatbot.
La lettera è firmata anche dalla National Association of Attorneys General - che l'ha resa disponibile online - ed è indirizzata a colossi come Microsoft, OpenAI, Google, xAi, Anthropic, Meta, Apple e startup del settore tra cui Perplexity AI e Replika.
"L'intelligenza artificiale generativa ha il potenziale per cambiare in positivo come funziona il mondo", si legge nel testo, "ma ha anche causato - e ha il potenziale per causare - gravi danni, soprattutto alle persone più vulnerabili".
Il riferimento è agli episodi di suicidio avvenuti negli Usa negli ultimi mesi, con il caso più eclatante di una famiglia che ha fatto causa ad OpenAI attribuendo a ChatGpt la responsabilità del suicidio del figlio 16enne.
"In molti di questi incidenti, i modelli hanno generato risultati adulatori e deliranti", dicono i procuratori, suggerendo a chi sviluppa le IA di trattare chi ha problemi di salute mentale allo stesso modo in cui le aziende tecnologiche gestiscono le violazioni di sicurezza informatica, ovvero con politiche e procedure di segnalazione chiare e trasparenti.
