Sora, l'app di generazione video tramite intelligenza artificiale di OpenAI, produrrebbe contenuti vietati anche se si usano account setttai apposta per adolescenti.
L'affermazione arriva dal gruppo statunitense in difesa dei consumatori Eko, che ha prodotto un report dal nome "Sora 2 di Open AI: una nuova frontiera per il danno". Nella ricerca, si legge come anche accedendo all'app Sora, attualmente disponibile negli Stati Uniti e in Canada, con profili di adolescenti di 13 e 14 anni, si riesce a spingere l'IA a generare filmati contrari alle politiche di utilizzo per i minori. I casi citati includono fotogrammi di ragazzi che fumano e fanno uso di droghe e sparatorie all'interno di scuole. Tra gli spezzoni anche falsi trailer di cartoni con protagonista una pistola.
"C'è il rischio di autolesionismo", scrivono i ricercatori. Eko ha creato quattro nuovi account su Sora con età tra 13 e 14 anni. Nonostante i limiti, gli analisti hanno ottenuto un totale di 22 video con contenuti dannosi. Oltre a ciò, l'app proporrebbe clip vietate e create dagli altri utenti nelle pagine "per te" e "ultimi", dove come social vengono mostrati i post pubblicati dalle persone che si seguono e quelli suggeriti.
