La piattaforma di videogioco online Roblox userà l'intelligenza artificiale generativa per riformulare parole vietate nelle chat.
Lo strumento eviterà la visualizzazione di frasi non permesse tra i giocatori, che saranno cambiate automaticamente grazie all'intervento dei software di IA. "Contribuiamo a mantenere l'ambiente rispettoso, senza perdere l'autenticità o la fluidità", si legge sul blog ufficiale di Roblox. La modifica interessa tutte le lingue in cui la piattaforma è disponibile. Il perdurare della scrittura di frasi vietate comporterà provvedimenti verso i singoli utenti.
Fino ad oggi, Roblox usava l'IA per sostituire le frasi vietate con tante "X" nelle chat. Ma, per l'azienda, questo poteva generare confusione nella lettura di più messaggi inviati velocemente tra gli iscritti. "L'utilizzo dei filtri IA per bloccare testi problematici è sempre stato fondamentale per il nostro approccio alla sicurezza", si legge in una nota ufficiale. "Le X generate in tempo reale aiutano a capire quando qualcosa non è consentito ma possono interrompere la chat, essere difficili da seguire e rallentare il gioco". In una prima fase, Roblox si concentrerà sulle parolacce ma, in seguito, potrà estendere la censura a tutti i termini che violano le proprie politiche di utilizzo, a difesa dei più giovani.
