OpenAI ha annunciato il rilascio di Lockdown Mode, una nuova impostazione avanzata di sicurezza per ChatGPT progettata per ridurre il rischio di esfiltrazione di dati sensibili attraverso attacchi di prompt injection. La funzionalità è attualmente in distribuzione per gli account personali idonei - inclusi i piani Free, Go, Plus e Pro - oltre che per gli account ChatGPT Business gestiti in modalità self-service.
I prompt injection rappresentano una delle principali sfide di sicurezza nell'ambito dei modelli linguistici. Si tratta di istruzioni malevole nascoste all'interno di pagine web, documenti o altre fonti di contenuto che possono influenzare il comportamento dell'intelligenza artificiale inducendola, in alcuni casi, a divulgare informazioni sensibili o a eseguire operazioni non previste.
Secondo OpenAI, Lockdown Mode non elimina la possibilità che un prompt injection venga elaborato dal modello, ma mira a interrompere l'ultima fase dell'attacco: il trasferimento di dati verso sistemi esterni controllati da un potenziale aggressore. Per raggiungere questo obiettivo, la modalità limita in maniera significativa tutte le funzionalità che comportano richieste di rete in uscita o interazioni con servizi esterni.
