ChatGPT
Una conversazione apparentemente normale con ChatGPT poteva nascondere una seconda attività, invisibile nel testo della risposta: recuperare un comando impartito da un altro account, eseguirlo con gli strumenti disponibili nella sessione della vittima e restituire il risultato all’attaccante.
Check Point Research ha dimostrato il problema arrivando fino a un caso particolarmente efficace che aiuta a comprendere la gravità della problematica: ChatGPT poteva consultare le email disponibili attraverso un account Gmail collegato alla sessione della vittima e trasferire i dati verso un altro account, gestito da un soggetto terzo.
L’utente continuava intanto a vedere la risposta alla propria domanda, senza alcun riferimento all’istruzione parallela. Il problema non è più sfruttabile: OpenAI ha confermato che l’istanza interna di JFrog Artifactory (repository aziendale per pacchetti software e dipendenze) coinvolta è stata dismessa.
Non si trattava, però, di una vulnerabilità che consentiva a chiunque di indicare un account ChatGPT a caso e leggerne immediatamente Gmail. La sessione della vittima doveva prima ricevere un’istruzione preparata dall’attaccante, ad esempio attraverso una conversazione condivisa, un prompt malevolo copiato dall’utente oppure un GPT personalizzato. Inoltre, l’accesso ai dati esterni dipendeva dalle applicazioni già collegate alla sessione e dai relativi permessi.
