Un gruppo di ricercatori ha scoperto una vulnerabilit� strutturale nella gestione delle tracce di ragionamento (Chain-of-Thought) fornite tramite le API dei principali provider di intelligenza artificiale. Lo studio, intitolato "Stealing Reasoning Traces from Proprietary LLM APIs", dimostra come sia possibile ricostruire in chiaro il ragionamento nascosto dei modelli avanzati di OpenAI, Anthropic e Google, senza attaccarli direttamente n� attivare le loro protezioni anti-distillazione.
I fornitori di API restituiscono al client il ragionamento di un modello sotto forma di blocchi cifrati, che vengono poi reinviati al server quando la conversazione prosegue. I ricercatori hanno scoperto che questi blocchi cifrati sono portabili e possono essere riprodotti al di fuori del loro contesto originale.
Iniettando un blocco cifrato generato da un modello avanzato (come i modelli di punta di OpenAI, Anthropic o Google) in un modello dello stesso provider pi� debole e sottoposto a jailbreak, � possibile estrarre in testo chiaro il ragionamento grezzo del modello pi� potente, parola per parola.
Ricerca svela come decifrare i pensieri nascosti dei modelli AI di OpenAI, Anthropic e Google
Analizzando 6.708 traiettorie pubbliche di agenti artificiali raccolte da GitHub e Hugging Face - generate da modelli Claude, GPT e Gemini che contenevano ancora i blocchi cifrati -, il team ha applicato la propria pipeline di decodifica a ogni blocco firmato, ricostruendo 315.320 blocchi di ragionamento.
