Aggiungi ItaliaOggi alle tue fonti preferite su Google per non perderti i nostri contenutiI modelli di intelligenza artificiale Claude cominceranno a lasciare una firma digitale nei contenuti che generano o elaborano in modo tale che si possa sapere che sono passati dai propri sistemi. Anthropic sarà così la prima grande azienda del settore ad adeguarsi agli obblighi di trasparenza introdotti dall'AI Act europeo che sono entrati in vigore lo scorso 2 agosto, in particolare l'articolo 50, sebbene anche i concorrenti si stiano attrezzando, OpenAI in primis.
La filigrana, watermarking, non sarà un elemento visibile, ma potrà essere individuata attraverso software. Anthropic prevede di utilizzare due sistemi diversi, a seconda che si tratti di testi o di immagini e file.
Dario e Daniela Amodei, fondatori di Anthropic
Come funziona il watermarking
Nei testi, Claude seminerà segnali nascosti che saranno riconoscibili da un apposito detector. Non ci sono ancora i dettagli, ma l’annuncio fa pensare a un watermark statistico incorporato nella generazione del testo. Per semplicità, pensiamo alla scelta delle parole che l'IA fa su base statistica per completare una frase, ebbene proprio la scelta di un termine o di un altro e quindi della probabilità associata potrà essere un segnale insieme ai molti altri diffusi nel contenuto.
