Abbiamo usato un’IA per nascondere un testo scritto dall’IA: Pangram ci è cascato, ma che disastro

di

Sergio Donato

Abbiamo provato un sistema per rendere "umani" i testi generati dall’IA. Pangram è stato ingannato completamente, ma il testo ha pagato un caro prezzo

L’annuncio di Anthropic circa il sistema per rilevare se un testo è stato elaborato con i modelli Claude ha comprensibilmente suscitato un discreto scompiglio, non solo nel settore dell’intelligenza artificiale, ma anche in tutti quegli ambienti, lavorativi o meno, che potrebbero usare testi IA; specie se vengono impiegati così come sono generati dal modello e senza alcun tipo di editing. Lo scompiglio deriva soprattutto dal fatto che Anthropic rilascerà un qualche tipo di rilevatore di testi scritti con l’IA, generando comprensibilmente qualche preoccupazione in chi vuole nascondere l’origine di questi scritti.

Tutti sapranno se usi l'IA per scrivere: Anthropic e OpenAI introdurranno i watermark sul testo