Le grandi aziende di intelligenza artificiale stanno correndo ai ripari mentre una ricerca presentata alla International Conference on Machine Learning rivela una vulnerabilità di sicurezza fondamentale negli LLM che potrebbe essere intrinsecamente irrisolvibile. Il problema, identificato dai ricercatori indipendenti Charles Ye e Jasmine Cui, mina la fiducia nell’utilizzo di questi modelli per sistemi critici.
Summary
Punti chiaveIl problema fondamentale nell’identificazione delle istruzioni LLM
Punti chiave
I LLM identificano la fonte delle istruzioni basandosi più sullo stile del testo che sui tag di ruolo, una falla che li rende vulnerabili allo spoofing.
