di
Sergio Donato
Shieldstral analizza richieste, risposte e immagini, assegna un punteggio di sicurezza e verifica anche se un assistente ha davvero rifiutato un comando pericoloso. E lo fa con 3 miliardi di parametri
L'Europa non ha ancora data center per addestrare modelli da migliaia di miliardi di parametri, e chi ci lavora prova a occupare le caselle rimaste libere. Mistral ha così rilasciato Shieldstral, un classificatore multimodale da 3 miliardi di parametri che non genera testo ma stabilisce se un contenuto viola una regola di sicurezza, distribuito con pesi aperti sotto licenza Apache 2.0.
Può sembrare una novità (in parte lo è), ma la categoria è affollata e Shieldstral ci arriva tardi: è quella dei classificatori di contenuto. Meta ha portato la famiglia Llama Guard fino alla terza versione, con una variante capace di leggere le immagini, Google ha diffuso ShieldGemma nei tagli da 2, 9 e 27 miliardi di parametri, e un anno fa i ricercatori della Carnegie Mellon hanno pubblicato PolyGuard, addestrato su 1,91 milioni di campioni in 17 lingue. Tutti condividono la stessa architettura di fondo, che incorpora nei pesi un elenco prefissato di categorie di danno. Quando serve una regola diversa da quelle previste occorre riaddestrare il modello.
