PrismML ha annunciato Bonsai 27B, nuovo modello di punta della famiglia Bonsai basato su Qwen3.6 27B. � il primo modello della sua classe di capacit�, 27 miliardi di parametri, a girare su uno smartphone. Il problema che l'azienda dice di aver risolto � puramente dimensionale. Un modello da 27B occupa circa 54 GB in precisione a 16 bit, e anche una compressione a 4 bit resta sopra i 18 GB: troppo per qualsiasi telefono e per buona parte dei laptop in commercio.
Bonsai 27B arriva in due varianti. La prima, Ternary Bonsai 27B, usa pesi ternari (-1, 0, +1) con scaling FP16 a gruppi, per una densit� effettiva di 1,71 bit per peso e un ingombro di 5,9 GB: � la versione orientata alla qualit�, pensata per girare su un normale laptop mantenendo l'intero set di capacit� di ragionamento, tool-calling e comportamento agentico.
La seconda, 1-bit Bonsai 27B, spinge la compressione ai pesi binari (-1, +1), sempre con lo stesso scaling a gruppi, arrivando a 1,125 bit effettivi per peso e a soli 3,9 GB di peso complessivo. � la variante costruita per stare nel budget di memoria di un iPhone 17 Pro, ed � la prima a portare un modello di classe 27B su un telefono.
Bonsai 27B funziona in locale su smartphone, e ha 27 miliardi di parametri
