作為三平台評測的最終章(前兩篇為 M2 Max 96GB MLX 與 GH200 vLLM),本篇將完整測試一下 GB10 的吞吐量表現、32K 長 Context 的速度代價、以及在 Podman...

為了找到一些在地端也能讓 Agent 有無限 token 自由的毒駕的方法,原本用手邊的M4 24GB Mac 上嘗試執行 DiffusionGemma 26B,卻悲慘的連 1,000 tokens 的...

1180 tok/s 的地表極速是什麼概念?在 256 tokens 的輸出下,運算只要 0.22 秒就瞬間結束,這表示 DiffusionGemma 26B 在 NVIDIA GH200 上跑...

作為三平台評測的最終章(前兩篇為 M2 Max 96GB MLX 與 GH200 vLLM),本篇將完整測試一下 GB10 的吞吐量表現、32K 長 Context 的速度代價、以及在 Podman...