2026-07-22 07:32分享至英伟达7月21日表示,AI云平台DeepInfra测试显示,Vera CPU相比其他CPU产品,在AI智能体工作负载下可实现最高2.2倍编排速度提升,并支持最高1.6倍更多智能体并发运行。DeepInfra表示,其平台每周处理近5万亿Token,其中约30%来自智能体应用。英伟达称,随着AI智能体承担更多推理、规划和工具调用任务,CPU在模型调用过程中的调度效率将成为AI基础设施性能的重要因素。(界面)原文链接下一篇英伟达7月21日宣布,面向“千兆级AI工厂”的Vera Rubin平台正在全球扩大部署,CoreWeave、谷歌云、微软Azure和甲骨文云等已开始采用Vera Rubin NVL72系统。英伟达称,CoreWeave测试显示,Vera Rubin NVL72相比Grace Blackwell NVL72,每兆瓦可实现10倍Token吞吐提升。(界面)11分钟前
英伟达Vera CPU测试显示AI智能体编排性能提升,支持高并发推理-36氪
英伟达7月21日表示,AI云平台DeepInfra测试显示,Vera CPU相比其他CPU产品,在AI智能体工作负载下可实现最高2.2倍编排速度提升,并支持最高1.6倍更多智能体并发运行。DeepInfra表示,其平台每周处理近5万亿Token,其中约30%来自智能体应用。英伟达称,随着AI智能体承担更多推理、规划和工具调用任务,CPU在模型调用过程中的调度效率将成为AI基础设施性能的重要因素。(界面)






