跳到正文
原文
NVIDIA Blog· NVIDIA Writers·· 14 天前精选AI 评分65

NVIDIA AI Infra Summit 发布 Vera Rubin 与 DSX 平台升级,展示每瓦特 token 优化成果

AI Infra Summit: NVIDIA Vera Rubin and DSX Platform Advancements Showcase Energy Efficiencies of Optimizing Tokens Per Watt for AI Factories

AI 导读

NVIDIA 在 AI Infra Summit 公布 Vera Rubin NVL72 与 DSX 平台新成果,MLPerf Inference v6.1 中 Vera Rubin NVL72 较 GB300 NVL72 吞吐量提升最高 3.7 倍,DSX MaxLPS 在相同功耗下集群 token 吞吐量提升 24%、每瓦性能提升 23%。

推荐理由

AI基础设施的关键指标正从峰值性能转向每兆瓦智能体token数,读者可据此评估自身AI工厂的能效与扩容空间。

来源:NVIDIA Blog · blogs.nvidia.com