跳到正文
原文
NVIDIA Blog· Vishal Ganeriwala·· 14 天前精选AI 评分70

NVIDIA DSX 平台公布 Lambda 实测结果:固定功率预算下 token 吞吐提升 24%

From Megawatts to Tokens: How NVIDIA Maximizes AI Factory Production

AI 导读

NVIDIA 在 AI Infra Summit 上公布 DSX 平台进展,其中 DSX MaxLPS 在 Lambda 的 HGX B200 集群上实现固定功率预算下 24% 的 token 吞吐提升,性能功耗比提升 23%。

推荐理由

原文给出DSX MaxLPS在Lambda上的实测数据与DSX Flex的商用部署进展,读者可据此评估AI工厂能效优化的实际收益。

来源:NVIDIA Blog · blogs.nvidia.com