標籤

Dynamo

Dynamo 指的是 NVIDIA 用來提升推論效率的軟體層與執行優化，常與 TensorRT-LLM、Blackwell Ultra、GB300 NVL72 一起出現。它的重要性在於，AI 伺服器的速度與成本，已不只取決於 GPU 規格，也取決於排程、記憶體管理與模型執行策略。

1 篇文章

Nvidia MLPerf 成績證明軟體還很重要

Nvidia 在 MLPerf v6.0 交出最高 2.77x 推論提升。GB300 NVL72 的成績顯示，Dynamo、TensorRT-LLM 這類軟體優化，已經和 GPU 硬體同樣重要。