NVIDIA Blackwell在 MLPerf Inference 的基準測試活動中首次亮相，為生成式 AI 樹立全新標準

在企業爭相採用生成式人工智慧（AI）與陸續推出各項新服務的情況下，對資料中心基礎設施的需求也創下新高。訓練大型語言模型（LLM）是個難題，不過即時提供由 LLM 支援的服務同樣不易。

在最新一輪的 MLPerf 產業基準：Inference v4.1 中，NVIDIA 平台在各項資料中心測試項目裡皆寫下領先成績。即將推出的 NVIDIA Blackwell 平台由於使用第二代 Transformer 引擎與 FP4 Tensor 核心，在處理 MLPerf 最大的 LLM 工作量 Llama 2 70B 之際，首次測試的結果顯示其效能較 NVIDIA H100 Tensor Core GPU 架構高出四倍之多。

NVIDIA H200 Tensor 核心 GPU 在資料中心類別的各項測試裡均有著出色表現，包括基準中最新加入有著 467 億個參數、每個 token 有 129億個活躍參數的 Mixtral 8x7B 混合專家（MoE）LLM。

MoE模型能夠在單一部署中回答各式各樣的問題與執行更多不同的任務，讓使用者有更多種部署 LLM 的方式而大受歡迎。MoE 的效率也更高，因其每次進行推論作業只要啟動幾個專家，代表提供結果的速度比類似大小的密集模型要快上不少。

LLM 持續成長，讓使用者需要有更多運算能力來處理推論請求。多 GPU 運算的能力已成為必須，以滿足當前運行 LLM 的即時延遲需求，還有盡量讓最多的使用者享受這項服務。NVIDIA NVLink 和 NVSwitch 可在基於 NVIDIA Hopper 架構的 GPU 之間以高頻寬溝通，並為當今即時、具成本效益的大型模型推論作業帶來顯著優勢。而 Blackwell 平台加上有著 72 個 GPU 更大規模的 NVLink 網域，將進一步擴展 NVLink Switch 的功能。

除了 NVIDIA 有提出測試資料，華碩、思科、戴爾科技、富士通、技鋼科技、慧與科技、瞻博網路、聯想、雲達科技和美超微等十家 NVIDIA 的合作夥伴，同樣都有提出可靠的 MLPerf Inference 測試資料，突顯出 NVIDIA 平台廣泛的可供性。

堅持不懈進行軟體創新

NVIDIA 平台持續開發軟體，每個月都在效能與功能上有所改進。

在最新一輪的推論測試裡，包括 NVIDIA Hopper 架構、NVIDIA Jetson 平台與 NVIDIA Triton 推論伺服器在內的 NVIDIA 產品，在效能方面均大幅提升。

與上一輪的成績相比，NVIDIA H200 GPU在處理生成式 AI 推論時的效能提高了 27%，突顯出客戶在投資 NVIDIA 平台方面所帶來的長期附加價值。

隸屬於 NVIDIA AI 平台的 Triton 推論伺服器可搭配 NVIDIA AI Enterprise 軟體使用，是一款功能齊全的開源推論伺服器，可協助組織將特定框架的推論伺服器整合至功能一個統一的的平台上。此舉有助於降低在生產環境裡運行 AI 模型的總持有成本，且將部署模型的時間從幾個月縮短到幾分鐘。

在這一輪 MLPerf 測試中，Triton 推論伺服器的效能達到幾乎等同於 NVIDIA 裸機的測試結果，顯示企業無需再於使用功能豐富的生產級 AI 推論伺服器，與達到高峰吞吐量效能之間做出選擇。

走向邊緣

當生成式 AI 模型部署在邊緣時可以將影像和視訊等感測器資料，轉換成具有強大情境意識的、即時和可執行的見解內容。用於邊緣 AI 和機器人的 NVIDIA Jetson 平台具有獨特的能力，可以運行任何類型的本地端模型，包括 LLM、視覺 Transformer 模型及 Stable Diffusion。

在這一輪 MLPerf 基準測試中，NVIDIA Jetson AGX Orin 系統模組在處理 GPT-J LLM 工作負載方面，表現較上一輪測試的傳輸量提高 6.2 倍，延遲表現則改善 2.4 倍。這個擁有 60 億個參數的模型能夠協助改造邊緣的生成式 AI。使用者現在可以藉由這個通用模型，在邊緣與人類語言流暢進行互動，無需針對特定用例進行開發。