NVIDIA 今日宣布推出全新級別大型記憶體 AI 超級電腦——搭載 NVIDIA® GH200 Grace Hopper 超級晶片與 NVIDIA NVLink® Switch System 的 NVIDIA DGX™ 超級電腦，旨在替生成式人工智慧語言應用、推薦系統及資料分析工作負載開發巨型的下一代模型。
NVIDIA DGX GH200 擁有巨大的共享記憶體空間。它使用 NVLink 互連技術及 NVLink Switch System 來連接 256 個 GH200 Grace Hopper 超級晶片，讓所有超級晶片以單一 GPU 之姿來執行各項作業。這提供了 1 exaflop 的效能和 144 TB 的共享記憶體，與於 2020 年推出的前代 NVIDIA DGX A100 系統的記憶體容量增加了近 500 倍。
NVIDIA 創辦人暨執行長黃仁勳表示：「生成式人工智慧、大型語言模型和推薦系統是推動現代經濟發展的引擎。DGX GH200 超級電腦集 NVIDIA 各項最先進的加速運算和網路技術於一身，以拓展 AI 的發展。」
NVIDIA NVLink 技術大幅度拓展人工智慧
GH200 超級晶片使用 NVIDIA NVLink-C2C 晶片互連技術，將基於Arm架構的NVIDIA Grace™ CPU 與 NVIDIA H100 Tensor 核心 GPU 結合在同一個封裝裡，這樣便無需使用傳統 CPU 至 GPU 的 PCIe 連接方式。與最新的 PCIe 技術相比，此舉將 GPU 與 CPU 之間的頻寬加大七倍、將互連的耗電量減少五倍以上，且為 DGX GH200 超級電腦提供一個 600GB Hopper 架構的 GPU 模組 (building block)。
DGX GH200 是首款將 Grace Hopper 超級晶片搭配 NVIDIA NVLink Switch System 使用的超級電腦，透過 NVLink 技術把 DGX GH200 系統裡的所有 GPU 連接起來，當成一個 GPU 來使用。上一代系統在不影響效能的情況下，用 NVLink 技術只能連結八個 GPU 當成一個 GPU 來使用。
DGX GH200 架構的 NVLink 頻寬是上一代產品的 48 倍，只要簡單編程單個 GPU ，就能提供大型人工智慧超級電腦的強大運算實力。
提供人工智慧先驅者使用的全新研究工具
Google Cloud、Meta與微軟是首批預計可使用 DGX GH200 來探索其生成式人工智慧工作負載能力的公司。NVIDIA 還打算將 DGX GH200 設計作為藍圖提供給雲端服務提供商及其他超大規模資料中心業者，以便他們能夠進一步量身設計自己最佳的基礎設施。
Google Cloud 運算副總裁 Mark Lohmeyer 表示：「構建先進的生成式模型需要創新的人工智慧基礎設施。Grace Hopper 超級晶片 的新 NVLink 規模和共享記憶體解決了大規模 AI 的關鍵瓶頸，我們期盼於 Google Cloud 及我們的生成式人工智慧計畫探索它的能力。」
Meta 基礎設施、人工智慧系統與加速平台部門副總裁 Alexis Björlin 表示：「當人工智慧模型變得愈來愈大，它們需要有強大的基礎設施，可以擴大規模來滿足持續成長的需求。NVIDIA Grace Hopper 的設計讓研究人員能夠探索新方法來解決他們最大的挑戰。」
微軟 Azure 基礎設施企業副總裁 Girish Bablani 表示：「傳統上訓練大型人工智慧模型需要用掉很多資源和時間。DGX GH200 處理 TB 級資料集的潛力將使開發人員能夠以更大規模和更快的速度進行先進的研究。」
全新 NVIDIA Helios 超級電腦推進研發活動
NVIDIA 將以 DGX GH200 為基礎來打造自家的人工智慧超級電腦，以支援研發團隊進行各項工作。這部名為 NVIDIA Helios 的超級電腦將搭載四套 DGX GH200 系統。
Helios 超級電腦裡的每一套 DGX GH200 系統將使用 NVIDIA Quantum-2 InfiniBand 網路技術互相連接，以加快處理訓練大型人工智慧模型的資料。Helios 超級電腦將使用 1,024 個 Grace Hopper 超級晶片，並預計將在今年底上線。
完全整合，專為巨型模型而建
DGX GH200 超級電腦加入了 NVIDIA 軟體，提供一站式完整的解決方案來處理最大型的人工智慧和資料分析工作負載。NVIDIA Base Command™ 軟體提供人工智慧工作流程管理、企業級叢集管理；加速運算、儲存裝置及網路基礎設施的函式庫，以及針對運行人工智慧工作負載進行最佳化的系統軟體。
DGX GH200 超級電腦也包含 NVIDIA AI 平台的軟體層 NVIDIA AI Enterprise。其中提供了超過 100 個框架、預先訓練好的模型及開發工具，以簡化開發及部署生成式人工智慧、電腦視覺、語音人工智慧等生產式人工智慧的作業。
供貨時程
NVIDIA DGX GH200 超級電腦預計將於今年底開始供貨。
掌握 NVIDIA 最新動態
請訂閱 NVIDIA 官方部落格或追蹤 Facebook、Twitter、LinkedIn 與 Instagram。瀏覽 NVIDIA 相關影片及圖片，請至 YouTube 或 Flickr。
關於 NVIDIA (輝達)
NVIDIA (輝達) 自 1999 年發明 GPU 起便成功促進 PC 電競市場的成長，並重新定義現代電腦繪圖、高效能運算與人工智慧。NVIDIA 在加速運算和人工智慧領域的開創性成就，正重塑多個市場規模高達數兆美元的產業，如交通運輸、健康醫療和製造業，亦同時促進許多其他產業的成長。欲瞭解更多資訊，請瀏覽 https://blogs.nvidia.com.tw。
新聞聯絡人
| NVIDIA 資深公關經理 王懷璐 電話：(02)6605-5700 E-mail: Kate Wang |
霍夫曼公關 王一中/劉潔 行動電話: 0934-191-532 / 0961-106-610 E-mail: Stephen Wang/Claire Liu |
本新聞稿根據目前預期所做出的前瞻性聲明，包括我們的產品、服務與技術的優點、影響、效能、功能和供貨時程，包括 NVIDIA Grace Hopper 超級晶片及超級電腦、NVIDIA DGX和DGX GH200、NVLink的NVLink交換系統和NVLink互連技術、DGX H100、NVIDIA Grace CPU、H100 Tensor 核心 GPU、Helios 超級電腦、Quantum-2 InfiniBand、NVIDIA Base Command、NVIDIA AI Enterprise 我們 Google、 Meta 及微軟的合作，以及其帶來的優點、影響、表現、特色和推出時間；生成式人工智慧、推薦系統和資料分析已成為現代經濟的引擎，需要前所未有的規模、速度和效率；NVIDIA 意圖將 DGX GH200 設計作為藍圖提供給雲端服務供應商和其他超大規模資料中心業者，以便他們進一步對其基礎架構進行自定義。這些前瞻性聲明包含可能導致實質結果與預期不符之風險與不確定因素。多項重要因素可能導致實際結果與前瞻性聲明所示之結果出現重大差異，所及範圍有全球經濟情況；NVIDIA 的產品借重第三方協力廠商之製造、組合、封裝和測試；技術發展和市場競爭之影響；發展新產品與技術或強化現有的產品及技術；NVIDIA 或合作廠商的產品的市場接受度；設計、製造或軟體缺陷；消費者偏好或需求之改變；業界標準和介面之改變；整合到系統後無法預期的 NVIDIA 產品或效能降低之技術缺失，以及NVIDIA定期提交給美國證券交易委員會(SEC)報告中的其他詳細因素，包含但不限於 Form10-K 的年度報告和 Form10-Q 的季度報告。NVIDIA 在公司官方網站上免費提供定期提交給SEC的報告之副本。這些前瞻性聲明不保證未來的效能，只陳述目前的狀態。除非法律規定，否則NVIDIA沒有意願或義務因為新資訊、未來事件或其他理由而更新或修改任何前瞻性聲明。
©本文為 NVIDIA 公司 2023 版權所有，並保留所有權利。NVIDIA、NVIDIA 標誌、DGX、NVIDIA Base Command、NVIDIA Grace、NVIDIA Hopper 及 NVLink 是 NVIDIA 公司在美國及其他地區的商標及（或）註冊商標。所有其他公司及產品名稱乃為所屬個別公司之商標。功能、訂價、出貨時程和規格之變更不會另行通知。