NVIDIA 推出新一代 GH200 Grace Hopper Superchip 平台,迎接加速運算和生成式人工智慧時代的到來

全球首款 HBM3e 處理器提供開創性的記憶體和頻寬;可連接多個 GPU以達到極致效能表現;易於擴充的伺服器設計
作者 NVIDIA Corporation

NVIDIA 今日宣布推出新一代 NVIDIA GH200 Grace Hopper™ 平台,該平台專為加速運算和生成式人工智慧時代而打造,採用全新 Grace Hopper Superchip 與全球首款 HBM3e 處理器。

此全新平台將提供多種配置,可用於處理世界上最複雜的生成式人工智慧工作負載,包括大型語言模型、推薦系統和向量資料庫。

此新平台採用雙配置:記憶體容量和頻寬分別是市面上產品的 3.5 倍和 3 倍,包括一台擁有 144 個 Arm Neoverse 核心、8 petaflops 人工智慧運算效能,以及 282GB 最新 HBM3e 記憶體技術的伺服器。

NVIDIA 創辦人暨執行長黃仁勳表示:「為滿足市場對生成式人工智慧不斷增長的需求,資料中心需要有能夠滿足專屬需求的加速運算平台。全新 GH200 Grace Hopper Superchip 平台以其出色的記憶體技術和頻寬,加大了資料處理能力;能夠連接多個 GPU,將效能聚集不減損;並為可以輕鬆部署到整個資料中心的伺服器設計。」

新平台採用 Grace Hopper Superchip,可以透過 NVIDIA NVLink™ 高速 GPU 互連技術與其他超級晶片互連與協同工作,為生成式人工智慧部署所需的巨型模型。

這個高速連貫的技術,可以讓 GPU 徹底存取 CPU 記憶體,在雙配置時提供合計 1.2TB 的高速記憶體。

HBM3e 記憶體的存取速度比當前的 HBM3 快上 50%,可提供合計每秒 10TB 的頻寬,讓新平台能夠運行比前一個版本大上 3.5 倍的模型,同時以快三倍的記憶體頻寬提高整體執行效能。

Grace Hopper 的需求日增

各大主要製造商已經開始提供搭載先前發布之 Grace Hopper Superchip 的系統。為推動市場更廣泛採用這項技術,搭載 HBM3e 的下一代 Grace Hopper Superchip 平台與今年稍早在台北國際電腦展發表的 NVIDIA MGX™ 伺服器規範完全相容。任何系統製造商藉助 MGX,都能以符合成本效益的方式,快速將 Grace Hopper 加入 100 多款伺服器內。

供貨時程

各大系統製造商預計於 2024 年第二季推出基於此平台的系統。

歡迎觀看 NVIDIA 創辦人暨執行長黃仁勳在 SIGGRAPH 的精彩主題演講,更深入瞭解 Grace Hopper。

掌握 NVIDIA 最新動態

請訂閱 NVIDIA 官方部落格或追蹤 FacebookTwitterLinkedInInstagram。瀏覽 NVIDIA 相關影片及圖片,請至 YouTubeFlickr

關於 NVIDIA (輝達)

NVIDIA (輝達) 自 1999 年發明 GPU 起便成功促進 PC 電競市場的成長,並重新定義現代電腦繪圖、高效能運算與人工智慧。NVIDIA 在加速運算和人工智慧領域的開創性成就,正重塑多個市場規模高達數兆美元的產業,如交通運輸、健康醫療和製造業,亦同時促進許多其他產業的成長。欲瞭解更多資訊,請瀏覽 https://blogs.nvidia.com.tw

新聞聯絡人

NVIDIA
資深公關經理 王懷璐
電話:(02)6605-5700
E-mail: Kate Wang
霍夫曼公關
王一中/劉潔
行動電話: 0934-191-532 / 0961-106-610
E-mail: Stephen Wang/Claire Liu

本新聞稿根據目前預期所做出的前瞻性聲明,包含但不限於:NVIDIA的產品、服務和技術的優勢和影響,包括NVIDIA GH200 Grace Hopper 平台、Grace Hopper Superchips、NVIDIA NVLink和NVIDIA MGX;對生成式人工智慧不斷增長的需求;資料中心需要有能夠滿足專屬需求的加速運算平台; 各大系統製造商預計於2024年第二季推出基於GH200 Grace Hopper Superchip平台的系統等。這些前瞻性聲明包含可能導致實質結果與預期不符之風險與不確定因素。多項重要因素可能導致實際結果與前瞻性聲明所示之結果出現重大差異,所及範圍有全球經濟情況;NVIDIA的產品借重第三方協力廠商之製造、組合、封裝和測試;技術發展和市場競爭之影響;發展新產品與技術或強化現有的產品及技術;NVIDIA或合作廠商的產品的市場接受度;設計、製造或軟體缺陷;消費者偏好或需求之改變;業界標準和介面之改變;整合到系統後無法預期的NVIDIA產品或效能降低之技術缺失,以及NVIDIA定期提交給美國證券交易委員會(SEC)報告中的其他詳細因素,包含但不限於Form10-K的年度報告和Form10-Q的季度報告。NVIDIA 在公司官方網站上免費提供定期提交給SEC的報告之副本。這些前瞻性聲明不保證未來的效能,只陳述目前的狀態。除非法律規定,否則NVIDIA沒有意願或義務因為新資訊、未來事件或其他理由而更新或修改任何前瞻性聲明。

本文為NVIDIA公司 2023 版權所有並保留所有權利。NVIDIA、NVIDIA標誌、NVIDIA Grace Hopper、NVIDIA MGX和NVLink是NVIDIA公司在美國及(或)其他地區的商標和(或)註冊商標。所有其他公司及產品名稱乃為所屬個別公司之商標。功能、定價、出貨時程和規格之變更不會另行通知。