NVIDIA Blackwell Ultra DGX SuperPOD 提供開箱即用的人工智慧超級電腦,協助企業建造人工智慧工廠

NVIDIA 今日發表全球最先進的企業級人工智慧(AI)基礎架構:採用 NVIDIA Blackwell Ultra GPU 構建的NVIDIA DGX SuperPOD™,針對尖端代理型 AI 推理,為各產業企業提供 AI 工廠超級運算能力。
作者 NVIDIA Corporation
  • NVIDIA Blackwell Ultra-Powered DGX 系統為即時 AI 代理回應大幅提升 AI 推理速
  • Equinix 率先提供 NVIDIA Instant AI Factory 服務,在 Blackwell 就緒設施內,針對 DGX GB300 與 DGX B300 系統提供預先配置的空間,以因應全球對 AI 基礎架構的需求

【2025年3月18日,美國聖荷西訊】NVIDIA 今日發表全球最先進的企業級人工智慧(AI)基礎架構:採用 NVIDIA Blackwell Ultra GPU 構建的NVIDIA DGX SuperPOD,針對尖端代理型 AI 推理,為各產業企業提供 AI 工廠超級運算能力。

全新的 NVIDIA DGX™ GB300NVIDIA DGX B300 系統內建 NVIDIA 網路技術,協助企業提供開箱即用的 DGX SuperPOD AI 超級電腦,不僅精度達 FP4,且具備更快的 AI 推理速度,大幅加速 AI 應用的詞元生成。

AI 工廠針對代理型、生成式與實體 AI 工作負載提供專用基礎架構,為實際作業環境中的應用,提供AI 預訓練、訓練後和測試階段擴充所需的大量運算資源。

NVIDIA 創辦人暨執行長黃仁勳表示:「AI發展迅速,企業紛紛積極打造可擴充的 AI 工廠,以滿足推理 AI 與推論時間擴展的處理需求。NVIDIA Blackwell Ultra DGX SuperPOD 為代理型與實體 AI 時代,提供開箱即用的 AI 超級運算系統。」

DGX GB300 系統採用 NVIDIA Grace Blackwell Ultra 超級晶片,其中包含 36 顆 NVIDIA Grace™ CPU 與 72 顆 NVIDIA Blackwell Ultra GPU,此外還搭載專門設計的機架級液冷式架構,可實現先進推理模型的即時代理回應。

氣冷式 NVIDIA DGX B300 系統採用 NVIDIA B300 NVL16 架構,協助各地的資料中心滿足生成式與代理型 AI 應用的運算需求。

此外,為因應對於先進加速基礎架構日益增長的需求,NVIDIA 推出了 NVIDIA Instant AI Factory,這是一項採用由 Blackwell Ultra 驅動的 NVIDIA DGX SuperPOD 的託管服務。Equinix 將率先在全球 45 個市場於其預先配置液冷式或氣冷式 AI 就緒資料中心,提供全新的 DGX GB300 與 DGX B300 系統。

搭載 DGX GB300 的 NVIDIA DGX SuperPOD 扮演 AI 推理時代發展推手

搭載 DGX GB300 的 DGX SuperPOD 系統,可擴充至數萬顆 NVIDIA Grace Blackwell Ultra 超級晶片,並採用 NVIDIA NVLinkNVIDIA Quantum-X800 InfiniBandNVIDIA Spectrum-X™ 乙太網路技術連接,為運算資源最吃重的工作負載,大幅提升訓練與推論效能。

DGX GB300 系統可提供比使用 NVIDIA Hopper™ 系統建立的 AI 工廠高出 70 倍的 AI 表現,而且搭載 38 TB 高速記憶體,讓代理型 AI 與推理應用的多步驟推理,實現無與倫比的大規模效能。

每個 DGX GB300 系統中的 72 顆 Grace Blackwell Ultra GPU 皆採用第五代 NVLink 技術連接,透過 NVLink Switch 系統打造出超大共享記憶體空間。

每個 DGX GB300 系統皆搭載 72 個 NVIDIA ConnectX®-8® SuperNIC,實現高達 800Gb/s 的加速網路速度,效能是前一代的兩倍。18 個 NVIDIA BlueField®-3 DPU搭配 NVIDIA Quantum-X800 InfiniBand 或 NVIDIA Spectrum-X Ethernet,可為大規模 AI 資料中心加速效能與效率,並提升安全性。

DGX B300 系統是每個資料中心加速 AI 的利器

NVIDIA DGX B300 系統是一個 AI 基礎架構平台,可幫助每個資料中心實現節能的生成式 AI 與 AI 推理技術。

DGX B300 系統採用 NVIDIA Blackwell Ultra GPU 加速,AI 推論效能速度較 Hopper 世代提升 11 倍,訓練則加速 4 倍。

每個系統皆提供 2.3 TB 的 HBM3e 記憶體,而且搭載先進的網路技術,採用8個 NVIDIA ConnectX-8 SuperNIC 和2個 BlueField-3 DPU。

NVIDIA 軟體加速 AI 開發與部署

為了讓企業能夠將基礎架構的管理與運作自動化,NVIDIA 還推出 NVIDIA Mission Control™ 這款適用於 Blackwell 架構 DGX 系統的 AI 資料中心營運與協調軟體。

NVIDIA DGX 系統支援 NVIDIA AI Enterprise 軟體平台,協助建置和部署企業級 AI 代理。範圍包括 NVIDIA NIM 微服務,例如今日發表的全新 NVIDIA Llama Nemotron 開放式推理模型系列,以及用於協調及最佳化 AI 代理效能的 NVIDIA AI Blueprints、架構、函式庫與工具。

NVIDIA Instant AI Factory 可滿足基礎架構需求

NVIDIA Instant AI Factory 為企業提供的 Equinix 託管服務,採用 Blackwell Ultra 驅動且內含 NVIDIA Mission Control 軟體的 NVIDIA DGX SuperPOD。

透過Equinix遍佈全球各地的專用設施,這項服務可為企業提供配置齊全且能夠生成資訊的 AI 工廠,並針對先進的模型訓練與即時推理工作負載進行最佳化,省去好幾個月的部署前基礎架構規劃時間。

上市時程

合作夥伴預計在今年稍晚推出採用 DGX GB300 或 DGX B300 系統的 NVIDIA DGX SuperPOD。

NVIDIA Instant AI Factory 規劃於今年稍晚開始提供。

歡迎觀看 NVIDIA GTC 主題演講,並且報名參加 NVIDIA 與業界領導者在 GTC 大會的各項精彩會議,GTC 大會將從即日起舉辦至 3 月 21 日。

關於NVIDIA(輝達)

NVIDIA(輝達)為加速運算領域的先驅。

NVIDIA前瞻性聲明

本新聞稿根據目前預期所做出的前瞻性聲明,包含但不限於:NVIDIA 產品、服務與技術的優勢、影響、供應情況與效能;採用 NVIDIA 產品與技術的第三方及其優勢與影響;AI發展迅速,企業紛紛積極打造可擴充的 AI 工廠,以滿足推理 AI 與推論時間擴展的處理需求,NVIDIA Blackwell Ultra DGX SuperPOD 為代理型與實體 AI 時代,提供開箱即用的 AI 超級運算系統等。這些前瞻性聲明包含可能導致實質結果與預期不符之風險與不確定因素。多項重要因素可能導致實際結果與前瞻性聲明所示之結果出現重大差異,所及範圍有全球經濟情況;NVIDIA的產品借重第三方協力廠商之製造、組合、封裝和測試;技術發展和市場競爭之影響;發展新產品與技術或強化現有的產品及技術;NVIDIA或合作廠商的產品的市場接受度;設計、製造或軟體缺陷;消費者偏好或需求之改變;業界標準和介面之改變;整合到系統後無法預期的NVIDIA產品或效能降低之技術缺失,以及NVIDIA定期提交給美國證券交易委員會(SEC)報告中的其他詳細因素,包含但不限於Form10-K的年度報告和Form10-Q的季度報告。NVIDIA 在公司官方網站上免費提供定期提交給SEC的報告之副本。這些前瞻性聲明不保證未來的效能,只陳述目前的狀態。除非法律規定,否則NVIDIA沒有意願或義務因為新資訊、未來事件或其他理由而更新或修改任何前瞻性聲明。

©本文為NVIDIA 公司 2025版權所有,並保留所有權利。NVIDIA、NVIDIA 標誌、BlueField、ConnectX、DGX、NVIDIA DGX SuperPOD、NVIDIA Grace、NVIDIA Hopper、NVIDIA Mission Control、NVIIDA NIM、NVIDIA Spectrum-X 和 NVLink是NVIDIA 公司在美國及其他地區的商標及(或)註冊商標。所有其他公司及產品名稱乃為所屬個別公司之商標。功能、訂價、出貨時程和規格之變更不會另行通知。