NVIDIA 推出為超大規模生成式人工智慧打造的乙太網路平台

全新 NVIDIA Spectrum-X 網路平台結合 NVIDIA Spectrum-4、BlueField-3 DPU 與加速軟體;全球領導的雲端服務提供商使用此平台來擴大生成式人工智慧服務的規模
作者 NVIDIA Corporation

NVIDIA 今日宣布推出 NVIDIA Spectrum-X 網路平台,這個全新級別的乙太網路平台旨在提升以乙太網路為基礎的 AI 雲端效能與效率。

NVIDIA Spectrum-X 建立在由 NVIDIA Spectrum-4 乙太網路交換器NVIDIA BlueField-3 DPU 緊密耦合驅動的的網路創新技術上,整體人工智慧運作表現及能效提高 1.7 倍,並在多租戶環境中有著一致且可預測的效能表現。NVIDIA 加速軟體與軟體開發套件(SDK)支援 Spectrum-X 平台,讓開發人員可以建立軟體定義的雲端原生人工智慧應用程式。

此端到端的功能減少了大規模基於 Transformer 生成式 AI 模型的運行時間。如此一來網路工程師、人工智慧資料科學家及雲端服務提供商能提出更好的執行結果,以及更快做出明智決定。

眾多全球超大規模資料中心業者將採用 NVIDIA Spectrum-X,其中包括引領業界的雲端服務創新業者。

NVIDIA 正在建造 Israel-1,做為 NVIDIA Spectrum-X 參考設計的藍本和測試平台。這個超大規模生成式人工智慧超級電腦將以 Dell Technologies 最新的 PowerEdge XE9680 伺服器為基礎搭載 NVIDIA HGX H100 伺服器、BlueField-3 DPU 和 Spectrum-4 交換器,部署其在以色列的資料中心。

NVIDIA 網路部門資深副總裁 Gilad Shainer 表示:「生成式人工智慧這類革新性技術迫使每個企業徹底發揮資料中心效能的極限,以追求競爭優勢。NVIDIA Spectrum-X 是全新的乙太網路技術,有潛力移除下一代人工智慧工作負載的障礙,帶領整個產業進行轉型。」

NVIDIA Spectrum-X 網路平台在使用上極為靈活,可以搭配多種人工智慧應用程式使用。它採用完全基於標準的乙太網路,可與基於乙太網路的堆疊交互操作。

NVIDIA Spectrum-X 以專為人工智慧網路打造、全球首款頻寬達每秒 51TB 的 Spectrum-4 乙太網路交換器做為基礎。先進的 RoCE 擴充項目在 Spectrum-4 交換器、BlueField-3 DPU 及 LinkX 光學收發器上協同運作,以打造出最適合人工智慧雲端環境運行的端對端 400GbE 網路。

NVIDIA Spectrum-X 以效能隔離的做法來增強多租戶環境的運作表現,確保在穩定一致的最佳狀態下運行租戶的人工智慧工作負載。它還可以找出效能瓶頸且有著全自動化的 結構(fabric)驗證功能,讓用戶能更清楚掌握人工智慧的效能。

推動 Spectrum-X 運作的加速軟體有強大的 Cumulus Linux、單純的 SONiCNetQ 等 NVIDIA SDK,這些加起來讓這個網路平台擁有極為出色的運行表現。它還有 NVIDIA DOCA 軟體框架,這正是 BlueField DPU 的核心。

NVIDIA Spectrum-X 有著無與倫比的連結規模,一個交換器連結 256 個 200Gb/s 連接埠,或是在雙層葉脈式拓撲結構中提供 16,000 個連接埠,以支援人工智慧雲端環境的成長和擴張,同時維持高度運作效能及將網路延遲情況降到最低。

生態系統立即採用

提供 NVIDIA Spectrum-X 平台的公司有 Dell Technologies、聯想及美超微。

供貨時程

NVIDIA Spectrum-X、NVIDIA Spectrum-4 乙太網路交換器、NVIDIA BlueField-3 DPU 與 400G LinkX 光學收發器現已開始供貨。

COMPUTEX 了解更多關於 NVIDIA Spectrum-X 的資訊。

掌握 NVIDIA 最新動態

請訂閱 NVIDIA 官方部落格或追蹤 FacebookTwitterLinkedInInstagram。瀏覽 NVIDIA 相關影片及圖片,請至 YouTubeFlickr

關於 NVIDIA (輝達)

NVIDIA (輝達) 自 1999 年發明 GPU 起便成功促進 PC 電競市場的成長,並重新定義現代電腦繪圖、高效能運算與人工智慧。NVIDIA 在加速運算和人工智慧領域的開創性成就,正重塑多個市場規模高達數兆美元的產業,如交通運輸、健康醫療和製造業,亦同時促進許多其他產業的成長。欲瞭解更多資訊,請瀏覽 https://blogs.nvidia.com.tw

新聞聯絡人

NVIDIA
資深公關經理 王懷璐
電話:(02)6605-5700
E-mail: Kate Wang
霍夫曼公關
王一中/劉潔
行動電話: 0934-191-532 / 0961-106-610
E-mail: Stephen Wang/Claire Liu

本新聞稿根據目前預期所做出的前瞻性聲明,包括NVIDIA Spectrum-X網路平台、Spectrum-4、Spectrum-4交換器、BlueField-3 DPU、 NVIDIA加速軟體和SDK、Israel-1、NVIDIA HGX H100伺服器、RoCE、LinkX, 400G LinkX光學收發器、Cumulus Linux, 單純的SONiC、NetQ,和NVIDIA DOCA等產品、合作、服務和技術的優勢、影響力、性能、功能、和上市資訊;我們與Dell Technologies、聯想、美超微的合作以及相關的優勢、影響力、功能、和上市資訊;和生成式人工智慧等變革性技術推動所有產業在追求競爭優勢下推展資料中心的性能。這些前瞻性聲明包含可能導致實質結果與預期不符之風險與不確定因素。多項重要因素可能導致實際結果與前瞻性聲明所示之結果出現重大差異,所及範圍有全球經濟情況;NVIDIA的產品借重第三方協力廠商之製造、組合、封裝和測試;技術發展和市場競爭之影響;發展新產品與技術或強化現有的產品及技術;NVIDIA或合作廠商的產品的市場接受度;設計、製造或軟體缺陷;消費者偏好或需求之改變;業界標準和介面之改變;整合到系統後無法預期的NVIDIA產品或效能降低之技術缺失,以及NVIDIA定期提交給美國證券交易委員會(SEC)報告中的其他詳細因素,包含但不限於Form10-K的年度報告和Form10-Q的季度報告。NVIDIA 在公司官方網站上免費提供定期提交給SEC的報告之副本。這些前瞻性聲明不保證未來的效能,只陳述目前的狀態。除非法律規定,否則NVIDIA沒有意願或義務因為新資訊、未來事件或其他理由而更新或修改任何前瞻性聲明。

©本文為 NVIDIA 公司 2023 版權所有,並保留所有權利。NVIDIA、NVIDIA 標誌、BlueField、NVIDIA DOCA、NVIDIA HGX、NVIDIA Spectrum及NVIDIA Spectrum-是NVIDIA 公司在美國及其他地區的商標及(或)註冊商標。所有其他公司及產品名稱乃為所屬個別公司之商標。功能、訂價、出貨時程和規格之變更不會另行通知。