- 軟銀利用 NVIDIA Blackwell 架構打造全日本最強大的 AI 超級電腦,用於多項建置主權 AI 的計劃,並宣布採用 Grace Blackwell 的計劃
- NVIDIA AI Aerial 助力軟銀打造全球首個上線的 5G AI-RAN,為全球電信業者釋放數十億美元的全新收入商機
- 軟銀利用 NVIDIA AI Enterprise 建置 AI 市集,滿足全日本對本地安全 AI 運算服務的需求
NVIDIA 今日宣布與軟銀(SoftBank Corp.)展開多項加快推動開發日本主權人工智慧(AI)計劃的合作,進一步提升日本在全球科技領域的領導地位,同時也為全球電信供應商釋放數十億美元的 AI 收入商機。
NVIDIA 創辦人暨執行長黃仁勳在 NVIDIA AI 日本高峰會(AI Summit Japan)的主題演講中,宣布軟銀正在使用 NVIDIA Blackwell 平台打造日本最強大的 AI 超級電腦,並且計劃在下一代超級電腦中使用 NVIDIA Grace Blackwell 平台。
NVIDIA 還公開軟銀使用 NVIDIA AI Aerial 加速運算平台,已成功試驗全球第一個結合 AI 與 5G 的電信網路。這項運算上的突破,為電信業者開啟了價值數十億美元的潛在 AI 收入來源。
NVIDIA 與軟銀也宣布透過使用 NVIDIA AI Enterprise 軟體,軟銀正致力於建置一個 AI 市集(AI marketplace),以滿足日本當地對於安全 AI 運算的需求。這項新服務支援 AI 訓練與邊緣 AI 推論,使得軟銀成為日本的 AI 網格(AI grid),促進日本各產業、消費者與企業創造、分配及利用 AI 服務的新商機。
黃仁勳表示:「日本在開創具全球影響力的科技創新方面擁有悠久歷史。隨著軟銀大幅投資於 NVIDIA 的全端 AI、Omniverse 及 5G AI-RAN 平台,日本正在跨入 AI 產業革命,成為全球領導者,推動電信、交通、機器人和醫療保健等產業進入全新成長時代,這對 AI 時代的人類來說實為一大福音。」
軟銀總裁暨執行長宮川潤一(Junichi Miyakawa)表示:「全世界的國家和地區都在加快採用 AI 來促進社會和經濟成長,社會正在經歷重大變革。透過與 NVIDIA 的長期合作,軟銀正站在最前線引領這場轉型。憑藉我們極為強大的 AI 基礎設施,以及為 AI 重塑 5G 網路的全新分散式 AI-RAN 解決方案『AITRAS』,我們將在日本全國乃至全球範圍內加速創新。」
軟銀率先取得 Blackwell,並計劃採用 Grace Blackwell
軟銀預計將取得全球首批 NVIDIA DGX B200 系統,作為其全新 NVIDIA DGX SuperPOD 超級電腦的建置基礎。
軟銀計劃將其搭載 Blackwell 平台的 DGX SuperPOD 用於自身的生成式 AI 開發及 AI 相關業務,還有提供給日本各地的大學、研究機構和企業使用。
待完工後,軟銀的 DGX SuperPOD 超級電腦預計屆時將是日本效能最高的超級電腦。它搭載 NVIDIA AI Enterprise 軟體與 NVIDIA Quantum-2 InfiniBand 網路技術,也是開發大型語言模型的理想選擇。
除了 DGX SuperPOD 超級電腦外,軟銀還打算建造另一台 NVIDIA 加速超級電腦,以執行極度密集的運算工作負載。這台超級電腦的初步計劃是以 NVIDIA Grace Blackwell 平台設計為基礎,採用 NVIDIA GB200 NVL72 多節點液冷機架系統,結合 NVIDIA Blackwell GPU 與高能效的 Arm 架構 NVIDIA Grace CPU。
AI-RAN 達成全新里程碑
軟銀與 NVIDIA 密切合作創下一項技術上的里程碑,開發出一種可同時運行 AI 和 5G 工作負載的新型電信網路,業界稱之為 AI 無線接取網路技術(AI-RAN)。
這種新型的基礎設施獲得了電信業廣泛的生態系支持,它讓電信業者能夠將其基地台從成本中心變成 AI 創造收入的資產。
透過在日本神奈川縣進行戶外試驗,軟銀證明其由 NVIDIA 加速的 AI-RAN 解決方案已經達到電信商等級的 5G 效能,且能夠在使用網路的剩餘容量來同時執行 AI 推論工作負載。
傳統的電信網路是為處理尖峰負載而設計,平均只使用三分之一的容量。有了 AI-RAN 所提供的共同運算能力,預計電信業者現在有機會將剩下的三分之二容量用於 AI 推論服務,並且將其變現。
NVIDIA 與軟銀估算電信業者在新的 AI-RAN 基礎架構上每投資一美元,就能賺取約五美元的 AI 推論收入[1]。考慮到營運支出與資本支出成本,軟銀估算其基礎設施中每增加一台 AI-RAN 伺服器,利潤率最高可達到 219%[2]。
在 AI-RAN 上執行實體世界的推論
軟銀在測試中使用 NVIDIA AI Enterprise 建立實體環境的 AI 推論應用,包括自動駕駛車遠端支援、機器人控制以及邊緣多模式檢索自動生成(RAG)。所有推論工作負載都可以在軟銀的 AI-RAN 網路上以最佳狀態執行。
軟銀的全軟體定義 5G 無線電堆疊已針對 NVIDIA 的 AI 運算平台進行最佳化,包括軟銀基於 NVIDIA Aerial™ CUDA® 加速 RAN 函式庫所增強的 L1 軟體。軟銀計劃將 NVIDIA Aerial RAN Computer-1 系統加入其解決方案中,據軟銀估算,這套系統的耗電量將比傳統 5G 網路基礎設施減少 40%[3]。
為軟銀的 AI-RAN 解決方案測試作出貢獻的NVIDIA 與軟銀合作夥伴包括富士通(Fujitsu)與 Red Hat。
供需相互對應
由於 AI-RAN 解決方案需要在不影響電信商等級即時效能的情況下,視供需情況動態調整運算量的高低,因此軟銀打算使用 NVIDIA AI Enterprise 無伺服器應用程式介面及其自行開發的協調器,建立一個連接 AI 技術供需的生態系。這使得軟銀在有可用的運算資源時,將外部 AI 推論工作交給 AI-RAN 伺服器執行,以提供在地化、低延遲又安全的推論服務。
NVIDIA 電信事業部資深副總裁 Ronnie Vasishta 表示:「從單一用途的 AI-RAN 網路轉變為多用途的 AI-RAN 網路,能代表每投入一美元的資本支出,將帶來五倍的收益。軟銀的現場實際測試證明了這項技術的可行性、效能和經濟性,向 AI-RAN 商業化邁出了一大步。」
軟銀副總裁暨先進科技研究所所長湧川隆次(Ryuji Wakikawa)表示:「軟銀的『AITRAS』是與 NVIDIA 合作五年開發出的第一個 AI-RAN 解決方案。它透過軟銀開發的協調器,整合與協調 AI 及 RAN 工作負載,透過在單一 NVIDIA 加速的 GPU 伺服器上運行密集運算單元,提高通訊效率。我們深信這項由 AI 驅動的創新技術『AITRAS』將為電信業的新商業模式打下基礎,成為行動通訊電信商轉型的關鍵因素。」
了解更多關於適用於 AI-RAN 的 NVIDIA 解決方案。
[1] 結果不保證執行時帶來實際收益。
[2] 根據軟銀的估算。
[3] 根據 NVIDIA 與軟銀的估算。結果不保證執行時的實際功耗降低。
關於 NVIDIA (輝達)
NVIDIA(輝達)自 1993 年成立以來始終為加速運算領域的先驅。自 1999 年發明 GPU 起便成功促進 PC 電競市場的成長、重新定義電腦繪圖,並引領現代人工智慧時代。NVIDIA 為一間全方位的運算公司,提供資料中心規模的產品以重塑產業樣貌。欲瞭解更多資訊,請瀏覽 https://nvidianews.nvidia.com/。
新聞聯絡人
NVIDIA 資深公關經理 王懷璐 電話:(02)6605-5700 E-mail: Kate Wang |
霍夫曼公關 莊昇諺/王一中/高楷婷 行動電話: 02-7713-7609/02-7713-7109/02-7713-6798 E-mail: Anthony Chuang/Stephen Wang/Hazel Kao |
本新聞稿根據目前預期所做出的前瞻性聲明,包含但不限於:NVIDIA的產品和技術(NVIDIA Blackwell 平台、NVIDIA Grace Blackwell 平台、NVIDIA AI Aerial、NVIDIA AI Enterprise 軟體、NVIDIA DGX B200 系統、NVIDIA DGX SuperPOD 超級電腦、NVIDIA Quantum-2 InfiniBand 網路技術、NVIDIA GB200 NVL72 多節點液冷機架系統、NVIDIA Grace CPU、NVIDIA Aerial CUDA 加速 RAN 函式庫、NVIDIA Aerial RAN Computer-1 系統、NVIDIA 的全端 AI 和 NVIDIA Omniverse)的優勢、影響、性能、特色和可獲得性;NVIDIA與軟銀的合作及其優點與影響;軟銀使用或採用 NVIDIA 產品和技術及其優點和影響,以及其產品的功能、效能與可用性;隨著軟銀大幅投資於 NVIDIA 的全端 AI、Omniverse 及 5G AI-RAN 平台,日本正在跨入 AI 產業革命,成為全球領導者,推動電信、交通、機器人和醫療保健等產業進入全新成長時代;全世界的國家和地區都在加快採用 AI 來促進社會和經濟成長,社會正在經歷重大變革;透過與 NVIDIA 的長期合作,軟銀正站在最前線引領這場轉型;憑藉軟銀極為強大的 AI 基礎設施,以及為 AI 重塑 5G 網路的全新分散式 AI-RAN 解決方案「AITRAS」,軟銀將在日本全國乃至全球範圍內加速創新;由 AI 驅動的創新技術「AITRAS」將為電信業的新商業模式打下基礎,成為行動通訊電信商轉型的關鍵因素等。這些前瞻性聲明包含可能導致實質結果與預期不符之風險與不確定因素。多項重要因素可能導致實際結果與前瞻性聲明所示之結果出現重大差異,所及範圍有全球經濟情況;NVIDIA的產品借重第三方協力廠商之製造、組合、封裝和測試;技術發展和市場競爭之影響;發展新產品與技術或強化現有的產品及技術;NVIDIA或合作廠商的產品的市場接受度;設計、製造或軟體缺陷;消費者偏好或需求之改變;業界標準和介面之改變;整合到系統後無法預期的NVIDIA產品或效能降低之技術缺失,以及NVIDIA定期提交給美國證券交易委員會(SEC)報告中的其他詳細因素,包含但不限於Form10-K的年度報告和Form10-Q的季度報告。NVIDIA 在公司官方網站上免費提供定期提交給SEC的報告之副本。這些前瞻性聲明不保證未來的效能,只陳述目前的狀態。除非法律規定,否則NVIDIA沒有意願或義務因為新資訊、未來事件或其他理由而更新或修改任何前瞻性聲明。
©本文為NVIDIA 公司 2024版權所有,並保留所有權利。NVIDIA、NVIDIA 標誌是NVIDIA 公司在美國及其他地區的商標及(或)註冊商標。所有其他公司及產品名稱乃為所屬個別公司之商標。功能、訂價、出貨時程和規格之變更不會另行通知。