NVIDIA 推出 DGX Cloud,讓每個企業都能通過網路瀏覽器即時取得人工智慧超級電腦的強大運算能力

Oracle Cloud Infrastructure 將率先運行 NVIDIA AI 超級運算執行個體;微軟 Azure、Google Cloud 及其他雲端服務業者也將託管 DGX Cloud
作者 NVIDIA

NVIDIA(輝達)宣布推出人工智慧超級運算服務 NVIDIA DGX Cloud™,企業透過這項服務可立即獲得為生成式人工智慧及其他突破性應用項目訓練先進模型所需的基礎設施和軟體。

DGX Cloud 提供專用的 NVIDIA DGX™ AI 超級運算叢集,並且搭配 NVIDIA AI 軟體。這項服務讓各個企業只要透過簡單的網路瀏覽器,就能使用自己的人工智慧超級電腦,如此一來便省去購置、部署和管理企業內部基礎設施的複雜性。

企業按月租用 DGX Cloud 運算叢集,這確保他們能夠快速輕鬆地調整開發大型多節點訓練工作負載的大小,無需等待通常需求龐大的加速運算資源。

NVIDIA 創辦人暨執行長黃仁勳表示:「我們現正處於人工智慧產業的 iPhone 時刻。新創公司爭相打造顛覆性的產品和商業模式,而現有公司則在尋求因應之道。DGX Cloud 讓客戶可以在全球規模的雲端環境裡,立即取得 NVIDIA 的人工智慧超級運算資源」。

NVIDIA 與各大雲端服務供應商合作託管 DGX Cloud 基礎設施,由 Oracle Cloud Infrastructure(OCI)開始。 Oracle Cloud Infrastructure 的 OCI RDMA Supercluster 提供一個專門打造的 RDMA 網路、裸機運算及高效能本地和塊儲存(block storage),可以擴大到擁有超過32,000個 GPU 的超級電腦叢集。

微軟 Azure 預計將在下一季開始託管 DGX Cloud,Google Cloud 及其他業者很快就將加入。

產業巨頭採用 NVIDIA DGX Cloud,加速邁向成功之路

全球生技公司龍頭之一的 Amgen(安進)、保險科技領導業者 CCC Intelligent Solutions(CCC)與數位業務平台服務提供商 ServiceNow 是首批使用 DGX Cloud 的人工智慧先驅。

Amgen 將 DGX Cloud 搭配 NVIDIA BioNeMo™ 大型語言模型軟體,以加快發現藥物的速度,其中包括 NVIDIA AI Enterprise 軟體,而在 NVIDIA AI Enterprise 軟體中另有提供 NVIDIA RAPIDS™ 資料科學加速函式庫。

Amgen 數位創新研究加速中心生物製劑治療發現研究部門執行主任 Peter Grandsard 表示:「我們的研究人員借助 NVIDIA DGX Cloud 與 NVIDIA BioNeMo,就能夠專心投入進行更深層次的生物學研究,而不必浪費時間對付人工智慧基礎設施和設定機器學習工程。相對於其他平台,DGX Cloud 的強大運算和多節點能力,使得我們能夠利用 BioNeMo,將蛋白質 LLMs 的訓練速度提高三倍,利用 NVIDIA RAPIDS 將訓練後的分析速度提高 100 倍。」

財產與意外傷害保險經濟領導雲端平台 CCC 使用 DGX Cloud 來加快開發和訓練人工智慧模型的速度,以及擴大模型規模。這些模型用於支援該公司的創新汽車理賠解決方案,協助加速推動產業採行智慧自動化技術,且每天為數百萬名企業用戶及其消費者創造更美好的理賠體驗。

ServiceNow 使用 DGX Cloud 與公司內部的 NVIDIA DGX 超級電腦,進行兼具靈活度和擴充性的混合雲端人工智慧超級運算作業,協助該公司在大型語言模型、程式碼生成和休閒分析方面進行人工智慧研究。ServiceNow 還共同管理負責任的開放科學生成式人工智慧 BigCode 計畫,這項計畫使用 NVIDIA 的 Megatron-LM 框架進行訓練。

打開網路瀏覽器,就能取得 NVIDIA AI 超級運算及軟體資源

企業使用 NVIDIA Base Command 平台軟體來管理和監控 DGX Cloud 的訓練工作負載,這套軟體在 DGX Cloud 及企業內部的 NVIDIA DGX 超級電腦之間提供了流暢的使用體驗。客戶使用 Base Command 平台可以按照每項工作所需的正確數量和類型 DGX 基礎設施來搭配不同的工作負載量。

DGX Cloud 包括 NVIDIA AI 平台的軟體層 NVIDIA AI Enterprise,提供端到端的人工智慧框架和預先訓練好的模型,以加速推動資料科學管道與簡化生產式人工智慧的開發和部署作業。在今日發布的 NVIDIA AI Enterprise 3.1中提供了全新預先訓練好的模型、經最佳化調整的框架及加速的資料科學軟體庫,讓開發者有其他方法來啟動人工智慧項目。

DGX Cloud 的每個執行個體都有8個 NVIDIA H100A100 80GB Tensor 核心 GPU,每個節點共有 640GB 的 GPU 記憶體。利用 NVIDIA Networking 技術建構出的高效能、低延遲性結構,確保能夠在互連系統的叢集中調整工作負載的大小,使得多個執行個體能夠當成一個巨大的 GPU 來使用,滿足訓練先進人工智慧的效能要求。在 DGX Cloud 另採用高效能儲存裝置,為人工智慧超級運算提供了完整的解決方案。

DGX Cloud 在整個人工智慧的開發過程中有提供 NVIDIA 專家群的支援。客戶可以直接跟 NVIDIA 的工程師合作、將模型調整到最佳狀態,以及迅速解決各種產業使用案例裡開發方面的疑難雜症。

上市時程

DGX Cloud 執行個體的價格為每個執行個體每月 36,999 美元起。企業可以連絡其 NPN 合作夥伴以瞭解更多詳情。

請觀看黃仁勳在 GTC 主題演講中對 NVIDIA DGX Cloud 的討論,另外也歡迎收聽 GTC 大會與 NVIDIA DGX Cloud 先驅用戶的小組討論

掌握 NVIDIA 最新動態

請訂閱 NVIDIA 官方部落格或追蹤 FacebookTwitterLinkedInInstagram。瀏覽 NVIDIA 相關影片及圖片,請至 YouTubeFlickr

關於 NVIDIA (輝達)

NVIDIA (輝達) 自 1999 年發明 GPU 起便成功促進 PC 電競市場的成長,並重新定義現代電腦繪圖、高效能運算與人工智慧。NVIDIA 在加速運算和人工智慧領域的開創性成就,正重塑多個市場規模高達數兆美元的產業,如交通運輸、健康醫療和製造業,亦同時促進許多其他產業的成長。欲瞭解更多資訊,請瀏覽 https://blogs.nvidia.com.tw

新聞聯絡人

NVIDIA
資深公關經理 王懷璐
電話:(02)6605-5700
E-mail: Kate Wang
霍夫曼公關
王一中/劉潔
電話:(02) 7743-9135/ (02) 7743-9128/ (02) 7743-9133
傳真:(02) 7743-9199
行動電話: 0934-191-532 / 0961-106-610
E-mail: Stephen Wang/Claire Liu

本新聞稿可能包含 NVIDIA 根據目前預期所做出的前瞻性聲明:我們的產品、技術與服務的優點、影響、規格和供貨時程,包括 DGX Cloud、NVIDIA DGX、NVIDIA AI 軟體、NVIDIA BioNeMo、NVIDIA AI Enterprise、NVIDIA RAPIDS、NVIDIA Base Command 及 NVIDIA GPU;人工智慧產業的 iPhone 時刻;爭相打造顛覆性產品和商業模式的新創公司,以及尋求回應的現有公司;託管 DGX Cloud 基礎設施的主要雲端服務提供商;以及使用 DGX Cloud 的第三方業者,包括其優點和影響。多項重要因素可能導致實際結果與前瞻性聲明所示之結果出現重大差異,所及範圍有全球經濟情況;我們的產品借重第三方協力廠商製造、組合、封裝和測試的部分;技術發展和市場競爭之影響;新產品或技術的發展或我們現有產品與技術的提升;市場接受我們的產品或合作夥伴產品的程度;設計、製造或軟體缺失;消費者偏好或需求改變;業界標準和介面改變;整合到系統後無法預期的產品或效能降低之技術缺失;以及我們定期提交給美國證券交易委員會(SEC)以 Form 10-Q 報告附本為基礎的Form 10-K財務季度等其他詳細因素。NVIDIA 在公司官方網站上免費提供定期提交給 SEC 的報告之副本。這些前瞻性聲明不保證未來的表現,僅陳述當前狀態,除非法律規定,否則 NVIDIA 沒有意願或義務更新或修改任何前瞻性聲明。

©本文為 NVIDIA 公司 2023 版權所有,並保留所有權利。NVIDIA、NVIDIA 標誌、BioNeMo、DGX、DGX Cloud、NVIDIA Base Command 及 RAPIDS 是 NVIDIA 公司在美國及其他地區的商標及(或)註冊商標。所有其他公司及產品名稱乃為所屬個別公司之商標。功能、訂價、出貨時程和規格之變更不會另行通知。