NVIDIA 攜手全球資料中心系統製造商,共同推動生成式人工智慧與工業數位化的發展

OVX 伺服器搭載新款 NVIDIA GPU,可加速訓練及推論以及圖形密集的工作負載;戴爾科技集團、慧與科技、Lenovo、美超微等公司即將推出 OVX 伺服器產品
作者 NVIDIA Corporation

NVIDIA 今日宣布推出搭載新款 NVIDIA® L40S GPU 的 NVIDIA OVX™ 伺服器。NVIDIA L40S GP U是一款功能強大的通用資料中心處理器,用於搭配 NVIDIA Omniverse™ 平台加快處理人工智慧訓練及推論、3D 設計和視覺化,還有影片處理和工業數位化等運算最密集的複雜應用項目。

這款新的 GPU 為生成式人工智慧的加速運算工作負載提供了完整的運算能力,而生成式人工智慧正在改變各行各業的工作流程和服務,包括文字、影像和影片生成、聊天機器人、遊戲開發、產品設計和醫療保健。

NVIDIA 專業視覺化事業部門副總裁 Bob Pette 表示:「隨著生成式人工智慧改變了各行各業,企業也越來越在資料中心尋求大規模運算資源。搭載 NVIDIA L40S GPU 的 OVX 系統能夠加速處理人工智慧、繪圖和影片處理工作負載,滿足愈來愈多的複雜多樣化應用項目對效能的嚴苛要求。」

用於處理人工智慧及繪圖作業的強大效能

NVIDIA OVX 系統每具伺服器上最多可支援 8 個 NVIDIA L40S GPU,每個 GPU 配備 48GB 記憶體。基於 NVIDIA Ada Lovelace GPU 架構的 L40S,包含第四代 Tensor 核心和一具 FP8 Transformer Engine,張量處理能力超過 1.45 petaflops。NVIDIA L40S GPU 與 NVIDIA A100 Tensor 核心 GPU 相比,在處理具有數十億個參數和多種資料模式(如文字和影片)的複雜人工智慧工作負載方面,其生成式人工智慧的推論表現提升1.2倍,訓練表現增加1.7倍。

NVIDIA L40S GPU 內有 142 個第三代 RT 核心,可提供 212 teraflops 的光線追蹤運算效能,以支援實時渲染、產品設計和創作 3D 內容等高保真度的專業視覺化工作流程。這使得創意專業人士能夠創作出極具臨場感的視覺體驗和逼真內容。

對於工程和科學模擬等有著嚴苛運算要求的工作流程,NVIDIA L40S 內有 18,176 個 CUDA® 核心,單精度浮點運算(FP32)效能幾乎是 NVIDIA A100 GPU 的五倍,可加速執行複雜運算和資料密集型的分析作業。

先行採用

CoreWeave 是首批提供 L40S 執行個體的雲端服務提供商之一,該公司專精於處理大規模 GPU 加速工作負載。

CoreWeave 技術長 Brian Venturo 表示:「隨著生成式人工智慧的爆發,我們各行各業的客戶都在尋找強大的運算解決方案和規模,以滿足從互動式影片到人工智慧設計和自動化等各種複雜程度不一的工作負載。NVIDIA L40S GPU 將進一步擴大我們廣泛的 NVIDIA 解決方案組合,使得 CoreWeave 成為首家提供這些嶄新資源的專業雲端運算服務供應商,為下一波生成式人工智慧應用項目提供快速、高效且符合成本效益的加速運算服務。」

推動人工智慧發展的軟體

部署 L40S GPU 的企業可以搭配 NVIDIA AI Enterprise 軟體並從中獲得效益。NVIDIA AI Enterprise軟體今日亦推出重大更新內容,該軟體提供100 多種框架、預先訓練模型、工具套件及軟體,其中包括用於模擬的 NVIDIA Modulus、用於資料科學的 NVIDIA RAPIDS™,以及用於在生產環境中提供人工智慧的 NVIDIA Triton™ Inference Server,給予生產就緒的企業支援和安全性

Omniverse 升級

NVIDIA 另宣布推出 Omniverse 平台重大更新項目,引入多項功能和平台增強項目,讓開發人員能夠利用生成式人工智慧的強大功能,加速推進 OpenUSD 管道及工業數位化應用項目的發展。用於支援 Omniverse Cloud 的下一代 NVIDIA OVX 系統將搭載 L40S GPU,提供推動生成式人工智慧管道及 Omniverse 工作負載所需的人工智慧及繪圖處理效能。

供貨時程

NVIDIA L40S 將於今年秋季上市。包括華碩、戴爾科技集團(Dell Technologies)、技嘉科技、慧與科技(HPE)、Lenovo、雲達科技(QCT)及美超微(Supermicro)在內的全球系統建構商,將很快提供搭載 NVIDIA L40S GPU 的 OVX 系統。這些伺服器將幫助全球專業人士推進人工智慧的發展,並且為各行各業的用戶帶來智慧聊天機器人、搜尋和摘要工具等生成式人工智慧應用項目。

掌握 NVIDIA 最新動態

請訂閱 NVIDIA 官方部落格或追蹤 FacebookTwitterLinkedInInstagram。瀏覽 NVIDIA 相關影片及圖片,請至 YouTubeFlickr

關於 NVIDIA (輝達)

NVIDIA (輝達) 自 1999 年發明 GPU 起便成功促進 PC 電競市場的成長,並重新定義現代電腦繪圖、高效能運算與人工智慧。NVIDIA 在加速運算和人工智慧領域的開創性成就,正重塑多個市場規模高達數兆美元的產業,如交通運輸、健康醫療和製造業,亦同時促進許多其他產業的成長。欲瞭解更多資訊,請瀏覽 https://blogs.nvidia.com.tw

新聞聯絡人

NVIDIA
資深公關經理 王懷璐
電話:(02)6605-5700
E-mail: Kate Wang
霍夫曼公關
王一中/劉潔
行動電話: 0934-191-532 / 0961-106-610
E-mail: Stephen Wang/Claire Liu

本新聞稿根據目前預期所做出的前瞻性聲明,包含但不限於:NVIDIA 的產品、服務和技術的優勢和影響,包括NVIDIA OVX 伺服器、NVIDIA Omniverse、NVIDIA Ada Lovelace、NVIDIA A100 Tensor Core GPU、NVIDIA A100 GPU、NVIDIA L40S GPUs、NVIDIA AI Enterprise 軟體、NVIDIA Modulus、NVIDIA RAPIDS 和 NVIDIA Triton 推論伺服器; 企業尋求快速、高效且符合成本效益的加速運算服務;企業開始更加著力在資料中心尋找大規模的運算資源;生成式AI對產業的影響、採用NVIDIA OVX 伺服器的新客戶等。這些前瞻性聲明包含可能導致實質結果與預期不符之風險與不確定因素。多項重要因素可能導致實際結果與前瞻性聲明所示之結果出現重大差異,所及範圍有全球經濟情況;NVIDIA 的產品借重第三方協力廠商之製造、組合、封裝和測試;技術發展和市場競爭之影響;發展新產品與技術或強化現有的產品及技術;NVIDIA或合作廠商的產品的市場接受度;設計、製造或軟體缺陷;消費者偏好或需求之改變;業界標準和介面之改變;整合到系統後無法預期的 NVIDIA 產品或效能降低之技術缺失,以及 NVIDIA 定期提交給美國證券交易委員會(SEC)報告中的其他詳細因素,包含但不限於Form10-K的年度報告和 Form10-Q 的季度報告。NVIDIA 在公司官方網站上免費提供定期提交給 SEC 的報告之副本。這些前瞻性聲明不保證未來的效能,只陳述目前的狀態。除非法律規定,否則 NVIDIA 沒有意願或義務因為新資訊、未來事件或其他理由而更新或修改任何前瞻性聲明。

本文為NVIDIA公司 2023 版權所有並保留所有權利。NVIDIA、NVIDIA標誌、NVIDIA OVX、NVIDIA Omniverse、NVIDIA Titron和RAPIDS是NVIDIA公司在美國及(或)其他地區的商標和(或)註冊商標。所有其他公司及產品名稱乃為所屬個別公司之商標。功能、定價、出貨時程和規格之變更不會另行通知。