NVIDIA 今天宣布全球領先系統製造商將提供人工智慧就緒伺服器,支援今日另行發表的 VMware Private AI Foundation with NVIDIA,幫助企業使用其專有業務資料自定和部署生成式 AI 應用程式。
NVIDIA 人工智慧就緒伺服器將具備 NVIDIA® L40S GPU、NVIDIA BlueField®-3 DPU 和 NVIDIA AI Enterprise 軟體,使企業能夠微調生成式人工智慧基礎模型,並部署像是智慧聊天機器人、搜尋和摘要工具等生成式人工智慧的應用。這些伺服器還提供了 NVIDIA 加速的基礎設施和軟體,為 VMware Private AI Foundation with NVIDIA 提供動力。
由全球領先系統製造商戴爾科技集團、慧與科技和聯想推出搭載 NVIDIA L40S GPUs 的伺服器將於年底前上市,以加速企業的人工智慧應用。
NVIDIA 創辦人暨執行長黃仁勳表示:「一個新的運算時代已經開始。各產業的企業都在競相採用生成式人工智慧。透過我們全球領先軟體和系統合作夥伴生態系統,我們將生成式人工智慧帶給全球的企業。」
NVIDIA 人工智慧就緒伺服器對部署 VMware Private AI Foundation with NVIDIA 的企業來說,是一個理想的平台。
VMware 執行長 Raghu Raghuram 表示:「生成式人工智慧正在加速數位轉型,企業需要一個完全整合的解決方案更安全的建構應用程式,從而推動業務發展。透過結合 VMware、NVIDIA 和我們伺服器製造夥伴的專業,企業能夠開發和部署具有資料隱私、安全和控制能力的人工智慧。」
推動企業生成式 AI 轉型
NVIDIA 人工智慧就緒伺服器旨在為競相採用生成式 AI 進行廣泛應用的各產業提供全套的加速基礎設施和軟體,包括藥物發現、零售產品描述、智慧虛擬助理、製造模擬和欺詐檢測。
這些伺服器採用 NVIDIA 人工智慧平台操作系統 NVIDIA AI Enterprise,該軟體為準備就緒即可部署上線的企業提供超過100 種框架、預訓練模型、工具套件和軟體的支援和安全性。這些框架、預訓練模型、工具包和軟體包括用於大型語言模型的 NVIDIA NeMo™、用於模擬的 NVIDIA Modulus、用於資料科學的 NVIDIA RAPIDS™ 和用於生產人工智慧的 NVIDIA Triton™ 推論伺服器。
L40S GPU 是專為處理具有數十億個參數的複雜人工智慧工作負載而設計,搭載第四代 Tensor Core 和 FP8 Transformer Engine,與 NVIDIA A100 Tensor Core GPU 相比,可提供超過 1.45 petaflops 的處理能力並可提升最高達 1.7 倍的訓練效能。
對於像是智慧聊天機器人、助理、搜尋和摘要等生成式人工智慧應用,NVIDIA L40S 的生成式人工智慧推論效能比 NVIDIA A100 GPU 高出 1.2 倍。
整合 NVIDIA BlueField DPU 可透過加速、卸載和區隔虛擬化、網路、儲存、安全和其他雲原生人工智慧服務所帶來的龐大運算工作負載,進一步提高速度。
NVIDIA ConnectX®-7 SmartNIC提供先進的硬體卸載和超低延遲,為資料密集型的生成式人工智慧工作負載提供一流的可擴充效能。
廣大的生態系統加速企業生成式人工智慧的部署
全球領先的電腦製造商正在打造 NVIDIA 人工智慧就緒伺服器,其中包括戴爾 PowerEdge R760xa、慧與科技 VMware Private AI Foundation with NVIDIA 用 ProLiant Gen11 伺服器以及聯想 ThinkSystem SR675 V3。
戴爾科技集團董事長暨執行長 Michael Dell 表示:「生成式人工智慧是創新的催化劑,幫助解決世界上最緊迫的挑戰。戴爾使用NVIDIA 人工智慧就緒伺服器平台的生成式人工智慧解決方案,將帶來前所未有的生產力並徹底改變產業營運的方式,在人類發展進程上發揮關鍵角色。」
慧與科技總裁暨執行長 Antonio Neri 表示:「透過生成新的見解、設計和解決方案,生成式人工智慧有能力從資料中創造新的價值,是數位轉型的下一個發展機會。我們很高興與 NVIDIA 緊密合作,於企業調整和推論工作解決方案中使用其 GPU 和軟體,加速部署生成式人工智慧。」
聯想集團董事長暨執行長楊元慶表示:「企業渴望採用生成式人工智慧來推動智慧創新,聯想與 NVIDIA 和 VMware 合作將進一步擴大我們在生成式人工智慧領域的領導地位,並鞏固我們在客戶人工智慧之旅中提供協助的獨特定位。。」
上市時間
搭載 L40S GPU 和 BlueField DPU 的 NVIDIA AI Enterprise 就緒伺服器將會在年底上市,雲端服務供應商預計於數月之後將提供執行個體。
掌握 NVIDIA 最新動態
請訂閱 NVIDIA 官方部落格或追蹤 Facebook、Twitter、LinkedIn 與 Instagram。瀏覽 NVIDIA 相關影片及圖片,請至 YouTube 或 Flickr。
關於 NVIDIA (輝達)
NVIDIA (輝達) 自 1999 年發明 GPU 起便成功促進 PC 電競市場的成長,並重新定義現代電腦繪圖、高效能運算與人工智慧。NVIDIA 在加速運算和人工智慧領域的開創性成就,正重塑多個市場規模高達數兆美元的產業,如交通運輸、健康醫療和製造業,亦同時促進許多其他產業的成長。欲瞭解更多資訊,請瀏覽 https://blogs.nvidia.com.tw。
新聞聯絡人
NVIDIA 資深公關經理 王懷璐 電話:(02)6605-5700 E-mail: Kate Wang |
霍夫曼公關 王一中/劉潔 行動電話: 0934-191-532 / 0961-106-610 E-mail: Stephen Wang/Claire Liu |
本新聞稿根據目前預期所做出的前瞻性聲明,包含但不限於:NVIDIA的產品、服務和技術的優勢和影響,包括NVIDIA AI Enterprise就緒伺服器、NVIDIA L40S GPUs、NVIDIA BlueField-3 DPUs 、NVIDIA AI Enterprise、NVIDIA NeMo、 NVIDIA Modulus、NVIDIA RAPIDS、NVIDIA Triton Inference Server、NVIDIA Ada Lovelace、NVIDIA A100 Tensor Core CPU、CUDA和NVIDIA ConnectX-7 SmartNICs;全球領先製造商將推出NVIDIA AI Enterprise就緒伺服器;競相使用生成式人工智慧;NVIDIA 將生成式AI帶給全球企業;全球領先的電腦製造商正在打造以NVIDIA AI Enterprise就緒伺服器;生成式人工智慧是創新的催化劑;生成式人工智慧是數位轉型的下一個前沿科技應用重點;企業渴望採用生成式人工智慧來推動創新、提高生產力和創造力;以及NVIDIA 與 Dell Technologies、Hewlett Packard Enterprise 和 Lenovo 合作的影響和效益等。這些前瞻性聲明包含可能導致實質結果與預期不符之風險與不確定因素。多項重要因素可能導致實際結果與前瞻性聲明所示之結果出現重大差異,所及範圍有全球經濟情況;NVIDIA的產品借重第三方協力廠商之製造、組合、封裝和測試;技術發展和市場競爭之影響;發展新產品與技術或強化現有的產品及技術;NVIDIA或合作廠商的產品的市場接受度;設計、製造或軟體缺陷;消費者偏好或需求之改變;業界標準和介面之改變;整合到系統後無法預期的NVIDIA產品或效能降低之技術缺失,以及NVIDIA定期提交給美國證券交易委員會(SEC)報告中的其他詳細因素,包含但不限於Form10-K的年度報告和Form10-Q的季度報告。NVIDIA 在公司官方網站上免費提供定期提交給SEC的報告之副本。這些前瞻性聲明不保證未來的效能,只陳述目前的狀態。除非法律規定,否則NVIDIA沒有意願或義務因為新資訊、未來事件或其他理由而更新或修改任何前瞻性聲明。
本文為NVIDIA公司 2023 版權所有並保留所有權利。NVIDIA、NVIDIA標誌、BlueField、ConnectX,、NeMo、 NVIDIA Triton和RAPIDS是NVIDIA公司在美國及(或)其他地區的商標和(或)註冊商標。所有其他公司及產品名稱乃為所屬個別公司之商標。功能、定價、出貨時程和規格之變更不會另行通知。