NVIDIA vComputeServer 搭配 NGC 容器,讓人工智慧、深度學習與資料科學領域同享 GPU 虛擬化技術

作者 ANNE HECHT

VMware、Cisco 、Dell、Red Hat等企業皆支援 vComputeServer,以簡化 GPU 伺服器的部署和管理事宜。

NVIDIA 今日宣布旗下為虛擬客戶端運算領域帶來變革的虛擬 GPU(vGPU)技術,現在開始支援伺服器虛擬化技術,以便執行人工智慧、深度學習和資料科學等領域的運算作業。

過去只能用搭載 CPU 的伺服器來處理人工智慧運算作業,現在可以使用全新的 vComputeServer 軟體及 NVIDIA GPU 容器(NGC),輕鬆部署在 VMware vSphere 等虛擬化環境中。

vComputeServer 讓資料中心管理員可以選擇在虛擬化環境中運行 GPU 伺服器來處理運算作業,以獲得更佳的安全性、利用率和管理性。IT 管理員可以使用 VMware vSphere 這一類虛擬機器管理程式虛擬化工具(包括 vCenter 和 vMotion 在內),以管理資料中心的各項應用程式,包括運行在 NVIDIA GPU 上的人工智慧應用程式。

許多公司會在資料中心部署 GPU,然而人工智慧訓練和推論等 GPU 加速的運算工作是在裸機上運行。這些通常是要單獨管理的獨立 GPU 伺服器,不利於利用率和靈活性。

在使用 vComputeServer 之後,IT 管理員便能大幅簡化 GPU 加速虛擬化伺服器的管理作業,又能保留現有工作流程及降低整體經營成本。與僅搭載 CPU 的伺服器相比,搭配四個 NVIDIA V100 GPU 的 vComputeServer 將執行深度學習運算作業的速度提高了五十倍,性能與裸機相當。

在今天的公告中,除了宣布支援 VMware vSphere,還要再加上目前已經支援以 KVM 為基礎的虛擬機器管理程式(包括 Red Hat 和 Nutanix),讓管理員可以像是針對資料中心其它部分的作法一樣,使用相同工具來管理 GPU 叢集。

虛擬 GPU 可提高處理任何工作量的表現

NVIDIA 的 vGPU 產品組合加入 NVIDIA vComputeServer,擴大了對資料分析、機器學習、人工智慧、深度學習、高效能運算及其它伺服器工作負載的支援。vGPU 產品組合還包括虛擬桌面產品,像是供知識工作者使用的 NVIDIA GRID 虛擬 PC 和 GRID Virtual App,以及供專業圖形領域使用的 Quadro 虛擬資料中心工作站

NVIDIA vComputerServer 提供了 GPU 共享等功能,單一 GPU 可以支援多台虛擬機器,還有提供 GPU 聚合功能,單一或多個 GPU 可以支援一具虛擬機器,以最大化利用率和負擔能力。

vComputeServer 的功能有:

  • GPU 效能:進行深度學習訓練時間較僅使用 CPU 快上五十倍,表現與運行 GPU 裸機相當。
  • 先進運算能力:糾出程式碼中的錯誤和動態頁面退出,有助於避免發生高精度工作負載中的資料損壞情況。
  • 即時移轉:可在最小干擾或停機狀態下移轉搭載 GPU 的虛擬機器。
  • 提高安全性:企業可以將伺服器虛擬化在安全方面的優勢擴大到 GPU 叢集。
  • 多租戶隔離:可以隔離工作負載,以便在單一基礎架構上安全地支援多個用戶。
  • 管理與監控管理員可以使用相同的虛擬機器管理程式虛擬化工具來管理 GPU 伺服器,又能看到主機、虛擬機器及 app 各層的運作情況。
  • 廣泛支援的 GPU:NVIDIA T4V100 GPUQuadro RTX 8000 及 6000 GPU,還有前幾代 Pascal 架構的 P40、P100 和 P60 GPU 皆支援 vComputeServer。

NVIDIA NGC 支援 VMware vSphere

我們為深度學習及科學運算優化的 GPU 加速雲端平台 NVIDIA NGC,提供逾150款容器、預先訓練好的模型、訓練腳本和工作流程,以加快從概念發展到正式生產環境的人工智慧。這些都能使用 vComputeServer 部署在 VMware vSphere 這類的虛擬化環境內。

IT 管理員可以使用 VMware vSphere 等虛擬機器監控程式虛擬化工具,管理在 NVIDIA GPU 上運行之虛擬機器內的所有 NGC 容器。

NVIDIA 還推出經過驗證的 NGC Ready 伺服器,協助 IT 部門更快將 GPU 伺服器用在正式生產環境內。企業級的支援服務讓用戶和管理員可以直接觸接到 NGC 軟體專家,將風險將至最低且提高了生產率。

產業支援

Dell、Cisco、VMware 等頂尖產業合作夥伴,已經表示支援 NVIDIA vComputeServer。

在此閱讀這些夥伴們說了些什麼

上市時間

NVIDIA vComputeServer 自八月起已上市。

如需更多資訊,請至 NVIDIA vComputeServer 頁面