更上層樓:NVIDIA 平台可解決邊緣的高效能運算問題

NVIDIA Holoscan、BlueField DPU 和 MetroX-3 可在邊緣端實現安全存取、資料移轉和即時串流處理
作者 Geetika Gupta

研究人員之間的協作,就和科學社群一樣橫跨全球。

遠距共享工作內容的大學和企業需要使用通用語言和安全流程,才能讓每項裝置 (從顯微鏡、感測器到伺服器以及校園網路) 接收並理解各單位傳輸的資料。需要儲存、傳輸和分析的資料量與日俱增,更使挑戰益發艱鉅。

為了解決這個問題,NVIDIA 推出一個高效能運算平台,結合邊緣運算和人工智慧,能從科學邊緣儀器擷取和整合串流資料,然後讓裝置遠距彼此對話。

該平台由三個主要元件組成。NVIDIA Holoscan 是一款軟體開發套件,有助資料科學家和領域專家為串流資料的感測器建立經過 GPU 加速的流程。MetroX-3 是一款全新的長距離系統,可延伸 NVIDIA Quantum-2 InfiniBand 平台的連線能力。而 NVIDIA BlueField-3 DPU 則提供安全且智慧的資料移轉。

研究人員可使用全新的 NVIDIA 平台進行高效能運算邊緣運算,安全地溝通並協同解決問題,將不同裝置和演算法整合成一部大型超級電腦般運作。

適用於邊緣端高效能運算的 Holoscan

NVIDIA Holoscan 經由 GPU 運算平台 (包括 NVIDIA IGX、HGX、DGX 系統) 加速,可提供極致效能,處理全球科學儀器產生的大量資料流。

高效能運算適用的 NVIDIA Holoscan 包含 C++ 和 Python 可用的全新 API,供高效能運算研究人員建立感測器資料處理工作流程;這些工作流程靈活到足以處理非影像格式,可擴充性也足以將原始資料轉換為即時見解。

Holoscan 也管理記憶體分配來確保零複製資料交換,幫助開發人員專心處理工作流程邏輯,不必分心管理檔案和記憶體輸入/輸出。

Holoscan 的新功能將於下個月開放給所有高效能運算開發人員使用。註冊以獲得 Holoscan 0.4 SDK 搶先體驗通知。

MetroX-3 更上層樓

即將於下個月推出的 NVIDIA MetroX-3 長距離系統能將 NVIDIA Quantum-2 InfiniBand 平台的最新雲端原生功能從邊緣延伸到高效能運算資料中心核心。MetroX-3 能讓各站點之間的 GPU 透過最長相隔 25 英里 (40 公里) 的 InfiniBand 網路安全共享資料。

使用者可利用原生遠端直接記憶體存取的優勢,從一個連結 InfiniBand 的迷你叢集輕鬆將資料和運算作業移轉至主要資料中心,或使地理位置上分散的運算叢集彼此整合,實現更高的整體效能和可擴充性。

資料中心營運商可透過 NVIDIA 整合網狀架構管理器來管理 MetroX-3 系統,在所有連結 InfiniBand 的資料中心網路中有效佈建、監控和運作。

BlueField 提供安全、有效的高效能運算

NVIDIA BlueField 資料處理器可卸載、加速和分離先進的網路、儲存空間和安全服務,提高現代高效能運算的效能和效率。

在 SC22 期間,系統軟體公司 Zettar 將展示使用 BlueField-3 的資料移轉和儲存空間卸載解決方案。Zettar 軟體可將資料轉移工作整合到佔地面積 4U 機架空間的資料中心,而如今在使用基於 x86 的解決方案情況下則是需要 13U 機架空間。

深入瞭解適用於高效能邊緣端運算的全新 NVIDIA 平台