NVIDIA EGX如何形成全球產業的中央神經系統

作者 Justin Boitano

物聯網感測器(包括用於觀看的攝影機,用於聽覺的麥克風)以及一系列其他可幫助企業感知並了解實際世界中發生何事的智慧設備的採用正在不斷增加,推動了各個行業的大規模變革。

在邊緣生成的資料量呈指數增長。即時處理大量資料的唯一方法,便是將伺服器放置在活動點附近,並利用 GPU 的巨大運算能力。

未來的企業資料中心是在一個位置不會有 10,000 台伺服器,而是在 10,000 個不同位置會擁有一台或多台伺服器。他們將在辦公樓,工廠,倉庫,手機基地台,學校,商店和銀行裏。他們會發現交通堵塞和森林大火,安全地引導交通並防止犯罪。

通過放置一個分佈式伺服器網路,從數百個感測器中串流傳輸資料,企業可以在邊緣使用資料中心網路來通過 AI 立即採取行動。此外,通過在邊緣處理資料,可以減輕對隱私的擔憂,並可以解決資料主權問題。

邊緣伺服器缺乏企業 IT 視為理所當然的實體安全基礎架構。而且,公司沒有預算來投資漫遊 IT 人員來管理這些遠端系統。因此,邊緣伺服器需要設計有自我保護功能,並易於從遠端進行更新,管理和部署。

此外,人工智慧系統需要一直運行,停機時間為零。

我們已經建構了NVIDIA EGX Edge AI 平台,以確保在全球範圍內的安全性和彈性。通過簡化部署和管理, NVIDIA EGX 允許始終在線的 AI 應用程式自動化未來的關鍵基礎架構。該平台是 Kubernetes 和容器原生軟體平台,它將 GPU 加速的 AI 帶入從雙插槽 x86 伺服器到基於 Arm 的NVIDIA Jetson SoC的所有內容。

迄今為止,全球已有 20 多家伺服器供應商在建構基於 EGX 的邊緣和微邊緣伺服器,包括 ADLINK ,研華,Atos, AVerMedia , Cisco , Connect Tech ,Dell Technologies, Diamond Systems , Fujitsu ,GIGABYTE, Hewlett Packard Enterprise ,Inspur,聯想,廣達電腦/雲達科技Supermicro。以及 NVIDIA 邊緣生態系統中的數十個混合雲和網路安全合作夥伴,例如 Canonical , Check Point ,Excelero ,GuardicoreIBMNuage Networks, Nutanix , Palo Alto Networks , Rancher ,Red Hat, VMware ,WekaWind 河

NVIDIA EGX 上還有數百個 AI 應用程式和整合解決方案供應商,它們為全球企業提供專門領域的產品。

NVIDIA EGX A100

運行 AI 的企業不僅需要保護客戶資料,還需要保護將資料轉化為行動的 AI 模型。通過將安全,高性能網路的行業標準 NVIDIA Mellanox SmartNIC 與我們的 AI 處理器結合到組合的融合加速器NVIDIA EGX A100中,我們為邊緣 AI 引入了基礎性的創新技術。

NVIDIA EGX A100 converged accelerator

增強的安全性和性能

從硬體信任根安全,可靠地啟動 GPU 和 SmartNIC ,可確保對設備靭體和生命週期進行安全管理。 NVIDIA Ampere 架構中的第三代 Tensor Core 技術帶來了業界領先的 AI 性能。專用於 EGX A100 的機密 AI 安全區使用新的 GPU 安全引擎加載加密的 AI 模型並加密所有 AI 輸出,從而進一步防止了寶貴 IP 的盜用。

隨著邊緣轉移到加密的高解析度感測器, SmartNIC 支持全線速的在線加密加速。這樣,已加密的資料傳送專線就被解密出來,並繞過 CPU 和系統記憶體,直接發送到 GPU 記憶體。

邊緣還需要更高級的安全性,以防範來自網路上其他設備的威脅。通過硬體中的動態可重新配置防火牆卸載, SmartNIC 可以有效地為混合雲,安全服務網格通信提供第一道防線。

NVIDIA Mellanox針對電信公司的時間觸發傳輸技術( 5T 用於 5G )確保了商用現成的解決方案能夠通過我們的 NVIDIA Aerial SDK滿足 5G vRAN 最具時間敏感性的用例。這將導致 CloudRAN 進入電信行業的新潮。

EGX A100 是一個融合使用 NVIDIA Ampere GPU 和 Mellanox ConnectX-6 D 的產品,為安全性和虛擬網路功能提供低延遲,高吞吐量的資料處理器。

簡化的大規模部署,管理和安全性

通過 NVIDIA NGC的 GPU 優化容器目錄,我們提供了專門領域應用程式框架和特定領域的 AI 工具包,以簡化入門並將 AI 應用程式調整到新的邊緣環境。它們可以一起使用或單獨使用,並為各種邊緣用例開闢了新的可能性。

借助 NGC 專用註冊表(Private Registry),可以在發布之前對應用程式進行簽名,以確保它們在傳輸過程中未被篡改,然後在邊緣運行之前進行身份驗證。 NGC 專用註冊表還支持模型版本控制和加密,因此可以快速安全地進行輕量級模型更新。

邊緣運算的未來需要在網路邊緣運行既安全,可擴展,有彈性,易管理的 AI 驅動系統艦隊。通過將 NVIDIA GPU 和 NVIDIA Mellanox SmartNIC 的結合加速與 NVIDIA EGX 結合在一起,我們正在建構平台和生態系統,以形成全球每個行業的 AI 神經系統。

在 GTC 2020 主題演講影片中了解有關 NVIDIA EGX 的更多訊息: