NVIDIA EGX Edge AI 平台為製造、零售、電信、醫療保健等產業帶來即時的人工智慧

NVIDIA (輝達) 今天宣布為其 EGX Edge AI 平台推出兩個效能強大的產品，包含用於大型現成商用伺服器的 EGX A100 ，以及用於微邊緣伺服器的小型 EGX Jetson Xavier NX，為邊緣運算帶來高效能且安全的人工智慧 (AI) 處理。

借助 NVIDIA EGX Edge AI 平台，醫院、商店、農場與工廠可以即時處理與保護來自數兆個邊緣感測器的大量串流資料。此一平台讓遠端安全部署、管理與更新伺服器群變成可能。

EGX A100 融合加速器與 EGX Jetson Xavier NX 微邊緣伺服器的設計旨在滿足不同的尺寸、成本與效能需求。例如搭載 EGX A100 的伺服器可以管理機場中的數百架攝影機，而 EGX Jetson Xavier NX 則是用來管理便利商店中少數的攝影機。雲端原生的支援將確保整個 EGX 產品線都能使用相同優化的 AI 軟體，以便輕易地打造與部署 AI 應用。

NVIDIA 創辦人暨執行長黃仁勳表示：「物聯網和人工智慧的融合掀起一波『smart everything』的革命，現今大型產業可以提供智慧連接的產品與服務，如同電話產業提供智慧型手機一樣。NVIDIA 的 EGX Edge AI 平台將標準的伺服器轉變成微型雲端原生且安全的 AI 資料中心。透過 NVIDIA 的 AI 應用程式架構，企業將能打造從智慧零售、機器人工廠到自動化客服系統的 AI 服務。」

基於 NVIDIA Ampere 架構打造的 EGX A100

EGX A100 是第一個基於 NVIDIA Ampere 架構 的邊緣 AI 產品。隨著 AI 逐漸朝向邊緣化移動，企業組織可以將 EGX A100 整合在他們的伺服器中，以便即時處理並保護從邊緣感測器而來的大量串流資料。

其結合了 NVIDIA Ampere 架構突破性的運算效能，以及 NVIDIA Mellanox® ConnectX-6 Dx SmartNIC 的加速網路與關鍵安全能力，讓標準與專用的邊緣伺服器，轉變成安全且雲端原生的 AI 超級電腦。

作為 NVIDIA 第八代 GPU 架構，Ampere 為各種運算密集的工作負載帶來有史以來最強大的效能提升，包含在邊緣運行的 AI 推論與 5G 應用。這讓 EGX A100 得以即時處理來自攝影機與其它物聯網 (IoT) 感測器的大量串流資料，進而更快速的取得洞察並提升企業效率。

紅帽 (Red Hat) 資深副總裁暨科技長 Chris Wright 表示：「數據、AI 與智慧的雲端原生應用，正在改變每一個產業的企業邊緣應用。NVIDIA 全新的 EGX A100 融合加速器與用於 Red Hat Enterprise Linux 的預編譯驅動程式，以及經 Red Hat Openshift 認證的營運商相結合，將能簡化硬體的部署與管理，並協助我們共同的客戶解決需求最嚴苛的 AI、邊緣與 5G 工作負載。」

有了機載的 NVIDIA Mellanox ConnectX-6 Dx 網路卡，EGX A100 最高可以接收 200 Gbps 的資料，並直接將資料送回 GPU 記憶體，以進行 AI 或 5G 訊號處理。在導入 NVIDIA Mellanox 供電信業者使用的時間觸發傳輸技術後 (5T for 5G) ，EGX A100 是雲端原生、軟體定義的加速器，可以處理對延遲最為敏感的 5G 使用案例。這為必須作出即時智慧決定的地方如商店、醫院與廠區，提供終極的 AI 與 5G 平台。

Mavenir 總裁暨執行長 Pardeep Kohli 表示：「我們一直以來與 NVIDIA 共同合作，打造 Mavenir 高效能的虛擬化 5G 無線電存取網路，以及加速的 5G 封包核心網路。這將使我們從 AI/機器學習，到擴增實境 (AR)/虛擬實境 (VR) 的應用，都可以提供各種全新 GPU 加速的 5G 服務。」

體積小、效能強大的 EGX Jetson Xavier NX

EGX Jetson Xavier NX 是世界上體積最小、效能最強大的 AI 超級電腦，適用於微伺服器與邊緣人工智慧物聯網 (AIoT) 盒，目前我們的生態系合作夥伴已提供超過 20 個可用的解決方案。它將 NVIDIA Xavier 系統單晶片 (SoC) 的效能整合至信用卡大小的模組中。運行於 EGX 雲端原生軟體堆疊的 EGX Jetson Xavier NX，可以快速處理來自多個高解析感測器的串流資料。

此一省電模組在耗電 15 瓦情況下可以提供高達 21 TOPS 的運算效能，或在耗電 10 瓦情況下達到 14 TOPS 的運算效能。因此，EGX Jetson Xavier NX 為需要更高效能來支援 AI 工作負載，但尺寸、重量、功耗或成本都受限的嵌入式邊緣運算裝置，開啟機會的大門。

碼隆科技 (Malong Technologies) 共同創辦人暨執行長 Matt Scott 表示：「NVIDIA Jetson 與 NVIDIA EGX 協助我們讓零售轉型，並讓自助結帳的體驗變得更快、更安全。透過 AI 的強大功能以及我們的 RetailAI 成套產品，現在已經可以即時精確辨識數十萬個產品，以創造更順利且受保護的購物體驗，並且可以輕易進行大規模的部署。我們將持續探索 NVIDIA 效能強大的產品線，將更多的智慧帶至邊緣裝置，以發掘提升顧客滿意度並減少零售庫存下降的新方法。」

橫跨整個 EGX Edge AI 平台的完全優化雲端原生軟體

EGX Edge AI 平台的雲端原生架構讓它得以運行容器化軟體，以支援各種 GPU 加速的工作負載。

NVIDIA 應用程式架構包含供醫療保健使用的 Clara、供電信業使用的 Aerial、供對話式 AI 使用的 Riva、供機器人使用的 Isaac，以及供智慧城市、零售、運輸與更多產業使用的 Metropolis。它們可以個別或一起使用，為各式各樣的邊緣案例開啟全新的可能性。

隨著整個 NVIDIA EGX 產品線都有可用的雲端原生技術支援，智慧機器製造商與 AI 應用的開發人員，可以在針對機器人、智慧城市、醫療保健與工業物聯網等應用的嵌入式與邊緣裝置上，打造並部署高品質、軟體定義的功能。

對 EGX 生態系統的全球性支援

全球性的企業運算供應商如源訊 (Atos)、戴爾科技 (Dell Technologies)、富士通 (Fujitsu)、技嘉 (GIGABYTE)、惠普企業 (HPE)、IBM、浪潮集團 (Inspur Electronic Information)、聯想電腦(Lenovo)、廣達電腦/雲達科技 (Quanta/QCT) 與美超微電腦 (Supermicro)，目前已提供搭載 NVIDIA EGX軟體的邊緣伺服器。大型伺服器與 IoT 系統製造商如研華科技 (Advantech) 與凌華科技 (ADLINK)，也同樣可以供貨。

軟體供應商如 Whiteboard Coordinator、DeepVision AI、鐵雲科技 (IronYun)、碼隆科技 (Malong Technologies) 與 SAFR by RealNetworks，可以使用這些伺服器與優化的應用程式架構，打造與部署醫療保健、零售、製造與智慧城市的解決方案。

供應時程

EGX A100 將於今年年底上市。基於 EGX Jetson Xavier NX 打造，且隨時可以部署的微邊緣伺服器現已上市，提供有意想要打造大量生產之邊緣系統的企業使用。