NVIDIA通過新的安全功能支持NGC私有註冊表

作者 NVIDIA Developer

GPU 優化的容器目錄擴展了 AI 工具包產品,並增加了多體系結構支持。

如果數據是新油,那麼​​人工智能就是精煉廠。企業創建和收集的原始數據就像黑色的原油一樣-在將其加工成汽油和其他易耗品後,其真正的價值得以體現。

人工智能可以轉變數據組織擁有的大量存儲資源,以幫助他們提取見解,從而改善客戶體驗,建立新的業務模型,提高運營效率並增強競爭優勢。

NVIDIA 的 GPU 計算平台,包括 NGC ,支持 NGC 的系統和 NGC 支持服務,為 AI 精煉廠提供了動力。 NGC 是一個軟件中心,提供 GPU 優化的框架,預訓練的模型和工具包,以在生產中訓練和部署 AI 。

今天,我們正在擴展 NGC ,以幫助開發人員使用工具箱和 SDK 更快安全地構建 AI ,並通過私有註冊表共享和部署。

NVIDIA AI 工具包和 SDK 簡化了培訓,推理和部署

NVIDIA AI 工具包提供了用於在廣泛的行業和 AI 應用領域中訓練,微調,優化和部署經過預訓練的 NGC 模型的庫和工具。它們包括:

AI 輔助註釋工具,可幫助用戶標記其數據集以進行培訓。

一個轉移學習工具包,可以使用用戶數據微調經過預先訓練的模型,從而節省了從頭開始的訓練成本。

聯合學習通過允許用戶協作和訓練 AI 模型而無需在客戶端之間共享私有數據來保護隱私。

NeMo 工具包可快速構建用於語音識別和自然語言處理的最新模型。

Service Maker 工具箱,將訓練有素的模型公開為 gRPC 服務,可以對其進行擴展和輕鬆部署在 Kubernetes 服務上。

使用該工具包構建的模型可以集成到客戶端應用程序中,並可以與 NVIDIA 提供的軟件開發工具包一起部署到生產環境中。利用 TensorRT 和 Triton Inference Server 作為基礎構建塊,部署的 SDK 跨越了各個行業,包括與 NVIDIA Jarvis 的對話式 AI ,與 NVIDIA Merlin 的推薦系統,與 NVIDIA Clara 的醫學成像,與 NVIDIA Metropolis 和 NVIDIA DeepStream 的視頻分析,與 NVIDIA Isaac 的機器人技術使用 NVIDIA Aero 進行 Sim 和 5G 加速。

使用 NGC 私有註冊中心保護 IP

使用這些 AI 工具包構建的自定義模型是公司的高度保護的知識產權。組織將希望確保可以安全地共享,修改它們並將其部署到生產環境中。

因此,我們擴展了 NGC 的私有註冊表,允許組織在整個企業的團隊中安全地簽名,存儲,管理和共享自定義的容器和模型。

該註冊表配備了一些新的安全功能。推送到專用註冊表的容器將自動進行掃描,以查找常見漏洞和披露( CVE )。通過標記具有關鍵或高 CVE 的容器,企業可以在開發階段的早期階段糾正問題,從而確保在生產中發布安全的軟件。

私有註冊表還將很快允許發布者和開發者簽署其容器。這樣一來,軟件用戶就可以放心,他們正在使用的是真實,完整且來自經過驗證的來源的內容。

當數據科學家跨組織合作並反復進行培訓時,他們會產生許多模型,每個模型都有唯一的參數。 NGC 模型版本控制系統使捕獲這些獨特變量,發現合適的模型以及最終將正確的模型部署到生產中變得容易。

在邊緣安全地部署 AI 模型

為了推動一切智能化革命,越來越多的人將 AI 模型部署在靠近行動點的邊緣。但是,邊緣位置通常在數據中心中沒有 IT 人員或安全協議,這帶來了潛在的安全挑戰。

昨天宣布的 EGX A100 擁有一個機密的 AI 飛地,它使用新的 GPU 安全引擎加載加密的 AI 模型,從而進一步防止了寶貴 IP 的盜用。 NGC 私有註冊表將使開發人員能夠加密 AI 模型並將其安全地傳輸到邊緣。靜態模型加密以及從私有註冊表到 GPU 內存的模型加密減少了對在邊緣運行的 AI 模型中編碼的 IP 的攻擊。

私有註冊表最終為用戶提供了一個雲託管平台,以保護將在邊緣部署的自定義容器和模型。

在 x86 , Arm 和 POWER 系統上無縫運行

AI 工作流跨越數據中心,雲和邊緣,可能需要在不同的 CPU 架構上運行。為了實現靈活性,我們已經升級了 NGC ,使其具有多體系結構支持。

這允許流行的運行時(包括 Docker , cri-o , containerD 和 Singularity )自動選擇並運行與系統架構匹配的映像變體,從而簡化了跨異構環境的部署過程。

除了基於 x86 和 Arm 的容器之外,由於 IBM 將其 Visual Insights 軟件引入了註冊表,因此 NGC 現在還支持 POWER 架構。 IBM Visual Insights 使深度學習的計算機視覺更易於為業務用戶訪問,從而加速了 AI 視覺部署並提高了生產率。

立即開始使用 NGC

使用 NGC 提供的 GPU 優化軟件工具快速構建您的 AI 解決方案,與私有註冊表共享和協作,並在本地,雲和邊緣系統上安全部署。從 ngc.nvidia.com 開始使用。