人工智慧 (AI) 正在改變所有產業,但是就像任何旅程一樣,第一步可能會是最重要的。為了協助企業踏出第一步,我們與 Amazon Web Services (AWS) 合作,將 21 款 NVIDIA NGC 軟體資源直接放在 AWS Marketplace。客戶可以在 AWS Marketplace 中購買並立即開始使用在 AWS 上運行的軟體與服務。
NGC 是可以在 NVIDIA GPU 雲端執行個體上運行且經過優化的軟體目錄,例如具有打破紀錄的 NVIDIA A100 Tensor Core GPU 效能的 Amazon EC2 P4d 執行個體。AWS 的客戶可以免費部署此軟體以加速其 AI 部署。
我們從 2017 年就開始透過 NVIDIA NGC 目錄提供 GPU 優化的軟體。自那時起,業界對這些資源的需求就開始激增。現在已有超過 25 萬名不重複用戶下載了目錄中超過 100 萬個 AI 容器、預先訓練好的模型、應用程式框架、Helm 圖表和其他機器學習資源。
攜手共創另一個雲端先河
AWS 是第一家在其市場上提供 NGC 軟體目錄的雲端服務供應商。許多企業組織在進行新的部署時會先從雲端開始,因此讓資料科學家和開發人員可隨時取得 NGC 軟體可以協助企業紮根,他們可以直接在 AWS 的產業生態系中,借助 NGC 輕鬆地啟動新的 AI 專案。
Amazon Web Services 的 AWS Marketplace 總監 Chris Grusz 表示:「AWS 和 NVIDIA 在加速運算領域已經合作超過十年,我們很高興在 AWS Marketplace 中提供 NVIDIA NGC 目錄。客戶現在可以在 AWS Marketplace 中使用 NVIDIA NGC 軟體,透過直接取得並部署這些專用的軟體資源,來簡化並加快其 AI 部署流程。」
NGC AI 容器已在 AWS Marketplace 中亮相
為了幫助資料科學家和開發人員建構和部署 AI 解決方案,NGC 目錄提供數百種 NVIDIA GPU 加速的機器學習框架和針對特定產業的軟體開發套件。在 AWS Marketplace 上推出的 NGC 目錄囊括許多 NVIDIA 在各領域最受歡迎的 GPU 加速 AI 軟體,諸如醫療保健、推薦系統、對話式 AI、電腦視覺、高效能運算、機器人技術、資料科學和機器學習,其中包括:
- NVIDIA AI:一套框架和工具,包括 MXNet、TensorFlow、NVIDIA Triton Inference Server 和 PyTorch。
- NVIDIA Clara Imaging:NVIDIA 為特定領域優化的應用程式框架,可針對醫療影像案例加速深度學習訓練和推論。
- NVIDIA DeepStream SDK:一款橫跨多平台、可擴展的影音分析框架,可部署於邊緣並連接到任何雲端。
- NVIDIA HPC SDK:一套用於高效能運算的編譯器、函式庫和軟體工具。
- NVIDIA Isaac Sim ML 訓練:一種工具包,可幫助機器學習工程師在機器人上使用 Isaac Sim 產生合成影像,以訓練物體辨識的深度神經網路。
- NVIDIA Merlin:一款開源 beta 框架,用於建構大規模的深度學習推薦系統。
- NVIDIA NeMo:一個開源 Python 工具包,用於開發最新的對話式 AI 模型。
- RAPIDS:一套開源的資料科學軟體函式庫。
即時取得效能優化的 AI 軟體
AWS Marketplace 中的 NGC 軟體可提供許多效益,幫助資料科學家和開發人員為 AI 奠定基礎。
- 加速軟體探索:透過 AWS Marketplace,開發人員和資料科學家只需點擊滑鼠即可獲取最新版本的 NVIDIA AI 軟體。
- 最新的 NVIDIA 軟體:AWS Marketplace 中的 NGC 軟體是聯合式 (federated) 的,這使 AWS 用戶可以在軟體更新後立刻於 NGC 目錄中取得。該軟體會持續被優化,且每月發布的更新讓用戶可以使用最新的功能並獲得效能改善。
- 簡化的軟體部署:Amazon EC2、Amazon SageMaker、Amazon Elastic Kubernetes 服務 (EKS)和 Amazon Elastic Container Service (ECS) 的用戶可以在 NVIDIA GPU 執行個體上快速訂閱、取得並執行 NGC 軟體,且完全可以在 AWS 控制台內完成。此外,SageMaker 用戶無需再將容器儲存在 Amazon Elastic Container Registry (ECR) 中,也簡化了工作流程。
- 持續的整合與開發:AWS Marketplace 還提供 NGC Helm 圖表,以幫助 DevOps 團隊快速且一致地部署其服務。
欲了解如何在 AWS Marketplace 上開始使用 NGC,請參考閱讀 AWS 部落格文章。