AWS Outposts 派遣 GPU 進駐你的資料中心

作者 Justin Boitano

NVIDIA T4 GPU 現在起支援混合 AWS 雲端環境,以便進行人工智慧、物聯網及圖形等作業。

現在開始在你自己的資料中心裡,也能享受到 Amazon Web Services 上 GPU 加速技術的各種優點。

有著 NVIDIA T4 Tensor Core GPU 支援的 AWS Outposts 服務今天起全面開放,這項服務將雲端 Amazon EC2 G4 執行個體帶入你的資料中心,以滿足用戶在使用各種人工智慧與圖形應用程式時,對安全性和延遲性的要求。

這項新的服務使得人工智慧不再只侷限於研究領域。

大多數企業視資料為核心智慧財產,依舊把資料存放在公司內部,只不過如果要將深度學習從研究過渡到生產階段,企業需要在資料旁擺放雲端環境所提供的靈活性和開發便利性,這正是 AWS Outposts 加上 T4 GPU 的最大優點。

企業有了這項新功能後,便能在資料中心內安全保管的大型資料湖泊旁邊,安裝一個有著完善管理機制的機架級設備。

企業內部採用人工智慧加速技術

從 NVIDIA 驅動程式、容器運行時間到應用程式框架,軟體的每一層都需要優化,以便訓練神經網路。在客製化 Amazon Machine Images 上設計的 Sagemaker、Elastic MapReduce 等 AWS 服務,在開發模型的過程中,第一步都是使用大型資料集進行訓練。在推出搭載 NVIDIA 技術的 AWS Outposts 服務後,便能在企業的資料中心內安全地運行那些服務。

AWS Outposts 服務中的 GPU 加快了深度學習、高效能運算及其它 GPU 應用程式的運行速度。它們都能取得 NVIDIA GPU 加速軟體優化中心 NGC 內的軟體,NGC 提供不少應用程式、框架、函式庫、SDK 及預先完成訓練的模型。

NVIDIA EGX 邊緣計算平台也能在 AWS Outposts 上運行及搭配 AWS Elastic Kubernetes Service,以便進行人工智慧推論作業。比起光是使用 CPU,這些服務在 NVIDIA T4 GPU 的支持下,能夠處理的資訊量呈現顯著成長。無論是部署在製造業、醫療保健業、金融服務業、零售業等產業中,它們可以飛快即時從物聯網感應器輸入的海量資料中擷取深入見解。

以 EGX 為基礎的 NVIDIA Metropolis 應用框架提供了視覺化人工智慧的構建模塊,以便用於打造智慧城市、零售、物流及工業檢測等應用項目,還有其它人工智慧與物聯網的使用範例,現在也能在 AWS Outposts 上使用到。

另外經過調校的 NVIDIA Clara 應用程式框架,可以讓醫療服務提供者享用到人工智慧技術,無論是用於醫療影像、聯邦學習還是人工智慧輔助資料標記等作業。

T4 GPU 的 Turing 架構使用 TensorRT 來加快執行業界最廣泛的人工智慧模型集合。它的Tensor Cores 支援多精度計算,推論表現較 CPU 高出四十倍。

遠端圖形,本地託管

高階圖形的用戶也有新的選擇。需要存取大型資料集和模型的遠端設計師、藝術家及技術專業人士,現在可以同時享有雲端環境的便利性與 GPU 的卓越性能。

AWS Outposts 加上 T4 GPU,讓圖形領域專業人士不只在公用 AWS 雲端環境中,在其內部雲端環境裡也能享用到全球多數專業工作站均搭載的 NVIDIA Quadro 技術。

不管這些 Quadro 用戶是在本地或雲端環境進行作業,都能取得同一組上百個圖形密集型、GPU 加速的第三方應用程式。

AWS Marketplace 提供的 Quadro 虛擬工作站 AMI 使用與實體工作站相同的 Quadro 驅動程式,支援上百款通過 Quadro 認證的應用程式,像是 Dassault Systèmes SOLIDWORKS 及 CATIA、Siemens NX、Autodesk AutoCAD 及 Maya、ESRI ArcGIS Pro、ANSYS Fluent、Mechanical 與 Discovery Live。

深入瞭解 AWS 與 NVIDIA 產品內容,並且歡迎光臨我們在 AWS re:Invent 大會的企業展位(編號#1237)及各項會議演講活動。