使用 NVIDIA LaunchPad 免費試用版管理邊緣端人工智慧

作者 NVIDIA

隨著愈來愈多人工智慧應用程式部署在邊緣端,IT 組織開始在尋找部署與管理其邊緣運算系統及軟體的最佳方法。 NVIDIA Fleet CommandNVIDIA 認證系統變成安全的邊緣裝置,並可在數分鐘內將其連接至雲端,讓任何規模的企業都能享有安全的邊緣人工智慧。您可以在雲端,從 NGC 目錄或 NGC private registry 中部署和管理應用程式、以無線方式更新系統軟體,且透過瀏覽器與網路連線,即能從遠端管理系統。 您可以使用 NVIDIA LaunchPad 測試產品,協助企業測試 Fleet Command 的優點。LaunchPad 透過精心規畫的測試環境,讓您能取得專用硬體和 Fleet Command 軟體,實際進行在邊緣端部署和管理人工智慧應用程式的整個過程。 我將在本文中介紹 LaunchPad 上的 Fleet Command 試用版,包括如何申請試用、完成精心安排的測試體驗所需的時間,以及後續步驟。

哪些對象應該試用 Fleet Command?

Fleet Command 是專為負責管理多個邊緣地點之人工智慧應用程式的 IT 和 OT 專業人員而設計。此產品的的易用性,讓任何技能水準的專業人士都能輕鬆上手。 我們將透過經過精心規畫的測試,仔細介紹如何部署一個演示應用程式。即將進行邊緣專案的人可以使用所展示的應用程式,測試 Fleet Command 的功能,但是仍需要在現場進行全面測試。 Fleet Command 測試體驗項目,是NVIDIA 專為在邊緣部署和管理人工智慧應用程式而設計。 NVIDIA LaunchPad 提供了透過 NVIDIA Base Command 管理訓練環境的其他測試,以及簡化企業資料中心開發和部署人工智慧事宜的 NVIDIA AI Enterprise

Fleet Command 精心規畫的測試提供哪些服務項目?

在本試用活動中,您是 Fleet Command 的管理員,將在十字路口部署計算車流量的電腦視覺應用程式。整體試用活動需要大約一小時的時間。

在 NGC 取得 Fleet Command

Fleet Command 可以從任何地方,透過 NVIDIA 的人工智慧 GPU 最佳化軟體中心 NGC 取得,管理員可以從遠端管理邊緣位置、系統和應用程式。 管理員會自動將 Fleet Command 加入 NGC 控制台。

建立邊緣位置

Fleet Command 中的一個位置,是代表已安裝實體系統的現實位置。您在測試中可以建立一個邊緣位置,但是客戶可以在生產環境中管理成千上萬的位置。 在新增位置時,請選擇 Add Location,並填寫詳細資訊。選擇可用的最新版本。

Screenshot of the user interface of how to add a location.
圖 1:新增由 NVIDIA Fleet Command 管理的位置

新增邊緣系統

之後在該位置新增代表邊緣之實體系統的系統。完成此步驟會產生一個代碼,讓您可以在現場使用 Fleet Command 操作堆疊安全地配置伺服器。之後選擇剛才建立的位置,選擇 Add System

Screenshot of the user interface showing existing locations.
圖 2:在位置新增邊緣系統

新增系統名稱與描述,以完成此流程。 在將位置加入系統之後會產生一個啟動碼,可以將 Fleet Command 與現場的實體系統進行配對。

Screenshot of the generated activation code for pairing the new system.
圖 3:產生啟動碼,將 Fleet Command 中的系統連接至邊緣伺服器

將 Fleet Command 連接至 LaunchPad 伺服器

NVIDIA LaunchPad 提供了一個系統主控台,可以存取試用體驗活動的伺服器。依據提示完成安裝。在進行初始設定之後,系統會提示輸入在 Fleet Command 中建立系統時產生的啟動碼。

Screenshot of the server boot prompt to type in the activation code.
圖 4:將邊緣伺服器與 Fleet Command 進行配對

在輸入啟動碼後,系統將會完成與 Fleet Command 的配對。Fleet Command 使用者介面上的一個核取方塊會顯示出伺服器正在運行,並已備妥進行遠端管理。

Screenshot of the user interface showing the connected servers.
圖 5:現在可以在 Fleet Command 中控制完成與邊緣伺服器的配對

部署人工智慧應用程式

現在本地安裝程式已將系統與 Fleet Command 進行配對,讓您可以部署一個人工智慧應用程式。應用程式可以託管在您的 NGC private registry 上,或直接託管在 NGC 目錄上。

Screenshot of the user interface with applications.
圖 6:從 NGC將應用程式新增至位置

使用 Helm chart 部署人工智慧應用程式,Helm chart 可以定義、安裝和升級 Kubernetes 應用程式。選擇 Add Application 以及在提示中輸入資訊。 現在應用程式已在 Fleet Command 中準備就緒,可以將其部署至一個或多個系統上。選擇您建立的位置和應用程式以建立部署,確保勾選啟用應用程式存取的方框。

Screenshot of the user interface to create a deployment.
圖 7:建立部署

現在,已將應用程式部署在伺服器上,您可以在試用版的應用程式中,查看運行樣本影片資料的應用程式。

現在就完成了!我已經為各位介紹連接至邊緣的實體系統、建立部署,以及將人工智慧應用程式推送至該邊緣伺服器的端到端過程。在不到一個小時的時間內,此試用版之內容已從未連線的遠端系統,變成一個完全託管、安全的遠端邊緣環境。

後續步驟

Fleet Command 是一種功能強大的工具,可以簡化管理邊緣運算基礎設施的作業,且不影響安全性、靈活性或規模。若想要瞭解 Fleet Command 是否是適用於管理邊緣端人工智慧基礎設施的工具,請報名使用 NVIDIA LaunchPad 試用版