從邊緣部署的本質上來看,它們一直處於啟動運行狀態,甚至有時候在與 IT 管理員不同的時區 24 小時全天候運行。因此,當系統出現錯誤或重大問題時,IT 部門即必須至邊緣站點,針對系統進行除錯作業。有時候是在半夜發生。即使團隊具有先見之明,已備妥工具可以進行遠端存取,通常這些工具的開發成本不低、很難使用,且存有著重大的安全性漏洞。
在出現緊急情況或重大問題時,IT 管理員可以從遠端存取所有的機器,以減少修復的時間和精力。雖然可以在其他產品中找到此類工具,但是,這些產品皆缺少對於在邊緣端部署和擴展人工智慧之組織來說,重要性日漸增加的重要功能,其中之一為安全性。
為了解決這個問題,Fleet Command 包含所有管理員都可以視需求使用的遠端控制台功能。最近,我們在遠端控制台增加了數項新功能,以提高安全性,並讓使用者可以同時存取組織中的多個邊緣節點。
遠端控制台是一種機制,讓 Fleet Command 管理員可以安全地存取邊緣端的 NVIDIA 認證系統,確保適當的授權和認證機制。它提供了遠端存取功能,讓管理員可以在辦公室中輕鬆排除故障及處理緊急事件。
安全存取邊緣端
在打造遠端控制台功能時,最困難的部分是確保備有適當的安全協議,以防止漏洞與限制惡意行為。為了讓 IT 管理員可以從遠端存取其他地點的系統,而建立長期開放的 VPN 環境,是主要的安全性漏洞。
時至今日,IT 團隊面臨了艱難的選擇,即投入大量資源開發專屬的安全協議,或在幾乎沒有保護的情況下操作遠端控制台連線。IT 團隊在擁有 Fleet Command 後,將無須再面對此類選擇。
Fleet Command 上的遠端控制台已預設安全功能。它是使用一個臨時的反向 websocket 通道,讓 Fleet Command 管理員可以按需透過瀏覽器由外部連接至邊緣節點。此外,遠端控制台是使用標準的 TLS 埠 443,客戶無須打開網路自訂入口防火牆規定,即可以減少啟動的複雜性。
由於是透過 broker/remove 授予 SSH 存取能力,具有預設逾時一小時的臨時提升,而非永久存取,是透過 Fleet Command 的遠端控制台提供及時(just-in-time,JIT)存取。JIT 存取功能有助於將惡意行為者利用長期特權的風險降至最低。
無 JIT 安全性功能時,事實上是授權用戶可以無限制地存取邊緣端的系統,以及系統上的資料和資源。企業使用 Fleet Command 的遠端控制台限制存取視窗,可以大幅降低暴露風險。
同時存取整個邊緣端的裝置
Fleet Command 上的遠端控制台擁有另一個與眾不同之處,就是可用性。因為 Fleet Command 是一項統包式解決方案,在設計各項工具和功能時,都秉持儘量簡單易用的原則。其中一項功能為多個遠端控制台,可以同時存取組織中的多個邊緣節點。管理員可以同時存取多個地點,即能同時排除整體邊緣不同裝置的故障情況。多個遠端控制台可以存取一個或多個地點,甚至能與其他管理員協同合作。
為確保各節點的最高安全性,Fleet Command 基礎設施可以在多個遠端控制台上隔離每一個開放節點,確保其中一個系統發生問題時,不會影響其他連線。
使用 Fleet Command 上的遠端控制台
僅需要用滑鼠點擊,即能透過 Fleet Command 使用者界面,使用遠端控制台。
Fleet Command 不斷增加新功能,使組織可以立即取得創新項目。打造統包式解決方案的理念,代表每新增一個功能,開發人員即無無須自行建立或設計此項功能。將能協助您加快從零到實施人工智慧的時間。Fleet Command 是專為人工智慧而設計,包含數十個此類特點和功能,幾乎可以為各行各業提供新機會及使用案例。
立即開始使用 Fleet Command
Fleet Command 非常容易使用,任何組織都可以使用 NVIDIA LaunchPad 上提供的試用版,評估快速大規模部署人工智慧的價值。NVIDIA LaunchPad 計畫為您提供可以購買和部署的完整堆疊,讓您可以使用這些堆疊快速進行測試及建立原型。
組織可以使用 LaunchPad 上的 Fleet Command,存取以下內容:
- 統包式雲端服務,可以輕鬆部署和監控實際伺服器上真實的應用程式
- 模型和應用程式目錄,可以探索人工智慧的優點
- Equinix 提供的加速邊緣運算基礎設施,可以流暢提供和運行應用程式