NVIDIA 攜手 F5 大幅提升主權 AI 在雲端環境裡的安全與效率

NVIDIA BlueField-3 DPU 與 F5 BIG-IP Next for Kubernetes 共同提升 AI 效率與安全性
作者 Ash Bhalgat

為提升主權雲端環境裡 AI 的運作效率及安全性,NVIDIA 與 F5 將 NVIDIA BlueField-3 DPU 與 F5 BIG-IP Next for Kubernetes 整合,以提供應用程式交付服務及提高安全性。

這項合作於今日在印度孟買舉行的 NVIDIA AI 高峰會上宣布,適合有嚴格資料治理、隱私或法遵要求的產業,且能滿足對具擴充性 AI 基礎設施不斷成長的需求。

F5 服務供應商部門副總裁暨總經理 Ahmed Guetari 表示:「我們正在與 NVIDIA 合作讓各產業能夠以更快部署具擴充性且安全的 AI 解決方案,並提供更好的效能,同時確保資料受到保護。」

雙方合作的目的在於協助政府與產業管理機敏資料,同時加快交付 AI 應用。根據 IDC 的預測,主權雲端產業的市值到 2027 年時將達到 2,500 億美元。同時,ABI Research 預測到 2027 年時,基礎模型的市場規模將達到 300 億美元。

主權雲是為了滿足嚴格的資料隱私和本地化要求而建立的。它們對於電信和金融服務等處理機敏資料的產業以及政府機構十分重要。

部署在 NVIDIA BlueField-3 DPU 上的 F5 BIG-IP Next for Kubernetes 可提供安全且合規的 AI 網路基礎設施,讓各產業能夠在不影響資料隱私的情況下採用先進的 AI 功能。

F5 BIG-IP Next for Kubernetes 將負載平衡、路由和安全性等工作交給 BlueField-3 DPU 處理,可以高效地將 AI 導至大型語言模型執行個體與減少能耗。這可在最佳化 GPU 資源利用率的同時,確保可以彈性擴充的 AI 效能。

能夠加快基礎模型部署的 NVIDIA NIM 微服務,也將因更有效率的 AI 工作負載管理,而從合作中獲益。

NVIDIA 與 F5 的整合解決方案有望提升安全性與效率,這對於轉換採用雲端原生基礎設施的產業而言十分重要。有了這些創新技術,受到嚴格監管的產業可以安全且有信心地擴大 AI 應用的規模,又能符合資料保護的最高標準。

編按:全球主權雲端市場的數據來自 IDC 於 2023 年 11 月發表的《Worldwide Sovereign Cloud Market Forecast, 2022–2027》,文件編號 US49695922。生成式 AI 軟體市場的數據來自 ABI Research 於 2024 年 7 月發表的《Gen AI Software》報告,文件編號 MD-AISG-101。