利用堆疊解決方案擴充金融 AI 服務以克服實作挑戰

作者 NVIDIA

在過去幾年內,因為 AI 可以將重複性任務自動化及增加收益機會,而促使 AI 的採用率快速成長。但是,許多公司仍在為如何於金融服務中有意義地擴充 AI 而感到苦惱。主要的問題包括資料需求增加和缺乏內部人才。

本文概述了 AI 使用案例,並強調一些主要的擴充挑戰,以及各大銀行和金融機構如何使用端對端解決方案機動化地採用 AI。

推動金融服務採用 AI 的因素是什麼?

金融服務業蠻早期就開始採用資料科學,且普遍肯定 AI 解決複雜之業務問題的能力。銀行業是每年投資巨量資料和分析的三大產業之一。NVIDIA 的一項調查發現,金融機構中有 83% 的高階領導者、IT 架構師和開發人員,認為 AI 是未來成功的關鍵。

原因很簡單: Business Insider 估計銀行的 AI 驅動成本節省潛力,在 2023 年將達到 4,470 億美元。在消費金融和資本市場領域的公司,正設法挖掘此類潛力。

在經驗證的 AI 使用案例中,排名最高的是詐騙偵測和預防改善,尤其是線上支付詐騙損失,預計在 2023 年將達到每年 480 億美元

其他業務驅動因素包括透過最佳化投資組合以最大化客戶報酬,或透過客服中心轉錄,創造個人化客戶服務,範例不勝枚舉。

McKinsey and Company 在近期發表之論文中強調了即將發生的巨變:為了蓬勃發展,銀行必須經營「AI 優先」。因此,AI 的價值不是由單一專案或團隊實現,而是需要金融機構的資料工程師、資料科學家與應用程式開發人員進行協作,並以支援 AI 的 IT 基礎架構做為輔助。

金融業使用案例

最快的報酬通常是來自於詐騙偵測和預防改善,且是 AI 在金融服務中最常見的用途。AI 也有助於創造效率,以及降低與反洗錢工作和認識客戶法規有關的法遵成本

在將風險管理與利潤最大化結合時,投資公司會逐漸仰賴 AI 來建立搭載先進 GPU 和雲端運算技術的演算法交易系統。從事資產管理和最佳化投資組合的分析師,可以使用自然語言處理(natural language processing,NLP)以較之前更快的速度,從非結構化資料中擷取更多的相關資訊,以降低對勞力密集型研究的需求

在消費金融領域中,NLP 可以協助零售銀行充分瞭解客戶需求,並透過客服中心轉錄找出新的行銷機會。除聊天機器人和虛擬助理外,轉錄是屬於較大的對話式 AI 類別,可以全面檢視客戶,以將服務個人化。

AI 在客戶互動中的另一個用途是推薦引擎。此技術是利用信用使用情況、評分和額度,建議適合的金融產品以改善交叉銷售。

擴充 AI 的主要挑戰

未採用 AI 和機器學習的銀行、貿易與線上支付公司,可能會處於落後的狀態,但是,即使是接納此技術的公司也同樣面臨阻礙。事實上,將近一半的 AI 專案從未進入實際使用階段。

成本提高

一個基本問題:大多數公司在 AI 方面的需求,已超過現有的 IT 基礎架構。資料科學家處理 AI 工作負載需要的工具,通常很難部署在舊有系統上。28% 的 IT 專業人員認為缺乏基礎架構是採用 AI 的主要障礙。AI 應用程式暴增也會使 IT 管理變得越來越困難。

影子 IT

僅在研究實驗室、創新團隊或業務線內投資 AI 的金融機構,通常是讓資料科學家在自訂的裸機基礎架構上運作。此配置會在資料中心產生孤島,並導致影子 IT 存在於部門 IT 控制之外。

在此結構下,即能輕易理解為何 71% 的銀行高階主管對於如何擴充 AI 感到苦惱,以及 32% 的 IT 專業人員將資料孤島和資料複雜性列為採用的最大障礙。

這些孤島會進一步阻礙生產力。在更多的時間中,資料科學家是擔任 AI 領域的實質 IT 管理者,而不是專注於訓練機器學習模型。

此外,如果基礎架構不包含加速運算和 GPU 的平行處理能力時,可能需要數天或數週的時間訓練深度學習模型,因此會浪費資料科學家的寶貴時間。如同聘請世界級賽車手,卻讓他們開 Yugo 一樣。

未使用的基礎架構

如同預期,成本開始不斷上升。不同的 IT 會增加營運開銷。相較於透過虛擬化隨需分配資源達到的類雲端效率,因為孤島而未充分利用基礎架構,將會導致每一個工作負載的成本更高。昂貴的資料科學家被迫管理 IT、使 ROI 減緩、AI 專案停滯不前。

由 NVIDIA 和 VMware 提供的 AI 驅動平台

金融機構如何全面採用 AI、擴充現有 AI,並最大化其價值?

NVIDIA AI Enterprise 是以 NVIDIA GPU 和 VMware 的 vSphere with Tanzu 為基礎,提供端對端平台,包括資料科學工具和框架套件,以支援各種 AI 應用程式。重要的是,其有助於縮短 ROI 時間,同時可克服臨時建置造成的問題。

NVIDIA 和 VMware 的全堆疊解決方案可以從硬體到應用程式層進行互通,為金融服務應用程式和 AI 工作負載提供單一平台。它排除了不同的 AI 基礎架構,因為它是在搭載 NVIDIA GPU 和 VMware vSphere with Tanzu(已存在大多數資料中心的雲端運算平台)的共同 NVIDIA 認證系統上開發而成。

此企業套件提供 TensorFlow、PyTorch 和 RAPIDS 等的 AI 工具,而 vSphere 的 Tanzu Kubernetes Grid 可以執行與 Kubernetes 協調的容器化應用程式以及虛擬化應用程式,進而跨所有應用程式和 AI 工作負載,建立一致的基礎架構。

此一致性可以讓資料科學擺脫孤島,並部署在主流資料中心,將 IT 團隊與資料科學家和開發人員結合。可以使用 NVIDIA 虛擬 GPU 共用 GPU、加速器等昂貴的裝置,在降低整體擁有成本的同時,提供快速訓練機器學習模型需要的加速效果。同時,讓資料科學家擺脫 IT 管理,專注於他們的專業工作。

換言之,IT 負責人可以取得簡單性、可管理性、易擴充性和部署,而資料科學家可以獲得有利於其核心工作之基礎架構和工具的支援,以及企業高階主管可以看到更快與更高的 ROI。

總結

這些應用僅是 AI 在金融服務中之可能性的一小部分,尤其是在技術成熟之後。為了在金融服務中擴充 AI,公司可以提高資源容量、聘請特定領域的專業人士,並尋找管理資料的創新方式。

NVIDIA 和 VMware 的全堆疊解決方案提供了一個平台,可以在整個公司中利用 AI 的競爭優勢,同時克服常見的實作挑戰。

欲深入瞭解 NVIDIA AI Enterprise 如何啟動這些用途,請參閱 NVIDIA 適用於金融服務的 AI 就緒企業平台解決方案簡介,以及適用於金融服務的 AI 和 HPC 解決方案頁面。

透過 LaunchPad 立即試用 NVIDIA AI Enterprise 軟體套件,以瞭解平台可以為您做什麼。此套件是在 VMware vSphere 環境中的私有加速運算基礎架構上執行,並包含為 AI 從業人員和 IT 人員精心設計的實作測試環境。