指望 AI:RBC 建構由 DGX 支援的私有雲

作者 JOHN ASHLEY

加拿大皇家銀行建構了由 NVIDIA DGX 支持的雲端,並將其與對 AI 的戰略投資聯繫在一起。儘管受到全球大流行的不利影響,它將進一步使 RBC 改變客戶體驗。

此航程始於 2017 年秋天。那時,加拿大最大的銀行 RBC 在 36 個國家/地區擁有 1700 萬客戶,創建了專門的研究機構 Borealis AI。該研究機構的總部位於多倫多的 MaRS 發現區附近,該區是機器學習專家的全球樞紐。

Borealis AI 迅速吸引了數十位頂尖研究人員。該研究所是由銀行技術長 Foteini Agrafioti 領導,Agrafioti 不僅是擁有多項專利的蟬連企業家,也是電氣和運算機工程博士,更是加拿大AI顧問委員會的聯合主席,因此 Borealis AI 吸引人才不足為奇。

該銀行最初將 Borealis AI 啟動到多種系統中。但是隨著小組及其開發的 AI 模型的發展,它需要一個更大的專用AI引擎。

仲介私有 AI 雲進行銀行業務

RBC 技術基礎設施資深副總裁 Mike Tardif 說:“我有幸幫助代理了我們的首個 Borealis AI 基礎設施,但它不足以滿足我們不斷發展的 AI 需求。”

該團隊需要一個分佈式 AI 系統,該系統可以在從溫哥華到蒙特婁的四個位置安全地服務於銀行的防火牆之後。它需要隨著作業負載的增長而擴展,並在開源軟體中利用 AI 創新的常規流程,而無需進行硬體升級。

簡而言之,該銀行旨在建立最先進的私有 AI 雲。 RBC選擇了六款 NVIDIA DGX 系統和 Red Hat 的 OpenShift 作為關鍵支撐,以協調在這些系統上運行的容器。

“我們將 NVIDIA 視為 AI 基礎架構的領導者。我們已經在使用其 DGX 系統,並希望擴展我們的 AI 功能,因此這是一個顯而易見的選擇。” Tardif 說。

AI 引導銀行走向智慧應用

儘管面對即將到來的 COVID-19 風暴,RBC 已於今年初投產,而且 RBC 也報告了該系統的可靠結果。

該銀行表示,私有 AI 雲可以運行數千次模擬並分析數百萬個資料點,而所需時間卻只有以前的一小部分。因此,它期望通過新一代智慧應用程式來改變客戶銀行業務的體驗。這僅僅是開始。

北歐化工 AI 負責人 Agrafioti 說:“例如,在我們的資本市場業務中,我們現在能夠平行訓練數千種統計模型,以涵蓋這一巨大的可能性。”

“如果沒有分佈式且完全自動化的環境,這是不可能的。我們可以使用此新解決方案提供的自動化流程,只需單擊一下,整個叢集立即填充。”

該平台已經幫助減少了客戶呼叫,並由於 GPU 的效能與編排的容器的自動化相結合,為 RBC 客戶提供了更快的新應用交貨。

RBC 部署了 Red Hat OpenShift 與 NVIDIA DGX 基礎架構,以快速啟動 AI 運算執行個體,而所需的時間卻很少。

Red Hat 全球新興技術傳播者 Yan Fisher 表示,OpenShift 通過創建一個用戶可以同時運行數千個容器的環境,提取資料集來訓練 AI 模型並在 DGX 系統上運行這些模型來提供幫助。

他補充說,OpenShift 和 NVIDIA 的軟體中心 NGC,使兩家公司可遠程支援該銀行以渡過這次難過的新冠大流行。

Tardif 表示:“使用 NVIDIA DGX 建構我們的 AI 基礎架構,使我們擁有類似於全球亞馬遜和 Google 所提供的內部功能,並且在總擁有成本方面節省了可觀的費用,” Tardif 說。

他選擇了 NVLink 互連和 NVIDIA 對企業網路標準的支持,作為關鍵硬體資產,因為這些硬體具有最大的頻寬和減少的延遲。他們使用戶可以在託管銀行AI雲的資料中心的系統內和系統之間快速存取多個 GPU。

歷史悠久的銀行如何保持創新

儘管已有 150 年歷史,但 RBC 像 Borealis AI一樣,通過早期投資新興技術來與時俱進。

Tardif 說:“創新是我們的基因,我們一直在關注即將發生的事情以及如何實現它,而 AI 是頭等大事。”

儘管 RBC 的主要專業知識是銀行業務,但它也具有技術實力。在 COVID 封鎖期間,它設法對最新的系統進行“壓力測試”,將它們推到了超出他們認為極限的範圍。

Tardif 說:“我們與 NVIDIA 共同創造了 AI 基礎架構的願景,並且通過這一旅程,我們提高了 AI 創新的標準,金融服務行業的每個人都可以從中受益。”

參閱 NVIDIA 金融服務行業頁面以了解更多訊息。