NVIDIA Riva 簡化打造最先進對話式人工智慧服務的方式

NVIDIA (輝達) 今天宣佈推出 GPU 加速的 NVIDIA Riva 應用程式框架，讓企業能夠透過影片與語音資料來為各自產業、產品和客戶打造客製化的先進對話式人工智慧 (AI) 服務。

隨著人們紛紛轉向在家工作、進行遠端醫療和遠端學習，大量催生出客製化語言 AI 服務的需求，範圍從客戶支援到即時轉錄，以及針對視訊通話的內容進行總結，以保持人們的工作效率並且維持人們之間的聯繫。

首批採用 Riva 對話式 AI 產品和服務來滿足客戶需求的業者，包括支援客服中心的 AI 代理商 Voca、用於金融和商業自動語音轉錄的 Kensho，以及能協助預約排程的虛擬應用程式 Square。

NVIDIA 創辦人暨執行長黃仁勳表示：「對話式 AI 是許多產業未來的核心，應用程式能夠以細微的感知脈絡能力，去理解對話內容並進行溝通。而 NVIDIA Riva可以協助醫療、金融服務、教育及零售等產業，快速且精準地自動處理應接不暇的客戶需求。」

使用 Riva 打造出的應用程式可以借助用於 AI 運算的全新 NVIDIA A100 Tensor Core GPU 的創新功能，以及 NVIDIA TensorRT™ 中的最新優化來進行推論。現在首度能夠使用最強大的視覺和語音模型來運行整個多模態應用程式，速度還快過300毫秒的即時互動閾值。

Riva 提供一個完整並且以 GPU 加速的軟體堆疊及工具，讓開發人員可以輕鬆建立、部署和運行端到端的即時對話式 AI 應用程式，以了解各公司及其客戶所使用的專用術語。

IDC 人工智慧軟體平台研究總監 David Schubmehl 表示：「IDC 持續看到對話式 AI 市場蓬勃發展的跡象，主因是大大小小的組織都開始意識到，使用訓練有素的虛擬助理和聊天機器人來協助服務客戶和發展業務的價值。IDC 預計全球企業用在對話式 AI 使用範例如自動客服代理和數位助理的花費，將從 2019 年的 58 億美元增長到 2023 年的 138 億美元，年複合增長率為 24%。」

為了提供互動式和個性化體驗，企業需要使用專屬自家產品及符合客戶需求的資料來訓練其語言應用程式。只不過從頭開始建立一項服務，需要具備深厚的 AI 專業知識，並且要使用大量資料和運算資源來訓練模型，同時還要有軟體定期投入新資料來更新模型。

Riva 提供對話式 AI 端到端的深度學習管道來解決這些挑戰，其中加入了最先進的深度學習模型，像是用於理解自然語言的 NVIDIA Megatron BERT。企業可以透過 NVIDIA NeMo 進一步微調這些模型上的資料，並使用 TensorRT 來優化推論作業，以及使用 NVIDIA GPU 最佳化軟體目錄 NGC 上的 Helm chart，將應用程式部署在雲端及邊緣。

初期採用 NVIDIA Riva 的企業包含 Voca、Kensho 以及 Square

全球各地的企業現正使用 NVIDIA 的對話式 AI 平台來改善其服務品質。

Toshiba、AT&T 及其它全球頂尖企業紛紛採用 Voca 的 AI 虛擬應用程式，這項代理應用程式採用 NVIDIA 的技術，以達到更快速、更如同真人般且效果更佳的互動。Voca 透過 AI 來理解客戶對話及語音中的各種意圖，如此一來代理應用程式便能自動辨識客戶的不同語調和語音線索，以分辨出客戶所說的話與客戶話語意涵之間的差異性。除此之外，企業透過 NVIDIA AI 平台內建的擴充功能，可以大幅縮短客戶的等待時間。

Voca 的共同創辦人暨技術長 Alan Bekker 表示：「低延遲對於客服中心來說至關重要，而有了 NVIDIA 的 GPU，我們的代理應用程式能夠在一秒鐘內以最高的準確度聆聽、理解和回應來電者所說的內容。從一般的客服要求到交易支付和技術支援，我們的虛擬代理應用程式現在可以順利處理 70-80% 的電話。」

位於麻州劍橋市 S&P Global 創新中心的 Kensho，部署了具擴充能力的機器學習和分析系統，並透過使用 NVIDIA 的對話式 AI 技術，開發出用於金融商業的語音辨識解決方案 Scribe。在 NVIDIA 的協助下，Scribe 在法說會及相似金融語音應用方面的準確率，較其它商業解決方案高出 20%。

Kensho 的人工智慧研究部門主管 Georg Kucsko 表示：「我們正與 NVIDIA 密切合作，研究如何透過深度學習將端到端的自動語音辨識技術做更進一步的推進。和未使用 AI 的傳統方法相比，我們與 NVIDIA 一同訓練的新模型可以提高金融專業術語的轉錄準確率，幾分鐘而非幾天後就能提供即時資訊給客戶。」

由 Square 推出的 AI 虛擬助理，讓 Square 的銷售員可以利用 AI 自動化確認、取消或是更改與客戶的預約安排，省去更多與顧客交涉的時間。Square 的長遠目標是希望最終能將自然語言處理納入幾乎全部的自家產品中。

Square 的對話式人工智慧部門主管 Gabor Angeli 表示：「Square 虛擬助理可以理解客戶 75% 的問題並提供協助，同時確保確實出席預約的人數再增加 10%。與 CPU 相比，透過 GPU 我們能以 10 倍的速度更有效地訓練模型，提供更精確、更接近真人互動，最終讓客戶發展更多業務的幫助。」

供應時程

NVIDIA Riva 的初期試用計畫只接受少數的申請者。若有興趣體驗應用程式框架的開發者，可以在這裡報名。

更多相關資訊

• 網路研討會：使用 NeMo 和 Riva 培訓及部署對話式 AI 應用
• NVIDIA 開發者部落格：介紹 Riva ：以 GPU 加速的對話式 AI 應用框架
• NVIDIA 開發者部落格：使用 NeMo 針對不同語言的語音識別模型進行快速入門培訓
• NVIDIA 開發者部落格：語音及語言模型的快速發展
• NVIDIA 開發者部落格：在 A100 上使用 Megatron 進行最先進的語言建模