NVIDIA Jarvis 簡化打造最先進對話式人工智慧服務的方式

作者 NVIDIA

NVIDIA (輝達) 今天宣佈推出 GPU 加速的 NVIDIA Jarvis 應用程式框架,讓企業能夠透過影片與語音資料來為各自產業、產品和客戶打造客製化的先進對話式人工智慧 (AI) 服務。

隨著人們紛紛轉向在家工作、進行遠端醫療和遠端學習,大量催生出客製化語言 AI 服務的需求,範圍從客戶支援到即時轉錄,以及針對視訊通話的內容進行總結,以保持人們的工作效率並且維持人們之間的聯繫。

首批採用 Jarvis 對話式 AI 產品和服務來滿足客戶需求的業者,包括支援客服中心的 AI 代理商 Voca、用於金融和商業自動語音轉錄的 Kensho,以及能協助預約排程的虛擬應用程式 Square。

NVIDIA 創辦人暨執行長黃仁勳表示:「對話式 AI 是許多產業未來的核心,應用程式能夠以細微的感知脈絡能力,去理解對話內容並進行溝通。而 NVIDIA Jarvis可以協助醫療、金融服務、教育及零售等產業,快速且精準地自動處理應接不暇的客戶需求。」

使用 Jarvis 打造出的應用程式可以借助用於 AI 運算的全新 NVIDIA A100 Tensor Core GPU 的創新功能,以及 NVIDIA TensorRT™ 中的最新優化來進行推論。現在首度能夠使用最強大的視覺和語音模型來運行整個多模態應用程式,速度還快過300毫秒的即時互動閾值。

Jarvis 提供一個完整並且以 GPU 加速的軟體堆疊及工具,讓開發人員可以輕鬆建立、部署和運行端到端的即時對話式 AI 應用程式,以了解各公司及其客戶所使用的專用術語。

IDC 人工智慧軟體平台研究總監 David Schubmehl 表示:「IDC 持續看到對話式 AI 市場蓬勃發展的跡象,主因是大大小小的組織都開始意識到,使用訓練有素的虛擬助理和聊天機器人來協助服務客戶和發展業務的價值。IDC 預計全球企業用在對話式 AI 使用範例如自動客服代理和數位助理的花費,將從 2019 年的 58 億美元增長到 2023 年的 138 億美元,年複合增長率為 24%。」

為了提供互動式和個性化體驗,企業需要使用專屬自家產品及符合客戶需求的資料來訓練其語言應用程式。只不過從頭開始建立一項服務,需要具備深厚的 AI 專業知識,並且要使用大量資料和運算資源來訓練模型,同時還要有軟體定期投入新資料來更新模型。

Jarvis 提供對話式 AI 端到端的深度學習管道來解決這些挑戰,其中加入了最先進的深度學習模型,像是用於理解自然語言的 NVIDIA Megatron BERT。企業可以透過 NVIDIA NeMo 進一步微調這些模型上的資料,並使用 TensorRT 來優化推論作業,以及使用 NVIDIA GPU 最佳化軟體目錄 NGC 上的 Helm chart,將應用程式部署在雲端及邊緣。

初期採用 NVIDIA Jarvis 的企業包含 Voca、Kensho 以及 Square

全球各地的企業現正使用 NVIDIA 的對話式 AI 平台來改善其服務品質。

Toshiba、AT&T 及其它全球頂尖企業紛紛採用 Voca 的 AI 虛擬應用程式,這項代理應用程式採用 NVIDIA 的技術,以達到更快速、更如同真人般且效果更佳的互動。Voca 透過 AI 來理解客戶對話及語音中的各種意圖,如此一來代理應用程式便能自動辨識客戶的不同語調和語音線索,以分辨出客戶所說的話與客戶話語意涵之間的差異性。除此之外,企業透過 NVIDIA AI 平台內建的擴充功能,可以大幅縮短客戶的等待時間。

Voca 的共同創辦人暨技術長 Alan Bekker 表示:「低延遲對於客服中心來說至關重要,而有了 NVIDIA 的 GPU,我們的代理應用程式能夠在一秒鐘內以最高的準確度聆聽、理解和回應來電者所說的內容。從一般的客服要求到交易支付和技術支援,我們的虛擬代理應用程式現在可以順利處理 70-80% 的電話。」

位於麻州劍橋市 S&P Global 創新中心的 Kensho,部署了具擴充能力的機器學習和分析系統,並透過使用 NVIDIA 的對話式 AI 技術,開發出用於金融商業的語音辨識解決方案 Scribe。在 NVIDIA 的協助下,Scribe 在法說會及相似金融語音應用方面的準確率,較其它商業解決方案高出 20%。

Kensho 的人工智慧研究部門主管 Georg Kucsko 表示:「我們正與 NVIDIA 密切合作,研究如何透過深度學習將端到端的自動語音辨識技術做更進一步的推進。和未使用 AI 的傳統方法相比,我們與 NVIDIA 一同訓練的新模型可以提高金融專業術語的轉錄準確率,幾分鐘而非幾天後就能提供即時資訊給客戶。」

由 Square 推出的 AI 虛擬助理,讓 Square 的銷售員可以利用 AI 自動化確認、取消或是更改與客戶的預約安排,省去更多與顧客交涉的時間。Square 的長遠目標是希望最終能將自然語言處理納入幾乎全部的自家產品中。

Square 的對話式人工智慧部門主管 Gabor Angeli 表示:「Square 虛擬助理可以理解客戶 75% 的問題並提供協助,同時確保確實出席預約的人數再增加 10%。與 CPU 相比,透過 GPU 我們能以 10 倍的速度更有效地訓練模型,提供更精確、更接近真人互動,最終讓客戶發展更多業務的幫助。」

供應時程

NVIDIA Jarvis 的初期試用計畫只接受少數的申請者。若有興趣體驗應用程式框架的開發者,可以在這裡報名

更多相關資訊

掌握 NVIDIA 最新動態

請訂閱 NVIDIA 官方部落格或追蹤 FacebookTwitterLinkedInInstagram。瀏覽 NVIDIA 相關影片及圖片,請至 YouTubeFlickr

關於 NVIDIA (輝達)

NVIDIA (輝達)自 1999 年發明 GPU 起,成功促進 PC 電競市場的成長並重新定義現代電腦顯示卡產品,掀起電腦平行運算革命。近年來 GPU 深度學習也促發被視為下一個運算時代的人工智慧,透過 GPU 以類人腦方式運作於電腦、機器人與自駕車等,來感知並解讀真實世界。欲瞭解更多資訊,請瀏覽 https://blogs.nvidia.com.tw/

新聞聯絡人

NVIDIA
亞太資深公關經理 杜佳祐
電話:(02)6605-5856
傳真:(02)8751-1809
E-mail: Melody Tu
世紀奧美公關顧問
黃晨瑀/詹淑君
電話:(02) 2577-2100
分機 826/807
傳真:(02) 2577-1600
行動電話: 0978-101797/0975-251507
E-mail: Bonnie Huang/ Shirley Chan

本新聞稿可能包含 NVIDIA 根據目前預期所做出的前瞻性聲明:NVIDIA 產品和技術的效益、效能與功能,包含 NVIDIA Jarvis、NVIDIA TensorRT 及 NVIDIA A100 GPU;Jarvis 有助於企業實現及允許企業提供的內容,包括客製化的 AI 服務和即時轉錄;使用 Jarvis 的企業;對話式 AI 是未來許多產業的核心;NVIDIA Jarvis 使得企業能夠服務數百萬人、提高客戶滿意度及支援產業不斷增長的需求;對話式 AI 市場的成長及其原因;未來對話式 AI 的支出預期;提供語言應用程式的需求及 Jarvis 如何因應這些挑戰;企業能夠使用 NVIDIA 的產品和技術來微調其模型;Voca、Kensho 與 Square 如何使用 NVIDIA 的平台和 AI 技術,以及其效益和效能;NVIDIA Jarvis 的供應時程。這些前瞻性聲明包含可能導致實質結果與預期不符之風險與不確定因素。多項重要因素可能導致實際結果與前瞻性聲明所示之結果出現重大差異,所及範圍有全球經濟情況;我們的產品借重第三方協力廠商之製造、組合、封裝和測試之部分;技術發展和市場競爭之影響;新產品或技術之發展或我們現有產品與技術之提升;市場接受我們的產品或合作夥伴產品的程度;設計、製造或軟體的缺失;消費者偏好或需求之改變;業界標準和介面之改變;整合到系統後無法預期的產品或效能降低之技術缺失;以及我們定期提交給美國證券交易委員會(SEC)以 Form 10-Q 報告附本為基礎的Form 10-K財務季度等其他詳細因素。NVIDIA 在公司官方網站上免費提供定期提交給 SEC 的報告之副本。這些前瞻性聲明不保證未來的效能,只陳述目前的狀態,除非法律規定,否則 NVIDIA 沒有意願或義務更新或修改任何前瞻性聲明。