NVIDIA 加速運算業務部門副總裁暨總經理 Ian Buck，週三在人工智慧硬體高峰會上表示，出色的處理器與硬體尚不足以推動人工智慧革命。
在這場於美國加州山景市舉行的高峰會中，Buck 對數百名媒體、分析師、投資人與企業家表示：「我們推動降低人工智慧的運算成本及提高運算能力，我個人衷心期望這股趨勢能一直延續下去，不只是因為硬體方面的進步，還有我們推動人工智慧演算法、人工智慧軟體及人工智慧應用程式的進步，以促進業界提出創新項目。」
Buck 以開發出 CUDA 運算平台而打響名號，透過 CUDA 平台讓 GPU 的運算能力用在超級電腦及下一代人工智慧等方面。他在展出部分矽谷歷史上最具代表性之電腦機型的計算機歷史博物館，發表了一場精彩的演講。
NVIDIA 的 Ian Buck 在矽谷舉行的人工智慧硬體高峰會中進行演講。
人工智慧訓練作業是一項超級運算領域的挑戰
Buck 說現在這個產業要設想的規模，必須比過去奠定這個產業的條條框框還要更大，而是要更大得多，把軟體、硬體和基礎設施整合起來，以設計出超級電腦等級的系統，有能力去應付海量資料。
Buck 表示訓練或是創造能夠處理新任務的全新人工智慧，對於高效能運算來說都是一項終極挑戰，在運算、網路和儲存方面，無不存在著瓶頸。
「擴大人工智慧訓練規模帶來了一些艱巨的挑戰，不僅要打造出高速的 GPU，還要優化整個資料中心的電腦、串連起各系統、優化記憶體、網路拓撲結構和數值。」Buck 說。
所以 NVIDIA 才會投入擴增資料中心軟體和基礎設施的項目，從 NVLink 及 NVSwitch 等互連技術，到優化資料在大型系統間傳輸方式的 NVIDIA 集體通訊函式庫（Collective Communications Library，NCCL）。
從 ResNet-50 到 BERT
Buck 在簡短的半小時演講中表示，一直以來科學家、設計師、藝術家和遊戲玩家等這些要求最為嚴格的使用者，都對 GPU 的運算表現十分滿意。最近又加入了人工智慧。一開始人工智慧的應用側重於理解影像內容，透過 ResNet-50 這一類基準測試來測量這項功能。
Buck 說：「時至今日，BERT 和 Megatron 這樣的模型可以理解人類的語言，這已經不只是電腦視覺的範圍，而是真正擁有智慧。當我說些什麼的時候，我的話中是指什麼意思？這是一個更艱深的問題。我們試著在神經網路中取得這項真正的智慧。」
NVIDIA 為求解決此類問題，昨日宣布推出最新版本的推論平台 TensorRT 6。TensorRT 6 搭配 NVIDIA T4 GPU，運行在語言理解方面上具有超高精確度的 BERT-Large 模型，只要 5.8 毫秒便能理解自然語言內容。這幾乎是人類流暢對話互動之 10 毫秒閾值的一半，而這只是我們不斷努力以加快端到端處理流程的部分作為。
加快整體作業流程
推論工作，或者是將已經完成訓練的人工智慧實際執行任務，有著千奇百怪的內容，且通常是遵守阿姆達爾定律（Amdahl’s law）之大型應用程式的一部分。假使說只有加快處理流程裡的矩陣乘法器這個部分，其它處理步驟仍會對你加諸限制。
Buck 說倘若要讓人工智慧真正具有交談能力，就要有一個徹底加速的語音處理流程，能夠從一個需要大量計算的任務跳到另一個任務。
這樣的系統從端到端可能要用上 20 到 30 個容器，利用由多層感知器組成且以混合精度進行運作的多種卷積神經網路和遞歸神經網路，包括 INT8、FP16 和 FP32。它們的延遲時間皆小於 300 毫秒，一個模型的延續時間只有 10 毫秒。
NVIDIA 的 Ian Buck 在矽谷舉行的人工智慧硬體高峰會中進行演講。
高利用率降低了資料中心的總持有成本
Buck 解釋說資料中心的投資取決於基礎設施的使用率，這樣的表現是十分重要的。Buck 表示：「超大規模資料中心的總持有成本完全視利用率而定。NVIDIA 提出一套適用於各種人工智慧使用案例的架構，以協助降低總持有成本。」
Buck 說性能與靈活性正是目前讓資料中心廣泛採用 GPU 的原因。消費性網路公司使用 GPU 來提供語音搜尋、圖片搜尋、推薦、家庭助理、新聞提要、翻譯及電子商務等服務。
超大規模資料中心採用 NVIDIA 高速省電的 T4 GPU，阿里巴巴、Amazon、百度、Google Cloud 與騰訊雲等各大雲端服務提供商均有提供。推論服務讓 NVIDIA 資料中心的營收額呈現兩位數百分比的成長。
垂直產業需要垂直平台
Buck 說除了為訓練提供超級電腦等級的運算能力，以及提供具擴充性的資料中心系統來服務數億名用戶，人工智慧平台還要提高其專業性。
他繼續說目前的人工智慧研究把持在少數幾家公司的手中，可是若要有更多產業採用人工智慧，需要有垂直化的平台。
Buck 問說建構這些應用程式，「該由誰來做?」Buck 說：「我們需要打造特定領域的垂直化人工智慧平台，提供他們一個 SDK，其中的平台已經按照其用途進行調整。」
Buck 強調 NVIDIA 如何為汽車、醫療保健、機器人、智慧城市及 3D 渲染等產業打造垂直平台。
Buck 以汽車業為例，談到了 NVIDIA 正在開發的六項主要技術，包括 NVIDIA Xavier 系統單晶片、NVIDIA Constellation 汽車模擬軟體、用於駕駛艙內人工智慧的 NVIDIA DRIVE IX 軟體，還有協助車輛安全行駛在街道和高速公路上的 NVIDIA DRIVE AV 軟體。
Buck 最後下了一個簡單的結論：結合人工智慧硬體、人工智慧軟體和人工智慧基礎設施，有望讓更多產業使用到更強大的人工智慧，最終惠及更多人。
「我們不斷降低運算人工智慧的成本，讓人們更容易取得和建構強大的人工智慧系統，我猜想未來有很長一段時間，還會持續降低成本及提高人工智慧的能力。」