NVIDIA 執行長再次於廚房中發表滿滿的 GTC 大會主題演講,概述了「人工智慧時代」的願景

作者 Brian Caulfield

NVIDIA 執行長黃仁勳於 10 月 5 日揭開 GPU 技術大會的序幕,向外界勾畫出「人工智慧時代」的宏偉願景。

黃仁勳在同時發布的九支影片、每支影片時長不超過十分鐘的主題演講中,公布了在資料中心、邊緣人工智慧、協同作業工具及醫療等方面的重大消息。(觀眾可在右下方「設定」處選擇台灣中文字幕)

黃仁勳站在矽谷自家廚房的爐子前,說:「人工智慧需要對從晶片、系統、演算法、工具再到整個商業生態體系,整個運算領域進行徹底改造,也就是重新思考整個堆疊。」

在一系列涉及從醫療、機器人再到視訊會議等領域的公告背後,黃仁勳秉持著一個基本要素:人工智慧正在改變一切,這使得 NVIDIA 站在帶動現代生活各方面出現變革的十字路口。

首先在黃仁勳家中的廚房見到有著愈來愈多的不同之處,出現一把顏色討喜的彩色鍋鏟,在新冠肺炎疫情肆虐期間,它已經成為人們日漸熟悉的公告背景。

黃仁勳說:「NVIDIA 是一間全堆疊運算公司,我們喜歡研究對世界有著巨大影響力的極困難運算問題,我們恰巧最擅長這件事。我們全力以赴為人工智慧時代,推動和普及這種新的運算形式。」

10 月第 1 週舉行的 GTC 大會是迄今規模最大的 GTC 活動之一,將召開跨足四十個主題領域的千餘場會議,較上一場 GTC 大會多出四百場。同時也是首次跨時區舉行的 GTC 大會,將以英語、中文、韓語、日語及希伯來語召開多場會議。

加速資料中心

黃仁勳指出現代的資料中心採用軟體定義的方式,使其有著更高的靈活度和適應能力。

這麼一來便誕生出龐大的工作量。運行一個資料中心的基礎設施要用到 20% 到 30% 的 CPU 核心。而隨著「橫向的交流,或是資料中心內的流量與微型服務的增加,這種工作量將急劇增加。

黃仁勳說:「我們需要一種新型態的處理器,我們稱這種處理器為資料處理單元。」

黃仁勳說 DPU 由用於網路、儲存、安全的加速器,以及可編程的 Arm CPU 組成,以分擔虛擬機器監視器(hypervisor)的工作。

新款 NVIDIA BlueField 2 DPU 是一款可編程處理器,擁有強大的 Arm 核心及加速引擎,能以高速處理網路、儲存和安全等作業。這是 NVIDIA 收購高速互連技術供應商 Mellanox Technologies 的最新成果,該項交易已於今年四月完成。

資料中心 — DOCA — 一款可編程資料中心基礎架構處理器

NVIDIA 也宣布推出可編程資料中心基礎架構單晶片架構 DOCA 處理器。

「開發者可以使用 DOCA SDK,為軟體定義網路、軟體定義儲存、網路安全、遙測和有待發明的網路內運算應用程式,編寫基礎架構應用程式。」黃仁勳說。

黃仁勳還提到上週宣布與 VMware 合作一事,將 VMware 移植到 BlueField 上。VMware「協助全球企業順利運行 – 全球有七成的公司使用他們的作業系統平台。」黃仁勳說。

資料中心 —「全速發展」的 DPU 發展藍圖

黃仁勳還表示從 NVIDIA 的 DPU 發展藍圖來看,未來有著飛快長足的進步。

黃仁勳表示 BlueField-2 現已提供測試樣品給合作夥伴、BlueField-3 正在進行最後的修整,而 BlueField-4 正處於快速研發的階段。

黃仁勳說:「我們將帶來大量網路相關技術。在短短幾年內,DPU 的運算處理量將成長近千倍。」

將於2023年問世的 BlueField-4,將支援 CUDA 平行程式設計平台和 NVIDIA 人工智慧技術,「加速推動落實網路內運算的願景」。

黃仁勳宣布現已能透過全新的 BlueField-2X 獲得這些功能。它在 BlueField-2 多加入一個 NVIDIA Ampere 架構的 GPU,搭配 CUDA 及 NVIDIA 人工智慧技術進行網路內運算作業。

「使用 Bluefield-2X,就像是現在便擁有 Bluefield-4。」黃仁勳說。

資料中心 — GPU 推論動力

消費性網路公司也開始採用 NVIDIA 的技術來提供人工智慧服務。

將訓練有素之人工智慧模型投入作業的推論技術,是誕生出新一代人工智慧消費性服務的關鍵。

黃仁勳表示從整體來看,雲端環境中 NVIDIA GPU 的推論運算量已經超過了所有雲端 CPU 的總合。

黃仁勳宣布微軟將 NVIDIA 人工智慧技術用在 Azure 上,以在 Microsoft Office 上提供智慧操作體驗,其中包括智慧文法校正及文字預測。

Microsoft Office 與 Square、Twitter、eBay、GE Healthcare 及 Zoox 等來自多個產業的業者,都是使用 NVIDIA GPU 進行推論的企業。

資料中心 — Cloudera 與 VMware

快速投入使用海量資料的能力,是現代人工智慧與資料科學領域的發展關鍵。

NVIDIA RAPIDS 是世上最快的擷取、轉換、載入(ETL)引擎,支援多 GPU 和多節點作業。

NVIDIA 用 Pandas、XGBoost 與 ScikitLearn 這類大熱門的資料科學框架為藍本來設計 API,很容易便能開始使用 RAPIDS。

使用產業標準的資料處理基準進行測試,在 10TB 大小的資料集上運行三十個複雜的資料庫查詢作業,十六個節點的 NVIDIA DGX 叢集較速度最快的 CPU 伺服器,運行速度快上二十倍。

對了,十六個節點 NVIDIA DGX 叢集的成本還是速度最快 CPU 伺服器的七分之一,用電量是它的三分之一。

黃仁勳宣佈推出讓你能夠從資料中管理、保護、分析和學習預測模型的混合雲端資料平台 Cloudera,將搭配 NVIDIA RAPIDS、NVIDIA 人工智慧技術及 NVIDIA 加速的 Spark 來加快 Cloudera Data Platform 的運行速度。

黃仁勳說 NVIDIA 與 VMware 還宣布攜手進行第二波合作。

雙方將成立一個支援 GPU 加速的資料中心平台,用於當今的三大運算領域:虛擬化、分散式向外擴展和組合式微型服務。

「運行 VMware 的企業將能夠在任何運算模式下,享受 NVIDIA GPU 與人工智慧運算技術帶來的優點。」黃仁勳說。

(最尖端的)邊緣人工智慧技術

黃仁勳說總有一天,無數個人工智慧裝置及機器將出現在地球上的每一個角落,像是家庭、辦公大樓、倉庫、商店、農場、工廠、醫院、機場等地方。

黃仁勳表示 NVIDIA EGX AI 平台讓全球企業可以便捷地安裝最先進的邊緣人工智慧伺服器,這個平台可以控制工廠裡的機器人、在零售商店進行自動結帳,或是協助護理人員監看病人的情況。

黃仁勳宣佈將擴大 EGX 平台的規模,在一張 PCIe 卡上結合 NVIDIA Ampere 架構 GPU 與 BlueField-2 DPU,讓企業有一個共同的平台來打造安全加速的資料中心。

黃仁勳也宣布為 NVIDIA Fleet Command 這項全新服務推出早期試用計畫。這款新的服務讓 IT 部門能夠輕鬆部署及管理整個物聯網裝置的更新作業,加入邊緣運算技術的安全性和即時處理能力,以及軟體即服務的遠端系統管理和易用性。

全球供應鏈解決方案領導業者 KION Group (凱傲集團) 是早期試用 Fleet Command 的企業之一,該集團使用 NVIDIA EGX AI 平台來為旗下的智慧倉庫系統開發人工智慧應用程式。

美國伊利諾州排名第一、全美十大醫院之一的西北紀念醫院,也跟 Whiteboard Coordinator 合作,將 Fleet Command 用在其物聯網感應器平台。

「全球各產業日後靠著一支 iPhone 手機,就能操控物聯網中的各項裝置 – NVIDIA EGX 將使得企業更容易建立部署及操作工業人工智慧服務。」黃仁勳說。

邊緣人工智慧 — 機器人技術的普及

黃仁勳說很快地,一切東西都會變成自動操作的模式。人工智慧軟體是讓機器人變得更聰明、適應能力更好的一大突破性發展,不過 NVIDIA Jetson 人工智慧電腦才是讓機器人技術變得普及的關鍵。

Jetson 是一款從零開始為機器人設計的 Arm 架構系統單晶片(SoC)。黃仁勳說這要歸功於感應器處理器、CUDA GPU 和 Tensor Core,以及最重要的是在上面運行的豐富人工智慧軟體。

黃仁勳宣布 Jetson 家族的最新生力軍 Jetson Nano 2GB,售價僅 59 美元,這個價格僅大概是去年推出之 99 美元 Jetson Nano 開發者套件售價的一半。

「威力強大的 NVIDIA Jetson,體積十分小巧又節能環保,且價格非常親民。」黃仁勳說。

協同作業工具

黃仁勳說在 1992 年 Neal Stephensen 的賽博龐克風格經典作品《潰雪》(Snow Crash)中所想像的「Metaverse」的共享網路世界,已經在《Minecraft》及《要塞英雄》這類共享的虛擬世界中化為現實。

最早在2019年3月推出的 NVIDIA Omniverse,是一個讓用戶使用眾多現有產業工具進行同步即時模擬和協同作業的平台,現已進入開放測試階段

「身處各地的設計師、藝術家、創作者,甚至是人工智慧可以在 Omniverse 這個共同的空間中相互串連,使用各種工具攜手合作,共同創造出一個世界。」黃仁勳說。

黃仁勳宣佈 NVIDIA 率先開發出的另一個 NVIDIA Jarvis 對話式人工智慧工具,現在同樣進入開放測試階段。黃仁勳表示在 NVIDIA GPU 上運行新的 SpeedSquad 基準進行測試,反應速度是原先的兩倍,聲音也聽起來更自然。

黃仁勳說成本也是原先的三分之一。

「我是怎麼告訴各位的?」黃仁勳說,這是他多年來常在主題演講裡用的口頭禪。「買愈多、省愈多。」

協同作業工具 — 推出 NVIDIA Maxine

視訊通話已經從一種新奇罕有的東西,變成了一種必需品。

現在很多人把視訊會議用在工作、社交、學校、虛擬活動、看病等場合,每天在網路上舉行超過三千萬場會議。

黃仁勳宣布推出 NVIDIA Maxine 雲端原生串流視訊人工智慧平台,用於視訊通話等應用程式,讓人們獲得更優質的使用體驗。

使用人工智慧技術的 Maxine,可以將視訊通話所使用的頻寬減少十倍。「人工智慧能夠為視訊通話帶來神奇的效果。」黃仁勳說。

黃仁勳說:「我們有了 Jarvis 與 Maxine,就有機會徹底改變現在的視訊會議,發明未來使用的虛擬會議技術。」

醫療

全新新冠肺炎疫情肆虐,找出解救的藥物是一件人命關天的事。

各家藥廠多年來投入 1.5 兆美元來開發新的藥物,這個成本卻仍不斷上升。開發新藥要花上十餘年的光陰、研發成本超過 25 億美元(每九年便翻漲一倍),當中九成的作為皆終告徒勞。

他們需要新的工具。「新冠肺炎疫情讓他們意識到這個急迫性。」黃仁勳說。

黃仁勳說藉由電腦科學領域的開創性研究成果,我們可以開始用模擬和電腦虛擬(in-silico)的辦法,瞭解蛋白質影響疾病的生物機制,以及尋找新的候選藥物。

黃仁勳宣佈推出供科學家發現救命藥物的先進 NVIDIA Clara Discovery 工具,以加快推動這方面的進展。

黃仁勳說:「有熱門的產業工具,我們的電腦科學家會加快它們的運行速度。沒有這些工具,我們就開發工具,像是過去開發出的 NVIDIA Parabricks、Clara Imaging、BioMegatron、BioBERT、NVIDIA RAPIDS。」

黃仁勳亦簡單介紹打造英國最高速超級電腦 Cambridge-1 的事情,將最先進的運算基礎架構帶入「醫療研究的中心」。

Cambridge-1 將具備 400 petaflops 的人工智慧運算效能,使其登上全球速度最快的三十台超級電腦之列。它將促進 NVIDIA 在英國與產學兩界及新創公司在人工智慧、醫療等領域的合作發展。

NVIDIA 的首批合作夥伴有阿斯特捷利康(AstraZeneca)、葛蘭素史克 (GSK)、倫敦國王學院、蓋伊和聖托馬斯國民保健信託基金會(Guy’s and St Thomas’ NHS Foundation Trust),還有新創公司 Oxford Nanopore。

NVIDIA 還宣布與 GSK 合作成立全球首座人工智慧藥物發現實驗室

Arm

黃仁勳在主題演講的最後,提到 NVIDIA 與 Arm 合作的最新情況,全球有許多智慧裝置使用 Arm 的節能設計。

NVIDIA 上個月同意以四百億美元的價格收購這間英國的半導體設計公司。

「Arm 是世界上最受歡迎的 CPU。我們將共同為 Arm 的商業生態體系提供 NVIDIA 加速和人工智慧運算技術。」黃仁勳說。

黃仁勳表示 NVIDIA 在去年宣佈要把 CUDA 及我們的科學運算堆疊移植到 Arm 上。黃仁勳在今天又宣佈了一項推動 Arm 平台發展的重大計畫 – 我們將在三個層面進行投資:

  • 一,NVIDIA 將提供 GPU、網路、儲存和安全技術給 Arm 的合作夥伴,打造完整的加速平台。
  • 二,NVIDIA 將與 Arm 的合作夥伴合作,為高效能運算(HPC)、雲端、邊緣及 PC 打造平台 – 這會用到各種晶片、系統和系統軟體。
  • 三,NVIDIA 將把 NVIDIA 人工智慧技術與 NVIDIA RTX 引擎移植到 Arm 上。

「現在只能在 x86 架構上用到這些功能。Arm 平台藉由這項計畫也將在加速運算和人工智慧運算方面處於領先地位。」黃仁勳說。