從台北現場直播:NVIDIA 執行長公布適用於各行各業的生成式人工智慧平台

在 COMPUTEX 的主題演講中公布了多項新系統、軟體及服務,其中許多均搭配 Grace Hopper 超級晶片,以駕馭我們這個時代帶來最大改變的技術
作者 Rick Merritt

NVIDIA 創辦人暨執行長黃仁勳在疫情後首場直播主題演講為台北國際電腦展揭開序幕,並宣布企業可以利用這些平台來駕馭生成式人工智慧在當代歷史上所掀起的巨大浪潮,這股浪潮改變了從廣告、製造到電信等各行各業。

在多年來線上主題演講(其中一些還是在他的家中的廚房進行)之後,黃仁勳上台時大聲宣布:「我們回來了,我已經將近四年沒有公開演講了,祝我好運!」

面對座無虛席的會場,他以將近兩個小時的時間向約 3500 名觀眾描述加速運算服務、軟體和系統如何夠創造新的商業模式,並使現有模式更加高效。

黃仁勳過去一周在家鄉每天都受到當地媒體追蹤,他表示:「加速運算和人工智慧重塑了運算的重新創造。」

為展示其強大的能力,他利用背後的巨大 8K 螢幕,展示了一個由文字提示生成出一首能像卡拉 OK 一樣唱出來的歌曲。黃仁勳偶爾與觀眾以他的母語台語談笑,並帶著觀眾一起唱這首新主題曲。

黃仁勳表示:「我們現在正處於一個全新運算時代的轉捩點,加速運算和人工智慧已經被世界上幾乎所有的運算和雲端公司所接受。」他也分享如今已有 40,000 家大型公司和 15,000 家新創公司正使用 NVIDIA 技術,光去年 CUDA 軟體下載量更達 2500 萬次。

他描述加速運算服務、軟體與系統促進誕生出新的商業模式,且讓現有模式更具效率。

黃仁勳在滿載最新消息的台北國際電腦展 COMPUTEX 主題演講中,透露生成式人工智慧使得工業數位化更上一層樓。


主題演講中的重點消息



用於
Enterprise AI 的全新引擎

黃仁勳宣布推出具有龐大記憶體的人工智慧超級電腦 DGX GH200,供需要極致人工智慧效能表現的企業使用。DGX GH200 使用 NVIDIA NVLink 網路技術,將 256 個 NVIDIA Grace Hopper 超級晶片連接成一個資料中心大小的 GPU。

黃仁勳也宣布 GH200 超級晶片現已全面投產。它將具有絕佳能效的 NVIDIA Grace CPU 與高效能 NVIDIA H100 Tensor 核心 GPU 集合在一個模組內。

DGX GH200 的運算效能達到 1 exaflop,擁有 144 TB 的共享記憶體,表現比一具 NVIDIA DGX A100 320GB 系統高出近 500 倍。這使得開發人員可以用它來開發用於生成式人工智慧聊天機器人的大型語言模型、用於推薦系統的複雜演算法,以及用於偵測詐欺及資料分析的繪圖神經網路。

Google Cloud、Meta 與微軟率先使用 DGX GH200 來探索處理生成式人工智慧工作負載的能力。

NVIDIA DGX GH200
NVIDIA DGX GH200 人工智慧超級電腦以 1 exaflop 的運算效能來處理生成式人工智慧的工作量

黃仁勳向台北的聽眾表示:「DGX GH200 人工智慧超級電腦整合了 NVIDIA 最先進的加速運算及網路技術,來突破人工智慧發展界線。」很多聽眾在主題演講開始前已經在場外排隊多時。

NVIDIA 同樣在打造自家的大型人工智慧超級電腦 NVIDIA Helios,預計將於今年上線。它將使用 NVIDIA Quantum-2 InfiniBand 網路技術來連結四套 DGX GH200 系統,提供最高每秒 400GB 的頻寬,以強化訓練大型人工智慧模型所需的資料處理能力。

DGX GH200 構成了在本次主題演講中公布數百款使用 NVIDIA 最新 GPU 和 CPU 之系統的巔峰之作。它們共同將生成式人工智慧與加速運算技術交到數百萬名用戶的手上。

從更大的格局來看,黃仁勳宣布有超過四百款搭載 NVIDIA Hopper、Grace 及 Ada Lovelace 架構的系統配置即將上市。這些電腦將用於處理人工智慧、資料科學與高效能運算方面的複雜難題。

無論規模大小均加速前行

黃仁勳宣布推出用於打造加速伺服器的模組化參考架構 NVIDIA MGX,以滿足各種規模大小之資料中心的需求。系統製造商將使用 NVIDIA MGX 架構,快速以符合成本效益的方式開發百種以上的伺服器配置,以配合多種人工智慧、高效能運算及 NVIDIA Omniverse 應用程式的需求。

MGX讓製造商使用通用架構及模組化的零組件來建構 CPU 架構和加速運算伺服器。它在各式氣冷式及液冷式機箱中,支援 NVIDIA 的全線 GPU、CPU、資料處理單元(DPU)及網路卡,以及 x86 和  Arm架構處理器。

雲達科技與美超微將率先在八月推出採用 MGX 設計的機型。美超微在 COMPUTEX 宣布推出的 ARS-221GL-NR 系統將採用 Grace CPU,而雲達科技同樣在 COMPUTEX 宣布推出的 S74G-2U 系統則是將使用 Grace Hopper 超級晶片。

永擎電子、華碩、技嘉與和碩聯合科技也將使用 MGX 來打造下一代加速運算電腦。

5G/6G 呼喚 Grace Hopper

黃仁勳在主題演講中也介紹了 NVIDIA 如何運用 Grace Hopper 來重塑 5G 和 6G 網路以及視訊溝通。現場演示於 Grace Hopper 上運行的人工智慧將讓現今的 2D 視訊通話更像擬真的 3D 體驗,增加臨場感。

黃仁勳宣布 NVIDIA 將與大型電信商 SoftBank 合力在日本建造分散式資料中心網路,做為推出前述體驗的基礎。此舉將在通用雲端平台上提供 5G 服務及生成式人工智慧應用程式。

這些資料中心將在模組化 MGX 系統中使用 NVIDIA GH 超級晶片與 NVIDIA BlueField-3 DPU,再加上 NVIDIA Spectrum 乙太網路交換器,提供 5G 協議要求的高精度計時。這個平台能夠提高頻譜效率及降低能源消耗量,以達到節約成本的目標。

這些系統將有助於 SoftBank 探索在自動駕駛、人工智慧工廠、擴增及虛擬實境、電腦視覺與數位孿生方面的應用。日後甚至還能用於 3D 視訊會議及全息影像通訊上。

加速推動雲端環境

黃仁勳另外又宣布推出專為提高乙太網路架構人工智慧雲端環境的效能及效率所設計的網路平台 NVIDIA Spectrum-X。它集合 Spectrum-4 乙太網路交換器、BlueField-3 DPU 與軟體於一身,將人工智慧運算效能及電源使用效率提高 1.7 倍。

包括 Dell Technologies、聯想及美超微在內的系統建造商現已有在產品中採用 NVIDIA Spectrum-X、Spectrum-4 交換器及 BlueField-3 DPU。

NVIDIA Spectrum-X for Ethernet AI clouds
NVIDIA Spectrum-X 加速在傳統乙太網路會遇到性能損失的人工智慧工作流程

創作出活靈活現的遊戲人物角色

生成式人工智慧也對人們如何玩遊戲這件事造成影響。

黃仁勳宣布推出 NVIDIA Avatar Cloud Engine(ACE)for Games,開發人員可以利用這項代工服務來建造及部署語音、對話和動畫人工智慧模型。它將讓非玩家角色擁有對話技能,以便能夠用真人一般的個性來回答問題,並且還會隨劇情不斷發展。

NVIDIA ACE for Games 包括用於偵測及將玩家口說內容轉成文字的 NVIDIA Riva人工智慧基礎模型。文字提示 NVIDIA NeMo 產生客製化回應內容,並且由 NVIDIA Omniverse Audio2Face 製作成動畫。

NVIDIA ACE for Games
NVIDIA ACE for Games 提供工具鏈,透過生成式人工智慧創作出活靈活現的人物角色

Windows 上加速推動生成式人工智慧的發展

黃仁勳表示 NVIDIA 與微軟合作推動 Windows PC 在生成式人工智慧時代的創新

全新及更強大的工具、框架和驅動程式,讓 PC 開發商更輕鬆發展及部署人工智慧。像是用於最佳化和部署 GPU 加速人工智慧模型,加上全新顯示卡驅動程式的 Microsoft Olive 工具鏈,將透過 NVIDIA GPU 提高 DirectML 在 Windows PC 上的執行表現。

這項合作將強化與擴大一億台安裝有 RTX GPU 的電腦,這些電腦上的 Tensor 核心能夠提高 400 多款人工智慧加速的 Windows 應用程式及遊戲的執行效能。

全球規模最大的產業進行數位化

生成式人工智慧也將為市值七千億美元的數位廣告業開創出新的商機。

舉例來說,全球最大的行銷服務公司 WPP 與 NVIDIA 合作,在 Omniverse Cloud 平台上建造首個生成式人工智慧內容引擎。

黃仁勳透過展示內容,說明創意團隊如何在 NVIDIA Omniverse 內連結 Adobe Substance 3D 這類 3D 設計工具,替客戶的產品建立數位孿生模型。接著使用以負責任來源資料訓練出的生成式人工智慧工具,並且透過 NVIDIA Picasso 所建立出的內容,將讓創意團隊快速產生出虛擬場景。WPP 的客戶再來可以利用完整場景為全球市場和用戶產生大量廣告、影片和 3D 體驗內容,以便在任何網路裝置上體驗。

黃仁勳表示:「運算模式已經改變,今天的廣告是檢索來的,但未來當你接觸資訊時,其中很多將是生成的。」

工廠打造人工智慧的未來

市值 46 兆的製造業預估擁有千萬座工廠,正是進行工業數位化的絕佳領域。

黃仁勳表示:「世界上規模最龐大的產業生產實體的東西。先用數位化技術來建造它們,可以省下不少寶貴時間與金錢。」

黃仁勳在主題演講中介紹富士康工業互聯網、宜鼎國際、和碩聯合科技、廣達及緯創資通這些電子製造商使用 NVIDIA 的技術來發展數位化工作流程,以落實打造全數位化智慧工廠的願景。

他們使用 Omniverse 及生成式人工智慧 API 來連結設計及製造工具,這樣就能建造工廠的數位孿生模型。他們還使用 NVIDIA Isaac Sim 來模擬及測試機器人,以及使用視覺人工智慧框架 NVIDIA Metropolis 來進行自動光學檢測作業。

NVIDIA Metropolis for Factories 這個最新元件可以用於建立客製化的品管系統,讓製造商享有競爭優勢。它將協助企業開發最先進的人工智慧應用程式。

人工智慧加快裝配線的動作

例如在全球各地工廠生產筆記型電腦及智慧型手機等三百項產品的和碩聯合科技,即使用 Omniverse、Isaac Sim 和 Metropolis 來建立虛擬工廠。此舉讓和碩聯合科技可以先在模擬環境裡試行製程,協助他們省下不少時間與成本。

和碩聯合科技也使用 NVIDIA DeepStream 軟體開發套件來發展智慧影像應用程式,將處理量提升十倍之多。

全球最大科技產品製造商旗下的服務部門富士康工業互聯網,與 NVIDIA Metropolis 合作夥伴攜手將其電路板品管檢查點的重要環節進行自動化。

Computex 2023 keynote
聽眾在開場前數小時排隊入場

黃仁勳在影片中介紹廣達的子公司達明機器人利用 NVIDIA Isaac Sim,將台灣電子代工大廠廣達的生產線檢查作業調整至最佳狀態。該公司本質上是使用模擬機器人來訓練機器人如何製造出更好的機器人。

除此之外,黃仁勳宣布協助打造下一代自主移動機器人(Autonomous Mobile Robot,AMR)的全新平台Isaac AMR 平台用於模擬、部署與管理自主移動機器人。

黃仁勳表示包括凌華科技、安提國際、勤業眾信、Quantiphi 與西門子在內龐大的合作夥伴生態系統,協助將這些製造解決方案推向市場。

從這個例子又能看出 NVIDIA 如何利用加速運算技術,協助企業感受到生成式人工智慧的優點。

兩個小時的演講結束後,現場響起熱烈的掌聲,黃仁勳說:「我已經很久沒見到大家了,所以有很多想分享的事情。」

如需更深入瞭解,歡迎觀看完整的主題演講