主題演講總結:將資料中心變成「人工智慧工廠」、NVIDIA 執行長介紹 Hopper 架構、H100 GPU、新型超級電腦與軟體

作者 NVIDIA

NVIDIA 創辦人暨執行長黃仁勳週二在這場主題演講中,分享了對這個時代的願景,即以工業規模創造智慧,並且將其融入現實和虛擬世界,承諾將帶領市值數兆美元的產業進行革新轉型,解決我們這個時代的「重大挑戰」。

黃仁勳在這場為 NVIDIA GTC 大會揭開序幕的主題演講中,介紹了新款晶片 – 包括全新 Hopper GPU 架構及全新 H100 GPU、全新人工智慧加速運算軟體,以及強大的全新資料中心規模系統

「各企業正在處理、提煉資料與開發人工智慧軟體,成為智慧製造商。」黃仁勳身在 NVIDIA Omniverse 即時 3D 協作和模擬平台的虛擬環境裡這麼說道,他描述了人工智慧如何「在各個方向上飛馳」。

這一切都將由 Omniverse 整合起來,以加快人類與人工智慧之間的合作、更好地模擬和理解現實世界,並且當成新型機器人的試驗場,「以發展下一波的人工智慧」。

NVIDIA 的 GTC 大會已經成為世界上最重要的人工智慧會議之一,聚集了重要的開發人員、科學家和研究人員,黃仁勳在這場聚會上分享了他的願景。

本次大會邀請到超過1,600名重量級演講嘉賓,包括來自美國運通DoorDashLinkedInPinterestSalesforceServiceNowSnap 及 Visa 等公司,還有超過20萬人報名參加。

演講一開場便是帶領觀眾飛行俯看 NVIDIA 的新園區,這可是在 Omniverse 裡渲染出的畫面,包括正忙著進行先進機器人項目的實驗室。

他分享了 NVIDIA 如何與更大的商業生態體系攜手合作,推動醫療領域的發展及藥物發現以拯救生命,甚至幫助拯救我們的地球。

「科學家們預估需要有一台比現今的超級電腦,還要大上十億倍的超級電腦,才能有效模擬區域的氣候變化。」黃仁勳說。

黃仁勳說:「NVIDIA 將使用我們所開發、世界上第一台人工智慧數位元孿生超級電腦的 Earth-2,以求解決這個巨大難題,並且發明新的人工智慧和運算技術,在為時已晚之前帶給我們莫大的優勢。

全新矽晶片 — NVIDIA H100:「全球人工智慧基礎設施的全新引擎」

為了推動完成這些遠大的目標,黃仁勳介紹了採用 Hopper 架構的 NVIDIA H100,作為「全球人工智慧基礎設施的全新引擎」。

他表示語音、對話、客服和推薦系統等人工智慧應用項目,都在推動資料中心的設計出現根本上的變化。

黃仁勳說:「人工智慧資料中心處理堆積如山的連續資料,以訓練和完善人工智慧模型。投入的原始資料經過提煉便產生出智慧 – 企業製造出智慧,運行著巨大的人工智慧工廠。」

黃仁勳說這個工廠是高強度不間斷地運行著,只要提升一點點品質,便能顯著提升客戶參與度與公司利潤。

H100 將推動這些工廠的運行速度。這個有著「龐大數量」800 億個電晶體的晶片,使用台積電的 4N 製程。

黃仁勳說:「Hopper H100 是有史以來比起前一代產品,在效能方面飛躍程度最高的產品 – 大規模訓練的效能是 A100 的九倍,大型語言模型的推論處理量則是高出 30 倍。」

Hopper 架構採用了多項突破性技術,包括加入一個新的 Transformer 引擎,可以在不失精度的情況下,將這些神經網路的運行速度提高六倍。

「訓練 Transformer 模型的時間,從過去的數週減少到只要幾天便能完成。」黃仁勳說。

黃仁勳宣佈 H100 正在投產,將於第三季開始供貨。

黃仁勳還宣佈推出 Grace CPU 超級晶片,這是 NVIDIA 首款用於高效能運算的獨立資料中心 CPU 產品。

黃仁勳說 Grace CPU 超級晶片由兩個 CPU 晶片組成,使用 NVLink 晶片到晶片互連技術來連接兩個晶片,提供每秒 900GB 的頻寬 ,組成一個擁有144個核心的 CPU,記憶體頻寬達到每秒 1TB。

「Grace 是適合全球人工智慧基礎設施使用的理想 CPU。」黃仁勳說。

黃仁勳還宣布推出新款搭載 Hopper GPU 的人工智慧超級電腦 — DGX H100、H100 DGX POD 與 DGX SuperPOD

黃仁勳說未來所有 NVIDIA 的晶片,包括 CPU、GPU、DPU 及 SOC 在內,都將使用 NVIDIA 的全新 NVLink 高速互連技術來進行串連。

黃仁勳還宣布 NVIDIA 將開放客戶及合作夥伴使用 NVLink 技術,以開發配套的晶片。

黃仁勳說:「NVLink 提供新的商機給客戶,可以利用 NVIDIA 的平台及商業生態體系來開發半客製化的晶片及系統。」

新軟體人工智慧「從根本上改變」了軟體

黃仁勳表示加速運算技術替人工智慧創造出「驚人的」進步。

「人工智慧已經從根本上改變了軟體的功能與開發軟體的方式。」黃仁勳說。

黃仁勳說 Transformer 開創了自我監督學習,無需使用人工標記資料,因此有愈來愈多領域開始使用 Transformer。

「Transformer 開創了自我監督學習,而人工智慧則飛速發展。黃仁勳說。

黃仁勳表示語言理解領域的 Google BERT、藥物發現領域的 NVIDIA MegaMolBART,以及 DeepMind AlphaFold2,都是源自 Transformer 的突破性成果。

黃仁勳一一介紹了用於自然語言理解、物理學、創意設計、角色動畫的全新深度學習模型,甚至是使用 NVCell 來開發晶片佈局。

「人工智慧正朝著各個方向飛快發展 – 新的架構、新的學習策略、更大更堅實的模型、新的科學、新的應用程式、新的產業 – 這一切都在同時進行。」黃仁勳說。

黃仁勳表示 NVIDIA 將「全體動員」以加快人工智慧領域出現新的突破性發展,以及加快各行各業採用人工智慧和機器學習。

黃仁勳說 NVIDIA 的人工智慧平台也有重大更新,包括 Triton 推論伺服器、用於訓練大型語言模型的 NeMo Megatron 0.9 框架,以及用於提高影音品質的 Maxine 框架。

該平台包括 NVIDIA AI Enterprise 2.0,這是一套端到端、雲端原生的人工智慧和資料分析工具及框架,經過 NVIDIA 優化和認證,現在各大資料中心和雲端平台皆有支援。

黃仁勳說:「我們在本次 GTC 大會上更新了60個 SDK。對於我們的三百萬名開發人員、科學家及人工智慧研究人員,以及上萬家新創公司和企業來說,各位運行的同一個 NVIDIA 系統剛剛變得更快了。」

部分全球最大的公司現皆採用 NVIDIA 的人工智慧軟體和加速運算 SDK。

黃仁勳說:「總市值達百兆美元的醫療、能源、交通、零售、金融、媒體與娛樂等產業,都在使用 NVIDIA 的 SDK。」

「下一次進化」: 用於發展虛擬世界的 Omniverse

半個世紀前,阿波羅13號登月任務遇到了麻煩。黃仁勳說 NASA 的工程師們為了拯救太空人,在地球上搭建了一個太空艙模型來「解決問題」。

黃仁勳說:「我們把這個規模放大,數位孿生是一個與實體環境相連的虛擬世界。在網際網路的背景下,它是下一次進化。」

用於建立數位孿生的 NVIDIA Omniverse 軟體,以及全新資料中心規模的 NVIDIA OVX 系統,將成為「行動導向的人工智慧」的一員。

「Omniverse 是我們機器人平台的核心。」黃仁勳說,並且宣布 Omniverse 推出新的版本及更新項目。「就像是 NASA 和 Amazon,我們與在機器人和工業自動化領域的客戶,都意識到了數位孿生及 Omniverse 的重要性。」

黃仁勳說 OVX 將運行 Omniverse 數位孿生模型,以大規模模擬在同一時空運行的多個自主系統。

黃仁勳說網路結構正是支持 OVX 的骨幹,並且宣佈推出 NVIDIA Spectrum-4 高效能資料網路基礎架構平台

NVIDIA Spectrum-4 是全球首個 400Gbps 端到端網路平台,由 Spectrum-4 交換機系列、NVIDIA ConnectX-7 SmartNICNVIDIA BlueField-3 DPU 和 NVIDIA DOCA 資料中心基礎設施軟體組成。

為了讓更多人使用 Omniverse,黃仁勳宣佈將推出 Omniverse Cloud。現在只要點幾下滑鼠,就能透過雲端的 Omniverse 來連接不同的合作者。

And to make Omniverse accessible to even more users, Huang announced Omniverse Cloud. Now, with just a few clicks, collaborators can connect through Omniverse on the cloud.

黃仁勳以四個設計師(其中一個是人工智慧設計師)合作建立虛擬世界的內容,介紹 Omniverse Cloud 的運作方式。

他還展示了 Amazon 如何使用 Omniverse Enterprise「來設計及最佳化其物流中心的運作」。

黃仁勳說:「現代物流中心變成一個技術上的奇蹟 – 由人類與機器人共同運作的設施。」

「下一波人工智慧」:機器人與自動駕駛車輛

黃仁勳說新晶片、新軟體和新的模擬能力,將造就出「下一波人工智慧」,機器人能夠「設計、計畫和行動」。

黃仁勳說 NVIDIA Avatar、DRIVE、Metropolis、Isaac 與 Holoscan 是圍繞著「四大支柱」的端到端完整堆疊機器人平台:生成實地資料、訓練人工智慧模型、機器人堆疊和 Omniverse 數位孿生。

黃仁勳說 NVIDIA DRIVE 自動駕駛車系統本質上就是一個「人工智慧司機」。

而 NVIDIA 用來打造 NVIDIA DRIVE 的自動駕駛汽車硬體架構 Hyperion 8,能夠使用 360 度攝影機、雷達、光達和超音波感測器套件,實現完全自動駕駛的目標。

黃仁勳表示 Mercedes-Benz 將自 2024 年起於各車款上使用 Hyperion 8,而 Jaguar Land Rover 則是自 2025 年開始使用。

黃仁勳宣佈當成新一代電動車、自動駕駛計程車、接駁車及卡車引擎的集中式自動駕駛車和人工智慧電腦 NVIDIA Orin,將自本月開始出貨

黃仁勳還宣佈搭載即將推出之 DRIVE Atlan SoC 的 Hyperion 9,其運算效能是目前採用 DRIVE Orin 架構之產品的兩倍,將於 2026 年開始出貨。

黃仁勳宣佈全球第二大電動車製造商比亞迪,將在2023年上半年開始量產的車款中採用 DRIVE Orin 電腦。

Lucid Motors 表示該公司使用 NVIDIA DRIVE 來開發 DreamDrive Pro 先進駕駛輔助系統

NVIDIA 的車用產品開發管道,在未來六年的總投入金額將超過 110 億美元

Clara Holoscan 將 DRIVE 的即時運算能力用於支援醫療儀器和即時感測器,如無線射頻、超音波、4K 手術影像、高通量攝影機及雷射。

黃仁勳展示了一段來自層光螢光顯微鏡的 Holoscan 加速影像 – 它創造出細胞運動和分裂的「電影」。

通常需要一整天的時間來處理這些儀器在一小時內產生出的 3TB 資料量。

加州大學柏克萊分校先進生物影像中心的研究人員,使用 Holoscan 來即時處理這些資料,便能邊進行實驗,邊將顯微鏡自動對焦在物體上。

現已開始搶先試用的客戶使用 Holoscan 開發平台,五月將開放一般使用,2023年第一季度將可達到醫療級的程度。

黃仁勳說 NVIDIA 還跟數千名客戶及開發人員合作,協助他們為製造業、零售業、醫療業、農業、建築業、機場和整個城市建造機器人。

黃仁勳說 NVIDIA 的機器人平台由 Metropolis 和 Isaac 組成,Metropolis 是用於追蹤物體移動的固定式機器人平台,而 Isaac 是用於移動物體的平台。

為了幫助機器人在工廠和倉庫等室內空間裡穿梭,NVIDIA 宣布將推出 Isaac Nova Orin,這是一款以 Jetson AGX Orin 為基礎所打造出的最先進運算和感測器參考平台,可加快開發及部署自主移動機器人。

黃仁勳藉由一支影片,說明 PepsiCo 如何共同使用 Metropolis 與 Omniverse 數位孿生模型。

四層架構,五大動力

黃仁勳最後在結尾時,將所有技術、產品發布及演示都歸結為一個願景,說明 NVIDIA 將如何推動發展下一代運算技術。

黃仁勳說 NVIDIA 宣佈了四層堆疊架構上的新產品:硬體、系統軟體和函式庫;軟體平台 NVIDIA HPC、NVIDIA AI 及 NVIDIA Omniverse;以及人工智慧和機器人應用框架。

黃仁勳還提出塑造產業的五大動力:提高百萬倍的運算速度、Transformer 將推動人工智慧快速發展、資料中心成為人工智慧工廠,這將大幅提升對機器人系統的需求,以及下一個人工智慧時代的數位孿生。

黃仁勳在演講的最後表示:「在整個堆疊和資料中心的規模上加速,我們將致力於在未來十年內把運算速度再提升百萬倍。我迫不及待想看到再次將運算速度再提升百萬倍,將會產生出什麼結果。」

黃仁勳說「各位今天看到的每一個渲染及模擬畫面」,都是由 Omniverse 產生的,接著又播放一支由 NVIDIA 創意團隊所製作的精彩影片,帶領觀眾「再次進入 Omniverse」,在 NVIDIA 園區的心臟地帶演出一段爵士樂曲,黃仁勳的數位分身 Toy Jensen 也在影片裡軋上一角。