NVIDIA 藉由 Tensor 核心 GPU、LLM與供 RTX PC 和工作站使用的工具，為數百萬人帶來生成式人工智慧

NVIDIA 今日宣布推出可增強生成式人工智慧（AI）執行表現的 GeForce RTX™ SUPER 桌上型電腦 GPU、各大電腦製造商推出的全新AI筆記型電腦，以及針對開發者和消費者推出的全新 NVIDIA RTX™ 加速的AI軟體和工具。

NVIDIA 數十年來始終在 PC 領域處於領導地位，隨著超過一億顆 RTX GPU 推動了 AI PC 時代的到來，NVIDIA 現在將提供這些工具，利用生成式AI讓人們擁有更佳的 PC 使用體驗：NVIDIA TensorRT™ 加速用於熱門 Stable Diffusion 模型從文字到影像的工作流程、NVIDIA RTX Remix  搭配生成式AI工具、NVIDIA ACE 微服務，以及更多使用 DLSS 3 技術和畫格生成（Frame Generation）的遊戲。

此外，NVIDIA TensorRT-LLM（TRT-LLM）開源函式庫可加速並最佳化上最新大型語言模型（LLM）的推論效能，且現在支援更多針對PC預先最佳化的模型。NVIDIA 今日推出的技術展示內容 Chat with RTX 在 TRT-LLM 的加速下，可以讓AI技術愛好者與他們的筆記、文件和其他內容進行互動。

NVIDIA 創辦人暨執行長黃仁勳表示：「生成式AI是運算史上最重要的平台轉換，將改變包含遊戲在內等各產業的發展樣貌。NVIDIA龐大的安裝基礎包含超過一億台的RTX AI PC和工作站，將讓開發者和玩家們得以享受生成式AI的魔法。」

在 PC 本地端運行生成式AI，對於隱私、延遲和成本敏感型應用程式來說極為重要。它需要安裝大量的AI-ready系統，再加上合適的開發工具來將 PC 平台的AI模型調整至最佳狀態。

NVIDIA 正積極創新它的完整技術堆疊，推動新的體驗，並且在 500 多款已經獲得 NVIDIA RTX 加速技術且支援AI的PC應用程式和遊戲基礎上更進一步發展，以滿足這些需求。

RTX AI PC 與工作站

NVIDIA RTX GPU 能夠以最高效能運行各種應用程式，可徹底解放PC 上生成式AI的潛力。在工作和娛樂方面，這些 GPU 中的 Tensor 核心能夠顯著提升各種最高需求的應用程式的AI執行效能。

今日在 CES 大會上發布的全新 GeForce RTX 40 SUPER 系列顯示卡，包括可提供頂級AI執行效能的 GeForce RTX 4080 SUPER、4070 Ti SUPER 和 4070 SUPER。GeForce RTX 4080 SUPER 產生AI影片的速度，比 GeForce RTX 3080 Ti GPU 快上 1.5 倍，產生圖片的速度比 GeForce RTX 3080 Ti GPU 快 1.7 倍。SUPER GPU 中的 Tensor 核心每秒可進行多達 836 兆次運算，為遊戲、創作等領域及日常生產力帶來了變革性的AI功能。

包括宏碁、華碩、Dell、HP、Lenovo、微星、Razer 和三星在內的各大電腦製造商，都將推出新一波的 RTX AI 筆記型電腦，為使用者帶來一整套開箱即用的生成式AI功能。這些全新系統將在本月開始出貨，可提供與使用神經處理器相比，達 20 至 60 倍不等的效能提升。。

搭載 RTX GPU 的行動工作站能夠運行 NVIDIA AI Enterprise 軟體，包括 TensorRT 和 NVIDIA RAPIDS™，以更簡單安全的方式來發展生成式AI和資料科學。每顆 NVIDIA A800 40GB Active GPU 均提供 NVIDIA AI Enterprise 三年使用授權，為AI和資料科學提供了一個理想的工作站開發平台。

用於構建AI模型的全新 PC 開發者工具

NVIDIA 此前推出統一易用的工具套件 NVIDIA AI Workbench，以協助開發人員利用 PC 等級效能和記憶體佔用空間，快速建立、測試和自訂預先訓練好的生成式AI模型和 LLM。

AI Workbench將於本月推出測試版，讓使用者能夠更輕鬆取得 Hugging Face、GitHub 和 NVIDIA NGC™ 等熱門儲存庫，並且開發者還能透過簡單易用的使用者介面，輕鬆複製、協作和遷移項目。

此外，專案可以擴展到幾乎任何地方，無論是資料中心、公有雲或NVIDIA DGX™ Cloud，然後再帶回 PC 或工作站上的本地端 RTX 系統進行推論和輕度的自訂工作。

NVIDIA 也透過跟 HP 合作，將包括 RTX 加速的AI模型和軟體開發套件在內的 NVIDIA AI Foundation 模型與端點，與資料科學集中平台 HP AI Studio 進行整合，讓開發AI模型一事變得更簡單。這將使用戶能夠在 PC 和雲端環境中，輕鬆搜尋、導入和部署經過最佳化調整的模型。

開發者為 PC 使用個案建立AI模型後，可以使用 NVIDIA TensorRT 將其調整至最佳狀態，以充分利用 RTX GPU 的 Tensor 核心。

NVIDIA 最近透過用於加速 LLM 的開源函式庫 TensorRT-LLM for Windows，將 TensorRT 的使用範圍擴大到以文字為基礎的應用程式上。TensorRT-LLM 現已推出最新更新版本，在不斷增加的 PC 預先最佳化模型清單中加入了 Phi-2 ，運行速度較其他推論後端處理快上5倍。

RTX 加速的生成式AI支援帶來全新 PC 使用體驗

NVIDIA 在今年的 CES 大會中，將與開發者合作夥伴為 PC 推出全新的生成式AI應用程式和服務項目，包含：

• NVIDIA RTX Remix 是一個用於建立經典遊戲 RTX 復刻版的平台。NVIDIA RTX Remix 平台將於本月稍晚推出測試版，提供生成式AI工具，可將經典遊戲中的基本紋理換成更現代 、4K 解析度、符合物理原理的渲染材質。
• NVIDIA ACE 微服務，包括生成式AI語音和動畫模型，使得開發者能夠為遊戲加入有著智慧、活靈活現的數位化身。
• 用於 Stable Diffusion 裡 Stable Diffusion XL（SDXL）Turbo 和latent consistency這兩個最熱門模型的 TensorRT 加速方法。與之前最高的執行速度相比，TensorRT 將這兩種方法的執行效能提高了 60%。Stable Diffusion WebUI TensorRT 擴充項目的更新版本現在也已經推出，包括 SDXL、SDXL Turbo、LCM – Low-Rank Adaptation（LoRA）加速和改進後的 LoRA 支援功能。
• 包括《地平線：西域禁地（Horizon Forbidden West）》、《Pax Dei》和《龍族教義2（Dragon’s Dogma 2）》等已公布的 14 款全新 RTX 遊戲中，都將採用帶有畫格生成技術的 NVIDIA DLSS 3，該技術利用AI將畫格率提高到原生渲染的四倍。
• NVIDIA 的技術展示項目 Chat with RTX 讓AI愛好者能夠使用一種名為檢索增強生成（Retrieval-Augmented Generation，簡稱 RAG）的熱門技術，輕鬆將 PC LLM 與自己的數據資料連接起來。該展示內容由 TensorRT-LLM 加速，可讓使用者快速與自己的筆記、文件和其他內容進行互動。它還能當成開源參考專案來使用，因此開發人員可以輕鬆在自己的應用程式中使用相同功能。

加入 NVIDIA at CES，深入瞭解最新的生成式AI突破性發展項目。