生成式 AI 為PC與工作站開創全新功能,包括遊戲助理、強化的內容創作與生產力工具等。
現已推出 NVIDIA NIM 微服務,以及即將推出的 AI Blueprints,將加速 AI 開發,並提升其可存取性。於 1 月的消費電子展 (CES) 宣佈的NVIDIA NIM,提供專為 NVIDIA RTX 平台最佳化的預先封裝、先進 AI 模型,包括 NVIDIA GeForce RTX 50 系列 以及現在最新的 NVIDIA Blackwell RTX PRO GPU。 微服務可輕鬆下載及執行。涵蓋了PC開發的熱門程式,與頂尖生態系統應用程式與工具相容。
Project G-Assist 的實驗性系統助理功能也於今日發佈。Project G-Assist 展示了 AI 助理是如何強化應用程式與遊戲。系統助理可讓使用者執行即時診斷、取得效能最佳化建議,或控制系統軟體與周邊設備,所有一切只需透過簡單的語音和文字命令完成。開發人員和愛好者可透過簡單的外掛程式架構和全新外掛程式生成器,拓展其功能。
隨著突破性的 AI 模型和全球開發人員社群正推動 AI 驅動工具與工作流程爆炸式的增長,正值運算領域的關鍵時刻,NIM 微服務、AI Blueprints 與 G-Assist 正協助為PC帶來關鍵創新。RTX AI Garage 部落格系列將繼續提供最新消息、深入解析與資源,協助開發人員和愛好者在 RTX AI PC與工作站上開創新一波 AI 浪潮。
準備就緒,設定,執行 NIM!
雖然 AI 的創新速度令人驚豔,但PC開發人員社群仍可能難以對這項技術上手。
將 AI 模型從研究導入PC需要策劃模型變體、進行調整以管理所有輸入與輸出資料,以及進行量化以最佳化資源使用率。此外,必須轉換模型,才能與最佳化推論後端軟體配合使用,並連接至全新 AI 應用程式設計介面 (API)。這需要大量的工作,但可能會拖慢 AI 的採用普及。
NVIDIA NIM 微服務提供預先封裝、最佳化、輕鬆下載的 AI 模型,並連接業界標準 API,協助解決這項問題。這項服務已針對 RTX AI PC與工作站的效能最佳化,包括社群的頂尖 AI 模型,以及 NVIDIA 開發的模型。
NIM 微服務支援一系列 AI 應用程式,包括大型語言模型 (LLM)、(視覺語言模型、影像生成、語音處理、檢索增強生成 (RAG)-RAG) 型搜索、PDF 擷取和電腦視覺。RTX 目前提供十款 NIM 微服務,支援一系列應用程式,包括語言與影像生成、電腦視覺、語音 AI 等。立即開始使用這些 NIM 微服務:
- 語言和推理:Deepseek-R1-distill-llama-8B、Mistral-nemo-12B-instruct、1-8B-instruct
- 影像生成:dev
- 音訊:Riva Parakeet-ctc-0.6B-asr、Maxine Studio Voice
- RAG:Llama-3.2-NV-EmbedQA-1B-v2
- 電腦視覺和理解:NV-CLIP、PaddleOCR、Yolo-X-v1
NIM 微服務也可透過頂尖 AI 生態系統工具和框架使用。
對於 AI 愛好者,AnythingLLM 和 ChatRTX 現已支援 NIM,可透過簡單、人性化的介面,輕鬆透過 LLM 和 AI 代理對話。透過這些工具,使用者可以建立個人化 AI 助理,並整合自己的文件與資料,協助自動化工作,提升生產力。
對於希望建置、測試 AI 並整合至應用程式的開發人員,FlowiseAI 和 Langflow 現已支援 NIM,並提供具有視覺介面的低程式碼和無程式碼解決方案,以最少的編碼專業知識設計 AI 工作流程。用於 ComfyUI 的支援即將推出。透過這些工具,開發人員可輕鬆建立複雜的 AI 應用程式,例如聊天機器人、影像生成器與資料分析系統。
此外,Microsoft VS Code AI 工具組、CrewAI 和 Langchain 現已支援 NIM,並提供進階功能,將微服務整合至應用程式代碼,協助確保順暢整合和最佳化。
立即造訪 NVIDIA 技術部落格 [need link] 和 build.nvidia.com,開始使用。
NVIDIA AI Blueprints 將提供預先建置的工作流程
NVIDIA AI Blueprints 讓 AI 開發人員得以利用 NVIDIA NIM 微服務建置生成式 AI 工作流程。
Blueprints 是隨時即用、可擴充的參考範例,可綁定所需的一切(包括原始碼、範例資料、文件和展示應用程式),建立和自訂在本機執行的進階 AI 工作流程。開發人員可修改和拓展 AI Blueprints,微調行為、使用不同模型或實施全新功能。

PDF 轉為 podcast AI Blueprint,將文件轉換為音訊內容,方便使用者可以隨時隨地學習。透過從 PDF 擷取文字、影像和表格,工作流程藉助 AI 進而生成資訊性 podcast。為了更深入瞭解主題,使用者可與 AI 驅動的 podcast 主持人進行互動式討論。
3D 引導生成式 AI 的 AI Blueprint 將讓藝術家可更精準地控制影像生成。AI 可以從簡單的文字提示生成驚豔的影像,但僅使用文字控制影像構圖可能有些難度。透過此藍圖,創作者可使用在 3D 渲染器(例如 Blender)中佈局簡單的 3D 物件,來引導 AI 影像生成。藝術家可以手動建立 3D 素材,或利用 AI 生成,將其放置於場景中,並設定 3D 視埠攝影機。然後,由 FLUX NIM 微服務驅動的預先封裝工作流程將使用當前構圖生成符合 3D 場景的高品質影像。
Windows 子系統 Linux 版 (WSL) RTX 上的 NVIDIA NIM
NIM 微服務得以在電腦上執行的關鍵技術之一是 Windows 子系統 Linux 版 (WSL)。
Microsoft 和 NVIDIA 合作將 CUDA 和 RTX 加速引入 WSL,使其在 Windows 上執行最佳化的容器化微服務。 這使得相同的 NIM 微服務可隨處執行,從PC與工作站到資料中心與雲端。
透過 build.nvidia.com,開始在 RTX AI PC上使用 NVIDIA NIM。
Project G-Assist 透過自訂外掛程式,拓展PC AI 功能
作為 Project G-Assist 的一部分,GeForce RTX 桌上型電腦用戶現可透過 NVIDIA App 使用實驗性版系統助理功能,且即將推出筆記型電腦支援。
G-Assist 可協助使用者控制各種電腦設定,包括最佳化遊戲與系統設定、製作畫格率圖表和其他關鍵效能統計資料,以及控制選定的周邊設備設定(例如背光效果),而這所有一切均可透過基本的語音和文字命令完成。
基於 NVIDIA ACE 建置的 G-Assist,遊戲開發人員用來為非玩家角色注入生命力的 AI 技術套件。不同於使用需要線上存取和付費訂閱的大型雲端託管 AI 模型的 AI 工具,G-Assist 在 GeForce RTX GPU 本機執行。這意味著回應速度快、免費,並且無需網路連線也可以執行。製造商和軟體供應商已經利用 ACE 來建立自訂 AI 助理,例如 G-Assist,包括 MSI 的 AI 機器人引擎、Streamlabs 智慧 AI 助理,以及 HP Omen 遊戲中樞即將推出的各項功能。
G-Assist 是為社群驅動的擴充而打造。開始使用此 NVIDIA GitHub 儲存庫,包含範例和建立外掛程式說明,增加新功能。 開發人員可在簡單 JSON 格式定義函數,並將設定檔案拖放至指定目錄,讓 G-Assist 自動載入和解釋。開發人員甚至可以將外掛程式提交 NVIDIA 審核和的納入。
目前提供的範例外掛程式包括 Spotify,可實現無需用手操作的音樂和音量控制;以及 Google Gemini ,可讓 G-Assist 使用免費的 Google AI Studio API 金鑰啟用更大的雲端式 AI,以進行更複雜的對話、腦力激盪會議和網路搜尋。
在下方影片中,您將看到 G-Assist 詢問 Gemini,在《Apex Legends》中單人排隊時會選擇哪一位英雄,以及在《暗黑破壞神 IV》的 25 級跳入惡夢模式是否明智:
如需更多自訂設定,請按照 GitHub 儲存庫中的指示,使用 ChatGPT 型「外掛程式生成器」生成 G-Assist 外掛程式。 透過此工具,使用者可以撰寫和匯出程式碼,然後整合至 G-Assist,實現快速、AI 輔助功能,回應文字和語音命令。
觀看開發人員如何利用外掛程式生成器為 G-Assist 建立 Twitch 外掛程式,確認主播是否正在直播:
如需有關如何建置、分享和載入外掛程式的更多詳細資訊,請參閱 NVIDIA GitHub 儲存庫。
請參閱 G-Assist 文章,瞭解系統需求和其他資訊。
建置、創作、創新
RTX 的 NVIDIA NIM 微服務現於 build.nvidia.com 供應,為開發人員和 AI 愛好者提供強大、隨時可用的工具,來建置 AI 應用程式。
透過 NVIDIA App「探索」區段中「首頁」索引標籤下載 Project G-Assist。 G-Assist 目前支援 GeForce RTX 桌上型電腦 GPU,以及以英文形式的各種語音和文字命令。未來的更新將新增對 GeForce RTX 筆電 GPU 的支援、全新增強的 G-Assist 功能,以及對其他語言的支援。安裝後,按下 [Alt+G] 以啟用 G-Assist。
RTX AI Garage 每週都會推出社群驅動的 AI 創新成果和內容,讓那些想了解更多有關 NIM 微服務和 AI Blueprints,以及在 AI PC和工作站上建置 AI 代理、創意工作流程、數位人、生產力應用程式等內容。
插入 NVIDIA AI PC 在 Facebook、Instagram、TikTok 和 X 的外掛程式 ,以及訂閱 RTX AI PC 電子報以隨時掌握最新消息。
在 LinkedIn 和 X 上關注 NVIDIA 工作站。
請參閱更多軟體產品資訊通知。