為行動而生:Langflow 在NVIDIA RTX PC 上實現本機 AI 代理建置

簡單的拖放式 AI 工作流程設計,由開放原始碼模型與 GPU 加速技術驅動,並支援 NVIDIA RTX Remix 與 Project G-Assist。
作者 Annamalai Chockalingam

隨著新模型包含更多功能,人們對生成式 AI 的興趣也有增無減。 隨著最新技術的發展,即使沒有開發者背景的愛好者也能直接嘗試探索這些模型。

透過 Langflow 等熱門應用程式 (這是一款低程式碼的視覺化平台,用於設計自訂 AI 工作流程),AI 愛好者可透過簡單、無程式碼的使用者介面 (UI) 串聯生成式 AI 模型。 透過 Ollama 的原生整合,使用者現在可建立本機 AI 工作流程,並以免費且完全隱私的方式執行,一切由 NVIDIA GeForce RTXRTX PRO GPU 驅動。

生成式 AI 的視覺工作流程

Langflow 提供一個易於使用的畫布式介面,透過簡單的拖放 UI 連接生成式 AI 模型元件,例如大型語言模型 (LLM)、工具、記憶儲存和控制邏輯等。

如此一來便可建置和修改複雜的 AI 工作流程,無需手動編寫指令碼,即可簡化具有決策和多步驟動作能力之代理程式的開發。AI 愛好者可迭代及建置複雜的 AI 工作流程,無須事先具備編碼專業知識。

無需具備編碼專業知識,即可在 Langflow 中建置複雜的 AI 工作流程。 
Langflow 不同於僅限執行單次 LLM 查詢的應用程式,能建置進階 AI 工作流程,表現如智慧型協作者,能夠分析檔案、檢索知識、執行功能,並且根據情境回應動態輸入。

Langflow 可從雲端或本機執行模型,透過 Ollama 對 RTX GPU 進行完整加速。 本機執行工作流程可提供多項關鍵優勢:

  • 資料隱私:輸入、檔案和提示皆保留在裝置上。
  • 低成本且無 API 金鑰:由於不需要存取雲端應用程式開發介面,因此沒有權杖限制、服務訂閱或執行 AI 模型的相關費用。
  • 效能:RTX GPU 即使在長上下文視窗下,也可支援低延遲、高輸送量推論。
  • 離線功能:無須網際網路即可存取本機 AI 工作流程。

使用 Langflow 與 Ollama 建立本機代理

在 Langflow 中開始使用 Ollama 很簡單。 內建入門程式,適用於旅行代理人和採購助理等使用案例。預設範本通常在雲端執行以進行測試,但您可以自訂這些範本,透過 Langflow 在 RTX GPU 上本機執行。

Langflow 提供多種可立即安裝的範本,以測試 AI 代理。
 

若要建置本機工作流程:

  • 安裝 Windows 版的 Langflow 桌面應用程式
  • 安裝 Ollama,然後執行 Ollama 並發布偏好模型 (建議使用者首次工作流程使用 Llama 3.1 8B 或 Qwen3 4B)。
  • 執行 Langflow 並選取入門選項。
  • 將雲端端點替換為本機 Ollama Runtime。 對於代理式工作流程,請將語言模型設定為「自訂」,將 Ollama 節點拖曳至畫布,然後將代理節點的自訂模型連接至「Ollama」節點的語言模型輸出。

可修改和擴充範本 (例如新增系統命令、本機檔案搜尋或結構化輸出) ,以滿足進階自動化和助理使用案例的需求。

觀看 Langflow 團隊的逐步說明:

開始行動

以下兩個範例專案,供您開始探索。

建立個人旅行行程代理人:輸入所有旅行要求 (包括所需的餐廳預訂、旅客飲食限制等),然後自動尋找並安排住宿、交通、食物和娛樂。

擴充 Notion 的功能:Notion 是一款用於組織專案的 AI 工作空間應用程式,可透過 AI 模型擴充,自動輸入會議筆記、根據 Slack 聊天或電子郵件更新專案狀態,以及傳送專案或會議摘要。

RTX Remix 新增模型情境協議,解鎖代理模組

RTX Remix 是一款開放原始碼平台,可讓模改玩家利用生成式 AI 工具增強素材,並創作出令人驚豔的 RTX 重製版,搭載完整光線追蹤與神經渲染技術,該平台現已新增對模型情境協議 (MCP) 的支援。

Langflow 節點搭載 MCP,為使用者提供一個直接介面使用 RTX Remix ,讓模改玩家建置 模改助理,與 Remix 文件和模組功能智慧互動。

為了協助模改玩家入門,NVIDIA Langflow Remix 範本包含:

  • 檢索增強生成模組,包含 RTX Remix 文件。
  • 即時存取 Remix 文件,以提供問答式支援。
  • 透過 MCP 的動作節點,支援在 RTX Remix 中直接執行功能,包括資產替換、中繼資料更新和自動模組互動。

使用此範本建立的模組輔助代理可判斷查詢是資訊性質還是行動導向。代理會根據情境動態地回應,並提供指引或採取要求的動作。 例如,使用者可能提示代理:「將此低解析度紋理換為高解析度版本。」作為回應,代理將檢查資產的中繼資料,找到合適的替換,並使用 MCP 功能更新專案,無需手動互動。

有關 Remix 範本的文件和設定指示,請參閱 RTX Remix 開發人員指南

在 Langflow 中使用 Project G-Assist 控制 RTX AI PC

NVIDIA Project G-Assist 是一款實驗性裝置上的 AI 助理,可在 GeForce RTX PC 上本機執行。 它讓使用者查詢系統資訊 (例如 PC 規格、CPU/GPU 溫度、使用率)、調整系統設定等,所有這一切都透過簡單的自然語言提示。

透過 Langflow 中的 G-Assist 元件,這些功能可內建至自訂代理工作流程。 使用者可提示 G-Assist「取得 GPU 溫度」或「調整風扇速度」,其回應和動作將流經元件鏈。

除了診斷和系統控制之外,G-Assist 也能透過外掛程式架構擴充,讓使用者根據工作流程新增命令。 社群建置的外掛程式也可以直接從 Langflow 工作流程中呼叫。

若要開始在 Langflow 中使用 G-Assist 元件,請參閱開發人員文件

Langflow 也是 NVIDIA NeMo 微服務開發工具,這是一款模組化平台,用於在本機或雲端 Kubernetes 環境中建置和部署 AI 工作流程。

Langflow 整合支援 Ollama 與 MCP,提供一個實用的無程式碼平台,用於建置即時 AI 工作流程和代理,能完全離線運行並在裝置上執行,全都由 NVIDIA GeForce RTX 與 RTX PRO GPU 加速。

RTX AI Garage 部落格系列每週都會推出社群驅動的 AI 創新成果和內容,讓那些有興趣的人瞭解更多有關 NVIDIA NIM 微服務和 AI Blueprints,以及在 AI PC和工作站上建置 AI 代理、創意工作流程、效率應用程式等內容。

關注 NVIDIA AI PC 在 FacebookInstagramTikTokX 的外掛程式 ,以及訂閱 RTX AI PC 電子報以隨時掌握最新消息。加入 NVIDIA Discord 伺服器,與社群開發者和 AI 愛好者交流,討論 RTX AI 的潛力。

LinkedInX 上關注 NVIDIA 工作站。

請參閱更多軟體產品資訊通知