代理 AI 正在改變使用者完成工作的方式。 繼 OpenClaw 成功後,社群正逐漸接受全新的開源代理框架。 最新的是 Hermes Agent,在不到三個月內就超過 140,000 GitHub 個星號,且根據上週的 OpenRouter 統計,它已成為全球使用量最多的代理。
Hermes 由 Nous Research 開發,旨在實現可靠性與自我提升:這兩項特質在歷史上都是代理難以實現的。它在設計上不限供應商與模型,並針對本機永久運作最佳化,讓 NVIDIA RTX PC、NVIDIA RTX PRO 工作站與 NVIDIA DGX Spark 成為全天候全速執行的理想硬體。
Qwen 3.6 是阿里巴巴全新高效能開放式大型語言模型 (LLM) 系列,非常適合執行 Hermes 這樣的本地代理。 Qwen 3.6 27B 與 35B 參數模型效能超越前代 120B 與 400B 參數模型,並在 NVIDIA RTX 與 DGX Spark 上執行,實現加速代理 AI。
Hermes:加速本機 AI 代理功能
與其他熱門代理一樣,Hermes 可與訊息應用程式整合、可存取本機檔案與應用程式,並全天候運作。 但四項卓越功能讓它與眾不同:
- 自我進化技能:Hermes 撰寫並精進自己的技能。每當代理遇到複雜任務或收到意見回饋時,它會將學習到的知識儲存為技能,以便隨時間適應並提升。
- 包含的子代理:Hermes 將子代理視為短暫、孤立的工作員,專門負責子任務,並擁有專注的上下文與工具集。 這樣可保持任務組織整潔、最大限度地減少代理的混淆,並讓 Hermes 能夠以更小的上下文視窗執行,非常適合本機模型。
- 設計可靠性:Nous Research 會精選 Hermes 隨附的每項技能、工具與外掛程式,並對其進行壓力測試。 結果:Hermes 即使與 300 億個參數類本機模型也能正常運作,無需像大多數其他代理框架那樣需要不斷除錯。
- 相同的模型,更佳的結果:開發者使用相同模型進行跨框架比較,結果一致顯示 Hermes 的表現更為出色。兩者之間的不同之處在於框架:Hermes 是主動式編排層,不是薄薄的包裝器,可實現持久性裝置代理,而不是逐項任務執行。
Hermes 代理與底層 LLM 皆可在本機執行,也就是說,硬體品質直接決定使用者體驗品質。 NVIDIA RTX GPU 專為這類工作負載而打造。
Qwen 3.6:資料中心級智慧,於本機執行
最新的 Qwen 3.6 模型以廣受好評的 Qwen 3.5 系列為基礎,讓本機 AI 代理實現又一次飛躍。全新的 Qwen 3.6 35B 模型僅需約 20GB 記憶體即可運行,比需要 70GB 以上記憶體的 1200 億參數模型更出色。
此外,Qwen 3.6 27B 是一款全新、密集的模型,擁有更多有效參數,精確度可與 Qwen 3.5 397B 等 4000 億參數模型相媲美,但大小只有十六分之一。在高階 RTX GPU 上執行,可為模型提供快速體驗所需的運算能力。
這些模型是 Hermes 等本地代理的理想選擇,而 NVIDIA GPU 與 DGX Spark 是執行這些模型最快的方式。 NVIDIA Tensor 核心可加速 AI 推論,提供更高的輸送量與更低的延遲,因此 Hermes 可在幾秒鐘內完成多步驟任務或精進自己的技能,而不是幾分鐘。
DGX Spark:永遠在線的代理式電腦
像 Hermes 這樣的代理程式旨在持續運作,回應請求、規劃多步驟任務、自主執行並自我提升。NVIDIA DGX Spark 是理想的夥伴,是一款小巧、高效的獨立機器,專為持續全天候的代理程式工作流程而打造。
NVIDIA DGX Spark 具備 128GB 統一記憶體與 1 petaflop 的 AI 效能,可全天執行 1200 億個參數的混合專家模型(MoE)。此外,全新的 Qwen 3.6 35B 模型以更小的佔用空間提供同等智慧,執行速度更快,並讓使用者能夠執行並行工作負載。
為了最大限度地發揮效能與使用方便性,請閱讀 Hermes DGX Spark 教戰守則。 此外,註冊參加即將推出的 NVIDIA 「Build It Yourself」代理 AI 系列實作課程,學習如何透過 NemoClaw 與 OpenShell 建構自主式 AI 代理。
NVIDIA DGX Spark 可向 NVIDIA 的製造合作夥伴訂購,請造訪合作夥伴市集。
在 NVIDIA 硬體上開始使用 Hermes
在 NVIDIA 硬體上以本機模式執行 Hermes 非常簡單。
造訪 Hermes GitHub repository 開始使用,並將其與偏好的本機模型與 runtime 配對。透過 llama.cpp、LM Studio 或 Ollama 在執行 Qwen 3.6 的同時執行 Hermes。Hermes Agent 內建支援 LM Studio 與 Ollama 提供開箱即用的體驗,是建立本地代理最簡單的路徑。
無論是對於探索個人代理前沿的本地 AI 愛好者,還是為工作流程打造本機工具的開發人員,NVIDIA 硬體上的 Hermes 提供了獨特且可靠的基礎。
請持續關注 RTX AI Garage 關於針對 NVIDIA RTX 硬體最佳化的最新開放模型與代理程式的更多更新。
#ICYMI:RTX AI Garage 最新消息
✨ NVIDIA RTX PRO GPU 搭配 llama.cpp 執行 Qwen 3.6 模型時,可將 Token 生成速度提升最高達 3 倍。獲得本機 AI 所需的即時反應能力,代理程式可處理多步驟任務並精進技能,維持順暢工作流程。
Google 的 Gemma 4 26B 與 31B 模型現已作為 NVFP4 檢查點提供,在 NVIDIA Blackwell GPU 上實現更快的效能。 將 NVFP4 檢查點與 Google 全新的多 Token 預測草案模型(Multi-Token Prediction drafters)配對,能在維持相同輸出品質的情況下,獲得最高達 3 倍的推論速度,實現在 NVIDIA GPU 本機上執行前沿等級的推論。
Mistral Medium 3.5 版同樣於 4 月推出,包含與 llama.cpp 與 Ollama 的相容性更新,讓使用者能夠在 NVIDIA RTX PRO 與 DGX Spark 系統上執行該模型。
🦞 NVIDIA 最近推出 NVIDIA NemoClaw,這是一個開放原始碼堆疊,透過提升安全性與支援本機模型,最佳化 NVIDIA 裝置的 OpenClaw 體驗。 NemoClaw 現已支援 Windows Subsystem for Linux (WSL2),為 Microsoft 平台的愛好者與開發者帶來支援。 透過這本逐步式教戰守則,在 DGX Spark 上開始使用 NemoClaw。
在 Facebook、Instagram、TikTok 和 X 關注 NVIDIA AI PC,並且訂閱 RTX AI PC 電子報,隨時掌握最新消息。
請參閱軟體產品資訊相關聲明。
