Hermes 解鎖由 NVIDIA RTX PC 與 DGX Spark 驅動的自我提升 AI 代理程式

Hermes 可靠、自我進化,並由最新的代理大型語言模型驅動,為 NVIDIA RTX PC 與工作站帶來全新代理程式。
作者

代理 AI 正在改變使用者完成工作的方式。 繼 OpenClaw 成功後,社群正逐漸接受全新的開源代理框架。 最新的是 Hermes Agent,在不到三個月內就超過 140,000 GitHub 個星號,且根據上週的 OpenRouter 統計,它已成為全球使用量最多的代理。

Hermes 由 Nous Research 開發,旨在實現可靠性與自我提升:這兩項特質在歷史上都是代理難以實現的。它在設計上不限供應商與模型,並針對本機永久運作最佳化,讓 NVIDIA RTX PCNVIDIA RTX PRO 工作站NVIDIA DGX Spark 成為全天候全速執行的理想硬體。

Qwen 3.6 是阿里巴巴全新高效能開放式大型語言模型 (LLM) 系列,非常適合執行 Hermes 這樣的本地代理。 Qwen 3.6 27B 與 35B 參數模型效能超越前代 120B 與 400B 參數模型,並在 NVIDIA RTX 與 DGX Spark 上執行,實現加速代理 AI。

Hermes:加速本機 AI 代理功能

與其他熱門代理一樣,Hermes 可與訊息應用程式整合、可存取本機檔案與應用程式,並全天候運作。 但四項卓越功能讓它與眾不同:

  • 自我進化技能:Hermes 撰寫並精進自己的技能。每當代理遇到複雜任務或收到意見回饋時,它會將學習到的知識儲存為技能,以便隨時間適應並提升。
  • 包含的子代理:Hermes 將子代理視為短暫、孤立的工作員,專門負責子任務,並擁有專注的上下文與工具集。 這樣可保持任務組織整潔、最大限度地減少代理的混淆,並讓 Hermes 能夠以更小的上下文視窗執行,非常適合本機模型。
  • 設計可靠性:Nous Research 會精選 Hermes 隨附的每項技能、工具與外掛程式,並對其進行壓力測試。 結果:Hermes 即使與 300 億個參數類本機模型也能正常運作,無需像大多數其他代理框架那樣需要不斷除錯。
  • 相同的模型,更佳的結果:開發者使用相同模型進行跨框架比較,結果一致顯示 Hermes 的表現更為出色。兩者之間的不同之處在於框架:Hermes 是主動式編排層,不是薄薄的包裝器,可實現持久性裝置代理,而不是逐項任務執行。

Hermes 代理與底層 LLM 皆可在本機執行,也就是說,硬體品質直接決定使用者體驗品質。 NVIDIA RTX GPU 專為這類工作負載而打造。

Qwen 3.6:資料中心級智慧,於本機執行

最新的 Qwen 3.6 模型以廣受好評的 Qwen 3.5 系列為基礎,讓本機 AI 代理實現又一次飛躍。全新的 Qwen 3.6 35B 模型僅需約 20GB 記憶體即可運行,比需要 70GB 以上記憶體的 1200 億參數模型更出色。

此外,Qwen 3.6 27B 是一款全新、密集的模型,擁有更多有效參數,精確度可與 Qwen 3.5 397B 等 4000 億參數模型相媲美,但大小只有十六分之一。在高階 RTX GPU 上執行,可為模型提供快速體驗所需的運算能力。

這些模型是 Hermes 等本地代理的理想選擇,而 NVIDIA GPU 與 DGX Spark 是執行這些模型最快的方式。 NVIDIA Tensor 核心可加速 AI 推論,提供更高的輸送量與更低的延遲,因此 Hermes 可在幾秒鐘內完成多步驟任務或精進自己的技能,而不是幾分鐘。

DGX Spark:永遠在線的代理式電腦

像 Hermes 這樣的代理程式旨在持續運作,回應請求、規劃多步驟任務、自主執行並自我提升。NVIDIA DGX Spark 是理想的夥伴,是一款小巧、高效的獨立機器,專為持續全天候的代理程式工作流程而打造。

NVIDIA DGX Spark 具備 128GB 統一記憶體與 1 petaflop 的 AI 效能,可全天執行 1200 億個參數的混合專家模型(MoE)。此外,全新的 Qwen 3.6 35B 模型以更小的佔用空間提供同等智慧,執行速度更快,並讓使用者能夠執行並行工作負載。

為了最大限度地發揮效能與使用方便性,請閱讀 Hermes DGX Spark 教戰守則。 此外,註冊參加即將推出的 NVIDIA 「Build It Yourself」代理 AI 系列實作課程,學習如何透過 NemoClaw 與 OpenShell 建構自主式 AI 代理。

NVIDIA DGX Spark 可向 NVIDIA 的製造合作夥伴訂購,請造訪合作夥伴市集

在 NVIDIA 硬體上開始使用 Hermes

在 NVIDIA 硬體上以本機模式執行 Hermes 非常簡單。

造訪 Hermes GitHub repository 開始使用,並將其與偏好的本機模型與 runtime 配對。透過 llama.cppLM StudioOllama 在執行 Qwen 3.6 的同時執行 Hermes。Hermes Agent 內建支援 LM StudioOllama 提供開箱即用的體驗,是建立本地代理最簡單的路徑。

無論是對於探索個人代理前沿的本地 AI 愛好者,還是為工作流程打造本機工具的開發人員,NVIDIA 硬體上的 Hermes 提供了獨特且可靠的基礎。

請持續關注 RTX AI Garage 關於針對 NVIDIA RTX 硬體最佳化的最新開放模型與代理程式的更多更新。

#ICYMI:RTX AI Garage 最新消息

NVIDIA RTX PRO GPU 搭配 llama.cpp 執行 Qwen 3.6 模型時,可將 Token 生成速度提升最高達 3 倍。獲得本機 AI 所需的即時反應能力,代理程式可處理多步驟任務並精進技能,維持順暢工作流程。

Google 的 Gemma 4 26B 與 31B 模型現已作為 NVFP4 檢查點提供,在 NVIDIA Blackwell GPU 上實現更快的效能。 將 NVFP4 檢查點與 Google 全新的多 Token 預測草案模型(Multi-Token Prediction drafters)配對,能在維持相同輸出品質的情況下,獲得最高達 3 倍的推論速度,實現在 NVIDIA GPU 本機上執行前沿等級的推論。

Mistral Medium 3.5 版同樣於 4 月推出,包含與 llama.cpp 與 Ollama 的相容性更新,讓使用者能夠在 NVIDIA RTX PRO 與 DGX Spark 系統上執行該模型。

🦞 NVIDIA 最近推出 NVIDIA NemoClaw,這是一個開放原始碼堆疊,透過提升安全性與支援本機模型,最佳化 NVIDIA 裝置的 OpenClaw 體驗。 NemoClaw 現已支援 Windows Subsystem for Linux (WSL2),為 Microsoft 平台的愛好者與開發者帶來支援。 透過這本逐步式教戰守則,在 DGX Spark 上開始使用 NemoClaw。

FacebookInstagramTikTokX 關注 NVIDIA AI PC,並且訂閱 RTX AI PC 電子報,隨時掌握最新消息。

LinkedInX 關注 NVIDIA 工作站。

請參閱軟體產品資訊相關聲明