企業如何打造值得信賴的專用 AI

透過 NVIDIA Agent Toolkit,這個由模型、工具、技能與 AI 代理程式安全執行環境組成的開放基礎,企業正在打造針對特定領域工作流程調校的專用 AI。
作者

編註:本文是 Nemotron Labs 部落格系列的一部分,此系列探討最新的開放模型、資料集與訓練技術,如何協助企業在 NVIDIA 平台上打造專用 AI 系統與應用。每篇文章都聚焦於使用開放式技術堆疊,在正式環境中創造實際價值的務實方法,範圍涵蓋透明的研究副駕駛 (copilot) 到可擴展的 AI 代理程式。

企業正在思考,如何打造能契合實際工作流程運作方式的專用 AI

第一波企業 AI 關注的是存取能力。企業嘗試新的前沿模型與開放模型,執行試點專案,並探索 AI 能如何提供協助。

如今,專用代理程式,也就是能夠推理、使用工具,並即使在最複雜工作流程中也能採取行動的模型系統,讓最了解工作本身的人更容易取得真正有用的 AI。

代理程式已經在協助生命科學研究人員加速藥物探索,協助安全團隊以更多脈絡調查漏洞,也協助營運團隊順暢協調供應鏈。

為了運用這些專用代理程式,企業正在採用一套可調整且可自主掌控的基礎:它建立在可客製的模型、能連接既有系統的工具,以及讓代理程式能安全大規模運作的基礎架構之上。

NVIDIA Agent Toolkit 由模型、工具、技能與安全執行環境組成,提供開放且模組化的基礎,協助打造更安全、更快速、成本更低的數位 AI 同事,讓企業與開發者能夠客製、專精化、控制並信任這些 AI。

專用 AI 同事的建構模組

打造安全、專用 AI 代理程式的企業與開發者需要:

  • 模型,提供推理基礎。
  • 工具與技能,將代理程式連接到完成工作所需的行動能力與領域專業知識。
  • 執行環境支援,協助代理程式執行工作流程。

NVIDIA Agent Toolkit 包含這三項要素:

  • NVIDIA Nemotron 開放模型讓團隊能靈活地依自身需求客製、評估並部署代理程式。
  • NVIDIA NemoClaw 藍圖提供更安全代理程式行為的模式,以更低成本提供準確結果,並透過工具與技能將代理程式連接到具體行動。
  • NVIDIA OpenShell 執行環境協助代理程式在實際完成工作的系統內安全運作。

NVIDIA 技術加速了將強大的前沿模型轉化為功能完整的數位同事所需的所有環節。這套工具的使用者可以選擇搭配第三方代理程式框架,或代理程式編排框架,包括 Hermes Agents 與 OpenClaw。

這讓企業能在掌握控制權的同時推進 AI 動能。這一點很重要,因為跨產業最有價值的代理程式都將是專用化的。

代理程式在各產業逐漸成形

專用 AI 基礎已經開始發揮作用。

在生命科學領域,代理程式可以協助研究人員呼叫用於蛋白質設計、虛擬篩選、基因體分析與生物標記探索的領域模型。全新的 NVIDIA BioNeMo Toolkit 讓過去需要數月的工作能在數天內完成。

在醫療保健領域,代理程式支援臨床文件、臨床決策支援與照護協調。此外,在醫院數位孿生中訓練的機器人系統實體代理程式,能擴展手術協助與醫院自動化能力,以滿足照護需求。

在軟體、網路安全、工業營運與客戶工作流程中,代理程式可以連接團隊既有使用的工具與資料,協助人們更快速地推進複雜工作流程。

例如,Cadence 與 Synopsys 正在為晶片設計與工程工作流程打造自主代理程式。CrowdStrike 正在運行專用安全代理程式,以 98.5% 的準確率分流警示。Palantir、SAP、ServiceNow、Siemens 與 Dassault Systèmes 則正將代理程式能力嵌入關鍵決策發生所在的企業平台。

這一切都指向同一個更大的轉變:當代理程式能以企業可依自身工作流程調整的方式,結合模型、工具、技能、執行環境與基礎架構時,它們會變得更有用。NVIDIA Agent Toolkit 提供了促成這種結合的開放、模組化基礎。

進一步了解 NVIDIA Agent ToolkitNVIDIA BioNeMo Agent Toolkit