編註：本文章是 AI On 部落格系列的一部分，此系列探討代理式 AI (agentic AI)、聊天機器人和副駕駛 (copilot) 的最新技術及實際應用。此系列也聚焦於驅動先進 AI 代理程式的 NVIDIA 軟體和硬體，它們構成 AI 查詢引擎的基礎，這些引擎可收集洞見和執行任務，以改變日常體驗並重塑產業。
預計 AI 代理程式將在三年內參與大多數商業任務，而有效的人機協作可以將人類參與高價值任務的程度提高 65%。
AI 代理程式可以學習、推理及根據脈絡和成果進行調整，有助於達成及超越效率目標。隨著 AI 代理程式逐漸成為商業策略的核心，領導者必須瞭解它們會影響和值得投資哪些方面。
以下是代理式 AI 提升團隊績效的六種方式，以及衡量其影響的實用技巧。
1. 利用 AI 代理程式加快軟體開發的速度
AI 代理程式可以擔任智慧副駕駛，協助自動化產生、測試和部署程式碼。
它們可以及早發現錯誤，進而提高發布品質和速度，並提供經過 AI 整理的文件資訊與脈絡，讓新進工程師更快速地進入狀況。
例如，NVIDIA ChipNeMo 是一個以客製大型語言模型 (LLM) 為基礎，使用 NVIDIA 內部晶片設計資料進行訓練的專用代理程式團隊，在短短一年內協助 5,000 位負責設計、驗證和編寫文件的 NVIDIA 工程師節省 4,000 個工程日。
自部署以來，ChipNeMo 已經：
瞭解如何透過 NVIDIA Nemotron 建立代理程式，以及如何使用 NVIDIA NeMo 代理程式工具套件改進 AI 程式碼產生。
2. 推動資料輔助決策
代理程式可以協助各產業的企業，輕鬆地從複雜、具時效性的資料中獲得洞見，以做出關鍵決策，例如投資或商業策略。
BlackRock 的 Aladdin Copilot 是嵌入式 AI 助理，服務數百家金融機構的數千位使用者，讓團隊可以透過簡單的文字提問獲得投資組合洞見、評估投資研究以及監控可用現金餘額。它將研究時間從幾分鐘縮短成幾秒，同時加強了資料驅動投資決定。
VAST Data 使用代理程式迅速收集和整合來自內部與外部來源的資訊。讓銷售團隊可以更快速地取得有用及最新的客戶帳戶洞見。
3. 最佳化 IT 維運
代理程式擅長 IT 維運，包括主動監控基礎架構以及將決策自動化。
IT 維運中的 AI 代理程式提供以下功能：
在快步調的電信環境中，代理程式可以分析即時效能指標和預測服務故障，協助管理網路。例如，Telenor Group 整合了 NVIDIA 電信網路配置藍圖，以部署智慧自主網路，滿足 5G 及未來技術的效能需求。
4. 簡化工業和製造作業
負責與現實世界互動的影像分析 AI 代理程式可以監控組裝線，以檢查品質和偵測異常。
和碩在過去四年內開發出 PEGA AI 工廠平台，將公司的 AI 代理程式開發加快了 400%。此外，該公司的數位孿生平台 PEGAVERSE 是以 NVIDIA Omniverse 平台為基礎，讓工程師可以在建造生產線之前，以虛擬方式進行模擬、測試和最佳化，將工廠的建設時間縮短 40%。
和碩也使用以 NVIDIA AI 影片搜尋和摘要藍圖為基礎的影像分析 AI 代理程式加強組裝流程，將每一條組裝線的人力成本降低 7%，將不良率降低 67%。
Siemens 將生成式 AI 導入解決方案中，由工業副駕駛利用即時工廠資料引導維護技術人員和現場操作員。維護工程師在訪談時表示，平均可以節省 25% 的被動維護時間。
鴻海科技集團使用數位孿生和 AI 代理程式最佳化生產線，將部署時間縮短 50%，並模擬機器人與即時監控品質和安全。
5. 加強客戶服務
代理程式擅長大規模處理客戶服務，同時處理數千個查詢，以縮短客戶等待的時間。
AT&T 之員工和承包商使用稱為「Ask AT&T」的生成式 AI 解決方案，目前在正式環境中有超過 100 個解決方案和代理程式。Ask AT&T 是以 NVIDIA NeMo 和 NIM 微服務支援的 LLM 為基礎，可以協助取得相關文件及自主解決常見查詢。
Ask AT&T 提供 24 小時的個人化支援，可以回顧電子郵件、會議和過往交易中的組織資訊，以分享與脈絡有關的建議。同時為了持續提升代理程式效能，利用了資料飛輪在系統中建立即時回饋循環。
這些自動化服務，將客服中心轉錄分析成本降低了 84%。
6. 提供個人化教育
AI 代理程式將個人化學習支援變得更容易取得、可擴充及更有效，同時讓教師有時間可以進行更深入的教學。
由於面臨班級人數增加和助教短缺的問題，促使克萊門森大學開發出以 NVIDIA 檢索增強生成 (RAG) 藍圖為基礎的 AI 助教，引導學生理解複雜的概念。
虛擬助教不是僅簡單地提供答案，而是可以逐步引導學生解決問題，鼓勵主動解決問題和批判性思考，以加深理解與維護學術誠信。
助教也會依據課程內容、作業交期和學生提交的內容，提供個人化的回饋與提示。其 24 小時運作，無論班級人數多少，都能及時為每一位學生提供量身打造的支援。
如何衡量 AI 代理程式的成功？
衡量 AI 代理程式的影響不僅是形式上的檢查，更是最大化投資價值的關鍵。使用者對成功的定義，將會直接影響這些系統創造的價值。企業在部署代理程式時，往往缺少明確的衡量框架，而導致無法證明投資報酬或找出待改進的部分。
使用者在建立評估策略時，應思考哪些指標對他們的目標而言最重要。例如：
- 採用率和參與度：追蹤技術是否獲得採用。指標包括有多少符合條件的使用者與代理程式互動，以及互動頻率和對話的時間長度。如果參與度高，表示代理程式經常提供有效的支援。
- 任務完成：除使用量外，也要關注成果。衡量代理程式處理了多少任務或要求，以及在沒有人為介入下可以完成哪些部分。使用者可以在軟體開發中，衡量自動化程式碼產生率，以瞭解有多少軟體是由代理程式開發。如果自動化任務的完成率高，則員工可以專注於從事具有更高價值的工作。
- 生產力和效率提升：量化節省的時間。解決 IT 問題需要的時間、決策輔助報告產生時間、客服互動的平均處理時間等指標，皆有助於證明效率已明顯提升。
- 業務成果：將代理程式績效與最終結果連結。可能包括支援每一次互動的成本、軟體開發的上市時間，或 IT 維運之非計畫停機時間的減少。
- 高品質使用者體驗：確保系統可靠和有效。考量開發人員的程式碼品質分數、資料輔助決策的預測準確度，或服務情境中的客戶滿意度分數。
主要重點：衡量 AI 代理程式的成功遠不止於單一數字。採用率、效率、準確度和業務影響都同樣很重要。企業預先選擇正確的指標組合，即可驗證成功，同時不斷精進和改善代理程式創造價值的方式。
閱讀更多案例，以瞭解客戶如何採用 AI 應用程式重塑日常營運，並提高投資報酬。
訂閱 NVIDIA 新聞、加入社群，並在 LinkedIn、Instagram、X 和 Facebook 上關注 NVIDIA AI，以掌握代理式 AI、NVIDIA Nemotron 等技術的最新資訊。此外，也可以探索自調進度影片教學和直播。