AI 不再只是後端工具，它已經成為可以強化所有事業線之決策能力的策略夥伴。
無論使用者的目標是減少營運開銷或大規模地將客戶體驗個人化，客製 AI 代理程式都是關鍵。
企業在採用 AI 代理程式之後，需要縝密的策略管理其部署。首要步驟是建立企業 AI 基礎架構，以最佳方式進行快速、具成本效益的推論，以及建立一個資料管道，持續為代理程式提供即時的脈絡資訊。
除人力和硬體資源外，隨著領導者在整體組織內協調數位人才，AI 代理程式上線將成為企業的核心策略職能。
以下是讓 AI 代理程式團隊上線的方式：
1. 針對任務選擇適合的 AI 代理程式
如同聘請人類員工擔任特定職位一樣，必須根據待執行之任務選擇和訓練 AI 代理程式。現在企業已可以取得各種 AI 模型，包括語言、視覺、語音和推理，且每一種模型皆具有各自的獨特優勢。
因此，選擇適合之模型是實現業務成果的關鍵：
- 選擇一個推理代理程式，解決需要思索答案的複雜問題。
- 使用程式碼產生副駕駛，協助開發人員編寫、修改和合併程式碼。
- 部署一個影像分析 AI 代理程式，分析現場檢查或產品瑕疵。
- 讓以特定知識庫 (而非通用基礎模型) 為基礎的客服 AI 助理上線。
模型選擇會影響代理程式的效能、成本、安全性和業務適配性。適合的模型讓代理程式可以準確應對業務挑戰、遵守合規性要求，以及保護敏感資料。選擇不適合的模型可能會導致過度消耗運算資源、提高營運成本，以及因預測不準確而對代理程式決策造成負面影響。
開發人員可以利用 NVIDIA NIM 等軟體以及 NeMo 微服務，根據需求切換不同的模型以及連接各種工具。結果：針對任務專用代理程式進行微調，以滿足企業的目標、資料策略和合規性要求。
2. 將 AI 代理程式與資料連結，以提升其技能
想要讓 AI 代理程式上線，必須建立完善的資料策略。
AI 代理程式在可持續取得任務和業務相關資料之情況下的表現最佳。
機構知識 (組織內部累積的智慧和經驗) 是一項重要資產，通常會隨著員工離職或退休而流失。AI 代理程式可以發揮關鍵作用，記錄和保存此類知識，以供員工使用。
- 將 AI 與資料來源連結：AI 代理程式必須解讀各種資料類型，從結構化資料庫，到非結構化格式，例如 PDF、圖片和影片，以發揮最佳效能。此種連結讓代理程式可以產生量身打造、具脈絡感知的回應，以超越獨立基礎模型的能力，提供更精準、更有價值的成果。
- AI 做為知識儲存庫：AI 代理程式受益於擷取、處理和重複使用資料的系統。資料飛輪持續收集、處理和使用資訊，以迭代方式改進基礎系統。AI 系統受益於此飛輪，透過記錄互動、決定和問題解決方法，自動最佳化模型效能和效率。例如，將 AI 整合至客服作業中，可以讓系統從每一次對話中學習，擷取有價值的回饋和問題。之後，利用這些資料改進回應，以及維護一個全面的機構知識儲存庫。
NVIDIA NeMo 可以開發強大的資料飛輪，提供持續整理、精進和評估資料與模型的工具。讓 AI 代理程式可以透過持續適應和學習，提高準確性及最佳化效能。
3. 將 AI 代理程式導入事業線
企業建立雲端、地端或混合 AI 基礎架構，以支援 AI 代理程式，並改進資料策略，以便即時為代理程式提供脈絡資訊，下一步是以系統化方式將 AI 代理程式部署至各個事業單位，從先導進入規模化階段。
根據 IDC 最近針對 125 位資訊長進行的調查，顯示在企業希望整合代理式 AI 的領域中，排名前三位的是 IT 流程、業務營運和客戶服務。
AI 代理程式在各個領域，皆有助於提升現有員工的生產力，例如自動化 IT 工程師的處理流程，或讓員工輕鬆存取資料以服務客戶。
企業 AI 代理程式亦適用於以下方面：
在電信營運方面，Amdocs 使用其 amAIz 平台建立垂直化 AI 代理程式，處理複雜的多步驟客戶旅程 (涵蓋銷售、計費和客服)，並將自主網路從最佳化規劃推進到高效率部署。將有助於確保網路及其支援之服務的效能。
NVIDIA 與多家企業例如企業軟體公司 ServiceNow和全球系統整合商例如 Accenture 與 Deloitte 合作，共同建立及部署 AI 代理程式，最大化在各種使用案例和事業線中的業務影響。
4. 為 AI 代理程式提供護欄和治理機制
如同員工需要明確的指引，以保持在正軌上一樣，AI 模型也需要明確界定的護欄，確保提供可靠、準確的輸出，並在道德界限內運作。
- 主題護欄：主題護欄可以防止 AI 偏離至無法提供準確答案的領域。例如，客服 AI 助理應專注於解決客戶查詢，不應該偏離至無關的主題，例如追加銷售和優惠。
- 內容安全護欄：內容安全護欄規範了人類與 LLM 的互動，將提示和回應分類為安全或不安全，並在不安全時依據類別標記違規行為。此類護欄可以過濾不當的語言，並確保僅引用可靠的來源，使 AI 的輸出值得信賴。
- 越獄護欄：隨著可以存取敏感資訊的代理程式越來越多，代理程式可能會隨時間發生資料外洩的風險。越獄護欄之目的為協助防範對抗性威脅，以及偵測和阻止針對 LLM 的越獄和提示注入意圖。此類護欄可以即時識別惡意提示操縱，有助於確保更安全的 AI 互動。
NVIDIA NeMo Guardrails 讓企業可以設定和執行特定領域的準則，提供靈活的可程式化框架，使 AI 代理程式與組織政策保持一致，確保它們始終在核准的主題範圍內運作、維持安全標準、遵守安全性要求，並最小化推論時增加的延遲。
開始讓 AI 代理程式上線
最佳的 AI 代理程式非通用解決方案。它們經過專門訓練、為特定目的而打造，且會持續學習。
企業領導者在啟動 AI 代理程式上線流程時，可以思考下列問題：
- 希望 AI 推動哪些業務成果？
- AI 需要存取哪些知識和工具？
- 由誰擔任人類協作者或監督者？
在不久的未來，所有事業線都將擁有專用的 AI 代理程式 — 以其資料進行訓練、根據目標進行調整及滿足合規性需求。投入周密之上線、安全之資料策略和持續學習的組織，將有能力引領企業轉型的下一階段。
觀看此隨選線上研討會，瞭解如何建立自動化資料飛輪，持續收集回饋，以便在企業中導入、微調和擴展 AI 代理程式。