NVIDIA 與合作夥伴推出代理型 AI 藍圖, 協助每個企業自動執行工作

開發人員現在可以利用全新的 NVIDIA AI Blueprints,建立和部署具備推理、規畫及採取行動能力的客製化 AI 代理,這些 NVIDIA AI Blueprints 包括 NVIDIA NIM 微服務、NVIDIA NeMo 以及領先供應商所推出的代理型 AI 框架
作者 Justin Boitano

用於建立代理型 AI 應用程式的全新 NVIDIA AI Blueprints,已經準備好協助各地的企業自動執行各項工作。

開發人員現在使用這些藍圖可以建立和部署客製化的 AI 代理。這些代理能像「知識機器人」一般推理、規畫及採取行動,從影片、PDF 和其他圖像中快速分析大量資料,做出總結及即時提取寶貴看法。

CrewAI、Daily、LangChain、LlamaIndex 及 Weights & Biases 等領先的代理型 AI 協調與管理工具供應商與 NVIDIA 合作建立藍圖,將 NVIDIA AI Enterprise 軟體平台(包括 NVIDIA NIM 微服務和 NVIDIA NeMo)與自家平台進行整合。這五個藍圖是代理型 AI 的合作夥伴藍圖全新類別,為開發人員創造下一波將改變各行各業的 AI 應用程式提供了建構模塊。

除了合作夥伴藍圖之外,NVIDIA 還推出了自己全新適用於 PDF to podcast 的 AI Blueprint ,以及另一個適用於影片搜尋與摘要的 AI 代理藍圖。另外還有四個 NVIDIA Omniverse Blueprints,可讓開發人員更輕鬆為實體 AI 建立模擬就緒的數位孿生。

為協助企業快速將 AI 代理導入生產環境,埃森哲(Accenture)宣布使用 NVIDIA AI Enterprise 打造 AI Refinery for Industry,包括 NVIDIA NeMo、NVIDIA NIM 微服務與 AI Blueprints

由 Accenture AI Refinery 與 NVIDIA 驅動的 AI Refinery for Industry 解決方案,可協助汽車、科技、製造業、消費品等領域的企業快速啟動代理型 AI。

代理型 AI 協調工具指揮著代理交響樂

代理型 AI 代表著生成式 AI 發展的下一波浪潮。它能讓應用程式不只是進行簡單的聊天機器人互動,而是能夠進行精密的推理與規畫,解決複雜的多步驟問題。正如 NVIDIA 創辦人暨執行長黃仁勳在 CES 大會主題演講中所說的,企業級 AI 代理將成為 AI 工廠的核心,這些工廠將產生出 詞元,為各行各業創造前所未有的智慧與生產力。

代理型 AI 協調是一個精密複雜的系統,專門用來管理、監控和協調多個 AI 代理協同作業 – 這是開發可靠的企業代理型 AI 系統的關鍵。NVIDIA 合作夥伴所推出的代理型 AI 協調層提供 AI 代理有效合作所需的黏合劑。

代理型 AI 協調領導廠商現已推出新的合作夥伴藍圖,可與 NVIDIA AI Enterprise 軟體整合,包括 NIM 微服務及 NVIDIA NeMo Retriever,以提高檢索精準度和減少延遲。例如:

  • CrewAI 使用全新 Llama 3.3 70B NVIDIA NIM 微服務及 NVIDIA NeMo Retriever 嵌入式 NIM 微服務,開發該公司的軟體開發程式碼文件藍圖。該藍圖有助於確保程式碼儲存庫保持無所不包且易於導覽的狀態。
  • Daily 的語音代理藍圖由該公司的開源 Pipecat 架構所驅動,使用 NVIDIA Riva 自動語音辨識與文字轉語音 NIM 微服務,以及 Llama 3.3 70B NIM 微服務來提供即時對話 AI。
  • LangChain 將 Llama 3.3 70B NVIDIA NIM 微服務加入其結構化報告生成藍圖。該藍圖以 LangGraph 為基礎,使用者可以定義主題與指定大綱,引導代理在網路上搜尋相關資訊,用要求的格式傳回報告。
  • LlamaIndex 用於部落格創作藍圖的文件研究助理,利用 NVIDIA NIM 微服務和 NeMo Retriever 協助內容創作者製作優質的部落格內容。它可以利用 NeMo Retriever 的代理驅動檢索增強生成功能,自動進行研究、擬定大綱和產生具吸引力的內容,並且註明資料來源。
  • Weights & Biases 將該公司的 W&B Weave 功能加入 AI 虛擬助理的 AI 藍圖,該藍圖採用 Llama 3.1 70B NIM 微服務。該藍圖可簡化除錯、評估、反覆調整和追蹤生產效能,以及收集人類回饋的流程,以支援在建立和部署代理型 AI 應用程式之際,能夠完美進行整合和更快重複進行調整。

在確保專屬資料安全的同時,對許多複雜的 PDF 檔案擷取摘要

每年都會產生出上兆份 PDF 檔案(從財務報告到技術研究論文),要隨時掌握最新資訊一直都是一件不容易的事。

開發人員可以使用 NVIDIA 的 PDF to podcast AI Blueprint 將多個冗長又複雜的 PDF 文件,轉換成 AI 生成的讀出內容,幫助專業人士、學生和研究人員有效瞭解幾乎任何主題,以及快速掌握其中的關鍵重點。

這個藍圖以 NIM 微服務和文字轉語音模型為基礎,讓開發人員能夠建立應用程式,從 PDF 檔案中提取影像、表格和文字,並且將資料轉換為易於理解的語音內容,同時確保資料安全。舉例來說,開發人員可以建立 AI 代理,能夠理解語順脈絡、找出其中的重點,並且產生獨白或對話式 Podcast,以自然語音簡單敘述摘要。這樣讓使用者能夠用一種吸引人且省時的方式,以他們想要的速度吸收資訊。

一鍵測試、製作原型與運行代理型 AI Blueprints

NVIDIA Blueprints 讓全球超過 2500 萬名軟體開發人員可以輕鬆將 AI 整合到各產業的應用程式中。這些藍圖簡化了建置和部署代理型 AI 應用程式的流程,讓人更容易使用到先進的 AI 整合項目。

開發人員現在只要按一下滑鼠,就能以 NVIDIA Launchables 的方式建立和運行新的代理型 AI Blueprints。這些 Launchables 可以讓人按照需求進入有先定義好組態內容的開發人員環境,以便快速設定工作流程。

這些 Launchables 內有開發所需的所有元件,支援一致且可重複的設定,無需手動設定或間接成本,簡化從原型設計到部署的整個開發流程。

企業還能在 Dell Technologies、Hewlett Packard Enterprise、Lenovo 和 Supermicro 等業者推出的資料中心平台上,利用 NVIDIA AI Enterprise 軟體平台將藍圖部署至生產環境,或是在 Amazon Web Services、Google Cloud、Microsoft Azure 和 Oracle Cloud Infrastructure 的加速雲端平台上運行藍圖。

埃森哲 NVIDIA 利用 AI Refinery for Industry 快速部署

埃森哲推出全新的 AI Refinery for Industry,利用 NVIDIA AI Enterprise 軟體打造 12 個全新的產業代理解決方案,並且由埃森哲 NVIDIA 事業群提供。這些針對特定產業的代理解決方案包括消費品與服務的營收成長管理、生命科學的臨床試驗伴隨服務、工業資產故障排患與 B2B 行銷等。

AI Refinery for Industry 產品包括預先配置元件、最佳做法和基礎元素,用於快速開發 AI 代理。它們提供工具給組織,以建立符合其產業需求的專門 AI 網路。

埃森哲計畫在今年底前推出超過 100 個 AI Refinery for Industry 代理解決方案。

開始使用 AI Blueprints 並參加 NVIDIA 在 CES 大會的各項活動

請見有關軟體產品資訊的通知