Oracle 與 NVIDIA 合作協助企業加速代理型 AI 推論

【2025年3月18日，美國聖荷西訊】Oracle 與 NVIDIA 今日宣布，將 NVIDIA 加速運算與推論軟體與 Oracle 的 AI 基礎架構以及生成式 AI 服務進行業界首創的整合，以協助全球組織加速創建代理型人工智慧（AI）應用。

Oracle Cloud Infrastructure（OCI）與 NVIDIA AI Enterprise 軟體平台之間的全新整合將透過 OCI 控制台原生提供 160 多種 AI 工具與 100 多種 NVIDIA NIM™ 微服務。此外，Oracle 與 NVIDIA 正在就 Oracle 和 NVIDIA AI Blueprint 的無程式碼部署，以及利用 NVIDIA cuVS 函式庫在 Oracle Database 23ai 中加速 AI 向量搜尋進行合作。

Oracle 執行長 Safra Catz 表示：「Oracle 已成為 AI 訓練與推論的首選平台，而這次合作關係強化了我們幫助客戶實現更大創新與業務成果的能力。NVIDIA 的產品結合 OCI 的靈活性、擴充性、效能與安全性，將加速 AI 的採用，並幫助客戶從其資料中獲得更多價值。」

NVIDIA 創辦人暨執行長黃仁勳表示：「Oracle 與 NVIDIA 是推理時代的完美合作夥伴，一家 AI 與加速運算公司與一個處理大多數全球企業資料方面的關鍵角色合作。我們攜手協助企業運用代理型 AI 進行創新，為客戶和合作夥伴提供驚人的成效。」

滿足企業AI需求的特製設計解決方案

為了降低部署推理模型的時間，NVIDIA AI Enterprise 將透過 OCI 控制台原生提供，讓客戶能夠快速輕鬆存取 AI 工具，包括 NVIDIA NIM™。NVIDIA NIM™是一套針對領先 AI 模型優化的 100 多種雲端原生推論微服務，包括用於先進的 AI 推理的最新 NVIDIA Llama Nemotron 模型。

NVIDIA AI Enterprise 將以部署映像的形式，適用於 OCI 裸機執行個體以及使用 OCI Kubernetes Engine 的 Kubernetes 叢集。OCI 控制台的客戶可透過 Oracle 享受直接計費與客戶支援。

組織可利用在資料中心、公有雲或邊緣的 NVIDIA 加速運算和 NVIDIA AI Enterprise 來部署 OCI 的 150 多種 AI 與雲端服務。此產品提供整合式 AI 堆疊，有助於解決資料隱私、主權 AI 與低延遲需求。

生物技術公司 Soley Therapeutics 正在部署 OCI AI Infrastructure、NVIDIA AI Enterprise 和 NVIDIA Blackwell GPU，以打造旗下 AI 藥物研發平台，透過捕捉、解碼及解讀細胞語言來預測細胞命運，為複雜疾病開創可能的治療方法。

Soley Therapeutics 的共同創辦人暨執行長 Yerem Yeghiazarian 表示：「我們相信 AI 有潛力在開發有助於提供癌症和其他複雜疾病治療上提供新的解決方案。OCI 與 NVIDIA 的結合提供全方位的 AI 解決方案，為我們提供必要的儲存、運算、軟體工具與支援，在開發我們的 AI 藥物研發平台時，以 PB 級資料的研發帶來加速創新。」

利用量身打造的藍圖來大規模部署AI OCI AI Blueprint 提供無程式碼的部署方案，讓客戶能夠快速執行 AI 工作負載，而不必就軟體堆疊或手動佈建基礎架構做出決定。該藍圖為 NVIDIA GPU、NIM 微服務以及預先封裝的可觀察性工具提供明確的硬體推薦，幫助企業將 AI 專案的速度從數週縮短至數分鐘。

此外，NVIDIA Blueprint 為開發人員提供跨 NVIDIA 堆疊的整合體驗，為企業 AI 使用案例提供參考工作流程。利用 NVIDIA Blueprint，組織可利用 NVIDIA AI Enterprise 和 NVIDIA Omniverse™ 軟體、應用程式設計介面以及微服務來建置及操作客製化的 AI 應用。例如開發人員可以從針對客戶服務 AI 助理的 NVIDIA AI Blueprint 開始，並根據其使用情況客製化。

為了簡化先進的實體 AI 與模擬應用程式與工作流程的開發、部署與擴充，NVIDIA Omniverse 平台和 NVIDIA Isaac Sim 開發工作站以及 Omniverse Kit App Streaming 預計於今年底在 Oracle Cloud Infrastructure Marketplace 上推出，並預先配置使用 NVIDIA L40S GPU 加速的運算裸機執行個體。

一款用於業務流程管理的 AI 驅動自動化平台 Pipefy，利用推論藍圖進行文件預先處理和影像處理。

Pipefy 的首席軟體工程師 Gabriel Custodio 表示：「我們採用 OCI AI 藍圖來加速 NVIDIA GPU 節點並針對文件與影像處理使用案例快速部署多模態大型語言模型。利用這些預先封裝且經過驗證的藍圖，在 OCI 上部署我們的 AI 模型現在可實現完全自動化，且速度顯著提高。」

在 OCI 資料科學領域運用 NVIDIA NIM 的即時 AI 推論 

為了進一步加速企業採用AI，並以最短的設定時間快速部署AI，資料科學家可直接在 OCI 資料科學中存取預先最佳化的 NVIDIA NIM 微服務。這可支援即時 AI 推論使用案例，而不會增加管理基礎架構的複雜性。

這些模型在客戶的 OCI 租賃下執行，以助於保持資料的安全性與合規性。客戶可透過靈活、隨用隨付且按時計費的定價模型來購買模型，或使用其 Oracle 通用點數。

組織可利用這種整合技術，在幾分鐘內部署預先配置、最佳化 NIM 推論引擎的推論端點，以迅速加速AI助理、即時推薦引擎與 Copilot 等使用案例的實現價值。此外，這可讓客戶開始使用該整合來處理較小的工作負載，並順利拓展至企業級部署。

NVIDIA 加速運算平台在 Oracle Database 23ai 中推動 AI 向量搜尋

Oracle 與 NVIDIA 正攜手合作，運用 NVIDIA GPU 和 NVIDIA cuVS，加速向量嵌入與向量索引的創建，這是 Oracle Database 23ai 中 AI 向量搜尋工作負載的運算密集型部分。

企業可以透過批量向量化大量輸入如文字、影像和影片等資料，來啟用向量嵌入，並快速建立和維護向量索引。。 利用 NVIDIA 加速 AI 向量搜尋，Oracle Database 的客戶可大幅提升 AI 流程的效能，並有助於支援大量 AI 向量工作負載。

DeweyVision 提供先進的電腦視覺與人工智慧功能，可將媒體轉化為資料，使其可存取、可搜尋、可探索、可檢索並可採取行動。DeweyVision 在 Oracle Autonomous Database 上使用 Oracle Database 23ai 來實現其 AI 驅動的無程式碼倉儲工具。這些工具可讓影片製作專業人士在幾分鐘內將影片分類並提供直覺的搜尋功能，進而連接工作流程並快速編輯影片。

DeweyVision 執行長 Majid Bemanian 表示：「搭載 AI 向量搜尋的 Oracle Database 23ai 可大幅提升 Dewey 的搜尋效能，同時提高 DeweyVision 平台的擴充性。利用 NVIDIA GPU 建立我們加載至 Oracle Database 的向量嵌入，可加速我們平台的新資料擷取，而自主資料庫和 Oracle Database 23ai 的融合功能，將有助於我們隨著業務成長並開創新的機會而降低營運成本。我們相信，DeweyVision、Oracle Database 23ai 與在 OCI 中執行的 NVIDIA GPU 相結合，將有助於我們實現成為好萊塢的資料倉庫的目標。」

NVIDIA Blackwell on OCI 能在任何地方實現AI

Oracle 與 NVIDIA 持續在 OCI 的公共區域、政府雲端、主權雲端、OCI 專用區域、Oracle Alloy、OCI Compute Cloud@Customer 與 OCI Roving Edge Devices 上採用新型 NVIDIA GPU，推進AI基礎架構的發展。

這包括 NVIDIA Quantum-2 InfiniBand 叢集網路環境、NVIDIA Spectrum™ Ethernet 交換器，以及針對市場上最大的一些AI超級叢集的最佳化 NVIDIA NVLink™ 與 NVLink 交換器功能。

OCI 將在 OCI Supercluster 上提供 NVIDIA GB200 NVL72 系統（最高搭載 131,072 顆 NVIDIA GPU，並即將正式推出）並接受最大的一款搭載 NVIDIA Blackwell Ultra GPU 的雲端人工智慧超級電腦的訂單。

OCI 將會是率先提供新一代 NVIDIA Blackwell 加速運算平台的雲端服務供應商之一。Blackwell Ultra 建構於一年前推出的劃時代 Blackwell 架構之上，包含 NVIDIA GB300 NVL72 機架級解決方案與 NVIDIA HGX™ B300 NVL16 系統。NVIDIA GB300 NVL72 的AI效能較 NVIDIA GB200 NVL72 提升 1.5 倍，同時相較於採用 NVIDIA Hopper™ 架構打造的 AI 工廠，能為 Blackwell 帶來高達 50 倍的營收成長機會。

SoundHound 是對話式智慧領域的全球領導者，提供語音與對話式AI解決方案，為全球品牌的數百萬款產品提供語音相關體驗。其語音AI平台在 OCI 上執行，每年處理數十億則查詢，並利用 NVIDIA GPU 為客戶提供快速且準確的語音服務。

SoundHound AI 的產品長 James Hom 表示：「SoundHound已與 OCI 建立了長期合作關係，我們相信我們的持續合作將在支援未來成長方面發揮關鍵作用。NVIDIA GPU 將大幅加速我們下一代語音AI的訓練。」

其他資源

• 深入瞭解 OCI AI 基礎架構。
• 深入瞭解 Oracle Cloud Infrastructure。
• 深入瞭解 Oracle 運用 NVIDIA AI Enterprise 擴大分散式雲端功能
• 深入瞭解 OCI 專用區域的 OCI 人工智慧基礎架構，以及 Oracle Aloy
• 閱讀 OCI Supercluster 技術部落格並觀看影片

關於 Oracle 分散式雲端

Oracle 的分散式雲端以更高的控制性和靈活性提供雲端的優勢。Oracle 的分散式雲端陣容包括：

• 公有雲：超大規模公有雲端區域能為任何規模的組織提供服務，包括那些需求嚴格歐盟主權控制的組織。查看區域的完整清單。
• 專有雲：客戶可利用 OCI Dedicated Region 在自身的資料中心執行所有 OCI 雲端服務，而合作夥伴則可利用 Oracle Alloy 轉售 OCI 雲端服務，並利用 Oracle Alloy 客製化體驗。Oracle 還運用美國、英國和澳洲獨立的政府雲端，以及出於國家安全目的的隔離雲端區域。這些產品都提供完整的雲端與 AI 堆疊，客戶可將其部署為主權雲端。
• 混合雲：OCI 透過 Oracle Exadata Cloud@Customer 和 Compute Cloud@Customer 在本機提供關鍵的雲端服務，並已在 60 多個國家/地區進行部署。此外，OCI Roving Edge Infrastructure 採用堅固且可攜式的高效能裝置所組成的多種配置，能幫助客戶在邊緣利用遠端人工智慧推論。
• 多重雲：OCI 實際部署在所有超大規模雲端供應商，包括 AWS、Google Cloud 和 Microsoft Azure，提供低延遲且原生整合的 Oracle 資料庫服務，包括 Oracle Database@AWS、Oracle Database@Azure、Oracle Database@Google Cloud 與在 AWS 上的 Oracle HeatWave。Oracle Interconnect for Microsoft Azure 與 Oracle Interconnect for Google Cloud 可讓客戶將各種雲端的關鍵功能結合。