OpenAI 與 NVIDIA 攜手推動 AI 創新,推出適用於全球最大 AI 推論基礎架構最佳化的全新開源模型

NVIDIA 在單一 Blackwell GB200 NVL72 機架式系統上,提供 gpt-oss-120b 模型每秒處理 150 萬個詞元的運算效能,亮眼表現領先業界。
作者 NVIDIA Corporation

OpenAI 今日發布兩款全新的開源權重 AI 推理模型,將尖端 AI 開發技術直接交到全球各地開發者、AI 愛好者、企業、新創公司與政府部門手中,橫跨各行各業,並適用於各種規模。

此次 NVIDIA 與 OpenAI 合作推出的 gpt-oss-120b 及 gpt-oss-20b 兩個開源模型,展現社群驅動創新的強大力量,也突顯 NVIDIA 在推動全球 AI 普及化方面所扮演的關鍵角色。

任何人都能運用這些模型,在生成式 AI推理式 AI 和物理 AI,以及醫療與製造等領域開發突破性的應用項目,甚至開創嶄新產業,迎接由 AI 驅動的新一波工業革命。

OpenAI 全新推出的靈活開源權重文字推理大型語言模型(LLMs),是以 NVIDIA H100 GPU 完成訓練,並在全球數億顆運行 NVIDIA CUDA 平台的 GPU 上,展現出最佳推論能力

這兩款模型現已以 NVIDIA NIM 微服務的形式提供給各方使用,能夠輕鬆部署於任何 GPU 加速的基礎架構上,並且具備高度彈性、資料隱私性與企業級安全性。

透過針對 NVIDIA Blackwell 平台進行最佳化的軟體,這些模型在 NVIDIA GB200 NVL72 系統上展現出色的推論效能,每秒可處理 150 萬個詞元 (token),大幅提升推論效率。

「OpenAI 向世人展示了使用 NVIDIA AI 技術建構模型的深厚潛力,如今他們更進一步推動開源軟體的創新,gpt-oss 模型讓全球開發者都能使用這項尖端的開源基礎進行創建,鞏固美國在 AI 領域的科技領先地位 – 這一切皆建構於全球規模最大的 AI 運算基礎架構之上。」NVIDIA 創辦人暨執行長黃仁勳表示。

NVIDIA Blackwell 架構提供更先進的推理運算能力

隨著像 gpt-oss 這類進階推理模型所生成的詞元 (token) 呈指數增長,對運算基礎架構的需求也隨之急劇提升。需要透過專門使用NVIDIA Blackwell 架構建構的 AI 工廠,以因應這般的規模與強度,這個構架具備支援大規模部署、極致運算效率與高投資報酬的能力,進而提供最佳的推論表現。

NVIDIA Blackwell 採用多項創新技術,其中包括 NVFP4 4 位元精度格式,能在大幅降低功耗與記憶體需求的同時,進行超高效率與高準確度的 AI 推論作業。這項技術讓用戶可以即時部署擁有兆級參數數量的大型語言模型,為各行各業發掘出數十億美元的潛在價值。

為全球數百萬 AI 開發者提供開放式開發環境

NVIDIA CUDA 是全球最多人使用的運算基礎架構,讓使用者能夠在從強大的 NVIDIA DGX Cloud 平台,到搭載 NVIDIA GeForce RTXNVIDIA RTX PRO 的 PC 及工作站等各種平台上,部署與執行 AI 模型。

截至目前,CUDA 的累計下載次數已突破 4.5 億次。從今天起,這個龐大的 CUDA 開發者社群將可使用這些已完成最佳化調校的全新模型,在他們熟悉的 NVIDIA 技術堆疊上發揮極致效能。

OpenAI 與 NVIDIA 展現對開源軟體的承諾,攜手多個主流開放框架供應商,將模型進行最佳化調整,以適用於 FlashInfer、Hugging Face、llama.cpp、Ollama 和 vLLM 各個平台,同時支援 NVIDIA Tensor-RT LLM 及其他函式庫,讓開發者能夠用自己孰悉的框架打造 AI 解決方案。

攜手合作,共創開源新紀元

今日所發布的模型突顯出 NVIDIA 全堆疊方法如何協助全球最具雄心的 AI 計畫,觸及更廣泛的使用者與開發者族群。

這段關係可以追溯到 NVIDIA 與 OpenAI 合作的早期,始於 2016 年,當時黃仁勳親自將第一台 NVIDIA DGX-1 AI 超級電腦送抵 OpenAI 位於舊金山的總部。

自此之後,雙方持續攜手挑戰 AI 發展的極限,提供支持大規模訓練所需的核心技術與專業能力。

針對 NVIDIA Blackwell 與 RTX GPU 對 OpenAI 的 gpt-oss 模型進行最佳化調整,再加上 NVIDIA 豐富多元的軟體堆疊,NVIDIA 正協助全球 650 萬名開發者以更快速度、更低成本推動 AI 創新。這些開發者分布於 250 個國家,使用超過 900 種 NVIDIA 軟體開發套件與 AI 模型,持續拓展 AI 的可能性。

歡迎造訪 NVIDIA 技術部落格與閱讀最新一期的 RTX AI Garage 部落格精彩內容,深入掌握更多資訊。立即開始使用 gpt-oss 模型開發AI 應用項目。