NVIDIA 推出最實惠的生成式 AI 超級電腦

Jetson Orin Nano Super 在運行生成式 AI 方面的效能提高 1.7 倍,讓業餘者、開發人員和學生可以運行各種熱門模型
作者 Chen Su

NVIDIA 推出體積小巧的新款生成式人工智慧(AI)超級電腦,透過軟體升級的方式,以更低價格提供更高效能。

新款 NVIDIA Jetson Orin Nano Super 開發者套件僅手掌大小,不論是商業 AI 開發人員業餘者與學生,都可以享受到更棒的生成式 AI 功能和更高的效能。價格也從 499 美元降至 249 美元。

與前代產品相比,這款在今天上市的產品能夠將生成式 AI 的推論效能提高 1.7 倍、運算效能提高 70% 至 67 INT8 TOPS,記憶體頻寬加大 50% 至每秒 102 GB。

無論是使用檢索增強生成技術來建立 LLM 聊天機器人、建立視覺 AI 代理,還是部署 AI 機器人,Jetson Orin Nano Super 都是理想的解決方案。

源源不絕的好禮

對於已經擁有 Jetson Orin Nano 開發者套件的使用者而言,新款 Jetson Orin Nano Super 的軟體更新服務也將提高運行生成式 AI 的效能。

Jetson Orin Nano Super 適合有興趣發展生成式 AI、機器人或電腦視覺技能的人士使用。隨著 AI 世界正從特定任務模型朝著基礎模型的方向轉變,它也提供了一個容易使用的平台,能夠協助將想法轉化成現實。

Jetson Orin Nano Super 擁有運行生成式 AI 強大效能

Jetson Orin Nano Super 更強大的運算效能能夠運行各種熱門的生成式 AI 模型和以 transformer 為基礎的電腦視覺。

這款開發者套件包含一個 Jetson Orin Nano 8GB 系統模組(SoM)與一個參考設計載板,提供開發邊緣 AI 應用原型的理想平台。

這個 SoM 搭載 NVIDIA Ampere 架構 GPU 及 Tensor 核心,以及 6 核心 Arm CPU,能夠同時運行多個 AI 應用管道與進行高效能推論作業。它最多可支援四具攝影機,提供比過去版本更高的解析度與幀率。

廣泛的生成式 AI 軟體生態系與社群

生成式 AI 正迅速發展。NVIDIA Jetson AI Lab 可立即支援由開源社群所發展出的尖端模型,並且提供簡單易用的教學內容。開發人員也可以從規模更大的Jetson 社群得到更多支援,以及從開發人員建立的項目裡獲得靈感。

Jetson能夠執行NVIDIA AI軟體,包括用於機器人的 NVIDIA Isaac、用於視覺 AI 的 NVIDIA Metropolis,以及用於處理感應器資料的 NVIDIA Holoscan。使用 NVIDIA Omniverse Replicator 來產生合成資料,以及使用用於微調 NGC 目錄裡預先訓練好的 AI 模型的 NVIDIA TAO Toolkit 可縮短開發時間。

Jetson 生態系合作夥伴提供額外的 AI 與系統軟體、開發者工具,以及開發專屬軟體。他們也能夠協助提供攝影機和其他感測器,以及載板和產品解決方案的設計服務。

Super 模式讓所有 Jetson Orin 獲得更佳效能

Jetson Orin NX 與 Orin Nano 系列系統模組同樣能夠藉由軟體更新服務,將運行生成式 AI 的效能提高 1.7 倍。

現有的 Jetson Orin Nano 開發者套件用戶可立即升級您的 JetPack SDK 以釋放更強大的效能。

了解更多關於 Jetson Orin Nano Super 開發套件的資訊

請參閱有關軟體產品資訊的公告