NVIDIA 與 Amazon Web Services 本週在拉斯維加斯舉行的 AWS re:Invent 2024 大會上攜手展示目標加速人工智慧(AI)和機器人技術突破,並簡化量子運算開發研究的全新解決方案,以拓展雲端開發人員與企業的各種可能性。
AWS re:Invent 是全球雲端運算領域的年度盛會,其中包含主題演講和逾兩千場的技術研討會。
最新消息的重點包括在 AWS 上提供 NVIDIA DGX Cloud,以及更加強大的 AI、量子運算和機器人工具。
AWS 上的 NVIDIA DGX Cloud 協助大規模推行 AI
NVIDIA DGX Cloud AI 運算平台現已透過 AWS Marketplace 私有優惠提供,為企業提供高效能、完全託管的解決方案,以訓練與客製化 AI 模型。
DGX Cloud 提供彈性的使用條款、完全託管與最佳化的平台,並可直接連絡 NVIDIA 專家,幫助企業快速擴展 AI 能力。
Canva 旗下的 Leonardo.ai 為早期採用者,已在 AWS 上使用 DGX Cloud 開發先進的設計工具。
採用 NVIDIA Blackwell 平台的 AWS 液冷式資料中心
新型的 AI 伺服器可受惠於液冷技術,更有效率地冷卻高密度運算晶片,以獲得更佳效能與能源效率。AWS 已經開發出解決方案,可為其所有資料中心提供可配置的晶片液冷技術。
今天推出的冷卻解決方案將為 NVIDIA GB200 NVL72 等最強大的機架式 AI 超級運算解決方案,以及 AWS 的網路交換器與儲存伺服器,無縫整合氣冷與液冷功能。
這種靈活的多模式冷卻設計可為運行 AI 模型提供最佳效能與效率,並將用於下一代 NVIDIA Blackwell 平台。
NVIDIA Blackwell 平台將成為 Amazon EC2 P6 執行個體、AWS 上的 DGX Cloud 及 Project Ceiba 的基礎。
NVIDIA 透過在 AWS 上的加速機器人模擬技術推進實體 AI
NVIDIA 也透過 NVIDIA Isaac Sim 擴大 AWS 上 NVIDIA Omniverse 的應用範圍,Isaac Sim 現在可以在由 NVIDIA L40S GPU 加速的高效能 Amazon EC2 G6e 執行個體上運行。
這款以 NVIDIA Omniverse 為基礎的參考應用程式現已開放使用,讓開發人員能夠在符合物體原則的虛擬環境裡模擬與測試 AI 驅動的機器人。
生成合成資料(synthetic data generation)是 Isaac Sim 支援的眾多工作流程之一。隨著 OpenUSD NIM 微服務的加入,這個工作流程也進一步加速,從建立場景到加強資料等方面。
Aescape、Cohesive Robotics、Cobot、Field AI、Standard Bots、Swiss Mile 及 Vention 等機器人公司正在使用 Isaac Sim 在部署之前模擬和驗證機器人的效能表現。
Rendered.ai、SoftServe 和塔塔顧問服務(Tata Consultancy Services)等業者同樣正在使用 Omniverse Replicator 和 Isaac Sim 的合成資料的生成功能來引導感知 AI 模型,以驅動各種機器人應用程式。
AWS 上適用於先進 AI 藥物探索技術的 NVIDIA BioNeMo
為推動尖端藥物探索而開發的 NVIDIA BioNeMo NIMs 及 AI Blueprints,現在已整合至 AWS HealthOmics,這是一項完全託管的生物資料運算與儲存服務,目標加速臨床診斷與藥物探索的科學突破。
這項合作讓研究人員能夠使用專為藥物探索工作流程量身打造的 AI 模型和具擴充能力的雲端基礎設施。目前已有多家生技公司使用 AWS 上的 NVIDIA BioNeMo 來推動其研發流程。
像是位在西雅圖的生技公司 A-Alpha Bio 日前在 biorxiv 發表了一篇研究,說明與 NVIDIA 及 AWS 的合作開發並部署一個名為 AlphaBind 的抗體 AI 模型。
A-Alpha Bio 經由 BioNeMo 框架在搭載 NVIDIA H100 Tensor 核心 GPU 的 Amazon EC2 P5 執行個體上使用 AlphaBind,推論速度加快了 12 倍,並在兩個月內處理了超過 1.08 億次的推論呼叫。
SoftServe 還在今天推出採用 NVIDIA Blueprints 打造的生成式 AI 解決方案 Drug Discovery,以實現電腦輔助藥物探索及高效藥物開發。這個解決方案預計將提供更快速的工作流程,並即將在 AWS Marketplace 開放使用。
即時 AI Blueprints:適用於視訊、資訊安全等領域的即時部署選項
NVIDIA 最新的 AI Blueprints 可以在 AWS 上立即部署,讓使用者可以隨時取用用於容器安全的漏洞分析,以及視訊搜尋和摘要代理等即時應用程式。
開發人員可以輕鬆地將這些藍圖(blueprint)與現有的工作流程進行整合,以加快部署速度。
開發人員與企業可利用適用於視訊搜尋與摘要的 NVIDIA AI Blueprint 來建立視覺 AI 代理,以分析即時或已歸檔的視訊內容,回答使用者的問題、產生摘要,並且針對特定情境啟用警示功能。
AWS 與 NVIDIA 合作提供參考架構,將 NVIDIA AI Blueprint 應用於漏洞分析,以增強 AWS 雲端原生服務上持續整合管道裡的早期安全修補功能。
Amazon Braket 上的 NVIDIA CUDA-Q:量子運算技術變得實用
NVIDIA CUDA-Q 現已與 Amazon Braket 整合,以簡化量子運算的開發流程。CUDA-Q 使用者可以利用 Amazon Braket 的量子處理器,而 Braket 使用者則能使用 CUDA-Q 的 GPU 加快工作流程進行開發和模擬。
CUDA-Q 平台讓開發人員能夠建立混合式量子傳統應用程式,並在模擬與實體等多種量子處理器上運行。
NVIDIA CUDA-Q 現已預先安裝在 Amazon Braket 上,為混合式量子傳統應用程式提供無縫的開發平台,開啟量子研究的嶄新潛力。
企業平台供應商與主要諮詢服務業者在 AWS 上與 NVIDIA 推動 AI 發展
領先的軟體平台與全球系統整合商正在協助企業快速擴大在 AWS 上使用 NVIDIA AI 所建置的生成式 AI 應用。企業在 AWS 上使用完整的 NVIDIA AI 堆疊,以推動各產業的創新。
Cloudera 利用 AWS 上的 NVIDIA AI 來增強其全新的 AI 推論解決方案,讓美慈組織(Mercy Corps)得以改善其援助分配技術的精準度與有效性。
Cohesity 已將 NVIDIA NeMo Retriever 微服務整合至其生成式 AI 驅動的會話式搜尋助理 Cohesity Gaia,以改善檢索增強生成的召回效能。在 AWS 上運行 Cohesity 的客戶可利用 Gaia 裡的 NeMo Retriever 整合。
DataStax 宣布德國維基媒體協會(Wikimedia Deutschland)使用 DataStax AI 平台,讓維基百科的資料可以當成嵌入式向量資料庫提供給開發人員使用。DataStax AI 平台以 NVIDIA NeMo Retriever 與 NIM 微服務進行開發,並可以在 AWS 上使用。
德勤的 C-Suite AI 現在支援 NVIDIA AI Enterprise 軟體,包括 NVIDIA NIM 微服務和 NVIDIA NeMo,用於針對財務長的使用個案,包括財務報表分析、情境建模和市場分析。
RAPIDS 快速入門筆記現已在 Amazon EMR 上開放使用
NVIDIA 與 AWS 還透過 RAPIDS Accelerator for Apache Spark 加快處理資料科學和資料分析工作負載的速度,RAPIDS Accelerator for Apache Spark 無需修改程式碼,就能加快處理分析和機器學習工作負載的速度,並且將資料處理成本降低 80%。
RAPIDS Accelerator for Apache Spark 的快速入門筆記現已在 Amazon EMR、Amazon EC2 及 Amazon EMR on EKS 上開放使用。這些筆記讓用戶可以在 AWS EMR 內,即能對 Spark 的作業進行認證,並在經過調整之後將 RAPIDS 在 GPU 上的效能發揮到極致。
NVDIA 與 AWS 共同驅動下一代工業邊緣系統
NVIDIA IGX Orin 及 Jetson Orin 平台現已與 AWS IoT Greengrass 無縫整合,以簡化在邊緣部署與執行 AI 模型的流程,並有效管理規模化的連線裝置。這項合作強化了工業與機器人應用的擴充性,同時讓部署流程變得更加簡單。
開發人員現在可以利用 NVIDIA 先進的邊緣運算能力,加上 AWS 專門開發出的物聯網服務,為自主機器和智慧感測器創造一個安全又具擴充性的環境。由 AWS 撰寫的入門指南現已推出,可以協助開發人員使用這些功能。
這項整合強調 NVIDIA 致力於推動企業就緒的工業邊緣系統,以在實際應用裡能夠快速且智慧地完成作業。
在 AWS: re:Invent 2024 大會中透過現場展示、技術研討會與實作實驗室,瞭解更多 NVIDIA 的成果。
請參閱有關軟體產品資訊的通知。