Oracle 和 NVIDIA 合作提供加速運算和生成式 AI 服務,有助於建立數位主權並管理專有資料
Oracle 在 OCI Supercluster、OCI Compute 和 NVIDIA DGX Cloud 上採用 NVIDIA Grace Blackwell
美國德克薩斯州奧斯汀和加利福尼亞州聖荷西—2024年3月18日2024 年 3 月 18 日 — Oracle 和 NVIDIA 宣布擴大合作,為全球客戶提供主權 AI 解決方案。Oracle 的分散式雲端、AI 基礎架構和生成式 AI 服務,再加上 NVIDIA 加速運算和生成式 AI 軟體,共同協助組織機構部署 AI 工廠。 這些 AI 工廠可以在本地使用雲端服務,并在國家/地區或組織的安全場所內使用一系列操作控制功能,以促進多元化和經濟成長,實現目標。
Oracle 執行長 Safra Catz 表示:「隨著 AI 重新塑造全球業務、產業及政策,各國及組織必須強化數位主權,才能保護寶貴的資料。我們與 NVIDIA 持續合作,同時憑藉我們在本地快速部署雲端區域的獨特能力,將確保在安全的情況下推動社會利用 AI。」
NVIDIA 創辦人暨執行長黃仁勳表示:「在生成式 AI 驅動創新的時代,資料主權關係到文化和經濟發展。Oracle 的整合雲端應用程式和基礎架構,與 NVIDIA 加速運算和生成式 AI 服務相結合,賦予各個國家和地區所需的彈性和安全性來掌控資料主權。」
NVIDIA 全棧AI 平台與 Oracle 的企業級 AI (可在 OCI Dedicated Region、Oracle Alloy、Oracle EU Sovereign Cloud 和 Oracle Government Cloud 上部署) 相結合,為客戶提供先進的 AI 解決方案,以更好地控制營運、位置和安全性,有助於掌控數位主權。
全球各國/地區都在加大對 AI 基礎架構的投資,以推動文化和經濟發展。在 26 個國家/地區的 66 個雲端區域中,客戶可以存取涵蓋基礎架構和應用程式的超過 100 個雲端和 AI 服務,以支援 IT 移轉、現代化和創新。
客戶可以透過公有雲或特定位置的客戶資料中心部署這兩家企業的組合產品,並享有靈活的操作控制。Oracle是能夠在本地提供 AI 和完整雲端服務的超大規模供應商。OCI 服務和定價在不同部署類型之間保持一致,以簡化規劃、可移動性和管理。
Oracle 的雲端技術運用一系列 NVIDIA 堆疊,例如 NVIDIA 加速運算基礎架構和 NVIDIA AI Enterprise 軟體平台,其中包括新推出的 NVIDIA NIM™ 推論微服務。這些微服務建立在 NVIDIA TensorRT™、NVIDIA TensorRT-LLM 和 NVIDIA Triton Inference Server™ 等 NVIDIA 推論軟體的基礎上。
瑞士銀行業軟體供應商 Avaloq 藉助 OCI Dedicated Region,將完整的 OCI 公有雲區域導入自己的資料中心。
Avaloq技術長 Martin Büchi表示:「OCI Dedicated Region符合我們的承諾,盡可能地控制資料駐留,同時提供對雲端基礎架構的訪問,幫助我們繼續推動銀行和財富管理機構的數位轉型。」
紐西蘭領先的資訊管理服務供應商 TEAM IM 選擇 Oracle Alloy 來打造紐西蘭第一個本地擁有及營運的超大規模雲端TEAM Cloud。
TEAM IM 執行長 Ian Rogers 表示:「紐西蘭的企業越來越希望利用雲端的強大功能,同時藉助獨特的超大規模雲端解決方案保護境内的資料完整性。透過使用 Oracle Alloy以及將 NVIDIA AI 平台整合到我們的雲端服務中的可能性,我們能夠成為一家雲端服務供應商,協助公共部門、商業和當地組織應對複雜的數位環境,並优化數位轉型計畫。」
阿聯酋電信運營商e& UAE與 Oracle 合作加强其 AI 功能,並計畫在 OCI Dedicated Region 內部署 NVIDIA H100 Tensor Core GPU 叢集。
e& UAE 技術與資訊長Khalid Murshed 表示:「OCI能夠讓我們在自己的 OCI Dedicated Region 內部署 NVIDIA H100 GPU 叢集的供應商,並託管在 e& UAE的資料中心。這樣的本本地化方案將幫助我們加速AI 創新,以及大規模開發新的生成式 AI應用程式和用例。這與 e& UAE 致力於引領創新和塑造技術未來的轉型努力相一致,我們致力於推動AI發展,以提供無與倫比的客戶體驗。」
為了協助客戶滿足 AI 模型不斷增長的需求,Oracle 計劃在 OCI Supercluster 和 OCI Compute 中利用在 GTC 大會上發布的新的 NVIDIA Grace Blackwell 運算平台。憑藉新的 OCI Compute 裸機實例、超低延遲 RDMA 網路和高效能儲存,OCI Supercluster 速度的將顯著加快。OCI Compute 將同時採用 NVIDIA GB200 Grace Blackwell Superchip 與 NVIDIA Blackwell B200 Tensor Core GPU。
NVIDIA GB200 Grace™ Blackwell Superchip將推動新的運算時代。與上一代GPU 相比,GB200 的即時大型語言模型 (LLM) 推論速度提高了30倍,TCO 降低了25 倍,所需能源減少了25 倍,從而增強了AI 訓練、資料處理以及工程設計和模擬的能力。NVIDIA Blackwell B200 Tensor Core GPU 專為嚴苛的 AI、資料分析以及高效能運算 (HPC) 工作負載而設計。
NVIDIA NIM 和CUDA-X™ 微服務 ,包括用於檢索增強生成 (RAG) 推論部署的 NVIDIA NeMo Retriever,也將協助 OCI 客戶使用自己的資料為其生成式 AI copilots和其他生產力工具帶來更多洞察,並提高準確性。
為了滿足客戶對日益複雜的 AI 模式不斷增長的需求,這兩家企業將在 OCI 上的 NVIDIA DGX™ Cloud 提供 NVIDIA Grace Blackwell。透過這項聯合設計的超級運算服務,客戶將能夠存取新的 GB200 NVL72 型實例,該服務專為在萬億參數 LLM 時代進行節能訓練和推論而設計。
完整的 DGX Cloud 叢集建置將包含超過 20,000 個 GB200 加速器和 NVIDIA CX8 InfiniBand 網路,提供可高度擴展且高效能的雲端基礎架構。該叢集將由 72 個 Blackwell GPU NVL 72 和 36 個配備第五代 NVLink™ 的 Grace CPU 組成。
Oracle 和 NVIDIA 的主權 AI 解決方案現已推出。若要瞭解詳情,請造訪Oracle主權AI頁面。
本新聞稿中的某些聲明包括但不限於有關以下方面的聲明:NVIDIA 產品和技術的優勢、影響、效能、功能和可用性,包括NVIDIA 加速運算基礎架構和NVIDIA AI Enterprise 軟體平台(包括NVIDIA NIM推論)微服務、TensorRT、NVIDIA TensorRT-LLM、NVIDIA Triton 推論伺服器; NVIDIA H100 Tensor Core GPU、NVIDIA GB200 Grace Blackwell Superchip、NVIDIA Blackwell B200 Tensor Core GPU、NVIDIA CUDA-X 微服務,包括用於檢索增強生成(RAG) 推論部署的NVIDIA NeMo Retriever、NVIDIA DGX Cloud、GB200 N72 ; NVIDIA 與 Oracle 合作的優勢和影響,以及其服務和產品的功能和可用性; 生成式AI驅動的創新和由生成式AI驅動的創新屬於前瞻性陳述,這些陳述存在風險和不確定性,可能導致結果與預期有重大差異。 可能導致實際結果出現重大差異的重要因素包括: 全球經濟狀況; NVIDIA 依賴第三方來製造、組裝、封裝和測試 NVIDIA 產品; 技術發展和競爭的影響; 開發新產品和技術或增強 NVIDIA 現有產品和技術; NVIDIA 產品或 NVIDIA 合作夥伴產品的市場接受度; 設計、製造或軟體缺陷; 消費者偏好或需求的變化; 業界標準和介面的變化; NVIDIA 產品或技術整合到系統中時出現意外效能損失; 以及 NVIDIA 向美國證券交易委員會 (SEC) 提交的最新報告中不時詳述的其他因素,包括但不限於 10-K 表中的年度報告和 10-Q 表中的季度報告。 向 SEC 提交的報告副本發佈在該公司的網站上,並且可以從 NVIDIA 免費取得。 這些前瞻性陳述並非對未來業績的保證,僅代表截至本協議發布之日的情況,並且除非法律要求,否則 NVIDIA 不承擔任何更新這些前瞻性陳述以反映未來事件或情況的義務。
本文所述的許多產品和功能仍處於不同階段,將在可用時提供。 上述聲明無意也不應被解釋為承諾、諾言或法律義務,我們產品描述的任何特性或功能的開發、發布和時間安排可能會發生變化,並保留NVIDIA 的自由裁量權。 NVIDIA 對於未能交付或延遲交付本文所述的任何產品、特性或功能不承擔任何責任。
自 1993 年成立以來,NVIDIA (NASDAQ:NVDA) 一直是加速運算領域的先驅。該公司自 1999 年發明 GPU 起便成功促進 PC 電競市場的成長、重新定義電腦繪圖、開啟現代 AI 時代,並推動整個市場的工業數位化。NVIDIA 現在是一家全棧運算基礎架構公司,憑藉其資料中心規模的解決方案重塑產業發展。欲瞭解更多資訊,請造訪 nvidianews.nvidia.com.
Oracle 在 Oracle Cloud 中提供整合式應用程式套件以及安全的自主基礎架構。如需有關 Oracle (NYSE: ORCL) 的詳細資訊,請造訪 www.oracle.com.
Oracle、Java、MySQL 和 NetSuite 是 Oracle Corporation 的註冊商標。
© 2024 NVIDIA 公司。版權所有。 NVIDIA、NVIDIA logo、CUDA-X、DGX、NVIDIA NeMo、NVIDIA NIM、NVIDIA Triton 推論伺服器、NVLink 和 TensorRT 是 NVIDIA Corporation 在美國和/或其他國家的商標和/或註冊商標。 其他公司和產品名稱可能是與其相關的各個公司的商標。 功能、定價、可用性和規格如有變更,恕不另行通知。