博客

云端 AI 资源,随需而用: Oracle推出搭载 NVIDIA L40S GPU 的 Oracle Compute Cloud@Customer 和 Oracle Private Cloud Appliance

在瞬息万变的世界中,实时决策至关重要。无论数据所在何处,企业都需要即时获取切实可行的洞察。

Sanjay Pillai, 甲骨文公司产品管理总监, Jeevan Sreenivas, 甲骨文公司首席技术产品经理 —2025年2月5日

在瞬息万变的世界中,实时决策至关重要。无论数据所在何处,企业都需要即时获取切实可行的洞察。未来,人工智能 (AI) 将突破集中式云数据中心,扩展到企业的所有位置,通过高性能、超低延迟和灵活的部署选项提高竞争优势。作为 Oracle Distributed Cloud 战略的一部分,我们很高兴地宣布推出搭载 NVIDIA GPU 配置的 Oracle Compute Cloud@Customer(即日起可订购)和Oracle Private Cloud Appliance(三月份开放订购)。这些搭载 NVIDIA L40S GPU 的产品可直接将企业级 AI、图形和高性能计算 (HPC) 功能引入您想要的地方,包括您自己的数据中心。

通过结合使用 Oracle Distributed Cloud 平台与 NVIDIA GPU,企业可以在所需地方运行低延迟的生成式 AI 推断、大语言模型 (LLM) 微调、AI 视频分析和实时数字孪生模拟。通过在整个企业中部署由 GPU 加速的云技术功能,您可以按需获得性能、灵活性和可扩展性。同时,借助 Compute Cloud@Customer,您将能够保持对敏感数据的控制,有助于应对数据驻留和主权要求,并享受云自动化和经济优势。

Oracle Compute Cloud@Customer —在所需位置使用 AI

Oracle Compute Cloud@Customer 是一个全托管的混合云技术解决方案,支持您在数据中心内使用 Oracle Cloud Infrastructure (OCI) 服务,包括计算、存储、网络和 OCI Kubernetes Engine (OKE)。该解决方案提供与 OCI 相同的 API、软件开发人员工具包 (SDK) 和运营模型,让您可以选择要在什么地方使用云技术资源来运行应用。借助 Oracle Compute Cloud@Customer,您可以通过经济高效的按量计费定价模式,使用新的高性能基础设施和服务。

如果客户有特别的运营要求,需要在本地部署基于购买的财务模型并使用类似功能,我们的 Oracle Private Cloud Appliance 可以使用相同的硬件来提供相同的基础设施服务,并且是由客户而非 Oracle 拥有和管理的。

通过我们新推出的服务,您可以将 NVIDIA GPU 添加到 Compute Cloud@Customer 和 Private Cloud Appliance 中,从而获得以下主要特性:

  • 独立扩展 GPU、计算和存储:高达 48 个 L40S NVIDIA GPU、6,624 个拥有80.4 TB 内存的 OCPU ,以及混合配置高达 3.65 PB 的高容量存储和 1.2 PB 的高性能存储。
  • 强大的 GPU VM:高达四个 NVIDIA L40S GPU、108 个 Intel Xeon 8480+ CPU 核心、800 GB DDR5 内存和 400 Gbps 网络带宽,适用于高要求的工作负载
  • 超快的网络连接:可直接连接到 Exadata Cloud@Customer 或 Exadata Database Machine 的 800 Gbps 数据中心连接,将 GPU 的强大功能与 Oracle Database 23ai 的集成 AI Vector Search 相结合。
  • 内置 OKE,简化容器管理

使用 NVIDIA L40S GPU 为新一代 AI 提供强大支持

NVIDIA L40S GPU 基于 NVIDIA Ada Lovelace 架构构建而成,是一种多用途 GPU,旨在为 AI 密集型工作负载、HPC 和图形丰富的应用提供出色的性能。每个 NVIDIA L40S GPU 包含了:

  • 第四代 Tensor Core 和 Transformer Engine,可提供高达 1433 TFLOP 的 FP8 Tensor Core 性能、733 TFLOPS 的 FP16 Tensor Core 性能和 366 TFLOPS 的 TF32 Tensor Core 性能,所有这些都具有稀疏功能
  • 第三代 RT Core 和 NVIDIA DLSS 3,可实现 AI 增强的加速图形处理性能

L40S GPU 为 AI 用例提供的性能可高达 NVIDIA A100 GPU 的 1.7 倍,同时也提供出色的图形功能,非常适合希望扩展 AI 容量或运行混合工作负载的客户。L40S GPU 为 AI 推理、图形、数字孪生和实时 4K 流处理提供了量身定制的功能,为企业提供了创新和扩展的新机会。

OCI 边缘云技术产品管理副总裁 Matt Leonard 表示: “将 NVIDIA L40S GPU 添加到 Oracle Compute Cloud@Customer 为全球企业开拓了新的机遇。现在,企业可以享受到在自己的数据中心的便利,在生成式 AI、图形和高性能计算等领域应对客户高要求的企业级工作负载。企业可以实现低延迟的生成式 AI 推断、LLM 微调和实时数字孪生模拟,同时保持对敏感数据的控制,这有助于企业应对数据驻留和主权要求,并享受云技术自动化和经济效益。”

NVIDIA 边缘解决方案销售全球主管 Irfan Ali 则表示: “借助 Oracle Compute Cloud@Customer 产品,客户可以利用多达 48 个 L40S GPU,大规模运行 AI 和图形工作负载,同时保持对数据的控制,并以低延迟的方式访问其他数据源和消费者。NVIDIA L40S GPU 增加了对 FP8 数据类型的支持,与 NVIDIA AI Enterprise 和 NVIDIA Omniverse 平台结合使用,使新的生成式 AI 能够部署在各行各业的企业边缘,包括金融服务、制造、医疗卫生等。”

实际应用效益

利用 Oracle Database 23ai 加速洞察

Oracle Database 23ai 将 AI 向量数据类型和搜索功能直接集成到主流的关系型数据库中。因此,您无需多个孤立的数据库或移动数据,即可实现 AI 驱动的洞察,这将有助于提高性能和数据安全性。通过在 Exadata Cloud@Customer 上加速 AI Vector Search,再搭配使用搭载 NVIDIA L40S GPU 的 Oracle Compute Cloud@Customer,您可以在数据中心部署完整的分布式云技术解决方案,从而优化整个计算、存储、网络和数据栈。那些凭借 Exadata Cloud@Customer 来运行 Oracle Database 的企业,现在也可以使用 Compute Cloud@Customer 来运行应用层和支持工作负载。

银行和金融行业的欺诈检测

通过在 Oracle Compute Cloud@Customer 或 Oracle Private Cloud Appliance 上部署 AI 驱动的欺诈检测系统,银行每天都能够以超快的速度和精确度分析数百万笔交易。这些系统可实时识别异常交易模式,有助于缩短响应时间并减少误报。金融机构可以在本地 Exadata Cloud@Customer 上安全地存储和处理敏感财务数据,从而应对严格的监管要求,同时提高欺诈检测准确性。作为高级解决方案的一部分,这些机构还可以集成像 NVIDIA Morpheus 这种框架,在需要时进一步优化 AI 驱动的欺诈检测工作流。

通过数字孪生实现智能工厂优化

通过使用 Oracle Compute Cloud@Customer 或 Oracle Private Cloud Appliance,制造商可以为生产线开发高保真数字孪生模型。这些数字副本有助于实现实时监视、预测性维护和工作流测试,而不会中断实际操作。工程师可以模拟新流程、优化性能并减少停机时间,从而显著节省成本并加速创新。

利用 Oracle Distributed Cloud 的 GPU 资源采取进一步行动

Oracle Compute Cloud@Customer 和 Oracle Private Cloud Appliance 都具备基于 NVIDIA L40S GPU 的 GPU 扩展选项,能够在 AI 驱动的转型时代中,在所需地方为企业赋能。无论是保护财务系统、优化工业运营,还是在边缘提供实时洞察,Oracle Distributed Cloud 解决方案都可以帮助企业更快地创新、更智能地运营并全面控制数据。

如需了解有关 Compute Cloud@Customer 和 Private Cloud Appliance 及其 GPU 扩展的更多信息,请参阅 Oracle Compute Cloud@Customer Oracle Private Cloud Appliance 页面。

Compute Cloud@Customer、Private Cloud Appliance 和 GPU 扩展的所有出口、再出口、传输和使用都需要遵守美国及其它适用的出口管制和经济制裁法律法规。

以上内容旨在概述产品的总体发展方向。该内容仅供参考,不可纳入任何合同。本文档中的内容不构成提供任何资料、代码或功能的承诺,并且不应该作为制定购买决策的依据。此处所述有关 Oracle 产品的任何特性或功能的开发、发布、日程安排以及定价均由 Oracle Corporation 自行决定。

Latest Newsfeed

注:为免疑义,本网页所用以下术语专指以下含义:

  1. 除Oracle隐私政策外,本网站中提及的“Oracle”专指Oracle境外公司而非甲骨文中国。
  2. 相关Cloud或云术语均指代Oracle境外公司提供的云技术或其解决方案。