Oracle anunció hoy la próxima disponibilidad del nuevo  Oracle Cloud Infrastructure (OCI) Compute  instancias impulsadas por NVIDIA H100 Tensor Core GPUs, NVIDIA L40S GPUs, y las CPU AmpereOne™ de Ampere. Las nuevas instancias de OCI Compute están diseñadas para hacer más accesible a las organizaciones la ejecución en la nube de diversas cargas de trabajo, desde la formación, el ajuste y la inferencia de modelos de IA hasta la ejecución de aplicaciones nativas de la nube y aplicaciones de transcodificación de vídeo, al tiempo que ofrecen una mejor relación calidad-precio.

Las nuevas instancias OCI Compute basadas en GPUs NVIDIA de última generación incluirán:

• Instancias OCI Compute Bare Metal con GPU NVIDIA H100:  puede ayudar a los clientes a reducir el tiempo necesario para entrenar grandes modelos de IA, como los que utilizan los sistemas de recomendación y procesamiento del lenguaje natural. Las organizaciones que utilizan las GPU NVIDIA H100 Tensor Core han observado una mejora del >rendimiento de hasta 30 veces en casos de uso de inferencia de IA y un href="https://resources.nvidia.com/en-us-tensor-core/nvidia-tensor-core-gpu-datasheet">rendimiento 4 veces superior en el entrenamiento de modelos de IA en comparación con el uso de la generación anterior de >GPU NVIDIA A100 Tensor Core. Para los clientes que ejecutan cargas de trabajo de cálculo intensivo como el entrenamiento de modelos de IA, OCI Supercluster les permite conectar decenas de miles de GPU NVIDIA H100 a través de una red de clústeres de alto rendimiento y latencia ultrabaja. Está previsto que estas instancias estén disponibles de forma generalizada en las regiones de Oracle Cloud Londres y Oracle Cloud Chicago a finales de este año, a las que seguirán otras.

• Instancias OCI Compute Bare Metal equipadas con GPU NVIDIA L40S: proporcionarán a los clientes una opción alternativa para cargas de trabajo como la inferencia de IA o el entrenamiento de modelos de IA pequeños o medianos. Se ha comprobado que estas instancias ofrecen hasta un 20% más de rendimiento en las cargas de trabajo de IA generativa y >hasta un 70% más de mejora en el ajuste fino de modelos que la generación anterior de GPU NVIDIA A100. Está previsto que las instancias estén disponibles durante el próximo año.

Las próximas instancias informáticas de OCI basadas en CPU de Ampere Computing incluirán:

• Instancias OCI Compute A2 con CPU Ampere AmpereOne™: Se espera que ofrezcan una relación precio-rendimiento líder y el mayor recuento de núcleos de procesador disponible en el sector -320 núcleos en la forma de metal desnudo y hasta 156 núcleos en la forma de máquina virtual flexible- para impulsar una variedad de cargas de trabajo en la nube de uso general, incluida la ejecución de servidores web, la transcodificación de vídeo y el servicio de solicitudes de inferencia de IA basadas en CPU. El elevado número de núcleos disponibles en estas instancias puede soportar mayores niveles de rendimiento, densidad de máquinas virtuales y escalado para ayudar a los clientes a gestionar de forma más eficiente sus cargas de trabajo informáticas al tiempo que reducen la huella del centro de datos y el consumo de energía. Estas instancias también pueden ejecutar formas flexibles para máquinas virtuales con el fin de proporcionar a los clientes opciones granulares para la cantidad de potencia de procesamiento y memoria para ayudar a maximizar la utilización de los recursos y minimizar los costes, al tiempo que proporciona un modelo de precios sencillo y predecible. Está previsto que estas instancias estén disponibles el año que viene.

"OCI ha sido uno de los primeros proveedores de cloud computing en ofrecer instancias bare metal de forma nativa, lo que constituye una pieza clave de nuestra capacidad para hacer más accesible la alta computación a organizaciones de todo el mundo. Al proporcionar acceso a los procesadores de NVIDIA y Ampere Computing en OCI, estamos dando a nuestros clientes el rendimiento, la eficiencia y la flexibilidad que necesitan en su infraestructura en la nube para alimentar cualquier cosa, desde cargas de trabajo de propósito general hasta proyectos de IA de alto rendimiento", dijo Donald Lu, vicepresidente senior de desarrollo de software de Oracle Cloud Infrastructure. "Oracle es pionera en el mercado con ofertas de computación en la nube diseñadas específicamente para apoyar el desarrollo y el uso de la IA. Estamos bien posicionados para liderar la industria de la computación en la nube a medida que el mercado crece apoyando el creciente número de proveedores y usuarios de IA."

"La colaboración entre NVIDIA y Oracle está ayudando a democratizar el acceso a GPUs de última generación en Oracle Cloud Infrastructure", afirma Ian Buck, vicepresidente de hiperescala y computación de alto rendimiento de NVIDIA. "Las GPU NVIDIA H100 y L40S en OCI permitirán la innovación en IA con un rendimiento, escalabilidad y seguridad sin precedentes para clientes de todos los verticales."

"Oracle fue el primer proveedor de servicios en la nube en desplegar globalmente instancias de computación basadas en procesadores Ampere", dijo Jeff Wittich, director de producto de Ampere Computing. "Esta nueva generación de instancias basadas en Ampere A2 de Oracle Cloud Infrastructure proporcionará hasta 320 núcleos por instancia, líderes en la industria, para un rendimiento, densidad de carga de trabajo y escala aún mejores."

"Las próximas instancias de OCI Compute, impulsadas por GPU NVIDIA, nos darán la potencia que necesitamos para entrenar y servir la próxima generación de modelos de IA empresarial de Cohere, líderes del sector", afirma Martin Kon, presidente y director de operaciones de Cohere. "La nube de Oracle proporciona recursos informáticos fiables y potentes para crear modelos de alto rendimiento que pueden integrarse en cualquier aplicación y utilizarse en una amplia gama de sectores."

Naveen Rao, vicepresidente de IA generativa de Databricks, afirma: "El entrenamiento de grandes modelos lingüísticos en la plataforma MosaicML requiere miles de GPU NVIDIA ejecutadas en las instancias de cálculo de OCI, que aprovechan el almacenamiento de alto rendimiento y las redes de clúster ultrarrápidas. Hemos elegido OCI por su excelente relación calidad-precio para el entrenamiento e inferencia de IA a gran escala y estamos deseando utilizar las instancias de cálculo de OCI con las GPU NVIDIA H100 y L40S".

"Uber está revolucionando la forma en que las personas y las cosas se mueven por las ciudades. Como parte de una arquitectura multicloud, aprovechamos Oracle Cloud Infrastructure para cargas de trabajo críticas por su superior seguridad, rendimiento y flexibilidad", afirma Kamran Zargahi, director sénior de estrategia tecnológica de Uber. "Utilizamos instancias Standard y Dense I/O basadas en procesadores AMD, y planeamos utilizar OCI Compute con GPUs NVIDIA en el futuro".

Additional Resources

• Más información sobre Oracle Cloud Infrastructure
• Más información sobre OCI Compute
• Profundice en instances based on NVIDIA H100 GPUs
• Profundice en instances based on NVIDIA L40S GPUs
• Profundice en instances based on Ampere AmpereOne™ CPUs