A Oracle anunciou hoje a próxima disponibilidade para novas instâncias de computação Oracle Cloud Infrastructure (OCI) com GPUs NVIDIA H100 Tensor Core, GPUs NVIDIA L40S e CPUs Ampere AmpereOne! . As novas instâncias OCI Compute foram projetadas para tornar a execução de uma variedade de cargas de trabalho, desde treinamento, ajuste fino e inferência de modelo de IA até a execução de aplicativos nativos da nuvem e transcodificação de vídeo na nuvem, mais acessíveis às organizações, proporcionando melhor preçodesempenho.

As próximas instâncias de computação OCI baseadas em GPUs NVIDIA de próxima geração incluirão:

• OCI Compute Bare Metal Instances Powered by NVIDIA H100 GPUs: Pode ajudar os clientes a reduzir o tempo necessário para treinar grandes modelos de IA, como aqueles que alimentam sistemas de processamento e recomendação de linguagem natural. As organizações que usam GPUs NVIDIA H100 Tensor Core viram uma melhoria de 30x no desempenho para casos de uso de inferência de IA e 4x melhor desempenho em modelos de IA em comparação com a geração anterior de GPUs NVIDIA A100 Tensor Core. Para clientes que executam cargas de trabalho de computação intensas, como treinamento de modelo de IA, o OCI Supercluster permite que eles conectem dezenas de milhares de GPUs NVIDIA H100 em uma rede de cluster de latência ultra baixa e alto desempenho. Essas instâncias estão planejadas para estarem disponíveis no Oracle Cloud London Region e no Oracle Cloud Chicago Region no final deste ano, com outras previstas para seguir.
• OCI Compute Bare Metal Instances Powered by NVIDIA L40S GPUs: : Fornecerá aos clientes uma opção alternativa para cargas de trabalho, como inferência de IA ou treinamento de modelos de IA pequenos a médios. Essas instâncias foram testadas para oferecer uma melhoria de até 20% no desempenho de cargas de trabalho gerativas de IA e uma melhoria de até 70% nos modelos de ajuste fino em relação à geração anterior de GPUs NVIDIA A100. As instâncias devem estar disponíveis no próximo ano.

As próximas instâncias de computação OCI baseadas em GPUs Ampere Computing incluirão:

• OCI Compute A2 Instances Powered by Ampere AmpereOneCPUs: Espera-se que entreguem o melhor desempenho de preço e a maior contagem de núcleos de processador disponível na indústria-320 núcleos na forma de metal nu e até 156 núcleos na forma de VM flexível-para alimentar uma variedade de geralcargas de trabalho na nuvem, incluindo a execução de servidores Web, transcodificação de vídeo e manutenção de solicitações de inferência de IA baseadas em CPU. A alta contagem de núcleos disponível nessas instâncias pode oferecer suporte a níveis maiores de desempenho, densidade de máquina virtual e escalabilidade para ajudar os clientes a gerenciar com mais eficiência suas cargas de trabalho de computação, reduzindo o espaço ocupado pelo data center e o consumo de energia. Essas instâncias também podem executar formas flexíveis para máquinas virtuais para fornecer aos clientes opções granulares para a quantidade de capacidade de processamento e memória para ajudar a maximizar a utilização de recursos e minimizar os custos, fornecendo um modelo de preços simples e previsível. Estas instâncias estão previstas para o próximo ano.

"A OCI foi um dos primeiros provedores de nuvem a oferecer instâncias bare metal nativamente, o que é uma parte fundamental de nossa capacidade de tornar a computação de alto desempenho mais acessível para organizações em todos os lugares. Ao fornecer acesso a processadores da NVIDIA e da Ampere Computing no OCI, estamos oferecendo aos nossos clientes o desempenho, a eficiência e a flexibilidade de que precisam em sua infraestrutura de nuvem para alimentar qualquer coisa, desde cargas de trabalho de propósito geral até projetos de IA de alto desempenho,", disse Donald Lu, vice-presidente sênior de desenvolvimento de software da Oracle Cloud Infrastructure. "A Oracle está no início do mercado com ofertas de computação em nuvem projetadas especificamente para apoiar o desenvolvimento e o uso da IA. Estamos bem posicionados para liderar o setor de computação em nuvem à medida que o mercado cresce, apoiando o número crescente de provedores e usuários de IA."

"A colaboração entre a NVIDIA e a Oracle está ajudando a democratizar o acesso a GPUs de ponta na infraestrutura de nuvem da Oracle", disse Ian Buck, vice-presidente da Hyperscale e Computação de alto desempenho, NVIDIA. "As GPUs NVIDIA H100 e L40S na OCI permitirão a inovação da IA com desempenho, escalabilidade e segurança sem precedentes para os clientes em todos os setores."

"A Oracle foi o primeiro provedor de serviços de nuvem a implantar globalmente instâncias de computação baseadas em processadores Ampere", disse Jeff Wittich, diretor de produtos da Ampere Computing. "Esta nova geração de instâncias baseadas em Ampere A2 do Oracle Cloud Infrastructure fornecerá até 320 núcleos líderes do setor por instância para desempenho, densidade de carga de trabalho e escala ainda melhores."

"As próximas instâncias de computação da OCI, alimentadas por GPUs da NVIDIA, nos darão o poder necessário para treinar e atender a próxima geração de modelos de IA corporativa líderes do setor da Cohere", disse Martin Kon, presidente e COO da Cohere. "A nuvem da Oracle fornece recursos de computação confiáveis e poderosos para criar modelos de alto desempenho que podem ser incorporados em qualquer aplicativo e usados em uma ampla gama de indústrias."

"O treinamento de grandes modelos de linguagem na plataforma MosaicML requer milhares de GPUs NVIDIA em execução nas instâncias de computação bare metal da OCI, que aproveitam o armazenamento de alto desempenho e a rede de cluster ultrarrápida", disse Naveen Rao, vice-presidente da Generative AI, Databricks. "Escolhemos a OCI por seu desempenho de preço superior para treinamento e inferência de IA em escala e esperamos usar as instâncias de computação OCI com GPUs NVIDIA H100 e L40S."

"O Uber está revolucionando a maneira como as pessoas e as coisas se movem pelas cidades. Como parte de uma arquitetura multicloud, aproveitamos o Oracle Cloud Infrastructure para cargas de trabalho críticas devido à sua segurança, desempenho e flexibilidade superiores", disse Kamran Zargahi, diretor sênior de estratégia de tecnologia da Uber. "Usamos instâncias de E/S padrão e densa baseadas em processadores AMD e planejamos usar a computação OCI com GPUs NVIDIA no futuro."