Infraestrutura de IA

Execute as cargas de trabalho de IA mais exigentes com mais rapidez, incluindo IA generativa, visão computacional e análise preditiva, em qualquer lugar da nossa nuvem distribuída. Use o Oracle Cloud Infrastructure (OCI) Supercluster para dimensionar até 32.768 GPUs hoje e 131.072 GPUs em breve.*

OCI Supercluster: A infraestrutura que impulsiona a IA generativa em escala (0:55)

Saiba como acelerar o treinamento e a inferência de IA

Por que executar na infraestrutura de IA da OCI?

Desempenho e valor de IA líderes

A infraestrutura de IA da OCI fornece o mais alto desempenho e valor para todas as cargas de trabalho de IA, incluindo inferência, treinamento e assistentes de IA.

Armazenamento HPC

Aproveite os pontos de acesso NFS (HPMTs) de alto desempenho para até 500 Gb/s de taxa de transferência sustentada. Use 61,44 TB de capacidade de armazenamento local, a mais alta do setor para instâncias com GPUs NVIDIA H100.

Habilite a IA soberana

A nuvem distribuída da Oracle permite que você implemente infraestrutura de IA em qualquer lugar para ajudar a atender aos requisitos de desempenho, segurança e soberania de IA.

Escalabilidade da imagem do OCI Supercluster, descrição abaixo A imagem mostra caixas que representam computação e armazenamento, conectadas por linhas para rede de clusters. Na extrema esquerda, há quatro caixas de computação e duas para armazenamento para o menor cluster com 16.000 GPUs NVIDIA H100. À direita, há 8 caixas de computação e 4 caixas de armazenamento para 32.000 GPUs NVIDIA A100 em um cluster. Em seguida, há 16 caixas de computação e 8 caixas de armazenamento para 64.000 GPUs NVIDIA H200. Finalmente, à extrema direita, existem 32 caixas de computação e 16 caixas de armazenamento para 128.000 GPUs NVIDIA Blackwell e Grace Blackwell. Isso mostra a escalabilidade do OCI Supercluster aumentando em 8 vezes, desde a menor configuração de 16.000 GPUs na extrema esquerda até a maior configuração de 128.000 GPUs na extrema direita.

OCI Supercluster com GPUs NVIDIA Blackwell e Hopper

Até 131.072 GPUs, 8X mais escalabilidade
As inovações de malha de rede permitirão que o OCI Supercluster seja dimensionado para até 131.072 GPUs NVIDIA B200, mais de 100.000 GPUs Blackwell no NVIDIA Grace Blackwell Superchips e 65.536 GPUs NVIDIA H200. Obtenha até 8X mais escalabilidade sobre os limites atuais para o OCI Supercluster com GPUs NVIDIA A100 e H100.

Infraestrutura da OCI AI para todas as suas necessidades

Não importa se você está procurando realizar inferência, ajustar ou treinar modelos de grande escala para IA generativa; a OCI oferece opções de cluster de GPU bare metal e máquina virtual líderes no setor, alimentadas por uma rede de largura de banda ultra-alta e armazenamento de alto desempenho para atender às suas necessidades de IA.

Diagrama de produtos de infraestrutura de IA, descrição abaixo
A OCI também oferece GPUs NVIDIA P100 e V100 de geração mais antiga
A imagem mostra vários produtos para a Infraestrutura de IA começando na parte inferior esquerda com as menores configurações, aumentando progressivamente para configurações de média e grande escala. As menores configurações são com apenas 1 GPUs em uma máquina virtual e as maiores configurações são para mais de 100.000 GPUs em clusters RDMA.

Os inovadores de IA utilizam a OCI para hospedar, treinar e inferir modelos de IA de última geração.

Explore o OCI Supercluster para treinamento de IA em larga escala

Já disponível: clusters massivos e escaláveis com GPUs NVIDIA H100, A100 e L40S


Computação
• 8 GPUs NVIDIA H100; SSDs NVMe de 61,44 TB por nó
• 8 GPUs NVIDIA A100; SSDs NVMe de 27,2 TB por nó
• 4 GPUs NVIDIA L40S; SSDs NVMe de 7,38 TB por nó

Armazenamento
• Armazenamento em bloco: até 32 TB por volume
• Armazenamento de objetos: até 10 TiB por objeto
• Armazenamento de arquivos: até 8 EB por sistema de arquivos
• Clusters de armazenamento com formas de E/S densa.

Rede
• RDMA sobre Ethernet convergente (RoCE v2)
• Poucos microssegundos de latência entre os nós
• Largura de banda entre os nós do supercluster OCI:
o NVIDIA H100: 3200 Gb/seg
o NVIDIA A100: 1600 Gb/seg
o NVIDIA L40S: 800 Gb/seg

Como o OCI Supercluster funciona

Assista ao arquiteto técnico Pradeep Vincent explicar como o OCI Supercluster potencializa o treinamento e a inferência de modelos de machine learning, podendo ser dimensionados para dezenas de milhares de GPUs NVIDIA.

Casos de uso típicos de infraestrutura de IA

Treine modelos de IA em instâncias bare metal da OCI com GPUs, rede de cluster RDMA e o OCI Data Science.


Diagrama de treinamento e inferência de aprendizado profundo, descrição abaixo
Treine modelos de IA em instâncias bare metal da OCI com GPUs, rede de cluster RDMA e o OCI Data Science.

Proteger os bilhões de transações financeiras que acontecem todos os dias requer ferramentas aprimoradas de IA que possam analisar grandes quantidades de dados históricos dos clientes. Os modelos de IA executados no OCI Compute com GPUs NVIDIA, juntamente com ferramentas de gerenciamento de modelos, como o OCI Data Science e outros modelos de código aberto, ajudam as instituições financeiras a mitigar fraudes.


Diagrama detecção de fraude aumentada por IA, descrição abaixo
Os modelos de IA executados no OCI Compute com GPUs NVIDIA, juntamente com ferramentas de gerenciamento de modelos, como o OCI Data Science e outros modelos de código aberto, ajudam as instituições financeiras a mitigar fraudes.

A IA é frequentemente usada para analisar vários tipos de imagens médicas (como raios-X e ressonâncias magnéticas) em um hospital. Modelos treinados podem ajudar a priorizar casos que precisam de revisão imediata por um radiologista e relatar resultados conclusivos sobre outros.


Diagrama análise de imagem médica baseada em IA, descrição abaixo
Os modelos treinados em execução no OCI Compute com GPUs podem ajudar a analisar imagens médicas e fornecer resultados conclusivos imediatos ou priorizar imagens para revisão adicional.

A descoberta de medicamentos é um processo demorado e caro que pode levar muitos anos e custar milhões de dólares. Utilizando a infraestrutura e a análise de IA, os pesquisadores podem acelerar a descoberta de medicamentos. Além disso, o OCI Compute com GPUs NVIDIA, juntamente com ferramentas de gerenciamento de fluxo de trabalho de IA, como BioNeMo, permite que os clientes selecionem e pré-processem seus dados.


Uso de IA para acelerar a descoberta de medicamentos, descrição abaixo
Usando a infraestrutura e a análise de IA, os pesquisadores podem acelerar a descoberta de medicamentos, além de selecionar e pré-processar seus dados.

Casos de sucesso de clientes da Oracle Cloud Infrastructure

Explore mais histórias de clientes

Conheça a infraestrutura de IA da OCI

Experimente a Oracle AI e receba 30 dias de teste gratuito

A Oracle oferece um modo gratuito para a maioria dos serviços de IA, bem como uma conta de teste gratuita com US$ 300 em créditos para experimentar outros serviços de nuvem. Os serviços de IA são uma coleção de ofertas, incluindo IA generativa, com modelos de machine-learning pré-criados que facilitam para os desenvolvedores aplicar IA a aplicações e operações de negócios.

  • Quais serviços da Oracle AI and ML oferecem modo gratuito?

    • OCI Speech
    • OCI Language
    • OCI Vision
    • OCI Document Understanding
    • Machine Learning no Oracle Database
    • OCI Data Labeling

    Você só precisa pagar as taxas de computação e armazenamento do OCI Data Science.

Recursos adicionais

Saiba mais sobre rede de cluster RDMA, instâncias de GPU, servidores bare metal e muito mais.

Veja o quanto pode você pode economizar com a OCI

Os preços da Oracle Cloud são simples, com preço baixo consistente em todo o mundo, oferecendo suporte a uma ampla gama de casos de uso. Para estimar a sua taxa, consulte a estimativa de custos e configure os serviços para atender às suas necessidades.

Acesse especialistas em assuntos de IA

Receba ajuda para criar sua próxima solução de IA ou implementar sua carga de trabalho na infraestrutura de IA da OCI.

  • Eles podem responder a perguntas como:

    • Como começar a usar a Oracle Cloud?
    • Que tipos de cargas de trabalho de IA posso executar na OCI?
    • Quais tipos de serviços de IA a OCI oferece?