A MosaicML, uma provedora de desenvolvimento de software que oferece infraestrutura e ferramentas para criar modelos de machine learning em larga escala, escolheu a Oracle Cloud Infrastructure (OCI) como infraestrutura de nuvem preferida para ajudar as empresas a extrair mais valor de seus dados. Com a infraestrutura de IA de alto desempenho da OCI, a empresa afirma que obteve desempenho até 50% mais rápido e economia de custos de até 80% em comparação com outros provedores de nuvem.

“Centenas de organizações dependem da plataforma da MosaicML para desenvolver e treinar modelos grandes e complexos de IA generativa. Nós fornecemos os sistemas e hardware complexos para que nossos clientes possam se concentrar na criação e implementação de seus próprios modelos personalizados de alto desempenho”, disse Naveen Rao, CEO e cofundador da MosaicML. “Escolhemos a OCI porque acreditamos que ela é a melhor base para a MosaicML. Ao treinar modelos com grandes quantidades de dados na nuvem, cada minuto conta; e com a OCI, nós pagamos menos do que com outros provedores de nuvem e podemos escalar quase linearmente por causa da maneira como a Oracle configurou suas interconexões.”

A MosaicML ajuda as organizações a deixar o treinamento e a dedução de modelos de IA mais eficientes e acessíveis com seus recursos de treinamento de modelo. Para escalonar seus negócios para dar suporte à crescente demanda por serviços de IA, a MosaicML escolheu a OCI. Com a OCI, a MosaicML conseguiu obter acesso às GPUs NVIDIA mais recentes, uma interconexão de largura de banda muito alta entre nós e grandes tamanhos de bloco de computação para escalonamento para milhares de GPUs. Isso permitiu que a MosaicML ajudasse empresas e startups a operacionalizar modelos de IA, incluindo a Twelve Labs.

A Twelve Labs é um modelo de base de criação de startups de IA para compreensão de vídeo multimodal. Ao aproveitar a plataforma da MosaicML executada na OCI e na infraestrutura de IA da OCI, a Twelve Labs conseguiu dimensionar e implementar seus modelos de IA com eficiência para ajudar os usuários a pesquisar, classificar e utilizar com mais eficiência seus dados de vídeo para diversas aplicações.

“A combinação da MosaicML e da Oracle nos deu a colaboração perfeita para lidarmos com grandes capacidades em altas velocidades e acompanhar nosso crescimento a longo prazo”, disse Jae Lee, fundador e CEO da Twelve Labs. “A MosaicML nos permite gerenciar com eficiência nossos grandes clusters de IA, enquanto a infraestrutura de IA da OCI garante que não tenhamos que comprometer a velocidade, o que nos poupou milhares de horas e dezenas de milhares de dólares em eficiências.”

A OCI oferece vários recursos para IA, incluindo infraestrutura de IA. As máquinas virtuais do OCI Compute e as instâncias GPU em bare metal podem potencializar aplicações para visão computacional, processamento de linguagem natural, sistemas de recomendação e muito mais. Para treinar modelos grandes e complexos, como modelos de linguagem grande (LLMs) em escala, o OCI Supercluster fornece rede de clusters de latência ultrabaixa, armazenamento HPC e instâncias bare metal do OCI Compute com GPUs NVIDIA. As instâncias do OCI Compute são conectadas por uma rede ethernet de alto desempenho utilizando RoCE v2 (RDMA em Ethernet Convergente v2). A largura de banda nas GPUs A100 fornecidas pela OCI excede a da AWS e GCP em 4 a 16 vezes, o que, por sua vez, reduz o tempo e o custo do treinamento de machine learning.

“Estamos vendo um influxo de empresas de IA buscarem a OCI para executar modelos de IA generativa, porque podemos executá-los com mais rapidez e economia do que outros provedores de nuvem. Não é incomum treinar um modelo de 10 bilhões de parâmetros em algumas horas na OCI em vez de em dias em outras plataformas”, disse Greg Pavlik, vice-presidente sênior da Oracle. “A arquitetura e o design de rede sem bloqueio e de baixa latência da OCI são muito diferentes de qualquer coisa no mercado.”

Recursos Adicionais

• Saiba mais sobre a Infraestrutura de IA da OCI
• Saiba mais sobre aceleração de cargas de trabalho de GPU
• Fale com a Oracle sobre serviços de IA generativa