Inworld acelera jogabilidade e mecanismos revolucionários com a OCI AI Infrastructure

Usando a Oracle Cloud Infrastructure (OCI), a startup de IA ajuda os desenvolvedores de videogames a criar novos mundos imersivos para experiências de jogabilidade exclusivas.

Compartilhar:

Usamos o Oracle Container Engine for Kubernetes para orquestrar nossas cargas de trabalho de GPU, o que tem garantido um sono tranquilo para toda a equipe. Agora pensamos em problemas de negócios, não em problemas de infraestrutura.

Igor PoletaevVice-Presidente de Inteligência Artificial, Inworld

Desafios de negócios

A Inworld é uma plataforma líder de IA para jogos que permite aos desenvolvedores incorporar LLMs, narrativas e agentes de IA que evoluem com cada ação para experiências interativas. A empresa tinha um conjunto de modelos de IA funcionais, estratégia de negócios sólida e crescente interesse do setor. O que precisava, no entanto, era conectar seus diferentes modelos a uma espinha dorsal para treinar e atender pipelines que suportassem o crescimento futuro. Como uma empresa jovem, a Inworld ainda não tinha um cluster de GPUs de computação. Em vez disso, dependia do uso por hora de GPUs de provedores que não podiam necessariamente ser escalados. No entanto, à medida que a Inworld crescia, era cada vez mais necessário escalar para atender à demanda.

Além disso, a equipe de engenharia precisava mover dados constantemente entre os diversos ambientes de desenvolvimento, testes e treinamento hospedados nos provedores. Isso afetava a estabilidade funcional das chamadas de API para o modelo da Inworld, o que drenava seus recursos. Esses obstáculos foram agravados pela natureza única dos modelos de machine learning da empresa. Eles incluiam reconhecimento de fala, consciência contextual e modelos de síntese de fala projetados para desempenho em tempo real sob a alta carga e vários casos de uso de jogos.

Em 2023, um incidente de pico de tráfego provou aos líderes da Inworld que a empresa precisava de uma infraestrutura mais confiável. As demandas da Inworld cresceram em 100X por causa de um streamer viral no YouTube. Assim, a empresa priorizou uma infraestrutura de nuvem que pudesse consolidar todos os modelos e dados em um único cluster com o objetivo de processar o tráfego, mantendo a confiabilidade e a latência.

Por que a Inworld escolheu a Oracle

A Inworld pesquisou vários provedores de nuvem e, por fim, selecionou a Oracle Cloud Infrastructure (OCI). A OCI AI Infrastructure atendeu aos requisitos técnicos necessários com GPUs bare metal de computação de alto desempenho conectadas por uma rede de cluster RDMA de latência ultrabaixa. Além disso, a empresa percebeu que o uso do Oracle Cloud Infrastructure Kubernetes Engine simplificaria suas operações de desenvolvimento. Outro fator importante foi a equipe de suporte da Oracle, que ajudou a empresa a otimizar sua implementação. "Desde que começamos a trabalhar em conjunto com a Oracle, mesmo antes de assinarmos o contrato, recebemos um excelente suporte", comentou Igor Poletaev, Vice-presidente de IA.

Resultados

Depois de migrar o desenvolvimento e a produção de ML para um só lugar na OCI, a equipe da Inworld acelerou significativamente os ciclos, reduziu os custos de manutenção e alocou recursos para P&D mais criativo. A empresa começou com um cluster de 256 GPUs para treinamento e atendimento de modelos proprietários e de código aberto. Como resultado, a OCI ajudou a Inworld a oferecer uma experiência verdadeiramente imersiva com personagens não jogáveis de IA generativa.

Publicado:30 de agosto de 2024

Sobre o cliente

Com sede em Mountain View, na Califórnia, EUA, a Inworld oferece aos jogadores de videogame mecânicas inovadoras, agentes dinâmicos de IA e mundos que evoluem a cada ação. Seja desbloqueando novas experiências do jogador ou simplificando o design do jogo, a Inworld ajuda no desenvolvimento de jogos com IA.

Oracle Chatbot
Disconnected