Inworld acelera jogabilidade e mecanismos revolucionários com a OCI AI Infrastructure

A Inworld é uma plataforma líder de IA para jogos que permite aos desenvolvedores incorporar LLMs, narrativas e agentes de IA que evoluem com cada ação para experiências interativas. A empresa tinha um conjunto de modelos de IA funcionais, estratégia de negócios sólida e crescente interesse do setor. O que precisava, no entanto, era conectar seus diferentes modelos a uma espinha dorsal para treinar e atender pipelines que suportassem o crescimento futuro. Como uma empresa jovem, a Inworld ainda não tinha um cluster de GPUs de computação. Em vez disso, dependia do uso por hora de GPUs de provedores que não podiam necessariamente ser escalados. No entanto, à medida que a Inworld crescia, era cada vez mais necessário escalar para atender à demanda.

Além disso, a equipe de engenharia precisava mover dados constantemente entre os diversos ambientes de desenvolvimento, testes e treinamento hospedados nos provedores. Isso afetava a estabilidade funcional das chamadas de API para o modelo da Inworld, o que drenava seus recursos. Esses obstáculos foram agravados pela natureza única dos modelos de machine learning da empresa. Eles incluiam reconhecimento de fala, consciência contextual e modelos de síntese de fala projetados para desempenho em tempo real sob a alta carga e vários casos de uso de jogos.

Em 2023, um incidente de pico de tráfego provou aos líderes da Inworld que a empresa precisava de uma infraestrutura mais confiável. As demandas da Inworld cresceram em 100X por causa de um streamer viral no YouTube. Assim, a empresa priorizou uma infraestrutura de nuvem que pudesse consolidar todos os modelos e dados em um único cluster com o objetivo de processar o tráfego, mantendo a confiabilidade e a latência.

A Inworld pesquisou vários provedores de nuvem e, por fim, selecionou a Oracle Cloud Infrastructure (OCI). A OCI AI Infrastructure atendeu aos requisitos técnicos necessários com GPUs bare metal de computação de alto desempenho conectadas por uma rede de cluster RDMA de latência ultrabaixa. Além disso, a empresa percebeu que o uso do Oracle Cloud Infrastructure Kubernetes Engine simplificaria suas operações de desenvolvimento. Outro fator importante foi a equipe de suporte da Oracle, que ajudou a empresa a otimizar sua implementação. "Desde que começamos a trabalhar em conjunto com a Oracle, mesmo antes de assinarmos o contrato, recebemos um excelente suporte", comentou Igor Poletaev, Vice-presidente de IA.

Depois de migrar o desenvolvimento e a produção de ML para um só lugar na OCI, a equipe da Inworld acelerou significativamente os ciclos, reduziu os custos de manutenção e alocou recursos para P&D mais criativo. A empresa começou com um cluster de 256 GPUs para treinamento e atendimento de modelos proprietários e de código aberto. Como resultado, a OCI ajudou a Inworld a oferecer uma experiência verdadeiramente imersiva com personagens não jogáveis de IA generativa.