MosaicML, un fournisseur qui propose une infrastructure et des outils pour créer des modèles de machine learning à grande échelle, a sélectionné Oracle Cloud Infrastructure (OCI) comme infrastructure cloud préférée pour aider les entreprises à tirer davantage de valeur de leurs données. Depuis l’adoption de l’infrastructure d’IA à hautes performances d’OCI, MosaicML a constaté des performances jusqu’à 50 % plus élevées et des économies de l’ordre de 80 % par rapport aux autres fournisseurs cloud.

«Des centaines d’entreprises utilisent la plateforme de MosaicML pour développer et entraîner de grands modèles d’IA générative complexes. Nous fournissons les systèmes et le matériel compliqués à gérer afin que nos clients puissent se concentrer sur la création et le déploiement de leurs modèles personnalisés à hautes performances », explique Naveen Rao, PDG et Co-fondateur de MosaicML. « Nous avons choisi OCI, car nous pensons qu’il s’agit de la meilleure structure pour MosaicML. Quand vous entraînez des modèles avec de grandes quantités de données dans le cloud, chaque minute compte. Avec OCI, nous payons moins qu’avec d’autres fournisseurs cloud et nous pouvons évoluer presque linéairement grâce à la façon dont Oracle a configuré ses interconnexions.»

MosaicML aide les entreprises à rendre l’entraînement de leurs modèles d’IA et les inférences plus efficaces et accessibles grâce à ses fonctionnalités d’entraînement de modèles. Pour faire évoluer son activité afin de répondre à la demande croissante pour des services d’IA, MosaicML a sélectionné OCI. Ce faisant, MosaicML a eu ainsi accès aux nouveaux processeurs graphiques NVIDIA, à une interconnexion à bande passante très élevée entre les nœuds et à des blocs de calcul de grande taille pour une mise à l’échelle vers des milliers de processeurs graphiques. Ce choix a permis à MosaicML d’aider des entreprises et des start-up, telles que Twelve Labs, à mettre en œuvre des modèles d’IA.

Twelve Labs est une startup qui utilise l’IA pour la compréhension de vidéos multimodales. En tirant parti de la plateforme MosaicML exécutée sur OCI et sur l’infrastructure d’IA d’OCI, cette start-up a pu efficacement mettre à l’échelle et déployer ses modèles d’IA pour permettre aux utilisateurs de rechercher, classifier et utiliser plus facilement leurs données vidéo pour diverses applications.

«La collaboration entre MosaicML et Oracle s’avère parfaite pour gérer de grandes capacités à des vitesses élevées et accompagner notre croissance à long terme », explique Jae Lee, Fondateur et CEO de Twelve Labs. « MosaicML nous permet de gérer efficacement nos grands clusters d’IA, tandis que l’infrastructure d’IA d’OCI nous évite d’avoir à faire des concessions sur la vitesse. Nous avons économisé des milliers d’heures et des dizaines de milliers de dollars grâce aux gains d’efficacité.»

OCI propose plusieurs offres d’IA, dont une AI infrastructure. Les machines virtuelles OCI Compute et les instances GPU bare metal peuvent exécuter des applications de vision par ordinateur, de traitement du langage naturel, de recommandation, etc. Pour l’entraînement de modèles complexes de grande envergure, tels que les grands modèles de langage (LLM) à grande échelle, OCI Supercluster fournit un réseau de cluster à très faible latence, un stockage HPC et des instances bare metal OCI Compute fonctionnant avec des processeurs graphiques NVIDIA. Les instances OCI Compute sont connectées avec un réseau Ethernet hautes performances à l’aide de RoCE v2 (RDMA over Converged Ethernet v2). La bande passante sur les processeurs graphiques NVIDIA A100 Tensor Core fournis par OCI surpasse celle des alternatives du marché de 4 à 16 fois, ce qui réduit à son tour les délais et le coût de l’entraînement au machine learning.

«Nous constatons un afflux de nombreuses entreprises d’IA vers OCI qu’elles choisissent pour exécuter des modèles d’IA générative, car nous pouvons les exécuter plus rapidement et de façon plus économique qu’avec les autres fournisseurs cloud. Il n’est pas rare d’entraîner un modèle de 10 milliards de paramètres en quelques heures sur OCI alors qu’il faut plusieurs jours sur d’autres plateformes », se félicite Greg Pavlik, Senior Vice-President Oracle. « L’architecture d’OCI et sa conception réseau à faible latence et non bloquante sont fondamentalement différentes de tout ce qui est disponible sur le marché.»

MosaicML a sélectionné Oracle au troisième trimestre de son exercice 2022.

Ressources supplémentaires

• En savoir plus sur OCI AI Infrastructure
• En savoir plus sur l’accélération des workloads avec des processeurs graphiques
• Discuter avec les services d’IA générative d’Oracle