Oracle a annoncé la disponibilité générale de HeatWave GenAI, qui inclut les premiers grands modèles de langage (LLM) dans la base de données du secteur, un dépôt de vecteurs intégré à la base de données automatisée, un traitement vectoriel évolutif et la possibilité d'avoir des conversations contextuelles en langage naturel avec pour base du contenu non structuré. Ces nouvelles fonctionnalités permettent aux clients d'exploiter la puissance de l'IA générative avec leurs données d'entreprise, sans nécessiter d'expertise en IA ni de déplacement de données vers une base de données vectorielle distincte. HeatWave GenAI est disponible immédiatement dans toutes les régions d'Oracle Cloud, dans Oracle Cloud Infrastructure (OCI) Dedicated Region et dans différents autres clouds, sans frais supplémentaires pour les clients HeatWave.

Avec HeatWave GenAI, les développeurs peuvent créer un dépôt de vecteurs pour leur contenu d'entreprise non structuré, à l'aide d'une seule commande SQL, grâce à des modèles d'intégration inclus. Les utilisateurs peuvent effectuer des recherches en langage naturel en une seule étape à l'aide de LLM internes ou externes. Les données ne quittent pas la base de données et, en raison de l'extrême évolutivité et des performances de HeatWave, il n'est pas nécessaire de provisionner de GPU. Les développeurs peuvent ainsi réduire la complexité des applications, augmenter les performances, améliorer la sécurité des données et réduire les coûts.

« L'innovation de HeatWave se poursuit à un rythme effréné avec l'ajout de HeatWave GenAI aux fonctionnalités HeatWave intégrées déjà existantes : HeatWave Lakehouse, HeatWave Autopilot, HeatWave AutoML et HeatWave MySQL », se félicite Edward Screven, chief corporate architect Oracle. « Les améliorations actuelles intégrées et automatisées de l'IA permettent aux développeurs de créer plus rapidement des applications d'IA génératives riches, sans nécessiter d'expertise en IA ni de déplacement de données. Les utilisateurs disposent désormais d'un moyen intuitif d'interagir avec leurs données d'entreprise et d'obtenir rapidement les réponses précises dont ils ont besoin pour leurs activités. »

« HeatWave GenAI facilite grandement l'utilisation de l'IA générative », explique Vijay Sundhar, CEO de SmarterD. « La prise en charge des LLM et de la création de vecteurs dans la base de données entraîne une réduction significative de la complexité des applications, une latence d'inférence prévisible et, surtout, aucun coût supplémentaire pour nous quand il s'agit d'utiliser les LLM ou de créer des intégrations. Il s'agit vraiment d'une démocratisation de l'IA générative et nous pensons qu'elle entraînera la création d'applications plus riches avec HeatWave GenAI et des gains de productivité significatifs pour nos clients. »

Les nouvelles fonctionnalités d'IA générative automatisées et intégrées incluent :

• Les LLM dans la base de données simplifient le développement d'applications d'IA génératives à moindre coût. Les clients peuvent bénéficier d'une IA générative sans la complexité de la sélection et de l'intégration de LLM externes, et sans se soucier de la disponibilité des LLM dans les data centers de divers fournisseurs de cloud. Les LLM dans la base de données permettent aux clients de rechercher des données, de générer ou de synthétiser du contenu et d'effectuer une génération augmentée de récupération (RAG) avec HeatWave Vector Store. En outre, ils peuvent combiner l'IA générative avec d'autres fonctionnalités HeatWave intégrées telles que AutoML pour créer des applications plus riches. HeatWave GenAI est également intégré au service OCI Generative AI pour accéder aux modèles de base préentraînés des principaux fournisseurs de LLM.
• Le dépôt de vecteur dans la base de données et automatisé permet aux clients d'utiliser l'IA générative avec leurs documents commerciaux sans déplacer les données vers une base de données vectorielle distincte et sans expertise en IA. Toutes les étapes de création d'un dépôt de vecteurs et d'intégrations vectorielles sont automatisées et exécutées à l'intérieur de la base de données, y compris le repérage des documents dans le stockage d'objets, leur analyse, la génération d'intégrations de manière hautement parallèle et optimisée, et leur insertion dans le dépôt de vecteurs, ce qui rend HeatWave Vector Store efficace et facile à utiliser. L'utilisation d'un dépôt de vecteurs pour le RAG aide à résoudre le défi des hallucinations des LLM, car les modèles peuvent rechercher des données propriétaires avec le contexte approprié pour fournir des réponses plus précises et pertinentes.
• Le traitement vectoriel évolutif fournit des résultats de recherche sémantique très rapides et sans perte de précision. HeatWave prend en charge un nouveau type de données VECTOR natif et une implémentation optimisée de la fonction distance, ce qui permet aux clients d'effectuer des requêtes sémantiques avec du code SQL standard. La représentation en colonnes hybride en mémoire et l'architecture évolutive de HeatWave permettent au traitement vectoriel de s'exécuter à une bande passante proche de la mémoire et de s'exécuter en parallèle à 512 nœuds HeatWave. Par conséquent, les clients obtiennent rapidement des réponses à leurs questions. Les utilisateurs peuvent également combiner la recherche sémantique avec d'autres opérateurs SQL pour, par exemple, joindre plusieurs tables avec différents documents et effectuer des recherches de similarité sur tous les documents.
• HeatWave Chat est un module d'extension de code visuel pour MySQL Shell qui fournit une interface graphique pour HeatWave GenAI et permet aux développeurs de poser des questions en langage naturel ou en langage SQL. Le navigateur Lakehouse intégré permet aux utilisateurs de sélectionner des fichiers dans le stockage d'objets et de créer un dépôt de vecteurs. Les utilisateurs peuvent effectuer une recherche dans l'ensemble de la base de données ou limiter la recherche à un dossier. HeatWave tient compte de l'historique des questions posées, des citations des documents sources et de l'invite au LLM. Cela facilite une conversation contextuelle et permet aux utilisateurs de vérifier la source des réponses générées par le LLM. Ce contexte est tenu à jour dans HeatWave ; et il est disponible pour toute application utilisant HeatWave.

Tests des créations de dépôts de vecteurs et des traitements de vecteurs

La création d'un dépôt de vecteurs pour des documents aux formats PDF, PPT, WORD et HTML est jusqu'à 23 fois plus rapide avec HeatWave GenAI et représente 1/4 du coût d'utilisation de la base de connaissances pour Amazon Bedrock.

Comme l'a démontré un test d'évaluation indépendant à l'aide de diverses requêtes de recherche de similarité sur des tables allant de 1,6 à 300 Go, HeatWave GenAI est 30 fois plus rapide et 25 % moins cher que Snowflake, 15 fois plus rapide et 85 % moins cher que Databricks et 18 fois plus rapide et 60 % moins cher que Google BigQuery.

Un autre test montre que les index vectoriels dans Amazon Aurora PostgreSQL avec pgvector peuvent avoir un degré élevé d'inexactitude et peuvent donner des résultats incorrects. En revanche, le traitement de recherche de similarité HeatWave fournit toujours des résultats précis, a un temps de réponse prévisible, est effectué à une vitesse de mémoire proche et est jusqu'à 10 à 80 fois plus rapide qu'Aurora en utilisant le même nombre de cœurs.

« Nous sommes ravis de poursuivre notre solide collaboration avec Oracle pour fournir la puissance et la productivité de l'IA avec HeatWave GenAI pour les workloads et les ensembles de données critiques de l'entreprise », se réjouit Dan McNamara, senior vice president et Directeur général du Server Business Unit chez AMD. « Les travaux d'ingénierie conjoints entrepris par AMD et Oracle permettent aux développeurs de concevoir des solutions d'IA d'entreprise innovantes en exploitant HeatWave GenAI, optimisé par la densité de base et le rapport prix-performances exceptionnel des processeurs AMD EPYC. »

Autres commentaires de clients et d’analystes sur HeatWave GenAI

« Nous utilisons beaucoup la fonctionnalité AutoML intégrée à HeatWave pour présenter diverses recommandations à nos clients », déclare Safarath Shafi, CEO de EatEasy. « La prise en charge de HeatWave pour les LLM dans la base de données et le dépôt de vecteurs dans la base de données est différenciée et la possibilité d'intégrer l'IA générative à AutoML offre une différenciation supplémentaire pour HeatWave dans le secteur, ce qui nous permet d'offrir de nouveaux types de fonctionnalités à nos clients. La synergie avec AutoML améliore également les performances et la qualité des résultats du LLM. »

« Les LLM dans la base de données HeatWave, le stockage vectoriel dans la base de données, le traitement vectoriel en mémoire évolutif et HeatWave Chat sont des fonctionnalités propres à Oracle qui démocratisent l'IA générative et la rendent très simple, sécurisée et peu coûteuse à l'utilisation », souligne Eric Aguilar, fondateur d'Aiwifi. « L'utilisation de HeatWave et de AutoML pour répondre aux besoins de notre entreprise a déjà transformé notre activité de plusieurs façons ; et l'introduction de cette innovation d'Oracle stimulera probablement la croissance d'une nouvelle classe d'applications au sein desquelles les clients recherchent des moyens de tirer parti de l'IA générative sur leur contenu d'entreprise. »

« L'innovation d'ingénierie de HeatWave continue de concrétiser la vision d'une base de données cloud universelle », souligne Holger Mueller, Vice-Président et analyste principal de Constellation Research. « La dernière en date est l'IA générative de "style HeatWave", qui inclut l'intégration d'un dépôt de vecteurs automatisé dans la base de données et de LLM dans la base de données directement dans le noyau HeatWave. Les développeurs peuvent ainsi créer de nouvelles classes d'applications lorsqu'ils combinent des éléments HeatWave. Par exemple, ils peuvent combiner HeatWave AutoML et HeatWave GenAI dans une application de détection des fraudes qui détecte non seulement les transactions suspectes, mais fournit également une explication compréhensible. Tout s'exécute dans la base de données, il n'est donc pas nécessaire de déplacer les données vers des bases de données vectorielles externes, ce qui renforce la sécurité des données. Cela rend également HeatWave GenAI hautement performant à une fraction du coût, comme cela a été démontré dans des tests comparatifs. »

HeatWave

HeatWave est le seul service cloud qui fournit une IA générative et du machine learning automatisés et intégrés dans une offre unique pour les transactions et les analyses à l'échelle du lakehouse. Composant essentiel de la stratégie cloud distribuée d'Oracle, HeatWave est disponible en natif sur OCI et Amazon Web Services, sur Microsoft Azure via Oracle Interconnect for Azure et dans les data centers des clients avec OCI Dedicated Region et Oracle Alloy.

Ressources supplémentaires

• Regardez l'annonce par Edward Screven de nouvelles améliorations d'IA générative apportées à HeatWave
• Lisez le blog technique sur HeatWave
• Lisez le point de vue des analystes du secteur sur HeatWave