Oracle ha anunciado hoy la puesta a disposición general de los clientes de HeatWave GenAI, que ofrece por primera vez en la industria grandes modelos de lenguaje (LLM) y un almacén de vectores automatizado en la base de datos, procesamiento de vectores escalable horizontalmente y capacidad para entablar conversaciones contextuales en lenguaje natural en función de contenido no estructurado. Estas nuevas funcionalidades permiten a los clientes llevar el poder de la IA generativa a sus datos empresariales sin necesidad de contar con experiencia en IA ni de migrar sus datos a una base de datos vectorial. HeatWave GenAI estará disponible de forma inmediata en todas las regiones de Oracle Cloud, Oracle Cloud Infrastructure (OCI) Dedicated Region y en distintas nubes, sin coste adicional para los clientes de HeatWave.

Con HeatWave GenAI, los desarrolladores pueden crear un almacén de vectores para contenido empresarial no estructurado con un solo comando SQL, mediante modelos de incrustación incorporados. Los usuarios pueden realizar búsquedas en lenguaje natural en un solo paso gracias a los LLM externos o de la base de datos. Los datos no salen de la base de datos y, con la escala y el rendimiento extremos de HeatWave, no es necesario aprovisionar GPU. Como resultado, los desarrolladores pueden reducir la complejidad de las aplicaciones, impulsar el rendimiento, mejorar la seguridad de los datos y reducir costes.

"El impresionante ritmo de innovación de HeatWave se mantiene con la incorporación de HeatWave GenAI a las funcionalidades existentes de HeatWave: HeatWave Lakehouse, HeatWave Autopilot, HeatWave AutoML y HeatWave MySQL", afirma Edward Screven, arquitecto corporativo jefe de Oracle. "Las nuevas mejoras de IA integrada y automatizada permiten a los desarrolladores crear sofisticadas aplicaciones de IA generativa más rápido, sin necesidad de experiencia en IA ni de desplazar datos. Ahora, los usuarios disponen de una forma intuitiva de interactuar con sus datos empresariales y obtener rápidamente las respuestas precisas que necesitan para su negocio".

"HeatWave GenAI consigue que resulte extremadamente sencillo aprovechar la IA generativa", señala Vijay Sundhar, director ejecutivo de SmarterD. "El soporte para LLM y creación de vectores en la base de datos se traduce en una reducción significativa de la complejidad de las aplicaciones, una latencia de inferencia predecible y, sobre todo, ningún coste adicional para nosotros al utilizar los LLM o crear las incrustaciones. Esta es la auténtica democratización de la IA generativa y creemos que favorecerá la creación de aplicaciones más sofisticadas con HeatWave GenAI y mejoras significativas de la productividad de nuestros clientes".

Las nuevas funciones de IA generativa automatizada e integrada incluyen:

• LLM en la base de datos que simplifican el desarrollo de aplicaciones de IA generativa a un coste menor. Los clientes pueden disfrutar de las ventajas de la IA generativa sin la complejidad de seleccionar e integrar LLM externos, y sin preocuparse por la disponibilidad de LLM en los centros de datos de distintos proveedores de nube. Los LLM en bases de datos permiten a los clientes buscar datos, generar o resumir contenido y conseguir generación aumentada de recuperación (RAG) con HeatWave Vector Store. Además, pueden combinar la IA generativa con otras funcionalidades incorporadas a HeatWave, como AutoML, para crear aplicaciones más completas. HeatWave GenAI también incluye el servicio OCI Generative AI para acceder a modelos básicos previamente entrenados de los principales proveedores de LLM.
• El almacén de vectores automatizado en la base de datos permite a los clientes aplicar IA generativa a sus documentos empresariales sin migrar datos a una base de datos vectorial independiente y sin contar con experiencia en IA. Todos los pasos para crear un almacén de vectores e incrustaciones de vectores están automatizados y se ejecutan en la base de datos, incluida la detección de documentos en el almacenamiento de objetos, el análisis de los mismos, la generación de incrustaciones de una manera altamente paralela y optimizada y la inserción en el almacén de vectores, lo que hace que HeatWave Vector Store sea eficiente y fácil de usar. El uso de un almacén de vectores para RAG ayuda a resolver los desafíos planteados por las alucinaciones de los LLM, ya que los modelos pueden buscar datos empresariales con el contexto adecuado para proporcionar respuestas más precisas y relevantes.
• El procesamiento de vectores escalable horizontalmente ofrece resultados de búsqueda semántica muy rápidamente sin pérdida de precisión. HeatWave admite un nuevo tipo de dato nativo, VECTOR, y permite una implementación optimizada de la función de distancia, lo que ayuda a los clientes a realizar consultas semánticas con SQL estándar. La representación columnar híbrida en memoria y la arquitectura escalable horizontalmente de HeatWave permiten que el procesamiento de vectores se ejecute con un ancho de banda cercano a la memoria y se paralelice en hasta 512 nodos de HeatWave. Como resultado, los clientes obtienen respuesta rápida a sus preguntas. Los usuarios también pueden combinar la búsqueda semántica con otros operadores SQL para, por ejemplo, unir varias tablas con documentos diferentes y realizar búsquedas de similitudes en todos los documentos.
• HeatWave Chat es un plug-in de Visual Code para MySQL Shell que proporciona una interfaz gráfica para HeatWave GenAI y permite a los desarrolladores hacer preguntas en lenguaje natural o SQL. Lakehouse Navigator permite a los usuarios seleccionar archivos del almacenamiento de objetos y crear un almacén de vectores. Los usuarios pueden buscar en toda la base de datos o restringir la búsqueda a una sola carpeta. HeatWave mantiene el contexto con el historial de preguntas formuladas, citas de los documentos fuente y la consulta al LLM. Esto facilita una conversación contextual y permite a los usuarios verificar el origen de las respuestas generadas por el LLM. Este contexto se guarda en HeatWave y se encuentra disponible para cualquier aplicación que utilice HeatWave.

Creación de almacenes de vectores y procesamiento de vectores: pruebas comparativas

La creación de un almacén de vectores para documentos en formatos PDF, PPT, WORD y HTML es hasta 23 veces más rápida con HeatWave GenAI y se logra por un cuarto del coste de uso de Knowledge base for Amazon Bedrock.

Como ha demostrado una prueba comparativa externa que utilizó una variedad de consultas de búsqueda de similitudes en tablas de entre 1,6 GB y 300 GB de tamaño, HeatWave GenAI es 30 veces más rápido que Snowflake y cuesta un 25 por ciento menos, es 15 veces más rápido que Databricks y cuesta un 85 por ciento menos, y es 18 veces más rápido que Google BigQuery y cuesta un 60 por ciento menos.

Otro análisis comparativo revela que los índices vectoriales de Amazon Aurora PostgreSQL con pgvector pueden tener un alto grado de inexactitud y producir resultados incorrectos. Por el contrario, el procesamiento de búsqueda de similitudes de HeatWave siempre proporciona resultados precisos, tiene un tiempo de respuesta predecible, se realiza a una velocidad cercana a la memoria y es entre 10 y 80 veces más rápido que el de Aurora con el mismo número de núcleos.

"Nos complace prolongar nuestra sólida colaboración con Oracle para ofrecer la potencia y la productividad de la IA para cargas de trabajo y conjuntos de datos empresariales esenciales con HeatWave GenAI", señala Dan McNamara, vicepresidente sénior y director general de la unidad de negocio de servidores de AMD. "El trabajo conjunto de ingeniería realizado por AMD y Oracle permite a los desarrolladores diseñar soluciones innovadoras de IA empresarial aprovechando HeatWave GenAI con la densidad de núcleos y la excelente relación precio-rendimiento de los procesadores AMD EPYC".

Comentarios adicionales de clientes y analistas sobre HeatWave GenAI

"Realizamos un uso intensivo de HeatWave AutoML en la base de datos para ofrecer una variedad de recomendaciones a nuestros clientes", indica Safarath Shafi, director ejecutivo de EatEasy. "Con la incorporación de LLM y almacén de vectores en la base de datos, Heatwave marca la diferencia. La capacidad de integrar IA generativa con AutoML distingue aún más a HeatWave en la industria y nos permite ofrecer nuevos tipos de funcionalidades a nuestros clientes. La sinergia con AutoML también mejora el rendimiento y la calidad de los resultados de los LLM".

"Los LLM y el almacén de vectores en la base de datos, el procesamiento de vectores escalable horizontalmente en memoria y HeatWave Chat son funcionalidades exclusivas de Oracle que democratizan la IA generativa y la hacen muy sencilla, segura y económica de usar", subraya Eric Aguilar, fundador de Aiwifi. "El uso de HeatWave y AutoML para satisfacer las necesidades de nuestra empresa ya ha transformado nuestro negocio de distintas maneras, y la introducción de esta innovación de Oracle probablemente impulsará el desarrollo de una nueva clase de aplicaciones con las que los clientes buscarán formas de aprovechar la IA generativa para su contenido empresarial".

"La innovación en ingeniería de HeatWave sigue haciendo realidad la visión de una base de datos universal en la nube", afirma Holger Mueller, vicepresidente y analista principal de Constellation Research. Lo último es la IA generativa al estilo HeatWave, que incluye la integración de un almacén de vectores automatizado y LLM en la base de datos directamente en el núcleo HeatWave. Esto permite a los desarrolladores crear nuevos tipos de aplicaciones combinando elementos de HeatWave. Por ejemplo, pueden combinar HeatWave AutoML y HeatWave GenAI en una aplicación de detección de fraudes que no solo detecte las transacciones sospechosas, sino que también proporcione una explicación comprensible. Todo esto se ejecuta en la base de datos, por lo que no hay necesidad de mover datos a bases de datos vectoriales externas, lo que ayuda a mantener los datos más seguros. También permite que HeatWave GenAI ofrezca un rendimiento elevado por una fracción del coste, como se demuestra en pruebas comparativas competitivas".

HeatWave

HeatWave es el único servicio en la nube que proporciona IA generativa automatizada e integrada y machine learning en una sola oferta para transacciones y análisis a escala de lakehouse. HeatWave es una pieza clave de la estrategia de nube distribuida de Oracle. Está disponible de forma predeterminada en OCI y Amazon Web Services, en Microsoft Azure mediante Oracle Interconnect for Azure y en los centros de datos de los clientes gracias a OCI Dedicated Region y Oracle Alloy.

Recursos adicionales

• Mira el anuncio de Edward Screven de las nuevas mejoras de IA generativa de HeatWave
• Lee el blog técnico de HeatWave
• Descubre lo que opinan los analistas de la industria acerca de HeatWave