HeatWave GenAI Özellikleri

Temel özellikler

Veritabanı içi büyük dil modelleri

Veritabanı içi büyük dil modelleri (LLM'ler) GenAI uygulamalarının geliştirilmesini büyük ölçüde kolaylaştırır. Jeneratif yapay zekadan hızlı bir şekilde yararlanabilirsiniz. Harici bir LLM seçmenize gerek yoktur ve çeşitli veri merkezlerinde entegrasyon karmaşıklığını, maliyetlerini veya harici bir LLM'nin kullanılabilirliğini göz önünde bulundurmanız gerekmez.

Bulutlar arasında çok çeşitli kullanım senaryoları için üretken yapay zeka uygulamaları oluşturun

  • Örneğin, HeatWave Vector Store ile alma artırılmış oluşturma (RAG) gerçekleştirmek için içerik ve arama verilerini oluşturmaya veya özetlemeye yardımcı olmak için yerleşik LLM'leri kullanabilirsiniz.
  • Ayrıca, maliyetleri düşürmeye, müşterilere daha fazla değer sunmaya ve daha doğru sonuçları daha hızlı almaya yardımcı olmak için üretken yapay zekayı makine öğrenimi gibi diğer yerleşik HeatWave özellikleriyle birleştirebilirsiniz.
  • Yerleşik LLM'leri tüm Oracle Cloud Infrastructure (OCI) bölgelerinde, OCI Dedicated Region, Oracle Alloy, Amazon Web Services (AWS) ve Microsoft Azure'da kullanabilir ve dağıtımlar arasında öngörülebilir performansla tutarlı sonuçlar elde edebilirsiniz.
  • Oracle HeatWave GenAI, Cohere ve Meta'nın önceden eğitilmiş, temel modellerine erişmek için OCI Generative AI service ile ve Amazon Bedrock ile entegredir.
  • Veritabanı içi LLM'ler ve HeatWave Chat, geliştiricilerin doğal dilde bağlamsal konuşmalar için önceden yapılandırılmış uygulamalar sunmalarına yardımcı olur. Harici LLM'lere abone olmaya veya GPU sağlamaya gerek yoktur.
  • LLM çıkarımı toplu işlemi, geliştiricilerin aynı anda birden fazla istek yürüterek uygulama verimliliğini artırmasına yardımcı olur.
  • LLM'ler, ince ayar yapmak yerine özel verileri kullanarak bilgilerini genişletmek için HeatWave Vector Store'dan yararlanabilir.

Maliyetleri ve riskleri azaltın

  • Veritabanı içi LLM'leri kullanmak için herhangi bir ek maliyet yoktur.
  • GPU sağlama ihtiyacını ortadan kaldırarak altyapı maliyetlerini azaltabilirsiniz. Ayrıca, maliyetleri daha da düşürmeye yardımcı olmak için sistem kaynakları optimize edilir (iş parçacığı sayısı, yığın boyutu ve segment boyutunun optimum yapılandırması).
  • HeatWave içinde yerel LLM yürütme, veri hareketiyle ilişkili riskleri en aza indirmeye yardımcı olur.

HeatWave Vector Store

HeatWave Vector Store, LLM'lerin gücünü tescilli verilerinizle birleştirerek, yalnızca genel verilerde eğitilen modelleri kullanmaktan daha doğru ve bağlamla ilgili yanıtlar almanıza yardımcı olur. Vektör deposu, belgeleri PDF dahil olmak üzere çeşitli formatlarda alır ve bunları bir katıştırma modeli aracılığıyla oluşturulan katıştırmalar olarak depolar. Belirli bir kullanıcı sorgusu için vektör deposu, depolanan katıştırmalara ve katıştırılmış sorguya karşı benzerlik araması gerçekleştirerek en benzer dokümanları belirlemeye yardımcı olur. Bu dokümanlar, işiniz için daha bağlamsal bir yanıt sağlaması için LLM'ye verilen bilgi istemini artırmak için kullanılır.

Yapay zeka uzmanlığı gerekmez

  • HeatWave Vector Store, yapay zeka uzmanlığı gerekmeden ve verileri ayrı bir vektör veritabanına taşımadan iş belgelerinizle üretken yapay zekayı kullanmanıza olanak tanır.
  • Geliştiriciler, tek bir SQL komutuyla kurumsal yapılandırılmamış içerik için bir vektör deposu oluşturabilir.
  • Vektör deposundaki katıştırmaların oluşturulması, birden çok girdi dosyasını tüm küme düğümlerindeki birden çok iş parçasına paralel olarak işler. Sonuç olarak, vektör deposunu oluşturmak ve PDF, DOCX, HTML, TXT veya PPTX gibi çeşitli formatlarda yapılandırılmamış verileri almak çok hızlıdır ve küme boyutuyla ölçeklenir.
  • Vektör deposundaki özel dokümanları keşfetme ve alma ardışık düzeni, kullanıcıların yapılandırılmamış metin verilerini dönüştürme ve gömme oluşturma dahil olmak üzere otomatikleştirilmiş olduğundan yapay zeka uzmanlığı olmayan geliştiriciler ve analistlerin vektör deposundan yararlanması çok kolaylaşır.
  • Çok dilli destek, benzerlik aramaları yapmak ve çeşitli dillerde soru sormak için 27 dilde dokümanları HeatWave Vector Store'a yüklemenizi sağlar.
  • Yerel JavaScript desteği, geliştiricilerin VECTOR veri türüyle JavaScript'i kullanmasına ve örneğin kurumsal verilere erişen sohbet botlarını kolayca oluşturmak için JavaScript programından HeatWave GenAI özelliklerini çağırmasına olanak tanır.
  • Optik karakter tanıma desteği, görüntü olarak kaydedilen taranmış içeriği, örneğin intihali tespit etmek için analiz edilebilecek metin verilerine dönüştürmek için HeatWave Vector Store'dan yararlanarak benzerlik aramaları yapmanıza yardımcı olur.

Maliyetler ve riskler azaltılabilir

  • Vektör deposunın nesne depolamada bulunması bunu büyük veri kümelerinde bile çok uygun maliyetli ve yüksek düzeyde ölçeklenebilir hale getirir. Vektör deposunu farklı uygulamalarla kolayca paylaşabilirsiniz.
  • Veri dönüşümü, veri hareketini ortadan kaldırarak güvenlik risklerini azaltmaya yardımcı olan ve istemci kaynaklarına olan ihtiyacı ortadan kaldırarak maliyetleri azaltmaya yardımcı olan HeatWave içinde tamamlanır.

Esnek ve hızlı vektör işleme

Vektör işleme, HeatWave'in bellek içi ve ölçeklenebilir mimarisi ile hızlanır. HeatWave, vektör verilerini oluşturmak, işlemek ve yönetmek için standart SQL kullanmanıza olanak tanıyan yeni bir yerel VECTOR veri türünü destekler.

  • Vektörleri diğer SQL işleçleriyle birleştirebilirsiniz. Örneğin, farklı dokümanlarla birden çok tabloyu birleştiren ve tüm dokümanlarda benzerlik aramaları gerçekleştiren analitik sorgular çalıştırabilirsiniz.
  • Bellek içi gösterim ve ölçek genişletme mimarisi, vektör işlemenin 512 adede kadar HeatWave küme düğümünde paralel hale getirildiği ve bellek bant genişliğinde son derece hızlı ve hiçbir doğruluk kaybı olmadan yürütüldüğü anlamına gelir.

HeatWave Chat

Yeni HeatWave Chat arayüzü, doğal dil kullanarak vektör deposundaki tescilli belgelerle zenginleştirilmiş bağlamsal konuşmalar yapmanızı sağlar.

  • Doğal dili kullanarak MySQL Database'de ve nesne depolamada depolanan yapılandırılmamış verilerle etkileşim kurabilirsiniz. Soruların bağlamı, takip soruları ile insan benzeri bir konuşma sağlamak için korunur. HeatWave, sorulan soruların geçmişini, kaynak belgelerin alıntılarını ve LLM'ye yönlendirmeyi içeren bir bağlamı korur. Bu, bağlamsal bir görüşmeyi kolaylaştırır ve LLM tarafından oluşturulan yanıtların kaynağını doğrulamanızı sağlar. Bu bağlam HeatWave'de muhafaza edilir ve HeatWave kullanan tüm uygulamalar için kullanılabilir.
  • Entegre Lakehouse Navigator, MySQL Veritabanı ve nesne depolama alanında bulunan verileri görmenizi sağlar. Daha sonra seçilen verileri HeatWave Vector Store'a kolayca yükleyebilir ve LLM'ye bu belirli kaynaktan bilgi alması talimatını verebilirsiniz. Sonuç olarak, hem hızı hem de doğruluğu artırırken daha küçük bir veri kümesinde arama yaparak maliyetleri düşürebilirsiniz.
  • Tüm veritabanında arama yapabilir veya aramayı bir klasörle sınırlandırabilirsiniz.
  • HeatWave Chat üzerinden yerleşik veya OCI Generative AI hizmeti ile erişilebilen çeşitli LLM'ler seçilebilir.