HeatWave GenAI

Oracle HeatWave GenAI 透過資料庫內大型語言模型 (LLM)，提供整合且安全的自動化生成式 AI、自動化且安全的資料庫內向量儲存、橫向擴展向量處理，並支援以自然語言進行情境式對話，即使不具備 AI 專長，您也能在不移動資料的情況下使用生成式 AI，而且也不用額外付費。Oracle Cloud Infrastructure (OCI)、Amazon Web Services (AWS) 及 Microsoft Azure 皆提供 HeatWave GenAI。

觀看示範 (5:27)

為什麼要使用 HeatWave GenAI？

  • 隨時隨地快速使用生成式 AI

    跨雲端和區域使用資料庫內 LLM，協助擷取資料、生成內容或製作摘要，省去選取外部 LLM 和整合的麻煩。

  • 輕鬆取得更準確且相關的答案

    讓 LLM 搜尋您的專屬文件，以協助取得更精確、更符合情境的答案 - 無需具備 AI 專業知識，也不需要將資料移至獨立的向量資料庫。HeatWave GenAI 會自動產生內嵌内容。

  • 以自然語言進行對話

    透過自然語言對話，快速洞察文件內容。HeatWave Chat 介面會記憶對話脈絡，讓後續提問過程更加自然流暢，彷彿與真人交談。

HeatWave GenAI 的主要功能

資料庫內 LLM

在所有 Oracle Cloud Infrastructure (OCI) 區域、OCI Dedicated Region 和跨雲端中使用內建 LLM，並在各個部署中獲得一致的結果和可預測的效能。由於無需佈建 GPU，因此可降低基礎架構成本。

與其他生成式 AI 服務整合

在 OCI 上使用 HeatWave GenAI 時，透過 OCI 生成式 AI 服務從 Cohere 和 Meta 存取預先訓練的基礎模型，在 AWS 上使用 HeatWave GenAI 時則是透過 Amazon Bedrock。

HeatWave Chat

基於 HeatWave Vector Store 中的非結構資料，使用自然語言進行情境式對話。使用整合式 Lakehouse Navigator 引導 LLM 搜尋特定文件，以降低成本，同時更快獲得更準確的結果。

資料庫內向量儲存區

HeatWave Vector Store 能將您的專屬文件儲存為各種格式，做為檢索增強生成 (RAG) 的知識庫，協助您獲得更準確、更符合情境的答案，且無需將資料移至獨立的向量資料庫。

自動產生內嵌內容

利用自動化管道來發現和提取 HeatWave Vector Store 中的專有文件，即使不具備 AI 專業知識的開發人員和分析師也可以輕鬆地使用向量儲存區。

橫向擴展向量處理

向量處理以記憶體頻寬執行，可平行處理多達 512 個 HeatWave 叢集節點，有助快速提供結果，同時降低準確性下降的可能性。

HeatWave GenAI 的客戶觀點

  • 「有了 HeatWave GenAI，享受生成式 AI 的優勢變得輕而易舉。它支援資料庫內 LLM 和資料庫內向量建立，可大幅降低應用程式複雜性，並顯著縮短可預測的推論延遲。最重要的是，使用 LLM 或建立嵌入無需額外成本。HeatWave GenAI 真正實現了生成式 AI 的民主化。我們深信，它能幫助我們的客戶開發更豐富的應用程式，並大幅提升生產力。」

    — SmarterD 執行長 Vijay Sundhar

  • 「我們大量使用資料庫內 HeatWave AutoML，為客戶提供多樣化的建議。HeatWave 支援資料庫內 LLM 和資料庫內向量儲存區的能力獨樹一格，而整合生成式 AI 與 AutoML 的能力，更讓 HeatWave 在業界脫穎而出，也讓我們能夠為客戶提供全新類型的功能。整合 AutoML 所產生的協同效應，也改善了 LLM 結果的成效和品質。」

    — EatEasy 執行長 Safarath Shafi

  • 「HeatWave 的資料庫內 LLM、資料庫內向量儲存、橫向擴展記憶體內向量處理以及 HeatWave Chat，都是 Oracle 獨具特色的功能。這些功能實現了生成式 AI 的民主化，包括顯著提升易用性和安全性，以及大幅降低使用成本。使用 HeatWave 和 AutoML 來滿足我們的企業需求，已經在多個層面革新了我們的業務模式。隨著許多企業客戶尋求將生成式 AI 應用於自身內容，Oracle 的這項創新可能會催生一批全新類型的應用程式，以滿足這些客戶的需求。」

    — Aiwifi 創辦人 Eric Aguilar

HeatWave GenAI 有哪些優點？

  • 開發人員可交付內建 AI 的應用程式

    內建 LLM 和 HeatWave Chat，協助您交付可直接以自然語言進行情境式對話的應用程式。無需外部 LLM 和 GPU。

  • 分析人員可以快速獲得新洞察

    HeatWave GenAI 可協助您輕鬆與資料對話、跨文件執行相似性搜尋，並從專屬資料中擷取資訊。

  • IT 有助於加速 AI 創新

    提供整合式功能和自動化技術，協助開發人員和業務團隊充分發揮生成式 AI 的優勢。輕鬆實現自然語言對話和 RAG。

HeatWave GenAI 的使用案例

您可以使用資料庫內 LLM，根據非結構化文件生成內容或摘要。使用者可以在應用程式中以自然語言提問，再由 LLM 處理請求並交付內容。


「內容生成」圖表，說明如下：

使用者以自然語言提問：「請為這份解決方案簡介生成一份摘要。」大型語言模型 (LLM) 將會處理此輸入，並生成摘要做為輸出。



您可以將生成式 AI 的強大功能與其他內建的 HeatWave 功能 (例如機器學習) 結合使用，以協助降低成本，並加速獲得更準確的結果。在這個例子中，一家製造公司正在進行預測性維護。工程師可以使用 Oracle HeatWave AutoML 自動生成異常生產日誌報告，再由 HeatWave GenAI 協助快速判斷問題的根本原因。工程師只需以自然語言提問即可，無需手動分析日誌。


「分析生成」圖表，說明如下：

使用者在 HeatWave Chat中詢問：「這組日誌所揭示的最重大問題為何？請用兩句話總結。」首先，HeatWave AutoML 會根據持續擷取的所有生產日誌，生成一份經過篩選的異常日誌清單。接著，HeatWave 向量儲存區會根據日誌知識庫，向 LLM 提供額外的情境資訊。LLM 會接收這些經過增強的提示，並生成一份報告，再以自然語言提供詳盡的答案，向使用者說明問題所在。



聊天機器人可以使用 RAG 實現許多功能，像是回答員工有關公司內部政策的問題。詳述這些政策的內部文件會以內嵌方式，儲存在 HeatWave 向量儲存區中。當使用者提出查詢時，向量儲存區會對已儲存的內嵌內容執行相似性搜尋，以找出最相近的文件。這些文件將用於增強給 LLM 的提示，以生成更準確的答案。


RAG 圖表，說明如下：

使用者在 HeatWave Chat 中詢問：「我可以訂購哪些筆記型電腦？訂購流程是什麼？」HeatWave 會存取 HeatWave 向量儲存區中的內部政策文件，以處理這些問題。接著，HeatWave 會向 LLM 提供增強後的提示，並生成回應，例如：「這是一份核准的供應商清單，以及訂購所需的步驟」。



開發人員可以搭配使用 HeatWave 中的內建機器學習和生成式 AI，開發出可提供個人化建議的應用程式。在此範例中，應用程式會使用 HeatWave AutoML 推薦系統，根據使用者的喜好或先前的點餐內容來協助建議餐廳。應用程式還能協助透過 HeatWave Vector Store 搜尋 PDF 格式的餐廳菜單，並向顧客推薦合適的餐點，進一步提升服務價值。


「運用機器學習提升 RAG 能力」圖表，說明如下：

使用者透過 HeatWave Chat 詢問：「今天有什麼素食建議？」HeatWave AutoML 推薦系統會先根據使用者的過往點餐記錄，推薦合適的餐廳清單。接著，HeatWave Vector Store 會根據內部儲存的餐廳菜單，向 LLM 送出更有效的提示。接著，LLM 會生成個人化的餐點建議，並以自然語言呈現。



頂尖產業分析師評點 HeatWave

  • Constellation Research 標誌

    「HeatWave 持續引領工程創新，朝向通用雲端資料庫的願景邁進。最新成果是遵循「HeatWave 風格」開發的生成式 AI，包括將自動化、資料庫內向量儲存區和資料庫內 LLM 直接整合至 HeatWave 核心。如此一來，開發人員不但能開發全新類型的應用程式，還能同時享有 HeatWave 的優勢。」

    Holger Mueller
    Constellation Research 副總裁兼首席分析師
  • dbInsight 標誌

    「HeatWave 簡化了建立向量嵌入的所有複雜流程，大幅提升了生成式 AI 和檢索增強生成 (RAG) 的可存取性。開發人員只需指向雲端物件儲存中的來源檔案，HeatWave 就會處理剩下的繁重工作。」

    Tony Baer
    dbInsight 創辦人暨執行長

深入瞭解適用於不同工作負載的 HeatWave 解決方案

開始使用 HeatWave GenAI

輕鬆建置 GenAI 應用程式

遵循逐步指示，並使用我們提供的程式碼，快速輕鬆地建立 HeatWave GenAI 驅動的應用程式。

註冊服務

註冊即可免費試用 HeatWave GenAI。您將獲得價值 300 美元的雲端抵免額，可試用其功能 30 天，並無限期免費使用多項 HeatWave 功能。

聯絡業務人員

您有興趣瞭解更多關於 HeatWave GenAI 的資訊嗎？讓我們的專家助您一臂之力。

本頁面是機器翻譯的。