HeatWave GenAI 常見問題
一般問題
什麼是 HeatWave GenAI？
Oracle HeatWave GenAI 透過資料庫內大型語言模型 (LLM)，提供整合且安全的自動化生成式 AI、自動化且安全的資料庫內向量儲存、橫向擴展向量處理，並支援以自然語言進行情境式對話，即使不具備 AI 專長，您也能在不移動資料的情況下使用生成式 AI，而且也不用額外付費。
HeatWave GenAI 有哪些主要功能？
HeatWave GenAI 的主要功能包括
- 資料庫內 LLM
- 與 OCI Generative AI 和 Amazon Bedrock 整合
- 資料庫內向量儲存區
- 自動產生內嵌內容
- 橫向擴展向量處理
- HeatWave Chat
HeatWave 的資料庫內模型提供哪些 LLM？
HeatWave 目前提供下列資料庫內 LLM 的量化版本：
- llama3-8b-instruct-v1
- mistral-7b-instruct-v1
HeatWave Vector Store 如何自動化？
您可以使用單一 SQL 指令為企業非結構化內容建立向量儲存。建立向量儲存和向量內嵌項目的所有步驟都是自動化的，並在資料庫內執行，包括發現物件儲存中的文件、剖析文件、以高度平行和最佳化的方式產生內嵌項目，並將它們插入向量儲存中，從而確保 HeatWave Vector Store 高效且易於使用。
HeatWave 是否需要 GPU 來執行資料庫內 LLM？
HeatWave 在商用硬體上執行。資料庫內 LLM 不在 GPU 上執行，而是在 CPU 上執行。因此，您不僅可以降低成本，而且無需擔心 LLM 在各個資料中心的可用性。
HeatWave GenAI 如何協助提升資料安全性？
使用資料庫內 LLM 和資料庫內向量儲存時，資料不會離開資料庫，這有助於提高資料安全性。
是否可以在 AWS 上執行 HeatWave GenAI？
可以，HeatWave GenAI 以及其他 HeatWave 功能 (包括 HeatWave MySQL、HeatWave Lakehouse、HeatWave AutoML 和 HeatWave Autopilot) 將在 AWS 上提供。
是否支援多種語言來產生內嵌内容？
是的，我們為 27 種語言的文字資料產生內嵌内容。
支援哪些語言的提示？
您可以用英語發出提示，而以其他語言 (例如西班牙語和德語) 發出的提示則可以翻譯成英語。
是否可以在沒有 HeatWave 叢集的情況下使用向量搜尋？
不可以，向量搜尋是在 HeatWave 叢集內執行的。
HeatWave GenAI 應使用哪些資源配置？
HeatWave 在 MySQL 節點上執行。我們建議在生產環境中使用具有 MySQL.32 資源配置的 MySQL 節點，以及使用 HeatWave.512GB 資源配置的 HeatWave 節點。對於開發/測試環境，則可以使用較小的 MySQL 資源配置。您可以在此處查看支援的 MySQL 資源配置。對於 HeatWave GenAI，不支援 HeatWave.32GB 資源配置。
向量儲存建立支援哪些類型的文件？
支援的格式包括 PDF、文字、PowerPoint、Word 和 HTML。
HeatWave GenAI 的成本是多少？
使用 HeatWave GenAI 時，除了 HeatWave 叢集的成本之外，沒有任何額外成本。您可以呼叫 HeatWave GenAI 提供的資料庫內 LLM 和內嵌模型，而且無需額外付費。您也可以透過 OCI 上的 OCI Generative AI 和 AWS 上的 Amazon Bedrock 呼叫可用的外部 LLM，並依照所使用的服務付費。
我的資料是否會被用於訓練 LLM？
不會，LLM 是預先訓練的模型。您的資料不會被用於訓練 LLM。
HeatWave GenAI 是否支援微調？
不可以，HeatWave 提供的資料庫內 LLM 無法微調。
是否可以自備 LLM 或嵌入模型？
不可以，您不能自備 LLM 或嵌入模型。不過，在 OCI 上執行 HeatWave GenAI 時，您可以透過 OCI Generative AI 呼叫外部 LLM 或嵌入模型；在 AWS 上執行 HeatWave GenAI 時，您則可以透過 Amazon Bedrock 呼叫外部 LLM 或嵌入模型。
由於資料庫內 LLM 已量化，預期結果品質如何？
根據我們的測試，對於依賴 HeatWave Vector Store 的用例，其結果與非量化 LLM 相當。您可以輕鬆測試模型，以評估結果的效能和品質。
我需要多久建立一次內嵌内容？
您只需要產生一次內嵌内容，它們將儲存在 HeatWave Vector Store 中。當物件儲存中非結構化文件發生變化時，將自動觸發關聯向量內嵌的更新。
是否可以將包含影像的文件匯入 HeatWave Vector Store？
可以，透過光學字元辨識支援，HeatWave Vector Store 可將儲存為影像的掃描內容轉換成可分析的文字資料，例如進行相似性搜尋。