HeatWave GenAI 常见问题解答

一般问题

什么是 HeatWave GenAI？

Oracle HeatWave GenAI 通过数据库内大语言模型 (LLM)、自动化和安全的数据库内向量存储、横向扩展向量处理、基于自然语言的情境化对话功能提供集成、自动化的生成式 AI 支持，让您无需移动数据和支付额外成本就能充分利用生成式 AI — 即使您不具备 AI 专业知识。

HeatWave GenAI 有哪些关键特性？

Oracle HeatWave GenAI 的关键特性包括

• 数据库内 LLM
• 与 OCI Generative AI 和 Amazon Bedrock 集成
• 一个数据库中向量存储
• 自动生成嵌入
• 横向扩展向量处理
• HeatWave Chat

HeatWave 中哪些 LLM 可用作数据库内模型？

以下数据库内 LLM 的量化版本目前可在 HeatWave 中使用：

• llama3-8b-instruct-v1
• mistral-7b-instruct-v1

HeatWave Vector Store 如何实现自动化？

您可以只需一行 SQL 命令，即可为企业非结构化内容创建向量存储。创建向量存储和向量嵌入的所有步骤都是自动在数据库内部执行的，包括发现对象存储中的文档、对其进行解析、以高度并行和优化的方式生成嵌入以及将其插入到向量存储中，从而使 HeatWave 向量存储更高效且易于使用。

HeatWave 是否需要 GPU 运行数据库内 LLM？

HeatWave 在商品硬件上运行。数据库内 LLM 不在 GPU 上运行，而是在 CPU 上运行。因此，您可以降低成本，无需担心 LLM 在各种数据中心的可用性。

HeatWave GenAI 如何帮助您提高数据安全？

使用数据库内 LLM 和数据库内向量存储时，数据不会离开数据库，有助于提高数据安全性。

我是否可以在 AWS 上运行 HeatWave GenAI？

可以，HeatWave GenAI 在 AWS 上原生可用。此外，还有其他 HeatWave 功能，包括 HeatWave MySQL、HeatWave Lakehouse、HeatWave AutoML 和 HeatWave Autopilot。

生成嵌入是否支持多种语言？

可以，支持 27 种语言的文本数据生成嵌入。

发出提示时支持哪些语言？

提示可以用英语发布。用其他语言（如西班牙语和德语）发布的提示可以翻译为英语。

我是否可以在不使用 HeatWave 集群的情况下使用向量搜索？

不可以，向量搜索是在 HeatWave 集群中执行的。

HeatWave GenAI 应使用哪些配置？

HeatWave 在 MySQL 节点上运行。我们建议使用具备 MySQL.32 配置的 MySQL 节点，以及在生产环境中使用具备 HeatWave.512GB 配置的 HeatWave 节点。在开发/测试时，您可以使用较小的 MySQL 配置。您可以在此处查看获得支持的 MySQL 配置。HeatWave GenAI 则不支持 HeatWave.32GB 配置。

向量存储的创建支持哪些类型的文档？

支持 PDF、文本、PowerPoint、Word 和 HTML 格式。

HeatWave GenAI 的费用是多少？

使用 HeatWave GenAI 时，不会产生超出 HeatWave 集群成本的额外成本。您可以调用数据库内 LLM 和随 HeatWave GenAI 提供的嵌入模型，无需额外付费。您还可以付费调用 OCI 上的 OCI Generative AI 和 AWS 上的 Amazon Bedrock 提供的外部 LLM。

我的数据是否用于训练 LLM？

不会，LLM 是预训练模型。您的数据不会用于训练 LLM。

HeatWave GenAI 是否支持微调？

不支持，您不能对随 HeatWave 提供的数据库内 LLM 进行微调。

我是否可以自带 LLM 或嵌入模型？

不可以，您无法自带 LLM 或嵌入模型。然而，您可以在 OCI 上运行 HeatWave GenAI 时通过 OCI Generative AI，或在 AWS 上运行 HeatWave GenAI 时通过 Amazon Bedrock 调用外部 LLM 或嵌入模型。

自数据库内 LLM 量化以来，结果的预期质量如何？

根据我们的测试，对于依赖 HeatWave Vector Store 的使用场景，结果与非量化 LLM 相当。您可以轻松测试模型，以评估结果的性能和质量。

我需要多久创建一次嵌入？

您只需生成一次嵌入，嵌入将会存储在 HeatWave Vector Store 中。修改对象存储中非结构化文档时，会自动触发对关联向量嵌入的更新。

含有图像的文档是否可以导入到 HeatWave Vector Store？

可以，光学字符识别支持允许 HeatWave Vector Store 将保存为图像的扫描内容转换为可以分析的文本数据，例如进行相似性搜索。