AI 解決方案

使用 OCI Generative AI Agents 打造 RAG 聊天機器人

簡介

在現今的技術環境中,我們可以運用研究和統計數據,提取資料饋送進行分析並繪製洞察分析,以即時做出決策。不過,即使是最強大的分析解決方案,新資訊也可能難以剖析和情境化。這是 retrieval-augmented generation (RAG) 很有用,您可以擴增大型語言模型的知識,無需在有新資訊可用時重新訓練。這會以較新的資料更新您的模型,使其在最短的時間內更能夠運作。

Oracle Cloud Infrastructure (OCI) Generative AI Agents 幫助您實現這一點。在此範例中,我們將上傳文件、處理此資料、將其放入向量儲存區 (透過 OCI Search with OpenSearch)、建立 Redis 叢集以供快取,並為您提供透過聊天機器人使用資料的方式。

針對基礎架構,我們將提供下列 OCI 服務:

  • 用於快取使用者代理程式互動的 OCI 快取 (因此我們可以提供部分模型相關資訊環境)
  • 使用 OpenSearch 叢集的 OCI Search 進行索引相似性搜尋 (向量資料庫) 以及使用資料儲存索引
  • 用於安全地連線至 OpenSearch 叢集的 OCI Compute (透過 OCI 專用子網路路由)
  • 用於與叢集中的資料通訊及互動的 OCI Generative AI Agents

展示

示範:使用 OCI Generative AI Agents 搭配 RAG 的聊天機器人 (1:44)

先決條件與設定

  1. Oracle Cloud 帳戶 — 註冊頁面
  2. OCI Generative AI 入門 - 文件
  3. OCI SDK 和命令行介面 - 組態
  4. OCI 生成式 AI —Python SDK
  5. 開源套件管理程式 — 康達