概要
今日のテクノロジー環境では、研究と統計を活用し、分析のためのデータフィードを取り込み、インサイトを引き出してリアルタイムで意思決定を行うことができます。ただし、最も堅牢な分析ソリューションであっても、新しい情報の解析やコンテキスト化が難しい場合があります。ここでは、retrieval-augmented generation (RAG)が役立つため、新しい情報が使用可能になったときに再トレーニングせずに、大規模言語モデルの知識を拡張できます。これにより、モデルが最新のデータで更新され、最小限の労力でより効率的になります。
Oracle Cloud Infrastructure(OCI)生成AIエージェントでは、これだけを実行できます。この例では、ドキュメントをアップロードし、このデータを処理し、(OpenSearchのOCI Searchを介して)ベクトル・ストアに配置し、キャッシュの目的でRedisクラスタを作成し、チャットボットを介してデータを消費する方法を提供します。
インフラストラクチャには、次のOCIサービスがあります:
- ユーザーとエージェントの相互作用をキャッシュするためのOCIキャッシュ(モデルにコンテキストを提供できるようにするため)
- 索引類似性検索(ベクトル・データベース)およびデータを含む索引の格納のためのOpenSearchクラスタを使用したOCI検索
- OpenSearchクラスタにセキュアに接続するためのOCI Compute(OCIプライベート・サブネット・ルーティングを使用)
- クラスタ内のデータの通信および対話を行うためのOCI生成AIエージェント
デモ
前提条件と設定
- Oracle Cloudアカウント- サインアップ・ページ
- OCI Generative AIを使い始める- ドキュメント
- OCI SDKおよびコマンドライン・インタフェース—構成
- OCI生成AI - Python SDK
- オープン・ソース・パッケージ・マネージャ—Conda