Minikubeを使用したAmpere A1 Flexコンピュート・インスタンスへのAIチャットボットのデプロイ

概要

このワークショップでは、ユーザーがAmpere A1フレキシブル・コンピュート・インスタンス上でオープン・ソースのAIチャットボットを簡単にデプロイして使用できるようになり、minikubeとKubernetesを活用してシームレスなデプロイメントを実現できます。参加者は、Oracle Linux内で動作し、Oracle Cloud Infrastructure (OCI) Kubernetes Engineに依存することなくコンピュート・シェイプへのデプロイを実践的に体験し、デプロイメント技術の熟達度を高めます。

デモ

前提条件と設定

1. Oracle Cloudアカウント- サインアップ・ページ
2. OCI Networking—ドキュメント
3. minikube - ドキュメント
4. Kubernetes - ドキュメンテーション
5. OCI Compute—ドキュメンテーション

ここから始めよう

• ステップバイステップのハンズオン・ワークショップ

その他のリソース

• OCIマーケットプレイス・イメージ
• ブログ: OCI Ampere A1でのMeta Llama 3の紹介: CPUベースのモデル推論の証明
• ブログ: CPUベースの推論による生成AIの民主化