Déployer un chatbot AI sur une instance de calcul Flex Ampere A1 à l'aide de Minikube

Introduction

Cet atelier permet aux utilisateurs de déployer et d'utiliser facilement un chatbot d'IA open source sur une instance de calcul flexible Ampere A1, en tirant parti de minikube et de Kubernetes pour un déploiement transparent. Grâce à Oracle Linux, les participants acquièrent une expérience pratique du déploiement sur des formes de calcul sans dépendre d'Oracle Cloud Infrastructure (OCI) Kubernetes Engine, améliorant ainsi leur maîtrise des techniques de déploiement.

Démonstration

Prérequis et configuration

1. Compte Oracle Cloud : page d'inscription
2. OCI Networking - Documentation
3. minikube : documentation
4. Kubernetes — documentation
5. OCI Compute - Documentation

Lancez-vous

• Atelier pratique avec des instructions pas à pas

Ressources complémentaires

• Image OCI Marketplace
• Blog : Présentation de Meta Llama 3 sur OCI Ampere A1 : un témoignage de l'inférence de modèle basée sur l'UC
• Blog : Démocratiser l'IA générative avec l'inférence basée sur le CPU