Despliegue de un chatbot de IA en una instancia informática flexible A1 de Ampere con Minikube

Introducción

Este taller permite a los usuarios desplegar y utilizar fácilmente un bot conversacional de IA de código abierto en una instancia informática flexible de Ampere A1, aprovechando minikube y Kubernetes para un despliegue perfecto. Al operar en Oracle Linux, los participantes obtienen experiencia práctica en el despliegue en unidades de computación sin depender de Oracle Cloud Infrastructure (OCI) Kubernetes Engine, lo que mejora su competencia en técnicas de despliegue.

Demostración

Requisitos y configuración

1. Cuenta en Oracle Cloud: página de registro
2. Redes de OCI: documentación
3. minikube: documentación
4. Kubernetes: documentación
5. OCI Compute: documentación

Comience ahora

• Taller práctico con instrucciones detalladas

Recursos adicionales

• Imagen de OCI Marketplace
• Blog: Presentación de Meta Llama 3 en OCI Ampere A1: un testimonio de la inferencia de modelos basada en CPU
• Blog: Democratización de la IA generativa con inferencia basada en CPU