Een AI-chatbot implementeren op een Ampere A1 Flex Compute instance met Minikube

Inleiding

Met deze workshop kunnen gebruikers eenvoudig een open-source AI-chatbot implementeren en gebruiken op een Ampere A1 flexibele rekeninstance, waarbij gebruik wordt gemaakt van minikube en Kubernetes voor naadloze implementatie. Deelnemers doen hun werk binnen Oracle Linux en doen praktijkervaring op met het implementeren van compute-vormen zonder te vertrouwen op Oracle Cloud Infrastructure (OCI) Kubernetes Engine, waardoor hun vaardigheid in implementatietechnieken wordt verbeterd.

-demonstratie

Vereisten en instellingen

1. Aanmeldingspagina voor Oracle Cloud account
2. OCI Networking - documentatie
3. minikube-documentatie
4. Kubernetes—documentation
5. OCI Compute - documentatie

Aan de slag

• Praktische workshop met stapsgewijze instructies

Aanvullende bronnen

• OCI Marketplace image
• Blog: Introductie van Meta Llama 3 op OCI Ampere A1: een testament van op CPU gebaseerde modelinferentie
• Blog: Generatieve AI democratiseren met op CPU gebaseerde inferentie