Feinabstimmung von LLMs mit OCI Generative AI Playground

Einführung

Wenn wir mit großen Sprachmodellen (LLMs) arbeiten, reagiert das Modell in der Regel auf die Trainingsdaten, die es gegeben hat. Das Training dieser Modelle kann jedoch schwierig sein, da sie viele Ressourcen wie GPUs und Stromversorgung verwenden.

Glücklicherweise hat sich die Modelloptimierung weiterentwickelt, um eine "kleinere Trainingsversion" mit weniger Daten durch einen Prozess namens Feinabstimmung zu ermöglichen.

Die nachstehende Beispiellösung bietet eine Methode zur Optimierung eines LLM mit dem generativen KI-Playground von Oracle Cloud Infrastructure (OCI), einer Schnittstelle in der OCI-Konsole.

Demo

Voraussetzungen und Einrichtung

1. Oracle Cloud-Account – Anmeldeseite
2. Erste Schritte mit OCI Generative AI – Dokumentation für OCI Generative AI
3. Feinabstimmung von OCI Generative AI – Dokumentation für die Feinabstimmung von OCI Generative AI
4. OCI Generative AI Playground – Dokumentation für den OCI Generative AI Playground
5. Python 3.10
6. Open Source Package Manager – Conda

Erste Schritte

• Detaillierte Schritte und Beispielcode auf GitHub