Solución de IA

Ajusta los LLM con OCI Generative AI

Introducción

Cuando trabajamos con modelos de lenguaje grandes (LLM), normalmente hacemos que el modelo responda a los datos de entrenamiento que se le han dado. Sin embargo, entrenar estos modelos puede ser difícil, ya que utilizan una gran cantidad de recursos, como GPU y potencia.

Afortunadamente, la optimización de modelos ha avanzado para permitir una versión de "entrenamiento más pequeño" con menos datos, a través de un proceso llamado ajuste fino.

La solución de ejemplo específica que se muestra a continuación proporciona un método para ajustar un LLM mediante el patio de juegos de Oracle Cloud Infrastructure (OCI) Generative AI, una interfaz en la consola de OCI.

Demostración

Demostración: ajuste detallado de los LLM en OCI Generative AI Playground (1:32)

Requisitos y configuración

  1. Cuenta en Oracle Cloud: página de registro
  2. Introducción a OCI Generative AI: documentación para OCI Generative AI
  3. Ajuste de OCI Generative AI: documentación sobre el ajuste de OCI Generative AI
  4. Campo de juego de OCI Generative AI: documentación para el campo de juego de OCI Generative AI
  5. Python 3.10
  6. Gestor de paquetes de código abierto: Conda