Utilizzo del parallelismo dei dati per addestrare più rapidamente i modelli AI personalizzati

Introduzione

Grazie a potenti GPU e tecniche NVIDIA come il parallelismo dei dati, puoi addestrare i tuoi modelli AI personalizzati più velocemente.

L'uso di più GPU su un singolo nodo offre un aumento delle prestazioni, ma le limitazioni hardware potrebbero limitare il numero di GPU disponibili. Per superare questo problema, possiamo sfruttare la formazione distribuita su più istanze di Oracle Cloud Infrastructure (OCI) in cui abbiamo due o più nodi connessi su una rete.

È qui che entra in gioco il parallelismo. Il parallelismo comporta la suddivisione del calcolo in parti più piccole che possono essere eseguite contemporaneamente su risorse di calcolo diverse.

Demo

Prerequisiti e impostazione

1. Account Oracle Cloud: pagina di registrazione
2. Oracle Cloud Infrastructure: documentazione
3. Oracle Cloud Marketplace NVIDIA GPU-Optimized VMI-documentazione
4. Istanze GPU Oracle Cloud: documentazione

Inizia

• Passi dettagliati e codice di esempio su GitHub