Instanțe GPU

Oracle Cloud Infrastructure (OCI) Compute oferă scalabilitate de top în domeniu și un raport cost-performanță pentru instanțe bare metal și mașini virtuale (VM) alimentate de GPU NVIDIA pentru grafică mainstream, inferență AI, instruire AI, gemeni digitali și HPC.

Anunțarea primului supercomputer AI zettascale din lume
Inworld inovează experiența jocurilor video cu OCI AI Infrastructure (2:50)
Aflați mai multe despre cele mai noi acceleratoare din OCI

OCI Supercluster poate accepta zeci de mii de unități de procesare grafică NVIDIA și AMD, cu beneficii suplimentare, cum ar fi accelerarea hardware, instanțe bare metal fără suprasarcină de hipervizor și multe altele.

De ce să utilizați OCI pentru instanțele GPU?

Scalabilitate

131.072

Numărul maxim de procesoare grafice GPU într-un OCI Supercluster1

Performanță

3.200

Lățime de bandă a rețelei de clustere RDMA de până la 3.200 Gb/sec2

Valoare

220%

Plăcile grafice GPU pentru alte servere CSP pot fi cu până la 220% mai scumpe3

Opţiuni

Maşină virtuală/BM

Optimizare cu VM şi performanţă cu instanţe Bare Metal

1. OCI Supercluster scalează până la 131.072 de procesoare grafice NVIDIA B200 (planificate); peste 100.000 de procesoare grafice NVIDIA B200 în Superchips NVIDIA GB200 (planificate); 65.536 de procesoare grafice H200, 32.768 de procesoare grafice NVIDIA A100, 16.384 de procesoare grafice NVIDIA H100 şi 16.384 AMD MI300X procesoare grafice.

2. Pentru instanţe Bare Metal cu plăci grafice NVIDIA H100 şi plăci grafice AMD MI300X.

3. Pe baza prețurilor la cerere de la 5 iunie 2024.

Înregistrați-vă pentru noul program de încercare înainte de cumpărare pentru OCI Compute cu GPU AMD Instinct MI300X.

Instanțe GPU – caracteristici cheie

OCI este singurul furnizor major de cloud care oferă instanţe Bare Metal cu plăci grafice NVIDIA şi AMD, pentru performanţe ridicate şi fără costuri de virtualizare suplimentare. Pentru check-poinuri, în timpul instruirii AI, instanţele noastre oferă cel mai mult spaţiu de stocare local per nod (61,4 TB cu plăci grafice H100).

Plăci grafice NVIDIA și AMD de înaltă performanță

Plăci grafice NVIDIA Tensor Core

OCI oferă cea mai mare valoare și performanță pentru instanțele de calcul Bare Metal și de mașini virtuale, alimentate de GPU-uri Tensor Core H100, L40S GPU, A100 GPU Tensor Core, A10 GPU Tensor Core și GPU NVIDIA de generație mai veche. OCI intenționează să ofere instanțe cu procesoare grafice NVIDIA H200 și Blackwell.

Supercipuri NVIDIA

OCI oferă NVIDIA GH200 Grace Hopper Superchip și intenționează să ofere GB200 Grace Blackwell Superchip pentru inferența LLM.

Plăci grafice AMD Instinct

OCI oferă procesoare grafice AMD Instinct MI300X cu 192 GB de memorie la un preț competitiv.

Reţea de clustere cu performanţe ridicate

Rețeaua de clustere cu latență ultralow de la Oracle, bazată pe acces direct la memorie de la distanță (RDMA), oferă o latență de nivel de microsecunde.

Instanțe GPU NVIDIA de înaltă performanță
Lăţime de bandă faţă de nodurile clusterului; 1 nod = 8 procesoare grafice NVIDIA A100

Implementaţi pe maşini virtuale, instanţe Bare Metal şi clustere Kubernetes

Instanțe VM

Pentru mașinile virtuale, alegeți dintre arhitecturile Hopper, Ampere și GPU mai vechi de la NVIDIA, cu unul până la patru nuclee, 16 până la 64 GB de memorie GPU per mașină virtuală și o lățime de bandă de rețea de până la 48 GB/sec.

Instanțe bare metal

Utilizați OCI Supercluster cu instanțe bare metal care includ unități GPU AMD Instinct, unități GPU NVIDIA Blackwell sau Superchips, unități GPU NVIDIA Hopper sau Superchips și unități GPU NVIDIA Ampere.

Orchestrare Kubernetes

Profitați de Kubernetes gestionat, de rețea de servicii și de registrul de containere pentru a orchestra instruirea și inferența AI și machine learning (ML) cu containerele.

Alegeţi dintr-o varietate de instanţe de calcul VM şi Bare Metal
Comparație între performanța GPU-urilor NVIDIA V100 și A10

Accesaţi software-ul cu disponibilitate imediată

Accesare imagini software şi disc

Oracle Cloud Marketplace oferă imagini software și pe disc pentru modelele de știință a datelor, analiză, inteligență artificială (AI) și machine learning (ML), astfel încât clienții să poată obține rapid informații din datele lor.

NVIDIA AI Enterprise

Obțineți acces la NVIDIA AI Enterprise, o platformă software completă pentru știința datelor și inteligența artificială pentru producție, inclusiv inteligența artificială generativă, viziunea computerizată și inteligența artificială vocală.

NVIDIA DGX Cloud

NVIDIA DGX Cloud pe OCI este o platformă de instruire AI ca serviciu, care oferă o experiență serverless pentru dezvoltatori, optimizată pentru AI generativă.

Imagine automată NVIDIA GPU Cloud

Utilizați NVIDIA GPU Cloud Machine Image pentru sute de aplicații optimizate pentru GPU, destinate învățării automate, învățării profunde și calculului de înaltă performanță, acoperind o gamă largă de industrii și fluxuri de lucru.

Staţie de lucru virtuală NVIDIA RTX

Oferiți performanțe puternice privind posturile de lucru, oriunde au nevoie angajații, prin rularea NVIDIA RTX Virtual Workstation pe Oracle Cloud.

Controlaţi mediul de calcul şi datele AI

Cloud distribuit

În combinație cu calculul pe GPU, cloudul distribuit al OCI ajută organizațiile să ruleze serviciile AI și cloud acolo unde și cum sunt necesare.

Sovereign Cloud

Susțineți rezidența datelor într-o regiune sau țară, inclusiv UE, SUA, Regatul Unit și Australia.

Regiune dedicată OCI

Implementați o regiune cloud completă în centrul dvs. de date cu OCI Dedicated Region pentru a vă păstra controlul deplin asupra datelor și aplicațiilor.

Oracle Alloy

Deveniți partener Oracle Alloy și oferiți-vă serviciile cloud pentru a răspunde cerințelor specifice ale pieței.

Microservicii și containere

Registru de containere

Dezvoltatorii care creează aplicații utilizând containere utilizează un serviciu de registru privat pentru containere, cu disponibilitate ridicată, administrat de Oracle. Trimiteţi sau preluaţi imagini Docker în şi din registru, cu API-ul Docker V2 şi cu interfaţa în linie de comandă (CLI) standard Docker. Imaginile pot fi preluate direct într-o implementare Kubernetes.

Oracle Functions

Functions as a Service (FaaS) permite dezvoltatorilor să ruleze aplicații Serverless care se integrează cu Oracle Cloud Infrastructure, aplicații Oracle Cloud și servicii terțe. Obțineți eficiența dezvoltatorilor împreună cu comunitatea open source Fn Project.

Instanțe GPU – cazuri de utilizare

Infrastructură AI pentru instruirea și deducția deep learning

Instruiți modelele AI utilizând OCI Data Science, instanțe bare metal, rețea în cluster bazată pe RDMA și GPU NVIDIA.


Instruire și inferențiere AI Această diagramă prezintă cele două etape ale dezvoltării modelului deep learning: instruirea modelelor și punerea în producție a acestora. La instruirea modelelor din stânga, rețeaua neurală neinstruită este introdusă într-un algoritm de instruire activat de OCI Data Science, calcul bare metal, stocare locală și rețea de clustere. Rezultatul algoritmului de instruire este un model instruit cu o nouă funcționalitate. Etapa de punere în producție a modelului este descrisă în dreapta. Gândiți-vă la un model instruit, cum ar fi DALL-E 2, care poate prelua text și genera imagini. Se introduce un text în modelul instruit, iar rezultatul este o imagine furnizată de acesta.

Infrastructură desktop virtuală (VDI)

OCI Compute bazat pe procesoare grafice NVIDIA oferă o performanță ridicată constantă pentru VDI.


Infrastructură desktop virtuală Infrastructură virtuală pentru desktop

CFD şi calcul de înaltă performanţă utilizând instanţe GPU

OCI permite ingineria asistată de computer și dinamica computerizată a fluidelor pentru predicții rapide ale proprietăților aerodinamice ale obiectelor.


CFD şi calcul de înaltă performanţă utilizând instanţe GPU CFD și calcul de înaltă performanță folosind instanțe GPU

Instanțe GPU – clienți

Explorați mai multe relatări ale clienților
18 noiembrie 2024

Disponibil acum în general: cel mai mare și mai rapid supercomputer AI din cloud

Sagar Zanwar, manager principal de produs, OCI
Akshai Parthasarathy, director pentru marketing produs, OCI

Suntem încântați să anunțăm disponibilitatea generală a Oracle Cloud Infrastructure (OCI) Supercluster cu procesoare grafice NVIDIA H200 Tensor Core. Cel mai mare supercomputer AI disponibil în cloud, cel mai recent supercluster al nostru scalează până la 65.536 de GPU-uri lider în industrie.

Citiți postarea completă

Bloguri recomandate

Descoperiți cum infrastructura Oracle AI și unitățile de procesare grafică AMD Instinct oferă o bază de lucru de înaltă performanță, scalabilă și rentabilă pentru optimizarea fluxurilor de lucru AI/ML.

Noţiuni introductive despre instanţele GPU

Încercați Oracle AI și obțineți o versiune de încercare de 30 de zile

Oracle oferă un nivel gratuit de preț pentru majoritatea serviciilor AI, precum și un cont de încercare cu credite în valoare de 300 USD pentru testarea unor servicii în cloud suplimentare. Serviciile AI sunt o colecție de oferte, inclusiv AI generativ, cu modele de machine learning prestabilite care ajută dezvoltatorii să utilizeze AI în aplicații și în operațiunile organizațiilor.

  • Ce servicii Oracle AI și ML oferă un nivel gratuit de preț?

    • OCI Speech
    • OCI Language
    • OCI Vision
    • OCI Document Understanding
    • Machine learning în Oracle Database
    • OCI Data Labeling

    De asemenea, trebuie să plătiți doar taxele corespunzătoare soluțiilor de calcul și spațiului de stocare pentru OCI Data Science.

Aflați cât puteți economisi cu OCI

Prețurile Oracle Cloud sunt constante și mici peste tot în lume, pentru o mare varietate de cazuri de utilizare. Pentru o estimare a tarifului dvs. scăzut, consultați estimatorul de costuri și configurați serviciile pentru a corespunde cerințelor dvs.

Experimentați diferența

  • 1/4 din costurile pentru lățimea de bandă de ieșire
  • De 3 ori mai multă performanță de calcul
  • Același preț scăzut în toate regiunile
  • Prețuri scăzute, fără angajamente pe termen lung

Accesați un expert GPU și AI

Obțineți ajutor pentru crearea următoarei soluții GPU sau pentru implementarea sarcinii de lucru AI pe infrastructura OCI AI.

  • Aceștia pot răspunde la întrebări precum

    • Cum încep să utilizez Oracle Cloud?
    • Ce fluxuri de lucru AI pot rula în OCI?
    • Ce tipuri de servicii AI oferă OCI?

Această pagină a fost tradusă automat.