GPUインスタンス

Oracle Cloud Infrastructure (OCI) Computeは、NVIDIA GPUを実装したベア・メタルや仮想マシン(VM)インスタンスに業界をリードするスケーラビリティをもたらし、メインストリームのグラフィックス、AI推論、AIトレーニング、デジタル・ツイン、およびHPCを実現します。

Modal Labs、OCIで開発者向けのAI Computeの課題を解決(1:35)
スタンフォード大学の研究者、心不全の新しい治療法のためにOracle Cloudを活用

OCI Superclusterは、心臓病研究で使用される大規模言語モデル(LLM)のトレーニングを高速化するために、高いパフォーマンスのGPUを大規模に提供します。

OCI for GPUインスタンスを使用する理由

拡張性

131,072

OCI Supercluster内のGPUの最大数1

パフォーマンス

3,200

最大3,200GbpsのRDMAクラスタ・ネットワーク帯域幅2

価値

220%

他社CSPのGPUと比べて最大220%低価格3

選択肢

VM/BM

ベアメタル・インスタンスによるVMでのサイズ適正化とパフォーマンス

1: OCI Superclusterは、最大131,072個のNVIDIA B200 GPUs(予定)、NVIDIA GB200 Superchips内の00,000個以上の NVIDIA B200 GPU(予定)、65,536個のH200 GPU(予定)、32,768個のNVIDIA A100 GPU、16,384個のNVIDIA H100 GPUまで拡張できます。

2: NVIDIA H100 GPUを搭載したベア・メタル・インスタンスの場合。

3: 2024年6月5日時点のオンデマンド価格に基づいています。

GPUインスタンス—主な機能

OCIは、NVIDIA GPUを搭載したベアメタル・インスタンスを提供する唯一の大手クラウド・プロバイダーであり、仮想化のオーバーヘッドを伴わない高いパフォーマンスを実現します。AIトレーニング時のチェックポイント処理では、オラクルのインスタンスはノード当たりで最大のローカル・ストレージ(61.44TB)を提供します。

高パフォーマンスなNVIDIA GPUのインスタンス

NVIDIA TensorコアGPU

OCIは、NVIDIA H100 Tensor Core GPUL40S GPUA100 Tensor Core GPUA10 Tensor Core GPU、および旧世代のNVIDIA GPUを実装したベアメタルおよび仮想マシン・コンピュート・インスタンスに最高の価値とパフォーマンスを提供します。OCIでは、NVIDIA H200Blackwell GPUを搭載したインスタンスの提供を予定しています。

NVIDIAスーパーチップ

OCIは、NVIDIA GH200 Grace Hopper Superchipを提供しており、LLM 推論用にGB200 Grace Blackwell Superchipを提供する予定です。

高パフォーマンスのクラスタ・ネットワーク

オラクルの超低レイテンシ・クラスタ・ネットワーキングは、リモート・ダイレクト・メモリ・アクセス(RDMA)をベースとし、マイクロ秒レベルのレイテンシを実現します。

VM、ベアメタル・インスタンス、Kubernetesクラスタに導入

VMインスタンス

VM向けには、NVIDIAのHopper、Ampere、および以前のGPUアーキテクチャから、1~4コア、VMあたり16~64 GBのGPUメモリ、および最大48 Gb/secのネットワーク帯域幅を選択できます。

ベアメタル・インスタンス

NVIDIAのBlackwell、Hopper、またはAmpere Superchipsと、ノードあたり640 GBのGPUメモリを持つGPUを使用したベアメタル・インスタンスでOCI Superclusterを使用します。

Kubernetesによるオーケストレーション

マネージドKubernetesサービス・メッシュコンテナ・レジストリを活用し、コンテナを使用してAIおよび機械学習(ML)のトレーニングや推論をオーケストレーションします。

すぐに利用可能なソフトウェアにアクセス

ソフトウェアおよびディスク・イメージへのアクセス

Oracle Cloud Marketplaceでは、データ・サイエンス、分析、人工知能(AI)、および機械学習(ML)モデル用のソフトウェアとディスク・イメージを提供します。これにより、お客様はデータから迅速にインサイトを得ることができます。

NVIDIA AI Enterprise

NVIDIA AI Enterpriseへのアクセスを取得しましょう。これは、生成AI、コンピュータ・ビジョン、音声AIといったデータ・サイエンスおよび本番AI向けの、エンドツーエンドのソフトウェア・プラットフォームです。

NVIDIA DGX Cloud

OCI上のNVIDIA DGX Cloudは、サービスとしてのAIトレーニングを提供するプラットフォームであり、生成AI向けに最適化されたサーバーレス環境を開発者に提供します。

NVIDIA GPU Cloud Machine Image

NVIDIA GPU Cloud Machine Imageは、さまざまな業界やワークロードを対象とした機械学習、ディープラーニング、ハイパフォーマンス・コンピューティング向けとして、GPUが最適化された数多くのアプリケーションにご活用いただけます。

NVIDIA RTX仮想ワークステーション

Oracle Cloud上でNVIDIA RTX仮想ワークステーションを実行することにより、従業員が必要とするあらゆる場所で強力なワークステーション・パフォーマンスを実現できます。

AIコンピューティングの環境とデータを制御

分散型クラウド

OCIの分散クラウドは、GPUのコンピュートと組み合わせることで、AIとクラウド・サービスをどの場所で、どのような方法で実行するかを制御できます。

ソブリン・クラウド

EU米国英国オーストラリアなどの地域内や国内におけるデータ・レジデンシーに対応します。

OCIの専用リージョン

OCI Dedicated Regionでフル機能のクラウド・リージョンをデータセンターに導入すると、データとアプリケーションを詳細に制御できます。

Oracle Alloy

Oracle Alloyのパートナーになると、市場の特定のニーズに応えるクラウド・サービスを提供できます。

マイクロサービスとコンテナ

コンテナ・レジストリ

コンテナを使用してアプリケーションを構築する開発者は、オラクルが管理する可用性の高いプライベート・コンテナ・レジストリ・サービスを活用して、コンテナ・イメージを保存および共有できます。Docker V2 APIおよび標準のDockerコマンド・ライン・インターフェイス(CLI)を使用して、レジストリとの間でDockerイメージをプッシュまたはプルします。イメージをKubernetesデプロイメントに直接プルできます。

Oracle Functions

Functions as a Service(FaaS)を使用すると、開発者はOracle Cloud Infrastructure、Oracle Cloud Applications、およびサードパーティのサービスと統合されるサーバーレス・アプリケーションを実行できます。オープン・ソースFnプロジェクトのコミュニティとともに開発者の効率を改善します。

GPUインスタンス—ユースケース

ディープラーニングのトレーニングや推論のためのAIインフラストラクチャ

OCI Data Scienceや、ベアメタル・インスタンス、RDMAに基づくクラスタ・ネットワーキング、およびNVIDIA GPUを使用して、AIモデルのトレーニングを行います。


AIのトレーニングと推論 この図は、ディープラーニングのモデル開発における2つの段階である、モデルトレーニングとモデル推論について説明するものです。左側のモデルトレーニングでは、OCI Data Scienceやベアメタル・コンピュート、ローカルストレージ、およびクラスタ・ネットワーキングなどで実行されるトレーニング・アルゴリズムに、未トレーニングのニューラル・ネットワークが入力されます。新しい能力を持つトレーニング済みモデルが、トレーニング・アルゴリズムから出力されます。モデルの推論ステップは、右側に説明されています。DALL-E 2のような、テキスト入力を受けて画像を生成することができるトレーニング済みモデルを考えてみましょう。テキスト入力がとトレーニング済みモデルに供給され、モデルから画像が出力されます。

仮想デスクトップ・インフラストラクチャ(VDI)

NVIDIA GPUを活用したOCI Computeは、VDIに対して一貫した高パフォーマンスを提供します。


仮想デスクトップ・インフラストラクチャ 仮想デスクトップ・インフラストラクチャ

GPUインスタンスを使用したCFDと高パフォーマンス・コンピューティング

OCIは、物体の空力特性を迅速に予測するためのコンピュータ支援エンジニアリングと計算流体力学を実現します。


GPUインスタンスを使用したCFDと高パフォーマンス・コンピューティング GPUインスタンスを使用したCFDと高パフォーマンス・コンピューティング

GPUインスタンス—お客様

他のお客様事例を見る
2024年9月11日

クラウドで世界最大かつ初のゼータスケールAIスーパーコンピューターを発表

OCI、エグゼクティブ・バイスプレジデント、Mahesh Thiagarajan

Oracle Cloud Infrastructure(OCI)のお客様は、OCI上で最も高度なAIワークロードのいくつかを実行しています。そうしたお客様の成功は、強力なセキュリティと主権管理を備えた、最高のパフォーマンスを発揮するAIインフラストラクチャを、 クラウドで最良の価値でお客様に提供するという当社の戦略を強化します。

全文を読む

GPUインスタンスの利用を始める

Oracle AIを30日間試してみる

オラクルでは、ほとんどのAIサービスで無料価格帯を提供しています。また、無料トライアル・アカウントに提供されるUS$300のクレジットを使って、追加のクラウド・サービスをお試しいただけます。AIサービスとは、開発者がアプリケーションや業務にAIを簡単に適用できるようにする、デフォルトの機械学習モデルを備えた生成AIなどを含む一連のサービスです。

  • Oracle AIおよびMLサービスのうち、無料価格帯を提供しているもの

    • OCI Speech
    • OCI Language
    • OCI Vision
    • OCI Document Understanding
    • Machine Learning in Oracle Database
    • OCI Data Labeling

    また、OCI Data Scienceではコンピュートとストレージの使用料のみ。

OCIでのコスト削減を試算してみましょう

Oracle Cloudの価格は、わかりやすく、世界中で一貫性のある低価格であり、さまざまなお客様事例をサポートしています。コストを見積もるには、コスト見積ツールをチェックし、ニーズに応じて、サービスを設定します。

GPUおよびAIのエキスパートへのアクセス

次期AIソリューションの構築やOCI AIインフラストラクチャへのAIワークロードの導入をお手伝いするサポートをご利用ください。

  • 次のような質問に回答できます

    • Oracle Cloudを使い始めるには、どうすればよいですか?
    • OCIで実行可能なAIワークロードを教えてください。
    • OCIで提供されているAIサービスを教えてください。