最新のお知らせ

【第13回 AI】AMDのデータセンター売上が97%増加――NVIDIAも注目する「GPUメモリの壁」と、これからのAIサーバー選び

生成AIの普及によって、高性能GPUの需要が拡大しています。

これまでAI向けGPU市場では、NVIDIAのH100、H200、B200などが大きな注目を集めてきました。

しかし、GPU市場の拡大はNVIDIAだけのものではありません。

2026年11月3日、AMDが発表した四半期決算では、データセンター部門の売上高が前年同期比97%増加したことが明らかになりました。

さらに11月5日には、NVIDIAがGPUメモリに関する技術解説を公開し、AIモデルの大型化やAIエージェントの普及によって、メモリの使い方がAIシステム全体の効率を左右することを説明しています。

これらのニュースには、共通する重要なテーマがあります。

それは、AIサーバーに求められる性能が、GPU単体の計算能力から、CPU・GPU・メモリ・ソフトウェアを含めた総合的な性能へ変化しているという点です。

今回は、最新の発表をもとに、企業がGPUサーバーやGPUクラウドを選ぶ際に確認すべきポイントを解説します。

1.AMDのデータセンター売上が前年同期比97%増

AMDは11月3日、2026年第3四半期の決算を発表しました。

全社売上高は約133.8億ドルで、前年同期比45%増加しました。

その中でも大きく伸びたのが、データセンター部門です。

同部門の売上高は約85.5億ドルとなり、前年同期の約43.4億ドルから97%増加しました。

データセンター部門が全社売上高に占める割合も、約64%となっています。

AMDによると、この成長にはサーバー向けCPU「EPYC」の需要拡大や、AIアクセラレーター「Instinct MI450」シリーズの投入などが寄与しています。

ここで注意したいのは、97%という数字がGPU単体の売上増加率ではないことです。

AMDのデータセンター部門には、AI向けGPUだけでなく、サーバー向けCPUや関連製品も含まれています。

つまり今回の決算は、AI計算に必要なGPUだけでなく、それを支えるサーバー全体の需要が拡大していることを示しています。

2.AMDはGPUだけでなく、AIインフラ全体を提供する方向へ

AMDは今回の決算発表で、AI向けのラック型計算基盤「AMD Helios」の展開状況についても説明しています。

Heliosは、AMDのInstinct GPU、EPYC CPU、高速ネットワーク、ROCmソフトウェアなどを組み合わせたAI計算基盤です。

AMDによると、Anthropic、Meta、Microsoft、OpenAI、Oracle Cloud Infrastructureなどが、初期のHeliosシステム上でAIモデルやワークロードの実行を進めています。

これまでGPUメーカーの競争では、「どのGPUが最も高速なのか」という点に注目が集まっていました。

しかし、大規模なAIシステムではGPUの演算性能が高いだけでは十分ではありません。

例えば、AIモデルが大量のデータを処理する場合、GPUへデータを供給するCPUやメモリが遅ければ、GPUは本来の性能を十分に発揮できません。

また、複数のGPUを使用する場合、GPU同士を接続するネットワークの速度も重要になります。

AMDがHeliosを開発している背景には、このようなシステム全体の最適化があります。

3.NVIDIAが指摘する「GPUメモリの壁」とは?

もう一つ、今週注目したいのが11月5日のNVIDIAの発表です。

NVIDIAは、AIモデルの大型化、長い文章を処理する機能、AIエージェントの普及によって、GPUメモリへの負荷が増加していると説明しています。

ここで重要になるのが、GPUに搭載される高速メモリ「HBM」です。

HBMは、AIモデルが計算に必要なデータを高速に読み書きするためのメモリです。

生成AIを動かす場合、GPUメモリには主に次のようなデータが置かれます。
– AIモデルが学習したパラメーター
– AIが回答を生成するときの中間データ
– 長い会話や文章の処理を効率化するための情報
特に最近のAIエージェントでは、一度の質問に回答するだけでなく、過去の会話や作業の流れを引き継ぎながら、複数の処理を実行します。

こうした処理では、AIが参照する情報が増えるため、GPUメモリを大量に消費する場合があります。

そこで問題になるのが、GPUメモリの容量だけを増やしても、必ずしも処理が高速になるわけではないという点です。
メモリ容量とメモリ帯域幅の違い
例えば、GPUメモリを倉庫に例えてみます。

メモリ容量は、倉庫に保管できる商品の量です。

一方、メモリ帯域幅は、倉庫から商品を出し入れできる速度に相当します。

いくら大きな倉庫を用意しても、搬入口が狭ければ商品の出し入れに時間がかかります。

GPUでも同様です。

大容量メモリを搭載していても、データの転送速度が不足すると、GPUが計算に必要なデータを十分な速度で受け取れなくなります。

これが、いわゆる「メモリの壁(Memory Wall)」と呼ばれる問題です。

NVIDIAはこの課題に対して、GPUだけでなく、CPUメモリやストレージ、ソフトウェアを組み合わせてデータを効率よく管理する技術を進めています。
4.AIサーバーを選ぶときは「GPUメモリ」にも注目
今回のNVIDIAの説明は、企業がGPUサーバーを選ぶ際にも参考になります。

例えば、AI向けGPUでは、NVIDIA H200やB200のように大容量・高帯域幅のメモリを搭載する製品があります。

しかし、実際に必要なGPUメモリ容量は、使用するAIモデルや処理内容によって異なります。

比較的小規模なAIモデルを使うのであれば、必ずしも最高性能のGPUが必要とは限りません。

一方、大規模言語モデル(LLM)を利用する場合や、多数のユーザーから同時に推論処理を受け付ける場合には、より多くのメモリが必要になることがあります。

そこでGPU環境を選ぶ際には、次の項目を確認することが重要です。

確認項目 主な確認内容
GPU演算性能 AIモデルの学習・推論を処理する速度
GPUメモリ容量 AIモデルと実行時データを保持できるか
メモリ帯域幅 GPUへデータを十分な速度で供給できるか
ソフトウェア対応 CUDA・ROCm、AIモデル、開発ライブラリとの互換性
利用頻度 常時利用するのか、短期間だけ利用するのか
総運用費用 GPU利用料、電力、冷却、ストレージ、保守など

特に企業が独自のAIモデルを開発する場合、GPUのスペック表だけを見ても、実際の処理性能を正確に判断することは困難です。

同じGPUでも、モデルの規模、同時利用者数、入力文章の長さなどによって処理速度が変わります。

そのため、導入前に実際のAIモデルを使って性能を測定することが有効です。

5.NVIDIAとAMD、どちらのGPUを選ぶべきか?

AMDの成長によって、企業が利用できるAI計算基盤の選択肢は広がっています。

ただし、GPUの性能や価格だけで比較するのは適切ではありません。

NVIDIAのGPUでは、CUDAを中心とした開発環境が広く利用されています。

一方、AMDのGPUではROCmというソフトウェア環境が利用されます。

AMDは今回の決算発表でも、ROCm 10の提供や開発環境の改善を紹介しています。
AMD Newsroom

CUDAとROCmは、どちらもAI開発に利用される技術ですが、互換性が完全に同じというわけではありません。

既存のAIモデルやライブラリによっては、特定のGPU環境に最適化されている場合があります。

そのため、GPUサーバーを購入する前には、実際に使用するAIモデルが問題なく動作するかを確認する必要があります。

また、GPUの価格が安くても、ソフトウェアの移行や開発環境の構築に大きな費用がかかるのであれば、全体のコスト削減につながらない可能性があります。

GPUの導入費用だけでなく、開発・運用を含めた総費用で比較することが重要です。

6.高性能GPUを購入する前に、GPUクラウドで検証する

企業がAIシステムを導入する際、高性能GPUサーバーを最初から購入する方法だけが選択肢ではありません。

まずGPUクラウドを利用して、必要な計算能力を確認する方法もあります。

例えば、社内文書を検索するAIシステムを構築する場合、最初は比較的小規模なAIモデルで試験運用します。

その結果、応答速度が十分でなければ、モデルやGPU構成を変更して再度測定します。

こうした検証によって、必要なGPUメモリ容量や計算能力を把握できます。

また、AIモデルの学習など、短期間だけ大量の計算処理が必要になる場合には、GPUクラウドが有効です。

反対に、毎日長時間にわたってGPUを使用する場合や、社内でのデータ管理に特別な要件がある場合には、自社GPUサーバーの方が適していることもあります。

重要なのは、AIの処理内容、利用頻度、求められる性能を確認してから設備投資を判断することです。

7.GPUSOROBANでNVIDIA B200を利用する

株式会社ハイレゾが提供するGPUクラウドサービス「GPUSOROBAN」では、NVIDIA製GPUを使用した計算環境が提供されています。

例えば「計算クラスター B200」では、NVIDIA B200を搭載したGPUクラスターを利用できます。

B200はGPU1枚当たり180GBのメモリを搭載しており、大規模言語モデルの学習や、高い計算性能を必要とする研究開発などに対応します。

また、GPUSOROBANの共有プランでは、GPU1枚・1分単位で計算処理を実行できます。
GPUSOROBAN

2026年10月19日付の公式料金案内では、B200計算クラスターのGPU利用料は1枚・1分当たり22円(税込)とされています。

例えば、GPUを1枚使用して1時間の計算処理を行う場合、GPU利用料は1,320円(税込)です。

ただし、ストレージ利用料金は別途必要です。また、共有プランはポイント先払い制で、初回は税込11万円相当以上のポイント購入が必要となります。実際の利用料金や適用条件は、契約前に最新情報を確認する必要があります。

GPUSOROBANでは、B200以外にもH200やA100など、用途に応じたGPU環境が提供されています。

企業は、必要なGPU性能や予算に合わせて利用方法を検討できます。

なお、GPUSOROBANで提供されているGPUはNVIDIA製です。今回取り上げたAMD Instinct MI450やAMD Heliosを同サービスで利用できるという意味ではありません。

8.GPU市場の成長は、企業の選択肢を広げる

今回のAMDの決算とNVIDIAの技術解説から、AIインフラ市場の変化が見えてきます。

AMDは、AI向けGPUだけでなく、CPUやネットワーク、ソフトウェアを含めた計算基盤を拡大しています。

一方、NVIDIAはGPUの性能向上に加え、メモリやストレージの効率的な利用を重視しています。

両社に共通しているのは、GPU単体の性能だけではなく、AIシステム全体の効率を高めようとしている点です。

そして企業がAIを導入する場合にも、同じ考え方が重要になります。

高性能GPUを所有すること自体が目的ではありません。

AIを利用して業務を効率化し、新しいサービスを開発することが本来の目的です。

そのためには、GPUサーバーを購入する方法だけでなく、GPUクラウドを利用する方法も含め、最も合理的な計算環境を選ぶ必要があります。

これからのAIインフラ選びでは、「どのGPUが最も高性能か」よりも、「自社のAI業務をどの環境で効率よく実行できるか」が重要になるでしょう。

GPUサーバー・AI向けサーバーの導入をご検討の方へ

ウイルネットでは、GPUサーバー、AI向けサーバー、GPUクラウドの導入に関するご相談を承っております。

弊社は、株式会社ハイレゾが提供するGPUクラウドサービス「GPUSOROBAN」の正規代理店です。

GPUサーバーを購入する場合と、GPUクラウドを利用する場合では、導入費用や運用費用、管理方法が異なります。

ウイルネットでは、大学・研究機関・企業へのGPU関連サービスの導入経験を踏まえ、用途や予算に応じた計算環境をご案内しています。

GPUSOROBANについては、サービス内容や契約条件によって、直接契約よりも有利な料金をご案内できる場合があります。

独自LLMの開発、生成AIの学習、大量データの解析、科学技術計算など、GPUの利用をご検討されている場合は、お気軽にご相談ください。

GPUSOROBANのサービス詳細・お問い合わせ

GPUSOROBAN ― 高速コンピューティング

GPUSOROBAN ― AIスパコンクラウド

参考資料・公式情報
Webサイトにそのまま掲載できるHTMLリンク形式で記載します。

AMD公式:2026年第3四半期決算発表(2026年11月3日)

NVIDIA公式:AIのGPUメモリ問題とシステム全体の最適化(2026年11月5日)

NVIDIA公式:AIエージェント向けVera CPUの性能と電力効率(2026年11月5日)

GPUSOROBAN公式:計算クラスター B200

GPUSOROBAN公式:GPU課金の計算ルール(2026年10月19日)

執筆・監修:株式会社ウイル 執行役員 岸本 静樹
編集協力:生成AI
岸本

    ページ上部へ戻る