| GPU世代 | 年 | 代表GPU | NVLink | NVSwitch | 最大の意味 |
|---|---|---|---|---|---|
| Pascal | 2016 | Tesla P100 | NVLink 1.0 | — | GPU間の高速直接接続 |
| Volta | 2017 | Tesla V100 | NVLink 2.0 | 第1世代 | NVSwitchによるGPUファブリック |
| Ampere | 2020 | A100 | NVLink 3.0 | 第2世代 | 8 GPU規模の高速GPUファブリック |
| Hopper | 2022 | H100 | NVLink 4.0 | 第3世代 | 大規模AI向けGPUファブリック |
| Blackwell | 2024 | B200 / GB200 | NVLink 5.0 | 第4世代 | 72 GPU規模のスケールアップ |
| Rubin | 2026〜 | R200 / VR200 | NVLink 6 | 第4世代（NVLink 6 Switchと改称） | さらに大規模なGPUスケールアップ |
この表は、NVIDIAのデータセンター向けGPUがPascal世代からRubin世代に至るまでの約10年間で、GPU間接続技術であるNVLinkおよびNVSwitchをどのように発展させてきたかを整理したものである。個々のGPUの演算性能そのものよりも、複数のGPUをいかに高速かつ大規模に結合し、単一の計算資源として扱えるようにするかという「スケールアップ」の系譜に焦点を当てている点に特徴がある。
出発点となる2016年のPascal世代（Tesla P100）では、NVLink 1.0によってGPU間を直接接続する技術が初めて導入された。それまでPCI Expressバス経由でしか通信できなかったGPU同士を、より高い帯域幅で直接結合できるようになったことは、複数GPUを用いた並列計算の効率を大きく高める第一歩であった。ただし、この段階ではGPU同士を格子状・部分的に接続する構成にとどまり、多数のGPUを均質に結合する仕組みはまだ存在しなかった。
2017年のVolta世代（Tesla V100）でNVLink 2.0が導入されると同時に、NVSwitchという専用スイッチチップが第1世代として登場した。NVSwitchの意義は、GPU同士を1対1で個別に接続するのではなく、スイッチを介して全GPUを均等かつ高帯域で結合する「GPUファブリック」を構築できるようにした点にある。これにより、あるGPUから見て他の任意のGPUへのアクセス速度が均一になり、大規模な並列計算における通信のボトルネックが緩和された。
2020年のAmpere世代（A100）ではNVLink 3.0とNVSwitch第2世代が採用され、8基のGPUを一つの高速ファブリクとして結合するDGX A100のような構成が実用化された。この「8 GPU規模」という単位は、その後長らくAI学習・推論用サーバーの標準的な構成単位として定着することになる。続く2022年のHopper世代（H100）では、NVLink 4.0とNVSwitch第3世代への刷新により、大規模言語モデルの学習・推論に耐えうる本格的なAI向けGPUファブリクへと発展した。この世代は、生成AIブームの本格化と時期を同じくしており、大規模モデルの学習基盤として広く普及した。
2024年のBlackwell世代（B200／GB200）に至ると、NVLink 5.0とNVSwitch第4世代の組み合わせにより、単一のラック内で72基のGPUを一つの統合されたメモリ・帯域幅ドメインとして扱う「NVL72」構成が実現した。これは単に接続するGPU数を増やしただけでなく、ラック全体を一つの計算装置として設計するという思想の転換を象徴するものであり、モデル並列化や巨大なMoE（Mixture of Experts）モデルにおけるエキスパート間通信の効率を大きく左右する要素となった。
2026年以降に投入されるRubin世代（R200／VR200）では、NVLinkはさらに6へと更新され、GPU1基あたりの帯域幅が倍増する。一方でNVSwitch自体は、Blackwell世代で用いられた第4世代のシリコンがそのまま継承されており、名称のみ「NVLink 6 Switch」に改められている点は注意を要する。すなわちRubin世代の進化は、スイッチチップの世代交代によってもたらされたものではなく、既存のNVSwitchファブリクの上でNVLinkの信号速度と帯域幅を引き上げることによって、72GPU規模のドメインをより高速に運用できるようにした、という性格のものである。
以上を通観すると、この表が示す10年間の変化は、単体GPUの性能向上という軸とは別に、「何基のGPUを、どれだけ均質かつ高帯域に結合し、単一の計算資源として振る舞わせられるか」という、いわばスケールアップの軸に沿って進行してきたことが分かる。NVSwitchのないPascal世代から、8GPU規模のAmpere、72GPU規模のBlackwellへと結合単位が拡大してきた背景には、大規模言語モデルの学習データ量やパラメータ数の増大、さらには長大なコンテキストウィンドウやMoEアーキテクチャにおけるエキスパート間通信といった、ソフトウェア側の要求の変化が存在している。NVLinkとNVSwitchの世代交代は、こうしたLLMの技術的発展と表裏一体の関係にあるといえる。
Mathematics is the language with which God has written the universe.