CUDAは、NVIDIA製GPU上で並列計算を実行するためのソフトウェア基盤です。チップの型番暗記ではなく、「ハードウェア（GPU）と学習コードのあいだにある共通土台」——本記事はAPIの細部ではなく、試験で問われるGPU・TPU・CPUとの層の違いと、AlexNet以降のDL実用化との関係に焦点を当てます。
ハードとソフトの三層
試験では次の層の分離が得点の近道です。
| 層 | 例 | 役割 |
|---|---|---|
| ハードウェア | GPU、CPU、TPU | 物理的な計算チップ（G-154） |
| プラットフォーム | CUDA | NVIDIA GPUで並列演算を動かすソフトウェア基盤 |
| フレームワーク | PyTorch、TensorFlow など | モデル定義・学習ループの高水準API |
「GPUを買った＝すぐ深層学習が速い」ではありません。CUDA対応のドライバ・ライブラリと、フレームワークのGPU版が揃って初めて、行列演算がGPU上で走ります。
深層学習になぜ効くか
ディープラーニングは、同じ形の行列演算を大量のデータ・パラメータに対して繰り返します。GPUは数千のコアで並列処理でき、この「同じ計算の繰り返し」に向いています（TF-055、G-010）。
- GPU — 並列演算に強いプロセッサ
- CUDA — そのプロセッサに計算カーネルを投げるための基盤
- 効果 — 学習・推論の高速化（精度そのものではない）
G-010の誤答「GPUを使えば必ず高精度」は×。CUDAも計算を速くする土台であり、データやモデル設計を代替しません。
フレームワークとの関係
実務では次の流れでGPU計算が使われます（概念図）。
- モデル定義 — PyTorch等でレイヤーを記述
- GPU転送 — テンソルをGPUメモリへ（
.cuda()やdevice=cudaなど） - カーネル実行 — CUDA経由で畳み込み・行列積などが並列実行
- 結果取得 — 損失・勾配をCPUへ戻してログや保存
cuDNNなどの深層学習向けライブラリもCUDA上で動き、CNNの畳み込みを高速化します。試験ではライブラリ名の暗記より、「GPU＋その上のソフト基盤」という整理が中心です。
AlexNetと計算資源
第三次AIブームでは、データ・アルゴリズムに加え計算資源が重要と語られます（TF-334）。
AlexNet（2012年）がGPUを活用して深層学習の実用性を示した象徴的出来事として試験に登場します。CUDAという名前が直接出なくても、「GPU並列＋深層CNN」の組み合わせが現代DLの前提になった、と歴史的に接続できます。
| プロセッサ | 特徴 | 試験の接点 |
|---|---|---|
| CPU | 汎用・逐次処理向き | G-154の（あ） |
| GPU＋CUDA | 大規模並列 | TF-055、G-118 |
| TPU | ML向けASIC | G-119 |
試験で押さえるポイント
- 定義 — NVIDIA GPU向け並列計算プラットフォーム（ソフトウェア基盤）
- GPUとの違い — ハード（GPU）vs ソフト（CUDA）
- 目的 — 行列・テンソル演算の高速化。精度保証ではない
- すり替え回避 — TPU、CNN、正則化、データ拡張ではない
すり替えに注意
| 誤った説明 | 正しい理解 |
|---|---|
| CUDA＝GPUチップ | ソフトウェア基盤 vs ハードウェア |
| CUDA＝TPU | NVIDIA向け vs Google MLチップ（G-119） |
| CUDA＝モデル精度向上 | 計算高速化。G-010の誤答Cに注意 |
| DLはGPU不要 | 実用的DLではGPUが標準（TF-335は×） |
| CUDA＝PyTorch | 基盤 vs 高水準フレームワーク |
よくある質問
CUDAは何ですか？
NVIDIAが提供するGPU向け並列計算プラットフォームです。GPUハードウェアそのものではなく、深層学習などの大量演算をGPU上で動かすためのソフトウェア基盤として位置づけられます。
CUDAとGPUは同じですか？
違います。GPUは並列演算に強いプロセッサ（ハードウェア）、CUDAはNVIDIA GPU向けの並列計算プラットフォーム（ソフトウェア）です。試験では層を分けて整理します。
CUDAとTPUは同じですか？
いいえ。CUDAはNVIDIA GPU向けの並列計算基盤、TPUはGoogleが設計した機械学習向け専用プロセッサです。いずれも深層学習の高速化に関わりますが、別物です（G-119）。