GPU(Graphics Processing Unit)は、もともと画像処理のために作られた部品ですが、大量の単純計算を、同時並行でこなす のが得意です。この特性が、AI時代の主役へと押し上げました。
CPU との違いを整理すると、分かりやすいです。
- CPU … 少数の優秀な作業員。複雑な処理を、順に手際よくこなす。
- GPU … 大量の作業員。単純な計算を、いっせいに片づける。
ディープラーニング の学習は、ニューラルネットワーク の重みの計算(大量の掛け算・足し算)を、ひたすら繰り返す処理です。まさにGPUの得意分野で、CPUだけでは何日もかかる学習が、GPUなら大幅に短縮されます。
flowchart LR CPU["CPU:少数で順番に"] -.遅い.-> R[大量計算] GPU["GPU:多数で一斉に"] ==速い==> R
現在のAIブームは、GPUの進化に支えられていると言っても過言ではありません。大規模言語モデル の学習には、大量のGPUを何週間も動かすほどの計算力が必要です。AI向けに特化した専用チップ(TPUなど)も登場しています。