AIの活用は、大きく2つの段階に分かれます。この違いを押さえると、AIの仕組みが理解しやすくなります。
学習(トレーニング) は、データから モデル を作り上げる段階です。大量の データセット を使い、ニューラルネットワーク の重みを調整していきます。時間も計算力もかかる、いわば「一大工事」です。
推論(インファレンス) は、できあがったモデルに新しいデータを入れて、答えを出させる 段階です。学習済みのモデルを使うだけなので、比較的軽く、速く動きます。
たとえるなら、学習は「たくさん勉強して知識を身につける」段階、推論は「その知識を使って問題を解く」段階です。いったんモデルができれば、推論は何度でも使えます。私たちがAIサービスを使うとき、体験しているのは主にこの「推論」の部分です。