埋め込み(エンベディング)は、言葉や文章を 意味を保ったまま、数値の並び(ベクトル)に変換したもの です。コンピュータが「意味の近さ」を計算できるようにする、重要な技術です。
ポイントは、意味の近いものは、数値としても近くに配置される ことです。たとえば「犬」と「猫」は近く、「犬」と「自動車」は遠い、という位置関係が、数値の空間の中で表現されます。
"犬" → [0.8, 0.1, 0.7, ...] ┐ 近い
"猫" → [0.7, 0.2, 0.8, ...] ┘
"自動車" → [0.1, 0.9, 0.2, ...] ← 遠い
この性質を使うと、キーワードの完全一致ではなく、「意味が似ているもの」を探せます。「速い車」で検索して「スピードの出る自動車」の記事が見つかる、といった具合です。
埋め込みは、さまざまな場面で活躍します。
- RAG の検索 … 質問に意味の近い資料を探す(ベクトル検索)。
- 推薦システム … 好みの近い商品・記事を提示する。
- クラスタリング … 似た文書をグループにまとめる。
言葉を「座標」に置き換えることで、意味を数学的に扱えるようにする——生成AIの応用を支える、縁の下の力持ちです。