ハルシネーション（hallucination / 幻覚）は、生成AI が 事実に反する内容を、もっともらしく、自信たっぷりに答えてしまう 現象です。実在しない論文や、間違った数値、ありもしない出来事を、あたかも本当のように述べてしまいます。
なぜ起きるのでしょうか。大規模言語モデル（LLM） の本質は、「次に来る、それらしい言葉」を予測する ことにあります。真偽を検証しているわけではなく、「自然な文章」を作るのが得意なだけなのです。そのため、知らないことでも、それらしく埋めてしまいます。
対策には、次のようなものがあります。
- 裏取りをする … 重要な情報は、必ず一次情報で確認する。AIの答えを鵜呑みにしない。
- RAG で根拠を与える … 信頼できる資料を渡し、それに基づいて答えさせる。
- プロンプトの工夫 … 「分からなければ分からないと答えて」と促す。
- 出典を求める … 根拠の提示を求め、確認できるようにする。
ハルシネーションは、現在の生成AIが抱える本質的な課題です。だからこそ、AIは「答えを断定してくれる存在」ではなく、「下書きや案を素早く出してくれる、検証前提の相棒」ととらえるのが賢い付き合い方です。