ハルシネーションとは？
AIがもっともらしい嘘をつく理由と、仕事で防ぐ方法

1. ハルシネーションとは

ハルシネーション（hallucination）とは、生成AIが事実とは異なる情報を、正しいかのように出力してしまう現象です。英語で「幻覚」を意味する言葉で、AIが実在しないものを「見ている」かのように答えることから、こう呼ばれています。

例えば、実在しない論文や法律の条文を挙げる、取引先の設立年や売上を間違える、存在しないURLを出典として示す、といった形で現れます。やっかいなのは、間違った内容も正しい内容と同じように、流ちょうで自信のある文章で出てくることです。文章の自然さからは、正誤を見分けられません。

総務省の令和8年版情報通信白書も、生成AIの特性として、事実とは異なる情報を出力してしまうハルシネーションや、利用者に過剰に同調してしまう「シカファンシー（迎合）」を挙げ、業務への組み込みを設計する際に考慮する必要があるとしています。同じ白書の企業向けアンケートでは、日本企業が生成AIの活用で懸念するリスクとして、「社内情報の漏洩などのセキュリティリスク」に次いで「出力結果の精度に問題がある」が多く挙がっています。

ハルシネーションとシカファンシーの記述：総務省 令和8年版情報通信白書「AI導入・活用を効果的に進めていくために重要となる要素」。懸念されるリスクの順位：同「懸念されるリスク及びリスク対策のための取組状況」（日本・米国・ドイツ・中国の企業を対象とした総務省の調査研究）。

2. なぜハルシネーションは起きるのか

生成AIは、大量の文章から「次に来そうな言葉」を予測する仕組みで文章を作ります。言葉の並びとしての自然さは学べても、一つひとつの事実が正しいかを確かめながら書いているわけではありません。

OpenAIの研究者らが2025年9月に公開した論文「Why Language Models Hallucinate」は、この点を難しい試験を受ける学生にたとえています。答えが分からないとき、空欄にすれば0点ですが、もっともらしく書けば当たるかもしれません。正解か不正解かだけで採点される試験では、推測したほうが得になります。論文は、多くのAIの評価も同じように「分かりません」を0点として扱うため、AIが推測する方向に最適化されてしまうと指摘しています。

論文はもう一つ、学習の段階での原因も挙げています。綴りやかっこの対応のように規則性のあることは学べても、ある人の誕生日のように、めったに出てこない個別の事実はパターンから予測できず、誤りが生じやすいという説明です。論文の冒頭では、あるオープンソースのモデルに著者の一人の誕生日を「知っている場合だけ」答えるよう求めたところ、3回とも異なる誤った日付を答えた例が紹介されています。

そのうえで論文は、「分かりません」と答えることを不利に扱わないよう評価の方法を見直すことで、ハルシネーションを減らせると提案しています。つまり、ハルシネーションは原因不明の不思議な現象ではなく、仕組みと評価のされ方から説明できる誤りだということです。ただし、すぐになくなるものではないため、使う側の備えは引き続き必要です。

試験のたとえ、評価の問題、誕生日の例、評価の見直しの提案：Kalai et al.「Why Language Models Hallucinate」（OpenAI、2025年9月4日）。

3. 仕事でハルシネーションが起きやすい場面

論文の説明を仕事に当てはめると、AIが学習の中で十分に見ていない情報や、正解が一つに決まる細かい事実ほど、誤りが混ざりやすいと考えられます。次の表は、その考え方をもとにMiToAが整理した、確認を優先したい場面の目安です。

反対に、文章の言い換え、構成案のたたき台、アイデア出しのように、正解が一つに決まらず、人が最後に手を入れる作業では、ハルシネーションの影響は比較的小さくなります。AIに任せる作業を選ぶときは、「間違えたときに誰が気づけるか」を基準にすると判断しやすくなります。

4. 使う人ができるハルシネーションの防ぎ方

完全には防げませんが、頼み方と確かめ方で、誤りに気づきやすくすることはできます。

1. 「分からなければ分からない」と伝える

   推測で埋めず、確信がない部分ははっきり示すよう指示します。論文が指摘する「推測したほうが得」という状況を、指示で和らげる考え方です。それでも誤りがなくなるわけではありません。

2. 根拠になる資料を渡す

   社内の規程や製品資料など、答えの元になる資料を渡し、その範囲で答えるよう求めます。総務省・経済産業省の「AI事業者ガイドライン（第1.2版）」でも、資料を検索して回答に使うRAG（検索拡張生成）の活用などにより、ハルシネーションの抑制が期待されるとしています。

3. 出典を示させ、自分で開く

   どの資料のどこに書いてあるかを示させ、実際にその資料を開いて確かめます。AIが示した出典そのものが誤っていることもあります。

4. 大事な部分だけを抜き出して確認する

   文章全体を読み直すより、数字・日付・固有名詞・制度名を抜き出して照合するほうが、短い時間で確実に確認できます。

添付の「製品カタログ2026年版」だけを根拠に、
お客様向けの製品比較表を作ってください。

- カタログに書いていない項目は「記載なし」とし、推測で埋めない
- 確信がない部分には【要確認】と付ける
- 各項目の根拠となるページ番号を示す

RAGによるハルシネーションの抑制：総務省・経済産業省「AI事業者ガイドライン（第1.2版）」（2026年3月31日）第2部C「共通の指針」の注。

5. 会社として決めておくこと

一人ひとりの注意だけに頼ると、忙しいときほど確認が抜けます。ハルシネーションは「起きるもの」として、会社の仕組みで受け止めるのが確実です。

このように用途ごとに確認の重さを決めておくと、すべてを同じように疑う必要がなくなり、AIを使う効率も保てます。どの作業をAIに任せ、どこで人が判断するかの考え方はヒューマン・イン・ザ・ループとは？で、確認の手順を全社のルールとしてAIにも読み込ませる方法はAGENTS.mdは社内AI活用の「憲法」で解説しています。

例えば、社員20名ほどの会社で、営業担当がAIで作った提案書に、存在しない導入実績の数字が入っていたとします。これは説明のための架空の例で、MiToAの顧客事例ではありません。この場合、個人の不注意として片付けるより、「お客様向けの資料では数字と実績を元資料と照合する」というルールを決め、AIへの指示文のひな形にも「実績は渡した資料からのみ引用する」と入れておくほうが、同じ誤りを防ぎやすくなります。

最後に、社員がハルシネーションの仕組みを知っているかどうかで、確認の質は大きく変わります。「AIは間違えることがある」と伝えるだけでなく、自社の業務で実際にAIを使い、どこで間違えやすいかを体験しておくことが、確認の習慣につながります。

6. よくある質問

Q. ハルシネーションは、AIの性能が上がればなくなりますか？

減っていく可能性はありますが、すぐになくなるとは考えにくいです。OpenAIの研究者らの論文は、多くの評価が推測を有利に扱っていることが、ハルシネーションが残り続ける一因だと指摘しています。仕事で使う場合は、起きる前提で確認の手順を決めておくのが安全です。

Q. 社内の資料を読み込ませれば、ハルシネーションは起きませんか？

起きにくくはなりますが、なくなるわけではありません。総務省・経済産業省のAI事業者ガイドラインも、RAGなどの活用でハルシネーションの「抑制」が期待されるという表現にとどめています。資料を渡した場合も、数字や固有名詞は元の資料と照合してください。

Q. ハルシネーションと、単なる間違いは何が違いますか？

広い意味ではどちらもAIの誤りです。ハルシネーションと呼ぶときは、特に、根拠のない内容をもっともらしく、自信のある形で示してしまう点に注目しています。見た目で正誤を見分けにくいことが、仕事でのリスクを大きくしています。

7. 参考資料と制作について

1. Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang「Why Language Models Hallucinate」（OpenAI）公開：2025年9月4日／参照日：2026年11月4日。試験を受ける学生のたとえ、評価が推測を有利にする問題、低頻度の事実と誤り、評価の見直しの提案。
2. 総務省：令和8年版情報通信白書「AI導入・活用を効果的に進めていくために重要となる要素」参照日：2026年11月4日。ハルシネーション、シカファンシーなどの生成AIの特性。
3. 総務省：令和8年版情報通信白書「懸念されるリスク及びリスク対策のための取組状況」参照日：2026年11月4日。生成AIの活用で懸念されるリスクの順位（2025年度企業向け調査）。
4. 総務省・経済産業省：AI事業者ガイドライン（第1.2版）公表：2026年3月31日／参照日：2026年11月4日。RAGの活用によるハルシネーションの抑制（第2部C 注27）。