RAG（検索拡張生成）とは？
社内資料をAIに答えさせる仕組みと、導入前に確認すること

1. RAG（検索拡張生成）とは

RAG（Retrieval-Augmented Generation、検索拡張生成）とは、生成AIが文章を作るときに、外部の情報を検索して組み合わせる仕組みです。2020年にLewisらが発表した論文で提案され、AIがもともと持っている知識と、検索で取り出した外部の知識を組み合わせて文章を生成する方法として紹介されました。

総務省・経済産業省の「AI事業者ガイドライン（第1.2版）」の別添では、企業での使い方として、社内の文書やデータベースを検索して回答の精度を高めることや、インターネットをその場で検索して最新の情報に答えることが挙げられています。

身近なたとえで言えば、RAGは「教科書の持ち込みが許された試験」のようなものです。AIだけで答えるのは、記憶だけで答える試験に近く、覚えていないことは推測で埋めてしまうことがあります。RAGでは、答える前に手元の資料を開いて該当する箇所を探し、それを見ながら答えます。ただし、持ち込んだ教科書の内容が古かったり間違っていたりすれば、答えも間違います。

Lewis et al.「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」（2020年）。総務省・経済産業省「AI事業者ガイドライン（第1.2版）」別添p.7の注。

2. なぜRAGが必要なのか

ChatGPTやClaude、Geminiなどの生成AIは、大量の文章から学習していますが、自社の就業規則や製品マニュアル、過去の見積もりのような社内の情報は知りません。また、学習した後に変わった情報も反映されていません。そのまま社内のことを質問すると、もっともらしい誤り（ハルシネーション）が混ざるおそれがあります。

AI事業者ガイドラインの別添は、RAGに期待される効果として次の3つを挙げています。

• ハルシネーションの抑制：外部の情報を検索して組み合わせることで、根拠のない回答を減らす
• 根拠の透明性の向上：参照する情報源を指定したり、回答に参照元を示したりできる
• コストの低減：AIモデルを学習し直さなくても、参照する資料を追加できる

ここで大切なのは、ガイドラインの表現が「抑制」だという点です。RAGを使っても、誤りがなくなるわけではありません。

「AI事業者ガイドライン（第1.2版）」別添p.17。本編p.15の注でも、RAGの活用によりハルシネーションの抑制や根拠の透明性向上が期待されるとしています。

3. RAGの仕組み

RAGは、おおまかに次の3つの段階で動きます。

例えば、社員が「出張の日当はいくら？」と質問すると、仕組みが社内規程の中から日当に関する部分を探し出し、AIはその部分を読んだうえで「旅費規程第○条によると〜」と答えます。回答と一緒に参照した資料が示されれば、社員はその資料を開いて確かめることができます。

4. 業務での使いどころ

RAGは、正解が社内の資料に書いてあり、同じような質問が何度も来る業務と相性が良い仕組みです。

1. 社内規程・手続きのQ&A

   就業規則、経費精算、各種申請の手順など、総務・人事への問い合わせへの回答。

2. お客様からの問い合わせ対応の下書き

   製品マニュアルやよくある質問をもとに、返答の下書きを作る。送信は担当者が確認してから行います。

3. 社内の資料探し

   過去の提案書や技術資料、議事録の中から、関係する部分を探して要約する。

行政でも使われ始めています。AI事業者ガイドラインの別添では神戸市の「RAGを活用した庁内FAQ」が、総務省の令和8年版情報通信白書では北海道当別町がRAGを使って町の情報を参照した回答を得る取り組み（実証実験中）が紹介されています。

事例：「AI事業者ガイドライン（第1.2版）」別添p.91、総務省「令和8年版情報通信白書」p.56。

5. RAGの導入前に確認すること

RAGは「資料を読んで答える」仕組みなので、資料と、その資料へのアクセスの管理がそのまま回答の質と安全性に表れます。次の5つは、導入前に決めておきたい点です。

1. 資料が正しく、新しいか

   AI事業者ガイドラインは「RAGの精度は利用する情報に依存する」とし、信頼できるデータを使い、定期的に品質を管理・監視する必要があるとしています。古い規程や改訂前のマニュアルが混ざっていると、AIは古い内容をもとに答えてしまいます。

2. 誰がどの資料を見られるか

   人事評価や給与、顧客の契約情報など、見られる人を限るべき資料があります。マイクロソフトの公式ドキュメントも、RAGでは利用者が権限のある資料だけを取り出せるようにする必要があるとしています。ガイドラインも、意図しない範囲に個人情報や機密情報が漏れる危険を挙げ、アクセス制限などの対策を示しています。

3. 個人情報を外部のサービスに渡してよいか

   個人情報保護委員会は、生成AIサービスに個人情報を入力する場合、利用目的の範囲内かを確認すること、また入力した個人データが回答の作成以外に使われないかを確認することを呼びかけています。RAGで外部のAIサービスに社内資料を渡す場合も、同じ観点で確認が必要です。

4. 資料に紛れ込んだ「不正な指示」

   AIが読み込んだ資料やメールの中に、AIを操る指示が紛れ込んでいると、AIがそれに従ってしまう「間接プロンプトインジェクション」という攻撃があります。ガイドラインはこの攻撃でRAGが悪用されるリスクを挙げ、IPAも、技術的な対策で完璧なものはまだ知られていないとしています。外部から受け取った文書を参照させるときは、特に注意が必要です。

5. 回答の出典を、人が確かめるか

   RAGでも誤りはゼロになりません。お客様への回答や、金額・制度に関わる回答は、示された出典を担当者が開いて確かめてから使う手順にしておきます。

なお、ガイドラインの本編は、RAGを使うと回答が似たものに収束しやすくなるため、多様性や独創性が求められる業務には向かない場合があるとも指摘しています。アイデア出しのような用途では、あえてRAGを使わない選択もあります。

資料の品質：「AI事業者ガイドライン（第1.2版）」別添p.158の注。漏えいの危険とアクセス制限：同p.21、p.144の注。RAGの悪用：同p.18。多様性：同本編p.16の注。権限のある資料だけを取り出す：Microsoft Learn「Retrieval Augmented Generation (RAG) in Azure AI Search」。個人情報：個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」（2023年6月2日）。間接プロンプトインジェクション：IPA「情報セキュリティ10大脅威 2026［組織編］解説書」。

6. 日本企業の状況

総務省の令和8年版情報通信白書には、生成AIによる業務変革のための環境整備として「生成AIに社内データを学習させたり、生成AIが参照可能なデータベースを構築したりしている」と答えた企業の割合が載っています。RAGだけの数字ではありませんが、社内データをAIに使わせる取り組みの広がりを知る目安になります。

日本は24.5%で、米国（57.2%）、ドイツ（54.4%）、中国（73.0%）を大きく下回り、日本の中小企業は17.7%でした。白書も、他の3か国では5割を超えており日本より大幅に高いと指摘しています。社内の情報をAIに安全に使わせる取り組みは、日本ではまだこれからの段階にあると考えられます。

出典：総務省「令和8年版情報通信白書」p.23〜24、図表Ⅰ-2-1-5（2026年1〜2月、従業員10名以上の企業の管理職以上へのインターネット調査。日本の有効回答515）。この選択肢は学習とデータベースの構築をまとめたもので、設問の母数は白書本文で明示されていないため、参考値として扱ってください。

7. 中小企業がRAGを始めるときの進め方

1. 対象の資料を絞る

   最初は「就業規則と経費規程だけ」のように、正解が資料に書いてあり、見られる人を限らなくてよい資料から始めます。

2. 資料を整える

   古い版を外し、最新版だけを置きます。資料ごとに更新の担当者を決めておきます。

3. 権限と利用するサービスを決める

   誰がどの資料を検索できるかを決め、使うAIサービスが入力内容をどう扱うかを確認します。

4. 小さく試し、出典を確かめる

   よくある質問をいくつか用意して回答と出典を確かめ、問い合わせ対応の時間などがどう変わったかを記録してから、範囲を広げます。

AIに作業を任せる仕組み全体についてはAIエージェントとは？、社内のAI利用ルールの作り方はAGENTS.mdは社内AI活用の「憲法」で解説しています。

8. よくある質問

Q. RAGとファインチューニングは何が違いますか？

ファインチューニングは、AIモデルそのものを追加で学習させる方法です。RAGはモデルを学習し直さず、回答のたびに資料を検索して読み込ませます。AI事業者ガイドラインも、RAGはモデルを再トレーニングせずに参照する資料を追加できるため、コストを抑えられるとしています。社内資料の内容が頻繁に変わる場合は、RAGのほうが更新しやすい方法です。

Q. RAGを使えば、ハルシネーションはなくなりますか？

なくなりません。AI事業者ガイドラインも、RAGにはハルシネーションの「抑制」が期待されるという表現にとどめています。参照する資料が古かったり誤っていたりすれば、回答も誤ります。示された出典を人が確かめる手順と組み合わせることが大切です。

Q. 社内資料をAIに読み込ませても大丈夫ですか？

資料の内容と、使うサービスによります。個人情報を含む資料を外部のAIサービスに渡す場合は、個人情報保護委員会が示すように、利用目的の範囲内か、入力した情報が回答の作成以外に使われないかを確認してください。見られる人を限るべき資料は、検索できる人を権限で制限することが必要です。

9. 参考資料と制作について

1. Lewis et al.：Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks（arXiv:2005.11401）初版：2020年5月22日／参照日：2026年11月9日。RAGの提案。
2. 総務省・経済産業省：AI事業者ガイドライン（第1.2版）本編公表：2026年3月31日／参照日：2026年11月9日。p.15注（ハルシネーション抑制）、p.16注（多様性）。
3. 総務省・経済産業省：AI事業者ガイドライン（第1.2版）別添公表：2026年3月31日／参照日：2026年11月9日。p.7注（定義）、p.17（効果）、p.18（悪用リスク）、p.21・p.144（漏えいとアクセス制限）、p.91（神戸市の事例）、p.158（資料の品質）。
4. 総務省：令和8年版情報通信白書参照日：2026年11月9日。図表Ⅰ-2-1-5、p.56（当別町の事例）。
5. IPA：情報セキュリティ10大脅威 2026［組織編］解説書参照日：2026年11月9日。間接プロンプトインジェクション。
6. 個人情報保護委員会：生成AIサービスの利用に関する注意喚起等公表：2023年6月2日／参照日：2026年11月9日。個人情報取扱事業者への注意点。
7. Microsoft Learn：Retrieval Augmented Generation (RAG) in Azure AI Search参照日：2026年11月9日。権限のある資料だけを取り出す必要性、出典の表示。
8. AWS：What is RAG (Retrieval-Augmented Generation)?参照日：2026年11月9日。RAGの説明と出典の明示。