INSIGHTS / AI活用
社内資料をAI検索するRAGとは？仕組み・費用・導入判断を解説
RAGは社内資料を検索し、その根拠を使って生成AIが回答する構成です。通常検索との違い、向く会社、データ整備、権限制御、評価、費用構造を整理し、自社にRAGが必要か判断できるように解説します。
この記事で分かること
- RAGが検索と生成をどう組み合わせる仕組みか
- 通常のフォルダ検索や全文検索で十分な条件
- 資料、権限、更新、回答評価を整える手順
- 初期費用と継続費がどこで発生するか
SUMMARY / 3行結論
先に結論
- RAGは、質問に関係する社内資料の一部を検索し、その内容を根拠として生成AIへ回答させる設計パターンです。
- 資料が少ない、検索頻度が低い、既存検索で見つかる場合はRAGを作る必要はありません。
- 導入する場合は文書投入より先に、代表質問、正しい根拠、閲覧権限、許容できない誤りを定義します。
RAGとは何か
RAGはRetrieval-Augmented Generationの略で、利用者の質問に関連する情報を検索し、取り出した文章を生成AIへ渡して回答を作る構成です。モデルが覚えている一般知識だけに頼らず、自社の規程、マニュアル、商品資料、過去案件などを根拠にできます。ただし、検索結果が誤っていれば回答も誤るため、文書検索と回答生成を別々に評価します。
- 利用者の質問
- 認証・権限確認
- 検索用クエリへ変換
- 許可された資料から検索
- 関連箇所と出典を取得
- 生成AIが回答案を作成
- 利用者が根拠を確認
RAGはどんな会社に必要か
- 情報量
- 検索頻度
- 更新頻度
- 情報分散度
- 権限制御
- 誤回答リスク
- 同じ質問を複数部門が繰り返す
- 回答根拠が複数資料へまたがる
- ファイル名を知らない人が探せない
- 資料更新が多く古い版を参照しやすい
- 回答と一緒に出典箇所を示したい
通常検索・AIチャット・RAGはどう違うか
| 方法 | 得意なこと | 弱点 | 向く状況 |
|---|---|---|---|
| フォルダ・キーワード検索 | 一致する文書を探す | 言い換えや複数資料の統合が苦手 | 資料構造が整理されている |
| 一般AIチャット | 文章作成や一般知識の説明 | 社内資料を知らず根拠がない | 機密でない一般作業 |
| RAG | 社内資料を検索して回答案を作る | 検索・権限・評価の運用が必要 | 質問が多く資料が分散している |
RAG導入前に資料をどう整えるか
対象質問を集める
現場で実際に繰り返される質問と、回答に使う資料を対にします。
正本を決める
重複版、期限切れ、草稿を区分し、回答根拠として使う文書を決めます。
属性を付ける
文書種別、部署、案件、発効日、失効日、閲覧区分を持たせます。
更新責任を決める
資料の更新、削除、再登録を誰が行うか決めます。
PDFを大量に投入するだけでは、古い規程と新しい規程が同時に検索される、表の見出しが欠落する、スキャン画像を読めないなどの問題が起きます。代表資料で分割方法と検索結果を確認してから対象を広げます。
閲覧権限をRAGへどう反映するか
RAGの回答画面だけにログインを付けても不十分です。検索時点で、その利用者が閲覧できる文書だけを候補にします。部署、役職、案件参加者などの属性を検索条件へ反映し、引用元URLを直接開く場合も同じ権限を確認します。Microsoftの公式RAG解説でも、検索時のアクセス制御と取得内容を信頼しない設計が示されています。
RAGの精度をどう評価するか
| 評価対象 | 確認すること | 失敗例 |
|---|---|---|
| 検索 | 正しい資料と箇所が上位に出る | 似た旧版だけが出る |
| 回答 | 根拠の範囲で簡潔に答える | 資料にない数字を補う |
| 出典 | 利用者が原文を確認できる | 文書名だけで箇所が不明 |
| 権限 | 許可文書だけを検索する | 他部署の機密を引用する |
| 棄権 | 根拠不足なら答えない | 推測で断定する |
実際の質問30〜50件程度から評価セットを作り、期待する資料、必要な回答要素、答えてはいけない条件を記録します。モデルや検索設定を変えたときに同じ質問で再評価できるようにし、正答率だけでなく重大な誤回答を個別に確認します。件数は業務の種類に応じて増減します。
RAG導入費用は何で決まるか
- 文書棚卸し・整形
- 検索インデックス
- 生成AI利用
- 認証・権限
- 画面・外部連携
- 評価・監視
- 更新運用
継続費には、検索基盤、埋め込み処理、生成AIの入力・出力、保存容量、監視、文書更新が含まれます。利用量だけでなく、資料を誰が更新し、回答品質を誰が確認するかという社内運用時間も見積もります。サービスごとにデータ保持や削除条件が異なるため、公式仕様を導入時に確認します。
RAGを自社で小さく試す方法
1テーマへ限定する
社内規程、商品仕様、施工標準など、更新責任と利用者が同じ資料群を選びます。
質問と根拠を作る
日常質問と正しい文書箇所を対にし、検索だけでも見つかるか確認します。
権限を単純化する
初期検証は同一権限の少人数で行い、本番前に権限条件を追加します。
回答より検索を評価する
生成文の自然さより、根拠文書と引用箇所が正しいかを先に確認します。
不足時は答えさせない
該当資料がない場合の定型応答と、人へ確認する導線を用意します。
RAGが向いている会社・向いていない会社
向いている
- 同じ質問への回答を何度も探している
- 正本資料と更新担当を決められる
- 回答根拠を表示する必要がある
- 部署・案件別の権限を設計できる
向いていない・先に整理が必要
- 資料が少なく既存検索で十分
- 正しい文書を決められない
- 質問が月に数件しかない
- 誤回答を人が確認できない
参考資料
仕様・制度は変更される場合があります。リンク先の最新情報も確認してください。
- Retrieval augmented generation (RAG) and indexes in Microsoft FoundryMicrosoft Learn / 確認日 2026.09.09
- Data controls in the OpenAI platformOpenAI / 確認日 2026.09.09
- Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence ProfileNIST / 確認日 2026.09.09
- 中小企業の情報セキュリティ対策ガイドライン独立行政法人情報処理推進機構（IPA） / 確認日 2026.09.09