「RAGのPoCをやってみたけれど、デモを見せて終わってしまった…」
「何を確かめれば、本番に進めていいと言えるの?」
RAGのPoCの進め方で困っていませんか?
動くものはできても、何が良くなったのかを説明できず、本番に進めるかどうかを決められないまま止まってしまうことがよくあります。
本記事では、開発会社の立場から、RAGのPoCで何を確かめるか、本番につなげる進め方と判断の基準を解説します。
この記事の要点
- RAGのPoCは、業務で使えるかを精度・根拠・費用・運用の4つで確かめる段階です
- 当社の目安は、PoC・1つの部署で100万円台〜(約2か月)、小さく試すところから本番まで2〜4か月、全社で使う本番が300万円〜、保守が月11万円〜です(いずれも税抜)
- 用途・文書・質問・判定の決まりを社内で先にそろえると、PoCの結果を本番の判断に使えます
RAGのPoCの悩み:こんなことありませんか?
RAGのPoCでよくある悩み
- デモ止まり:何が良くなったか説明できない
- 準備が分からない:何をそろえればいいか迷う
- 本番の判断:進めるか止めるか決められない
デモはできたのに、何が良くなったのか説明できない
PoCでよくある失敗は、見栄えの良いデモはできたのに、業務の何が良くなったのかを説明できない状態です。ゴールを「技術の完成」に置くと、この形で終わります。
社内で何を準備すればいいのか分からない
RAGは「AIが賢いか」よりも「参照する文書が整っているか」で使い心地が変わります。どの文書を入れるか、どんな質問で確かめるかを決めないまま始めると、PoCの途中で止まります。
PoCのあと、本番に進めるかどうかを決められない
判断の基準を先に決めていないと、PoCの最後が「なんとなく良さそう」で終わります。費用や運用の見通しがないままでは、稟議にも出せません。
RAGのPoCとは?何を確かめるのか
RAGのPoCは、RAGが自社の業務で使えるかを、対象を絞って確かめる段階です。RAGは、生成AIが答える前に社内の文書を検索し、見つけた箇所を根拠にして答える仕組みです。PoC(概念実証)では、その仕組みが自社の文書と質問で役に立つかを確かめます。

ゴールは「技術の完成」ではなく「業務で役立つことの証明」
たとえば「問い合わせの一次回答をAIに任せたい」なら、答えが正しいかだけでなく、対応の手間がどう変わるかまでをPoCの成果として決めます。PoCは、文書の置き場所・更新のしかた・アクセス権など、社内の情報の実態を洗い出す機会にもなります。
確かめるのは、精度・根拠・費用・運用の4つ
PoCで確かめる4つ
- 精度:現場がそのまま使える答えか
- 根拠:どの文書のどこかを示せるか
- 費用:使う量が増えても続けられるか
- 運用:更新や権限の管理が回るか
評価の観点を増やしすぎると、議論が散らかります。本番に進めるかどうかの判断に直結するのは、この4つです。
精度は「採用・要修正・不採用」の3段階で見る
業務の答えは、正しいか間違いかの2つに割り切れないことが多くあります。答えを「採用」「要修正」「不採用」の3段階で判定し、要修正・不採用の理由(文書が足りない、根拠が違う、言い回しが合わない など)を記録します。この記録が、どこを直せばよいかの地図になります。判定に使う指標の作り方は、RAG・AIチャットボットの評価指標(KPI)の作り方で解説しています。
根拠は、答えといっしょに出典を出す
監査・法務・セキュリティの場面では、「AIがそう言った」では通りません。PoCの段階から、答えに引用(抜粋)と参照先(ファイル名・見出し)を出す作りにします。根拠を示せないRAGは、便利なチャットで止まります。
費用と運用は、本番に進めるかを決める材料になる
費用は月額だけでなく、使う回数と答えの長さで変わるAIの利用料も見ます。「部署全体に広げたら月いくらか」を試算し、上限を説明できるようにします。運用は、文書を更新したときの反映、間違った答えが出たときの直し方、部署ごとに見える文書を分けるかを、PoCの中で最低限確かめます。
PoCの進め方:本番につなげる4つのステップ
対象を絞って最小構成で動かし、判定と改善を回してから、本番の運用と費用を固めます。ステップごとに「決めること」を決め、決めたら次に進みます。

PoCの4つのステップ
- ① 絞る:用途・文書・質問を決める
- ② 動かす:最小構成で答えと出典を出す
- ③ 直す:判定して検索と文書を直す
- ④ 固める:運用・費用・広げ方を決める
ステップ①:用途・文書・評価用の質問を絞り込む
用途は1つに絞ります。「問い合わせ対応」「社内規程の検索」「製品仕様のQ&A」「申請手続きの案内」など、文書に答えがある業務が向いています。経験や判断が要る「営業戦略」「人事評価」などは、最初のPoCには向きません。
文書は、最初から全社の文書にせず、FAQ・規程集・マニュアル・過去の回答のひな形など、答えが出やすいものに限ります。同じ内容の資料が古いPDFと新しい社内Wikiの両方にあるなら、どちらを正本(正しい版)にするかを決めます。決めないと、古いほうを引いて間違った答えを返します。入れる文書の選び方は、RAGに入れる社内データの選び方で解説しています。
- 対象の業務:誰が・何に困っていて・何を良くしたいか
- 対象の文書の一覧:置き場所・形式・更新の頻度・持ち主
- 評価用の質問:実際の問い合わせから集める
ステップ②:最小構成のRAGを作り、答えと出典を出す
ここでの目的は、精度の作り込みではなく、文書を取り込んで検索し、答えと出典を出すところまでを通して動かすことです。画面は作り込まず、Slack・Teamsのボットや簡単なWeb画面で足ります。
- 文書を小分けにする:見出しや章の区切りを残して、引きやすい形に整える
- 情報をつける:文書名・部署・更新日・版を持たせ、検索で絞り込めるようにする
- 答え方を決める:結論→手順→注意点→出典の順にし、分からないときは分からないと答える
検索のやり方(キーワード検索・ベクトル検索・ハイブリッド検索)の選び方は、RAGの検索方式の記事で解説しています。
ステップ③:質問ごとに判定し、検索と文書を直す
評価用の質問を投げ、答えを3段階で判定し、出典が正しいかを確かめ、直す理由を分類して記録します。直し方は次の3つです。
- 文書を直す:足りない文書、言葉のゆれ、古い手順の混在を正す
- 検索を直す:探し方や絞り込みの条件を変える
- 答え方を直す:形式・禁止事項・出典の出し方をそろえる
よくある失敗は、AIの言い回しばかり直して、検索で正しい文書が取れていないことを見落とすことです。出典は正しいのに答えがおかしいなら答え方、出典が違うなら検索と切り分けます。
当社が作った社内向けチャットボットでは、過去の社内の問い合わせから質問を作り、人が50問の答えを1問ずつ確かめ、作り話をしないかなど12種類の観点で確かめてから仕上げました(詳しくはAI開発のページ)。
ステップ④:本番に向けた運用・費用・広げ方を決める
最後に、このまま本番に進めるかを判断する材料をそろえます。PoCの成果物は、デモの動画より「評価の結果」と「運用の案」のほうが判断に役立ちます。
- 文書の更新:誰がいつ更新し、AIにどう反映するか
- アクセス権:部署ごとに見える文書を分けるか
- 記録:誰が何を聞き、何を参照したかを追えるか
- 費用:月額の固定費・AIの利用料・運用の手間
- 広げ方:PoC→限られた部署→部署を増やす→全社
期間と費用の目安
当社の目安は、PoC・1つの部署で使う社内向けチャットボットが100万円台〜(約2か月)で、要件定義・開発・精度の検証を含みます。小さく試すところから本番までは2〜4か月がひとつの目安です。
| 段階 | 期間の目安 | 費用の目安(税抜) |
|---|---|---|
| PoC・1つの部署 | 約2か月 | 100万円台〜 |
| 全社で使う本番 | 小さく試すところから本番まで2〜4か月 | 300万円〜 |
| 保守 | 毎月 | 月11万円〜 |
金額はこれまでの実績から出した目安で、入れる文書の量や画面の作り込みで変わります。AIの利用料・サーバー代は実費です。見積もりの内訳と見方はRAG導入の費用相場の記事で解説しています。
社内の準備を30日で進める段取りの例
開発会社に頼む場合でも、用途・文書・質問・判定の決まりは社内でしか決められません。PoCを始める前の30日を、次のように4週に分けると準備を進めやすくなります。
社内の準備を30日で進める例
- 1週目:用途と対象の文書を決める
- 2週目:文書の正本を決めて集める
- 3週目:実際の質問を集めて根拠をつける
- 4週目:判定と本番の基準を合意する
これが先にそろっていると、PoCの期間を判定と改善に使えます。
始める前に知っておきたい注意点とコツ
PoCが本番につながらない原因は、技術よりも「進め方の前提」のずれです。よくある4つと避け方をまとめます。
PoCがデモ止まりになる4つの原因
- 全社の文書:最初から入れて止まる
- 都合の良い質問:現場の聞き方と違う
- セキュリティ:最後に回して差し戻される
- 成果物:動くものだけで終わる
最初から全社の文書を入れようとして止まる
全社の文書を扱うと、権限・機密・版の管理・重複の問題が一度に出てきて、PoCが終わる前に調整で止まります。対象は「1つの部署・1つの業務・1種類の文書」に絞り、うまくいってから広げます。
評価の質問が、作り手に都合の良い質問になっている
実際の質問は、短い・誤字がある・前提が抜けている、が当たり前です。「旅費の領収書をなくした」のような短くあいまいな質問に答えられるかが本番です。質問は問い合わせの記録・メール・チャットの履歴から作り、記録がなければ現場に「最近困った質問」を出してもらいます。
セキュリティの確認を最後に回して差し戻される
注意:セキュリティは最初に合意する
AIに送るデータ、記録の保管期間、アクセスの制限、委託先の管理は、情シス・法務の確認で必ず論点になります。「何を外部のAIに送るか」「個人情報や機密を外すか」「社内の環境で完結させるか」を、PoCを始める前に決めます。
成果物が「動くもの」だけで終わる
本番に必要なのは、動くものに加えて、運用の案・費用の試算・広げ方の計画です。ステップ④で「本番に必要な作業の一覧」を作り、優先度と担当を決めます。PoCのゴールを「このまま稟議に出せる資料がある状態」と決めておくと、成果物がそろいます。
本番につなげる判断:進めるかどうかの4つの基準
PoCの最後は、品質・根拠・運用・費用の4つで、本番に進めるかを決めます。「なんとなく良さそう」で終わらせず、基準を先に関係者と決めておきます。

本番に進めるかの4つの基準
- 品質:不採用の理由が直せるものか
- 根拠:出典を毎回示せるか
- 運用:更新と権限の流れが回るか
- 費用:月の上限を説明できるか
要修正が多くても、すぐに中止とは限らない
要修正の理由が、文書の不足や検索の絞り込みなら、直して確かめ直せます。根拠が出せない、答えになる文書がそもそもない、権限を整理できない、といった問題は、本番の前に片付けます。
全社導入か中止かの二択にせず、小さく始める
RAGは段階を分けて入れられます。本番へのつなげ方は次の3つです。
- 限られた部署で使い始める:特定の部署・文書だけで使い、記録を見て直す
- 人が最後に確かめる形で業務に入れる:回答の下書きを出し、担当者が確かめて送る
- 文書の整理とセットで進める:RAGをきっかけに、正本と改訂のルールを決める
本番の提案資料に入れる6つ
判断する人は、AIの仕組みよりも「入れたあとに困らないか」を見ます。提案資料には、1枚ずつでよいので次を入れます。
- 対象の業務:誰の何の業務か
- 対象の範囲:どの部署・どの文書か
- 期待する変化:PoCで確かめた結果
- リスクと対策:セキュリティ・誤った答えへの備え
- 費用:初期費用と月額の上限
- 運用の体制:更新・問い合わせの担当
ソフィエイトに頼む場合
社内向けのAIチャットボット(RAG)や、業務への生成AIの組み込みを、何に使うかの整理から一社で行っています。できること・事例・費用の目安は生成AI・RAGの開発のサービスページで紹介しています。
まとめ:対象を絞って、本番を見据えたPoCにしよう
RAGのPoCは、動くものを作る前に、何を確かめるか(精度・根拠・費用・運用)と、どう判定するかをそろえることが大切です。用途と文書を絞って正本を決め、実際の質問で判定と改善を回し、運用と費用の案まで作ると、本番に進めるかを判断できます。
当社の目安は、PoC・1つの部署で100万円台〜(約2か月)、小さく試すところから本番まで2〜4か月、全社で使う本番が300万円〜、保守が月11万円〜(いずれも税抜)です。本番・運用まで含めた費用はRAG導入の費用相場の記事で解説しています。
ソフィエイトに頼む場合の作れるもの・料金・進め方はAI開発(RAG・社内データ活用)のページにあります。費用の目安は3分の自動見積もりですぐに確かめられ、自社の業務でPoCをどう組むかは30分の無料相談でお伝えしています。
関連記事
関連キーワード: RAG