Dify活用術:日本語特化モデルで社内AIツールを本番運用まで持っていく方法

Dify活用術:日本語特化モデルで社内AIツールを本番運用まで持っていく方法

「試しに作った社内AI、結局だれも使っていない…」
「AIの答えの日本語が不自然で、毎回直してから社員に回している…」

Difyで社内AIツールを試したのに、本番の運用まで進められずに困っていませんか?
試作で止まるのは、日本語の答えの質と、作ったあとの運用の決めごとが抜けているときです。

本記事では、社内向けのAIツールを作ってきた開発会社の立場から、Dify(ディフィ)に日本語に強いモデルをつなぎ、試作から本番の運用まで持っていく進め方と注意点を解説します。

この記事の要点

  • Difyには、日本語に強い国産のモデルもつなげます。PLaMo 3.0 Prime(Preferred Networks)とSakana Namazu(Sakana AI)は、DifyのOpenAI-API-compatibleプラグインから使えます
  • 答えの質は、モデルだけでなく資料の整理・分け方・絞り込みで変わります。本番の前に、同じ質問セットで確かめます
  • Difyは無料プランで試せ、有料は月59ドル〜(税別・2026年10月時点)。社外秘を全社で長く扱うなら、作り込む形(当社の目安で100万円台〜・税抜)とも比べます

社内AIツールの悩み:こんなことありませんか?

社内AIツールが試作で止まる理由

  • 日本語が不自然:答えを直してから社員に回す
  • 古い資料を拾う:改定前の規程で答えてしまう
  • 直す人がいない:誤答が出ても放置される

AIの答えの日本語を、担当者が毎回直している

社内の文書には、敬語・遠回しな言い方・業界や社内だけの略語が多く出てきます。答えがかみ合わないと、担当者がAIの答えを読み替えて社員に伝える手間が残り、AIを入れた意味が薄れます。

古い規程や別の部署の手順で答えてしまう

資料をまとめて入れただけでは、改定前の規程や、別の部署向けの手順を拾って答えます。誤った答えの多くは、モデルではなく、入れた資料の側に原因があります。

誤った答えが出ても、誰が直すか決まっていない

試作は作った人が面倒を見ますが、使う人が増えると、指示文や資料を誰が直すのか、モデルを替えるときに何を確かめるのかが決まっていないまま止まります。

この3つは、モデル・資料・運用の3つに分けて手を打てば、順番に片づけられます。次の章で、その分け方を紹介します。

「AIの社内ルール、決めるのは15項目だけ」を無料でお配りしています

日本語特化モデル×Difyとは?社内AIツールを支える3つの層

社内AIツールは、モデル・ナレッジ(社内の資料)・運用の3つの層に分けて考えると、どこを直せばよいかが分かります。Difyは、この3つを1つの画面で扱えます。

社内AIツールをモデル・ナレッジ・運用の3つの層に分けて考え、Difyで1つの画面で扱うことを示した図
答えがおかしいときは、3つの層のどこが原因かを切り分けます

社内AIツールの3つの層

  • モデル:答えを書くAI。あとから替えられる
  • ナレッジ:社内の資料。答えの材料になる
  • 運用:見せる範囲・記録・直す人

モデル:日本語に強い国産モデルも、Difyにつなげる

Difyでは、使うモデルを画面で選び、あとから差し替えられます。日本の会社が作った日本語に強いモデルのうち、次の2つは料金が公開されていて、申し込めばすぐにAPI(ほかのシステムから呼び出す窓口)で使えます。

モデル(提供元) 100万トークンあたり
PLaMo 3.0 Prime
(Preferred Networks)
入力60円
出力250円
Sakana Namazu
(Sakana AI)
入力0.95ドル
出力4ドル

出典:PLaMo API(Standardプラン)、Sakana Namazu(いずれも2026年10月時点)。トークンは、AIが文字を区切って数える単位です。PLaMoは円、Sakana Namazuはドルで払い、どちらも月額の基本料はありません。

どちらもOpenAIのAPIと同じ形で呼び出せるので、Difyでは公式のOpenAI-API-compatibleプラグインを入れ、モデル名・APIキー・接続先のURLを登録してつなぎます。社外への返信文や経営向けの報告など質が要る用途と、メモの要約のような軽い用途で、モデルを使い分けることもできます。

ナレッジ:社内の資料を、探しやすい大きさに分けて入れる

Difyでは、入れた資料をチャンク(小さなかたまり)に分けて保存し、質問に近いチャンクを拾って答えの材料にします。分け方は区切り文字・最大の長さ・前後の重なりで決められ、小さなかたまりで探して、前後を含む大きなかたまりを答えに使う「親子モード」もあります。分け方の種類はナレッジを作ったあとに変えられません(Dify公式ドキュメント:チャンク設定)。資料の分け方とメタデータの付け方は、RAGの前処理(分割・タグ・メタデータ)で解説しています。

資料に部署名や更新日などのメタデータ(資料につける項目)を付けておくと、答えるときに「人事の資料だけ」「最近の版だけ」と絞り込めます。絞り込みは自動と手動を選べます(Dify公式ドキュメント:アプリ内でのナレッジ統合)。

運用:記録を見て、誰が何を直すかを決める

Difyのアプリのログでは、何が聞かれ、どう答えたか、使った人の評価(よい・よくない)を見られます(Dify公式ドキュメント:ログ)。この記録をもとに、指示文・資料・モデルのどれを直すかを決めます。

料金:無料のプランで試してから、有料に切り替えられる

DifyのクラウドのプランはSandbox(無料)、Professional(月59ドル)、Team(月159ドル)、Enterprise(個別見積もり)の4つです。料金はワークスペース1つあたりで、税は含みません(2026年10月時点)。

プラン 月額(税別)と主な上限
Sandbox 無料
メンバー1人・資料50件
Professional 59ドル
メンバー3人・資料500件
Team 159ドル
メンバー50人・資料1,000件
Enterprise 個別見積もり

出典:Dify公式の料金ページ。無料プランのAIの利用回数(メッセージクレジット)は200回分で、使い切ったら自社で契約したAIのAPIキーに切り替えます。PLaMoやSakana Namazuの利用料は、Difyとは別にそれぞれの提供会社に払います。

日本語特化モデル×Difyでできること:実際の活用シーン

部署ごとの活用例

  • 総務・人事:制度や手続きの質問に先に答える
  • 情報システム:マニュアルから操作を答える
  • 開発:仕様書や設計書を横断して探す

総務・人事:制度や手続きの問い合わせに、先に答える

規程や手続きの案内をナレッジに入れておけば、「休暇の申請はどうする?」のような問い合わせにAIが先に答えます。問い合わせの種類や急ぎかどうかを入力欄で選ばせると、AIへの指示がぶれず、答えもそろいます。

情報システム:社内マニュアルをもとに、操作の質問に答える

システムの操作マニュアルを入れ、「パスワードの再発行は?」「経費の申請画面はどこ?」に、手順と元のマニュアル名を添えて答えます。答えが見つからないときは、担当者への連絡先を返します。

開発:仕様書や設計書を横断して、該当の箇所を探す

プロジェクトごとに散らばった仕様書を入れておけば、「この画面の入力チェックの決まりは?」を聞くだけで、該当の箇所を探せます。製品名やプロジェクト名の略語は、用語集にまとめて一緒に入れておきます。

どの場面でも、最初は1つの部署・1つの業務に絞り、答えに元の資料名を添えさせるところから始めます。

「AIの社内ルール、決めるのは15項目だけ」を無料でお配りしています

導入ステップ:試作から本番運用への進め方

1つの部署で試し、モデルと資料を整え、運用の決めごとを作ってから、部署を広げます。いきなり全社に配ると、直す人が追いつきません。

1つの部署で試作、モデルと指示文を比べる、資料を整えて確かめる、決めごとを作って広げるという本番運用までの4ステップの図
試作で分かったことを直してから、次の部署に広げます

本番運用までの4つのステップ

  • ① 1部署で試す:業務を1〜2個に絞る
  • ② モデルを比べる:同じ質問で答えを比べる
  • ③ 資料を整える:古い版を外して分け直す
  • ④ 部署を広げる:決めごとを作ってから

ステップ①:1つの部署・1〜2個の業務で試作する

対象は1つの部署、業務は1〜2個に絞ります。この段階では精度を求めず、どんな質問が多いか、どの資料がよく使われるか、どこで間違えるかを知ることが目的です。

ステップ②:同じ質問セットで、モデルと指示文を比べる

よく来る質問と正しい答えを集めた評価用の質問セットを作り、モデルを切り替えて同じ質問を流します。日本語の自然さ・根拠の示し方・利用料を並べて、用途ごとに使うモデルを決めます。

指示文(システムプロンプト)には、次のことを日本語で書きます。

  • 話し方:どの立場で、どんな敬語で答えるか
  • 根拠:元の資料名を必ず添える
  • 分からないとき:推測せず、担当者へ回す
  • やらないこと:答えてはいけない話題

ステップ③:ナレッジを整え、検索テストで確かめる

古い規程や廃止した手順書は外し、最新版だけを入れます。ファイル名に部署・対象のシステム・改定日を入れておくと、メタデータでの絞り込みにも使えます。入れたあとは、ナレッジの「検索テスト」で、質問から正しい箇所が見つかるかを確かめます(Dify公式ドキュメント:ナレッジ検索テスト)。肝心の1文が切れていたら、チャンクの区切り方を見直します。資料が更新されても答えが崩れない運用は、社内文書が更新されても破綻しないRAG運用で解説しています。

ステップ④:運用の決めごとを作ってから、部署を広げる

広げる前に、次の3つを決めて残します。

  • 指示文の変更:誰が確かめて反映するか
  • モデルの入れ替え:評価用の質問セットで比べてから
  • 誤った答え:見つけたら誰に知らせるか

うまくいった業務の指示文と資料の分け方をひな形にして、次の部署ではそれをまねて作ります。担当者が替わっても、同じ手順で確かめて直せます。

始める前に知っておきたい注意点とコツ

始める前のチェック

  • モデルの条件:料金・規約を公式で確かめる
  • 見せる範囲:URLを知れば誰でも開ける
  • 答えない話題:資料に入れないのが確実
  • 記録の期限:無料プランは30日で消える
  • 作り込みとの比較:全社で長く使うなら

モデルの料金・利用条件・データの扱いを、公式で確かめる

モデルはプランごとに料金と利用条件が違うので、契約前に公式の料金ページと利用規約を読みます。たとえばPLaMo APIのStandardプランは、入力したデータを学習に使わず、保持もしない扱いです(PLaMo API、2026年10月時点)。PLaMoの無料プランは2026年10月時点で準備中です。

WebアプリはURLを知っていれば誰でも開けるので、配る範囲を決める

DifyのWebアプリは、初期設定ではURLを知っていれば誰でも開けます(Dify公式ドキュメント:Webアプリの設定)。社外秘の資料を入れるなら、何を入れて誰に配るかを先に決めます。SSO(会社のアカウントでのログイン)などの細かいアクセス管理は、Enterpriseプランの機能です。

答えてはいけない情報は、指示文だけでなく資料から外す

給与・人事評価・個人情報のように答えてはいけない情報は、指示文で「答えない」と書くだけでなく、ナレッジに入れないのが確実です。部署限定の情報は、別のアプリに分けます。見せてよい人を絞る作り方は、権限を守ったRAGの作り方で解説しています。

社外秘を全社で長く扱うなら、作り込む形とも比べる

Difyは小さく早く試すのに向いています。社外秘の資料を全社で長く扱う、部署ごとに見せる範囲を分けたい、という条件がそろうと、自社の環境に作り込む形とも比べます。当社の目安は、1つの部署で使う社内AIチャットが100万円台〜・約2か月、全社で使う形が300万円〜、保守が月11万円〜です(いずれも税抜。AIの利用料・サーバー代は実費)。比べ方はRAG構築はDifyか自前構築かで紹介しています。

「AIの社内ルール、決めるのは15項目だけ」を無料でお配りしています

効果は?問い合わせ対応はどれくらい減る?

減り方は業務と資料の質で会社ごとに違うので、何で測るかを試作の段階で決め、ログで確かめます。月に1回、同じ数字を並べて見ると、モデルや資料を直した効果が分かります。

社内AIツールの効果を、AIで終わった割合・聞き直しの数・よくないの評価・1件あたりの利用料の4つの数字で毎月見ることを示した図
同じ4つの数字を毎月見て、直した効果を確かめます

効果を測る4つの数字

  • AIで終わった割合:人に回らず済んだ件数
  • 聞き直しの数:答えのあと聞き直された数
  • よくないの評価:使った人が付けた数
  • 1件あたりの利用料:モデルに払った額

人に回らずに終わった割合と、聞き直しの数

始める前に、担当者に来ていた問い合わせの件数を数えておきます。使い始めてから、AIだけで終わった件数と、答えのあとに聞き直された件数を比べれば、担当者の手がどれだけ空いたかが分かります。

「よくない」の評価と、1件あたりの利用料

「よくない」が付いた答えを見て、指示文・資料・モデルのどれが原因かを分けて直します。モデルを替えたときは、評価用の質問セットの結果と1件あたりの利用料を、替える前と並べて比べます。

注意:無料のSandboxプランでは、会話の記録は30日で消え、あとから有料のプランにしても戻りません(Dify公式ドキュメント:ログ)。試す期間中にこまめに確かめます。

まとめ:日本語に強いモデルとDifyで「使われ続ける社内AI」にしよう

Difyなら、PLaMo 3.0 PrimeやSakana Namazuのような日本語に強いモデルをつなぎ、モデル・ナレッジ・運用の3つの層を1つの画面で扱えます。1つの部署で試し、同じ質問セットでモデルと資料を整えてから、部署を広げます。

AIに任せること

規程・マニュアル・仕様書から答えを探し、元の資料名を添えて先に答える。分からないときは担当者へ回す。

人が決めること

どの業務から始めるか、何を入れて誰に配るか、誰が指示文や資料を直すか。ここを先に決めておくほど、試作のあとも使われ続けます。

ソフィエイトに頼む場合の作れるもの・料金・進め方はAI開発のページにあります。費用の目安は3分の自動見積もりですぐに確かめられ、Difyで足りるか作り込むべきかは30分の無料相談でお伝えしています。作り方の全体は社内AIの作り方で紹介しています。

「AIの社内ルール、決めるのは15項目だけ」を無料でお配りしています

3分でできる! 開発費用のカンタン概算見積もりはこちら

自動見積もり

お問い合わせ

 

お問い合わせ

 

\まずは15分だけでもお気軽にご相談ください!/

    業務委託(フリーランス・副業)で働きたい方は開発パートナー募集からお申し込みください。

    ご用件

    このサイトは reCAPTCHA で保護されており、Google のプライバシーポリシーと利用規約が適用されます。

    関連記事

    自動見積もり