ファインチューニング・RAG・プロンプトの違い — 機密データを入れる前の整理

「社内のナレッジをAIに学習させて、自社専用AIを作りたい」。よく聞く要望ですが、「学習させる」という言葉が3つの異なる技術を混ぜたまま使われていることが多いのです。機密データを扱う前に、まず言葉を分解しましょう。

3つの方式 — 渡し方が違えば、残り方が違う

「社内データを学ばせたい」の多く、特に社内文書の参照・Q&A系の用途は、まずRAGで足りるかを検討する価値があります。文書を検索して参照させる方が、学習よりも更新が容易で、何を参照したかも追えるからです。一方、文体や出力形式の定着のような用途では、ファインチューニングが有効な場合もあります。

機密の観点で何が違うか

プロンプト・RAG — データは渡るが、モデルには残らない

どちらも、データはモデルへの入力として渡るだけで、モデル自体は変わりません。ただし「モデルに残らない」は「どこにも残らない」ではありません。送信先のログ・保持、RAG基盤側の保存は別に確認が要ります。機密管理の論点は「渡す経路と先」に集約されます（「学習に使われない」は十分か）。RAGの場合はもうひとつ、文書ストア自体が機密の集積地になる点に注意が要ります。検索できる形に集めた社内文書は、それ自体が守るべき資産です（ネットワーク側の論点は姉妹サイトのRAGと社内データ）。

ファインチューニング — データは「モデルに残る」

ファインチューニングは質が違います。学習に使ったデータの影響はモデルの重みに反映され、後から特定の文書だけを分離・削除することは困難です。学習済みモデルから学習データの断片が出力に現れる漏出も、条件によっては起こり得ることが知られています。つまりファインチューニング済みモデルは、学習データに準じた機密として管理するのが安全側の扱いです。モデルファイルの持ち出しは、データの持ち出しに近い意味を持ちます。

機密データでのファインチューニングを検討するなら、最低限の問いは3つです。学習はどこで行うか（外部サービスならデータも外に出る）、できたモデルはどこに置くか、誰がそのモデルを使えるか。

方式の選択と、場所の選択は別

3方式のどれを選んでも、外部サービスの上でやればデータは外に出ます。「RAGだから安全」「ファインチューニングだから危険」ではなく、方式の選択（何が業務に合うか）と場所の選択（クラウドか、社内に閉じた環境か）は独立した判断です。

機密データを使うなら、方式が何であれ、処理が社内で完結する環境（ローカルLLMと社内の文書ストア）が選択肢になります（ローカルLLMとは何か・データ分類の実務）。

まとめ

• 「学ばせる」の実体は3つ。プロンプト（その場）・RAG（検索して渡す）・ファインチューニング（焼き込む）
• 多くの用途はRAGで足りる。更新が容易で、何を参照したかを追える
• ファインチューニングはデータがモデルに残る。モデル自体を機密として管理する覚悟が要る
• 方式の選択と場所の選択は別。機密を使うなら、方式が何であれ社内で完結する環境を

機密データを使うAI処理を箱の中で完結させるための環境が、Hoko（矛）の機密ルームです。組織の知識の蓄積・共有も箱の側で管理されます（製品トップ）。