ローカルLLMとは何か — クラウドLLMとの違いと企業利用の判断軸

「ローカルLLM」という言葉を、機密データとAIの文脈で目にすることが増えました。ローカルLLMとは何か、クラウドLLMと何が違うのか、そして企業が導入を判断するときに何を見ればよいのか。基礎から整理します。

ローカルLLMとは

ローカルLLM（Local LLM）とは、自社の管理下にあるサーバーや端末（専有的に管理できる環境）の上で動かす大規模言語モデルのことです。「ローカル」は手元・構内という意味で、クラウド事業者のサーバーではなく、自社のサーバーやワークステーション（多くはGPU搭載機）でモデルを動かします。

これが可能なのは、モデルの重み（ウェイト）が公開され、商用利用の条件が明示されたモデルが増えたからです。公開モデルをダウンロードして自社の機械に載せれば、インターネットに接続しなくても推論（テキスト生成）ができます。なおライセンス条件はモデルごとに異なるため、商用利用の可否は個別の確認が必要です。

クラウドLLMとの違いは1点に集約される

機能の細かな差はありますが、企業利用の観点では違いは1点に集約されます。入力したデータが、自社の管理境界の外に出るかどうかです。

クラウドLLMでも、法人契約で「入力を学習に使わない」「保持期間を限定する」といった保護は得られます。ただしそれは契約による保護であり、データが事業者に送信されること自体は変わりません。「送信自体が許されない」機密区分や、規約の継続確認という運用負荷が問題になる場合に、ローカルLLMの「そもそも出ない」という性質が効きます（この論点は機密データをAIに扱わせたい — ローカルLLMという選択肢と、その限界で詳しく扱っています）。

ローカルLLMのメリット

• データが出ない — 顧客情報・設計データ・社外秘を、外部送信なしでAIに処理させられる
• 説明できる — 「出ていないこと」を契約ではなくネットワーク構成で説明できる。監査や顧客への回答が変わる
• 規約変更の影響を受けにくい — クラウドサービス側の規約・プラン変更を追いかけ続ける負荷が減る（モデル自体のライセンス確認は必要）
• コストが読める — 設備投資型なので、利用量が増えても従量課金が膨らまない

ローカルLLMの限界

良い面だけ見て導入すると失敗します。限界も同じ重みで見てください。

• 賢さはクラウドの最先端に及ばない — 公開モデルは年々向上していますが、その時点の最新クラウドLLMとの差は残ります。複雑な推論や長大な文脈で見劣りします
• 設備が要る — 実用速度で動かすにはGPU等の計算資源が必要です（GPUサーバーを社内に置くメリットと限界）
• 運用が要る — モデルの選定・更新・性能評価が自社の仕事になります。「入れて終わり」ではありません
• ばらばらに増えやすい — 各自のPCで個別に動かし始めると、モデルもバージョンも管理外になります。ローカルLLMこそ共有基盤に集約する価値があります

企業利用の判断軸

導入判断は、結局ひとつの問いに帰着します。

「外部に送信できないデータを、AIに扱わせたいか」

• Yes → ローカルLLMが候補になります。賢さの限界を「出ないこと」が上回る業務（機密文書の要約・整形、機密コードの修正など）から始めるのが定石です。社内データの渡し方（プロンプト・RAG・ファインチューニング）の整理はこちらの記事へ
• No → クラウドLLMの法人プランが基本線です。最高水準の賢さを、設備投資なしで使えます

そして多くの企業の実態は「両方ある」です。機密に触れる仕事と触れない仕事が混在しているなら、答えはどちらか一方ではなく使い分けになります（次の記事: クラウドLLMとローカルLLMの使い分け）。

まとめ

• ローカルLLMは自社の管理下の環境で動かすLLM。公開モデルの普及で現実的な選択肢になった
• クラウドLLMとの本質的な違いは「入力データが管理境界の外に出るかどうか」
• 強みは「出ない・説明できる・規約変更に振り回されにくい」。弱みは「賢さ・設備・運用」
• 判断軸は「外に出せないデータをAIに扱わせたいか」。混在する現場では使い分けが現実解

Hoko（矛）は、ローカルLLMで完結する機密ルームと、クラウドAIを使う通常ルーム（2つのルーム）をひとつの箱で提供するAIエージェント実行アプライアンスです。