ローカルLLMの選び方 — 精度・サイズ・ライセンス・運用負荷の4軸

「ローカルLLMを導入する」と決めた次に来るのが、「どのモデルを使うか」です。公開モデルは選択肢が多く、性能向上も速いため、調べるほど決められなくなりがちです。企業のモデル選定は、4つの軸に整理できます（ローカルLLMの基礎はローカルLLMとは何かを先にどうぞ）。

軸1: 精度 — ベンチマークではなく「自社の業務」で

公開ベンチマークの順位は参考情報ですが、選定の決め手にはなりません。ベンチマークが測る能力と、自社の業務（社内文書の要約・自社コードの修正・日本語での応対）で要る能力は、しばしばずれるからです。

現実的な方法は、自社の業務タスクを数十件用意して試すことです。実際の文書・実際のコードで、求める水準に達するかを見る。この評価の組み立てはローカルLLMの性能評価で詳しく扱います。日本語業務が中心なら、日本語の扱いに強いモデルかどうかも、ベンチマークと別に確かめるべき点です。

軸2: サイズ — 「設備で動く最大」ではなく「業務に足りる最小」

モデルのサイズ（パラメータ数）は、おおまかに「賢さの上限」と「必要な設備」の両方に効きます。大きいほど能力は上がりやすく、同時に必要なGPUメモリ・電力・コストも上がります（設備側の話はGPUサーバーを社内に置くメリットと限界）。

選定の方向は2つあり得ます。「設備で動く最大のモデル」から入るか、「業務に足りる最小のモデル」から入るか。運用の観点では後者を勧めます。小さいモデルは速く・安く・並行利用に強く、足りなければ上げればよい。最初から最大で組むと、速度と費用の問題が運用に乗り続けます。なお「足りる」は固定ではありません。用途が広がったら、最小ラインも再評価します。

軸3: ライセンス — 「公開されている」と「商用利用できる」は別

公開モデルのライセンスには幅があります。確認すべきは最低限この3点です。

• 商用利用の可否と条件 — 利用規模による制限や、特定用途の制限が付くものがあります
• 改変・派生の扱い — 追加学習（ファインチューニング）やその成果物の扱い。再配布やサービス提供に使う場合の条件も
• 表示義務など — 利用時に求められる表記・通知。生成物の扱いに条件が付く場合も

ライセンスはモデルのバージョンで変わることもあります。「前のバージョンで確認済み」を最新版に引き継がず、採用のたびに確認し、確認結果を記録に残してください（この記録は監査対応の材料にもなります。監査対応チェックリスト）。

軸4: 運用負荷 — モデルは「入れて終わり」ではない

見落とされがちな軸です。モデルの選定・更新・評価は継続する仕事で、次が定常的に発生します。

• 更新判断 — 新しいモデルが出るたびに「乗り換えるか」の判断が要る
• 再評価 — 乗り換え時には軸1の業務評価をやり直す
• 互換性 — プロンプトの書き方やツール連携が、モデルによって微妙に変わる

ここから導かれる選定の最重要原則は、特定モデルに依存しない構成にしておくことです。モデルは数か月単位で良いものが出ます。「このモデルだから組めた仕組み」ではなく「モデルを差し替えても回る仕組み」を選ぶ。モデル名ではなく構成で選ぶ、と言い換えてもよいでしょう。

まとめ

• 選定の軸は精度（自社業務で測る）・サイズ（業務に足りる最小から）・ライセンス（商用条件をバージョンごとに確認・記録）・運用負荷（更新・再評価は続く仕事）
• ベンチマーク順位と「最新最大」を追いかける選定は、運用に負債を残しやすい
• 最重要はモデルを差し替え可能にしておくこと。モデルは入れ替わる前提で構成を選ぶ

Hoko（矛）は、機密ルームの頭脳となるローカルLLMを箱内で動かすAIエージェント実行アプライアンスです。モデルは差し替え可能な構成なので、選定・更新を管理しやすくなります。箱の全体像は製品トップにあります。