SLM（小型言語モデル）徹底比較ガイド2026

ライター：國末拓実
編集：小澤健祐

「社内データを安全に活用したいが、自社LLMの開発・導入はコストもセキュリティも不安…」

そんな、多くの企業が抱える悩みから、解放されたいと思いませんか？

その解決策となるのが、SLM（Small Language Model / 小型言語モデル）です。近年SLMは、クラウドを介さず手元のPCや社内サーバーで高速に動作する「低遅延」「オンデバイスAI」という需要を追い風に、市場が急成長しています。

性能も驚くほど向上しており、一世代前の巨大モデルを凌駕するケースも少なくありません。

本記事では、特にビジネス活用が期待される20億〜70億パラメータ（2B〜7B）クラスの主要SLMを徹底比較。この記事を読めば、あなたの会社に最適なモデルの候補が絞り込まれ、具体的な導入計画を立てられるようになります。

まず押さえる「SLMの選び方」5つの軸

最適なSLMを選ぶには、性能スコアだけでなく、ビジネス利用特有の観点から総合的に評価することが不可欠です。ここでは絶対に外せない5つの評価軸を紹介します。

① 性能とサイズ：数字の裏にある“実務適合度”を見る

モデルの基礎能力を示すベンチマークスコアは重要な指標ですが、それだけでは業務で使えるかは判断できません。

• ベンチマークスコア: MMLU（一般知識）、HumanEval（コード生成）、GSM8K（数学的推論）などが代表的です。これらはモデルのポテンシャルを測る目安として捉えましょう。
• 実務適合度: 本当に重要なのは、「日本語が自然か」「指示通りに動くか」「要約の精度は十分か」といった、実際の業務に即した品質です。これは後述する「実務評価」で測る必要があります。

② ライセンス/商用条件：ビジネスの生命線

オープンソースだからといって、全てのモデルが同じ条件で使えるわけではありません。ライセンス違反は大きな事業リスクとなるため、必ず確認しましょう。

③ 運用コストとレイテンシ：費用対効果を最大化する

SLMの大きな利点はコスト効率の高さです。自社の環境でどの程度の費用と性能が出るのかを見積もりましょう。

• ハードウェア要件 (VRAM): モデルを動かすために必要なGPUメモリ量です。量子化という技術を使えば、VRAM使用量を劇的に削減できます。
  ○ 例：Mistral 7B (73億パラメータ) の場合
  フル精度 (FP16): 約14GB 8bit量子化: 約7GB 4bit量子化: 約4GB (一般的なゲーミングPCでも動作可能)
• 推論コスト:
  ○ オンプレミス: RTX 3090 (24GB) などのGPUを一度購入すれば（約15万円〜）、ランニングコストを低く抑えられます。
  ○ クラウド: AWSのg4dn.xlarge (16GB) インスタンスなら、月額$360程度から利用可能です。
• 応答速度 (レイテンシ): ユーザー体験に直結します。CPUでも高速に動作するllama.cppのようなツールの活用や、Speculative Decodingという技術で改善できます。

④ デプロイ性：どこで、どう動かすか

SLMは様々な環境で動かせます。目的に合ったツールを選ぶことが、スムーズな導入の鍵です。

• 実行環境
  ○ ローカルPC: Ollama を使えば、開発者のPCで驚くほど簡単にモデルを試せます。
  ○ オンプレミス/クラウド: 多数のアクセスを捌く本番環境では、高スループットを実現する vLLM などが強力な選択肢です。
  ○ エッジデバイス: C++で書かれた llama.cpp は、CPUやモバイル端末での高速推論に最適です。

⑤ 言語/領域適合：自社データにどう適応させるか

モデルの汎用的な能力に加え、日本語や特定の業務ドメインへの適合性が重要です。

• 日本語品質: 海外製モデルが多いため、日本語の扱いはモデルによって差があります。Googleの Gemma 2 2B JPN-IT のような公式日本語版は、大きなアドバンテージです。
• ドメイン特化:
  ○ RAG (Retrieval-Augmented Generation): モデルを再学習させず、社内文書やマニュアルを外部知識として参照させる手法。低コストで最新情報に対応できます。
  ○ LoRA (Low-Rank Adaptation): 特定のタスク（例：メールの文面生成）に合わせて、モデルの応答スタイルなどを少ない計算資源で微調整する手法です。

主要SLMの横断比較（用途で見る“最適解”）

ここでは、具体的なビジネスシーンを想定し、どのモデルが最適解になりうるかを見ていきましょう。

オンデバイス/閉域用途（プライバシー最優先）

顧客情報や機密情報を扱うため、データを外部に出したくない場合に最適です。

• Phi-3 (Microsoft): 3.8Bという小型サイズながら、一世代前の7BモデルやGPT-3.5に匹敵する性能を持ち、モバイルデバイスでも動作します。
• Gemma 2B (Google): 4bit量子化でVRAM 1.5GB程度と、ノートPCやスマートフォンでも軽快に動作。日本語特化版があるのも魅力です。
• TinyLlama 1.1B: 極限まで軽量化されており、IoT機器への組み込みや、リアルタイム性が求められる単純なタスクに適しています。

汎用チャット/業務自動化（精度×軽さのバランス）

社内FAQ、議事録の要約、定型文作成など、幅広い業務で活躍します。

• Mistral 7B (Mistral AI): 7Bクラスでトップクラスの総合性能を誇ります。Apache 2.0ライセンスで商用利用しやすく、多くの業務自動化プロジェクトのベースモデルとして最適です。
• Gemma 2 9B (Google): より高い精度が求められる場合に有力な選択肢。Llama 3 8Bに匹敵する性能を持ちます。
• LLaMA 2 7B (Meta): 最新モデルには性能で劣りますが、エコシステムが非常に豊富で、学習用の資料や派生モデルが多く存在するため、カスタマイズの土台として依然として価値があります。

OSS徹底＆拡張性重視（ライセンス柔軟・派生豊富）

ライセンスの制約を気にせず、自由に改変や研究を行いたい場合に適しています。

• Mistral 7B: 性能の高さとApache 2.0ライセンスの両立により、このカテゴリでも最有力候補です。
• OpenLLaMA: LLaMAを完全にオープンなデータセットで再現したモデル。ライセンスのクリーンさが求められる研究や製品への組み込みに向いています。
• TinyLlama: こちらもApache 2.0。エッジAIの研究や、新しいアーキテクチャの実験などに最適です。

モデル別「1分レビュー」— 強み・弱み・向く業務

各モデルの個性を早見表にまとめました。

ベンチマークの“読み方”と実務評価

モデル選定で失敗しないためには、数字を鵜呑みにせず、自社の業務で評価することが不可欠です。

数字の落とし穴：MMLU等は“傾向”把握用

MMLUのような学術的なベンチマークスコアは、モデルの一般的な知識量や推論能力の傾向を知るためのものです。このスコアが高いからといって、あなたの会社の問い合わせに正しく答えられるとは限りません。

実務KPI例：自社の「ものさし」を作る

評価のためには、ビジネス上のゴールに直結するKPI（重要業績評価指標）を設定しましょう。

• 要約精度: AIが作成した要約を、人間がどれだけ修正する必要があったか（人手修正率）
• 社内FAQ再現率: 問い合わせトップ20件に対し、AIがマニュアル通りに正しく回答できた割合
• 回答一貫性: 同じ質問に複数回問い合わせ、回答がブレないか
• 日本語自然度: 日本語を母国語とする人が読んで、違和感がないか

小さく試す：自社データでA/Bテスト

最も効果的なのは、実際に試してみることです。

10〜20件の自社特有の質問やタスク（例：過去の問い合わせメール、要約したい議事録）をプロンプトセットとして用意し、候補のモデル2〜3つで実行結果を比較（A/Bテスト）しましょう。これにより、机上の空論ではない、運用を前提とした「勝ち筋」が見えてきます。

導入ステップ

SLM導入を成功させるための5つのステップを紹介します。

STEP1: 要件定義

• 目的: 何を解決したいのか？ (例: 問い合わせ対応の工数を30%削減する)
• KPI: 何をもって成功とするか？ (例: 回答の正答率85%以上、応答時間1秒以内)
• 制約: 予算、利用できるサーバー、セキュリティ要件などを明確にします。

STEP2: モデル候補の短期PoC

• 本記事を参考に、ライセンスや性能から候補を3つに絞ります (例: Mistral 7B, Gemma 2B JPN-IT, Phi-3)。
• STEP1で定義したKPIに基づき、自社データでA/Bテストを実施し、最適なモデルを選定します。

STEP3: RAG/微調整の準備

• まずはRAGの導入を検討します。社内マニュアルやドキュメントを整理し、モデルが参照できる状態にしましょう。
• 特定の応答スタイルが必要な場合に限り、LoRAによる微調整を検討します。

STEP4: セキュリティ/ライセンスの最終確認

• 選定したモデルのライセンスを法務部門などと再確認し、商用利用、データの取り扱い、配布条件などに問題がないか最終チェックを行います。

STEP5: 本番運用と継続的改善

• スモールスタートで本番運用を開始し、品質、遅延、コストを監視します。
• ユーザーからのフィードバックを収集し、プロンプトを改善したり、定期的に新しいモデルへのアップデートを検討したりするサイクルを回しましょう。

おわりに

言語モデルは、もはや「最大」を選ぶ時代から「最適」を選ぶ時代へと移り変わりました。

今回ご紹介したように、SLMは驚くほど高性能かつ、中小企業でも十分に手の届くコストで導入が可能です。まずは「小型モデル × 量子化 × RAG」の組み合わせで、社内の特定の1業務に適用してみることから始めてみませんか？

その小さな成功体験と、数字に基づいた評価が、あなたの会社の生産性を飛躍させる次の一歩へと繋がるはずです。

※このコンテンツには日本HPの公式見解を示さないものが一部含まれます。また、日本HPのサポート範囲に含まれない内容や、日本HPが推奨する使い方ではないケースが含まれている可能性があります。また、コンテンツ中の固有名詞は、一般に各社の商標または登録商標ですが、必ずしも「™」や「®」といった商標表示が付記されていません。