Foundry Local とは？ローカルSLMを無料で動かせる！メリット・デメリットを実機検証で解説

ライター：株式会社WEEL

ChatGPT をはじめとするクラウドAIは業務利用が広がっていますが、機密情報を外部サーバーに送ることへの懸念や従量課金コストの問題がついて回ります。

こうした課題の回避策として注目されているのが、PC上でAIを動かす「ローカルSLM（Small Language Model）」です。Microsoft が2026年4月9日に一般提供を開始した Foundry Local を使うと、CLIで数コマンド打つだけでモデルをダウンロードして実行でき、OpenAI 互換のAPIとして呼び出せます。Azure のサブスクリプションも不要です。^※1

この記事では、Foundry Local の概要と実際に複数のSLMを動かした比較結果をまとめます。

※本記事は2026年8月時点の情報に基づいて執筆されています。

記事のポイント要約

結論：Foundry Local で手軽にローカルSLMが動かせるようになり、クラウドAIのコスト・プライバシー課題を回避した業務AI活用が現実的な選択肢になった

重要度：中

ひと言評価：セットアップが簡単で OpenAI 互換APIも使えるが、クラウドLLMとの品質差はビジネス導入時の判断ポイント

Foundry Local とは

Foundry Local は、Microsoft が提供するオンデバイスAI向けのランタイムおよびSDKです。2025年5月の Microsoft Build でプレビュー版が公開され、2026年4月9日に一般提供（GA）となりました。^※1

※1：Microsoft, "Foundry Local is now Generally Available"（2026年4月9日）

https://devblogs.microsoft.com/foundry/foundry-local-ga/

Foundry Local は、端末のハードウェアを自動検出して最適な実行環境を選ぶ仕組みが特徴で、NPU・GPU・CPUの優先順位でに従って推論プロバイダーを自動選択する設計になっています。Copilot+ PC が搭載する Qualcomm Snapdragon X シリーズのNPUにも対応しており、対応ハードウェアの一覧は公式ドキュメントで確認できます。^※2

※2：Microsoft, "Get started with Foundry Local"（Microsoft Learn）

https://learn.microsoft.com/azure/foundry-local/get-started

Foundry Local でSLMを動かしてみる

今回は、Copilot+ PC（HP EliteBook X G2a AI PC）で検証しました。CPUは AMD Ryzen AI 7 PRO 450（NPU搭載）、メモリは32GB、OSは Windows 11 で、Foundry Local のバージョンは0.10.2です。

ターミナルにて以下のコマンドで導入した後、バージョン確認をします。

winget install Microsoft.FoundryLocal

続いて「foundry run phi-4-mini」を実行すると、モデルのダウンロードとロードが自動で始まり、約5分でチャットが利用できる状態になりました。プロンプトを入力すると、わずかな間のあとに応答が流れるように表示されます。

今回の検証で自動選択されたのはCPU向けに最適化されたモデルでした。AMD 製NPU実行プロバイダー自体は導入済みのため、NPU最適化モデルの拡充が進めば同じ手順のままNPU実行に切り替わる設計です。応答速度は Phi-4-mini で1秒あたり15〜20文字前後と、日常的な文書処理には十分な体感でした。

3種類のSLMを同じ条件で比較

カタログから系統の異なる3モデル（Qwen 2.5 7B・Phi-4-mini・DeepSeek R1 7B）を選び、要約・文章作成・情報抽出・推論の4課題を同一条件で実行しました。

総合すると、日本語の総合力は Qwen、速さは Phi が優れ、DeepSeek は多言語の混在が目立つ結果でした。

Qwen 2.5 7B は、4課題すべてで自然な日本語を安定して出力し、総合力は頭ひとつ抜けていました。Phi-4-mini は、平均約12秒と最速で定型処理に強い一方、日本語の言い回しには粗さが残りました。最後に、DeepSeek R1 7B は、思考過程の混入や英語・中国語の混在が目立ち、日本語業務には不向きでした。

用途に応じてモデルを切り替えられるのが Foundry Local の利点で、カタログからダウンロードするだけで切り替えできます。

Foundry Local でSLMを動かすメリット

Foundry Local を使ってローカルでSLMを動かすことには、クラウドAIにはない固有のメリットがあります。

入力データを端末内でオフライン処理できる

Foundry Local を使ったローカル推論では、プロンプトも出力もネットワークに出ません。機密文書や顧客情報など、外部送信を避けたい情報をそのままAI処理できます。工場内や病院内などネットワークが制限されている環境や、出張先でのオフライン作業でも利用できます。

APIの従量課金が発生しない

Foundry Local では Azure サブスクリプションもAPIキーも不要で、トークン単位の従量課金が生じません。開発中の試行錯誤でAPIコールを繰り返しても追加費用がかからず、プロトタイプ開発や社内ツールの検証コストを抑えられます。

応答遅延を抑えられる

クラウドAPIはネットワーク往復と混雑の影響を受けますが、ローカル推論では通信遅延が発生しません。特に短文の応答や定型処理での体感速度が向上します。ただし処理速度は端末のスペックに依存するため、モデルと端末の組み合わせを事前に確認することが重要です。

Foundry Local でSLMを動かすデメリット

一方でローカルSLMには実務で注意すべき制約があります。クラウドAIと比べた際の注意点は以下です。

端末性能によって速度が大きく変わる

同じモデルでも、CPUのみの環境とNPU・GPU搭載端末では処理速度が数倍以上異なります。GPT OSS 20Bなどの大型モデルには16GB以上のVRAMを搭載した NVIDIA GPUが推奨されており、標準的なビジネスPCでは動作が厳しいケースもあります。チームで導入する際は、端末スペックの統一やモデルサイズの事前検証が欠かせません。

モデルの選定と評価が必要になる

Foundry Local のカタログには Qwen・Phi・Mistral・DeepSeek・GPT OSS など複数のモデルが並び、用途に合ったモデルを選ぶには日本語対応の質・指示への忠実さ・速度を比較評価する手間が発生します。モデル管理に一定の工数が生じる点は、導入コストとして事前に見込んでおくべきでしょう。

大規模な同時利用には向かない

Foundry Local の主な想定は、単一ユーザーが自分のPCで動かす使い方です。複数のユーザーから同時にリクエストが来る社内チャットボットのような用途には向いておらず、Microsoft もそのような場合は vLLM などのサーバー向け基盤を推奨しています。

※1 部署全体での同時活用には、アーキテクチャの検討が別途必要です。

企業ではどのような業務に向いているか

ローカルSLMを業務で活用するには、「何を任せるか」の線引きが重要です。SLMが得意とする単純・定型・低リスクな処理に絞ると、クラウドAIとの役割分担がうまく機能します。

向いている用途

• 文書の分類やタグ付け
• 定型文の作成
• 会議メモの要約
• 文書からの項目抽出
• オフライン環境でのFAQ対応

単純な処理はローカルSLM、難しい処理はクラウドLLMへ振り分けるハイブリッド構成を組むことで、コストとセキュリティを両立しながらAI活用の範囲を広げられます。

ローカルSLMを快適に動かすにはNPU搭載端末が鍵になる

Foundry Local の性能は、端末のハードウェアに大きく左右されます。CPUのみでも動作しますが、NPU搭載端末では推論速度が数倍以上向上する場合があり、軽量モデルでも快適に利用可能です。Microsoft はNPU性能40TOPS以上の端末を「Copilot+ PC」と位置付けており、Foundry Local もこうした環境での利用を想定して最適化されています。ローカルSLMを本格的に活用したい場合は、Copilot+ PC を選択肢の一つとして検討してみてください。

Foundry LocalでローカルSLMを試してみよう

Foundry Local は数コマンドで導入でき、Azure サブスクリプションもAPIキーも不要のローカルSLM実行環境です。データが端末外に出ないセキュリティ面と、従量課金なしのコスト面が強みとなります。

将来的にはローカルSLMとクラウドLLMを処理の複雑さで使い分けるハイブリッド構成が、コストとセキュリティを両立するゴールになるでしょう。

※ Copilot+ PC の利用体験は、デバイスや市場によって異なり、今後も順次提供されるアップデートが必要になる場合があります。
アップデートの提供時期は異なります。詳細は[aka.ms/copilotpluspcspro]をご覧ください。

※このコンテンツには日本HPの公式見解を示さないものが一部含まれます。また、日本HPのサポート範囲に含まれない内容や、日本HPが推奨する使い方ではないケースが含まれている可能性があります。また、コンテンツ中の固有名詞は、一般に各社の商標または登録商標ですが、必ずしも「™」や「®」といった商標表示が付記されていません。