小規模言語モデル(SLM/Small Language Model)とは・意味、オンデバイスAIとの違い・主なモデル

小規模言語モデルとは?
小規模言語モデル(SLM/Small Language Model)とは、大規模言語モデル(LLM)よりパラメーターの数を抑え、限られた計算資源で動くように設計された言語モデルのこと。パラメーターは、モデルが学習で調整する数値で、数が多いほどモデルは大きくなる。
英語では「small language model」と表記し、SLMと略す。Microsoft は日本語の用語解説で「小規模言語モデル (SLM)」と表記している。同社はSLMを、大きなモデルより少ない資源で決まった作業を実行するよう訓練した言語モデルと説明する。
NVIDIA Research などの Peter Belcak 氏らは2025年6月の論文で、議論の前提として小規模言語モデルの定義を示した。その定義では、小規模言語モデルは一般の消費者向けの電子機器に収まり、1人の利用者が出すエージェント向けの依頼を実用的な速さで処理できる言語モデルだ。
Belcak 氏らは、2025年の時点ではパラメーターが100億未満のモデルの多くを小規模言語モデルとみなせるとしている。
小規模言語モデルとみなすパラメーターの数の線引きは資料によって違い、同じ Microsoft の資料の中でも数が異なる。Microsoft の用語解説は、SLMのパラメーターを数億個としている。一方で同社は2025年4月に、140億パラメーターの Phi-4-reasoning などの推論モデルを、小規模言語モデルの新しい区分と紹介した。
小規模言語モデルとオンデバイスAI・ローカルAIの違い
小規模言語モデルはモデルの大きさを表す語で、オンデバイスAIとローカルAIはAIを動かす場所を表す語だ。オンデバイスAIは一般に、スマートフォンやパソコンなどの端末の中で処理を済ませるAIを指す。
Google は Android の開発者向けの説明で、端末で動く基盤モデル Gemini Nano を使えば、ネットワークにつながずに生成AIの機能を提供できるとしている。同社によると、データをクラウドに送る必要もない。
ローカルAIは一般に、クラウドのサービスではなく、手元のパソコンや自社のサーバーでAIのモデルを動かす使い方を指す。Microsoft は、アプリを端末の上だけで動かすための Foundry Local を「local AI」の仕組みと説明する。
Microsoft は Foundry Local を使う場面として、オフラインでの利用や、機密のデータを端末の外に出さないことなどを挙げている。
| 用語 | 区分の軸 | 主な例 |
|---|---|---|
| 小規模言語モデル(SLM) | モデルの大きさ | Phi-4-mini-reasoning、Gemma 4 の E2B・E4B |
| オンデバイスAI | 処理する場所(端末の中) | Gemini Nano、Apple の端末で動く基盤モデル |
| ローカルAI | 処理する場所(手元の機器や自社の環境) | Foundry Local |
端末向けのモデルは動かすパラメーターを数十億に抑える
端末はメモリーや電池に限りがある。Apple は2024年6月の発表で、端末で動く約30億パラメーターの言語モデルを紹介し、2025年6月の発表でも同じ規模の端末向けのモデルを示した。2026年6月に発表した AFM 3 Core Advanced はパラメーターの総数が200億だが、1回に動かすのは10億〜40億だ。
Google の Gemma 4 のうち E2B と E4B は、メモリーと電池を節約するため、推論のときに実効で20億と40億のパラメーターだけを使う。Google は、E2B と E4B がスマートフォンなどの端末でオフラインで動くとしている。
ローカルAIには大きなモデルを動かす使い方も含まれる
Google によると、Gemma 4 のうち 26B と 31B のモデルも、量子化した版なら消費者向けのGPUで動く。量子化は一般に、モデルの数値を少ないビット数で表して軽くする手法を指す。
Microsoft は2026年10月に、1,200億パラメーターを超えるAIモデルを手元で動かせるとするノートパソコン「Surface Laptop Ultra」の予約を始めた。ローカルAIには、小規模言語モデルより大きなモデルを手元で動かす使い方も含まれる。
端末とクラウドのモデルを組み合わせる製品もある
Apple は、端末で動く基盤モデルと、Private Cloud Compute と呼ぶサーバーの環境で動く基盤モデルを組み合わせている。Microsoft も2026年10月の発表で、PCとクラウドの処理能力を組み合わせる「hybrid intelligence」の考え方を示した。
依頼ごとに複数のモデルから処理させるモデルを選ぶ技術は、一般にモデルルーティングと呼ばれる。
小規模言語モデルの主なモデル
| 提供元 | モデル | パラメーターの規模 | 動作環境 | 提供形態 |
|---|---|---|---|---|
| Gemma 4 の E2B・E4B | 推論のときに実効で20億・40億 | スマートフォン、Raspberry Pi などの端末 | Apache 2.0 のライセンスで重みを公開 | |
| Microsoft | Phi-4-mini-reasoning | 38億 | 計算資源や応答の速さに制約のある環境。エッジやモバイルの機器も想定し、Snapdragon を積んだ Copilot+ PC でも使える | Azure AI Foundry と Hugging Face |
| Microsoft | Phi-4-reasoning | 140億 | Azure AI Foundry のほか、Snapdragon を積んだ Copilot+ PC | Azure AI Foundry と Hugging Face で重みを公開 |
| Microsoft | Phi Silica | 記載なし | Copilot+ PC の NPU。対応するGPUを積んだ Windows 11 の端末でも動くが、Windows Insider の試験用のチャネルのビルドや開発者モードなどが必要 | Windows App SDK のAPI。Aion Instruct への置き換えを予定 |
| Apple | AFM 3 Core・AFM 3 Core Advanced | 30億(Core)、200億で1回に動かすのは10億〜40億(Core Advanced) | Apple の端末。Core Advanced は、Apple silicon のうち最も性能の高いシステムで使える | Apple Intelligence の機能に組み込み |
※2026年11月時点
小規模言語モデルの由来と注目されるようになった背景
小さな言語モデルを表す言い方は、今の生成AIより前からあった。2020年9月には、Timo Schick 氏と Hinrich Schütze 氏が、題に「Small Language Models」を含む論文を arXiv で公開している。
Microsoft Research は2023年12月の記事で、自社の Phi のモデル群を「small language models(SLMs)」と呼んだ。Microsoft は2024年4月に Phi-3 を発表し、のちに、この Phi-3 の公開で小規模言語モデルを顧客に紹介したと振り返っている。
Microsoft は Phi-3 の発表で、copilot の提供や顧客の支援の経験から、作業に応じて品質と費用の釣り合いを取れるよう大きさの違うモデルの必要性が高まっていると説明した。同社は小規模言語モデルが特に適した場面として、端末の上やオフラインでの推論のように資源が限られた環境、速い応答が欠かせない場面、費用に制約のある使い道(とくに単純な作業)を挙げた。
Apple は、端末の上での処理を、利用者のプライバシーを守る手段の1つに位置づけている。
AIエージェントの広がりも、小規模言語モデルをめぐる議論のきっかけになった。Belcak 氏らは、エージェントでは言語モデルが決まった少数の作業を繰り返す使い方が大量に生まれていると指摘した。著者らは、エージェントのシステムでの呼び出しの多くには小規模言語モデルで足りるうえ、より適していて経済的だと主張している。
小規模言語モデルに関する主な出来事・ニュース
- 2023年12月12日 Microsoft Research「Phi-2」を公開:Microsoft Research は、27億パラメーターの言語モデル Phi-2 を公開し、Phi のモデル群を small language models(SLMs)と呼んだ。
- 2024年4月23日 Microsoft「Phi-3」を発表:Microsoft は、小規模言語モデルのファミリー Phi-3 を発表し、38億パラメーターの Phi-3-mini の提供を始めた。
- 2024年6月10日 Apple、端末とサーバーの基盤モデルを紹介:Apple は、Apple Intelligence を支える約30億パラメーターの端末向けの言語モデルと、Private Cloud Compute で動くサーバーの言語モデルを紹介した。
- 2025年6月2日 Peter Belcak 氏ら「Small Language Models are the Future of Agentic AI」を公開:Belcak 氏らは、エージェントの多くの呼び出しには小規模言語モデルで足り、より適していて経済的だとする立場の論文を arXiv で公開した。
- 2025年6月9日 Apple、新しい基盤モデルと「Foundation Models framework」を紹介:Apple は、Apple Intelligence の中核にある端末向けの言語モデルをアプリの開発者が直接使える仕組みとして、Foundation Models framework を紹介した。
- 2025年6月26日 Google「Gemma 3n」を正式に公開:Google は、モバイルを優先した設計の Gemma 3n を正式に公開した。E2B と E4B の2つの大きさがあり、最小で2GBと3GBのメモリーで動くとした。
- 2026年4月2日 Google「Gemma 4」を公開:Google は、E2B、E4B、26B MoE、31B の大きさがあるオープンモデル Gemma 4 を公開した。E2B と E4B は、スマートフォンなどの端末でオフラインで動くとした。
- 2026年6月2日 Microsoft、Edge で小規模言語モデル「Aion-1.0-Instruct」の開発者向けプレビューを公開:Microsoft は、開発途中の小規模言語モデル Aion-1.0-Instruct を、Microsoft Edge の Canary と Dev のチャネルで開発者が試せるようにした。
- 2026年6月8日 Apple、第3世代の Apple Foundation Models を発表:Apple は、Google と協力して作った5つの基盤モデルを発表した。このうち端末で動くのは、AFM 3 Core と AFM 3 Core Advanced だ。
小規模言語モデルに関する事例・研究
Windows の Phi Silica は端末のNPUで動く
Microsoft は、Copilot+ PC と呼ぶ Windows のパソコン向けに、Phi をNPU向けに最適化した Phi Silica を用意している。NPUは一般に、AIの計算を少ない電力で処理するための半導体を指す。
同社は2025年4月の記事で、画面に表示された内容に対して文章を扱う機能を呼び出せる Click to Do に、Phi Silica を使っていると説明した。Outlook の Copilot の要約の機能も、Phi Silica によってオフラインで使えるとしている。
Microsoft は開発者向けの文書で、Phi Silica を新しい端末向けのモデル Aion Instruct に置き換えるとしている。2026年10月の時点の予定では、Microsoft は2026年11月に Windows Insider のプレビュー版の端末で Aion Instruct の配布を始め、2027年1月に市販の端末へ広げて Phi Silica を外す。
Apple の第3世代の基盤モデルは2つが端末で動く
Apple が2026年6月に発表した第3世代の基盤モデルは5つで、うち2つが端末で動く。AFM 3 Core は、30億パラメーターの密なモデルの次の世代だ。密なモデルは一般に、計算のたびにすべてのパラメーターを使う作りを指す。
AFM 3 Core Advanced は200億パラメーターの疎なモデルで、依頼に応じて10億〜40億のパラメーターだけを動かす。疎なモデルは一般に、モデルの一部だけを選んで計算に使う作りを指す。Apple は、モデルの全体をフラッシュメモリーに置き、いつも使う共有の部分に、依頼に応じて選んだ部分を組み合わせて作業用のメモリーで動かすと説明している。
残りの3つのモデルは、Private Cloud Compute で動く。Apple は、この環境でも利用者のデータは保存も共有もされないとしている。同社の社内の評価者が開発途中の AFM 3 Core と2025年のモデルの回答を並べて比べた評価では、一般的な文章の課題で AFM 3 Core の回答が好まれた割合は45.6%で、2025年のモデルの回答が好まれた割合の23.3%を上回った。
Belcak 氏らはSLMで足りる呼び出しの割合を試算
Belcak 氏らは論文の付録で、公開されている3つのエージェントを調べた。ソフトウェア会社の役割分担をまねる MetaGPT、作業の流れを自動にする Open Operator、画面の画像を見てアプリを操作する Cradle だ。
言語モデルへの呼び出しのうち、作業に合わせて特化させた小規模言語モデルで確実に処理できる割合を、著者らは見積もった。MetaGPT は約60%、Open Operator は約40%、Cradle は約70%だった。
小規模言語モデルが広く使われるうえでの主な妨げとして著者らが挙げたのは、集中型の大規模言語モデルの基盤への大きな投資、汎用のベンチマークに沿った開発と評価、知名度の低さなどだ。著者らは、これらの妨げをエージェント型AIで使う小規模言語モデルの技術の根本的な欠陥ではなく実務上の課題だとする一方、妨げがなくなる時期の見通しは示していない。
小規模言語モデルの英語での言い方
| 英語表記 | 意味 | 使用主体 |
|---|---|---|
| small language model(SLM) | 大規模言語モデルより小さく、少ない計算資源で動く言語モデル | Microsoft、Belcak 氏らなど |
| on-device model | 端末で動く基盤モデル | Apple |
| on-device AI | ネットワークやクラウドを使わず、端末の中で処理するAI | |
| local AI | 手元の機器でAIのモデルを動かす仕組みや使い方 | Microsoft |
| local language model | 端末で動く言語モデル | Microsoft |
小規模言語モデルの限界と規模の表記の注意点
複雑な課題では精度が下がることがある
Microsoft は用語解説で、小規模言語モデルは細かな文脈やことばの込み入った関係を理解しにくいことがあり、複雑な課題では精度が下がりうるとしている。同社は、科学研究や医療の診断のように高い精度が必要な使い道には、最適ではない場合があるとも記している。
Apple も2025年6月の発表で、Foundation Models framework から使える端末向けのモデルについて、要約や固有表現(人名・地名など)の抽出といった文章の作業を得意とすると説明した。そのうえで、一般的な知識を答えるチャットボットとしては設計していないとしている。
名前の数字が実効の数を表すモデルや「軽量」と呼ぶLLMがある
Google の Gemma 3n の E2B と E4B は、名前の数字が実効のパラメーターの数を表す。パラメーターの総数は、それぞれ50億と80億だ。Google は、工夫によって20億・40億のモデル並みのメモリーで動くとしている。
Apple の AFM 3 Core Advanced も、パラメーターの総数と1回に動かす数が違う。
NTT は、規模を抑えた自社のモデルを「軽量」なLLMと呼んでいる。同社は2025年10月に、1つのGPUで推論できる軽量なLLMとして tsuzumi 2 の提供を始めた。費用を抑えて自社の設備やプライベートクラウドで使える点を、同社は特徴に挙げている。
小規模言語モデルに関連する用語
- オープンウェイト:学習を終えたAIモデルの重み(weights)が公開され、手に入る状態のこと。
- モデルルーティング:AIへの依頼ごとに、複数のAIモデルの中から処理させるモデルを選んで振り分ける技術のこと。
小規模言語モデルに関する出典
Microsoft「小規模言語モデル (SLM) とは?」
Peter Belcak ほか「Small Language Models are the Future of Agentic AI」(2025年6月2日、2026年9月22日改訂、arXiv)
Microsoft「One year of Phi: Small language models making big leaps in AI」(2025年4月30日、5月15日更新)
Google「Gemini Nano」(2026年10月29日更新)
Microsoft「What is Foundry Local?」(2026年10月22日更新)
Google「Gemma 4: Byte for byte, the most capable open models」(2026年4月2日)
Apple「Introducing the Third Generation of Apple’s Foundation Models」(2026年6月8日)
Apple「Updates to Apple’s On-Device and Server Foundation Language Models」(2025年6月9日、7月17日更新)
Microsoft「Pre-order our most powerful Surface devices ever」(2026年10月7日)
Microsoft「Get started with Phi Silica in the Windows App SDK」(2026年10月19日更新)
Timo Schick、Hinrich Schütze「It’s Not Just Size That Matters: Small Language Models Are Also Few-Shot Learners」(2020年9月15日、2021年4月12日改訂、arXiv)
Microsoft Research「Phi-2: The surprising power of small language models」(2023年12月12日)
Microsoft「Introducing Phi-3: Redefining what’s possible with SLMs」(2024年4月23日)
Google「Introducing Gemma 3n: The developer guide」(2025年6月26日)
Apple「Introducing Apple’s On-Device and Server Foundation Models」(2024年6月10日、7月29日更新)
NTT「更なる進化を遂げたNTT版LLM tsuzumi 2の提供開始~日本の企業DXを支える高性能・高セキュア・低コストな純国産LLM~」(2025年10月20日)
Microsoft「Expanding on-device AI in Microsoft Edge: New models and APIs for the web」(2026年6月2日)




