モデルルーティング(Model Routing)とは・意味、仕組み・主なサービス・事例

モデルルーティングとは?
モデルルーティング(Model Routing)とは、AIへの依頼ごとに、複数のAIモデルの中から処理させるモデルを選んで振り分ける技術のこと。英語では「Model Routing」と表記する。振り分けを受け持つ仕組みは「モデルルーター(Model Router)」と呼ばれる。
Microsoft は日本語の文書で「モデル ルーター」と表記し、Google Cloud は日本語の文書で「モデル ルーティング」と表記している。
Microsoft Foundry のモデルルーターは、小さく安いモデルで足りる作業にはそのモデルを使い、より複雑な作業には大きく高いモデルを使えるようにする。複雑な推論が必要な作業には推論モデルも使えるようにし、それ以外には推論をしないモデルを使う。利用者は、モデルルーターという1つのデプロイに依頼を送ればよい。
振り分け先の決め方は、サービスによって違う。公開プレビューの間、Google Cloud の API Gateway のモデル ルーティングは、依頼に書かれたモデルの名前やタグだけで振り分け先を決める。Microsoft のモデルルーターや Amazon Bedrock の仕組みは、プロンプトの中身を分析して振り分け先を選ぶ。
モデルルーティングの仕組み
依頼ごとに各モデルの回答の質を予測して選ぶ
Amazon Bedrock の Intelligent Prompt Routing は、依頼ごとに各モデルの回答の質を予測する。そのうえで、質と費用の組み合わせが最もよいモデルを選んで依頼を送る。
Microsoft のモデルルーターも、学習した言語モデルとしてプロンプトをその場で分析する。分析では、複雑さや推論の必要、作業の種類などの特徴を見る。
Microsoft のモデルルーターの既定のバランスのモードでは、そのプロンプトで最も質の高いモデルと比べて、質の差が小さいモデルを候補にする。差の目安は、たとえば1〜2%だ。候補の中からは、最も費用対効果の高いモデルを選ぶ。
コストのモードでは、候補にする差の範囲がたとえば5〜6%に広がる。品質のモードは、費用を考えずに、質の評価が最も高いモデルを選ぶ。
振り分ける先と切り替えの基準は設定で決められる
Amazon Bedrock でルーターを自分で設定するときは、振り分ける候補のモデルと切り替えの基準、フォールバックモデルを指定する。フォールバックモデルは、比べるときの土台になるモデルだ。切り替えの基準は、回答の質の差で決める。
AWS の例では、Amazon Nova Lite をフォールバックモデルにし、差を10%とする。このとき、Amazon Nova Pro の予測の質が Nova Lite を10%を超えて上回る場合だけ Nova Pro に切り替わる。
Microsoft のモデルルーターでは、振り分けの候補にするモデルを絞り込むことができる。絞り込んだ場合は、新しいモデルが使えるようになっても、候補の一覧に加えない限り選ばれない。
1つの依頼に複数のモデルを組み合わせる形もある
GitHub の説明では、Copilot Fusion はその場でモデルを振り分けて組み合わせる仕組みだ。Copilot Fusion は作業ごとに、使うモデルと実行の型を選ぶ。
- Single:1つのモデルが作業を仕上げる。
- Cascade:効率のよいモデルが下書きを作る。判定役が下書きを受け入れるか、より強いモデルに切り替えるかを決める。
- Critique:1つのモデルが回答の下書きを作り、ほかの複数のモデルがそれぞれ並行して批評する。元のモデルは、まとめた意見をもとに回答を直す。
Copilot Fusion は、作業に必要なときだけモデルの呼び出しを足す。単純な作業では、不要な見直しのために待たせたり、AIクレジットを使ったりしない。
モデルルーティングの主なサービスと提供状況
| サービス | 提供元 | 振り分け先 | 提供の範囲・条件 | 料金 |
|---|---|---|---|---|
| Copilot Fusion | GitHub | プランと管理者の方針で使えるモデルの中から選ぶ | すべての Copilot のプランで使える。Fusion High と Fusion Max は Copilot Pro+、Copilot Max、Copilot Business、Copilot Enterprise が対象。VS Code、Copilot CLI、GitHub Copilot アプリ、JetBrains の開発環境で一般提供 | 使った各モデルの標準の料金がかかり、Copilot Fusion 自体の料金はない。2026年11月30日まで、有料プランはモデルの費用が30%引き |
| モデルルーター | Microsoft(Microsoft Foundry) | OpenAI、Anthropic、xAI、DeepSeek、Meta などのモデル。Claude のモデルは別にデプロイが必要 | 東日本・西日本を含む対象のリージョンで使える | 入力のプロンプトに、価格ページに掲載された料金がかかる。Microsoft は、モデルルーターの費用を振り分け先のモデルにかかった費用の合計としている |
| Intelligent Prompt Routing | Amazon Web Services(Amazon Bedrock) | 同じモデルファミリーの中のモデル。既定のルーターは Amazon Nova と Meta Llama の一部のモデルを使う | 使える既定のルーターはリージョンで違う。英語のプロンプトにだけ最適化されている | 1,000件の依頼ごとに1ドル |
※2026年11月時点
モデルルーティングが広まった背景
Microsoft は2025年5月の発表で、Azure AI Foundry Models で扱うモデルが1万以上になったとした。同社は、推論を中心にしたモデルや小さく効率のよいモデルの台頭などを、生成AIの動向に挙げた。そのうえで、企業には作業ごとに最適なモデルを選び、組み合わせる道具が必要だと説明した。
OpenAI は2025年8月の GPT-5 の発表で、ChatGPT の利用者がモデルを選ばなくても、質問の性質に応じて即時の回答と深い推論を自動で切り替える仕組みを示した。
GitHub も Copilot Fusion の発表で、作業ごとにモデルを選ぶ代わりに、振り分けを Copilot に任せられると説明した。任せれば利用者は、作業の途中でモデルを切り替えたり、手順ごとに合うモデルを考えたりする必要がなくなる。
GitHub は、開発者がすでに手作業でモデルを組み合わせていると説明している。たとえば開発者は、作業に合うモデルを選んだり別のモデルに見直させたりし、難しい問題をより高い性能のモデルに任せることもある。研究プレビューの HydraFusion は、この手順を実行の場に取り込むものだ。
モデルルーティングに関する主な出来事・ニュース
- 2024年12月4日 AWS「Amazon Bedrock Intelligent Prompt Routing」のプレビューを開始:AWS は、同じモデルファミリーの中で依頼ごとに各モデルの性能を予測し、振り分ける機能をプレビューとして公開した。
- 2025年4月22日 AWS「Amazon Bedrock Intelligent Prompt Routing」の一般提供を開始:AWS は一般提供にあわせて、同じモデルファミリーの中のどの2つのモデルでも選べるようにし、振り分けの基準も自分で決められるようにした。
- 2025年5月19日 Microsoft「Model Router」を紹介:Microsoft は Build 2025 で、依頼を最適なモデルに自動で振り分ける Model Router を、Azure AI Foundry Models の新しい道具として紹介した。
- 2025年8月7日 OpenAI「GPT-5 が登場」:OpenAI は、2つのモデルとリアルタイムルーター機能からなる GPT-5 を発表し、ChatGPT で標準のモデルにした。
- 2025年9月15日 GitHub「Auto model selection」のパブリックプレビューを開始:GitHub は、VS Code の Copilot で、モデルを代わりに選ぶ Auto の選択肢を加えた。
- 2025年12月11日 OpenAI、無料版と Go の自動の切り替えを終了:OpenAI は、ChatGPT の無料版と Go の利用者について、推論のための自動のモデルの切り替えをやめた。
- 2026年9月4日 GitHub「Project HydraFusion」を発表:GitHub は、複数の会社のモデルを組み合わせて作業を進める研究プレビューを、Copilot CLI で公開した。
- 2026年9月14日 OpenAI、Plus と Pro の自動の切り替えを終了:OpenAI は、ChatGPT の Plus と Pro の利用者について、Instant から Thinking への自動の切り替えをやめた。
- 2026年10月28日 GitHub「Copilot Fusion」の一般提供を開始:GitHub は、HydraFusion と Auto のモデル選択を合わせた Copilot Fusion を一般提供にした。
モデルルーティングに関する事例
ChatGPT は無料版・Go・Plus・Pro で推論への自動切り替えを終了
OpenAI は2025年8月、GPT-5 を、速く答えるモデルと深く推論するモデル、リアルタイムのルーターからなるシステムとして発表した。ルーターは、会話の種類と複雑さ、必要なツール、「深く考えて」のような利用者の意図から、どちらのモデルを使うかを決める。
OpenAI は2025年10月の更新で、強い苦痛の兆しがある会話など繊細な部分を、ルーターで推論モデルに振り分けていると説明した。同社はこの更新で、GPT-5 Auto か推論をしないモデルが選ばれているときは、こうした会話を代わりに GPT-5 Instant に送るとした。
OpenAI は2025年12月11日、ChatGPT の無料版と Go の利用者について、推論のための自動の切り替えをやめた。理由は選択肢を最大にするためとしている。2026年9月14日には、Plus と Pro の利用者についても、Instant から Thinking への自動の切り替えを終えた。ただし ChatGPT は安全のために、引き続き自動で切り替えることがある。
GitHub の Auto は作業の難しさも見て選ぶようになった
GitHub の Copilot の Auto は、2025年12月に VS Code で一般提供になった時点では、その時々のモデルの空き具合をもとに振り分けていた。2026年5月の更新で、Auto は推論やコード生成の難しさ、不具合の診断の難しさなどの観点で作業を評価し、モデルを選ぶようになった。
GitHub の評価で HydraFusion は Opus 5 より推定費用が低かった
GitHub は2026年9月、複数のモデルを組み合わせる研究プレビュー Project HydraFusion を発表した。
GitHub は、エージェントによるコーディングのベンチマークで HydraFusion を評価した。比べる相手には Claude Opus 5 と GPT-5.6 Sol を置き、最もよく調整した HydraFusion の設定の結果を示した。下の表は Opus 5 との比較だ。
| ベンチマーク | 推定費用(Opus 5 との比較) | 確かめた作業の質(Opus 5 との差) |
|---|---|---|
| TerminalBench 2.1 | 67%低い | 4.9ポイント高い |
| DeepSWE | 36%低い | 1.5ポイント低い |
| CheckpointBench(GitHub 社内) | 65%低い | 0.1ポイント低い |
GitHub によると、この結果は条件をそろえたオフラインの評価で、評価したベンチマークの版や設定、モデルの組み合わせ、価格の前提に限ったものだ。すべてのモデルは、同じ中程度の推論の水準で評価した。
モデルルーティングを使うときの制約と注意
扱える文脈の長さは小さいモデルに縛られる
Microsoft のモデルルーターで実際に使える文脈の長さ(コンテキストウィンドウ)は、候補の中で最も小さいモデルの上限になる。Microsoft は、長い文脈を扱うときには、対応するモデルに候補を絞る使い方を案内している。Copilot Fusion でも、表示される文脈の長さは、使うモデルの中で最も小さい上限をもとにした控えめな値だ。
振り分けの判断が合わない依頼もある
Amazon Bedrock の仕組みは英語のプロンプトにだけ最適化されている。アプリごとの性能のデータをもとに、振り分けの判断を調整することもできない。独自の用途や特殊な用途では、最適な振り分けにならないことがある。振り分けの出来は、最初の学習に使ったデータで変わる。
Microsoft のモデルルーターは画像の入力を受け付けるが、振り分けの判断は文字の入力だけで決める。音声の入力は処理しない。
モデルルーティングの効果の評価と費用の注意点
Microsoft は、モデルルーターを今の使い方と比べて評価し、大事な結果がよくなるかを確かめるよう勧めている。AWS も文書で、新しいモデルを生かすには性能を定期的に見直すべきだとしている。
Copilot Fusion の Fusion High と Fusion Max は1つの作業に複数のモデルを使うことがあり、Fusion Standard よりAIクレジットを多く使う場合がある。
Microsoft のモデルルーターでは振り分け先が依頼ごとに変わりうるため、プロンプトのキャッシュの利点が出るのは、先頭の部分が重なる依頼を、同じモデルが続けて処理したときだけだ。
Copilot Fusion では捨てた下書きの変更が自動で戻らない
Copilot Fusion が下書きを捨てても、その下書きがすでに行ったファイルの編集などの変更は、自動では元に戻らない。GitHub は、コミットの前に変更を見直すよう案内している。
モデルルーティングに関する出典
Microsoft「Model router for Microsoft Foundry concepts」(2026年10月30日更新)
Microsoft「Microsoft Foundry 概念用モデルルーター」(2026年10月30日更新)
Google Cloud「モデル ルーティングの概要」(2026年10月27日更新)
Amazon Web Services「Understanding intelligent prompt routing in Amazon Bedrock」
GitHub「About GitHub Copilot Fusion」
GitHub「Route and orchestrate models with GitHub Copilot Fusion」(2026年10月28日)
GitHub「Project HydraFusion: Frontier quality via multi-model orchestration」(2026年9月4日)
OpenAI「GPT-5 が登場」(2025年8月7日)
OpenAI「ChatGPT release notes」(2025年10月3日、12月11日、2026年9月14日の項目)
Microsoft「Azure AI Foundry Models: Futureproof Your GenAI Applications」(2025年5月19日)
Amazon Web Services「Amazon Bedrock Intelligent Prompt Routing is now available in preview」(2024年12月4日)
Amazon Web Services「Amazon Bedrock Intelligent Prompt Routing の一般提供開始」(2025年4月22日)
GitHub「Auto model selection for Copilot in VS Code in public preview」(2025年9月15日)
GitHub「Auto model selection now routes based on your task in VS Code」(2026年5月20日)
GitHub「Auto model selection is generally available in GitHub Copilot in Visual Studio Code」(2025年12月10日)
Amazon Web Services「Amazon Bedrock Pricing」
Microsoft「How to use model router for Microsoft Foundry」(2026年9月10日更新)




