本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

モデルルーティング(Model Routing)とは・意味、仕組み・主なサービス・事例

モデルルーティングとは?

モデルルーティング(Model Routing)とは、AIへの依頼ごとに、複数のAIモデルの中から処理させるモデルを選んで振り分ける技術のこと。英語では「Model Routing」と表記する。振り分けを受け持つ仕組みは「モデルルーター(Model Router)」と呼ばれる。

Microsoft は日本語の文書で「モデル ルーター」と表記し、Google Cloud は日本語の文書で「モデル ルーティング」と表記している。

Microsoft Foundry のモデルルーターは、小さく安いモデルで足りる作業にはそのモデルを使い、より複雑な作業には大きく高いモデルを使えるようにする。複雑な推論が必要な作業には推論モデルも使えるようにし、それ以外には推論をしないモデルを使う。利用者は、モデルルーターという1つのデプロイに依頼を送ればよい。

振り分け先の決め方は、サービスによって違う。公開プレビューの間、Google Cloud の API Gateway のモデル ルーティングは、依頼に書かれたモデルの名前やタグだけで振り分け先を決める。Microsoft のモデルルーターや Amazon Bedrock の仕組みは、プロンプトの中身を分析して振り分け先を選ぶ。

モデルルーティングの仕組み

依頼ごとに各モデルの回答の質を予測して選ぶ

Amazon Bedrock の Intelligent Prompt Routing は、依頼ごとに各モデルの回答の質を予測する。そのうえで、質と費用の組み合わせが最もよいモデルを選んで依頼を送る。

Amazon Bedrock のプロンプトルーティングの流れAWS の文書の説明をもとに整理
1
モデルとルーターを決める使うモデルのファミリーを選ぶ。設定したルーターでは、切り替えの基準も決める既定のルーターは、リージョンに応じて Amazon Nova か Meta Llama のファミリーから選ぶ
2
依頼を分析する届いた依頼ごとに、プロンプトの内容と文脈をつかむ
3
回答の質を予測する選んだファミリーの各モデルについて、そのプロンプトへの回答の質を予測する設定したルーターで基準を満たさないときは、基準にするモデル(フォールバックモデル)に送る
4
モデルを選んで送る予測をもとに、質と費用の組み合わせが最もよいモデルを選び、依頼を送る
5
回答を返す選んだモデルの回答を利用者に返す回答には、処理したモデルの情報が付く
出典:Amazon Web Services「Understanding intelligent prompt routing in Amazon Bedrock」

Microsoft のモデルルーターも、学習した言語モデルとしてプロンプトをその場で分析する。分析では、複雑さや推論の必要、作業の種類などの特徴を見る。

Microsoft のモデルルーターの既定のバランスのモードでは、そのプロンプトで最も質の高いモデルと比べて、質の差が小さいモデルを候補にする。差の目安は、たとえば1〜2%だ。候補の中からは、最も費用対効果の高いモデルを選ぶ。

コストのモードでは、候補にする差の範囲がたとえば5〜6%に広がる。品質のモードは、費用を考えずに、質の評価が最も高いモデルを選ぶ。

振り分ける先と切り替えの基準は設定で決められる

Amazon Bedrock でルーターを自分で設定するときは、振り分ける候補のモデルと切り替えの基準、フォールバックモデルを指定する。フォールバックモデルは、比べるときの土台になるモデルだ。切り替えの基準は、回答の質の差で決める。

AWS の例では、Amazon Nova Lite をフォールバックモデルにし、差を10%とする。このとき、Amazon Nova Pro の予測の質が Nova Lite を10%を超えて上回る場合だけ Nova Pro に切り替わる。

Microsoft のモデルルーターでは、振り分けの候補にするモデルを絞り込むことができる。絞り込んだ場合は、新しいモデルが使えるようになっても、候補の一覧に加えない限り選ばれない。

1つの依頼に複数のモデルを組み合わせる形もある

GitHub の説明では、Copilot Fusion はその場でモデルを振り分けて組み合わせる仕組みだ。Copilot Fusion は作業ごとに、使うモデルと実行の型を選ぶ。

  • Single:1つのモデルが作業を仕上げる。
  • Cascade:効率のよいモデルが下書きを作る。判定役が下書きを受け入れるか、より強いモデルに切り替えるかを決める。
  • Critique:1つのモデルが回答の下書きを作り、ほかの複数のモデルがそれぞれ並行して批評する。元のモデルは、まとめた意見をもとに回答を直す。

Copilot Fusion は、作業に必要なときだけモデルの呼び出しを足す。単純な作業では、不要な見直しのために待たせたり、AIクレジットを使ったりしない。

モデルルーティングの主なサービスと提供状況

サービス 提供元 振り分け先 提供の範囲・条件 料金
Copilot Fusion GitHub プランと管理者の方針で使えるモデルの中から選ぶ すべての Copilot のプランで使える。Fusion High と Fusion Max は Copilot Pro+、Copilot Max、Copilot Business、Copilot Enterprise が対象。VS Code、Copilot CLI、GitHub Copilot アプリ、JetBrains の開発環境で一般提供 使った各モデルの標準の料金がかかり、Copilot Fusion 自体の料金はない。2026年11月30日まで、有料プランはモデルの費用が30%引き
モデルルーター Microsoft(Microsoft Foundry) OpenAI、Anthropic、xAI、DeepSeek、Meta などのモデル。Claude のモデルは別にデプロイが必要 東日本・西日本を含む対象のリージョンで使える 入力のプロンプトに、価格ページに掲載された料金がかかる。Microsoft は、モデルルーターの費用を振り分け先のモデルにかかった費用の合計としている
Intelligent Prompt Routing Amazon Web Services(Amazon Bedrock) 同じモデルファミリーの中のモデル。既定のルーターは Amazon Nova と Meta Llama の一部のモデルを使う 使える既定のルーターはリージョンで違う。英語のプロンプトにだけ最適化されている 1,000件の依頼ごとに1ドル

※2026年11月時点

モデルルーティングが広まった背景

Microsoft は2025年5月の発表で、Azure AI Foundry Models で扱うモデルが1万以上になったとした。同社は、推論を中心にしたモデルや小さく効率のよいモデルの台頭などを、生成AIの動向に挙げた。そのうえで、企業には作業ごとに最適なモデルを選び、組み合わせる道具が必要だと説明した。

OpenAI は2025年8月の GPT-5 の発表で、ChatGPT の利用者がモデルを選ばなくても、質問の性質に応じて即時の回答と深い推論を自動で切り替える仕組みを示した。

GitHub も Copilot Fusion の発表で、作業ごとにモデルを選ぶ代わりに、振り分けを Copilot に任せられると説明した。任せれば利用者は、作業の途中でモデルを切り替えたり、手順ごとに合うモデルを考えたりする必要がなくなる。

GitHub は、開発者がすでに手作業でモデルを組み合わせていると説明している。たとえば開発者は、作業に合うモデルを選んだり別のモデルに見直させたりし、難しい問題をより高い性能のモデルに任せることもある。研究プレビューの HydraFusion は、この手順を実行の場に取り込むものだ。

モデルルーティングに関する主な出来事・ニュース

モデルルーティングに関する事例

ChatGPT は無料版・Go・Plus・Pro で推論への自動切り替えを終了

OpenAI は2025年8月、GPT-5 を、速く答えるモデルと深く推論するモデル、リアルタイムのルーターからなるシステムとして発表した。ルーターは、会話の種類と複雑さ、必要なツール、「深く考えて」のような利用者の意図から、どちらのモデルを使うかを決める。

OpenAI は2025年10月の更新で、強い苦痛の兆しがある会話など繊細な部分を、ルーターで推論モデルに振り分けていると説明した。同社はこの更新で、GPT-5 Auto か推論をしないモデルが選ばれているときは、こうした会話を代わりに GPT-5 Instant に送るとした。

OpenAI は2025年12月11日、ChatGPT の無料版と Go の利用者について、推論のための自動の切り替えをやめた。理由は選択肢を最大にするためとしている。2026年9月14日には、Plus と Pro の利用者についても、Instant から Thinking への自動の切り替えを終えた。ただし ChatGPT は安全のために、引き続き自動で切り替えることがある。

GitHub の Auto は作業の難しさも見て選ぶようになった

GitHub の Copilot の Auto は、2025年12月に VS Code で一般提供になった時点では、その時々のモデルの空き具合をもとに振り分けていた。2026年5月の更新で、Auto は推論やコード生成の難しさ、不具合の診断の難しさなどの観点で作業を評価し、モデルを選ぶようになった。

GitHub の評価で HydraFusion は Opus 5 より推定費用が低かった

GitHub は2026年9月、複数のモデルを組み合わせる研究プレビュー Project HydraFusion を発表した。

GitHub は、エージェントによるコーディングのベンチマークで HydraFusion を評価した。比べる相手には Claude Opus 5 と GPT-5.6 Sol を置き、最もよく調整した HydraFusion の設定の結果を示した。下の表は Opus 5 との比較だ。

ベンチマーク 推定費用(Opus 5 との比較) 確かめた作業の質(Opus 5 との差)
TerminalBench 2.1 67%低い 4.9ポイント高い
DeepSWE 36%低い 1.5ポイント低い
CheckpointBench(GitHub 社内) 65%低い 0.1ポイント低い

GitHub によると、この結果は条件をそろえたオフラインの評価で、評価したベンチマークの版や設定、モデルの組み合わせ、価格の前提に限ったものだ。すべてのモデルは、同じ中程度の推論の水準で評価した。

モデルルーティングを使うときの制約と注意

扱える文脈の長さは小さいモデルに縛られる

Microsoft のモデルルーターで実際に使える文脈の長さ(コンテキストウィンドウ)は、候補の中で最も小さいモデルの上限になる。Microsoft は、長い文脈を扱うときには、対応するモデルに候補を絞る使い方を案内している。Copilot Fusion でも、表示される文脈の長さは、使うモデルの中で最も小さい上限をもとにした控えめな値だ。

振り分けの判断が合わない依頼もある

Amazon Bedrock の仕組みは英語のプロンプトにだけ最適化されている。アプリごとの性能のデータをもとに、振り分けの判断を調整することもできない。独自の用途や特殊な用途では、最適な振り分けにならないことがある。振り分けの出来は、最初の学習に使ったデータで変わる。

Microsoft のモデルルーターは画像の入力を受け付けるが、振り分けの判断は文字の入力だけで決める。音声の入力は処理しない。

モデルルーティングの効果の評価と費用の注意点

Microsoft は、モデルルーターを今の使い方と比べて評価し、大事な結果がよくなるかを確かめるよう勧めている。AWS も文書で、新しいモデルを生かすには性能を定期的に見直すべきだとしている。

Copilot Fusion の Fusion High と Fusion Max は1つの作業に複数のモデルを使うことがあり、Fusion Standard よりAIクレジットを多く使う場合がある。

Microsoft のモデルルーターでは振り分け先が依頼ごとに変わりうるため、プロンプトのキャッシュの利点が出るのは、先頭の部分が重なる依頼を、同じモデルが続けて処理したときだけだ。

Copilot Fusion では捨てた下書きの変更が自動で戻らない

Copilot Fusion が下書きを捨てても、その下書きがすでに行ったファイルの編集などの変更は、自動では元に戻らない。GitHub は、コミットの前に変更を見直すよう案内している。

モデルルーティングに関する出典

Microsoft「Model router for Microsoft Foundry concepts」(2026年10月30日更新)
Microsoft「Microsoft Foundry 概念用モデルルーター」(2026年10月30日更新)
Google Cloud「モデル ルーティングの概要」(2026年10月27日更新)
Amazon Web Services「Understanding intelligent prompt routing in Amazon Bedrock」
GitHub「About GitHub Copilot Fusion」
GitHub「Route and orchestrate models with GitHub Copilot Fusion」(2026年10月28日)
GitHub「Project HydraFusion: Frontier quality via multi-model orchestration」(2026年9月4日)
OpenAI「GPT-5 が登場」(2025年8月7日)
OpenAI「ChatGPT release notes」(2025年10月3日、12月11日、2026年9月14日の項目)
Microsoft「Azure AI Foundry Models: Futureproof Your GenAI Applications」(2025年5月19日)
Amazon Web Services「Amazon Bedrock Intelligent Prompt Routing is now available in preview」(2024年12月4日)
Amazon Web Services「Amazon Bedrock Intelligent Prompt Routing の一般提供開始」(2025年4月22日)
GitHub「Auto model selection for Copilot in VS Code in public preview」(2025年9月15日)
GitHub「Auto model selection now routes based on your task in VS Code」(2026年5月20日)
GitHub「Auto model selection is generally available in GitHub Copilot in Visual Studio Code」(2025年12月10日)
Amazon Web Services「Amazon Bedrock Pricing」
Microsoft「How to use model router for Microsoft Foundry」(2026年9月10日更新)

モデルルーティングに関連する記事