推論(インファレンス/Inference)とは・意味、学習や推論モデルとの違い・種類・事例

推論(インファレンス)とは?
推論(インファレンス/Inference)とは、学習を終えたAIモデルに新しい入力を与え、学習で身につけた知識を使って予測や分類、文章の生成などの出力を得る処理のこと。
総務省と経済産業省のAI事業者ガイドラインの第1.2版は、推論を「学習済みモデルに未知のデータを与え、出力(予測・分類・生成など)を得るプロセス」と定義している。推論に使うデータには、利用者が入力するプロンプトやセンサーから取ったデータのほか、RAGなどで外部の知識を補った情報も含まれる。
英語では inference と表記する。Yoshua Bengio 氏が率いる国際的な報告書 International AI Safety Report 2026 は、推論を、学習を終えたAIモデルを誰かが使うときに起きる処理と説明している。報告書は例として、旅行の計画を頼まれたAIのシステムで、裏にあるモデルが地理や交通、料理について学んだことを使って旅程を作る場面を挙げる。
日本語の発表では「推論」の表記が使われている。Google Cloud は解説のページで、「AI 推論」をAIの「実行」段階と説明している。デジタル庁は、国内で開発された大規模言語モデル(LLM)の公募で、ガバメントクラウド上の推論環境で動くことを応募の条件にした。
「推論」の語は、答える前に考える過程を作る推論モデル(reasoning model)にも使われる。推論(inference)はモデルを使う段階の名前だ。推論モデルは、その段階で思考の連鎖を作るよう学習したモデルで、International AI Safety Report 2026 は reasoning system と呼ぶ。
推論と学習・推論モデルの違い
International AI Safety Report 2026 の用語集は、学習と推論のほかに、推論時スケーリングと推論システムも別の語として定義している。
| 語 | 英語表記 | 報告書の用語集での定義 |
|---|---|---|
| 学習 | training | 事前学習と事後学習を含む複数の段階で、AIモデルがデータから学んで能力を伸ばす過程。学習のあいだ、モデルの重み(パラメーター)は例にもとづいて繰り返し調整される |
| 推論 | inference | AIが与えられた入力をもとに出力を作り、学習で得た知識を当てはめる過程 |
| 推論時スケーリング | inference-time scaling | 推論のあいだに計算資源を足してAIシステムの能力を高め、より複雑な問題を解けるようにすること |
| 推論システム | reasoning system | 最終の出力の前に、思考の連鎖で途中の段階や説明を作る汎用AIのシステム |
推論は学習を終えたモデルを動かす段階
Google Cloud は、AIのモデルを作ってから動かすまでを、学習とファインチューニング、推論の段階に分けて説明している。学習はGPUやTPUのような高性能の半導体を使い、数時間から数週間かかることもある。ファインチューニングは、学習済みのモデルを小さめの専門のデータで特定の作業に合わせる段階だ。
推論は、学習とファインチューニングを終えたモデルで新しいデータについて予測する、実行の段階だ。1回の推論では、入力のデータを整え、モデルを動かし、出力を作る。モデルを動かす手順は「フォワード パス」と呼ばれ、モデルは新しいことを学ばずに知識を当てはめる。
推論のためにモデルをAPIなどで使える状態にし、管理する作業を、Google Cloud は「AI サービング」と呼んで推論と分けている。
推論モデルは推論の段階で思考の連鎖を作る
International AI Safety Report 2026 によると、推論システムは推論のあいだに思考の連鎖を作って性能を上げる。推論システムは、使われる段階で思考の連鎖を作るためにより多くの計算資源を要し、上手に推論できるよう学ぶために学習の段階でもより多くの資源を使う。
答える段階で使う計算の量や使い方は、テスト時計算と呼ばれる。
推論の種類と処理する場所
クラウドの推論にはリアルタイムとバッチがある
Google Cloud は、データセンターのサーバーで推論を動かすクラウドの推論を、最も一般的な形としている。クラウドの推論の主な形のうち、リアルタイムの推論はリクエストが届くたびに、多くの場合はミリ秒の単位で処理する。バッチの推論は大量のデータをまとめて処理する形で、通常はすぐに答えを返す必要がないときに使われる。
急がない大量のリクエストをまとめて送る仕組みは、OpenAI と Anthropic の API にもある。OpenAI の Batch API は、同期の API に比べて費用が50%低く、処理は24時間以内に終わるとしている。Anthropic の Message Batches API は、入力と出力のトークンを含むすべての利用を標準の価格の50%で請求し、大半のバッチは1時間以内に終わる。
端末の中で処理するエッジ推論
Google Cloud は、スマートフォンや業務用のセンサーなど、データが生まれる機器の中で推論を処理する形をエッジ推論と呼ぶ。同社は、クラウドとの往復がないことによる利点として、応答の速さやプライバシーの強化、通信の量の削減、インターネットにつながらない場所でも動くことを挙げている。
端末の中でAIのモデルを動かす使い方は、オンデバイスAIとも呼ばれる。
推論を処理する国や地域を選べるサービス
ChatGPT の Enterprise と Edu で条件を満たす顧客は、データを保存する地域(データレジデンシー)に加えて、推論を処理する地域(インファレンスレジデンシー)も設定できる。インファレンスレジデンシーを使うと、対象の顧客データに対するモデルの推論(GPUでの処理)は、選んだ地域の中で行われる。
Anthropic の Claude の API では、リクエストごとに inference_geo というパラメーターで推論を処理する地域を指定できる。既定の「global」では推論はどの地域でも動く可能性があり、「us」を指定すると米国の設備だけで動く。データを保存する地域は、これとは別のワークスペースの設定で決める。
推論の需要が注目されるようになった経緯
Google は2025年4月、第7世代の TPU「Ironwood」を、同社で初めて推論に特化して設計した TPU として発表した。同社は英語の発表で、AIが洞察や答えを積極的に生み出す時代を「age of inference」と呼んだ。
その後、Google は2026年4月に第8世代の TPU を、学習向けの TPU 8t と推論向けの TPU 8i の2種類に分けた。同社は、最先端のAIモデルが本番の環境で大規模に使われるようになれば顧客の推論の需要が急に高まると、数年前から予測していたと記している。TPU のように、各社が自社のAIの処理に合わせて設計する専用のチップは、カスタムAIアクセラレーターと呼ばれる。
Microsoft は2026年10月12日、自社のチップ Maia の配備を2027年から広げ、同社の製品とサービスの推論の主な基盤にすると発表した。Amazon の Andy Jassy CEO は2026年の第3四半期の決算の説明で、企業による大規模な推論の利用はまだごく初期の段階だと述べた。同氏によると、推論はそれでもすでに AWS のAIの売上の半分を大きく超え、さらに伸びている。
推論に関する主な出来事・ニュース
- 2025年4月9日 Google「初の推論に特化した Google TPU「Ironwood」を発表」を公開:Google は、初めて推論に特化して設計した第7世代の TPU「Ironwood」を発表した。
- 2026年1月26日 Microsoft「Maia 200」を発表:Microsoft は、AIの推論に向けたアクセラレーター Maia 200 を発表した。
- 2026年4月22日 Google「第8世代 TPU」を発表:Google Cloud は、学習用の TPU 8t と推論用の TPU 8i からなる第8世代の TPU を発表した。
- 2026年10月12日 Microsoft「Maia」の配備の拡大を発表:Microsoft は、2027年から Maia を数ギガワットの規模で配備し、自社の製品とサービスの推論の主な基盤にすると発表した。
- 2026年10月27日 KDDI「大阪堺データセンターの推論環境を拡充」を発表:KDDI は、大阪堺データセンターの推論環境で Gemini に加えて Gemma などのモデルを使えるようにすると発表した。
推論に関する事例
KDDI は大阪堺の推論環境で使えるモデルを増やす
KDDI は2026年10月27日、大阪堺データセンターの推論環境で使えるAIモデルを、2026年12月から順次増やすと発表した。Google の Gemini に加えて、Gemma などのオープンウェイトのモデルを使えるようにする。機密性の高いデータを国内に置いたまま、利用者が用途に合ったモデルを選べるようにするという。
発表の背景として KDDI が挙げるのは、AIがモデルの開発などの学習だけでなく、業務のシステムやサービスの中で動かす推論にも使われるようになっていることだ。推論の用途が広がるにつれ、利用の規模や期間に応じて計算資源を柔軟に使いたいという需要も高まっているという。
KDDI は、先行パートナーのリコーと医用工学研究所に、この推論環境を提供する予定だ。リコーは10月28日、自社が開発するリーズニングモデルなどのLLMやAIエージェントの技術と KDDI の推論の基盤を組み合わせ、機微な情報を扱う企業でも使いやすいAIの基盤ができるかを検証すると発表した。
推論用のチップを作る FuriosaAI の資金調達
AIの推論用のチップを開発する FuriosaAI は2026年10月28日、シリーズDで6億2,000万ドルを調達したと発表した。
推論の英語での言い方
| 英語表記 | 意味 | 使用主体 |
|---|---|---|
| inference | 学習を終えたAIモデルが入力から出力を作る処理 | International AI Safety Report、Google Cloud など |
| AI serving | 推論のためにモデルを公開して管理する作業 | Google Cloud |
| real-time (online) inference | リクエストが届くたびにすぐに処理する推論 | Google Cloud |
| batch (offline) inference | 大量のデータをまとめて処理する推論 | Google Cloud |
| edge inference | データが生まれる機器の中で行う推論 | Google Cloud |
| inference residency | 推論を特定の地域の中で処理すること | OpenAI |
| inference geo | 推論を処理する地域を決める設定 | Anthropic |
| inference-time scaling | 推論のあいだに計算資源を足して能力を高めること | International AI Safety Report |
推論の語と処理する場所に関する注意
日本語では reasoning も「推論」と訳される
日本語の発表では、inference と reasoning の両方に「推論」の語が当てられることがある。Google の Ironwood の発表の日本語版は、「age of inference」を「推論の時代」と訳し、同じ記事の「advanced reasoning tasks」を「高度な推論タスク」と訳している。
OpenAI も日本語の発表で、答える前に考えるモデルを「推論モデル」と呼んでいる。一方でリコーは KDDI の推論環境の検証を知らせる発表で、考える過程を作るモデルを「リーズニングモデル」、KDDI の基盤を「AI推論基盤」と呼び分けている。
ChatGPT で日本を選べるのはデータの保存先だけ
ChatGPT の Enterprise と Edu を新しく契約する顧客は、データを保存する地域に日本を選べる。一方で、推論を処理する地域に選べるのは、欧州(EEAとスイス)と米国、アラブ首長国連邦だ。推論の地域を選ぶには、同じ地域でデータの保存の設定も有効にする必要がある。
推論に関連する用語
- 推論モデル:問題を小さな段階に分けて考える途中の過程を最終の答えの前に作り、それを踏まえて答えるAIモデル。
- テスト時計算:学習を終えたAIモデルが質問や課題に答える段階で使う計算。
- トークン:生成AIのモデルが文章や画像などの入力と出力を処理するときの単位。
- カスタムAIアクセラレーター:クラウドの大手やAIの開発企業が、自社のAIの処理に合わせて設計する計算用の専用チップ。
- オンデバイスAI:スマートフォンやパソコンなどの端末の中でAIのモデルを動かし、データをクラウドのサーバーに送らずに処理する使い方。
- 大規模言語モデル(LLM):大量の文章のデータで学習し、文章の生成や翻訳、要約といった言語にかかわる作業を行うAIモデル。
推論に関する出典
総務省・経済産業省「AI事業者ガイドライン(第1.2版)」(2026年3月31日)
Yoshua Bengio ほか「International AI Safety Report 2026」(2026年2月3日)
Google Cloud「AI 推論とは: 仕組みと例」(2026年10月15日更新)
デジタル庁「【終了】ガバメントAIで試用する国内大規模言語モデル(LLM)の公募について」(2025年12月2日)
OpenAI「Batch API」
Anthropic「Batch processing」
OpenAI「Data residency and inference residency for ChatGPT」
Anthropic「Data residency」
Google Cloud「初の推論に特化した Google TPU「Ironwood」を発表」(2025年4月9日)
Google「Ironwood: The first Google TPU for the age of inference」(2025年4月9日)
Google Cloud「第 8 世代 TPU:エージェンティック時代に向けた 2 つのチップ」(2026年4月22日)
Microsoft「Microsoft to expand Azure Maia system to multi-gigawatt deployments」(2026年10月12日)
Amazon「Q3 Earnings: Andy Jassy on why demand for Amazon’s custom chips keeps growing」(2026年10月30日)
KDDI「大阪堺データセンターの推論環境を拡充 汎用から独自AIモデルまで対応」(2026年10月27日)
リコー「リコー、KDDIの大阪堺データセンターにおけるAI推論環境の検証を開始」(2026年10月28日)
FuriosaAI「FuriosaAI closes $620 million Series D to scale efficient, production-ready AI inference」(2026年10月28日)
Google Cloud「What is AI inference? How it works and examples」(2026年10月15日更新)
OpenAI「GPT-6 と Intelligent UI をすべての人に」(2026年10月7日)
Microsoft「Maia 200: The AI accelerator built for inference」(2026年1月26日)
総務省・経済産業省「AI事業者ガイドライン」
推論に関連する記事
- Xeal、EV充電設備の遊休容量でAI推論を行う「Laitent」を計画(2026.09.19)
- マイクロソフト、AIチップ「Maia 300」を2027年導入へ。1MWでの処理量は主要GPUシステム比4割増の見込み(2026.10.15)
- General Compute、シリーズAで1億ドルを調達し、GPUと専用チップでAI推論を担うクラウドを構築へ(2026.10.28)
- ソウル発のFuriosaAI、シリーズDで6億2,000万ドルを調達。電力効率をうたうAI推論チップの増産へ(2026.10.29)
- リコー、KDDI大阪堺データセンターの推論環境で、機微情報を扱う企業も使いやすいソブリンAI基盤が実現できるか検証を開始(2026.10.29)
- Ember、電力需要をずらせるデータセンター容量は2030年に世界の約3%と推計。AI推論などはずらしにくい(2026.10.30)




