スケーリング則(Scaling Laws)とは・意味、種類・由来・研究

スケーリング則とは?
スケーリング則(Scaling Laws)とは、AIモデルの大きさや学習に使うデータの量、計算量を増やしたときに、モデルの性能がどれだけ上がるかを予測できる形で表した経験則のこと。英語では「scaling laws」と表記する。
International AI Safety Report は、チューリング賞の受賞者 Yoshua Bengio 氏が率い、100人を超える専門家が書いた報告書だ。
International AI Safety Report の2026年版によると、スケーリング則は、AIの開発の主な要素とその結果として得られる性能や能力のあいだに観察される体系的な関係だ。主な要素には、モデルのパラメーター(学習で調整される数値)の数や、学習や推論に使う時間・データ・計算資源などがある。
開発者が学習の計算量を10倍にすると、言語の理解や画像の認識、コードの生成など幅広い作業で性能が予測できる分だけ上がる傾向があるという。この関係は、小さな研究用のモデルから最先端のモデルまで、モデルの大きさが6桁違う範囲で保たれてきた。そのため多くの開発者や投資家は、スケーリング則を経験に基づく役に立つ目安として扱い、大きな投資の判断に生かしている。
「スケーリング則」という訳語は、半導体の大手 NVIDIA の日本語のブログや、民間の資格試験のシラバス(出題範囲)、国の試験のシラバス案で使われている。
スケーリング則の種類
NVIDIA はスケーリング則を3つに分ける
NVIDIA の Kari Briski 氏は、2025年2月の同社のブログで、計算とデータとパラメーターを増やすほど優れたAIモデルができるという考え方がAIの分野で長く主流だったと記した。そのうえで同氏は、AIの分野が進むにつれ、計算資源の使い方で性能がどう変わるかを説明する3つの法則が必要になったとしている。
- 事前学習のスケーリング:学習データの量、パラメーターの数、計算資源を増やすと、モデルの賢さや精度が予測できる形で上がる。同氏はこれを、AI開発の基本の法則と位置づける。
- 事後学習のスケーリング:事前学習を終えたモデルに、ファインチューニングや蒸留、強化学習などの技術を使い、効率や特定の分野での精度を高める。
- テスト時のスケーリング:答える段階で計算資源を足し、いくつもの答えの候補を検討してから最もよい答えを出す。同氏は「長時間思考」とも呼ぶ。
OpenAI は教師なし学習と推論を2つの軸に据える
OpenAI は2025年2月、GPT-4.5 を研究プレビューとして公開した。同社はその発表で、教師なし学習と推論の2つを互いに補う枠組みと位置づけ、両方の規模を広げてAIの能力を伸ばそうとしているとした。GPT-4.5 は、計算とデータの規模を広げて教師なし学習を拡大したモデルの一例だ。教師なし学習は、正解を付けていないデータからパターンを学ぶ方法を指す。
同社は2025年4月の o3 の発表で、大規模な強化学習でも、GPT シリーズの事前学習と同じ「計算量が多い=性能が高い」という傾向を観察したと記した。学習に使う計算と推論の時間の両方をさらに1桁増やしても、性能ははっきり上がったという。
スケーリング則の由来と注目されるようになった経緯
性能が規模に応じて予測できる形で伸びることを示した研究は、今の生成AIより前からある。中国の検索大手 Baidu の研究組織に属する Joel Hestness 氏らは、2017年12月に論文を公開した。同氏らは機械翻訳や言語モデル、画像処理、音声認識の4つの分野で、学習データを増やしたときの誤りの変化を調べた。
2020年1月には、OpenAI などの Jared Kaplan 氏らが論文「Scaling Laws for Neural Language Models」を公開した。Kaplan 氏らは、言語モデルの性能と、モデルの大きさ、データの量、学習に使う計算量の関係を「empirical scaling laws」(経験的なスケーリング則)として調べた。
2022年3月に Jordan Hoffmann 氏らが公開した論文は、決まった計算量の予算のもとで、最適なモデルの大きさと学習のトークン(AIが処理する文字のまとまり)の数を調べた。Hoffmann 氏らは、モデルの大きさを2倍にするごとに学習のトークンの数も2倍にすべきだという仮説を確かめるため、計算量に対して最適と見込んだモデルを学習し、Chinchilla と名付けた。
Meta などの研究者 Devvrit Khatri 氏らは2025年の論文で、事前学習では計算量に応じて予測どおりに性能が伸びる学習の手順が定まっているとし、その根拠の文献として Kaplan 氏らと Hoffmann 氏らの論文などを挙げている。
AIの研究者 Ilya Sutskever 氏は、2025年11月に公開された Dwarkesh Patel 氏との対談で、スケーリング則と GPT-3 をきっかけに規模を広げればよいと誰もが気づいたと語った。同氏はこれを、正しいかもしれない一つの見方として示している。
Sutskever 氏は2020年から2025年ごろを「age of scaling」(スケーリングの時代)と呼び、規模を広げる対象は事前学習だったとしている。
2025年に NVIDIA と OpenAI は、学習のあとの強化学習や答える段階の計算にも、規模と性能の関係を当てはめて説明した。答える段階で使う計算はテスト時計算と呼ばれる。この計算を増やす手法は複数の開発者のあいだで広く使われるようになったと、International AI Safety Report の2026年版は記している。
スケーリング則に関する主な出来事・ニュース
- 2017年12月1日 Joel Hestness 氏ら「Deep Learning Scaling is Predictable, Empirically」を公開:Hestness 氏らは、学習データを増やしたときの誤りとモデルの大きさの変化を、機械翻訳など4つの分野で調べた論文を arXiv で公開した。
- 2020年1月23日 Jared Kaplan 氏ら「Scaling Laws for Neural Language Models」を公開:Kaplan 氏らは、言語モデルの性能とモデルの大きさ、データの量、計算量の関係を scaling laws として調べた論文を arXiv で公開した。
- 2022年3月29日 Jordan Hoffmann 氏ら「Training Compute-Optimal Large Language Models」を公開:Hoffmann 氏らは、決まった計算量の予算で最適なモデルの大きさとトークンの数を調べた論文を arXiv で公開した。
- 2025年2月27日 OpenAI「GPT-4.5」を公開:OpenAI は、教師なし学習を拡大したモデル GPT-4.5 を研究プレビューとして公開した。
- 2025年4月14日 OpenAI、API の GPT-4.5 Preview の提供終了を発表:OpenAI は、GPT-4.1 の発表で、API の GPT-4.5 Preview を2025年7月14日に止めると発表した。
- 2025年4月16日 OpenAI「o3」と「o4-mini」を公開:OpenAI は、o3 と o4-mini を公開した。同社は発表で、o3 の開発では大規模な強化学習でも「計算量が多い=性能が高い」という傾向が見られたと記した。
- 2025年10月15日 Devvrit Khatri 氏ら「The Art of Scaling Reinforcement Learning Compute for LLMs」を公開:Khatri 氏らは、言語モデルの強化学習で計算量と性能の関係を分析・予測する枠組みと、手法 ScaleRL を示した論文を arXiv で公開した。
- 2025年11月25日 Dwarkesh Patel 氏「Ilya Sutskever — We’re moving from the age of scaling to the age of research」を公開:Patel 氏は、Sutskever 氏との対談を公開した。Sutskever 氏は、スケーリングの時代から研究の時代に移りつつあるとの見方を示した。
- 2026年2月3日 Yoshua Bengio 氏ら「International AI Safety Report 2026」を公表:Bengio 氏らは報告書で、スケーリング則を観察から導いた経験則と位置づけ、数学の保証ではないとした。
- 2026年9月30日 IPA、基本情報技術者試験などのシラバス案を掲載:情報処理推進機構(IPA)は、2027年度から始める予定の新しい試験制度のうち、基本情報技術者試験などのシラバス案を掲載した。
スケーリング則に関する事例・研究
学習の計算量は近年1年に約5倍のペースで増えてきた
International AI Safety Report の2026年版によると、計算量を最も多く使うモデルでは、近年、学習の計算量が1年に約5倍のペースで増えてきた。この傾向が2030年まで続けば、こうしたモデルを公表の時点の約3,000倍の計算量で学習できる可能性があるという。
計算量やアルゴリズム、データの指数関数的な伸びは2030年ごろまで技術的には可能だと、同じ報告書はみている。生産能力や投資、技術の進歩などの制約を調べた分析では、最先端のモデル1つあたりの計算量は半導体の製造やエネルギーの生産の根本的な壁に当たらずに、今のペースで伸び続けうる。
ただ、アルゴリズムの効率の伸びがどこまで続くかについては、特に2030年より先で専門家の意見が分かれていると報告書は指摘する。論点は、エネルギーの制約と質の高いデータの不足が今の開発の進め方を根本から変えさせるかどうかだ。
Meta などの研究者は強化学習の伸びを予測する枠組みを提案
Khatri 氏らは、2025年10月に公開した論文で、言語モデルの強化学習でも事前学習のように計算量と性能の関係を分析し予測する枠組みを示した。実験の計算は合わせて40万GPU時間を超える。GPU は、AIの計算に使う半導体を指す。
計算量と性能の関係を、Khatri 氏らはS字の曲線で表した。そのうえで同氏らは、手法の細かな選び方が計算量あたりの性能の伸び(効率)と性能が最終的に届く上限(到達点)のどちらに影響するかを分けて調べた。その結果、損失の集計や正規化などの細かな選び方は主に効率を左右し、到達点はほとんど変えなかった。こうした結果をもとに、同氏らは手法 ScaleRL を提案した。
ScaleRL による学習は、設計の選び方を主に調べた80億パラメーターのモデルに加えて、より大きな Meta の Llama 4 Scout(17B×16 の MoE 型)でも行われた。
MoE は、モデルの中の複数の専門の部分を切り替えて使う作りを指す。この大きなモデルでも80億パラメーターのモデルと同じく、計算量に応じて性能が予測できる形で伸びたと、Khatri 氏らは報告している。
スケーリング則の限界と試験での扱い
スケーリング則は観察から導いた経験則
スケーリング則は観察から導いた経験則で、数学の保証ではないと、International AI Safety Report の2026年版は指摘する。これまで試された範囲を超える計算量やデータの規模では、スケーリング則が当てはまらなくなる可能性もある。
また、スケーリング則が予測するのは技術の指標で、利用者にとっての価値ではないという。その例として挙げられているのが、OpenAI が GPT-4.5 の提供をやめたことだ。GPT-4.5 はスケーリング則に合った技術の向上を示していた。この例について報告書は、規模を広げても経済的な価値がそれに見合って増えるとは限らないことを示すとみている。
OpenAI は2025年4月、GPT-4.1 が多くの主要な能力で GPT-4.5 と同等以上の性能を、はるかに低い費用と遅延で出せるとして、API の GPT-4.5 Preview を7月14日に止めると発表していた。その後 OpenAI は2026年5月28日に、ChatGPT での GPT-4.5 の提供を6月27日に終えると発表した。
投資の収益とデータの量が規模の拡大を左右しうる
公表の時点で最先端のモデルの学習には計算資源だけで約5億ドルかかり、次の世代では10億〜100億ドルかかる見込みだと、報告書は述べる。投資が収益を生まなければ各社が規模を広げる投資を大きく減らし、学習の計算量の年約5倍の伸びは大きく鈍る可能性があるという。
Sutskever 氏は対談で、データには明らかに限りがあり、いずれ事前学習のデータは尽きると述べた。同氏は、計算量が非常に大きくなった今は、ある意味で研究の時代に戻ったとの見方も示している。
ただし、インターネットで公開されている文章のデータが足りなくなっても、より多くのデータを得る方法はいくつかあると International AI Safety Report の2026年版は説明している。AIの開発者は、文章のデータが足りなくなれば画像や動画などほかの種類のデータを使える可能性があるという。研究者は、AIが作った学習用のデータ(合成データ)の使い方も探っている。
学習の計算量で義務を決めるルールの有効性が揺らぐおそれ
今のAIの統治の手法には、学習の計算量のしきい値でリスク管理の義務を決めるものがあると、同じ報告書は述べる。しかし、開発者は学習ではなく推論の段階で計算を増やしてもモデルの能力を上げられるようになり、こうしたしきい値の有効性が揺らぐ可能性があるという。
試験のシラバスに「スケーリング則」が入った
生成AI活用普及協会(GUGA)は、2027年2月の試験から使う生成AIパスポートのシラバスで、「生成AIの学習プロセス」の学習項目に「スケーリング則」を置き、詳細キーワードにも「スケーリング則(Scaling Laws)」を挙げている。
IPA は、基本情報技術者試験のシラバス案 Ver.0.1 で、「社会変化の動向」の用語例に「AI言語モデルのスケーリング則」を挙げている。シラバス案は公表した時点での検討をもとにした内容で、今後変わる可能性があると、同機構は注記している。
スケーリング則の英語での言い方
| 英語表記 | 意味 | 使用主体 |
|---|---|---|
| scaling laws | モデルの大きさやデータ、計算量などの要素と性能のあいだの体系的な関係 | Kaplan 氏ら、International AI Safety Report など |
| pretraining scaling | 事前学習のデータ、パラメーター、計算資源を増やすと性能が予測できる形で上がること | NVIDIA の Briski 氏 |
| post-training scaling | 事前学習のあとの技術で、効率や特定の分野での精度を高めること | NVIDIA の Briski 氏 |
| test-time scaling | 答える段階で計算資源を足して答えの候補を検討すること。long thinking とも呼ぶ | NVIDIA の Briski 氏 |
| inference-time scaling | 推論の段階で計算資源を足し、より複雑な問題を解けるようにすること | International AI Safety Report |
| compute-optimal | 決まった計算量の予算のもとで、モデルの大きさとデータの量の配分が最適なこと | Hoffmann 氏ら |
| RL scaling | 強化学習の計算量を増やしたときの性能の伸びと、その予測 | Khatri 氏ら |
スケーリング則に関連する用語
- テスト時計算:学習を終えたAIモデルが質問や課題に答える段階で使う計算。
- RLVR(検証可能な報酬による強化学習):数学の答えの正誤やプログラムのテストの合否のように、機械で確かめられる基準を報酬にしてAIモデルを鍛える強化学習。
スケーリング則に関する出典
Y. Bengio ほか「International AI Safety Report 2026」(2026年2月3日)
Kari Briski「よりスマートで強力な AI をスケーリング則によって実現する方法」(2025年2月28日、NVIDIA のブログ)
生成AI活用普及協会「生成AIパスポート試験シラバス(2027年2月試験より適用)」
生成AI活用普及協会「生成AIパスポート、2027年試験のシラバスを大幅改訂。改訂版公式テキストの予約販売および資格更新テストの受講申込受付を開始」(2026年10月1日)
情報処理推進機構「基本情報技術者試験 シラバス(案)Ver.0.1」(2026年9月30日掲載)
情報処理推進機構「新試験制度のシラバス案について」(2026年6月30日公開、10月30日更新)
Joel Hestness ほか「Deep Learning Scaling is Predictable, Empirically」(2017年12月1日、arXiv)
Jared Kaplan ほか「Scaling Laws for Neural Language Models」(2020年1月23日、arXiv)
Jordan Hoffmann ほか「Training Compute-Optimal Large Language Models」(2022年3月29日、arXiv)
OpenAI「GPT-4.5 が登場」(2025年2月27日)
OpenAI「Introducing GPT-4.1 in the API」(2025年4月14日)
OpenAI「OpenAI o3 と o4-mini が登場」(2025年4月16日)
Devvrit Khatri ほか「The Art of Scaling Reinforcement Learning Compute for LLMs」(2025年10月15日、arXiv)
Dwarkesh Patel「Ilya Sutskever — We’re moving from the age of scaling to the age of research」(2025年11月25日、Dwarkesh Podcast)
Kari Briski「How Scaling Laws Drive Smarter, More Powerful AI」(2025年2月12日、NVIDIA のブログ)
OpenAI「Model Release Notes」(2026年5月28日の項「Retiring OpenAI o3 and GPT-4.5」、OpenAI Help Center)




