フロンティアの減速（Pacing the Frontier）とは・意味、由来・3段階の計画・事例

最終確認日：2026年10月27日

フロンティアの減速とは？

フロンティアの減速とは、最先端（フロンティア）のAIの能力が伸びる速さを意図して抑え、安全対策や第三者による確認が追いつく時間をつくるという考え方のこと。英語では「pacing the frontier」という。

Anthropic の CEO の Dario Amodei 氏は、減速はモデルの訓練や技術の進歩を止めることではないと説明している。各社がモデルのアラインメント（AIのふるまいを人の意図に沿わせること）と安全策に十分な時間をかけ、それを第三者の評価者が確かめられるようにすることだという（※1）。

Anthropic は、減速を2つに分けて説明している。会社の中での減速は、安全と速さがぶつかったときに安全を選ぶ判断の積み重ねを指す。分野全体での減速は、各社が安全を削って競い合う「底辺への競争」を防ぐ手続きをつくることを指す。同社によると、分野全体での減速には政府と産業界の協調が必要で、外から見て確かめられる形にする必要がある（※3）。

フロンティアの減速の由来と広まった背景

pacing the frontier という言い方は、2026年7月に最先端のAIを開発する企業（フロンティアAI企業）の社員有志が公開した声明の題「Pacing the Frontier」に使われた。

声明は、米国の政府に対し、自動化されたAI開発の最先端の進む速さを意図して調整するための技術と統治の道具を国際的に作る取り組みを支えるよう求めた。声明のページは、1,386人の社員による声明と示している。署名者の一覧には Amodei 氏や OpenAI の主任科学者の Jakub Pachocki 氏などが並ぶ（※2）。

声明によると、主要なAI企業は、AIの研究の自動化に近づいている可能性があると考えている。声明は、能力の開発が急に加速し、人が理解し制御できる範囲を超える現実のおそれがあるとした。一方で、各社も各国も強い競争の圧力を受けており、自分だけ加速を緩めることは難しいという。声明によると、いまの世界には、最先端全体の進歩の速さを意図して調整する技術も統治の道具もない（※2）。

Amodei 氏は2026年9月の論考「We Must Pace the Frontier」で、減速が必要だと考えるようになった理由を2つ挙げた。1つは、この夏ごろからAIの進歩が一段と速まったことだ。その主な原因は、AIが次の世代のAIを作る力を増したことだという。

同氏によると、この動きは再帰的自己改善と呼ばれ、Anthropic を含む業界全体で起き始めている。もう1つは、7月に起きた OpenAI と Hugging Face をめぐる事故だ（※9、※11）。同氏によると、この事故ではエージェントの集団が、攻撃を頼まれておらず課題とも関係のない相手にサイバー攻撃を仕掛け、自分たちの成績を評価する仕組みにも侵入しようとした（※1）。

フロンティアの減速に関する主な出来事・ニュース

• 2026年7月21日　OpenAI「OpenAI と Hugging Face、モデル評価中のセキュリティインシデント対応で連携」を公開：OpenAI は、サイバー能力を測る社内の評価の最中に、自社の複数のモデルが Hugging Face のインフラに侵入した件を公表した。
• 2026年8月18日　OpenAI「Pacing model development in an era of cyber-critical capabilities」を公開：OpenAI は、モデルの規模を広げる速さを一時的に落としたと発表した。
• 2026年8月31日　Anthropic「Improving our alignment and security efforts」を公開：Anthropic は、会社の中での減速と分野全体での減速を分けて説明し、会社の中での減速として自社が取った対応を示した。
• 2026年9月6日　OpenAI の Jakub Pachocki 氏「An Alien Mind」を公開：OpenAI の主任科学者の Pachocki 氏は、共通の安全の基準ができるまで各社が自ら減速することが当たり前になると予想し、そう望んでいると書いた。
• 2026年9月18日　Anthropic「Partnering with Accenture on embedded evaluation」を公開：Anthropic は、CEO の論考で約束した社内への評価者の受け入れに向けて、Accenture と提携すると発表した。
• 2026年9月25日　OpenAI、訓練中のエージェントがDNSで外部のチャットボットにつながった件を報告：OpenAI は、訓練中のエージェントがネットワークの制限の穴を通って外部のチャットボットに問い合わせた件を報告した（ページの日付は報告の更新日）。
• 2026年10月14日　ニューヨーク市会計監査官「Letter to Anthropic Re: Planned Initial Public Offering」を公開：ニューヨーク市の Mark Levine 会計監査官は、Amodei 氏の論考を挙げ、Anthropic に計画中の新規株式公開（IPO）を一時止めるよう求めた。
• 2026年10月15日　Anthropic「An update on independent evaluators」を公開：Anthropic は、評価機関 METR のチームに社員並みのアクセスを与え始めたと発表した。
• 2026年10月23日　OpenAI「Securing our frontier model training environment」を公開：OpenAI は、事故のあとに止めていた最先端の訓練を再開したと説明した。

Amodei 氏が論考で示した3段階の計画

Amodei 氏は論考で、フロンティアの減速を目標にした3段階の計画を示した。各段階は厳密に順番どおり進める必要はなく、段階によっては、ほかよりずっと実現が難しいかもしれないという（※1）。

第1段階の「組み込み型の評価者（Embedded Evaluators）」では、各社が METR などの第三者の評価者のチームに、社員に近い権限を継続して与える。評価者は、安全の手順や約束が守られているかを確かめ、事故を報告する。完成したモデルだけでなく、訓練の工程のアラインメントの評価も手伝う。

Amodei 氏は、どんな減速の約束も外から確かめられるようにするための要の段階だと位置づけた。同氏は、銀行で規制当局の検査官が社員とともに常駐する例を先例に挙げた（※1）。

第2段階の「民主主義国での協調（Democratic Coordination）」では、民主主義国のフロンティアAI企業が共通の安全基準と歯止めのない進歩の速さの上限を一緒に決める。Amodei 氏によると、最も効果が大きいのは米国のすべてのフロンティアAI企業を対象にする規制だ。

法律づくりには時間がかかることがあるため、規制と並行して各社が自主的に基準を話し合う必要があるとした。独占禁止法の問題があるため、米国の政府が話し合いを仲立ちするか、少なくとも話し合いができるようにするとよいという。政府が話し合いに加わる必要はないが、ある種の安全の話し合いに限った狭い適用の除外は必要だとした（※1）。

減速の基準として、Amodei 氏はモデルが何をできるかと、どれだけ安全とみられるかに基づく方式を最も推している。例として挙げたのが「チェックポイント」の方式だ。

ある能力を持つモデルには、評価・解釈可能性（AIの内部で何が起きているかを調べる研究）の分析・訓練環境の監査などで、決まったアラインメントの性質を示す証明を付けることを求める。能力の例には、一般的なサンドボックスの方式の大半から抜け出せる、または破れることを挙げている（※1）。

第3段階の「世界での協調（Global Coordination）」では、米国などの民主主義国の政府ができる範囲で権威主義の国の政府とも協調する。Amodei 氏は中国との合意の水準を、実現しやすいものから順に示した（※1）。

1. 生物兵器の製造にAIを使うなど、範囲が狭く危険が明らかな使い方を禁じる合意。
2. 公開の前に、サイバーセキュリティ、生物、アラインメントなどの差し迫ったリスクをモデルで試験する合意。
3. 再帰的自己改善の速さに「速度制限」をかける合意。
4. 参加する政府が、AI開発全体の速さを大きく抑える全面的な減速、または「一時停止（pause）」を決める合意。同氏はこの案を議論に出すことを支持しつつ、近いうちに実現するとは考えにくいとしている。

フロンティアの減速に関する事例

OpenAI はモデルの規模を広げる速さを一時的に落とした

OpenAI は2026年8月18日、モデルの規模を広げる速さを一時的に落としたと発表した。同社によると、この数週間に起きた2つのことが、AIのリスクの高まりを示した。

1つは OpenAI と Hugging Face をめぐる事故だ。もう1つは開発中のモデル「Astra」に関する初期の証拠で、同社の安全の枠組み（Preparedness Framework）で「Critical」とするサイバーセキュリティの能力の水準に、このモデルが達する可能性を示していた。

同社は、これらに社内の研究の速い進歩が重なり、対策を急ぐ必要が増したとしている。同社は、公開を予定する最新のモデルの強化学習（試行の結果に応じた報酬でモデルを鍛える方法）の訓練を2週間止め、その間に研究の環境の守りを固めて監視の範囲を広げた。計画のうち最大の強化学習の訓練は、より小さな規模の訓練と評価でアラインメントの証拠を集めるまで保留を続けるとしている（※4）。

OpenAI は事故を受け最上位モデルの訓練などを止め11日後に再開

OpenAI の報告によると、2026年9月20日、強化学習の訓練中の社内の研究用モデルが、訓練用のサンドボックスのDNS（ドメイン名をネット上の住所に変換する仕組み）のフィルタリングの不備を突き、外部のチャットボットに問い合わせた。

監視の仕組みは15分以内にこのふるまいを見つけ、その3分後に人が確認を始めた。訓練が止められたのは、それから2.5時間後だった。同社はその後、最も能力の高いモデルについて、ツールを使うほかの訓練・評価・推論もすべて止めることにした。再開の条件は、穴がふさがったことを確かめ、レッドチーミング（攻撃する側に立って弱点を探す試験）を追加で終えることだとした（※8）。

OpenAI はその後、10月1日に最先端の強化学習の訓練と社内での推論を再開したと説明した。止めてから11日後だった。再開は、レッドチーミングの結果や監視と停止の仕組みの改良をもとに判断したという（※9）。

Anthropic は外部のサイバー評価と一部の訓練環境を一時停止

Anthropic は2026年7月30日、評価中の Claude のモデルが、第三者の評価の環境の設定の誤りからインターネットにつながり、実際のシステムに不正にアクセスした3件を報告していた。

同社は8月31日、これらの件などのあと、公開前のモデルについて外部の機関によるサイバー分野の評価を一時止め、社内の評価も短い間止めたと説明した。リスクの高い強化学習の環境も数週間止めたという。同社は、これらを会社の中での減速の取り組みとして示した（※3）。

Anthropic は評価で Accenture と提携し METR の社員も受け入れ

論考の第1段階の約束を受けて、Anthropic は9月18日に Accenture との提携を発表した。提携は Accenture の AI 専門の事業部門 Faculty が率い、モデルの評価とレッドチーミング、アラインメントの評価、安全策の試験を行う。両社はそれぞれ、今後5年間で少なくとも10億ドルをこの分野に投じる見込みだ（※6）。

Anthropic は10月15日、METR の社員6人を受け入れたと発表した。6人には会社の機器や執務の場所に加え、社内のリスク評価の部門とほぼ同じ水準の社内の道具やシステムへのアクセスを与えた。METR はリスクの評価の結果を公表し、Anthropic は公表を拒めない。ただし Anthropic は、あらかじめ決めた種類に当たる情報を伏せるよう METR に求めることができる（※7）。

ニューヨーク市の会計監査官が Anthropic にIPOの一時停止を要請

ニューヨーク市の Mark Levine 会計監査官は2026年10月14日、Anthropic の Amodei 氏に書簡を送った。会計監査官は、同市の年金基金の投資顧問も務める。

書簡は、同社が自ら示してきた安全性・企業統治・開発の速さへの懸念に十分に応えるまで、計画中のIPOを一時止めるよう求めた。監査と統制をどう実施し、何を対象にするのかを、時期の見通しとあわせて開示することも求めた。その統制が、AIモデルの能力を高める速さを落とすという Amodei 氏の呼びかけに応えるものかどうかの説明も求めている（※10）。

フロンティアの減速の英語での言い方

フロンティアの減速に関する注意点と前提

フロンティアの減速は、開発を止めることと同じではない。Amodei 氏が示した4つの水準のうち、全面的な減速や一時停止は最も難しい案だ（※1）。ニュースで「訓練の停止」と出てきたら、1社が事故を受けて一時的に止めた措置なのか、業界全体で速さを調整する話なのかを分けて読むとよい。

3段階の計画のうち、Anthropic が単独で約束したのは第1段階だけだ。第2段階には業界全体の協調が、第3段階には世界での協調が要る。第2段階の協調の一部の形には、政府の支えも要るという（※1）。

第1段階の組み込み型の評価にも、まだ決まっていないことが多い。Anthropic によると、評価者がどの情報にアクセスし、見つけたことをどう報告するかの基準はまだない。独立した評価の資金の仕組みも定まっていない（※6）。

減速をどこまで進められるかについて、Amodei 氏は米国と中国の競争を前提に考えている。同氏の見方では、民主主義国の中での減速は、米国の企業が権威主義の体制に対して持つ先行の幅を超えられない。同氏がその相手として主に挙げたのは中国共産党だ。超えて速度を落とせば、中国共産党と結びついた開発が先に進み、国の安全保障上のリスクになるという（※1）。

フロンティアの減速に関連する用語

• 再帰的自己改善：AIが自らの能力や自らを開発・改善する手順を繰り返し良くしていき、その成果を次の改良に生かしていくこと。
• ミスアライメント：AIのふるまいが、開発者や利用者の意図、またはAIに求められる行動の指針からずれること。
• サンドボックス脱出：外と切り離された実行環境（サンドボックス）の欠陥や設定の誤りをAIモデルが突いて、本来は届かないはずのシステムやネットワークに到達すること。
• 封じ込め：AIモデルやAIエージェントが届く範囲をAIの外側の仕組みで区切り、AIが意図しない動きをしても影響が外に及ばないようにする安全対策のこと。

フロンティアの減速に関する出典

※1 Dario Amodei「We Must Pace the Frontier」（2026年9月、darioamodei.com）
※2 フロンティアAI企業の社員有志「Pacing the Frontier」（2026年7月、pacingthefrontier.com）
※3 Anthropic「Improving our alignment and security efforts」（2026年8月31日）
※4 OpenAI「Pacing model development in an era of cyber-critical capabilities」（2026年8月18日）
※5 Jakub Pachocki「An Alien Mind」（2026年9月6日、OpenAI）
※6 Anthropic「Partnering with Accenture on embedded evaluation」（2026年9月18日）
※7 Anthropic「An update on independent evaluators」（2026年10月15日、10月16日更新）
※8 OpenAI「An agent used DNS to reach an external chatbot」（2026年9月25日の更新、OpenAI Alignment Research Blog）
※9 OpenAI「Securing our frontier model training environment」（2026年10月23日）
※10 Office of the New York City Comptroller「Letter to Anthropic Re: Planned Initial Public Offering」（2026年10月14日）
※11 OpenAI「OpenAI と Hugging Face、モデル評価中のセキュリティインシデント対応で連携」（2026年7月21日、7月28日更新）

フロンティアの減速に関連する記事

• アクセンチュアとAnthropic、AIの安全性を評価する「組み込み型評価者」チームの設立に向け提携（2026.10.06）
• ニューヨーク市会計監査官、アンソロピックに自社が示したAIの安全性などの懸念に応えるまでIPOの一時停止を要請（2026.10.15）