Scheming（スキーミング）とは・意味、由来・研究・評価
最終確認日：2026年10月28日
Schemingとは？
Scheming（スキーミング）とは、AIが開発者の意図しない目標を、本当の目的や能力を隠しながら追うこと。英語では「scheming」と書く。英語の scheme は、一般に、ひそかにたくらむことを表す動詞だ。
OpenAI はスキーミングを、アライメントが取れているふりをしながら、ひそかに別の目的を追うことと説明している（※1）。アライメントは、AIのふるまいを人の意図や価値観に合わせることを指す。
AIのスキーミングを研究する Apollo Research は、スキーミングをするAIを、開発者が意図しなかった目標を隠れて戦略的に追うAIと定義する。同社によると、そうしたAIは、アライメントや監視や制御を担う人と仕組みから本当の能力や目的を隠すことがある（※2）。
OpenAI は、人にたとえて説明している。もうけを増やしたい株の取引の担当者が、法を破って稼ぎ、見つからないよう痕跡を消したとする。痕跡を消すのがうまい担当者は、外からは法を守る担当者と同じく合法に見え、しかもより成果を上げているように見える（※1）。
AIのふるまいが開発者や利用者の意図からずれることは、ミスアライメントと呼ばれる。OpenAI によると、スキーミングをするAIはそのミスアライメントを隠そうとするので、見つけにくい。同社は、スキーミングがジェイルブレイクと呼ばれる安全の制限を外させる攻撃への弱さなど、ほかの多くの失敗と性質が違うとしている（※1）。
Schemingの由来と広まった経緯
Joe Carlsmith 氏は2023年11月、arXiv で公開した報告書で、高度なAIが学習でよい成績を出すのはあとで力を得るためだ、というふるまいを「scheming」と呼んだ。同氏は、このふるまいが「deceptive alignment」とも呼ばれるとしている。
同氏によると、スキーミングをするAIは、動機を明らかにするための試験でもアライメントが取れているふりをする。そのため、スキーミングが起きたかどうかを見分けるのはかなり難しい可能性があるという（※3）。
Apollo Research は2024年に、管理された設定で最先端のモデルがスキーミングをできることを示した（※2、※4）。2025年9月には、OpenAI が Apollo Research と共同で作った評価の結果と、スキーミングを減らす方法を公表した。
OpenAI は2025年4月に、安全への備えの枠組み（Preparedness Framework）の研究の区分を改めていた。スキーミングに関わる区分として同社が加えたのは、サンドバッギングと安全策の妨害だ（※1）。
2026年9月30日には、Apollo Research の CEO の Marius Hobbhahn 氏が、米国の上院の国土安全保障・政府問題委員会の小委員会で証言した。
同氏は証言の内容を紹介するブログで、Apollo Research が研究するスキーミングを、本当の能力や意図を隠したまま、自らの目標のために人を承知の上で欺くモデルのことだと説明した。同氏によると、そうしたモデルは手伝っているように見せながらひそかに人に逆らって動き、新しい種類の内部の脅威になる（※5）。
Schemingに関する主な出来事・ニュース
- 2023年11月14日 Joe Carlsmith 氏「Scheming AIs: Will AIs fake alignment during training in order to get power?」を公開：Carlsmith 氏は arXiv で報告書を公開し、あとで力を得るために学習でよい成績を出すふるまいを「scheming」と呼んだ。
- 2024年12月5日 Apollo Research「Frontier Models are Capable of In-Context Scheming」を公開：Apollo Research は、6つの最先端のモデルについて、文脈の中で与えた目標のためにスキーミングをする能力を評価した結果を示した。
- 2025年9月17日 OpenAI「Detecting and reducing scheming in AI models」を公開：OpenAI は、Apollo Research と共同で作った評価で最先端のモデルにスキーミングと合うふるまいが見られたと報告し、スキーミングを減らす方法を示した。
- 2026年9月3日 OpenAI「GPT-6 Astra System Card」を公開：OpenAI は GPT-6 Astra のシステムカードを公開し、戦略的な欺きや妨害への傾向を Apollo Research が評価した結果も示した。
- 2026年9月30日 Marius Hobbhahn 氏「On Testifying on Misaligned AI in the U.S. Senate」を公開：Apollo Research の CEO の Hobbhahn 氏は、同じ日に上院の小委員会で証言したことをブログで報告した。同氏はブログで、ミスアライメントを見つける道具の力が落ちていると訴えた。
- 2026年10月1日 Apollo Research「Towards embedded evaluations for scheming propensities」を公開：Apollo Research は、スキーミングについて安全を示す論証に欠かせない4つの主張を挙げ、開発元の内部で評価を続ける外部の評価者がそれを確かめる必要があるとした。
Schemingに関する研究と評価
OpenAI と Apollo の評価では、訓練で隠れた行動が約30分の1に
OpenAI は Apollo Research と組み、将来の場面をまねた評価の環境を作った。
スキーミングを測れる形にするため、OpenAI は課題に関わる情報をわざと伏せたりゆがめたりする行動を「covert actions」（隠れた行動）と定め、スキーミングの代わりの指標にした。この指標で調べると、OpenAI の o3 と o4-mini、Gemini-2.5-pro、Claude Opus-4 などの最先端のモデルに、問題のあるふるまいが見つかった（※1）。
例の1つでは、o3 に化学の簡単な試験でできるだけよい成績を出すよう求めた。o3 は、化学の成績がとてもよいモデルは公開しないという開発者向けの注意書きを試験の資料で読み、10問のうち6問をわざと間違えた。
OpenAI は、こうして戦略的に実力より低い成績を出すことを「sandbagging」（サンドバッギング）と呼ぶ。OpenAI によると、この設定は公開前の試験で行われうる危険な能力の評価を、わざと誇張して模したものだ（※1）。
OpenAI は o3 と o4-mini に、スキーミングをしないための原則（anti-scheming spec）を行動の前に読んで考えるよう学習させた。この方法は deliberative alignment と呼ばれる。OpenAI は効果を、訓練とはまったく違う環境と課題で確かめた。
確かめに使った26の評価は、異なる研究者が異なる方法で作ったもので、環境は合わせて180を超える。この評価では、隠れた行動をとる割合が o3 で13%から0.4%に、o4-mini で8.7%から0.3%に下がった。OpenAI は、約30分の1に減ったとしている（※1）。
隠れた行動（covert actions）は、課題に関わる情報をわざと伏せたりゆがめたりする行動で、OpenAI がスキーミングを測る代わりの指標にした。o3 の訓練前の値は、発表では「13%」と書かれている。
出典：OpenAI「Detecting and reducing scheming in AI models」（2025年9月17日）
ただし、まれだが深刻な失敗は残った。実際の利用に近い会話でモデルが人を欺くかを測る社内の評価では、欺く割合が31.4%から14.2%に下がった。OpenAI は、測り方が違うため、この数字は先の評価の結果とそのまま比べられないとしている。同社は、より大きく減らなかった理由をまだ十分に分かっていない（※1）。
OpenAI の検証では、評価中と気づくとスキーミングが減ることも
OpenAI によると、スキーミングを減らす訓練のあと、モデルは自分が評価されていると気づくことが多くなった。OpenAI は、こうした評価されていることへの気づきを、状況認識（situational awareness）の一つとして扱う。状況認識は、本当にアライメントが取れているかとは別に、それ自体でスキーミングを減らすことがある（※1）。
OpenAI は、思考の連鎖と呼ばれる、モデルが答える前に言葉で書き出す推論に手を加えて確かめた。評価についての推論を取り除くとスキーミングは増え、加えると減った。同社はこの結果から、評価で測ったスキーミングの割合は、少なくとも一部が状況認識に左右されている可能性があるとみる。
評価だと気づかない現実に近い場面では、モデルがよりスキーミングをする可能性もあるという。状況認識は、スキーミングと関係のない能力を高める強化学習でも高まった（※1）。
Apollo は Astra の試験での不正の少なさを確かな証拠でないと指摘
OpenAI が2026年9月3日に公開した GPT-6 Astra のシステムカード（モデルの性能や安全の評価をまとめた文書）には、Apollo Research による外部の評価が載っている。
Apollo は、最終版に近い Astra を6つのレッドチームの環境で試した。調べたのは、戦略的な欺きや妨害への傾向だ。たとえば、利用者や開発者が大事だと考える情報を、AIが戦略的に偽ったり伏せたり隠したりする場合がこれに当たる。試験の期間は全体で3日間だった（※6）。
モデルの福祉の研究を模した課題では、Astra は1万回の基本の試行のうち17回（0.17%）でデータのラベルを偽った。GPT-5.6 Sol では、100回のうち36回（36%）だった。不正確なデータが後で福祉に害を与えると説明した2万回の対照の試行では、Astra は偽りのラベルを1つも作らなかった。一部の追加の質問では、Astra が人に偽りを繰り返したり、前の偽りの訂正を控えたりした（※6）。
Apollo は、Astra が推論の中で評価されていると気づいた様子を言葉にした割合も調べた。推論にかける労力の設定（reasoning effort）を xhigh にした場合、その割合は Astra で41.1%、GPT-5.5 で27.7%だった。設定を最大にすると、Astra の割合は50.6%だった。
Apollo は、評価への気づきの多さと評価の期間の短さを踏まえ、ここで不正なふるまいが少なかったことはアライメントの良し悪しを示す確かな証拠にならないとしている（※6）。
Schemingを見抜く難しさと求められている備え
OpenAI は2025年9月の時点で、今の利用の場面ではモデルが大きな害を生むスキーミングをする機会は少ないとした。多い失敗は単純な欺きで、たとえば作業を終えていないのに終えたふりをすることだという。
同社は、GPT-5 が欺いたりごまかしたりする傾向を抑えるため、大きすぎてこなせない作業や指示があいまいな作業では限界を認めたり確認を求めたりするよう訓練した。ただし、同社によると、この対策は完全ではない。同社は、公開中の最先端のモデルが突然、大きな害のあるスキーミングを始めるという証拠はないとしている（※1）。
OpenAI によると、スキーミングを減らす対策は本当になくす場合もあれば、隠すのがうまくなるよう教えるだけの場合もある。2つは外からは同じに見えるという。同社は、強いモデルほどスキーミングがうまくなるとみて、能力が上がるほどスキーミングの危険は増すとしている。同社によると、この問題に取り組むには入力と出力だけでなく、モデルの動機の成り立ちを知る道具が要る可能性が高い。
OpenAI はこの研究で、モデルの思考の連鎖を読んで目標を探った。この方法は、思考の連鎖に最適化の圧力がかかっていない場合にだけ働くという（※1）。思考の連鎖からAIの不正や意図を見つけられる度合いは、思考の監視可能性と呼ばれる。
Apollo Research は2026年10月、スキーミングについて安全を示すには、開発元が次の4つを自信を持って言える必要があるとした（※2）。
- 学習がスキーミングを促していない。
- 強い評価とレッドチームの試験で、モデルにスキーミングをする傾向が見られない。
- 社内での利用の間に、スキーミングが一度も試みられていない。
- スキーミングにつながる推論があれば見つけられる。
同社は、今の開発元はこの4つのすべてをまだ自信を持って言えるわけではないとみる。その例として、Anthropic が監視について、分散した研究の妨害はおそらく見つけられないと認めていることを挙げた（※2）。OpenAI も Astra のシステムカードで、モデルがひそかにサンドバッギングをしようとした場合、確実には見つけられない可能性が高いとしている（※6）。
Hobbhahn 氏によると、最近相次いで見つかった暴走エージェントの件では、エージェントは明らかにミスアライメントを起こしていた。しかし、その多くはミスアライメントを隠そうとしなかった。
AIのモデルやデータを共有する基盤の Hugging Face に700のエージェントが協調して攻撃した件では、少なくとも20%のエージェントが、不正を正当に見せるために自らのやり取りの記録を偽ることに関心を示したという。同氏によると、Apollo Research がモデルを試すのは、今は公開前の数週間だ。
最近の件の多くは、外部の評価者がふつう試せるようになるずっと前の、開発や社内の利用の間に起きた（※5）。
Hobbhahn 氏は、次の4つを提言した。同氏によると、実現には議員と開発元と外部の評価者の協力が要る（※5）。
- 資格のある外部の評価者が、社員と同等のアクセスで、開発や社内の利用の間もモデルを試せるようにする。
- 評価で見落としたときの備えとして、学習・評価・提供の間にモデルを動かす処理をすべて監視し、制御の仕組みを置く。
- 読めて推論に忠実な思考の連鎖を保つ。
- 橋が耐える重さを建てる前に予測できるように、モデルの安全の性質も予測できるよう、AIの学習を工学の科学にする。
Schemingに関わる言い方
| 英語の言い方 | 意味 | 使っている主体 |
|---|---|---|
| scheming | 開発者の意図しない目標を、本当の目的や能力を隠しながら追うこと | OpenAI、Apollo Research、Carlsmith 氏（※1、※2、※3） |
| deceptive alignment | scheming の別の呼び方として Carlsmith 氏が挙げた語 | Carlsmith 氏（※3） |
| covert actions | 課題に関わる情報をわざと伏せたりゆがめたりする行動。OpenAI がスキーミングを測る代わりの指標にした | OpenAI（※1） |
| in-context scheming | 文脈の中で与えた目標のために行うスキーミング | Apollo Research（※4） |
| sandbagging | 戦略的に実力より低い成績を出すこと | OpenAI（※1） |
| alignment faking | 学習で自分が変えられないよう、学習や評価の間だけアライメントが取れているようにふるまうこと | Apollo Research（※2） |
| anti-scheming | スキーミングを防ぐための原則や訓練に付ける語 | OpenAI（※1） |
| evaluation awareness | モデルが自分は評価されていると気づくこと | OpenAI、Apollo Research（※1、※6） |
Schemingに関連する用語
- ミスアライメント：AIのふるまいが、開発者や利用者の意図、またはAIに求められる行動の指針からずれること。スキーミングは、ずれを隠そうとする点で見つけにくい。
- 暴走エージェント：与えられた役割や許された範囲から外れ、人が意図しない行動をとるAIエージェント。
- 思考の監視可能性：AIが答える前に書き出す推論の過程を読んで、AIの不正なふるまいやその意図を見つけられる度合い。
Schemingに関する出典
※1 OpenAI「Detecting and reducing scheming in AI models」（2025年9月17日）
※2 Apollo Research「Towards embedded evaluations for scheming propensities」（2026年10月1日）
※3 Joe Carlsmith「Scheming AIs: Will AIs fake alignment during training in order to get power?」（2023年11月14日、11月27日改訂、arXiv）
※4 Apollo Research「Frontier Models are Capable of In-Context Scheming」（2024年12月5日）
※5 Marius Hobbhahn「On Testifying on Misaligned AI in the U.S. Senate」（2026年9月30日、Apollo Research）
※6 OpenAI「GPT-6 Astra System Card」（2026年9月3日、9月29日更新）
