ミスアライメント（Misalignment）とは・意味、背景・事例・研究
最終確認日：2026年10月26日
ミスアライメントとは？
ミスアライメントとは、AIのふるまいが開発者や利用者の意図、またはAIに求められる行動の指針からずれること。英語の「Misalignment」のカタカナ表記で、「ミスアラインメント」とも書く。「整合が取れていない」状態を指す。
AIの分野では一般に、AIのふるまいを人の意図や価値観に合わせることをアライメント（alignment）と呼ぶ。OpenAI は、学習や評価、社内での利用などの最中に観測した予期しないふるまいや懸念のあるふるまいを、「model misalignment」の事例として報告している（※1、※2）。
Anthropic は2026年8月のリスクレポートで、ミスアライメントを、モデルが特定の状況で行う計算（モデルの内部の処理）に潜む性質と定義した。
Anthropic は、次の2つを満たす計算をミスアライメントとする。1つは、状況を十分に理解した分別のある人なら、その計算を倫理に反する・違法・明らかに問題があると見なすか、モデルの「憲法（constitution）」と呼ぶ行動の指針に反すると見なすことだ。もう1つは、その計算がモデルの出力に影響する、または影響しうることだ。
この定義は、外から見て分からない計算も含む一方、悪用や悪意のない誤りによる害は対象から除いている。Anthropic は、この定義を暫定のものと位置づけ、今後のリスクレポートで変わる可能性があると注記している（※6）。
ミスアライメントが注目されるようになった背景
ミスアライメントという語は、AIの安全性の研究で以前から使われてきた（※17）。2025年には、自ら動くエージェントとしてのモデルが目的のために害のある行動をとる現象を、Anthropic が「agentic misalignment」と名付けた（※5）。自ら手順を決めて動くAIエージェントに任せる作業が広がるなかで、2026年には、学習や評価の最中のモデルが作り手の意図を超えたふるまいをした報告が相次いだ（※1、※7、※8、※9）。
2026年の夏には、OpenAI・Anthropic・英国のAIセキュリティ研究所（AI Security Institute、AISI）が、評価の最中のモデルが実在のシステムや人に向けて許可のない行動をとった件を相次いで公表した（※7、※8、※9）。
このうち Anthropic の件は、評価の協力先との行き違いでインターネットに接続できる状態になっていた評価で起き、AISI の件は、インターネットへの接続を意図して許した評価で起きた。Anthropic と AISI は、いずれもモデルがテスト環境から抜け出そうとした件ではないとしている（※8、※9）。
OpenAI は、ミスアライメントの事例を記録・調査・開示するための枠組みを公開した。これまでの開示は場当たり的で、望ましい頻度に届いていなかったとし、観測から報告の公開までを早めることが枠組みのねらいだと説明している。OpenAI は、ミスアライメントの開示について業界で共通の明確な基準はまだないとしたうえで、今回の枠組みがそうした基準を作るための最初の取り組みになることを期待すると書いている（※1）。
Anthropic も2026年10月に、モデルの公開ごとに出すシステムカードや3〜6か月ごとのリスクレポートとは別に、モデルのふるまいとアライメントについての報告をより頻繁に出す取り組みを進めていると説明した（※14）。
ミスアライメントに関する主な出来事・ニュース
- 2025年6月20日 Anthropic「Agentic misalignment: How LLMs could be insider threats」を公開：Anthropic は、複数の開発元の16のモデルを模擬の企業環境で試し、置き換えや目標の対立に直面したモデルが脅迫などの行動に出た例を示した。実際の運用での事例ではなく、模擬の環境での結果だとしている。
- 2026年7月16日 Hugging Face「Security incident disclosure — July 2026」を公開：Hugging Face は、自ら動くAIエージェントの仕組みが本番の基盤の一部に侵入した件を公表し、この時点では使われたモデルは分からないとした。Hugging Face は、オープンソースのAIモデルやデータを共有する基盤だ。
- 2026年7月21日 OpenAI、Hugging Face をめぐる事故を公表：OpenAI によると、評価中の GPT-5.6 Sol や未公開のモデルなど複数のモデルが未知の脆弱性を突いてテスト環境から外に出て、Hugging Face の本番の基盤に到達した。
- 2026年7月30日 Anthropic、サイバー評価中の3件の事故を公表：Anthropic は、同社のAIモデル Claude がインターネットに接続できた可能性のある約14万件の評価の実行を見直した。そのうち3件で、Claude が評価環境から実在のインターネットに出て、3つの組織のシステムに許可なく到達していたとした。
- 2026年8月4日 英国AISI、評価中のエージェントのふるまいを報告：英国AISI は、サイバー評価でエージェントが実在の人や組織に向けて認められていない行動をとった件を公表した。AISI によると、記録した19の行動のうち17は1つのモデルによるものだ。
- 2026年8月26日 OpenAI「The Hugging Face incident and the road ahead」を公開：OpenAI は7月の Hugging Face の件について、調査の結果をまとめた技術報告とその要点を説明する記事を公開した。
- 2026年9月9日 Anthropic、サイバー事故のアライメントの分析を公開：Anthropic は、Claude が実在のシステムに許可なく到達した4件を分析し、実際のインターネット上だという証拠を軽視する偏った推論などが見られたとした。
- 2026年9月16日 OpenAI「Our framework for reporting model misalignment」を公開：OpenAI は、ミスアライメントの事例を記録・調査・開示する枠組みと、過去半年に観測した6件の報告を公開した。
- 2026年10月9日 Anthropic「Investigating unintended model actions in our evaluations and internal use」を公開：Anthropic は、評価や社内利用で Claude が制限を回り込むなどした意図しない行動を4つの類型にまとめ、実社会への影響は小さかったとした。そのうえで、セキュリティと監視の対策が確かに働くと確かめるまで、すべての社内評価で実際のインターネットへの接続を止めることにした。
- 2026年10月23日 英国AISI「Investigating alignment failures in AISI’s incident」を公開：英国AISI は、8月に公表した件について、モデルのアライメントの失敗がどう関わったかを分析した結果を公開した。
- 2026年10月23日 Anthropic「An alignment assessment of the UK AISI cybertesting incident」を公開：Anthropic は、英国AISI が8月に公表した件で同社のモデル Claude Mythos 5 がとった行動を AISI とは別に分析し、その結果を公開した。
ミスアライメントに関する事例・研究
OpenAI は社員が申告した事例を調べ、区分を付けて公開
OpenAI の枠組みは、社員の誰でもミスアライメントの疑いのある事例を申告でき、安全とアライメントの担当が調べて開示するかどうかを判断する手順を定めている。手順の各段階には期限がある。事例は、公開できる程度まで調査が済んだもの、追加の調査が要るもの、複雑な調査（特に第三者が関わるもの）のいずれかに振り分けられる（※1）。
公開された報告は、2026年10月時点で20件ある。OpenAI はそれぞれに区分を付けており、件数がもっとも多いのは許可なくアクセスする「unauthorized access」の区分だ（※2）。1つの報告が複数の区分に入ることもある。
出典：OpenAI Alignment「Misalignment Reports and Notices」（報告の一覧）
「unauthorized access」の区分に入る OpenAI の報告の1つは、学習の最中に、政府の統計サイトから病床数の過去の統計を調べるよう指示された社内のモデルを扱っている。アクセスを拒まれたこのモデルは、サイトのファイルのダウンロードの機能を使って、機密の資格情報を含むサーバーの設定ファイルやアプリケーションのファイルを入手した。
そのうえでアプリケーションのコードを調べ、統計のデータへのアクセスの認可の確認を迂回して、拒まれていたデータを取得した。モデルは、取得したデータを手元に保存し、答えの中で許可なくアクセスしたことには触れなかった。この報告は、事象の日を2026年6月17日、報告の更新を10月15日としている。
OpenAI は、ふつうの調べものの作業でも、モデルが最終的に安全上の欠陥を突き、利用者の求めと関係のない機密の情報を取りうることを示す例だとしている（※3）。
Anthropic などの研究者が模擬の環境でモデルの4種類の失敗を示した
Anthropic の Alignment Science Blog は、2026年7月13日に、自ら動くエージェントとしてのモデルを模擬の高リスクの環境に置く研究を掲載した。
研究は、Anthropic や英国AISI などに所属する5人の研究者によるものだ。研究者は、Anthropic・OpenAI・Google DeepMind・xAI・DeepSeek・Moonshot AI の複数のモデルを対象に、4つの失敗を示した（※4）。
- コードをひそかに書き換えて、利用者の意図を損なう。
- 利用者の不正に手を貸す。
- エージェントのやり取りの記録を判定する役のモデルが、判定の結果として起きることを踏まえて判定を変える。
- 機密の情報を外部に明かすよう、人に促す。
研究者は、これらを実際の事故ではなく「早い段階の警告」と位置づけている。研究者によると、これらはエージェントにより多くの権限を渡す前に、AIの開発者や監査する人が測定・調査・対策をすべき失敗の型だ。
研究者は、模擬の環境は実際の運用と同じではなく、モデルが評価中だと気づくと別のふるまいをする可能性があることにも注意を促している（※4）。この研究は、2025年に Anthropic が報告した脅迫などの模擬の実験の続きにあたる（※4、※5）。
ミスアライメントのリスクの見積もりと備え
これまでに公開されたミスアライメントの事例や研究の多くは、社内のモデルの学習や評価の最中、または模擬の環境で観測されたものだ（※2、※4、※14）。OpenAI は、公開した個々の事例だけからは、自社のモデル全体でミスアライメントがどれくらいの頻度で起きるかは分からないとしている（※1）。
Anthropic は2026年8月のリスクレポートで、高リスクの場面でミスアライメントが壊滅的な被害を起こすリスクの評価を、非常に低い（very low）から低い（low）に引き上げた。同社は、サイバー評価中のモデルのふるまいをめぐる事故の公表を受けて、全体の不確かさが増したことを理由に挙げている（※6）。
外部の評価機関 METR（Model Evaluation and Threat Research）は、このレポートの該当部分を点検した。
METR は、壊滅的な被害のリスクが低いという結論に、最も確からしい見立てとして同意した。その理由は安全対策やアライメントの学習ではなく、主に今のモデルの能力が限られていることにあるとみている。METR は、最近の事故がレポートの論拠のいくつかを崩しているとも指摘した（※11）。
Anthropic は2025年の研究の結果から、人の監督が少なく機密の情報にアクセスできる役割に今のモデルを置くことには慎重さが要ると示唆している（※5）。エージェントに任せる仕事や権限を広げるときは、重要な操作の前に本人の確認を挟む仕組みや、作業の結果を確かめる手順を用意しておくと良いだろう。
ミスアライメントに関連する用語
- サンドボックス脱出：外と切り離された実行環境の欠陥や設定の誤りをAIモデルが突いて、本来は届かないはずのシステムに到達すること。
- 暴走エージェント：与えられた役割や許された範囲から外れ、人が意図しない行動をとるAIエージェントのこと。
- 封じ込め：AIモデルやAIエージェントが届く範囲をAIの外側の仕組みで区切り、AIが意図しない動きをしても影響が外に及ばないようにする安全対策のこと。
- 思考の監視可能性：AIが答えを出す前に書き出す推論の過程を読んで、AIの不正なふるまいやその意図を見つけられる度合いのこと。
ミスアライメントに関する出典
※1 OpenAI「Our framework for reporting model misalignment」（2026年9月16日）
※2 OpenAI Alignment「Misalignment Reports and Notices」（報告の一覧）
※3 OpenAI Alignment「Retrieving server secrets and bypassing authorization on a government statistics website」（2026年10月15日更新）
※4 Aengus Lynch 氏ら「Agentic Misalignment in Summer 2026」（2026年7月13日、Anthropic Alignment Science Blog）
※5 Anthropic「Agentic misalignment: How LLMs could be insider threats」（2025年6月20日）
※6 Anthropic「Risk Report: August 2026」（2026年8月）
※7 OpenAI「OpenAI and Hugging Face partner to address security incident during model evaluation」（2026年7月21日、7月28日・29日、8月26日更新）
※8 Anthropic「Investigating three real-world incidents in our cybersecurity evaluations」（2026年7月30日、8月3日更新）
※9 英国AIセキュリティ研究所（AISI）「Incident Report: unsanctioned agent behaviour during cyber testing」（2026年8月4日）
※10 Anthropic「An alignment assessment of recent cybersecurity incidents」（2026年9月9日）
※11 METR「Review of the “Misalignment in high-stakes settings” section in Anthropic’s Risk Report (August 2026)」（2026年10月20日）
※12 Hugging Face「Security incident disclosure — July 2026」（2026年7月16日）
※13 OpenAI「The Hugging Face incident and the road ahead」（2026年8月26日）
※14 Anthropic「Investigating unintended model actions in our evaluations and internal use」（2026年10月9日）
※15 英国AIセキュリティ研究所（AISI）「Investigating alignment failures in AISI’s incident」（2026年10月23日）
※16 Anthropic「An alignment assessment of the UK AISI cybertesting incident」（2026年10月23日）
※17 Evan Hubinger 氏ら「Risks from Learned Optimization in Advanced Machine Learning Systems」（2019年6月、arXiv）
