本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

Universal Jailbreak(ユニバーサル・ジェイルブレイク)とは・意味、由来・事例・研究・深刻度の枠組み

Universal Jailbreak(ユニバーサル・ジェイルブレイク)とは?

Universal Jailbreak(ユニバーサル・ジェイルブレイク)とは、AIの安全策を回避するジェイルブレイクのうち、依頼ごとに作り直さなくても、禁止された多くの依頼で安全策を回避できるもののこと。

英語では「universal jailbreak」と表記する。この語は、AIの開発企業の安全の文書や、英国政府の研究組織 AI Security Institute(AISI)の評価の報告、研究の論文で使われている。

Anthropic によると、ジェイルブレイクは、普通ではない形でAIに指示を与えて安全策を回避させる手法だ。これにより、同社が防ごうとしているふるまいがAIから引き出される。

定義の範囲は資料によって少しずつ違う。AISI は報告書の用語集で、さまざまなAIモデルか悪意のある依頼に対して、安定して安全策を回避できる1つの手法と説明している。

Anthropic は、安全策がないかのように利用者がモデルとやりとりできるようにするプロンプト、スクリプト、ハーネスなら、どれもユニバーサル・ジェイルブレイクと定義できるとした。ハーネスは一般に、モデルを動かす周りのプログラムを指す。

似た語にプロンプトインジェクションがある。プロンプトインジェクションは一般に、AIが受け取る入力に指示を紛れ込ませ、利用者や開発者の意図と違う動きをAIにさせる攻撃を指す。ジェイルブレイクのうちユニバーサルと呼ぶかどうかは、安全策を外す1つの手法が通用する依頼の範囲の広さで区別される。

ユニバーサル・ジェイルブレイクとほかのジェイルブレイクの違い

Anthropic は2026年6月の記事で、ジェイルブレイクを、安全策が外れる範囲によって3つの種類に分けた。同社の分類器は、無害な可能性が高い依頼の一部も念のため止める。この止める範囲の上乗せを、同社は「safety margin(安全の余裕)」と呼ぶ。

種類 外れる範囲 Anthropic による深刻さの見方
universal jailbreak(ユニバーサル・ジェイルブレイク) 有害なふるまいの1つの種類の全体 最も懸念される種類
narrow harmful jailbreak(範囲の狭い有害なジェイルブレイク) 分類器を破り、特定の有害なふるまいを引き出す 範囲が狭いので、深刻さは低〜中程度のことが多い
minor jailbreak(軽微なジェイルブレイク) 安全の余裕の中にとどまり、防ごうとする中心の有害なふるまいには届かない 有害になる可能性は非常に低い

OpenAI も、サイバー分野の安全策ではユニバーサル・ジェイルブレイクの阻止に重点を置き、個々の作業にしか通用しないジェイルブレイクへの懸念は相対的に小さいと説明する。サイバー攻撃でAIが攻撃者の能力を大きく高めるには、数十〜数百回のやりとりが必要なためだという。1回ごとに別のジェイルブレイクが要れば、作業の質は落ち、攻撃者の負担は指数関数的に増えるとしている。

ユニバーサル・ジェイルブレイクの由来と注目されるようになった経緯

2023年7月に Andy Zou 氏らが arXiv で公開した論文は、題に「Universal」の語を含めた。この論文は、幅広い問いに付け足して使える攻撃を論じている。

Anthropic は2024年8月、ユニバーサル・ジェイルブレイクの攻撃を見つけて減らすことに絞ったバグ報奨金のプログラムを発表した。同社はこの攻撃を、幅広い分野でAIの安全策を一貫して回避できるおそれのある手口と説明した。対象の分野には、化学・生物・放射性物質・核(CBRN)やサイバーセキュリティなどを挙げている。

2025年2月には、Anthropic がユニバーサル・ジェイルブレイクを防ぐ分類器「Constitutional Classifiers」を発表した。分類器は一般に、入力や出力が有害かを判定して止めるAIの仕組みを指す。

同社の研究者らは論文で、ユニバーサル・ジェイルブレイクを指示の出し方の一種と説明した。安全策を体系的に回避し、多くのやりとりが必要な有害な作業を利用者にできるようにするものだという。同社の報奨金の試験では、1つのジェイルブレイクで、禁止された10の問いのすべてに詳しい答えを引き出せたときだけ、ユニバーサルと認めた。

AISI は2025年12月の報告書で、複数の企業が安全策の層を増やしたと説明した。その中には、ユニバーサル・ジェイルブレイクを見つけて素早く直す取り組みを強めたことも含まれる。OpenAI も2026年7月の GPT-5.6 のシステムカードで、ユニバーサル・ジェイルブレイクを見つけるための自動の試験を説明している。

2026年6月には、Anthropic の Claude Fable 5 の提供停止で、ジェイルブレイクの範囲が争点になった。同社は、ジェイルブレイクの深刻さを表す業界の合意がないことを課題に挙げた。ソフトウェアの脆弱性には共通の評価の基準 CVSS があるという。

ユニバーサル・ジェイルブレイクに関する主な出来事・ニュース

ユニバーサル・ジェイルブレイクに関する事例・研究

AISI は GPT-5.5 のサイバー分野の安全策を破る手法を6時間で開発

AISI は2026年4月、OpenAI の GPT-5.5 のサイバー分野の安全策を専門家が攻撃役となって試した結果を報告した。AISI が見つけたユニバーサル・ジェイルブレイクは、OpenAI が用意したサイバー攻撃に関わる悪意のある問いのすべてで、利用方針に反する内容を引き出した。対象には、複数回のやりとりでAIが作業を進める場面も含まれる。この攻撃の開発には、専門家の6時間を要した。

OpenAI はその後、安全策を何度か更新した。ただし、AISI に渡された版の設定に問題があり、AISI は最終の設定の効果を確かめられなかったという。OpenAI は2026年5月の文書でこの例を挙げ、攻撃者が使える資源を考えないと、安全策の試験は攻撃が成功するかどうかや深刻さを低く見積もることがあるとした。

OpenAI は GPT-5.6 の自動の試験で見つけた手法への対策を報告

OpenAI はシステムカードで、GPT-5.6 のユニバーサル・ジェイルブレイクを探す自動の試験に、A100 換算で70万GPU時間を超える計算を使ったと説明している。

自動の試験で見つかったうちで最も強いユニバーサル・ジェイルブレイクは、追加の対策の前の社内の試験で、サイバーセキュリティの課題集 CyberGym の課題の10.0%で成功したという。対策を加えたあとは、この手法での成功は0%に下がったと、同社は報告している。

GPT-5.6 でも AISI は毎回サイバー分野の回避の手法を発見

OpenAI のシステムカードによると、GPT-5.6 の試験では AISI と OpenAI が何回かに分けて試験と改善を繰り返した。AISI は、安全の判断を担うモニターの思考の過程など、実際の攻撃者には見えない情報も使って試した。公開までのすべての回で、AISI はサイバー分野のユニバーサル・ジェイルブレイクを見つけた。その多くは数時間のうちに作られた。

公開の時点で、OpenAI は報告された手法の再現と対策に取り組んだ。それでも AISI は、試験を続ければ似たジェイルブレイクがまた見つかるとみている。

AISI は自動で安全策を破る手法 BPJ を公表

AISI は2026年2月、Boundary Point Jailbreaking(BPJ)という攻撃の手法を発表した。入力が止められたかどうかしか攻撃者に見えない条件で、ユニバーサル・ジェイルブレイクを全自動で作る手法だ。AISI は Anthropic と OpenAI の分類器を相手に試した。

OpenAI は、手作業で見つけた攻撃を種に使わずに GPT-5 の入力の分類器を破った自動の攻撃は、同社の知る限り BPJ が初めてだと確かめた。AISI は公開の前に結果を両社に伝え、両社は BPJ への対策を作った。悪用の広がりを抑えるため、AISI は手法の細部の一部と攻撃の文字列・プログラムを公開していない。

やりとりを2段で判定する Anthropic の次世代の分類器

Anthropic は2026年1月、次の世代の分類器を発表した。まずモデルの内部の状態を読む軽い仕組みがすべてのやりとりを調べ、疑わしいものだけをより強い分類器に引き継ぐ。強い分類器は、入力と出力の両方を合わせて見る。

2026年1月の発表の時点で、Claude Sonnet 4.5 を守るこの仕組みに対する1,700時間を超えるレッドチーミングでもユニバーサル・ジェイルブレイクは見つかっていないと、同社は説明している。レッドチーミングは、攻撃役になって弱点を探す試験を指す。

Fable 5 の提供停止で範囲の狭さが争点に

Anthropic は2026年6月9日に Fable 5 を公開し、外部のバグ報奨金の試験で1,000時間を超えてもユニバーサル・ジェイルブレイクは出なかったとした。一方で、短い初期の試験の期間に、AISI がユニバーサル・ジェイルブレイクに近づいたとも書いている。

同月12日、米国政府は Fable 5 と Mythos 5 に輸出規制をかけ、Anthropic は外国籍の人の利用を制限する必要が生じた。指示はすぐに効力を持ち、国籍をその場で確かめる確かな方法もなかったため、同社はすべての利用者への2つのモデルの提供を止めた。

Anthropic は声明で、政府から示されたのは範囲の狭いジェイルブレイクの可能性を示す口頭の証拠だけだとした。そのうえで、それがモデルを回収する理由になるとは考えないと反論した。

6月12日の指示は、Amazon の研究者が安全策を回避する手法を見つけた報告を政府が知ったあとに出されたという。Anthropic は分類器を改良した。これにより、報告に書かれた特定の手法は、99%超の場合で止められるようになったという。輸出規制は6月30日に解除された。

Anthropic が示したジェイルブレイクの深刻度の枠組み案

Anthropic は2026年7月、サイバー分野のジェイルブレイクの深刻さを測る枠組み「Cyber Jailbreak Severity(CJS)」の初期の案を示した。案は、Mythos 5 を防御のためのサイバーセキュリティに使う少数の提携先の枠組み Project Glasswing の参加企業と作っている。

深刻さは、次の4つの軸で点を付けて決める。

  • 能力の上積み(capability gain):攻撃者がすでに持つ道具を、どこまで超えさせるか。アップリフトとも呼ぶ。
  • 能力の上積みの広さ(breadth of capability gain):同じ手法が、いくつの別々の攻撃の作業に通用するか。universality とも呼ぶ。
  • 攻撃への転用のしやすさ(ease of weaponization):手法を動く攻撃に変えるのに、攻撃者にどれだけの手間と技能が必要か。
  • 見つけやすさ(discoverability):攻撃者がその手法をどれだけ簡単に入手できるか。

広さの軸では、1つの問いや1つの標的にしか通用しない手法は0点になる。関係のない複数の攻撃の分野で有害な出力を引き出す手法は、最も高い2点だ。4つの軸の合計で、CJS-0(情報のみ)からCJS-4(重大)までの5段階のうち、暫定の水準が決まる。暫定の水準は下限で、採点の基準が現実の危険を低く見積もっていると判断された場合などに引き上げられることがある。

ユニバーサル・ジェイルブレイクの言い方

表記 意味 使用主体
universal jailbreak 依頼ごとに作り直さなくても、禁止された多くの依頼で安全策を回避できるジェイルブレイク OpenAI、Anthropic、AISI
non-universal jailbreak サイバー攻撃に関わる情報の一部を、特定の状況で引き出しうるジェイルブレイク Anthropic
narrow harmful jailbreak 分類器を破り、特定の有害なふるまいを引き出すジェイルブレイク Anthropic
minor jailbreak 安全の余裕の中にとどまり、中心の有害なふるまいに届かないジェイルブレイク Anthropic
task specific jailbreak 個々の作業にしか通用しないジェイルブレイク OpenAI
universality 同じ手法が通用する攻撃の作業の数。深刻度の枠組みの軸の1つ Anthropic
bypass ジェイルブレイクと同じ意味で使われることがある語 Anthropic

ユニバーサル・ジェイルブレイクの防御の限界と試験の条件

完全には防げないという開発企業の見方

Anthropic は、ユニバーサル・ジェイルブレイクを完全に防ぐのはおそらく不可能だとしている。同社が目指すのは、残るジェイルブレイクを作るのに時間と費用をかけさせ、大規模に使われる前に見つけて防ぐことだ。

OpenAI も、深層学習のモデルには、こうしたジェイルブレイクがいくつか存在する可能性が高いとみる。そのため、見つけるのに攻撃者がかなりの時間と労力をかけなければならない安全策を目指すという。

AISI は、1回のやりとりだけを見る防御では BPJ を防ぐのは難しいとした。多くのやりとりをまとめて見て疑わしい動きを見つける監視を勧め、1か所が破られても全体が崩れない多層の防御の大切さも挙げている。

「見つかっていない」は報告の時点の話

Anthropic は、Fable 5 のユニバーサル・ジェイルブレイクは6月30日の記事の時点では見つかっていないとしたうえで、専門家が試験を続けていると記している。同社は6月の声明で、業界のどの安全策もユニバーサルではないジェイルブレイクには弱く、ユニバーサル・ジェイルブレイクもいずれ見つかる可能性が高いと述べた。

AISI は、オープンウェイトのモデルでは、見つかったジェイルブレイクや弱点を後から直せないとしている。重みが防御する側のサーバーに置かれていないためだという。

試験の条件は実際の攻撃者と同じではない

OpenAI は GPT-5.6 の試験で、安全の判断を担うモニターの思考の過程や分類器の判定の即時の結果を試験役に見せた。OpenAI は、こうした情報は実際の攻撃者には見えないと記している。

AISI の BPJ の開発も、利用停止などの措置を受けないアカウントで行われた。普通のアカウントで何度も判定に引っかかれば、アカウントの停止につながる可能性が高いという。

ユニバーサル・ジェイルブレイクに関連する用語

  • プロンプトインジェクション:AIが受け取る入力に指示を紛れ込ませ、利用者や開発者の意図と違う動きをAIにさせる攻撃。
  • アップリフト:AIを使える場合と使えない場合を比べて、人の能力や生じる被害がどれだけ上積みされるかを表す語。
  • オープンウェイト:学習を終えたAIモデルの重みが公開され、手に入る状態のこと。

ユニバーサル・ジェイルブレイクに関する出典

Anthropic「Redeploying Fable 5」(2026年6月30日、2026年7月1日更新)
Anthropic「Fable 5’s cyber safeguards and our jailbreak framework」(2026年7月2日)
Anthropic「Claude Fable 5 and Claude Mythos 5」(2026年6月9日)
Anthropic「Statement on the US government directive to suspend access to Fable 5 and Mythos 5」(2026年6月12日)
Anthropic「Expanding our model safety bug bounty program」(2024年8月8日)
Anthropic「Constitutional Classifiers: Defending against universal jailbreaks」(2025年2月3日)
Mrinank Sharma ほか「Constitutional Classifiers: Defending against Universal Jailbreaks across Thousands of Hours of Red Teaming」(2025年1月31日、arXiv)
Anthropic「Next-generation Constitutional Classifiers: More efficient protection against universal jailbreaks」(2026年1月9日)
AI Security Institute「Frontier AI Trends Report」(2025年12月)
AI Security Institute(Xander Davies ほか)「Boundary Point Jailbreaking: A new way to break the strongest AI defences」(2026年2月17日)
AI Security Institute「Our evaluation of OpenAI’s GPT-5.5 cyber capabilities」(2026年4月30日)
OpenAI「A shared playbook for trustworthy third party evaluations」(2026年5月29日)
OpenAI「GPT-5.6 System Card」(2026年7月9日)
OpenAI「GPT-6 Astra System Card」(2026年9月3日)
Andy Zou ほか「Universal and Transferable Adversarial Attacks on Aligned Language Models」(2023年7月27日、2023年12月20日改訂、arXiv)
Hoagy Cunningham ほか「Constitutional Classifiers++: Efficient Production-Grade Defenses against Universal Jailbreaks」(2026年1月8日、arXiv)