本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

ジェイルブレイク(Jailbreak)とは・意味、手口・格付けの枠組み・事例

ジェイルブレイクとは?

ジェイルブレイク(Jailbreak)とは、生成AIのモデルに組み込まれた安全のための制限を、プロンプトの工夫などで回避させ、本来は断るはずの有害な回答や行動を引き出す手口のこと。英語の jailbreak は、一般に「脱獄」を意味する語だ。

国内では、情報処理推進機構(IPA)が2026年9月30日に掲載した基本情報技術者試験のシラバス案が、「AI システムに対する攻撃」の用語例にジェイルブレイクを挙げている。同じ日に掲載されたプロフェッショナルデジタルスキル試験(仮称)などの科目A-1のシラバス案も、同じ用語例に含めている。

AIへの攻撃の手口をまとめる MITRE の知識ベース「ATLAS」は、この手口を「LLM Jailbreak」と呼ぶ。ATLAS の説明では、攻撃者はLLMに安全のためのふるまいやガードレールを無視・回避・上書きさせ、モデルが出さないはずの出力を引き出そうとする。ジェイルブレイクは、敵対的なプロンプトのほか、モデルの重みや安全の仕組みを書き換えて行われることもある。

Amazon、Anthropic、Google、Meta、Microsoft、OpenAI が加盟する非営利の団体 Frontier Model Forum(FMF)は、成功したジェイルブレイクを、指定した版のモデルの安全策を回避する再現可能な方法と定めている。方法の例には、プロンプト、プロンプトのひな型、何往復かの手順、自動で実行するプログラムを挙げる。

似た語にプロンプトインジェクションがある。Anthropic は開発者向けの日本語の手引きで、ジェイルブレイクと直接型のプロンプトインジェクションでは、アプリの利用者自身が攻撃者になると説明している。間接型のプロンプトインジェクションは、AIが処理するWebページやメールなど第三者のコンテンツに指示が埋め込まれる攻撃として分けている。

セキュリティの国際団体 OWASP は2026年版のLLMアプリのリスクの一覧で、ジェイルブレイクを、攻撃者がモデルに安全の決まりを破らせることを狙うプロンプトインジェクションの一部として扱っている。1つの手法で禁止された多くの依頼に通じるものは、ユニバーサル・ジェイルブレイクと呼ばれる。

ジェイルブレイクの主な手口

ATLAS は、ジェイルブレイクのプロンプトを作るよくある手法として、次のようなものを挙げている。手法はこれらに限らないともしている。

  • 指示の上書き:「これまでの指示を無視して」のように、前に与えられた制約より優先させようとする言い回しを使う。
  • 役割や人格の切り替え:制限のない答えを許す人物やモードになりきるよう指示する。
  • 創作や仮定への置き換え:禁止された内容を、物語や脚本、教育用の場面の一部として盛り込むよう指示する。
  • 何往復かで少しずつ進める手法(Crescendo):無害な依頼から始めて信頼を築き、少しずつ方針の境界を越える依頼を重ねる。
  • 出力の形式の指定:JSON・YAML・コード・表など、決まった形式での出力を指示する。
  • 符号化や翻訳:base64 などの符号化、別の言語への翻訳、婉曲な言い方で依頼を包む。
  • 優先度の高い目的の設定:応じることが、評価を終える、仕様に従うといった本来の作業に必要だと装う。

ジェイルブレイクのプロンプトを自動で大量に作る手法もあると、ATLAS は説明している。人の手法を自動にするものもあれば、意味をなさない文字列を直接最適化するものもある。

オープンウェイトのモデルなど、攻撃者がモデルを丸ごと扱える場合には、重みを直接書き換える手口もある。制限のない版のモデルを作る方法として ATLAS が挙げるのは、拒否を減らす追加の学習やガードレールなどの安全の仕組みの除去などだ。

ジェイルブレイクが研究されるようになった経緯

Alexander Wei 氏らは2023年7月に arXiv で公開した論文で、安全のために訓練したLLMが悪用に弱いままであることを示す例として、初期の ChatGPT で望ましくないふるまいを引き出す「jailbreak」の攻撃が広く見られたことを挙げた。Wei 氏らは、こうした攻撃がなぜ成功し、どう作られるのかを調べている。

Xinyue Shen 氏らは2023年8月に公開し、2024年5月に改訂した論文で、Web のコミュニティやプロンプトを集めたサイトで共有された「jailbreak prompt」を分析した。対象は、2022年12月から2023年12月までに共有された1,405件のプロンプトだ。

ATLAS の LLM Jailbreak の項目は2023年10月25日に作られ、2026年9月15日に更新された。

ジェイルブレイクに関する主な出来事・ニュース

ジェイルブレイクを格付けする FMF の枠組み

FMF によると、成功したジェイルブレイクでも、もたらすリスクは大きく違う。実用には乏しい応答しか引き出せないものもあれば、悪意のある攻撃者に危険なサイバーの能力を与えうるものもある。公開の時点では、こうした評価を共通に行う方法がなかったという。そこで FMF は、加盟企業のセキュリティの専門家の意見をもとに、共通の語彙と採点の方法を示す暫定の枠組みを作った。

枠組みは、1つの成功したジェイルブレイクを4つの区分で採点する。

  • 能力の上積み(capability gain):ジェイルブレイクで攻撃者が実際に得るもの、引き出せる具体的なサイバーの能力。
  • 能力の範囲(capability scope):1つの事例だけで通じるのか、同じ手法がサイバーのリスクの多くの分野に通じるのか。
  • 攻撃への使いやすさ(ease of deployment):見つけたジェイルブレイクを、実際に動く攻撃に変えるのに必要な手間。
  • 見つけやすさ(ease of discovery):その手法を見つけるのに必要な資源。

前の2つは深刻さを、後の2つは実際に被害につながる起こりやすさを表す。最終の段階は、Negligible・Low・Medium・High・Critical の5つのどれかになる。

FMF の枠組みでジェイルブレイクを格付けする流れ1.0版(2026年11月)の手順。成功した1つのジェイルブレイクを対象にする
1
能力の上積みを見るジェイルブレイクで攻撃者が得られるサイバーの能力を段階で評価する0の段階なら、Negligible(無視できる)として格付けを終える
2
2つの軸を出す深刻さは能力の上積みと能力の範囲の和、起こりやすさは攻撃への使いやすさと見つけやすさの和深刻さは1〜6、起こりやすさは0〜6の値になる
3
暫定の段階を決める深刻さと起こりやすさの行列から、5つの段階のどれに当たるかを暫定で決める段階は Negligible・Low・Medium・High・Critical
4
上限と下限をかける能力の上積みの大きさで、最終の段階に上限と下限をかける能力の上積みが小さい手法は、安く確実に使えても高い段階にならない
出典:Frontier Model Forum「Jailbreak Rating Framework for Frontier Cyber Threats」(2026年11月5日)

採点の基準は、評価の時点で広く使えるモデルのうち、サイバーの能力が最も高いものに置く。1.0版では、この時点を2026年10月としている。基準となるモデルが変われば、同じジェイルブレイクでも点が変わる。

FMF は、枠組みが測るのはリスクの相対的な大きさで、あるジェイルブレイクが実際に起こしうる被害を見積もるものではないとしている。FMF が示した区分や段階、しきい値は議論の出発点で、そのまま運用に当てる指針ではないという。

FMF の枠組みより前の2026年7月には、Anthropic もサイバー分野のジェイルブレイクの深刻さを4つの軸で採点する案を示した。同社は、提携先と案を改良し、AI業界の内外のやりとりに役立つ、実用的で合意された基準にしたいとしていた。

ジェイルブレイクに関する事例・各社の評価

攻撃者は5層の指示でモデルを従わせようとした

Broadcom のセキュリティ部門 Symantec は2026年10月、無防備なAIモデルを見つけて乗っ取り、攻撃に使うエージェント「Skynet」の分析を公開した。同社は2026年の夏、無防備なAIサービスを装うおとりのシステムで、攻撃者が本物のモデルだと思って送った指示の一式を捕捉した。

攻撃者は商用のモデルを従わせるため、指示をジェイルブレイクで包み、安全の制御を無視するようモデルに命じていたと、Symantec は報告している。指示は5つの層でできていた。

  • 1層目:モデルの正体を偽り、本当のモデルや提供元を明かさないよう指示する。
  • 2層目:設定ファイルや APIキーなどの機密を読むことを、普通の開発の作業と言い換える。
  • 3層目:決して断らず攻撃者に尽くす、架空の仲間の人格をモデルに与える。
  • 4層目:モデル自身が出す安全のための注意を、雑音として退けさせる。
  • 5層目:偵察やデータベースの抜き取りなど、74の攻撃用の道具の定義を渡す。

Symantec は、正体の上書き、仲間の人格、注意を退けさせる決まりを、ATLAS の LLM Jailbreak に当てている。同社は、個々の手法は新しくないものの、1つの自律したエージェントにまとめたことで、幅広い攻撃に必要な技能の水準が下がると分析している。

ロボットをだます依頼を集めたASIMOV-Jailbreakを公開

Google DeepMind は2026年11月10日、ロボットを動かすAIモデル Gemini Robotics 2.5 の発表で、ジェイルブレイクへの強さを試すベンチマーク「ASIMOV-Jailbreak」をオープンソースで公開すると発表した。危険な依頼を別の依頼に見せかけたプロンプトを、数十の場面にわたって数百件収めている。

OpenAI は製品の安全策を外したモデル単体で試験

OpenAI は2026年9月に公開した GPT-6 Astra のシステムカードで、モデルのジェイルブレイクへの強さを2つの方法で評価した。どちらも、本番で使う安全策を外したモデル本体を直接攻撃する評価で、安全の仕組みの一つの層だけを測るものだと同社は説明している。

1つは、生物・暴力・サイバーセキュリティのリスクにわたる、難しい攻撃用のプロンプトを決まった数だけ集めて使う評価だ。プロンプトは、GPT のモデルを破るよう指示された GPT-Red などの攻撃役のモデルが作った。

もう1つは、モデルの答えを見ながら何往復かで手を変える攻撃役を使う評価だ。n回の攻撃のすべてで危険な手助けを避けた場合だけを成功とし、攻撃の回数ごとに成功の割合を見る。

OpenAI によると、GPT-6 Astra はジェイルブレイクへの耐性が GPT-5.6 Sol より大幅に高い。同社は、社内外のジェイルブレイクの試験と是正の取り組みでも、これを確かめたとしている。

ジェイルブレイクへの対策と評価の数字を読むときの注意

Anthropic は入力を事前に確かめる対策などを案内

Anthropic は日本語の手引きで、利用者がジェイルブレイクを仕掛ける場合に、アプリの開発者がとれる対策として次のようなものを挙げている。

  • 軽いモデルを使い、利用者の入力が本来の会話に届く前に、有害かどうかを確かめる。
  • 既知のジェイルブレイクの文言を例として示し、入力をふるい分ける。
  • 倫理や法律の境界と、どう断るかを、システムプロンプトで明確に伝える。
  • 制限を繰り返し回避しようとする利用者には、応答を調整し、利用の制限や禁止を検討する。
  • 不正な指示が通った兆しがないか出力を定期的に分析し、プロンプトや入力の確かめ方、ふるい分けの方法を改める。

Anthropic は利用ポリシーでジェイルブレイクを禁止

Anthropic の利用ポリシー(Usage Policy、2026年11月12日施行)は、同社の事前の許可なく、製品に設けた機能や制限、ガードレールを意図的に回避することを禁じている。回避の方法の例として、有害な出力を出すようモデルに指示するジェイルブレイクとプロンプトインジェクションを挙げている。

システムカードの評価はモデル単体の強さを測る

OpenAI は、本番ではシステムカードの評価で外した分類器などの安全策も加わり、利用者がジェイルブレイクで有害な手助けを得るのはずっと難しくなるとしている。

FMF も、ジェイルブレイクへの安全策は、安全とセキュリティのより広い対策の中に置かれるものだとしている。あるジェイルブレイクの影響は、ほかにどんな防御があるかにもよるため、枠組みで高い点が付いても、それだけでシステム全体のリスクを表すものではないという。

ジェイルブレイクの英語での言い方

英語表記 意味 使用主体
jailbreak AIの安全策を回避して、安全策が防ぐはずの手助けや情報を引き出す手口 FMF、Anthropic、OpenAI
jailbreaking ジェイルブレイクを仕掛けること Anthropic、OWASP
LLM Jailbreak ATLAS が収録するLLMへの攻撃の手口の名前 MITRE
jailbreak prompt ジェイルブレイクに使うプロンプト Shen 氏ら
cyber jailbreak サイバー攻撃の能力を引き出すジェイルブレイク FMF

ジェイルブレイクに関連する用語

ジェイルブレイクに関する出典

情報処理推進機構「基本情報技術者試験 シラバス(案)Ver.0.1」(2026年9月30日掲載)
情報処理推進機構「プロフェッショナルデジタルスキル試験(仮称)及び情報処理安全確保支援士試験 科目A-1(共通知識)シラバス(案)Ver.0.1」(2026年9月30日掲載)
MITRE「ATLAS-2026.10.yaml(AML.T0054 LLM Jailbreak)」(2026年10月28日)
Frontier Model Forum「Jailbreak Rating Framework for Frontier Cyber Threats」(2026年11月5日)
Frontier Model Forum「Jailbreak Rating Framework for Frontier Cyber Threats(PDF、Version 1.0)」(2026年11月5日)
Anthropic「ジェイルブレイクとプロンプトインジェクションを軽減する」
OWASP GenAI Security Project「OWASP GenAI LLM Top 10 2026」(2026年8月3日)
Alexander Wei ほか「Jailbroken: How Does LLM Safety Training Fail?」(2023年7月5日、arXiv)
Xinyue Shen ほか「“Do Anything Now”: Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models」(2023年8月7日、2024年5月15日改訂、arXiv)
Anthropic「Fable 5’s cyber safeguards and our jailbreak framework」(2026年7月2日)
Symantec「Autonomous LLMjacking: ‘Skynet’ Agent Hijacks Exposed AI Models to Run Attacks」(2026年10月21日)
Google DeepMind「Gemini Robotics 2.5 accelerates real-world general dexterity」(2026年11月10日)
OpenAI「GPT-6 Astra System Card」(2026年9月3日)
Anthropic「Usage Policy」(2026年11月12日施行)
Frontier Model Forum「Introducing the FMF Jailbreak Rating Framework for Frontier Cyber Threats」(2026年11月5日)
情報処理推進機構「新試験制度のシラバス案について」(2026年6月30日公開、10月30日更新)

ジェイルブレイクに関連する記事