AIペネトレーションテスト(AI Penetration Testing)とは・意味、事例・安全策・限界

AIペネトレーションテストとは?
AIペネトレーションテスト(AI Penetration Testing)とは、AIを使って、またはAIシステムを対象にして、攻撃者と同じ手法で攻撃が成り立つかを確かめるペネトレーションテスト(侵入テスト)のこと。
ペネトレーションテストは、AIが広まる前からある情報セキュリティの試験だ。米国立標準技術研究所(NIST)の用語集が挙げる定義の一つでは、ペネトレーションテストは、評価する担当者が多くは決められた制約の下でシステムのセキュリティの機能をかいくぐったり破ったりしようとする試験の方法だ。
日本語で発表されたサービスでは、AIを試験の道具にするものと、AIを試験の対象にするもののどちらにも「ペネトレーションテスト」の語が使われている。GMOサイバーセキュリティ byイエラエは、社内で使うAIエージェントやチャットボットを対象にした試験と、AIの基盤で脆弱性を探す試験の両方をペネトレーションテストの名前で提供している。
AIペネトレーションテストの2つの意味
2つの意味は、AIが試験をする側にいるか、試験される側にいるかで分かれる。
| 意味 | 試験の対象 | AIの役割 | 例 |
|---|---|---|---|
| AIで行うペネトレーションテスト | 社外に公開したサーバーや基幹システム、自社のネットワークなど | 脆弱性を探し、攻撃が成り立つかを試す | GMOサイバーセキュリティ byイエラエ「AIホワイトハッカー ペネトレーションテスト」、ThreatBook「RedAgents」 |
| AIシステムを対象にするペネトレーションテスト | 社内のAIエージェント、チャットボット、RAG のシステムなど | 試験される側。不正な指示や権限の悪用に耐えられるかを確かめる | GMOサイバーセキュリティ byイエラエ「AIエージェントペネトレーションテスト」、Cisco「AI Defense」のレッドチーミング |
※2026年11月時点
ThreatBook は2026年10月、ペネトレーションテストを行う複数のAIエージェントを、同じ対象に同時に動かせるサービスを始めた。
GMOサイバーセキュリティ byイエラエのAIエージェントの試験は、プロンプトインジェクションの動作の検証に加え、AIが持つ権限や扱えるデータ、つながったシステムも対象にする。同社は、AIを入り口にした情報漏えいや不正な操作のリスクを明らかにするとしている。調べる対象の例として同社は、RAG(検索拡張生成)のシステムや Microsoft 365 Copilot などのAIサービスを挙げている。
AIペネトレーションテストが広まった経緯
LLM(大規模言語モデル)をペネトレーションテストに使う研究の先行例には、Gelei Deng 氏らが2023年8月に arXiv で公開した論文がある。Deng 氏らはこの論文で、LLMを使って自動でペネトレーションテストを進める道具「PentestGPT」を示した。
日本の AI セーフティ・インスティテュート(AISI)は2025年3月31日、AIシステムに攻撃者の視点から対策の有効性を確かめる「レッドチーミング」の手引きの第1.10版を公開した。手引きの主な読者は、AIシステムの開発や提供に関わる事業者だ。GMOサイバーセキュリティ byイエラエは、2026年4月に始めたAIエージェントの試験で、この手引きに基づく検証もできるとしている。
セキュリティの各社は2026年の秋、AIで行う試験の道具が攻撃にも使われていると相次いで報告した。報告の中心は、LLMで動く複数のエージェントがペネトレーションテストを進めるオープンソースの枠組み ARTEX だ。
ARTEX の発展版を自社のサービスに組み込んだ ThreatBook によると、ARTEX のオープンソース版は RedAgents の製品責任者が個人のプロジェクトとして作ったものだ。同社は、このオープンソース版が攻撃者に悪用されて金融業で大規模な事案が複数起き、2026年10月8日にソースコードを非公開に切り替えたとしている。
AIペネトレーションテストに関する主な出来事・ニュース
- 2023年8月13日 Gelei Deng 氏ら「PentestGPT: An LLM-empowered Automatic Penetration Testing Tool」を公開:Deng 氏らは、LLMを使った自動のペネトレーションテストの道具 PentestGPT を示す論文を arXiv で公開した。
- 2026年4月27日 GMOサイバーセキュリティ byイエラエ「AIエージェントペネトレーションテスト」を提供開始:GMOサイバーセキュリティ byイエラエは、企業内で使うAIエージェントやチャットボット、RAG などを対象に、攻撃者と同等の手法でリスクを検証するサービスを始めた。
- 2026年10月16日 ThreatBook「RedAgents」を発表:ThreatBook は、ペネトレーションテストを行う複数のAIエージェントを1か所で管理し、同じ対象に同時に動かせる SaaS の提供を始めた。
- 2026年10月21日 Microsoft、ARTEX を使った攻撃を公表:Microsoft は、中国の国家と連携する攻撃者 Storm-0940 が、エージェント型のAIのペネトレーションテストの枠組み ARTEX で数百の組織への攻撃を自動化したと公表した。
- 2026年10月29日 CrowdStrike、VAPOR PANDA による ARTEX の使用を報告:CrowdStrike は、中国とつながりのある攻撃者 VAPOR PANDA が、10月17日から ARTEX を世界の200を超える組織に使ったと報告した。
- 2026年10月31日 Google「ARTEX and Friends: Enter Agentic Offensive Frameworks」を公開:Google の脅威インテリジェンスの部門と Mandiant は、Mandiant が対応したインシデントで、攻撃者が ARTEX などのエージェント型のペネトレーションテストの基盤を使ったと報告した。
- 2026年11月5日 Check Point Research「Hacking on Autopilot: Inside ARTEX Cybercrime Campaigns」を公開:Check Point Research は、金銭目的の犯罪者による ARTEX を使った攻撃の多くが、最初の目標を決めたあとはほぼAIに任されていたと分析した。
- 2026年11月10日 Cisco、AI Defense に Claude Mythos を加えると発表:Cisco は、AIアプリケーションとAIエージェントのレッドチーミングに、Anthropic の Claude Mythos を使う機能を AI Defense に加えると発表した。
AIペネトレーションテストに関する事例
攻撃者が ARTEX で数百の組織への攻撃を自動化
Microsoft によると、Storm-0940 は遅くとも2026年9月から ARTEX を使い、幅広い業種の世界の数百の組織を狙った。いくつかの攻撃で、攻撃者は組織のクラウドの基盤の特権を得た。標的にしてから特権を得るまでが3時間を切った例も複数あった。
ARTEX は、どのAIモデルでも使えるオープンソースのペネトレーションテストの枠組みだと Microsoft は説明している。この枠組みでは、LLMで動く複数のエージェントが人の操作をほとんど要さずに試験の工程を進める。攻撃の多くは成功しなかったものの、攻撃者は短い期間に多くの組織のクラウドに特権を持ったまま居座れる足場を築いたという。
CrowdStrike は200を超える組織への使用を報告
CrowdStrike は2026年10月29日、中国とつながりのある攻撃者 VAPOR PANDA が、ARTEX と中国で開発された DeepSeek の LLM などを組み合わせて使ったと報告した。この攻撃者は10月17日から、中南米・欧州・アジア・中東の外務省や米国の半導体・防衛の組織など、200を超える組織に ARTEX を使ったという。
同社は、この活動は Microsoft が Storm-0940 の名で報告した ARTEX の活動とは別のものだとしている。VAPOR PANDA は、操作者の指示の下で複数の標的への侵入を同時に進めていたという。同社はこれを、中国とつながりのある攻撃者のAIエージェントの使い方が、1件ずつの侵入から複数の侵入の同時進行へ一段進んだ例とみている。
攻撃の大半はほぼAI任せで進んだという分析も
Check Point Research は2026年11月5日、ARTEX を操作する側の画面に残った記録を分析した結果を公表した。ARTEX は本来、自社が持つシステムや試験を許可されたシステムを、セキュリティの担当者が評価するための道具だ。
最初に目標を決めたあと、攻撃者が操作したのは主にAIエージェントの進み具合を確かめるときだけだったと、Check Point Research は分析している。分析した操作者の大半は中国のAIモデルを使った。ARTEX の元のコードが非公開になったあとも、攻撃者がこの道具を使える状態は続いていたという。
Check Point Research は、AIエージェントによる攻撃の標的になると大量の攻撃を受けうるとして、外部に公開したシステムを試験して守りを固めるよう勧めている。
Cisco は Claude Mythos でAIエージェントを試す機能を発表
Cisco は2026年11月10日、AIアプリケーションとAIエージェントのレッドチーミングの機能に、Anthropic の Claude Mythos を加えると発表した。Claude Mythos は推論の力で試験を計画し、結果を対象ごとの攻撃の案に変える役を担い、企業がAIエージェントを本番の前に試せるようにするという。AIを使ってAIシステムを試験する例だ。
Cisco の説明では、この機能はインターネット上の任意の基盤を調べることができない作りになっている。試験は認証を通った企業の担当者の名前とひもづき、担当者が決めた目標と時間の枠の中で動き、いつでも止められる。Claude Mythos を使う機能は、一部の企業に近く提供するとしている。
AIペネトレーションテストの英語での言い方
| 英語表記 | 意味 | 使用主体 |
|---|---|---|
| AI-powered penetration testing (pentest) | AIを使ったペネトレーションテスト | ThreatBook、Check Point Research |
| agentic AI penetration testing framework | エージェント型のAIのペネトレーションテストの枠組み | Microsoft |
| autonomous penetration testing | 人の操作をほとんど要さずに進めるペネトレーションテスト | ThreatBook、Microsoft |
| AI pentest agent | ペネトレーションテストを進めるAIエージェント | ThreatBook |
| AI red teaming | AIシステムに攻撃者の立場で試験すること | Cisco |
| LLM-empowered automatic penetration testing | LLMを使った自動のペネトレーションテスト | Gelei Deng 氏ら |
AIペネトレーションテストの安全策と結果の限界
許可された対象の中でだけ動かす
AIで行う試験の製品には、試験してよい対象を仕組みで限るものがある。ThreatBook の RedAgents では、利用者が許可する対象の一覧で試験の範囲を決め、その範囲の中でだけ動く。Cisco は、AI Defense に加える Claude Mythos を使うレッドチーミングも、利用する企業が自社で持ち、登録して試験を許可した対象にだけ動くとしている。
成功と報告された結果がハルシネーションだった例
Check Point Research は、ARTEX を操作する側の記録の分析で、AIエージェントの報告が誤っていた例を挙げている。暗号資産を狙ったある攻撃者の記録では、一部のエージェントが暗号資産を引き出せる脆弱性を見つけたと報告した。しかし攻撃者のウォレットの残高は0ドルで、取引の記録もなかった。
Check Point Research の分析では、これらの結果はハルシネーションで、攻撃に成功したという判定はAPIが「success」と返した応答だけに基づいていた。ハルシネーションは、生成AIが事実と異なる内容をもっともらしく出力する現象を指す。
攻撃が通らなかったことは安全の保証にならない
AISI の手引きは、AIシステムへのレッドチーミングでは同じ入力に同じ出力が返るとは限らず、再現性を保ちにくいとしている。一度の実行で成功しなかった攻撃が、その後の実際の運用で成功する可能性もある。
レッドチーミングは実施する側の資源や期間が限られた中での活動だと、手引きは述べている。そのため AISI は、レッドチーミングで試した攻撃が通らなかったからといって、攻撃者のどの攻撃も通らないと保証できるわけではないと注意している。
AIペネトレーションテストに関連する用語
- プロンプトインジェクション:AIへの入力に指示を紛れ込ませ、利用者や開発者の意図と違う動きをAIにさせる攻撃のこと。
- AI搭載マルウェア:動作の一部にAIを組み込み、実行中にAIへ問い合わせて命令やコードを作らせるマルウェアのこと。
- Defender’s Window(防御側の窓):攻撃に使える高度なAIが広く出回る前に、守る側がAIで欠陥を見つけて直せる限られた期間のこと。
AIペネトレーションテストに関する出典
NIST「penetration testing – Glossary」
GMOサイバーセキュリティ byイエラエ「GMOサイバーセキュリティ byイエラエ、「AIエージェントペネトレーションテスト」を提供開始」(2026年4月27日、PR TIMES)
GMOサイバーセキュリティ byイエラエ「GMOサイバーセキュリティ byイエラエ、「AIホワイトハッカー ペネトレーションテスト」提供開始」(2026年7月30日、PR TIMES)
ThreatBook「ThreatBook Launches AI-Powered Pentest Aggregator, RedAgents」(2026年10月16日、PR Newswire)
Cisco「Cisco Unveils Frontier AI Red Teaming and Agent Observability to Secure the Agentic Enterprise」(2026年11月10日)
Gelei Deng ほか「PentestGPT: An LLM-empowered Automatic Penetration Testing Tool」(2023年8月13日、2024年6月2日改訂、arXiv)
AI セーフティ・インスティテュート「AI セーフティに関するレッドチーミング手法ガイド(第1.10版)」(2025年3月31日)
Microsoft「AI-driven, large-scale nation-state campaign using ARTEX enables supply chain compromise」(2026年10月21日)
CrowdStrike「VAPOR PANDA Uses AI-Driven ARTEX to Scale a Global Espionage Campaign」(2026年10月29日)
Check Point Research「Hacking on Autopilot: Inside ARTEX Cybercrime Campaigns」(2026年11月5日)
Google「ARTEX and Friends: Enter Agentic Offensive Frameworks」(2026年10月31日)




