Tool Poisoning(ツールポイズニング)とは・意味、手口・由来・事例

Tool Poisoningとは?
Tool Poisoning(ツールポイズニング)とは、AIエージェントが使うツールの説明などに悪意のある指示を隠し、利用者の意図と違う動きをAIにさせる攻撃のこと。AIのアプリを外部のデータや道具とつなぐ規格 MCP のツールの説明に、指示を埋め込む手口として知られるようになった。
AIセキュリティの研究会社 Invariant Labs は2025年4月、この攻撃を「Tool Poisoning Attack」(TPA)と呼んだ。同社の説明では、ツールの説明に埋め込んだ指示はAIモデルには見えるのに、利用者には見えない。
同社はこの攻撃を、間接型のプロンプトインジェクションの特殊な形と位置づけている。
Microsoft も、Tool Poisoning を間接型のプロンプトインジェクションに含まれる攻撃と説明している。MCP のサーバーのツールには、名前や説明などの情報が付いている。AIのモデルは、利用者の入力に合わせてどのツールを呼ぶかを、この情報をもとに決める。説明が書き換えられると、モデルは意図しないツールの呼び出しをすることがある。
資料によって違う語の範囲
AIへの攻撃の手口をまとめる MITRE の知識ベース「ATLAS」は、この攻撃を「AI Agent Tool Poisoning」として収録している。
ATLAS は、正常なツールが外部からそのまま取得したデータに悪意のある内容が入っている場合を、この手法に含めない。そうした場合は、間接型のプロンプトインジェクションなど別の手法に当たる。
ツールの形をとっていても、ふつうのマルウェアを届けるだけでツールの働きを偽らないものもある。そうしたものは悪意のあるパッケージやソフトウェアのサプライチェーンの侵害として扱うほうが適切な場合があると、ATLAS は説明している。
語の指す範囲は資料によって違う。ソフトウェアのセキュリティに取り組む団体 OWASP の「MCP Top 10」は、ツールやプラグイン、その出力を攻撃者が乗っ取り、モデルの振る舞いを操る文脈を注入することを Tool Poisoning としている。この一覧は、まだベータ版の段階だ。
Tool Poisoningの主な手口
ツールの説明に隠した指示をAIが読む
Invariant Labs の説明では、AIモデルは隠した指示を含むツールの説明の全文を読む。一方で利用者の画面には、ふつう簡略化した表示しか出ない。
同社が示した例は、足し算をする一見無害なツールだ。説明の中には、設定ファイルと SSH の秘密鍵を読み、その中身を引数として渡すよう求める指示が隠されている。指示は、ファイルを読むことを利用者に言わないようにも求めている。
承認のあとに説明を書き換えるラグプル
Invariant Labs は、利用者が承認したあとでサーバーがツールの説明を変える手口を「rug pull」(ラグプル)と呼んだ。最初に利用者が信頼したサーバーでも、あとから説明に悪意のある指示が入れば攻撃を受けうる。
Microsoft も、外部で運営される MCP サーバーではツールの定義をあとから書き換えられるとし、この場面を特に危ないと説明している。MITRE ATLAS は、正当な部品を公開して利用者を増やしたあとで悪意のある版に更新する手口を、「AI Supply Chain Rug Pull」として別に収録している。
別のサーバーのツールまで操るシャドーイング
1つのAIのアプリに複数の MCP サーバーをつなぐと、悪意のあるサーバーが信頼できるサーバーのツールの使われ方まで変えることがある。Invariant Labs はこれを、ツールの説明のシャドーイング(shadowing)と呼んだ。
同社の実験では、悪意のあるサーバーの足し算のツールの説明に、別のサーバーのメールの送信のツールについての指示を書いた。利用者が別の宛先をはっきり指定しても、エージェントはすべてのメールを攻撃者に送った。MITRE ATLAS によると、つないだ複数のツールの定義が同じ文脈に入っていれば、汚されたツールを呼ばなくても定義だけで影響しうる。
汚す場所で分けた3つの型
MITRE ATLAS は2026年7月、Tool Poisoning を汚す場所で3つの型に分けた。
| 型 | 汚染の対象 | ATLAS が挙げる中身の例 |
|---|---|---|
| 定義と指示(Definition and Instructions) | モデルが読むツールの定義や使い方の指示 | 説明、引数の名前、ヘルプの文、入出力のスキーマ、注釈、スキルの指示のファイルなど |
| 実装(Implementation) | ツールのプログラムそのもの | 頼まれた作業をしながら、データを外へ送る・宛先を変えるなどの隠れた動き。モデルが指示に従う必要はない |
| 実行時の応答(Runtime Response) | 悪意のあるツールや乗っ取られたツールが返す応答 | 悪意のある指示、人をだますデータ、偽のエラーなど |
※2026年11月時点。
ATLAS は実装の型の例として、頼まれたメールを送りながら、攻撃者の宛先を BCC に黙って加えるメールのツールを挙げている。
Tool Poisoningの由来と注目されるようになった経緯
「Tool Poisoning Attack」は、Invariant Labs が2025年4月1日の公式ブログで使った呼び名だ。同社は MCP に重大な脆弱性を見つけたと発表し、それによって起きる攻撃をこう呼んだ。同社は、Anthropic、OpenAI などの大手の提供元や、業務の自動化の Zapier、MCP のクライアントの Cursor も影響を受けうるとしている。
Invariant Labs は、スイスの ETH Zurich から生まれた会社だ。セキュリティの会社 Snyk は2025年6月に同社の買収を発表した。Snyk は Invariant Labs の実績として、エージェントへの攻撃や MCP の脆弱性、ツールポイズニングなどについての知見を挙げている。
語は、MCP を取り入れる大手の会社の資料にも登場するようになった。Microsoft は2025年5月、Windows 11 で MCP を取り入れる際の新しい危険に Tool Poisoning を挙げた。
OWASP は2025年12月のAIエージェントの危険の一覧で、ツールの誤用の項の攻撃の例の1つ目に Tool Poisoning を置いた。Anthropic も2026年5月、AIエージェントが今直面している脅威の1つに数えている。
MITRE ATLAS は2026年3月30日に「AI Agent Tool Poisoning」を手法に加え、同年7月31日に3つの型を加えた。Microsoft のAIレッドチームは2026年6月、2025年に Tool Poisoning が理論上の危険から実際の攻撃の対象に移ったと説明した。
Tool Poisoningに関する主な出来事・ニュース
- 2025年4月1日 Invariant Labs「MCP Security Notification: Tool Poisoning Attacks」を公開:Invariant Labs は、MCP のツールの説明に悪意のある指示を埋め込む攻撃を「Tool Poisoning Attack」と呼び、Cursor での実験を公開した。
- 2025年4月7日 Invariant Labs「WhatsApp MCP Exploited」を公開:Invariant Labs は、信頼できない MCP サーバーが、同じエージェントにつながった WhatsApp の MCP からメッセージの履歴を持ち出す実験を公開した。
- 2025年4月28日 Microsoft「Protecting against indirect prompt injection attacks in MCP」を公開:Microsoft は、Tool Poisoning を間接型のプロンプトインジェクションの1つの型と説明し、防ぐ方法を示した。
- 2025年5月19日 Microsoft、Windows 11 での MCP の安全の仕組みを発表:Microsoft は、Windows 11 で MCP を取り入れるにあたり、新しい危険の1つに Tool Poisoning を挙げた。
- 2025年12月9日 OWASP「OWASP Top 10 for Agentic Applications for 2026」を公開:OWASP は、自律して動くエージェント型のAIが直面する重大な安全上の危険を、10項目にまとめて公開した。
- 2026年3月30日 MITRE ATLAS、「AI Agent Tool Poisoning」を追加:MITRE ATLAS は、版 5.5.0 で新しい手法に AI Agent Tool Poisoning と AI Supply Chain Rug Pull を加えた。
- 2026年6月30日 Microsoft「Securing AI agents: When AI tools move from reading to acting」を公開:Microsoft のインシデント対応のチームは、財務の業務を例に、MCP のツールの説明を汚す攻撃の流れと対策を説明した。
Tool Poisoningに関する事例・研究
Cursor の実験でエージェントが SSH の秘密鍵を送信
Invariant Labs は、自社が示した足し算のツールを、AIでプログラムを書く道具 Cursor につないで試した。エージェントは利用者の設定ファイルと SSH の鍵などを読み、悪意のあるサーバーへ送った。
Cursor の設定ファイルはほかの MCP サーバーの認証の情報の保存に使われることが多いと、Invariant Labs は指摘する。Cursor はツールを呼ぶ前に確認の画面を出すが、画面にはツールの引数の全体が出ず、送られる鍵は見えなかった。
呼ばれないツールが WhatsApp の履歴を持ち出させた
Invariant Labs は2025年4月7日、WhatsApp につなぐ信頼できる MCP サーバーと、攻撃者のサーバーを同じエージェントにつないだ実験を公開した。攻撃者のサーバーは最初に無害なツールを示し、利用者が承認したあとで悪意のあるツールに切り替えた。
攻撃者のツールの説明は、メッセージの送信のツールの宛先を攻撃者の番号に変え、前に取得したメッセージの一覧を本文に含めるよう指示した。実験では、悪意のあるサーバーのツールが一度も呼ばれなくても、文脈に入っていた利用者のチャットの履歴を持ち出せた。
財務の業務を狙う攻撃の流れを Microsoft が説明
Microsoft のインシデント対応のチームは2026年6月30日、Tool Poisoning の攻撃の流れを、請求書を扱う財務の業務の例で説明した。同社によると、この型は Invariant Labs が2025年4月に初めて公表した手法を反映したものだ。同社は、2026年にこの手法が企業のさまざまなエージェントへ広がって見られたとしている。
例では、外部の MCP サーバーの開発者が更新を出し、ツールの名前と利用者向けの要約は変えずに説明だけを書き換える。説明には、直近の未払いの請求書30件を取り出してまとめ、追加の引数として付ける指示が隠されていた。説明の変更で承認をやり直さない設定では、書き換えはそのまま本番で働く。
担当者がいつもの質問をすると、エージェントは隠れた指示に従い、財務の記録を外部のサーバーへの呼び出しに含めて送る。サーバーは、それを攻撃者の管理する送り先に記録する。例では、エージェントの1つ1つの動きはどれも正当で、初期の設定では警告が出ないこともある。
同社は、この型は Copilot そのものの脆弱性を突くものではなく、外部のツールとの連携が持ち込む信頼の境目を突くものだと説明している。
Microsoft の失敗の型の分類に MCP の悪用が加わる
Microsoft のAIレッドチームは2026年6月4日、AIエージェントの失敗の型の分類を、1年分の検証をもとに改訂した。2025年に MCP に関わるソフトウェアで公表された脆弱性の識別番号(CVE)は99件あったと、チームは報告している。
改訂では、MCP やプラグインの悪用の型を新しく設けた。この型には、ツールの説明の汚染や、悪意のあるサーバーが信頼できるサーバーの振る舞いを上書きすることなどが入る。
Tool Poisoningを防ぐ仕組み
Invariant Labs は、Tool Poisoning などを防ぐために、次の3つの対策を勧めた。
- 画面の工夫:ツールの説明を利用者にはっきり見せ、利用者向けの部分とAI向けの指示を色などで分ける。
- 版の固定:MCP サーバーとツールの版を固定し、ハッシュなどで説明が変わっていないかを実行の前に確かめる。
- サーバーの間の守り:異なる MCP サーバーの間に、より厳しい境界とデータの流れの管理を設ける。
Microsoft のインシデント対応のチームは、ツールの説明をシステムプロンプトと同じものとして扱うよう勧めている。モデルはツールの情報を作業の文脈として読みうるため、その変更はエージェントへの指示の変更に当たるという。同チームが挙げる対策には、次のようなものがある。
- 認めた提供元とサーバーだけを使えるようにし、エージェントに必要なツールだけを有効にする。
- 本番で使うツールの説明の変更を、システムプロンプトの変更と同じ厳しさで見直す。
- 財務の情報へのアクセスや外部への共有など、影響の大きい操作の前に人の承認を求める。
MCP の仕様も、注釈などツールの働きの説明は、信頼できるサーバーから得たものでなければ信頼できないものとして扱うよう求めている。仕様は、ホストがツールを呼ぶ前に利用者の明確な同意を得ることも求めている。
Tool Poisoningの言い方
| 表記 | 意味 | 使用主体 |
|---|---|---|
| Tool Poisoning Attack(TPA) | MCP のツールの説明に、利用者には見えずAIには見える指示を埋め込む攻撃 | Invariant Labs |
| tool poisoning | 同じ攻撃を指す一般の言い方 | Microsoft、Anthropic、OWASP |
| AI Agent Tool Poisoning | AIエージェントが使うツールの定義・実装・応答を汚す手法 | MITRE ATLAS(AML.T0110) |
| tool description poisoning | ツールの説明を汚すこと | Microsoft のAIレッドチーム |
| MCP rug pull | 承認のあとでサーバーがツールの説明を変える手口 | Invariant Labs |
| tool shadowing | 悪意のあるツールの説明で、信頼できるツールの使われ方を変える手口 | Invariant Labs、MITRE ATLAS |
MCPサーバーをつなぐときの注意
Tool Poisoning は、ツールを呼ぶ前の確認の画面だけでは見抜きにくい。Invariant Labs の WhatsApp の実験では、確認の画面のメッセージの欄は「Hi」に見えたが、右へスクロールすると持ち出す中身が隠れていた。
確認を何度も求められると、中身を見ずに許可する承認疲れも起きうる。Microsoft のAIレッドチームは、利用者に承認を求める仕組みをすり抜けた手口の1つに、承認疲れを挙げている。
サーバーを隔離するだけでは足りない場合もある。Invariant Labs は、WhatsApp の実験の攻撃はエージェントが指示に従う力だけに頼っており、MCP サーバーのコードの隔離やサンドボックスは有効な対策にならないとしている。
Invariant Labs は、安全の問題が解決されるまで、第三者の MCP サーバーにつなぐときは細心の注意を払うよう利用者に求めた。同じ文脈のサーバーが機密のデータや認証の情報を扱うときは、特に注意が必要だという。
Microsoft のレッドチームは、エージェントが使う外部の部品を、ソフトウェアのサプライチェーンの一部として扱うよう勧めている。
指示をAIの記憶に残し、あとのやりとりまで影響させる攻撃は、Memory Poisoning の項目で扱っている。
Tool Poisoningに関連する用語
- MCP(Model Context Protocol):AIのアプリを外部のデータや道具、決まった作業の手順とつなぐための、オープンソースの共通の規格。
- プロンプトインジェクション:AIへの入力に指示を紛れ込ませ、利用者や開発者の意図と違う動きをAIにさせる攻撃。
- Memory Poisoning:記憶の機能を持つAIエージェントなどに、攻撃者が偽の情報や悪意のある指示を覚え込ませる攻撃。
- 承認疲れ:AIエージェントなどから操作の許可を何度も求められるうちに、人が中身をよく確かめずに承認するようになること。
Tool Poisoningに関する出典
Invariant Labs「MCP Security Notification: Tool Poisoning Attacks」(2025年4月1日)
Microsoft「Protecting against indirect prompt injection attacks in MCP」(2025年4月28日)
MITRE ATLAS「AI Agent Tool Poisoning」(2026年3月30日、2026年7月31日更新。ATLAS のデータ 2026.10 版)
OWASP「OWASP MCP Top 10」
Invariant Labs「WhatsApp MCP Exploited: Exfiltrating your message history via MCP」(2025年4月7日)
Microsoft「Securing the Model Context Protocol: Building a safer agentic future on Windows」(2025年5月19日)
Snyk「Snyk Acquires Invariant Labs to Accelerate Agentic AI Security Innovation」(2025年6月24日)
OWASP GenAI Security Project「OWASP Top 10 for Agentic Applications for 2026」(2025年12月9日)
MITRE ATLAS「mitre-atlas/atlas-data CHANGELOG.md」
Anthropic「Zero Trust for AI agents」(2026年5月27日)
Microsoft AI Red Team「Updating the taxonomy of failure modes in agentic AI systems: What a year of red teaming taught us」(2026年6月4日)
Microsoft Defender Experts Cybersecurity Incident Response「Securing AI agents: When AI tools move from reading to acting」(2026年6月30日)
Model Context Protocol「Specification」(2026-07-28 版)




