CrowdStrike、想定外の動きをしたAIエージェントを止める「AI Kill Switch」を提供開始

米国のサイバーセキュリティ企業CrowdStrikeは11月3日、想定外の動きをしたAIエージェントを、企業のセキュリティ担当者が止められる機能「AI Kill Switch」を発表した。同社のAIエージェント向けセキュリティ製品「Falcon Guardian」の機能で、同製品の利用企業に同日から提供している。

Falcon Guardianは、企業内で動くAIエージェントを見つけ、エージェントにできる操作をポリシーで制限し、エージェントへの攻撃を検知する製品だ。同社の説明では、AIエージェントは端末やクラウド、SaaSにまたがってシステムレベルの権限で動き、攻撃者がいなくても、誰も許可していない操作をすることがある。

セキュリティ担当者がFalcon GuardianでAI Kill Switchを作動させると、Falcon Guardianの指示を受けたAIゲートウェイが、エージェントが判断や操作に使うAIモデルへの接続を断つ。AIゲートウェイは、AIモデルへの接続を一か所で管理する仕組みを指す。

接続を断つゲートウェイには、今回一般提供を始めた同社の「Falcon AI Gateway」のほか、企業がすでに導入している他社の製品も使える。Falcon AI Gatewayは、追加料金なしでFalcon Guardianに含まれる。

同社はプレスリリースでAI Kill Switchの機能として、エージェントの停止、対象の端末や端末のグループでの再起動の防止、企業のネットワークからの切り離しを挙げた。AI Kill Switchを作動させるのは権限を与えられた管理者で、操作はすべて監査ログに残る。

ただし、発表の時点でエージェントを止める方法は、AIゲートウェイでAIモデルへの接続を断つものに限られる。同社は、エージェントが動く端末の上でも実行を止められるよう、近く機能を広げる予定だ。

CrowdStrikeは、クラウドやSaaSで動くエージェントの停止、ブラウザのセッションの終了、エージェントの権限の取り消しまでを、1つのAI Kill Switchでまとめて行う構想も示した。発表で触れた機能のうち未提供のものは開発中で、内容が変わることがあると同社は断っている。

【関連サイト】CrowdStrike「CrowdStrike Introduces the AI Kill Switch for AI Safety」

【関連サイト】CrowdStrike（公式ブログ）「Introducing AI Kill Switch: Taking Control When AI Agents Go Rogue」