本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

Cisco、AI DefenseでClaude Mythosを使うレッドチーム機能を近く一部の企業に提供へ

Ciscoは11月10日、AIアプリケーションやAIエージェントを対象にしたセキュリティ製品「Cisco AI Defense」のレッドチームの機能に、Anthropicの「Claude Mythos」を加えると発表した。レッドチームは、攻撃者の立場でAIシステムに攻撃を試み、弱点を探す試験を指す。

Claude Mythosは、生物医学の研究やサイバーセキュリティに取り組む組織のうち、審査を通った組織にAnthropicが提供しているモデルだ。Ciscoは発表で、最先端のAIモデルは複雑なセキュリティの作業で力を発揮しうる一方、AIによって攻撃者にとっての参入の障壁が下がっていると説明している。

AI Defenseのレッドチームの機能には「標準」と「適応型」の2種類があり、どちらもすでに提供されている。標準は、プロンプトインジェクションや機密データの漏えいなど、ほぼどのAIシステムも抱えうる一般的な弱点を調べる。

適応型では、利用する企業が試験の条件を日常の言葉で決める。AI Defenseは条件に合わせて対象のシステムを分析し、攻撃を組み立てて試し、システムの応答を見ながら手口を変える。

Claude Mythosは適応型の仕組みに加わると、試験を計画し、対象のシステムごとに攻撃の案を出す。利用する企業はClaude Mythosに自由に指示を出すことはできず、試験の対象と目的を指定すると、その範囲でAI Defenseが試験を進める。

Claude Mythosを使う試験の対象は、利用する企業が登録・所有して試験を認めたシステムに限り、インターネット上の任意のシステムを調べることはできない。試験は1件ごとに認証を経て、企業の担当者の個人名に暗号技術でひも付けられる。AI Defenseは試験の操作をすべて監査のために記録する。試験は時間を区切って動き、求めに応じて停止できる。

Claude Mythosを使う適応型のレッドチームは、近く一部の企業に提供を始める予定だ。Ciscoは、提供できるようになれば条件を満たす顧客へ対象を広げる計画だが、提供の時期・範囲・地域は変わる可能性があるという。

【関連サイト】Cisco「Cisco Unveils Frontier AI Red Teaming and Agent Observability to Secure the Agentic Enterprise」

【関連サイト】Cisco(Cisco Blogs)「Cisco AI Defense to Add Anthropic’s Claude Mythos for AI Red Teaming」