トレンドマイクロ、日本を狙う攻撃基盤でCyberStrikeAIの悪用を確認。基盤内で44のAIエージェントが分業
トレンドマイクロは10月23日、AIを使う攻撃基盤を多数観測した中から、日本に対する関心や攻撃の意図が特に強い3つを選んで解析した結果を公表した。3つとも、日本が最大の標的だった。このうち1つの基盤では、オープンソースのAIエージェント型の侵入テスト用ツール「CyberStrikeAI」が悪用されていた。3つの基盤は、侵入テストを自律的に行うAIのシステム「ARTEX」が攻撃元で使われていたとするGMOサイバーセキュリティ byイエラエなどの報告とは別系統のもので、ARTEXを使った攻撃者と同じだという証拠もないという。
解析に使ったのは、攻撃者が誰でも見られる状態にしていたサーバーに残るファイルで、被害を受けた組織のログや通信記録は含まない。このため、個々の攻撃が成功したかどうかや被害の規模、攻撃者の正体は、このデータだけでは分からないとトレンドマイクロは説明している。
CyberStrikeAIを使った基盤では、偵察から攻撃、情報の持ち出し、報告書の自動作成までが繰り返し使える一続きの工程として組まれていた。同社は基盤の記録から、44のエージェントが工程を分担する構成を確認した。標的の国の言語に合わせ、偽のログイン画面や日本語で書かれたフォームなども基盤が自ら作っていた。
同社の観測では、この基盤の活動は10月の短い期間に集中し、確認できた範囲で19組織以上が試行の対象となった。うち日本は16組織以上だった。標的には台湾と香港の組織も含まれていた。狙われたのは中小企業や地域の公共分野の古いWebシステムで、業種は絞っていなかった。これらの数は下限の目安で、実際はさらに多い可能性がある。一方、攻撃者側の記録で深い侵害まで確かめられたのはごく一部で、多くの標的では、接続の確立や情報の持ち出しなどがなかったと基盤自身が記録していた。最も深く侵入された例でも、入り口は認証のない公開の管理画面だった。
残る2つの基盤のうち1つは、人間が主導し、大規模言語モデル（LLM）に攻撃の計画作りと道具作りを幅広く手伝わせていた。攻撃者は、LLMの安全上の制限を迂回させるため、正規の業務だという偽りの前提を与えていた。標的の一覧には、推論サービスなど、AIの基盤やサービスも入っていた。もう1つの基盤では、AIの使用は攻撃用のスクリプト作成などに限られていた。プロンプトなどの直接の証拠は得られていないが、AIが作ったとみられる書きぶりの痕跡が複数一致することから、同社はAIの使用を確度が高いと評価した。
3つの基盤の運用者は、いずれも簡体字中国語で作業していた。ただし同社は、これは運用者の所在や所属を推し量る弱い手がかりにすぎず、断定の根拠にはならないとしている。3つが同じ主体によるものかどうかや、攻撃に使ったAIモデルの種類も確定していない。
同社は3つの事例をもとに、AIが変えたのは並行して扱える標的の数や試行の速さなどで、悪用される脆弱性の種類や侵入口の性質などは変えていないと整理した。優先すべき対策としては、公開しているWebシステムの洗い出しと古い基盤の更新・隔離、初期設定のままの認証情報や管理画面が外から見えていないかの点検、社内のAIサービスの外部への露出の確認などを挙げた。分析結果は法執行機関に提供する予定で、被害が疑われる組織に知らせる準備も進めている。
