本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

NorForge、悪用の疑いが強いAIエージェントの操作画面を20超発見。活動が最多の集団の攻撃案件は1,100件超

AIのセキュリティ企業NorForgeは10月19日、保護のないままネットに公開された、AIによる侵入テストの操作画面を調べた報告を出した。Cairnというツールの画面のうち、20超を悪用の疑いが強いと判定した。確認できた範囲では、いずれも金銭目的とみられ、国家が関わる明らかな形跡はなかったという。

Cairnは決めた目標へ段階的に近づく汎用の仕組みで、用途は侵入テストに限らない。目標を与えると、エージェントが対象を調べて弱点を探し、侵入を試みることができる。

画面を公開していた集団のうち活動が最も多かったのは中国語を使う集団で、関連の可能性が高いとみる14の画面に1,100件超の攻撃案件があった。標的は主に米国、日本、オーストラリアの組織で、NorForgeはネット通販や決済の基盤へ継続して入れる状態を作り、のちに収益化する狙いとみている。英語を使う集団に関連するとみる画面は10で、一部は結びつきの確度が比較的低い。

報告の図では、中国語の集団の1,139件のうち、実質的な成果の記載があったのは96件(8.4%)だ。NorForgeは集団どうしを直接は比べられないとしつつ、平均の成功率を10%前後とみて、残りの案件の多くも目標の一部に届くか後の試みに使える情報を得たとしている。

成果の件数は画面上の記載だ。同社は一部を確かめており、完了とされた案件の1つでは記載のURLに不正なプログラムが実際に置かれていた。

中国語の集団で目標に届いた案件は、開始から到達まで平均23時間弱だった。この集団のAIモデルの利用料は失敗や早く終わった案件を含む1案件あたり平均で約5ドルと同社は推定するが、利用量の実数はなく、不確かさが大きいと断っている。同社は作業を担うプログラムの名前から、この集団がClaude Codeの枠組みでDeepSeekのモデルを動かしていた可能性を挙げている。

同社は、誰でも見られる画面でサイトを調べられると、結果を問わずそのサイトの重大なセキュリティ問題になることが多いと指摘する。画面のデータを同社が検出ツールにかけると、標的のさまざまな認証情報が数百見つかり、ツールは11%を有効と判定した。顧客の依頼で侵入を試す正規のチームの案件とみられるものも少なからず同じように公開され、その顧客を危険にさらすおそれもある。

報告の時点で、NorForgeはReutersと協力して被害者へ通知を進めていた。報告末尾の事例には、社名を伏せた日本の小売業者への侵入もある。

NorForgeは10月26日の続報で、中国語の集団の画面はすべて10月20日ごろの数時間のうちに見えなくなり、英語の集団の画面はいくつか残ったと報告した。続報は、何者かが不正な作業を入れてCairnの基盤そのものを乗っ取ろうとする攻撃を受けた保護のない画面が少なくとも17あり、その一部は正規のチームなどのものとみられるとした。

非営利団体Cloud Security Allianceは10月21日の研究ノートで、AIによる侵入テストの基盤を使った組織に対し、管理画面に認証なしでネットから入れる状態がないかの確認と基盤が扱った認証情報の更新を勧めた。ネット通販やサポートなどのサイトの運営者には、アップロード先などで最近作られたファイルを調べ、片付ける前に証拠を残すよう促す。

【関連サイト】NorForge「Inside Cairn: Open Windows into massive AI-Driven Cyber Operations」

【関連サイト】NorForge「Automated Subversion and Attempted Takeover of AI Pentesting Harnesses」

【関連サイト】Cloud Security Alliance「Fifty Dollars per Breach: Detecting Autonomous Agent Intrusion Campaigns」