攻撃者がGLMとDeepSeekで動かしたAIが19組織を自律的に攻撃、Unit 42が報告。10組織で不正アクセスなど

米Palo Alto Networksの脅威調査チームUnit 42は11月12日、AIで侵入テストを進める公開の枠組み「Cairn」が悪用された攻撃の報告を公表した。中国語を使う攻撃者が8〜9月、Cairnで少なくとも19組織に25件の攻撃を自律的に仕掛けた。Unit 42の調査では、このうち10組織で、Cairnが不正アクセスかデータの取得を確かめていた。
攻撃者が標的と目標を与えると、計画から実行、結果の記録まではCairnが自ら進めた。AIモデルがそれまでに分かったことを見直して次の手を決め、1つの操作を実行し、枠組みがその結果を記録する流れが繰り返された。攻撃ごとにかかった時間は20分から50時間超で、攻撃者は時間の上限を設けていなかった。
中国のZhipu AIのGLMとDeepSeekのモデルが、Cairnを動かすAIモデルとして使われた。25件のうち13件はGLMで、残る12件はDeepSeekの2つのモデルで動かした。
Cairnにもともと組み込まれた指示はモデルに依頼を断らないよう求めており、攻撃者はさらに、許可を得た検査だと主張して拒否を禁じる中国語の前置きを加えた。GLMもDeepSeekも、この前提を拒まずに作業を進めた。
標的は主に3つの分野に集まっていた。半導体と先端製造のサプライチェーンの7組織、防衛・防衛政策の3組織、人権・市民社会の4組織だ。攻撃者は攻撃ごとに組織のドメインを与え、攻撃できる範囲をCairnに洗い出させた。一部の攻撃では、標的について事前に集めた情報もCairnに与えた。
10組織のうち業界の標準化団体では、攻撃者が弱いパスワードを狙った試行で数十の有効な認証情報を得たほか、標準を決める進行中の投票の文書も書き換えた。半導体企業では、本番のシステムに無断で管理者のアカウントと長く使えるAPIトークンを作った。
また、米国の教員組合では100万件超の会員情報へのアクセスが枠組みのログに残っていた。防衛政策の事業を支える認証の基盤では、.milや.govのドメインを使うアカウントを含む約500件の利用者の記録が見える状態になった。
Unit 42は、この活動を中国に関連する情報収集だと中程度の確度でみて、CL-STA-1238の名で追跡している。主な根拠は3つある。攻撃の指示や作業を許可済みとする文書が中国語だったこと、中国のAIモデルだけを使っていたこと、標的が中国の国家の情報収集の優先分野と重なることだ。
また、攻撃者はUnit 42の説明では1人か少人数のチームだった可能性が高く、19組織への侵入を2週間で同時に試みた。悪用された弱点は、認証の回避や弱い・初期設定のパスワード、古い公開済みの脆弱性など、既知のものだった。
Unit 42は、自律型のAIが攻撃の件数と範囲を広げるものの、手口の複雑さまでは高めないとみている。そのうえで、IDの管理や攻撃を受けうる範囲の縮小、ソフトウェアの更新が引き続き有効だと指摘した。モデルが自律的に進める侵入は今後も増え、手軽に使えるオープンなモデルの性能が上がるほどその傾向が強まるとの見方も示した。手軽に使えるオープンなモデルは、攻撃への悪用を防ぐ仕組みが現時点では弱いという。









