本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

米連邦捜査局、LLMで侵入テストを自動化するARTEXの悪用を警告 公開アプリの洗い出しや不審な動きの報告を組織に求める

米連邦捜査局(FBI)は11月13日、大規模言語モデル(LLM)を使って侵入テストを自動で進めるオープンソースの基盤「ARTEX」について、攻撃者による悪用を警告する速報「FLASH」を公表した。少なくとも8月以降、さまざまな攻撃者がARTEXを使い、金融や政府、半導体、エネルギー、医療など多くの業種の組織を世界で狙ってきた。

ARTEXでは、利用者が自然言語で示した目標を、役割ごとのAIエージェントが機械の命令に置き換えて実行する。利用者の役割は、最初に目的を決めることにほぼ限られる。基盤そのものはモデルを持たず、AnthropicのClaudeやOpenAIのGPT、中国のDeepSeekなど外部のLLMにつないで動く。

攻撃者が管理するARTEXで使われるモデルは中国製が最も多く、利用の中心はDeepSeek Flash系のモデルだと、セキュリティ企業の分析をもとにFBIは説明した。理由には、性能と費用の釣り合いのよさに加え、侵入テストの名目でモデルに指示すると安全のための制限が働く様子が見られないことを挙げている。

また、ARTEXで攻撃の手法を次々に組み合わせるのにかかる時間は大きく縮み、標的に定めてから3時間未満で特権アクセスまで進んだ侵入もあったと、FBIは指摘する。技術の知識が少ない攻撃者でも、複数の標的への複雑な作戦を同時に進められるようになったとみている。ARTEXは、取引先向けのポータルや従業員向けのアプリ、古いサービスなど、主力のアプリより守りが手薄なシステムを見つけて突くのにもたけているとした。

開発者は7月にARTEXをGitHubで公開し、許可を得た範囲で検査をするためのツールだとしていた。悪用の報告を受けて、10月8日にリポジトリを公開停止にした。ただ、公開停止のあともARTEXは派生版や改変版、保存された複製、有料で売られる「ARTEX PRO」の形で出回り続けている。

FBIによると、研究者が11月上旬の時点で確認した公開状態のARTEXの管理画面は1,600を超え、ファイアウォールの内側や閉じたネットワークの分も含めた全体は大幅に多い可能性が高い。一方、FBIがこの数の出典に挙げたセキュリティ企業Censysの報告では、11月4日の時点で管理画面を公開しているホストは1,465台で、一部は許可を得た検査の担当者が運用している可能性が高いとしていた。

対策では、取引先向けのポータル、モバイルアプリの裏側、従業員向けのアプリなど目の届きにくいものも含め、インターネットに公開しているアプリをすべて洗い出すよう、FBIは組織に勧めた。クラウドやネットワーク機器の管理など重要な機能を信頼できるネットワークや専用の接続・管理の経路からだけ使えるようにすることや、設定や開発の工程に埋め込まれた認証情報などを探し、露出したものはすぐに差し替えることも挙げた。

また、不審な動きを見つけた組織には地域のFBIの支局かFBIのインターネット犯罪苦情センターへの報告を求めた。ARTEXのようなエージェントの基盤が関わる事案では、LLMのAPIへの外向きの通信や、トークンの消費の傾向・APIの請求の異常といったAIの基盤の手がかりに加え、侵害されたアカウントの数や検知・封じ込めまでにかかった時間などの影響の情報も寄せるよう呼びかけている。

【関連サイト】FBI「Threat Overview of ARTEX Autonomous Penetration Testing Framework」

【関連サイト】Censys「ARTEX: Agentic Asbestos」