本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

Amazon、ARTEXを使うAIエージェントの記録をおとりで捕捉 AIモデルの認証情報の窃取や本人確認の突破を狙う攻撃

Amazonで脅威の分析を担うAmazon Threat Intelligenceは11月13日、AIエージェントで侵入テストをするオープンソースの枠組み「ARTEX」を、攻撃者が金銭目的の攻撃に使っていたとする分析を公表した。世界各地に置いた同社のおとりのセンサー「MadPot」が、10月3日から11月5日にかけて、ARTEXのエージェントが送った要求を捕捉した。

今回のセンサーは、よく使われる大規模言語モデル(LLM)の推論APIを装っていた。エージェントはこれを判断に使うLLMと見なし、指示や作業の履歴、報告した成果などの作戦の記録を送っていた。記録が示す活動はMadPotが見ていないシステムで起きたもので、エージェントが報告した結果を同社は確かめられないという。

同社は中程度の確度で、今回の作戦にARTEXが使われたとの見方を示した。攻撃者が中国と関わりのある別々のグループだという見方も中程度の確度で示し、指示文の簡体字の中国語や中国の標準時の設定などを根拠に挙げている。

活動の多くでは、計画や実行、検証などの役割に分かれたエージェントが、共有の記憶を読み書きしながら互いの作業を引き継いだ。記録には、AIアプリの基盤などを含む数百の標的への偵察や認証情報の窃取、暗号資産をめぐる不正の試みなどが残っていた。同社は記録の全体から、AIエージェントの枠組みの使われ方が試験的な段階を越え、人の関与を最小限にして複数の目的の攻撃を続ける段階に進んだと指摘している。

最も目立った作戦は、AIモデルを使うためのAPIキーなどの認証情報を大規模に盗むものだった。同社は、攻撃者が他人に費用を負わせてAIモデルを使うために認証情報を盗んだ可能性が最も高いとみる。

認証情報を盗む作戦の記録では、盗んだキーはARTEX自身のモデルの中継の仕組みに入れられ、さらにキーを探すエージェントを動かすのに使われていた。エージェントが主に狙ったのは、インターネットから接続できる状態で置かれ、多くのAI事業者のキーをまとめて保存するLiteLLMなどの中継の仕組みや、DifyなどのAIアプリを作る基盤だった。

また、暗号資産取引所を狙った作戦ではエージェントが2つの取引所の本人確認の突破を試みた。エージェントは、自撮りの確認にはその場で作るディープフェイクの動画を、本人確認書類の確認には偽造した書類の写真を使おうとした。ある本人確認サービスの事業者が提供する、本人がその場にいるかを顔で確かめる仕組みは、エージェントが記録したすべての試みで、サーバー側の判定によりディープフェイクを退けた。

今回の作戦の手法に新しいものはなく、AIエージェントは攻撃の速さと粘り強さを高めたと同社は指摘する。記録によると、エージェントは初期設定のままの認証情報やコードに残したキー、認証のない窓口、更新していないソフトウェアなど、基本の対策が欠けたところで成功していた。

同社は組織に対し、外部から見える機密情報や設定の誤りは、攻撃者にすぐ見つかるものとして直すよう勧めている。また、AIアプリやモデルの中継の仕組み、推論のエンドポイントを本番のシステムと同じ管理の下に置くことと、想定外の費用や普段と違う使われ方からAIサービスの悪用を見張ることも勧めた。

影響を受けた可能性のあるAWSの顧客には同社が必要に応じて知らせ、狙われた技術を使う組織が自分の環境を確かめられるよう、2つの作戦で観測したIPアドレスを侵害の痕跡として公開した。

【関連サイト】Amazon「Amazon Threat Intelligence observes threat actors running cybercrime campaigns with ARTEX AI agents」