本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

Wiz、Google Cloudの請求先アカウントの乗っ取りでAIの利用料を負わせる攻撃を報告

Google Cloud傘下のセキュリティ企業Wizのインシデント対応チームは10月20日、クラウドの請求先アカウントを乗っ取る手口で、AIの利用料を被害組織に負わせる「LLMjacking」の報告を公開した。同チームは同じ型の侵害を複数調べ、Google Cloudを狙ったものに絞って経緯をまとめた。

報告が挙げる主な目的は破壊を伴わない金銭面の悪用で、大規模言語モデル(LLM)を大量に動かす費用を被害組織に負わせることだ。確認された例では、最初の侵入から24〜48時間以内に、Gemini APIの不正利用による想定外の請求が数万〜数十万ドルに達した。

入口はフィッシングだった。攻撃者はGoogle検索に広告を出し、Googleを装うログイン画面で利用者に認証情報と多要素認証のコードを入力させた。Googleは不審なログインとして警告メールを送った。Google Adsは通報を受け、この広告を削除する措置を取った。

侵入後の攻撃者は乗っ取ったユーザーアカウントの強い権限を使い、社外のドメインの利用者を制限する設定など組織レベルの安全設定を削除し、請求先アカウントに外部の個人アカウントを加えた。さらに自分たちの管理するプロジェクトもその請求先アカウントに結び付け、そこで使ったAPIの料金が被害組織に請求されるようにした。

従来の請求管理者の権限は閲覧だけに下げられ、管理画面から権限の取り消しやプロジェクトの切り離しができなくなった。

AIの処理は外部のプロジェクトで行われたため、被害組織は料金を負担しながら、プロンプトもモデルの出力も見られず、大量の利用がどのようなものだったのかも分からなかった。

対策としてWizは、利用者の注意に任せるだけでなく、ログインの記録も監視するよう勧める。監査ログでは、組織ポリシーや請求管理者の権限の変更を確かめる。同じログで、自組織の古いプロジェクトに想定外のGemini APIの有効化やAPIキーの作成がないかも見る。権限を管理するIAMでは、社外のドメインの利用者がいないかを点検する。費用の急増も監視し、必要に応じて支出に上限を設ける。

【関連サイト】Wiz「From Phishing to LLMjacking: Threat Actors Targeting Cloud Billing Accounts for LLM Usage」

【関連サイト】Google「Google Completes Acquisition of Wiz」