Googleの調査チーム、AIの利用権を乗っ取られた一部の組織で不正請求が累計100万ドルに達したと報告
Google Threat Intelligence Group（GTIG）とMandiantは11月3日、企業の大規模言語モデル（LLM）の利用権を乗っ取る「LLMJacking」の報告を公開した。Mandiantが今年対応した事案には、1日で10万ドルを超える不正請求が確認されたものが複数あり、一部の組織では不正な利用権を取り消すまでに請求が累計100万ドルに達した。
Mandiantの対応事案は複数のクラウドとLLMの事業者にまたがり、南北アメリカとアジア太平洋の金融、小売、運輸などの組織が影響を受けた。クリプトジャッキングと呼ばれる計算資源の盗用では消費が徐々に進むのに対し、LLMJackingでは数時間で請求が跳ね上がることがある。
複数の事案の調査では、漏れたか盗まれたクラウドの認証情報が侵入の入口として最も多かった。サービスアカウントの鍵やGitHubの個人用アクセストークンなどが使われた。複数の事案では、侵入の時点でLLMのサービスが無効で、攻撃者がBedrockやGemini APIなどを有効にした。
GTIGは、侵入を担う攻撃者と、盗まれた利用権で稼ぐ基盤の運営者が分業している動きも追っている。「LLM Mixer」と呼ばれるこの基盤は、盗まれた認証情報をまとめ、リクエストの出どころを隠して不正なLLMの利用権を闇市場の利用者に転売する。
ある攻撃者は、盗まれた第三者のAPIキーでLLM Mixerに分類されるサービスを動かしていた。このサービスは、ある被害組織に100万ドル近いトークン費用を負わせた。
GTIGは、攻撃者がクリプトジャッキングなど従来の計算資源の盗用よりLLMJackingを優先する動きが強まると見込む。転売ですぐに高い利幅を得られるためだ。
対策として報告は、鍵と秘密情報を一元管理し、LLMのサービスを含めて不要な権限を与えないよう勧める。コードに紛れたAPIキーや秘密情報は、自動点検で見つけて速やかに取り除くよう促す。
報告はさらに、支出の上限とAPIの利用枠で費用を抑え、フィッシングに強い多要素認証を徹底するよう求める。LLMのサービスが許可なく有効にされたら、重大なセキュリティ事象として扱うよう勧める。
