本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

OWASP、生成AIのデータを守る指針第2版の第1部を公開。全12部の土台に6つの原則とデータ保護の体制づくりを示す

ソフトウェアのセキュリティ向上に取り組む米国の非営利団体OWASPは11月3日、生成AIのデータを守る実践指針「GenAI Data Security Best Practices」第2版の第1部を公開した。第2版は400ページを超えるため、12部に分けて出す。

第1部は第1〜3章にあたり、指針の範囲、基本の原則、AIのデータを継続して管理する体制づくりを扱う。OWASPは、どの部から読む場合も第1部を最初に読むよう勧めている。

第2版は、OWASPが3月17日に公開した「GenAI Data Security Risks and Mitigations 2026」と対になる。リスクの文書は生成AIに固有のデータセキュリティのリスクを21項目挙げて何が起こりうるかを示し、第2版はそれぞれのリスクへの対処を説明する。2025年2月に出した第1版は、第2版に置き換わった。

第1部の第2章は、生成AIに特有の問題として、モデルに渡す入力の中ではシステムプロンプト、利用者の入力、検索で取り出した文書などが区別なく並び、その中でアクセスを制限できない点を挙げた。モデルに届いた内容はどの出力にも影響しうるという前提で、データの取り込みから出力までの各段階にこの弱点を補う対策を置くよう求めている。

第2章は、第2部以降の対策のもとになる6つの原則も示した。作業に要るデータだけをモデルに渡す「データの最小化」や、モデルは誤ることも操作されることもあり、常に一部が侵害されているとみなす「モデルへのゼロトラスト」などだ。

「ライフサイクルの徹底」の原則は、データの保存や削除の義務を、そこから作ったものすべてに及ぼすよう求める。データで特定される本人の求めで元のデータベースの記録を消しても、そのデータから作ったベクトル索引の埋め込みや微調整したアダプターの重みなどが残っていれば、要件を満たさない削除になるとした。

OWASPは第3章で、AIのデータの所在の把握や分類、漏えいの防止などを続けて行う「AIデータセキュリティ態勢管理(AI-DSPM)」を進める体制の作り方を示した。導入は、従来のデータセキュリティ態勢管理やIDとアクセスの管理をすでに備え、生成AIを本番で使う一般的な企業を想定し、3つの段階に分ける。最初の90日は、AIを統括する委員会の立ち上げやAIの資産の洗い出しなどにあてる。

AI-DSPMの導入の90〜180日目は分類のラベルを派生したデータにも引き継ぐことなど、180〜365日目はデータの改ざんや汚染の検知を事故対応とつなぐことなどを進める。生成AIを大規模に使っている組織が後から取り組む場合は、12〜18か月かかると見込むべきだとした。

OWASPは、AI-DSPMでよくある失敗の1つに、AIを統括する委員会を立ち上げて担当を決める前にツールを買うことを挙げた。検出結果に責任を持つ担当がおらず警告に追われ、9か月以内に取り組みが止まるという。

第2部以降は、学習・RAG・ベクトルストア、AIエージェントやMCPの安全対策などを扱い、第12部は量子コンピューターに備えた暗号の移行などをまとめる。

【関連サイト】OWASP GenAI Security Project「GenAI Data Security Best Practices v2 – Part1」

【関連サイト】OWASP GenAI Security Project「OWASP GenAI Data Security Risks & Mitigations 2026」