インド電子・情報技術省、AI学習用データの共有とプライバシー保護の枠組みを提案。手引きのPDFは討議用の案と表記
インド電子・情報技術省は10月31日、AIの学習に使うデータの共有とプライバシー保護を図る枠組み「DEPA for AI Training」の手引きを、ベンガルールで開いた円卓会議で公開したと発表した。手引きのPDFは1ページ目で討議用の案と明記し、同省のクリシュナン次官は謝辞で、具体的な提言を個人や機関に呼びかけた。
手引きは、学習に役立つデータが分野ごとに分かれ、機関や規制の壁に阻まれて使えずにいる状態を「Data Deadlock」と呼ぶ。
インドには、金融分野で個人の同意を管理するAccount Aggregatorの枠組みを主な手段に運用する「DEPA Inference」がすでにある。個人の同意にもとづき、できあがったモデルに個人のデータを入れて判断を得る場面に向く仕組みだと手引きは整理する。
大量のデータを集める学習の規模ではDEPA Inferenceによる個人ごとの同意は現実的でなく、機関のリスクの問題も解決しないとして、手引きは学習向けの仕組みとしてDEPA for AI Trainingが必要だと説明する。データがもともと属する個人や組織については、利用目的の制限などを定める法規制のもとでデータを管理し、技術を運用するガバナンスの体制で利益を守る設計だ。
参加者の中心は、病院、銀行、公的機関など学習用データを持つ「Training Data Provider」と、スタートアップ、研究者、企業などデータを使う「Training Data Consumer」だ。枠組みの技術面の柱には、データ交換基盤、電子契約、安全なデータ環境、差分プライバシーの4つを置く。
手引きによると、名前などを消す匿名化をしても、ほかのデータと結びつけると個人を再び特定できる場合が多い。差分プライバシーはこの問題への対応として置く技術で、統計的なノイズを加えて特定の個人の情報を推測しにくくする。
手順の案では、提供者が匿名化と暗号化を施したデータセットを登録する。利用者が用途を示して申請すると、電子契約の仕組みがガバナンスのルールと提供者などの定めた共有の方針に申請を自動で照らす。学習は安全なデータ環境の中で行い、その中の操作は監査のために書き換えられない記録として残す。
匿名化の担い手とデータの使い方について、手引きの冒頭の要約は2つの案を示す。第1の案では提供者が匿名化し、利用者はデータをダウンロードすることも、安全なデータ環境で学習や試験をすることもできる。第2の案では基盤が匿名化と暗号化を担い、利用者は安全なデータ環境の中で学習や試験にデータを使う。
手順の案によると、学習を終えたモデルは、偏りと公平性、セキュリティ、説明可能性などの独立した検証を受け、通過したものだけが試験導入と拡大に進む。
監督については、参加者でつくるコンソーシアムを主体とし、規定に反する活動を停止または取り消す権限は所管の政府機関に置く案を示した。実施の行程案では、金融や医療など影響の大きい一部の分野で試行を始め、並行して規制のサンドボックスを設ける。
インド政府のスード首席科学顧問は円卓会議で「DEPAでは、データがモデルのもとへ移るのではなく、モデルがデータのもとへ移る」と述べた。
【関連サイト】インド電子・情報技術省「Data Empowerment and Protection Architecture (DEPA) for AI Training」
