AI法第50条の透明性の義務について欧州委員会が示したガイドライン、EU官報に掲載。対象の事業者や例外を明確化

欧州委員会がEUのAI法第50条の透明性の義務について示したガイドラインが、11月12日にEU官報に掲載された。7月20日に欧州委員会がガイドラインを公表しており、官報に掲載された版は11月5日付だ。
人々がAIとやりとりしていることや、AIがコンテンツを生成・加工したことを見分けられるよう、ガイドラインは義務を負う事業者と遵守の方法を示している。AI法を最終的に解釈する権限は欧州連合司法裁判所にあり、ガイドラインに法的な拘束力はない。
AIシステムの提供者(AIシステムを自ら作るか他者に作らせ、自らの名前で市場に出すか使用を開始する企業や団体など)は、チャットボットのように利用者と直接やりとりするシステムをAIが相手だと分かるように設計する義務を負う。AIが相手だと明らかな場合などは、知らせる義務の例外となる。
また、画像や動画、音声、文章を生成・加工するAIシステムについては、提供者が出力に電子透かしなどの機械で読み取れる印を付け、AIで生成・加工されたと検出できるようにする。標準的な編集の補助にとどまるシステムなどは、印付けの義務の対象から外れる。
一方、導入者(AIシステムを使う判断と使い方に責任を負う企業や団体など)は、感情認識や生体情報による分類のシステムを使うとき、対象となる人に知らせる。ディープフェイクのほか、公共の関心事を一般に知らせるために公開する文章も、AIで生成・加工したときはそのことを表示する。人間による確認や編集上の管理を経た文章で公開物に編集上の責任を負う者がいる場合は、表示の義務の例外になる。
EUの外に拠点がある提供者も、EUの市場に出すAIシステムについて義務を負う。個人が純粋に私的な目的でAIを使う場合は導入者の義務の対象外だが、欧州委員会は、定期的に経済的な利益を得る活動やフリーランスの仕事での利用を職業上の活動とみなすとしている。
第50条第5項は知らせる義務と表示の義務に基づく情報と、コンテンツがAIによる生成や加工かを示す検出の結果の二つについて、明確でほかの情報と区別できる形で最初のやりとりやコンテンツに初めて接する時点までに対象となる人へ示すよう定めている。
印付けと検出、ディープフェイクなどの表示の義務は、欧州委員会が適切と評価する、AI生成コンテンツの透明性の行動規範に従うことで、遵守を示すことができる。規範に署名していない提供者や導入者は、ほかの適切な手段で遵守を示すことが求められる。
違反した事業者には、1,500万ユーロか、企業なら前の会計年度の世界の年間売上高の3%のうち、高いほうを上限とする制裁金が科されうる。中小企業(スタートアップを含む)では、低いほうが上限になる。
第50条は8月2日から適用されている。EUが採択したAI法の改正により、8月2日より前に市場に出した生成AIシステムの提供者は、印付けと検出の義務への対応を12月2日まで猶予される。
なお、8月2日より前に生成・加工したAIの出力やディープフェイクには、さかのぼって印や表示を付ける必要はない。ただし、公共の関心事を一般に知らせる文章は、8月2日より前に生成したものでも8月2日以降に公開する場合は表示が必要になる。
【関連サイト】欧州委員会「Guidelines on transparency obligations for providers and deployers of AI systems」









