本文へ移動
Harch AI Lab AI Learning & Research Mediapowered by Artiql Inc.

ディープフェイク(Deepfake)とは・意味、由来・各国の規制・事例

ディープフェイクとは?

ディープフェイク(Deepfake)とは、AIで作ったり加工したりした画像・音声・動画のうち、実在の人物や物、場所、出来事などに似ていて、見聞きした人が本物だと誤って受け取るおそれのあるもののこと。

EUのAI法は第3条で、AIで作ったり加工したりした画像・音声・動画のうち、実在の人物・物・場所・団体・出来事に似ていて、本物や真実だと誤って思わせるものを「deep fake」と定めた。対象は人の顔や声に限らず、場所や出来事を写したように見える画像も含む。

日本の公的な資料も「ディープフェイク」の表記を使っている。人工知能戦略本部は、日本のAI法に基づいて決めた指針の安全性の項目の注で、AIの活用で危害を及ぼさないようにする対象に自由や名誉も含むとした。例に挙げたのは、ディープフェイクの技術によるフェイク動画、性的に加工した画像、他人になりすました音声などを使った脅迫や名誉毀損だ。

ディープフェイクは、ITパスポート試験のシラバス Ver.6.5 で、AIを利活用するうえでの留意事項の用語例に含まれている。生成AIパスポートの2027年2月の試験から使うシラバスでも、生成AIのリスクの1つに「ディープフェイクによるなりすましリスク」が挙げられている。

ディープフェイクの由来と広まった背景

欧州議会の調査機関の依頼で、オランダのラテナウ研究所などの研究者がまとめた2021年の報告書によると、deepfake は「deep learning(深層学習)」と「fake(偽物)」を合わせた語だ。語の起こりは掲示板サイト Reddit だという。2017年に匿名の利用者が加工した動画を投稿し、ほかの人も同じことができるプログラムのコードを共有した。

Reddit の利用者が最初に投稿した動画は、出演者の顔を著名人の顔に差し替えた性的な内容だった。報道で取り上げられて語が広く知られ、俳優や政治家、経営者が登場する性的でない動画が出ると語はさらに定着したと、報告書は説明している。語を作ったのはこの Reddit の利用者である可能性が高いとし、「deep-fake」「deep fake」のような書き方もあるとした。

報道ではこの語が加工した動画を作る幅広い技術を指して使われると、報告書は述べている。人へのなりすましの要素を求める見方も多く、AIを使うことを欠かせない特徴とする研究者もいるという。

報告書が話を聞いた専門家は、語に悪意を連想させる響きがあると指摘した。新しい語が使われるようになった理由として報告書が挙げるのは、技術と社会のいくつかの変化だ。なかでもコンピュータービジョンと機械学習の技術の進展が大きかったとしている。

総務省と経済産業省は、2026年3月のAI事業者ガイドラインの第1.2版の別添で、ディープフェイクの悪用例が各国で相次いでいるとしている。海外では偽の画像や動画を使った情報操作や世論工作があり、各国の選挙でもほかの候補者のディープフェイクを作って広める例が起きているという。

政府は2026年7月の人工知能基本計画で、AIを悪用したディープフェイクや声の無断利用などの事案が、この半年の間にも国民の関心を集めたと記している。ディープフェイクをAIがもたらすリスクの例に挙げ、ガバナンスで対応するとした。

ディープフェイクに関する主な出来事・ニュース

主な国・地域のディープフェイクの規制

EUは利用者にディープフェイクの開示を求める

EUのAI法の第50条は、ディープフェイクに当たる画像・音声・動画を作ったり加工したりするAIシステムの利用者に、人工的に作った・加工したことの開示を求める。内容が明らかに芸術や風刺などの作品の一部なら、作品の鑑賞を妨げない形で示せばよい。

AI法の第50条の決まりは、2026年8月2日から適用されている。欧州委員会は、この日より前に作ったディープフェイクにさかのぼって表示する義務はないとしたうえで、表示を勧めている。

決まりを守る手段として、欧州委員会は2026年6月に行動規範を公表した。規範に従うかどうかは生成AIシステムの提供者や利用者の判断に任されるが、第50条の透明性の義務は法律上守らなければならない。規範の第2部は利用者向けで、ディープフェイクなどの表示の決まりを扱う。EUは利用者が表示に使えるアイコンも用意した。

2026年9月30日には、規範の90超の署名者が2つのタスクフォースを設けた。表示のタスクフォースは、EUのアイコンを広め、音声だけの版を作ることなどを目的にしている。

EUは同意のない性的な画像を作るAIを禁止する

2026年7月のAI Omnibusは、AI法の禁止事項に新しい項目を2つ加えた。1つは、特定できる人の性的な部位や性的な行為を写実的に示す画像・動画・音声などを、本人の明確な同意なしに作ったり加工したりするAIシステムだ。もう1つは、児童の性的虐待の素材を作ったり加工したりするAIシステムだ。この禁止は2026年12月2日から適用される。

提供者がそうしたAIシステムを市場に出すことなどが禁じられるのは、本人の明確な同意のない性的な画像や児童の性的虐待の素材などを作ったり加工したりすることがシステムの本来の目的である場合か、生成を確実に防ぐ安全策がないまま大きな改造なしに繰り返し作れると予見できる場合だ。利用者がAIシステムを使うことが禁じられるのは、そうした内容を作る目的で使うときだ。

米国のTAKE IT DOWN Actは48時間以内の削除を求める

米国で2025年5月19日に成立した TAKE IT DOWN Act は、本人の同意のない親密な画像を扱う連邦法だ。AIなどで作ったり本物の画像を加工したりした親密な画像で、普通の人が見て本物と見分けられないものを「digital forgery(デジタルの偽造)」と定めた。

法律は、特定できる成人のデジタルの偽造をオンラインのサービスで故意に公開することを、本人の同意がなく害を与える意図があるときなどに禁じた。罰則は、成人が対象のときは2年以下、未成年が対象のときは3年以下の拘禁刑か罰金、またはその両方だ。

プラットフォームには、成立から1年以内に、本人が削除を求める手続きを設けるよう求めた。有効な求めを受けたら、48時間以内に画像を削除し、知られている同じ画像の写しも削除する努力をしなければならない。FTC は2026年5月19日にこの義務の執行を始め、Alphabet、Meta、Microsoft、TikTok、X など15社に、守るよう促す手紙を送ったと発表した。

人の声や外見の再現を許す権利を定める NO FAKES Act の法案も、2026年5月に上院に出された。法案の中身は声の権利の記事が扱っている。

英国は親密な偽の画像を作ること自体を罪にした

英国の Data (Use and Access) Act 2025 の第138条は、性犯罪法を改め、成人の親密な状態(intimate state)を写したように見える偽の画像(purported intimate image)を、本人の同意なく意図的に作ることを罪にした。作るよう求めることも、実際に画像が作られたかどうかにかかわらず罪になる。

法律のいう偽の画像は、本人の写真や映像のように見えるものの、実際には本人の写真や映像ではない画像や、それだけではない画像を指す。規定は2026年2月6日に施行された。

デンマークは外見や声の再現の共有を違法にする法案を出した

デンマークの文化省は2026年10月8日、人の外見や声などを本物のように再現したものの共有を違法とする法案を出した。文化大臣は、年明けにも施行されることを望むとしている。

中国はAIが作った内容に標識を付けることを求める

中国の国家インターネット情報弁公室など4つの部門は、2025年3月に「人工知能生成合成内容標識弁法」を公表し、2025年9月1日に施行した。AIで作ったり合成したりした文・画像・音声・動画・仮想の場面などに付ける標識を定めた規則だ。

標識には、利用者がはっきり気づく文字・音声・図などの明示の標識と、ファイルのデータに埋め込む気づきにくい暗黙の標識がある。サービスの提供者は、ファイルのメタデータに暗黙の標識を加えなければならない。深度合成(ディープシンセシス)の規定が定める一部のサービスでは、明示の標識も付ける必要がある。組織や個人が標識を悪意で消したり改ざんしたりすることも禁じられている。

日本はAI法に基づく調査とX社への照会で対応する

性的なディープフェイクを作るAIは、日本のAI法に基づく調査の対象の1つになった。2025年9月の人工知能戦略本部の会合に出された報告は、AIの技術が進んで性的ディープフェイクを簡単に作れる状況にあるとし、関係省庁と連携して必要な対策を検討するとした。

人工知能戦略担当の小野田大臣は2026年1月16日の会見で、生成AI「Grok」の画像編集の機能を使い、他人の写真やイラストを無断で性的な画像などに加工して広める例が、前年の年末から世界中で相次いでいると述べた。内閣府は X 社に速やかな改善を求め、書面で照会した。大臣は、改善が見られなければ、AI法に基づく指導を含めて対応を検討するとしている。

ディープフェイクに関する事例

FBIは高官の声をかたる手口を警告した

米連邦捜査局(FBI)は2025年5月、米国の政府高官をかたる文字のメッセージとAIで作った声のメッセージを送る手口が、2025年4月から続いていると警告した。狙われた人の多くは、連邦や州の現職の高官や退任した高官と、その知り合いだという。

FBI によると、攻撃者はまず高官を名乗って相手の信頼を得ようとする。アカウントに入り込む手口の1つは、別のメッセージのサービスに移るという名目で、悪意のあるリンクを送ることだ。FBI は、著名人や身近な人になりすますために、AIで作った音声を使う例が増えているとしている。

欧州委員会はGrokの機能についてXの調査を始めた

欧州委員会は2026年1月26日、X が自社のサービスに Grok の機能を組み込んだ際に、リスクを正しく評価し抑えたかを調べる正式な調査を始めた。リスクには、加工した性的に露骨な画像や、児童の性的虐待の素材に当たりうる内容の拡散が含まれる。

X への調査の根拠は、オンラインのプラットフォームの義務を定めたEUのデジタルサービス法(DSA)だ。欧州委員会は、こうしたリスクが現実になり、EUの市民が深刻な害を受けたとみられるとしている。

ディープフェイクの見分け方と語の範囲の違い

見た目での判別は難しくなっている

FBI は画像や動画の細かな不自然さとして、ゆがんだ手足、不自然な顔、影の誤り、不自然な動きなどを挙げている。一方で、AIで作った内容は見分けにくいことが多い段階まで進んだとしている。

FBI は電話やメッセージを受けたとき、相手が名乗る人物の電話番号を自分で調べてかけ直し、本人かを確かめるよう案内している。家族の間で、本人を確かめるための合言葉を決めることも勧めている。

来歴や電子透かしでAIが作ったことを示す

AIが作ったことを示す技術には、作成と変更の記録を付けるコンテンツ来歴と、データに目印を埋め込む電子透かしがある。EUの行動規範の署名者による印付けと検出のタスクフォースには、印付けや検出の手段のあいだで相互運用性を高める作業部会がある。この作業部会は、一般の人がいくつもの検出器を試さなくてもAIが作ったか加工したかを判断しやすくすることを目指している。

語が指す範囲は資料ごとに違う

EUのAI法の定義は、人だけでなく物や場所、出来事に似せた画像・音声・動画を含む。米国の TAKE IT DOWN Act のデジタルの偽造と、英国の法律の偽の画像は、親密な画像に限った言い方だ。規制やニュースを読むときは、どの範囲の偽の内容を指しているかを確かめる必要がある。

ディープフェイクの英語での言い方

英語表記 意味 使用主体
deepfake 深層学習(deep learning)と偽物(fake)を合わせた語 欧州議会の調査機関の報告書
deep fake AIで作ったり加工したりした、本物と誤って受け取られる画像・音声・動画 EUのAI法
deep-fake ハイフンでつないだ書き方 欧州議会の調査機関の報告書
digital forgery AIなどで作った、本物と見分けられない親密な画像 米国の TAKE IT DOWN Act
purported intimate image 本人の写真や映像のように見え、親密な状態を写した偽の画像 英国の Data (Use and Access) Act 2025

ディープフェイクに関連する用語

  • コンテンツ来歴:画像や動画が作られてからの変更や利用の記録。AIが作ったかを確かめる手がかりになる。
  • 電子透かし:データに目印となる情報を埋め込む技術。AIが作ったコンテンツの検出に使われる。
  • 声の権利:本人の許しなく声をAIに学習させたり合成して使ったりされないよう守る必要があるとする考え方と、制度づくりをめぐる議論。
  • EU AI法(AI Act):ディープフェイクの開示を利用者に求めるEUの規則。
  • AI Omnibus(AIオムニバス):同意のない性的な内容を作るAIシステムの禁止を加えた、AI法を改める規則。

ディープフェイクに関する出典

欧州議会・EU理事会「Regulation (EU) 2024/1689 (Artificial Intelligence Act)」(2024年7月12日、EU官報)
情報処理推進機構「ITパスポート試験 シラバス Ver.6.5」(2026年1月8日掲載)
生成AI活用普及協会「生成AIパスポート試験シラバス(2027年2月試験より適用)」
人工知能戦略本部「人工知能関連技術の研究開発及び活用の適正性確保に関する指針」(2025年12月19日)
Mariëtte van Huijstee ほか「Tackling deepfakes in European policy」(2021年7月、欧州議会 STOA)
内閣府「人工知能基本計画 ~日本AX、より強く、より豊かに~」(2026年7月14日)
欧州委員会 AI Act Service Desk「Article 50: Transparency obligations for providers and deployers of certain AI systems」
欧州委員会「Quick Facts: Transparency rules for AI systems」(2026年7月29日更新)
欧州委員会「Code of Practice on Transparency of AI-generated Content」
欧州委員会「Signatory Task Forces of the Code of Practice on Transparency of AI-generated Content」(2026年10月28日更新)
欧州議会・EU理事会「Regulation (EU) 2026/1744 of the European Parliament and of the Council of 8 July 2026 (Digital Omnibus on AI)」(2026年7月24日、EU官報)
米国議会「Public Law 119-12 (TAKE IT DOWN Act)」(2025年5月19日)
米連邦取引委員会「FTC Begins Enforcing the TAKE IT DOWN Act」(2026年5月19日)
米国上院「S. 4591 Introduced in Senate (IS) NO FAKES Act of 2026」(2026年5月20日)
英国議会「Data (Use and Access) Act 2025, Section 138」(2025年6月19日)
デンマーク文化省「Kulturminister vil dæmme op for delinger af digitale efterligninger fra årsskiftet」(2026年10月8日)
内閣府「AI法に基づく調査研究等について【報告】(人工知能戦略本部(第1回)資料2-4)」(2025年9月12日)
総務省・経済産業省「AI事業者ガイドライン(第1.2版)別添(付属資料)」(2026年3月31日)
米連邦捜査局「Senior US Officials Impersonated in Malicious Messaging Campaign」(2025年5月15日)
欧州委員会「Commission investigates Grok and X’s recommender systems under the Digital Services Act」(2026年1月26日)
内閣府「小野田内閣府特命担当大臣記者会見要旨 令和8年1月16日」(2026年1月16日)
国家互联网信息办公室・工业和信息化部・公安部・国家广播电视总局「关于印发《人工智能生成合成内容标识办法》的通知」(2025年3月14日)

ディープフェイクに関連する記事