2026年、調査対象の成人85%がAI生成コンテンツと本物を見分けられないと回答した。深刻な損害は欺瞞ではなく否認である。
崩れた推定
合成メディアが欺瞞より疑念において高くつく理由
2026年、西側五か国で調査された成人85%が、人工知能によって生成された内容と本物を確実に切り分けられなくなったと答えた。前年は66%だった ✓ 確認済み事実 [5]。重要な数字は騙された人数ではない。推定をやめた人数である。
本報告書における中心的な結論は、合成メディアが生む最大の費用が欺瞞の成功ではなく、一つの推定が崩れた点にあるというものである。およそ一世紀半にわたり、写真、録音、映像は日常的な推論において推定として働いてきた。すなわち立証責任は、記録が偽だと主張する側にあった。生成モデルはこの推定を取り除きながら代替を何も用意せず、この除去こそ、偽物それ自体より大きく作用している。ロバート・チェスニーとダニエル・シトロンは2019年12月、『カリフォルニア・ロー・レビュー』誌上でこの帰結を嘘つきの配当と名づけた ✓ 確認済み事実 [1]。
純粋な捏造がもたらす測定可能な被害は現実であり、増えている。Resemble AIは2026年上半期、1,760件の報道から821件の独立した合成メディア攻撃を確認し、少なくとも15,736人の被害者を記録して、これらを346万件の合成ファイルと結びつけた [9]。2025年通年の集計では、確認された個別事案1,567件と、裏づけのある損失12億8000万ドル超が示された。同じ文書は、事案8割超が金銭的被害を一切開示していないと注記しており、公表された合計額はいずれも推計ではなく下限にすぎない [10]。米連邦捜査局は2025年、人工知能に関連する詐欺について22,364件の通報を受理し、申告損失は8億9300万ドルに達した [12]。大きな数字である。だが最大の効果ではない。
これら詐欺の数字を信頼データと並べると、非対称性が見えてくる。ロイター・ジャーナリズム研究所は2026年版『デジタル・ニュース・リポート』で、ニュースに対する世界の信頼度を37%と測定した。2015年に系列が始まって以来で最低の水準であり、調査対象48市場のうち29市場で有意な低下が生じている ✓ 確認済み事実 [4]。ネット上で真偽を見分けられるかという懸念は4ポイント上昇して62%となり、ナイジェリア、ケニア、南アフリカ、米国、英国、オーストラリアでは回答者75%超が合成メディアとAI生成物を独立した懸念として挙げた [4]。ソーシャル・プラットフォーム上で接するニュースへの信頼は22%、対話型システムが届けるニュースへの信頼は20%にとどまる [4]。
この二つのデータ群にある落差こそ本報告書が扱う主題である。詐欺被害は集中している。被害者は数十万人規模で、多くは経営幹部、親族、本人確認システムへのなりすましを通じたものだ。これに対して疑念は普遍的である。動画を信じる前にいま躊躇する人は誰しも、どの事案台帳にも現れない費用を負担しており、録音をもっともらしく否認できるようになった人は誰しも、どの規制当局も計上しない便益を受け取っている。キニピアック大学が2026年3月に実施した世論調査では、米国人58%が本物の録音と生成物を見分けられると答えた。つまり42%は自信がなく、うち20%はまったく自信がないと答えている [6]。
検出への支出、プラットフォームによる表示、刑事規定は、いずれも成功した偽物を標的にしている。失敗した本物の記録を標的にするものはほとんどない。銀行を欺いた捏造動画は被害届と保険請求、そして事案データベースの一行を生む。捏造として退けられた本物の動画は何も生まない。退けて得をする者には何かを記録する理由がなく、害を被った側には否定を証明する場が存在しないからである。
自信の較正もまた不十分であり、この点は重要である。嘘つきの配当は正確さからではなく自信から支払われるからだ。2026年3月のマイクロ・センター調査では、回答者57%が生成画像を見分けられると考えていたが、実際に試されて正解したのは55%にとどまった [7]。Copyleaksは2025年10月、回答者82%が少なくとも一度は生成画像を本物と受け取ったと認めたと報告している ◈ 強力な証拠 [8]。一度誤り、そのことを自覚した人は、どちらの方向にも動かしにくくなる。この硬さこそ、悪意ある否認が突く点である。
本報告書の構成はこの非対称性に沿っている。第二節と第三節は欺瞞の台帳と否認の台帳を切り分け、それぞれに数字を与える。第四節と第五節は、機能する証拠上の推定なしには動けない二つの制度、すなわち裁判所と編集局を検討し、推定が侵食されるあいだ両者が何をしているかを示す。第六節は、欧州連合、中国、インド、デンマーク、英国、そして米国31州で法律に書き込まれた来歴表示と標識による対応を評価する。第七節と第八節は、実際の深刻さをめぐる論争について双方で最も強い議論を提示し、そのうえで証拠が支えるものと支えないものを述べる。
欺瞞の台帳
捏造メディアが実際に奪うもの、そして誰から奪うか
裏づけのある合成メディア詐欺は集中し、産業化し、急速に伸びている。金融業では一件あたり平均損失が60万3000ドルに達し、全業種平均のおよそ45万ドルを上回る ✓ 確認済み事実 [11]。被害の構成は公共の議論が前提とするものと一致しない。
台帳における欺瞞の側は否認の側より数えやすく、議論を誠実に保つには先に数える必要がある。Resemble AIは2025年第3四半期だけで2,031件の個別事案を記録しており、第2四半期比で317%の跳ね上がりとなった [10]。デロイトは、生成AIが可能にした詐欺による損失が米国で2027年までに400億ドルへ達すると予測する。2023年の123億ドルから年平均32%で伸びる計算である [13]。こうした予測にはベンダー側の利害が含まれ、桁の目安として読むべきだが、方向は独立した集計をまたいで一貫している。
産業化が最もはっきり現れるのは本人確認である。Entrustは2026年版の本人確認詐欺報告で、合成メディアが生体認証詐欺の試行5件に1件と結びつくようになり、注入型攻撃が一年で40%増え、偽造された自撮りが2025年に58%増えたと述べている ✓ 確認済み事実 [14]。iProovは2025年下半期、iOS端末を狙う注入型攻撃が1,151%増加し、年間では741%の伸びに寄与したと記録した [15]。注入型攻撃は偽の顔をカメラの前に掲げるわけではない。合成映像を検証経路へ直接送り込むのであり、だからこそ対策はアプリケーション層より下に置かれねばならない。
もっとも、合成メディアで最も量が多い分類は一度も金融ではなかった。セキュリティ・ヒーローは2023年、当時流通していた深層偽造動画98%が同意のない性的素材であり、描かれた人物99%が女性で、制作量が2022年から2023年にかけて464%増えたと明らかにした [17]。この分布は目立って変わっていない。変わったのは制作費用であり、消費者向け画像モデルが編集機能を得た時点でゼロまで落ちた。そして手を染める者の年齢も変わった。
韓国は最も明快な国別事例を提供する。そこでの不祥事を記録したのはベンダーではなく警察だからである。2024年11月から2025年10月にかけて、韓国警察はデジタル性暴力で3,557人を検挙し、合成メディア関連の犯罪が1,553件と最大の単一分類を形成した [18]。ある一斉取り締まりでは、検挙者42.9%にあたる723人が10代であり、20代と合わせて全体のおよそ8割を占めた [18]。2024年局面はTelegram上で学校別、大学別に編成されたチャンネルで進み、うち一つは購読者22万人を超えたと伝えられ、被害者も加害者もしばしば未成年だった [19]。
同じ型は2026年初頭、英国でも繰り返された。プラットフォームXで助言システムGrokに付属した画像ツールをめぐる事案である。画像による性的加害にあたる素材が大規模に生成され共有され、そこには14歳の俳優を描いたものも含まれていた [21]。2026年1月12日、通信規制機関Ofcomは、Xが2023年『オンライン安全法』に基づく義務に違反したかどうかを調べる正式調査を開始した。この手続は最大1800万ポンド、あるいは算入対象となる世界売上高10%のうち高いほうの制裁金で終わりうる [20]。同社は1月5日に画像生成を有料購読者に限定し、1月9日に編集面の歯止めを加えたが、英政府はこの一連の対応を不十分だと公に述べている [21]。
欺瞞の台帳からは二点が導かれる。第一に、被害は圧倒的に女性と子どもへ落ち、企業の資金へは二次的にしか落ちない。報道と警備予算では重みづけが逆であるにもかかわらずである。第二に、これらの被害はほとんどどれも、標的が騙されることを条件としない。同意のない画像は誰が信じるかどうかと関係なく辱めをもたらし、注入型攻撃は何も信じない機械に対して成功する。欺瞞という枠組みはすでに、記録された事案の多数にうまく当てはまらない。これが枠組みを取り替えるべき最初の兆候である。
測定された配当
1万5000人を対象とした五つの実験が示す、戦略としての否認
嘘つきの配当はふつう主張されるだけで測定されない。いま検証が行われ、標語より狭く、そして不穏な結果が出た。否認は効く。ただし多くの論評が想定する場所では効かない ◈ 強力な証拠 [2]。
チェスニーとシトロンは2019年にこの仕組みを提示した。深層偽造が広く知られるほど、捏造の可能性があるという一事だけで、記録に捉えられた者に弁明が与えられ、技術を一般が理解するほど、弁明は強くなる、というのが両氏の議論である [1]。定式化は優雅だったが、五年にわたりまったく検証されないままだった。もっともらしい仕組みという形は備えていても、知見という地位は備えておらず、この区別は上に積み上げられた政策文献の大半で失われてしまった。
検証は『アメリカン・ポリティカル・サイエンス・レビュー』誌にもたらされた。ケイリン・ジャクソン・シフ、ダニエル・シフ、ナタリア・ブエノは、米国で実在した政治スキャンダル四件から採った文章と映像を用い、米国の成人1万5000人超を対象に事前登録された調査実験を五つ実施した ◈ 強力な証拠 [2]。参加者はスキャンダルの記述を見たうえで政治家の反応を見る。謝罪、沈黙、あるいは証拠は偽情報だという主張である。設計は二つの否認戦略を切り分けた。一般的な情報上の不確実性に訴えるものと、敵対的な報道機関に対して支持者に結集を呼びかけるものである [2]。
深層偽造は、実際に真実である事柄について嘘つきが責任を免れることを容易にする。
——ロバート・チェスニーとダニエル・シトロン、『カリフォルニア・ロー・レビュー』2019年12月重要な知見は三つある。偽情報だとする主張は、党派の下位集団すべてで政治家への支持を高め、嘘は謝罪と沈黙のいずれをも上回った。これは推測ではなく、誘因の構造に関する直接の知見である [2]。効果は文章によるスキャンダル報道に対しては強く、映像による証拠に対してはおおむね無力だった [2]。そして各戦略は、報道機関への一般的な信頼を測定可能なかたちで下げはしなかった。これは警鐘として最も流布した説と食い違う [2]。
映像に関する知見は安心材料として最も多く伝えられ、そして最も慎重さを要する。実験が用いたスキャンダルは、映像証拠が本物であり、来歴が真剣に争われてもいなかった。測っているのは、本物の場面をいま見終えた観衆を否認がどれだけ動かすかである。流通する映像のうち相当な割合が実際に合成であるときに何が起きるかは測っていない。2022年と2023年にはそうではなかったからだ。この知見は、記述する状態が完全には到来していない時点で取られた基準値である。
ブレナン司法センターはジョージタウン大学の安全保障・新興技術センターと共同で、実験データが広く読まれる前の2024年1月に実務上の結論を導いていた。一般市民が確かめられるとき配当は縮むのだから、標識と追跡の仕組みが重要であり、脅威を誇張しない姿勢も同じく重要だ、というものである [3]。報道機関に向けた提言はこの分野の文献では異例である。提言する側の利害に反するからだ。両センターは編集局に対し、読者を不確実性に備えさせること、そしてAIの脅威を膨らませないことを勧める。検出できない偽物についての誇張された警告は、いずれも嘘つきの口座への入金だという理由からである [3]。
この推論は合成メディアをどう報じるかについて鋭い含意を持つ。映像はもはや信用できないと告げる報道の周期は、具体的な事案に偽物があろうとなかろうと、悪意ある行為者が持ち出せる懐疑の基礎水準を押し上げる。配当を養うのは発生頻度ではなく知名度である。一般に流通する情報被害のうち、市民の理解が深まるほど大きくなるのはこれだけであり、だからこそ懐疑のみを目指す啓発は解決にならず、問題の一部になりうる。
証拠法は、証拠を扱ってきた期間と同じだけ長く偽造を扱ってきた。連邦証拠規則901は、提出者に対し、ある物件が主張どおりのものだという認定を支えるに足る資料を求め、規則104はこの種の先決問題を裁判官がどう判断するかを定める。裁判所は数十年にわたり、偽造された証書、加工された写真、切り貼りされたテープにこれらを適用してきた。この歴史こそ、新しいものは要らないという最も強い論拠である [31]。説得力ある偽造を作る限界費用が十分に高く、基礎発生率が低く保たれているかぎり、この論拠は成り立つ。
Mendones対Cushman and Wakefield事件はこの前提を直接に試した。アラメダ郡上位裁判所のビクトリア・コラコウスキー裁判官は、ある証人による映像証言を検分し、研究所よりも注意深い読み手にこそ見て取れる異常を見出した。表情に乏しい顔、単調な話し方、間の置き方の不自然さ、奇妙な語選び、音声と合わない口の動き、そして繰り返し再生される区間である [27]。決め手はメタデータだった。本物として提出された映像の一つが、撮影機材としてiPhone 6を示す情報を持っていた。原告側の説明自体が前提とする録画をこなせない機種である [27]。裁判官は手続を終結させる制裁を科し、2025年9月9日に訴えを退け、11月には再考の申立ても退けた [26]。
規則づくりの側の応答は、慎重さが行きすぎて停滞に近い。レベッカ・デルフィーノ教授は、争いのある視聴覚証拠の扱いを変える新規則901(c)を提案し、2025年4月に諮問委員会へ提出した [29]。委員会は2026年5月の会合で、改正はさしあたり必要ないと結論した。裁判所に既存の手法があること、訴訟で実際に現れた事案が限られていることを理由に挙げ、事情が変われば後に検討できるよう規則901(c)を留保した [30]。並行して、2026年2月16日まで公開意見募集にかけられた規則707案は、機械が生成した証拠を扱う [30]。
規則707には、批判者がただちに指摘した構造上の限界がある。適用されるのは、提出者が人工知能によるものだと認めた証拠であって、真正性が争われている証拠ではない [31]。この問題にとっては、まさに線の反対側である。偽物を提出する当事者は自ら申告しないし、本物の録音を否認する当事者はこの規則をそもそも必要としない。認められたAI出力についての開示制度は、真正性が争われている事案を元の位置にそのまま残す。
認定を受けた法科学分析者は1時間あたり150ドルから300ドル、上級の鑑定人は250ドルから400ドルを請求し、通常の検査には10時間から20時間を要する。争いのある物件一つで1,500ドルから8,000ドルという水準になる [33]。この費用は真正性を証明しなければならない側が負う。刑事では予算を持たない弁護側に落ち、民事では資力の乏しい側に落ちる。証拠の問題が資力の問題へと置き換わる。
費用の背後にある制約は処理能力である。英国貴族院の委員会は、警察が抱えるデジタル法科学の滞留に懸念を示した。あらゆる端末を中央の研究所へ送るという従来の方式は、量の前で何年も前から機能していない [34]。合成メディアの分析をこの列に加えることは、作業を一つ加えることではない。分類を一つ加えることであり、原則としてどの当事者が争うどの視聴覚物件にも適用される。届く端末すらさばけない制度においてである。
その間に、否認という戦略はすでに最高水準で試みられている。運転支援を作動させたTesla車で死亡した男性の遺族が起こした訴訟で、被告側代理人は技術の安全性に関するイーロン・マスクの録音発言について、深層偽造の可能性があるとして排除を求めた [28]。試みは失敗した。2023年、熟練した弁護士によって、録音発言が存命の経営者として最も広く保存されている部類に入る公人に対して行われたのであり、この一手が例外的ではなく利用可能なものであることを確立した [35]。
したがって裁判所がいま立っている隙間は、教義上ではなく実務上のものである。規則901は原則として適切なまま、適用の場面では手が届かない。裁判官による発見は機能するが複製できない。そして最初に採用されそうな規則が覆うのは、争いのある事案ではなく認められた事案である。実務家が最初の持続的な波を予想する領域は相続と家事の訴訟である。この種の事件は、機関による保管の連鎖も第二の複製もない私的な会話の録音に依拠するからだ [35]。州裁判所全国センターはこの危険を正確に言い表す。危険は裁判所が騙されることよりも、裁判所に見分ける力があると市民が信じなくなることにある [32]。
編集局における反転
検証予算が、本物を本物だと示すために使われるとき
2026年のイラン戦争のさなか、大手紙が掲載したテヘランの群衆を写す本物の写真が、ネット上で広くAI生成だと指弾された。自身の死をめぐる噂をめぐって冗談を言うイスラエル首相の映像も法科学の分析者が調べたが、合成の痕跡は一切見つからなかった ✓ 確認済み事実 [36]。どちらも本物だった。どちらも弁護を要した。
真正性を確かめられない編集局は、記事を出せない編集局である。そして約束されていた道具立ては届いていない。基準であるDeepfake-Eval-2024は、学術データ集で訓練され採点された公開最先端の検出器を、2024年に実際に流通していた深層偽造へ当てた。曲線下面積で測ると、映像モデルは性能50%を、音声モデルは48%を、画像モデルは45%を、公表値に比して失った ◈ 強力な証拠 [22]。周辺的な劣化ではない。使える信号と硬貨投げとを分ける差である。
ベクター研究所の研究者は2026年、この効果に名を与えて汎化の錯覚と呼んだ。基準点数は高いままなのに実運用での性能は静かに落ちる。ある世代の生成器で訓練された検出器が次の世代へ移らないからである [23]。カリフォルニア大学バークレー校における研究も別の経路から同じ結論に達し、実験室の基準が流通下で検出器が挙げる成績を体系的に過大評価していると示した [24]。2019年から2025年に及ぶ14の基準データ集をまたいで汎化する手法は確かに存在し、事前訓練された視覚符号化器へのパラメータ効率的な適応に立脚している。ただしそれは研究成果であって配備された製品ではなく、両者を隔てる距離は生成器の公開回数で測られる [25]。
報道機関は不確実な状況に備え、嘘つきの配当について市民に説明し、AI脅威の誇張を避けるべきである。
——ブレナン司法センターと安全保障・新興技術センター、2024年1月反転こそ、いまの局面を従来の検証問題から分けるものである。2026年3月、Xのあるアカウントは、新たな最高指導者が指名された後にテヘランへ集まった群衆を写す生成画像を新聞が掲載したと主張した。写真は本物で、報道カメラマンが撮ったものだった [36]。同じ時期、検出会社ゲットリアル・セキュリティは、自身の死をめぐる噂に答えるベンヤミン・ネタニヤフの映像を調べたが生成の痕跡を見つけず、この結論は同じ出来事を撮った独立の映像によっても裏づけられた [36] [38]。ファクトチェッカーは最も希少な資源を、本物の素材が本物だと示すことに費やした。その一方で紛争の初期局面から使い回された映像は、はるかに小さな抵抗で最新の映像として流れていた [37]。
第二の制約は量である。人権団体WITNESSが2023年3月から運営する深層偽造迅速対応チームは、現場の記者、ファクトチェッカー、人権擁護者をメディア法科学の専門家と結び、事案ごとに分析する [39]。2025年を通じてこのチームが報告したのは、従来からの検出上の困難が続いていることだけではない。生成が疑われる映像が急増したこと、とりわけ有力な映像モデル二つが公開された後に急増したことである [40]。WITNESSはその後、検出道具は実験室での正確さではなく、実際に必要とする人々の役に立つかどうかで測るべきだと論じる評価枠組みを公表した [39]。『コロンビア・ジャーナリズム・レビュー』も同じ結論の実務版に達している。入手できるどの道具も編集局に擁護可能な判定を与えず、誠実な手順は来歴の確認、独立情報による裏取り、公開情報調査のままである [41]。
大手の編集局なら、常設の法科学予算、来歴を扱う工程、検出事業者との関係を抱えられる。地方紙、フリーランスの記者、人権記録者には抱えられない。その結果、真正性を示す費用は、記録が機関による保管の連鎖を持たない可能性が最も高く、素材がある出来事の唯一の痕跡である可能性も最も高い人々に、最も重くのしかかる。
供給側はこれらすべてより速く動いた。OpenAIは2025年9月30日、Sora 2を無料のiOS向けアプリとして公開し、5日で100万件の入手に達した [65]。アプリには可視の透かしと、本人が自分の姿の利用を許可し撤回もできる出演機能が備わる [65]。NewsGuardは既知の虚偽言説を用いてこのモデルを試し、相当な割合について報道の体裁を備えた説得力ある映像を作り出すと確かめた。編集局にとって意味を持つ指標は出力の平均品質ではなく、まさにこれである [66]。故人となった著名人や同意していない俳優を描いた生成物をめぐり一週間の憤慨が続いた後、より厳しい歯止めが導入された。業界全体がいま従う型である。公開し、憤慨を測り、制限する。
信頼データが環を閉じる。ニュースに対する世界の信頼度は37%、ネット上で真偽を見分けることへの懸念は62%である [4]。ニュース入手のために対話型システムを週に一度は使う割合は2025年の7%から2026年には10%へ伸びた一方、そこで届くニュースへの信頼は20%にとどまる [4]。受け手は最も信頼していない経路へ移っている。しかもそれは、基になる素材が持つ証拠としての価値が最も弱まった時期にである。こうした組み合わせこそ、個別の偽物ではなく、いまの時期を過去における報道不安の波から構造的に隔てている。
来歴戦略は検出の失敗に対する合理的な応答である。ファイルが生成物かどうかを確実に言える分類器が存在しないのなら、撮影あるいは制作の時点でファイルに署名し、署名がないことを一つの情報として扱う道が残る。コンテンツ来歴・真正性連合はまさにそう設計されており、その仕様は機器、編集、作成履歴を記録した暗号署名つきの目録を添付する [60]。これは本物の技術的達成であり、大規模に展開されつつある。
2026年時点の普及は多くの批判者が見込んでいたより広い。Leica、Sony、Canon、Nikonによる17機種のカメラが撮影の瞬間に写真へ署名しており、少なくとも一つの最上位機種の携帯電話も加わった。Leica SL3-Sが2025年1月に最初に出荷され、Sony PXW-Z300は固有署名を備えた最初のビデオカメラとされる [62]。流通側では、TikTokが13億本を超える動画に来歴データを付し、YouTube、Meta、LinkedInは利用者へコンテンツ証明を表示している [63]。署名する発行元にはいまやBBC、Reuters、フランス通信社、AP通信、NHK、そして欧州の複数の公共放送が並ぶ [63]。仕様の2.3版は2025年12月に公開され、区間署名によって来歴を生配信へ広げた [64]。
新しい規則のうち、覆う市場の大きさゆえに最も重いのが第50条である。合成された音声、画像、映像、文章を生成または操作するシステムの提供者は、メタデータ、透かし、指紋のいずれかによって出力を機械可読なかたちで標識しなければならず、展開者は内容が深層偽造である場合に可視のかたちで開示しなければならない [43]。欧州委員会は要件へ運用上の形を与えるため、透明性義務に関する指針とAI生成コンテンツの透明性に関する実務規範を公表し、EU共通の記号が定まるまでの暫定図像も示した [42] [44]。義務は2026年8月2日から生じる。もっとも理事会は2026年12月2日という修正日程を示しており、執筆時点で正式には採択されていない [43]。
中国はより早く、より強く動いた。国家インターネット情報部門は2025年3月14日に表示規則を確定し、2025年9月1日、強制力ある国家標準とともに施行した。利用者が目にする明示的な標識と、ファイル自体が担う黙示的な標識の双方を課し、生成サービスの提供者にも出力を配信するプラットフォームにも適用される [45] [46]。インドは2026年2月10日に公示され10日後に発効した情報技術規則改正で続いた。合成生成情報を定義し、目立つ視覚的表示と合成音声における音声告知を求め、裁判所の命令または当局の通知による違法コンテンツの削除期限をおよそ3時間へ、同意のない性的画像については2時間へ圧縮している [47] [48]。
デンマークはまったく異なる道を選んだ。国ごとの試みとして最も興味深いものである。生成器やプラットフォームを規制する代わりに著作権法を改め、人の声と身体的外観に著作隣接権を設けた。個人は名誉毀損を立証しなくても削除通知を出し補償を求められるようになり、保護は死後50年まで及ぶ [49]。欧州議会調査局は、この手法が連合全体の手本となりうるかを検討している [50]。表現の問題を財産の問題へ変換するため執行は現実的になるが、風刺、報道、歴史的描写については法文が完全には答えていない問いが残る。
米国の対応は対象が狭く、覆う範囲は広い。2025年5月19日に成立したTAKE IT DOWN Actは、デジタル偽造を含む同意のない性的画像の公開を犯罪とし、対象事業者へ通報と削除の手順を整える一年の猶予を与えた。米連邦取引委員会は2026年5月19日からこの義務を執行しており、48時間の削除期限は既知の同一複製にも及ぶ [51] [52]。2026年7月時点で、選挙における合成メディアを扱う法律を持つ州は31にのぼる [53]。英国は2026年2月6日から、『データ法』第138条により、同意のない性的画像を作ること、および作るよう求めることを犯罪とした。害が流通の前から始まると認めたのである [67]。
米国の手法が合衆国憲法修正第1条と突き合わされた場面では、それは持ちこたえなかった。Kohls対Bonta事件で連邦裁判官は2025年8月29日、選挙における合成メディアを扱うカリフォルニア州法を無効とした。内容、見解、話し手によって区別しており、風刺に課した注記要件は作品そのものを覆い隠すほど重い、というのが理由である [54]。裁判所の言い方は率直だった。誤導的な内容への対処は対抗言論、厳密な事実確認、民主的討議の自由な流れであって、制作の抑圧ではない [55]。この判断は表示義務と同意に基づく権利を残しつつ、禁じられる政治的表現の範囲を狭めており、今後数年の米国法が取りうる最も可能性の高い形を描いている。
懐疑側の議論はふつう認められているより強い。フェリックス・サイモン、サシャ・アルタイ、ユーゴ・メルシエはハーバード・ケネディスクールの『誤情報レビュー』で、生成AIと偽情報をめぐる不安は誇張されていると論じた。偽情報を実際に縛ってきた制約は制作費用ではなかった、という理由である [57]。供給はすでに事実上無限であり、到達範囲を縛るのは需要、注意、配信であって、そのいずれも生成モデルは変えない。深層偽造が選挙を決めた証拠として最も引かれるスロバキアの音声事案についても、綿密な分析は因果関係が報道の示唆よりはるかに弱いと結論した [58]。
反対側はこれらの知見自体ではなく、射程を争う。『ローフェア』で楽観論を批判する側は、有権者一人ひとりの水準で説得力を測ることが制度への影響を取り逃がすと論じる。劣化するのは平均的な市民の信念ではなく、裁判所、編集局、人権調査、労働紛争における録音素材の証拠としての重みである [59]。そこでこそ記録は利害ある否認に打ち勝たねばならず、政治的支持を扱う調査実験はその領域を覆っていない。
脅威は誇張されているという議論
成人1万5000人超を対象とする五つの事前登録実験は、否認戦略が映像証拠の前で無力であり、報道機関への一般的信頼も測定可能なかたちでは下げないと示した [2]。
偽情報は一世代前から安価に作れる。到達範囲を縛るのは需要と配信であり、生成モデルはそのどちらも変えない [57]。
スロバキアの音声事案を綿密に分析すると、選挙への影響を示す証拠は報道量が示唆するよりはるかに薄い [58]。
二つの欄は同時に正しくありうるし、両立の筋は単純である。懐疑派が測っているのは説得である。合成メディアが世界について人々の信じる内容を変えるかどうかだ。警鐘派が測っているのは裁断である。記録がなお争いを終わらせられるかどうかだ。説得は需要に縛られるがゆえに頑健であり、実験文献が繰り返し見いだしてきたのはこの点である。裁断は供給に縛られる。もっともらしい別解釈が一つあれば記録は決め手でなくなるからであり、裁判所と編集局からの証拠が繰り返し示しているのはこの点である。
調査実験が問うのは、否認が政治家への総体的な支持を動かすかどうかである。証拠法が問うのは、ある特定の録音を、ある判断者が、ある異議に抗して用いうるかどうかである。否認は前者でひどく失敗しながら後者で完全に成功しうる。裁判官にも編集長にも懲戒委員会にも、来歴について合理的な疑いが一つあれば物件を脇へ置くには足りるからだ。説得効果が小さいと示す文献は、裁断の水準が安全であることの証明にはならない。
懐疑側の議論で最も鋭い版は直接の答えに値する。虚偽の深層偽造主張によって有罪の者が免れた事案が記録として一件も出ていないのなら、なぜこれを将来における害ではなく現在の害として扱うのか、という問いである。答えはこうだ。記録された事案がないことは、まさにこの仕組みが予測する事態である。成功した虚偽の否認は痕跡を残さない。記録は脇へ置かれ、案件は進まず、どの台帳にも何も入らない。Tesla事件での試みが見えているのは、失敗し、そして報じられたからにすぎない [28] [35]。
構造的な議論を反証する条件は具体的であり、述べておく価値がある。実地における検出器の性能が基準水準から10ポイント以内へ戻り、生成器二世代にわたってそこを保つこと。来歴メタデータが通常のプラットフォーム流通を高い比率で生き延びること。そして裁判所が専門的支出なしに真正性の争いを日常的に裁くようになること。この三つが揃えば構造的な主張は大きく弱まる。現在そのいずれも満たされておらず、二つめが最も遠い [22] [60] [61]。
まず確立した事柄から始める。合成メディアが可能にした詐欺は現実であり、産業化し、集中している。記録された事案はどの独立集計でも増えており、最大の単一分類は金融的な欺瞞ではなく、女性と少女を対象とする同意のない性的画像である [9] [17]。検出の性能は学術データ集から流通素材へ移った途端に崩れ、映像ではおよそ半分の実測精度を失う [22]。生成物と本物を区別できないと答えた成人の割合は、2025年から2026年にかけて66%から85%へ上がった [5]。ニュースへの信頼は37%という記録的な低さにある [4]。いずれの点も真剣には争われていない。
争われているのは、これらの事実から政治的・制度的な帰結へ至る因果の鎖であり、ここで証拠が支えるのは公共の議論より狭い主張である。実験の蓄積が示すのは、否認戦略が文章による報道に対して政治家への支持を押し上げ、映像に対しては失敗し、報道機関への一般的信頼を測定可能なかたちでは損なわないという事実である [2]。これは本物の知見であり、言葉づかいを律するべきものだ。同時にそれは2022年と2023年における総体的な説得に関する知見であって、映像をめぐる推定がまだおおむね無傷だった時期のものである。裁断にも、今日の合成映像の流通状況にも広げることはできない。
| 構造的リスク | 深刻度 | 評価 |
|---|---|---|
| 検出が新しい生成器へ汎化しない | 流通する深層偽造に対する検出器の性能は、同じ仕組みを検証した基準に比べておよそ半分へ落ち、新しい生成器が出るたび問題は振り出しへ戻る [22] [23]。調達の判断は、実運用を描いていない基準値に基づいて下されている [24]。 | |
| 来歴が通常の流通で剥ぎ取られる | プラットフォームは投稿時にメタデータを技術的慣行として削るため、それを最も必要とする拡散素材こそ、それを備えている可能性が最も低い [60] [61]。目録、透かし、指紋を組み合わせた持続的証明が意図された処方だが、まだ一般化していない [60]。 | |
| 真正性を示す費用が資力の乏しい側へ移る | 争いのある視聴覚物件の鑑定は現行価格で1,500ドルから8,000ドルを要し、該当する法域はすでに何年分もの法科学の滞留を抱えている [33] [34]。負担は刑事被告人、小規模な報道機関、個人の申立人へ落ちる。 | |
| 証拠規則が争いのある事案ではなく認められた事案を扱う | 機械が生成した証拠に関する連邦規則案は、提出者がAIの関与を認めた場合に働くが、真正性をめぐる争いでそうした事態は決して起きない [31]。その争いを狙った規則は2026年5月に先送りされた [30]。 | |
| 主要市場をまたぐ規制の分断 | 中国は2025年9月から、インドは2026年2月から、欧州連合は2026年8月から表示を課し、デンマークは著作権を通じ、米国は31の州法と唯一の連邦削除義務による継ぎはぎで対応している [45] [47] [43] [49] [53]。 |
この区別が公共政策へ持つ含意は、現行の提案の多くにとって居心地が悪い。表示義務、制作への刑罰、プラットフォームの削除義務は、いずれも成功した偽物を狙っている。失敗した本物の記録に対してはほとんど何もしない。生成コンテンツに貼られた表示は本物のコンテンツに付された署名ではなく、表示がないことは、途中でメタデータを剥がされたファイルについて何も証明しないからである [60]。来歴の基盤は現行の対応で唯一、正しい的を狙っている部分であり、同時に流通に関する中心的な仮定がまだ満たされていない部分でもある [61]。
三つの手立ては言葉づかいではなく証拠から直接導かれる。撮影時に署名すること。原本へ署名する行為と、後から否定を証明する行為との非対称こそが議論の全体であり、機材の土台はいまや存在するからだ [62]。検出研究だけでなく裁断の能力へ資金を投じること。裁判所における隘路は鑑定人の時間と裁判官の研修であって、分類器の精度ではないからだ [34] [32]。そして立証責任を明示的に扱うこと。疑いを主張するだけでどの当事者も真正性の手続を強いられる制度は、資力のある側が何もせずに勝つ制度だからである [33]。
さらに、この主題を報じる機関に向けたより狭い提言がある。実験データが存在する前にブレナン司法センターが述べたものである。脅威の誇張は中立的な誤りではない [3]。映像はもはや信用できないと断言するたび、それは次にその一文を必要とする者への移転となる。断言が正確であろうとなかろうと移転は起きる。2026年9月時点で正確な言い方はこうだ。流通する映像の大半は本物であり、本物でない少数派は増えており、両者を分ける道具は、それらを記述する論文におけるよりも実地ではるかに劣る働きしかしない [22] [41]。
したがって本報告書が到達する結論は、どちらの陣営より狭く、両者より厳しい。合成メディアが有権者の信じる内容を変えるとは示されておらず、そう主張する研究は受けた報道より弱い [57] [58]。制度が何を確定できるかをすでに変えたことは示されており、それを記録する研究は受けた報道より強い [22] [27]。害は欺瞞ではなく否認を通って走り、世論ではなく裁断へ落ちる。そしてそれを扱う政策の装置は、大部分においてこの違いに気づいていない。