2026年,85%的受访成年人表示已无法分辨AI生成内容与真实内容。更深的伤害不是欺骗,而是否认。
崩塌的默认推定
合成媒体的代价为何更多落在怀疑而非欺骗
2026年,五个西方国家的受访成年人中有85%表示,已无法可靠地把人工智能生成的内容与真实内容区分开,而一年前这一比例为66% ✓ 已证实 [5]。真正要紧的不是被骗者的数量,而是不再推定的人的数量。
本报告的核心结论是:合成媒体的主要代价并不在于成功的欺骗,而在于一项默认推定的崩塌。大约一个半世纪以来,照片、录音和视频在日常推理中一直充当推定:举证责任落在声称记录为假的一方。生成式模型取消了这项推定,却没有提供任何替代,而这一取消所起的作用超过了伪造物本身。罗伯特·切斯尼与丹妮尔·西特伦在2019年12月的《加州法律评论》上把这一后果命名为说谎者的红利 ✓ 已证实 [1]。
纯粹捏造带来的可测量损害真实且在上升。Resemble AI在2026年上半年从1760条新闻报道中核实了821起独立的合成媒体攻击,记录到至少15736名受害者,并把这些个案与346万个合成文件关联起来 [9]。其2025年全年统计得出1567起经核实的独立事件和超过12.8亿美元的有据损失,同一份文本还指出超过80%的事件根本没有披露任何财务损害,因此任何公开的总额都只是下限而非估计 [10]。美国联邦调查局在2025年受理了22364宗与人工智能相关的诈骗举报,申报损失8.93亿美元 [12]。这些数字很大,却不是最大的效应。
把这些欺诈数字与信任数据并置,失衡就显现出来。路透新闻研究所在2026年《数字新闻报告》中把全球新闻信任度测得为37%,为该序列自2015年启动以来的最低值,在48个受调查市场中有29个出现显著下滑 ✓ 已证实 [4]。对能否在网上辨别真假的平均担忧上升四个百分点至62%,而在尼日利亚、肯尼亚、南非、美国、英国和澳大利亚,超过75%的受访者把深度伪造与人工智能内容单列为一项担忧 [4]。对社交平台上新闻的信任为22%,对由对话式系统传递的新闻的信任为20% [4]。
这两组数据之间的落差正是本报告的主题。欺诈损失是集中的:数十万名受害者,主要通过冒充高管、亲属和身份核验系统。怀疑则是普遍的。每一个如今在相信一段视频之前先迟疑的人,都承担了不会出现在任何事件登记表上的代价;而每一个如今能够合理否认一段录音的人,都获得了没有任何监管者入账的好处。昆尼皮亚克大学2026年3月的民调显示,58%的美国人相信自己能区分真实录音与生成录音,这意味着42%的人并无此信心,其中20%完全没有信心 [6]。
检测支出、平台标注和刑事条款,瞄准的都是成功的伪造。几乎没有什么瞄准失效的真实记录。一段骗过银行的捏造视频会产生报案、理赔申请和事件库里的一行记录。一段被当作捏造而遭否弃的真实视频则什么也不产生,因为从否弃中获益的人没有理由去登记任何东西,而受害者也没有可以证明否定命题的场所。
信心的校准同样很差,这一点重要,因为说谎者的红利是从信心而非从准确性中支付的。2026年3月的一项调查(Micro Center)显示,57%的受访者认为自己能识别生成图像,而实际测试中只有55%答对 [7]。Copyleaks在2025年10月报告称,82%的应答者承认至少有一次把生成图像当成了真实图像 ◈ 有力证据 [8]。一个曾经出错并且知道自己出过错的人,在两个方向上都更难被推动,而这种僵硬恰恰是恶意否认所利用的东西。
本报告的结构沿着这一失衡展开。第二与第三节把欺骗的账本和否认的账本分开,并分别给出数字。第四与第五节考察两个离开有效证据推定就无法运转的机构,即法院与编辑部,并展示在推定被侵蚀的过程中两者各自在做什么。第六节评估已写入欧盟、中国、印度、丹麦、英国以及美国三十一个州法律的来源标注与标签回应。第七与第八节列出关于实际严重程度之争中双方最有力的版本,然后陈述证据能支持什么、不能支持什么。
欺骗的账本
捏造媒体究竟拿走了什么,又从谁那里拿走
有据可查的合成媒体欺诈高度集中、已经产业化并快速增长,金融业每起事件的平均损失为60.3万美元,而全行业平均约为45万美元 ✓ 已证实 [11]。损害的构成与公共辩论的假设并不一致。
账本中欺骗的一侧比否认的一侧更易清点,而先清点它对于保持论证诚实是必要的。Resemble AI仅在2025年第三季度就记录了2031起独立事件,较第二季度跃升317% [10]。德勤预计,由生成式人工智能促成的欺诈损失将在2027年前于美国达到400亿美元,自2023年的123亿美元起以32%的年复合增速上升 [13]。此类预测带有供应商利益,应当读作数量级;但在各项独立统计之间,方向保持一致。
产业化在身份核验环节表现得最为清晰。Entrust在其2026年身份欺诈报告中指出,合成媒体如今与每五次生物识别欺诈尝试中的一次相关联,注入式攻击一年内增长40%,伪造自拍在2025年增长58% ✓ 已证实 [14]。iProov记录到2025年下半年针对iOS设备的注入式攻击上升1151%,推动全年增幅达到741% [15]。注入式攻击并不把一张假脸举到摄像头前,而是把合成视频直接送入核验链路,因此对策必须位于应用层之下。
然而合成媒体中体量最大的一类从来不是金融类。安全英雄(Security Hero)在2023年确认,当时流通的深度伪造视频中有98%是未经同意的性内容,被描绘者中99%为女性,制作量在2022年至2023年间上升464% [17]。这一分布并未明显改变。改变的是生产成本,它在消费级图像模型获得编辑能力时降到了零;改变的还有从事者的年龄。
韩国提供了最清晰的国别案例,因为那里的丑闻是由警方而非供应商记录的。2024年11月至2025年10月间,韩国警方以数字性暴力抓获3557人,其中合成媒体相关犯罪以1553起构成最大的单一类别 [18]。在一次专项行动中,青少年占被抓获者的42.9%,即723人,与二十多岁人群合计约占总数的80% [18]。丑闻的2024年阶段发生在按学校和大学编组的Telegram频道中,据报其中一个频道订阅者超过22万,受害者与加害者常常都是未成年人 [19]。
同样的模式在2026年初于英国重演,涉及平台X上附着于助手Grok的图像工具。构成基于图像的性侵害的材料被大规模生成与传播,其中包括一名十四岁女演员的影像 [21]。2026年1月12日,通信监管机构Ofcom就X是否违反《在线安全法》(Online Safety Act)项下义务启动正式调查,该程序最高可处1800万英镑或全球可计营收10%的罚款,以较高者为准 [20]。该平台在1月5日把图像生成限制给付费订户,1月9日增加编辑限制,英国政府公开称这一系列举措并不充分 [21]。
从欺骗的账本可以得出两点。其一,损害绝大部分落在女性与儿童身上,只在其次才落到企业财务上,尽管多数报道与安全预算的权重恰好相反。其二,这些损害中几乎没有一项以目标被骗为前提。未经同意的影像无论是否有人相信其真实都会造成羞辱,而注入式攻击击败的是一台根本不持有任何信念的机器。欺骗这一框架已经难以贴合大多数有据可查的个案,这是它需要被替换的第一个迹象。
被测量的红利
五项针对15000人的实验揭示了否认作为策略的效果
说谎者的红利通常被断言而非被测量。如今它已被检验,结果比那句口号更狭窄也更令人不安:否认确实奏效,但不在多数评论所预期的地方 ◈ 有力证据 [2]。
切斯尼与西特伦在2019年阐明了这一机制。他们主张,随着深度伪造广为人知,仅仅存在捏造的可能性就为任何被记录抓到的人提供了一条辩护,而公众越懂这项技术,这条辩护就越牢固 [1]。这一表述很优雅,并且在五年里完全没有得到检验。它具备一个可信机制的形态,却不具备一项研究结论的地位,而这一区分在建立其上的大多数政策文献中已经丢失。
检验来自《美国政治学评论》。凯琳·杰克逊·希夫、丹尼尔·希夫与娜塔莉亚·布埃诺对一万五千多名美国成年人开展了五项预注册的调查实验,素材取自美国四起真实政治丑闻的文本与视频 ◈ 有力证据 [2]。参与者先看到丑闻的叙述,再看到政治人物的回应:道歉、沉默,或声称证据属于虚假信息。实验设计区分了两种否认策略,一种诉诸普遍的信息不确定性,另一种号召支持者集结对抗敌意媒体 [2]。
深度伪造让说谎者更容易为确实属实的事情逃避责任。
——罗伯特·切斯尼与丹妮尔·西特伦,《加州法律评论》,2019年12月三项结论值得注意。虚假信息指控在所有党派子群体中都提升了对政治人物的支持,而说谎的表现优于道歉与沉默,这是关于激励结构的直接发现,而非猜测 [2]。该效应在面对书面丑闻报道时很强,在面对视频证据时基本无效 [2]。这些策略也没有以可测量的方式降低对媒体的总体信任,这与警报最流行的版本相抵触 [2]。
关于视频的那项结论最常被当作令人安心的消息转述,也最值得谨慎。实验所依据的丑闻,其视频证据都是真实的,来源亦未被认真质疑。它们测量的是否认能把刚刚看过真实片段的受众推动多少,而不测量当流通视频中有相当比例确实属于合成时会发生什么,因为在2022年与2023年并非如此。该结论是一条基线,取自它所描述的状态尚未完全到来之时。
布伦南司法中心在2024年1月与乔治城大学安全与新兴技术中心合作,在实验数据被广泛阅读之前就得出了实务结论:当公众能够核查时红利会收缩,因此标记与追溯机制很重要,拒绝夸大威胁同样重要 [3]。他们给媒体机构的建议在这类文献中并不常见,因为它违背提出者自身的利益。他们建议编辑部让公众为不确定性做好准备,并避免渲染人工智能威胁,理由是每一次关于无法检测的伪造的夸张警告,都是向说谎者账户里的一笔存款 [3]。
这一推理对如何报道合成媒体有着尖锐的含义。每一轮宣布视频不再可信的报道周期,都会抬高恶意行为者可以调用的基础怀疑水平,无论具体事件中是否真有伪造。红利依靠知名度而非依靠发生率来供养。它是唯一一种随着公众了解加深而增长的普遍流通的信息损害,因此仅以怀疑为目标的教育运动不是解决方案,甚至可能是问题的一部分。
证据法处理伪造的历史与它处理证据的历史一样长。联邦证据规则901要求提出者提供足以支持认定某项物证确为其所称之物的材料,规则104则规范法官如何裁断此类先决问题。数十年来法院把这些条文适用于伪造的契据、修饰过的照片与剪接过的录音带,这段历史正是无需新规则的最强论据 [31]。只要制作一份足以说服人的伪造物的边际成本仍然足够高,从而使基础发生率保持在低位,这一论据就能成立。
Mendones诉Cushman and Wakefield一案直接检验了这一假设。阿拉米达县高等法院法官维多利亚·科拉科夫斯基审看了一名证人的视频证言,发现了更适合由细心读者而非实验室察觉的异常:面部缺乏表情、语调单一、停顿落点不对、用词古怪、唇形与声音不合,以及一段画面循环 [27]。元数据最终定案。一段作为真实提交的视频带有指向iPhone 6的拍摄信息,而该机型无法完成原告自身叙述所要求的那种录制 [27]。法官施加了终结诉讼的制裁,于2025年9月9日驳回起诉,并在11月拒绝了复议 [26]。
规则制定层面的回应审慎到了近乎停滞。丽贝卡·德尔菲诺教授提出了一条新的规则901(c),用以改变对有争议视听证据的处理方式,并于2025年4月提交咨询委员会 [29]。在2026年5月的会议上,委员会认定目前尚无修订必要,理由是法院已有的方法以及诉讼中实际出现的伪造案例数量有限,同时保留规则901(c)以备情势变化后再议 [30]。与此同时,公开征求意见至2026年2月16日的规则707草案处理的是由机器生成的证据 [30]。
规则707有一个批评者立刻指出的结构性局限。它适用于提出者承认由人工智能产生的证据,而不适用于真实性受到争议的证据 [31]。对这个问题来说,这恰好是界线的错误一侧。提交伪造物的一方不会主动申明,否认真实录音的一方则根本不需要这条规则。针对已承认的人工智能输出的披露制度,把有争议的情形原封不动地留在了原地。
持证取证分析人员每小时收费150至300美元,资深鉴定人每小时250至400美元,一次常规检验需要10至20小时,因而单件有争议的物证成本落在1500至8000美元之间 [33]。这笔成本由必须证明真实性的一方承担。在刑事案件中落到没有预算的辩护方,在民事案件中落到资源较少的一方,于是一个证据问题被换算成了一个资源问题。
成本背后的约束是处理能力。英国上议院一个委员会对警方面临的数字取证积压表示关切,那里把每一台设备送往中央实验室的传统模式多年来一直在数量面前失灵 [34]。把合成媒体分析加入这条队列,加入的不是一项任务,而是一个类别,原则上适用于任何一方提出争议的任何视听物证,而这个系统本就无法消化已经收到的设备。
与此同时,否认策略已经在最高层面被尝试过。在一名男子在其Tesla开启驾驶辅助时丧生而由其家属提起的诉讼中,辩护律师试图以可能属于深度伪造为由排除埃隆·马斯克关于该技术安全性的录音陈述 [28]。这一尝试失败了。它发生在2023年,由经验丰富的律师提出,针对的是一位录音陈述属于在世高管中被存档最广的公众人物,而它确立了这一招法属于可用而非罕见 [35]。
因此法院如今所处的缝隙不是教义上的,而是实务上的。规则901在原则上仍然适当,在适用上却过于昂贵;法官的识别有效,却无法复制;而最可能先被采纳的规则覆盖的是已承认的情形而非有争议的情形。遗产与家事诉讼是实务界预期第一波持续冲击到来的领域,因为那类案件依赖私人谈话的录音,既无机构保管链,也无第二份副本 [35]。州法院全国中心把这一风险表述得很准确:风险与其说在于法院被骗,不如说在于公众不再相信法院有能力分辨 [32]。
编辑部里的倒置
当核查预算被用来证明真实之物确属真实
在2026年伊朗战争期间,一家大报刊发的德黑兰人群真实照片在网上被广泛指为人工智能生成,而一段以色列总理拿自己的死讯开玩笑的视频经取证分析人员检查后未发现任何合成迹象 ✓ 已证实 [36]。两者都是真的,两者都必须被辩护。
无法完成鉴真的编辑部就是无法发稿的编辑部,而当初许诺的工具并未到来。Deepfake-Eval-2024这一基准把在学术数据集上训练并评分的开源前沿检测器,投向2024年确实在流通的深度伪造。按曲线下面积衡量,视频模型损失了50%的性能,音频模型损失48%,图像模型损失45%,均相对于它们已发表的数值 ◈ 有力证据 [22]。这不是边缘性的退化,而是可用信号与抛硬币之间的差别。
向量研究所(Vector Institute)的研究者在2026年为这一效应命名,称之为泛化幻觉:基准分数居高不下,实际部署性能却在静默下滑,因为在一代生成器上训练出来的检测器无法迁移到下一代 [23]。加州大学伯克利分校的工作从另一条路径得出相同结论,证明实验室基准系统性地高估了检测器在流通中的表现 [24]。能够跨越2019年至2025年十四个基准数据集实现泛化的方法确实存在,其基础是对预训练视觉编码器的参数高效适配,但那是研究成果而非已部署产品,两者之间的距离以生成器发布次数来衡量 [25]。
媒体机构应当为不确定的情境做好准备,向公众解释说谎者的红利,并避免夸大人工智能威胁。
——布伦南司法中心与安全与新兴技术中心,2024年1月这种倒置正是当前局面与以往核查难题的分野。2026年3月,平台X上一个账号声称某报刊发了一张伊朗任命新任最高领袖后德黑兰人群聚集的生成图像。那张照片是真的,出自一名摄影记者之手 [36]。同一时期,检测公司GetReal Security检查了本雅明·内塔尼亚胡回应自身死讯传言的视频,未发现生成痕迹,该结论又得到同一事件独立影像的佐证 [36] [38]。事实核查者把最稀缺的资源花在证明真实素材确属真实上,而取自冲突早期阶段的回收画面却以远小得多的阻力被当作当下画面流通 [37]。
第二重约束是数量。人权组织WITNESS自2023年3月起运作的深度伪造快速反应小组,把一线记者、事实核查者与人权捍卫者同媒体取证专家连接起来,逐案分析 [39]。整个2025年,该小组报告的不只是旧有检测难题的延续,还有疑似生成视频的急剧上升,尤其是在两款领先视频模型发布之后 [40]。WITNESS此后发布了一套评估框架,主张检测工具应当按其对真正需要者的用处来衡量,而不是按实验室准确率衡量 [39]。《哥伦比亚新闻评论》得出了同一结论的实务版本:没有任何现成工具能给编辑部一个站得住脚的判断,而诚实的做法仍然是来源核验、独立佐证与开源调查 [41]。
大型编辑部能够负担常设的取证预算、一条来源核验流程以及同检测供应商的关系。地方媒体、自由记者与人权记录者做不到。结果是,证明真实性的成本最重地压在这样一些人身上:他们的记录最不可能拥有机构保管链,而他们的素材最有可能是某一事件唯一的留存。
供给一侧的推进比上述一切都快。OpenAI在2025年9月30日把Sora 2作为免费iOS应用发布,五天内录得一百万次下载 [65]。该应用带有可见水印,并设有一套出镜机制,本人可授权他人使用自己的形象,也可以撤回授权 [65]。NewsGuard用已知虚假叙事测试该模型,发现它能为其中相当一部分生成具备新闻形态的可信视频,对编辑部而言这才是相关指标,而非输出的平均质量 [66]。随后一周里围绕已故名人与未同意演员的生成影像掀起的愤怒,促成了更严的限制,这正是整个行业如今遵循的模式:先发布,再衡量愤怒,再限制。
信任数据合上了这个闭环。全球新闻信任度为37%,对在网上辨别真假的担忧为62% [4]。为获取新闻而每周使用对话式系统的比例从2025年的7%升至2026年的10%,而对经由这些系统传递的新闻的信任仅为20% [4]。受众正在迁向自己最不信任的渠道,而这恰好发生在底层素材证据价值最弱的时刻。使这一时期在结构上区别于以往各轮媒体焦虑的,正是这一组合,而不是某一件具体的伪造品。
来源核验策略是对检测失灵的合理回应。如果没有任何分类器能可靠判断一个文件是否为生成物,替代方案就是在拍摄或创作的当下为文件签名,并把签名的缺失当作一项信息来对待。内容来源与真实性联盟(C2PA)正是这样设计的,其规范会附上一份经密码学签名的清单,记录设备、编辑与创建历史 [60]。这是一项真实的技术成就,而且正在大规模铺开。
2026年的采用面比多数批评者预期的更广。来自Leica、Sony、Canon和Nikon的十七款相机型号会在拍摄瞬间为照片签名,另有至少一款旗舰手机加入,其中Leica SL3-S在2025年1月率先出货,Sony PXW-Z300被视为首款具备原生签名的摄像机 [62]。在传播一侧,TikTok已为超过13亿条视频加上来源数据,YouTube、Meta和LinkedIn则向用户展示内容凭证 [63]。目前进行签名的机构包括BBC、Reuters、法新社、美联社、NHK以及多家欧洲公共广播机构 [63]。规范的2.3版本于2025年12月发布,通过分段签名把来源核验扩展到直播 [64]。
因其覆盖的市场规模,第50条是新规则中影响最深的一条。生成或操纵合成音频、图像、视频或文本的系统提供者,必须通过元数据、水印或指纹以机器可读方式标记输出;部署者则必须在内容属于深度伪造时作出可见披露 [43]。欧盟委员会已发布关于透明度义务的指南以及关于人工智能生成内容透明度的实践守则,以赋予该要求可操作的形态,并在全欧统一符号出台前采用一个过渡图标 [42] [44]。义务自2026年8月2日起适用,尽管理事会已提出修订为2026年12月2日的日期,该日期在本文写作时尚未正式通过 [43]。
中国动手更早也更重。国家网信部门在2025年3月14日定稿标识办法,并于2025年9月1日连同一项强制性国家标准施行,既要求用户可见的显式标识,也要求由文件本身承载的隐式标识,适用对象既包括生成服务提供者,也包括分发输出的平台 [45] [46]。印度随后于2026年2月10日公布信息技术规则修订案并在十天后生效,界定合成生成信息,要求显著的视觉标签与合成音频中的语音提示,并把依法院命令或主管机关通知处置违法内容的下架时限压缩到约三小时,未经同意的私密影像则为两小时 [47] [48]。
丹麦走了一条完全不同的路,而这是各国试验中最耐人寻味的一条。它没有去规制生成器或平台,而是修改著作权法,为个人的声音与外貌设立一项邻接权,使个人无需证明名誉受损即可发出下架通知并主张赔偿,保护期在死后延续五十年 [49]。欧洲议会研究服务部已就这一路径能否成为全欧范本进行考察 [50]。它把一个表达问题转换成一个财产问题,从而使执行变得可行,同时在讽刺作品、新闻报道与历史再现方面提出了该法并未完全回答的问题。
美国的回应在对象上更窄,在覆盖上更宽。2025年5月19日签署的TAKE IT DOWN Act把未经同意发布私密影像(含数字伪造)入罪,并给予所涵盖平台一年时间建立通知与移除流程;美国联邦贸易委员会自2026年5月19日起执行这项义务,48小时的移除期限并延伸至已知的相同副本 [51] [52]。到2026年7月,已有三十一个州就选举中的深度伪造立法 [53]。英国自2026年2月6日起依《数据法》(Data Act)第138条把制作未经同意的私密影像或要求他人制作入罪,承认损害在传播之前就已开始 [67]。
在美国路径与宪法第一修正案相遇之处,它没有站住。在Kohls诉Bonta案中,一名联邦法官于2025年8月29日推翻了加州关于选举深度伪造的法律,认为其依内容、观点与言说者作出区别对待,而其针对讽刺作品的提示要求沉重到遮蔽作品本身 [54]。法院表述得很直接:针对误导性内容的解药是对立言论、严格的事实核查与民主辩论的自由流动,而不是压制创作 [55]。这一判决保留了标签义务与以同意为基础的权利,同时收窄了受禁政治言论的范畴,并且勾勒出未来若干年美国法在这一领域最可能的形态。
怀疑一方的论点比人们通常承认的更有力。费利克斯·西蒙、萨沙·阿尔泰与雨果·梅西耶在哈佛肯尼迪学院《错误信息评论》中主张,围绕生成式人工智能与虚假信息的担忧被夸大了,理由是虚假信息的有效约束从来不是其生产成本 [57]。供给本就近乎无限;限制传播范围的是需求、注意力与分发渠道,而这三者生成式模型都不改变。至于斯洛伐克录音事件,这一最常被援引为深度伪造决定了一场选举的例证,细致分析发现其因果关联远弱于报道所暗示的程度 [58]。
相反一方并不质疑这些结论本身,而是质疑其适用范围。在Lawfare上,对乐观立场的批评者主张,在单个选民层面测量说服力会漏掉制度层面的影响:退化的不是普通公民的信念,而是录制素材在法院、编辑部、人权调查与劳动争议中的证据分量 [59]。那些正是记录必须顶住利益相关方否认的场合,而关于政治支持的调查实验并不覆盖它们。
认为威胁被夸大的论证
五项针对一万五千多名成年人的预注册实验表明,否认策略在视频证据面前无效,也没有以可测量的方式降低对媒体的总体信任 [2]。
虚假信息的生产已经廉价了一代人之久。限制其传播的是需求与分发,而生成式模型并不改变这两者 [57]。
对斯洛伐克录音事件的细致分析发现,选举影响的证据远比报道的规模所暗示的更薄弱 [58]。
两栏可以同时成立,调和起来并不复杂。怀疑者测量的是说服:合成媒体是否改变人们对世界的信念。警示者测量的是裁断:一份记录是否仍能了结一项争议。说服受需求约束,因而稳健,这正是实验文献反复发现的结果。裁断受供给约束,因为只要有一种可信的替代解释,一份记录就不再具有决定性,而这正是来自法院与编辑部的材料反复展示的情形。
调查实验问的是否认能否移动对某位政治人物的总体支持。证据法问的是某一份特定录音能否被某一位特定裁断者用来对抗某一项特定异议。一项否认完全可能在前者上惨败而在后者上完胜,因为对法官、总编辑或纪律委员会而言,只需对来源存有合理怀疑就足以把该物证搁置一旁。显示说服效应很小的文献,并不能证明裁断层面是安全的。
怀疑立场最锋利的版本值得一个直接答复。如果红利迄今没有产生一起有据可查的案例,让有罪者借虚假的深度伪造主张脱身,为何要把它当作当下的损害而非预期的损害。答复是:有据可查的案例之缺席,恰恰是该机制所预测的。一次成功的虚假否认不会留下任何痕迹:记录被搁置,案件不再推进,任何数据库里都不会出现记载。Tesla一案的尝试之所以可见,只因为它失败了并且被报道了 [28] [35]。
能够证伪结构性论点的条件很具体,值得明确写出。如果实地环境中的检测器性能回升到与基准水平相差不超过十个百分点,并在两代生成器之间保持住;如果来源元数据能以较高比例在普通平台传播中存活;如果法院开始在没有专门支出的情况下常规裁断真实性争议,那么结构性主张就会被显著削弱。目前这三项条件都不成立,而第二项离成立最远 [22] [60] [61]。
先从已经确立的说起。由合成媒体促成的欺诈是真实的、产业化的并且高度集中,有据可查的事件在每一项独立统计中都在上升,而其中最大的单一类别是针对女性与女童的未经同意性影像,而非金融欺骗 [9] [17]。检测性能在从学术数据集转向流通素材时急剧崩塌,在视频上丧失了约一半的实测准确率 [22]。表示无法把生成内容与真实内容区分开的受访成年人比例,在2025年至2026年间从66%升至85% [5]。新闻信任度处于37%的历史低位 [4]。这些点都没有受到认真的争议。
受到争议的是从这些事实通往政治与制度后果的因果链条,而在这里证据支持的主张比公共辩论更窄。实验记录显示,否认策略在面对书面报道时提升对政治人物的支持,在面对视频时则失效,并且没有造成对媒体总体信任的可测量侵蚀 [2]。这是一项真实的发现,它应当约束言辞。它同时是关于2022年与2023年总体说服力的发现,处在视频推定仍大体完好的时期,因此既不能延伸到裁断层面,也不能延伸到今天合成视频的传播状况。
| 结构性风险 | 严重程度 | 评估 |
|---|---|---|
| 检测无法泛化到新的生成器 | 面对流通中的深度伪造,检测器的性能相对于验证同一批系统所用的基准下降约一半,而每一款新生成器都会把问题清零 [22] [23]。采购决策却建立在并不描述实际部署的基准数字之上 [24]。 | |
| 来源数据在普通传播中被抹去 | 平台在上传时按例行技术流程删除元数据,于是最需要它的病毒式素材最不可能携带它 [60] [61]。把清单、水印与指纹结合起来的持久凭证是预定的修补方案,但尚未普及 [60]。 | |
| 鉴真成本被转移到资源较少的一方 | 按现行价格,一件有争议的视听物证鉴定需要1500至8000美元,而相关法域本就背负多年的取证积压 [33] [34]。这一负担落到刑事被告、小型媒体和个人申诉人身上。 | |
| 证据规则针对已承认的情形而非有争议的情形 | 关于机器生成证据的联邦规则草案,在提出者承认人工智能介入时才适用,而真实性争议中从来不会出现这种情形 [31]。真正针对该情形的规则已在2026年5月被搁置 [30]。 | |
| 主要市场之间的监管碎片化 | 中国自2025年9月起标识,印度自2026年2月起,欧盟自2026年8月起,丹麦经由著作权,美国则通过三十一部州法与一项联邦移除义务拼成的拼图 [45] [47] [43] [49] [53]。 |
这一区分对公共政策的含义让当前大多数提案感到不安。标签强制、对制作行为的刑罚以及平台的移除义务,瞄准的都是成功的伪造。它们对失效的真实记录帮助甚微,因为贴在生成内容上的标签不等于盖在真实内容上的签名,而标签的缺失也无法证明任何关于一个在途中被剥去元数据的文件的事情 [60]。来源核验基础设施是当前回应中唯一瞄准正确目标的部分,同时也是其关于传播方式的核心假设尚未成立的部分 [61]。
三项措施直接来自证据而非来自言辞。在拍摄时签名,因为为原件签名与事后证明一项否定命题之间的不对称就是全部论据所在,而硬件基础如今已经具备 [62]。为裁断能力而非仅为检测研究提供资金,因为法院的瓶颈是鉴定工时与法官培训,而不是分类器的准确率 [34] [32]。并且明确处理举证责任,因为一种任何一方只要宣称存疑就能迫使启动鉴真程序的制度,就是一种资源更雄厚的一方自动获胜的制度 [33]。
此外还有一项更窄的建议,面向报道这一主题的机构,而它正是布伦南司法中心在实验数据出现之前就提出的那一条。夸大威胁不是一个中性的错误 [3]。每一句斩钉截铁地宣称视频不再可信的话,都是向下一个需要这句话的人做出的转移支付,而无论这句话是否准确,转移都已发生。2026年9月的准确说法是:流通中的视频大多是真实的,其中不真实的少数正在增长,而用来分辨两者的工具在实地的表现远逊于描述它们的论文 [22] [41]。
因此本报告得出的结论比任一阵营都更窄,也比两者都更硬。没有证据表明合成媒体改变了选民群体相信什么,而主张相反的研究比它们所获得的报道更弱 [57] [58]。有证据表明它们已经改变了机构能够确立什么,而记录这一点的研究比它们所获得的报道更强 [22] [27]。损害经由否认而非经由欺骗发生,落在裁断而非落在舆论之上,而处理它的那套政策机器,大体上还没有注意到这个区别。