【新视野】专家预警：到2026年，9成在线内容可能是合成生成

文｜田瑞颖

当你沉浸于“换声”“换脸”的游戏时，却不知，自己或将成为这项技术的“受害者”。

据欧洲刑警组织近期发布的一份观察报告预测，到2026年，高达90%的在线内容可能是合成生成的。这意味着虚假信息的增加，包括深度伪造（deepfake）。

(资料图片)

更令人担忧的是，犯罪分子在未来几年将增加对深度伪造的使用，而绝大多数人似乎还对其一无所知。

“当今社会面临的最大威胁之一”

照片和视频是警方工作的重要情报，也是法庭上的证据。如果这些内容可以被人为合成，改编成从未发生过的事，并歪曲事件和真相，该怎么办？

专家估计，到2026年，高达90%的在线内容可能是合成生成的。

合成媒体，是指使用人工智能生成或操纵的媒体。在大多数情况下，合成媒体的目的是游戏、改善服务或提高生活质量。但它的发展也带来了虚假信息的可能性，包括深度伪造。

欧洲刑警创新实验室开展的战略预测表明，最令人担忧的技术趋势之一就是深度伪造的演变和检测，以及需要更普遍地解决虚假信息问题。

在英国伦敦大学学院（UCL）最近发表的一份报告中，深度伪造技术也被列为当今社会面临的最大威胁之一。

深度伪造技术，是利用深度学习技术来制作音频和视听内容，呈现人们从未说过和做过的事情，或者创造出从未存在过的人。

观察报告认为，深度伪造技术会给各种犯罪活动提供便利，包括散布虚假信息、非双方自愿的色情内容、为刑事司法调查伪造或操纵电子证据、实施勒索和欺诈、在线儿童性剥削、煽动社会动荡和政治两级分化等。

其中，虚假信息除了可能伪造紧急警报外，还可能利用政治人物的虚假音频，扰乱选举和政治等。BBC就曾为2019年英国大选制作了一段视频，在视频中，本来针锋相对的两位候选人鲍里斯•约翰逊和杰里米•科尔宾却相互支持。如果足够多的民众上当，就可能对选举结果产生严重影响。

企业也可能成为虚假信息的目标。例如，通过创建一个深度伪造，使公司高管看起来从事了一项有争议或违法的行为。如果公众相信这些虚假信息，并开始抛售股票或抵制公司，就可能对公司价值和股市造成影响。

据《福布斯》2021年获得的一份法庭文件披露的信息，一个欺诈团伙正是利用音频深度伪造技术，克隆了一家企业董事的声音，并成功诈骗了3500万美元。

色情视频深度伪造背后也有强大的利益驱动。2020年12月的一项研究显示，阿姆斯特丹一家检测和跟踪在线深度伪造的公司Sensity，就在热门流行网站上发现了85047个深度伪造视频。可怕的是，这个数字每6个月就翻一番。而在2019年9月的一项研究中，Sensity就发现，96%的假视频都涉及非双方自愿的色情内容。

很多情况下，这些色情伪造视频的受害者都是名人，他们的脸会被换到色情演员的身体上，看起来像正在参与这种行为。显然，这些视频很受欢迎，浏览量竟高达1.34亿次。不仅如此，还有几个色情网站专门制作名人的色情伪造视频。

在一些专门的市场，用户或买家甚至可以发布对深度伪造视频的请求(例如色情伪造视频），这也催生了几家提供深度伪造服务的公司。Recorded Future报告称，有人甚至愿意为这种服务支付1.6万美元。

“近72%的人不知道深度伪造及其影响”

虽然有些虚假信息非常危险，但更危险的是，人们对此似乎一无所知。

2019年的一项研究显示，在英国的一项调查中，近72%的人不知道深度伪造及其影响，尽管深度伪造在当时已经越来越普遍。这意味着人们可能无法识别由深度伪造生成的照片和音视频，同时，这也为政府部门的执法带来了挑战。

那么，提高对深度伪造的意识，就能提高发现它的概率吗？

答案并不乐观。最近的实验结果表明，提高这种意识可能并不能提高人们发现它们的机会。因此，研究人员预计，犯罪分子在未来几年将增加对深度伪造的使用。

这也表明，了解深度伪造的威胁并做好准备至关重要。对此，观察报告讨论了对深度伪造人工检测和自动检测的方法。

观察报告认为，人工检测可以发现绝大多数的深度伪造内容。但这是一项劳动密集型工作，只能对数量非常有限的内容进行检测，还需要进行适当的培训，才能熟悉所有相关特征，但这也可能引入错误的判断。

那么，自动检测会是未来的趋势吗？

理想情况下，自动检测系统将扫描任何数字内容，并自动报告其真实性。虽然自动检测系统可能永远都不会完美，但随着深度伪造技术的日益成熟，自动检测系统的高度确定性或许比人工检查更有价值。

Facebook和安全公司McAfee等机构已经在开发这类软件。检测软件将寻找操纵的迹象，并通过对这些迹象生成解析报告，帮助审查员决定内容的真实性，但这种检测技术也面临诸多挑战。

观察报告认为，在未来的几个月和几年里，威胁行为者极有可能会越来越多地使用深度伪造技术，为各种犯罪行为提供便利，并开展虚假信息活动，以影响或扭曲公众舆论。而机器学习和人工智能的进步，将继续增强用于制造深度伪造的软件的能力。

专家表示，生成式对抗网络、公共数据集的可用性和计算能力的增强，将是未来深度伪造发展的主要驱动力，并使其与真实内容更加难以区分。

参考材料：

https://www.europol.europa.eu/publications-events/publications/facing-reality-law-enforcement-and-challenge-of-deepfakes#downloads