作者:田瑞颖 来源:科学网微信公众号 发布时间:2022/9/24 20:40:43
选择字号:
专家预警:到2026年,9成在线内容可能是合成生成

 

文|田瑞颖

当你沉浸于“换声”“换脸”的游戏时,却不知,自己或将成为这项技术的“受害者”。

据欧洲刑警组织近期发布的一份观察报告预测,到2026年,高达90%的在线内容可能是合成生成的。这意味着虚假信息的增加,包括深度伪造(deepfake)。

更令人担忧的是,犯罪分子在未来几年将增加对深度伪造的使用,而绝大多数人似乎还对其一无所知。

“当今社会面临的最大威胁之一”

照片和视频是警方工作的重要情报,也是法庭上的证据。如果这些内容可以被人为合成,改编成从未发生过的事,并歪曲事件和真相,该怎么办?

专家估计,到2026年,高达90%的在线内容可能是合成生成的。

合成媒体,是指使用人工智能生成或操纵的媒体。在大多数情况下,合成媒体的目的是游戏、改善服务或提高生活质量。但它的发展也带来了虚假信息的可能性,包括深度伪造。

欧洲刑警创新实验室开展的战略预测表明,最令人担忧的技术趋势之一就是深度伪造的演变和检测,以及需要更普遍地解决虚假信息问题。

在英国伦敦大学学院(UCL)最近发表的一份报告中,深度伪造技术也被列为当今社会面临的最大威胁之一。

深度伪造技术,是利用深度学习技术来制作音频和视听内容,呈现人们从未说过和做过的事情,或者创造出从未存在过的人。

观察报告认为,深度伪造技术会给各种犯罪活动提供便利,包括散布虚假信息、非双方自愿的色情内容、为刑事司法调查伪造或操纵电子证据、实施勒索和欺诈、在线儿童性剥削、煽动社会动荡和政治两级分化等。

其中,虚假信息除了可能伪造紧急警报外,还可能利用政治人物的虚假音频,扰乱选举和政治等。BBC就曾为2019年英国大选制作了一段视频,在视频中,本来针锋相对的两位候选人鲍里斯•约翰逊和杰里米•科尔宾却相互支持。如果足够多的民众上当,就可能对选举结果产生严重影响。

企业也可能成为虚假信息的目标。例如,通过创建一个深度伪造,使公司高管看起来从事了一项有争议或违法的行为。如果公众相信这些虚假信息,并开始抛售股票或抵制公司,就可能对公司价值和股市造成影响。

据《福布斯》2021年获得的一份法庭文件披露的信息,一个欺诈团伙正是利用音频深度伪造技术,克隆了一家企业董事的声音,并成功诈骗了3500万美元。

色情视频深度伪造背后也有强大的利益驱动。2020年12月的一项研究显示,阿姆斯特丹一家检测和跟踪在线深度伪造的公司Sensity,就在热门流行网站上发现了85047个深度伪造视频。可怕的是,这个数字每6个月就翻一番。而在2019年9月的一项研究中,Sensity就发现,96%的假视频都涉及非双方自愿的色情内容。

很多情况下,这些色情伪造视频的受害者都是名人,他们的脸会被换到色情演员的身体上,看起来像正在参与这种行为。显然,这些视频很受欢迎,浏览量竟高达1.34亿次。不仅如此,还有几个色情网站专门制作名人的色情伪造视频。

在一些专门的市场,用户或买家甚至可以发布对深度伪造视频的请求(例如色情伪造视频),这也催生了几家提供深度伪造服务的公司。Recorded Future报告称,有人甚至愿意为这种服务支付1.6万美元。

“近72%的人不知道深度伪造及其影响”

虽然有些虚假信息非常危险,但更危险的是,人们对此似乎一无所知。

2019年的一项研究显示,在英国的一项调查中,近72%的人不知道深度伪造及其影响,尽管深度伪造在当时已经越来越普遍。这意味着人们可能无法识别由深度伪造生成的照片和音视频,同时,这也为政府部门的执法带来了挑战。

那么,提高对深度伪造的意识,就能提高发现它的概率吗?

答案并不乐观。最近的实验结果表明,提高这种意识可能并不能提高人们发现它们的机会。因此,研究人员预计,犯罪分子在未来几年将增加对深度伪造的使用。

这也表明,了解深度伪造的威胁并做好准备至关重要。对此,观察报告讨论了对深度伪造人工检测和自动检测的方法。

观察报告认为,人工检测可以发现绝大多数的深度伪造内容。但这是一项劳动密集型工作,只能对数量非常有限的内容进行检测,还需要进行适当的培训,才能熟悉所有相关特征,但这也可能引入错误的判断。

那么,自动检测会是未来的趋势吗?

理想情况下,自动检测系统将扫描任何数字内容,并自动报告其真实性。虽然自动检测系统可能永远都不会完美,但随着深度伪造技术的日益成熟,自动检测系统的高度确定性或许比人工检查更有价值。

Facebook和安全公司McAfee等机构已经在开发这类软件。检测软件将寻找操纵的迹象,并通过对这些迹象生成解析报告,帮助审查员决定内容的真实性,但这种检测技术也面临诸多挑战。

观察报告认为,在未来的几个月和几年里,威胁行为者极有可能会越来越多地使用深度伪造技术,为各种犯罪行为提供便利,并开展虚假信息活动,以影响或扭曲公众舆论。而机器学习和人工智能的进步,将继续增强用于制造深度伪造的软件的能力。

专家表示,生成式对抗网络、公共数据集的可用性和计算能力的增强,将是未来深度伪造发展的主要驱动力,并使其与真实内容更加难以区分。

参考材料:

https://www.europol.europa.eu/publications-events/publications/facing-reality-law-enforcement-and-challenge-of-deepfakes#downloads

 
特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。
 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
“人造太阳”逐日梦 “聚变合肥”加速度 “奋斗者”号到达克马德克海沟最深点
时隔21年,大果五味子野外回归 海上风电与海洋牧场融合发展项目并网发电
>>更多
 
一周新闻排行
 
编辑部推荐博文