作者:李侠 李双 来源:中国科学报 发布时间:2024/3/1 8:31:25
选择字号:
Sora之后,我们如何拯救真相
Sora来了, 真相远了

 

2月15日,美国人工智能研究公司OpenAI发布人工智能文生视频大模型Sora,该模型可深度模拟真实的物理世界,并生成包含多个角色及特定运动的复杂场景。目前,根据用户的文本提示,Sora可以创建长达60秒的逼真视频,这是近日互联网上最火爆的科技新闻。两年来,从ChatGPT3.5、GPT-4 Turbo到今日的Sora,可以说OpenAI公司正以惊人的迭代速度创造着人工智能的奇迹。

近几日,笔者仔细翻看网络上流传的Sora模型制作的短视频,高质量的画面与周围环境的匹配度无比“丝滑”,即便是笔者也拍不出这个效果,坦率地说,如果让我去鉴别其真假,相信大多数人和笔者一样没有能力区分。

需要说明的是,从工业化时代到互联网时代的无数次技术变革所带来的真假难辨现象,与今天的Sora短视频在本质上是一样的,不同的是随着技术的迭代与升级,鉴别真假的难度越来越高,这就引发了一个具有普遍性的、令人焦虑的问题——Sora之后我们如何拯救真相?

当真与假的界限崩塌之后

毫无疑问,以Sora模型为代表的人工智能是新一轮科技革命的前奏,随着应用场景的渐次绽出、新的盈利模式的涌现以及技术迭代的加速,人工智能带来的科技革命势不可挡。

其广阔的商业前景暂且不表,笔者更加关心的是其对社会观念与群体认知造成的直接冲击。因为Sora模型所构建的视频或将直接模糊真与假的界限。再加上日益临近的现实与虚拟界限的双向渗透,这一切或将导致整个社会的认知架构崩塌,随之而来的一系列急剧的连锁反应可能使人猝不及防。可以说,技术又一次让人类被动地站在转变的关口。为此,我们不妨先设想一下当真与假的界限崩塌之后会出现什么情况。

假设诈骗分子掌握了这项技术,利用专门收集的个人信息制作短视频,视频中的人、地点、时间全部是真实的,就连声音也可以通过技术处理,按照脚本设计。比如谎称受害人遭遇车祸急需打款救治,此时受害者家属如何鉴别真伪?相比之下,以往的电话诈骗十分低级。再比如政敌/仇家利用虚假的不良短视频陷害竞争者,公众何能辨之真假?在这种场景下,“眼见为实”的传统鉴别标准已经失灵。这类场景还可以列出很多,所有这些潜在危害的实质在于真假界限崩塌所带来的真相隐遁现象。

如果缺乏相应的强有力的监督机制,未来每个人都有可能成为新技术的受害者,这就是技术发展的吊诡之处:很多人没有享受到技术带来的红利,却无端承受了技术滥用带来的不便,比如各种数字技术对于老年人的不友好表现。而真假界限崩塌引发的更为严重的问题是,它会摧毁维系社会有序运行的一系列概念与认知框架,并以多米诺骨牌的方式将整个社会推向失范与无序状态。

众所周知,所有的社会秩序框架与规则的底层所依托的基本概念大抵有三:真,善,美。其中“真”是最底层的基础概念,它决定了“善”与“美”的标准的变化方向。换言之,如果真相不存在就会出现事实的建构主义,会导致认识论上的相对主义,而这种相对主义延伸到道德领域就会出现道德相对主义,即否认存在普遍的道德事实。在这种相对主义的主宰下,原本属于主观领域的审美就会被扭曲塑造。

具体而言,“真”在社会运行中起着确立信任体系的作用。一个社会的真相越是得到彰显,其信任体系的半径就越大,整个社会的交易成本也就越低,反之亦然。此即Sora等人工智能产品模糊真假边界后,人们会产生普遍性焦虑的深层原因所在,即当矛盾律不再可靠之时,我们该以何种标准判断世间对错。

真相的背后尚且有真理作支撑,其标准是恒定的,如2+2=4在什么时候都不会变,但依托真理形成的“善”与“美”的标准是可变的,这就使得一旦真相隐遁,以Sora为代表的短视频对于后者的冲击将更为剧烈,甚至可以完全改变特定时代人们对善与美的标准。

在古希腊哲学家亚里士多德看来,美德是一种适中,好的技艺可使人置于良好的状态,过度和不足都会使人走上恶的道路。比如爱可以使人变得柔和,可以更好地面对生活;但过度的爱会走向占有和嫉妒,不足的爱则会走向冷漠,这些坏的性质取决于人们对中庸的认知,进而影响人的行为。

人们判断自己的行为是否失格尚且不易,机器所生成的结果更不受人控制。短视频无数次虚假建构某种极端的行为标准,久而久之人们便会认为那是善的,而这种善的标准可能与我们现行的社会秩序是矛盾的,比如中国古代的二十四孝被当作善的典范,而在今天看来这些事例几乎都是不道德的。

道德真理/道德真相是可以被塑造的。诚如英国思想家赫克托·麦克唐纳所言,强大的沟通者可以鼓励整个群体接受新的道德真理。当下,我们正处在善恶标准的变革期,如果真相以激进的方式消失了,善恶的标准将面临大洗牌的局面。

同理,美的标准也是会变的。假如Sora产出的短视频持续推出一种奇怪的美丑标准,人们也会在润物细无声的背景下改变对美的认知。如人们对于整容、钻石、奢侈品等的非理性迷恋多是商家多年广告营销的结果,这样隐蔽的推广形式以消费主义的姿态出现,更容易确立一种畸形的审美标准。

审美本应是多元化的个体体验,但如今的大模型凭借其强大的自主学习能力,基于对个人数据的充分掌握,可以实现围绕个体偏好的精准定向“投喂”,从而以信息茧房的模式塑造一个时代的美丑标准。这些标准没有人知道对错,甚至无人意识到它们的存在,这就使得它们带来的危害更难被消除。想想历史上环肥燕瘦的审美标准的变迁,而裹小脚的陋习又戕害了多少女性的一生。

从这个意义上说,拯救真相就是拯救我们的社会秩序及认知。

分布式真相拯救机制

哲学家波普尔在鉴别理论的真假时曾提出过一个概念——逼真度,即两个理论相比较时逼真度高的理论就是好的理论。在拯救真相的征途上,我们可以有限地借用逼真度这个概念。逼真度之所以有限,是因为未来即便技术专家去鉴别由Sora升级版制作的这些视频,也不能保证完全可以鉴别出来,只能说他们比普通人的鉴别更可靠一些,也就是逼真度更高一些而已。

因此,从根本上解决真相的隐遁现象,还是要从制度上来考量。例如可以设立第三方机构,由它们推出针对Sora短视频的辅助鉴别模型,从而形成双方力量的均衡,这样从理论上就可以最大限度拯救真相。

但是引入辅助鉴别模型又会带来两个潜在问题。

其一,技术的军备竞赛。短视频生产方会不断加快技术迭代的速度,从而超越鉴别模型现有的技术水平、引发鉴别模型的升级,如此循环往复。

如果视频生产方的迭代速度超过鉴别模型的迭代速度,在这个间隔期仍然会存在真相隐遁现象。从过往的历史经验看,资本总会跑向生产方以超越监管方,利用时间差赚取超额利润,这就是技术自身发展无法克服的逐利逻辑。对于大力出奇迹的Sora模型更是如此,不用说,资本骨子里就青睐于大数据、算法与算力这些具有盈利能力的资源。

其二,监督的第三方会带来无穷倒退的可能性。换言之,如何保证作为第三方的鉴别模型拥有者不会谋取私利?为了防止这种情况的发生,我们又会被迫引入第四方来监督第三方,如果没有一种暂停机制,这个循环会导致无穷倒退,现实生活中不乏这样的事例。

鉴于以上种种,笔者建议,为了彻底拯救被技术吞噬的真相,可以采用分布式真相拯救机制,每一方都负起拯救真相的责任,从而全方位捍卫真相,即短视频生产方推出产品时必须标注真假(可以通过立法强制性要求);作为监督方的第三方必须履行自身职责,为公众守护真相;整个社会作为消费者必须承担起监督与批评的责任(这是全方位、全天候的监督,体现集体智慧),由此,一个分布式的真相拯救链条得以确立。

借用英国咨询专家麦克唐纳的名言,这是一个后真相的时代。但是,只要我们未雨绸缪,每一次技术变革所带来的冲击终将被人类所化解,所不同的只是成本与代价的大小而已。

(作者单位:上海交通大学科学史与科学文化研究院)

《中国科学报》 (2024-03-01 第4版 文化)
 
特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。
 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
缓解肠易激综合征  饮食比服药更有效 银河系发现巨大黑洞
史上最亮伽马射线暴来自一颗坍缩的恒星 导师:年年审毕业论文,总有这些问题!
>>更多
 
一周新闻排行
 
编辑部推荐博文