来源:中山大学微信公号 发布时间:2025/5/3 12:03:43
选择字号:
首次破解AI厌恶/偏好之谜!中大团队提出新理论

 

近日,中山大学管理学院秦昕教授团队提出“能力–个性化理论”,解决了人类何时厌恶或偏好AI这一基础问题,并将研究发表于心理学顶尖期刊Psychological Bulletin。值得一提的是,自1904年创刊以来,以国内高校为第一单位在该期刊发表的论文仅有少数几篇,这一成果也还是该期刊首篇聚焦于AI主题的论文。

选人类,还是选AI?

皮肤癌是最常见的癌症之一。通过早期筛查和适当治疗,这种癌症的治愈率较高。进行皮肤癌筛查有助于人们尽早发现皮肤癌。

让我们想象这样一个情境:您现在准备接受皮肤癌筛查,有两位皮肤科医生可供您选择:一位是人类医生,另一位是AI医生。他们的过往筛查准确率如下:

·人类医生的准确率:90%

· AI医生的准确率:95%

在了解以上信息后,您会选择哪位医生为您筛查皮肤癌?

A. 人类医生 B. AI医生

研究表明,尽管AI医生的过往筛查准确率更高,但大部分人在上述情境中仍会选择人类医生,而非AI医生。

这种现象在医疗实践中屡见不鲜。虽然AI在癌症筛查等医疗领域中表现日益出色,但是许多患者对AI的诊断结果仍心存怀疑,甚至产生抵触。例如,有研究显示,在癌症筛查过程中,当AI医生向患者发出“高风险”提示并提出诊断建议时,许多患者并不信任甚至拒绝接受这些建议。比起AI医生的诊断建议,患者更愿意相信人类医生的诊断建议。这种现象反映了患者对AI诊断的信任仍然有限,而“AI能力—用户信任”之间的落差,已成为当前AI医疗推广中的最大挑战之一。

不仅在医疗领域,许多其他领域也存在类似现象:即使AI给出的答案与人类专家完全一致,甚至更为准确,人们依然更愿意相信人类专家,而对AI持怀疑态度。这种现象被称为“AI厌恶(AI aversion)”。

然而,人们也并非总是厌恶AI、偏好人类。其它研究发现,在某些情境下,情况恰恰相反。例如,当需要根据一首歌过去的热度数据预测其下周的排行榜位置时,人们反而更倾向于相信AI的预测,而不是人类专家的预测。这种现象被称为“AI偏好(AI appreciation)”。

这些看似矛盾的研究发现指向了一个基础问题:人们究竟是厌恶AI,还是偏好AI?或者更具体地说,人们何时会厌恶AI,何时又会偏好AI?

近日,中山大学管理学院秦昕教授团队与麻省理工学院斯隆管理学院(MIT Sloan)Jackson G. Lu(陆冠南)教授团队在国际心理学顶尖期刊Psychological Bulletin(《心理学公报》)上发表元分析(meta-analysis)论文,原创性地提出并验证了一个新理论:“能力–个性化理论”(the Capability–Personalization Framework)。该理论系统地回答了“人们何时会厌恶AI,何时又会偏好AI”这一悬而未决的基础问题。这项研究为我们理解人类对AI的复杂态度,以及推动未来人机共生的发展,提供了深刻的基础性洞见。

  ?

论文封面信息

Psychological Bulletin由美国心理学会主办,创刊于1904年,是心理学领域最具权威性的期刊之一(五年影响因子:30.3),被学术界誉为心理学界的“神刊”。该期刊专注于发表具有重大理论意义的元分析和系统性综述,旨在整合既有研究成果、回应长期未解的学术问题、并为未来研究提供理论指引。由于Psychological Bulletin对选题原创性和理论贡献要求极高,其所刊论文通常具有高度总结性与指导性。因此,自创刊以来,以国内高校为第一单位在该期刊发表的论文仅有少数几篇。

值得一提的是,秦昕教授团队本次发表的论文是Psychological Bulletin自创刊以来首篇聚焦于AI主题的研究成果。该研究对于推动AI与社会科学交叉领域的知识建构具有重要意义,不仅丰富了AI领域的基础理论框架,更为社会科学研究提供了理解与研究AI的新视角和思路。同时,这也彰显了在AI与社会科学交叉领域,中山大学相关团队处于国际领先地位。

基础探索:破解“AI厌恶”与“AI偏好”之谜

“能力–个性化理论”指出,人们在选择人类决策还是AI决策时,主要关注两个基本需求:功能需求(utilitarian needs,即个体对任务顺利完成的客观需求)与心理需求(psychological needs,即个体希望被当作独特个体对待的主观需求)。换言之,人们是厌恶还是偏好AI,取决于AI在多大程度上满足了人们在特定决策情境中的功能需求与心理需求。

对应于上述两个基本需求的满足情况,“能力–个性化理论”提出了两个核心情境维度:(1)AI能力(perceived capability of AI);(2)个性化需求的必要性(perceived necessity for personalization)。具体而言,“AI能力”维度反映了在特定决策情境中,个体认为AI(相较于人类)在多大程度上能够更好地完成任务(对应功能需求),而“个性化需求的必要性”维度则反映了在特定决策情境中,个体认为自己多大程度上需要被视为一个独特的个体(对应心理需求)。

“能力–个性化理论”提出,当一个决策情境同时具备以下两个条件时:(1)AI的能力被认为高于人类,且(2)不需要考虑个体的个性化需求,人们会更偏好AI(而非人类)决策。然而,当任一条件不满足时,人们则更偏好人类(而非AI)决策。例如,在文章开头提到的皮肤癌筛查情境中,AI医生的能力(筛查准确率)高于人类医生,但由于此情境中个性化需求较高,人们依然倾向于选择人类(而非AI)医生。该理论可用一个四象限图呈现。

  ?

“能力–个性化理论”四象限示意

该研究通过一项大规模元分析验证了“能力–个性化理论”。元分析涵盖了文献中的163项独立研究,总样本量为82,078人,共计442个效应量。分析结果显示,在某些决策情境中,当AI的能力被认为高于人类,且不需要考虑个体的个性化需求时,AI偏好效应出现(Cohens d = 0.27, 95% CI [0.17, 0.37])。相反,在其他决策情境中,AI厌恶效应出现(Cohens d = -0.50, 95% Cl [-0.63, -0.37])。这些结果为“能力–个性化理论”提供了有力的实证支持,为理解人们对AI的复杂态度奠定了理论和实践基础。

  ?

元分析效应量分布

  ?

四象限的元分析效应量

  ?

“能力–个性化理论”元分析3D展示

此外,该研究还进一步探讨了上述效应的边界条件。分析结果显示,AI特征以及样本所在国家的特征等,都会对个体对AI的态度产生显著影响。具体而言,当AI以有形机器人(而非无形算法)的形式出现、研究关注的偏好是态度类型(而非行为类型)、以及样本所在国家的失业率较低时,个体对AI的偏好效应更加显著。相反,当样本所在国家的平均教育水平和互联网使用率较高时,个体对AI的厌恶效应则更加显著。这些发现表明,个体对AI的态度受到多重因素的动态影响,进一步印证了人机互动中态度形成的复杂性。

当前,AI技术在我国迅速发展,已广泛应用于精准医疗、智能教育、智能客服、自动驾驶等众多领域,展现出强大的技术潜力与赋能价值。然而,人们对AI的态度仍存在巨大差异。如何实现从“不信且不用”到“信且用”的转变,已成为推动人机协作、实现AI深度赋能人类社会的关键。

该研究的发现为这一实践挑战提供了重要的启示。首先,AI开发者和应用方在推动AI落地的过程中,应当重视其在应用情境中能力与个性化需求之间的平衡,而非单一关注AI技术能力的提升。同时,公众也应意识到,某些情境中我们对于AI的厌恶可能源于主观心理偏差,而非AI本身的能力不足,因此,我们应更理性均衡地看待AI决策。综上所述,该研究不仅为理解人类对AI的复杂态度提供了系统性理论基础,更为AI技术在社会各领域的深度应用和可持续发展提供了重要的实践参考。

“BUT”:研究背后的交叉团队

这项研究不仅构建了一个新理论,还开展了一项系统性的元分析。该元分析从上千篇文献中严格筛选出相关研究,并对其进行编码,工作量巨大。然而,秦昕教授的团队以数倍于一般团队的速度完成了这一复杂工作,让人很好奇研究背后是一个什么样的团队。以下是小编与秦昕教授的对话。

Q1

能否大致介绍一下您的团队?

我的博士阶段的训练方向是组织行为学/社会心理学。到2018年,我开始将研究重心转向AI与行为科学的交叉领域。自那时起,我开始系统建立我的团队:BUT。

从某种意义上说,BUT应该算是一个独特的团队,至少在传统的社会科学领域是这样的。每年BUT的成员人数在75到99人之间(因为动态进出机制;比如,有同学待了半年后对(团队的)研究不感兴趣,就会退出团队),涵盖了青年教师、博士后、博士生、硕士生(包括MBA)以及本科生(约占50%)。目前,团队的人数是98人,本科生53人,涵盖了从大一到大四的不同年级;也包括10余名其他大学或学院的老师和同学(如计算机学院等)。

Q2

这么大的团队是如何运行的,请您举例介绍一下?

BUT本质上是交叉的,不仅是学科层面的交叉,更重要的是科学研究与人才培养的交叉。

BUT每周开一次组会(2小时),这学期是每周二21:00-23:00。跟大多数组会一样,BUT组会最开始也是主要讨论本领域的现有文献和团队的研究想法。然而,由于本科生占据了近一半的比例,我意识到传统的研讨会形式和内容对于本科生来说可能过于细分或专业,尤其是考虑到他们缺乏相应的专业基础(包括理论基础、研究方法等)。如果“强行”要求本科生参与这样的讨论,他们收获微乎其微,更致命的是这会消磨他们对科学、学术的好奇心和兴趣。因此,BUT开始探索更适合本科生的研讨会。

以下我将分享的就是BUT在这方面的一个尝试。从2022年9月开始,我们在每次组会中加入了一个特别环节:概述分享最近一期的Science和Nature文献(这样的设计是巧妙的,因为Science和Nature也是每周一期)。具体的,在这个环节中,两位本科同学分别负责从最近一期的Science和Nature中挑选4-6篇论文/观点等栏目内容,挑选的标准是他们觉得最有趣或最重要的文章;然后用10分钟分享这些文章的内容(也可根据情况做适当的拓展),同时引发讨论。

每周,我们回顾前一周的Science和Nature文献。为弥补寒暑假期间的缺漏,每学期开学初,我们每周回顾两期内容,确保全年覆盖所有期数。这项实践已持续近三年,并开始展现成效。例如,越来越多的学生在研讨会后主动与我探讨相关(甚至表面上无关)的话题。尤其令人印象深刻的是,他们提出问题时的自然与本能,眼中闪烁着好奇的光芒。许多学生在毕业积累工作经验后(准备)回到学术界攻读博士学位;也有不少学生申请了新的跨学科博士项目。

发自内心的兴趣。这一环节为本科生提供了接触高水平科学研究的机会,激发了他们的科学兴趣。对于本科生而言,最重要的可能不是专业知识学习(包括专业理论和研究方法的学习),而是在科学研究的环境中浸泡,对科学研究感兴趣。我发现这部分内容是整个组会大家最感兴趣的部分,也是讨论最多的部分,尽管这里面90%的研究都是自然科学的或跟我们研究没有直接关系的。或许这就是Science和Nature激发的对科学的兴趣吧。我经常感叹,竟然有科学家研究这样的问题;有时自己也思考有些很奇怪的问题,感觉瞬间对于这样的思考有了共鸣和信心,可能这就是好奇和探索。很多专业论文都忘记了,但Science和Nature中很多研究我却经常想起。例如,印度秃鹫数量锐减导致的关键物种崩溃的社会成本;AI生成数据训练导致的AI模型崩塌;生物学教材中的性别本质主义问题;教室中孩子们如水汽流动般的行为模式;以及为何猫偏爱金枪鱼等。这可能就是种子的意味,在缄默中慢慢生根发芽。

真正的学科交叉。Science和Nature涵盖了所有的学科,学生们在接触多样化研究的过程中,逐渐理解科学问题的跨学科性与复杂性,培养起全面的跨学科思维方式。在今日高度融合的科研环境中,这种能力日益重要。每一个学科就是一种看世界的方式,而我们的同学在一开始就从不同的角度思考和看世界。

从小我到人类的未来。通过关注这些研究,学生们不仅能了解到前沿的科学问题,还能感受到科学家对人类未来的关注和责任。这种联系使他们的研究与更广泛的人类福祉产生共鸣,培养了他们作为未来科学家的责任感。例如,在2024年的年底总结组会上,四位本科生分别就2024年Science的“十大科学进展(2024 Breakthrough of the year)”和Nature的“塑造科学的十大人物(Nature’s 10: Ten people who helped shape science in 2024)”进行了分享与讨论(每人负责五位[个]科学家/研究)。讨论中,大家探讨了什么样的研究具有深远影响,顶尖科学家具备哪些素质,以及这些研究与科学家的贡献如何关乎人类的未来。通过某种方式,将小我与更大的集体,再到更大的人类,联系起来,个人实现自我超越。

BUT致力于通过这种创新的方式激发本科生对科学的兴趣,帮助他们建立跨学科的思维模式,在他们心中埋下一颗科学的种子。这一使命也正好契合了BUT的初衷,因为BUT就是“boring and unimportant team”的简称;反讽地勉励我们不要做boring(无聊的) and unimportant(不重要的)研究。这个探索近3年后,我们希望这一模式能被更多团队借鉴或改进,让更多的本科生受益。

任何学科都能从Science和Nature中受益。让我们通过这两本期刊,为本科生播下一颗好奇心的种子。这颗种子或许需要很多年才能发芽,但终将成长为参天大树。

Q3

能介绍一下团队的核心研究问题吗?

BUT聚焦研究:人机协作中的效率与伦理问题。这也是“大数据管理行为与决策”教育部哲学社会科学实验室的核心研究方向之一。比如,我们团队与麻省理工学院Jackson G. Lu教授团队进行中的研究,原创性地提出新概念:“AIQ”(Artificial Intelligence Quotient, 简称人工智能商或AI商),并提供了实证证据和测量工具。该研究通过构建和检验AIQ这种新型人类智能(human intelligence),揭示了在理解和使用AI方面的个体差异。鉴于AIQ可能是AI时代竞争优势的新来源,提高对这种新型人类智能的认识对于个人、组织、教育者和政策制定者至关重要。

比如,对于教育者来说,评估和发展学生的AIQ对于培养下一代在由AI驱动的世界中茁壮成长至关重要。传统的教育系统通常专注于个人“单兵作战”能力的培养(比如,记忆力的保持),一个典型的例子是闭卷考试。然而,随着AI的兴起,越来越多的任务需要人类与AI的合作,这要求我们对教育范式进行根本性的重新思考。重点应从传统的个人的“单兵作战”能力转向人类与AI的协作能力。如果没有对AIQ的基础性理解,将很难设计出能够弥合教育与现实世界需求之间鸿沟的培养体系。

该研究的作者包括中山大学管理学院秦昕教授(第一作者)、周翔博士后、陈晨副教授,复旦大学管理学院吴冬媛副教授,中山大学管理学院博士生周汉森、董小炜,中山大学旅游学院曹李梅博士后,以及麻省理工学院斯隆管理学院Jackson G. Lu教授(通讯作者)。该研究得到了国家杰出青年科学基金、国家自然科学基金面上项目等的资助。

 
特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。
 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
研究者为蔷薇属物种演化机制提供了新见解 科学家在AI模型中内置“防火墙”
探秘繁殖密码:铺就葡萄育种“黄金路线” 地球“极客”勇探火星
>>更多
 
一周新闻排行
 
编辑部推荐博文