李侠

日前，联合国教科文组织总干事阿祖莱任命来自世界各地的24名专家，负责制定首个全球神经技术伦理框架。之后所有会员国将对其进行讨论，以期在2025年11月教科文组织大会第43届会议上通过这一全球伦理框架。

在科技迅猛发展的当下，人脸识别、脑机接口、大数据、人工智能等前沿科技逐渐成为社会热词，这表明科技领域正处于一次巨大变革的前夜。一旦某项关键技术取得突破，科技界将迎来意义深远的连锁式科技革命，随之而来的则是规范的真空地带。此时，制定科技伦理的规训措施就成为当下最紧迫的工作，否则很可能出现不可控的巨大风险。这绝非危言耸听，我们不妨回顾一下21世纪以来主要发达国家对未来科技发展趋势的研判。

21世纪初，世界范围内的科技发展出现了加速与汇聚并存的现象。早在2003年，美国就发布一份报告《用以增强人类功能的技术的汇合：纳米技术、生物科技、信息技术及认知科学（NBIC）》。2004年，欧盟又发布《技术汇聚：塑造欧洲社会的未来》报告。进入21世纪第二个十年，欧美相继提出人工智能的研究规划，如2016年美国发布《国家人工智能研发战略计划》，3年后又发布《国家人工智能研发战略计划：2019年更新版》；2020年欧盟发布《人工智能白皮书》。从这些标志性文件的发布，使人明显感觉到世界各国对新科技的发展趋势已作出肯定性研判，而这些报告无一例外都有关于科技伦理问题的章节。

为何各国不约而同地关注科技伦理问题呢？

在我们日常生活中不难发现，各种高科技带来的伦理问题向社会各个领域日益扩散，如基于大数据算法的杀熟现象，就是典型的利用算法不透明性实施的价格歧视。再比如，各大平台利用收集的客户信息实施广告与商品的定向推送。这些违背公平与伦理的活动，其边界基本维持在个体道德忍耐力的范围之内，即使你愤怒，考虑到申诉的巨大成本，也懒得去起诉。这种小恶是以量大面广的累积方式获取非法利益的。正是为了防止此类困境的扩大，欧盟出台《一般数据保护条例》，并于2018年5月生效。随后多国跟进，对个人数据进行立法保护。

随着人工智能的快速发展，其引发的科技伦理问题更加难以处理，如情侣机器人的出现是否会对现有家庭结构与人类爱情观造成冲击？机器人杀手是否具有存在的合理性？能否让人工智能全面参与战争？从2016年至今，联合国未就《特定常规武器公约》在成员国之间达成共识。2022年，我国发布《关于加强科技伦理治理的意见》，标志着中国在政策层面开始切实关注科技伦理问题。

回到个人层面，高科技带来的伦理问题日益凸显。例如，最近几年全球都在关注的神经增强技术，就涉及一个根本性问题：个体是否有权利根据自己的意愿改造自己的身体？这是否会对人类千百年来形成的秩序与个体尊严造成致命的打击？如果放任此种技术的滥用，是否会引起神经增强领域的“军备竞赛”？此前的基因编辑婴儿事件已经引发过激烈的伦理讨论，最近火热的脑机接口技术同样引起诸多担忧。

2020年，马斯克创立的Neuralink公司在活猪身上演示了脑机接口技术，实现了对猪行为轨迹的精准预测。2021年，该公司又利用脑机接口技术展示了猴子用意念玩模拟乒乓球游戏。随着相关技术取得巨大突破的可能性增加，以及大量资本的涌入，脑机接口技术的发展速度会大大加快。但是，未来脑机接口技术一旦发展成熟，我们每个人都必须考虑几个严肃的问题：隐私与个体的自主性如何捍卫？如何保证我们头脑中的信息不会被恶意窃取？我们是否会在外部信息的操纵下丧失个体的自由意志？因此，未雨绸缪对高科技的健康发展而言永远是必要的。

目前，各国关于科技超常规发展的趋势已形成共识，对其带来的风险与不确定性的担忧也随之增加，因此必须从政策层面最大限度消除这种风险的可能性。这也表明以往的伦理规训并不成功，如学界一直提倡的负责任的创新与科研的理念，在实际操作层面落地并不理想。以往的策略充其量是治标之策，仅具形式与象征意义。如何实现科技伦理的标本兼治？笔者认为，必须给科技活动打上两针伦理的“疫苗”。

第一针是国家层面的制度性长效伦理“疫苗”。首先，通过政策明确科技活动的目标，要体现国家意志并树立国家形象，即国家希望科技活动能够最大限度地增加社会福祉并造福人类；其次，国家通过设立明确的伦理靶标，将科技建制整体的“状态-结构-绩效”轨迹始终维持在向善、有序与高效的轨道内。道理很简单，在科技资源稀缺与政策工具强制性的约束下，只有符合国家意志的科技活动才能获得支持，否则很难有生存空间。制度的强制性约束使科技共同体选择向善而非向恶的科技活动才是理性的，这既避免了资源损失，又凝聚了科技共同体关于善的共识。

第二针是个体层面的责任伦理“疫苗”。众所周知，科技伦理在微观层面能够全方位约束科技人员的行为选择，它所依据的规训载体有三类——资源、成果与目标。借助这三类载体，每位科技从业者的行为选择从初始阶段就处在规训的探照灯下：任何科技主题在开展之前都需要通过伦理委员会的审查，如果不符合伦理原则就无法获得资源支持；对研究产出的成果进行市场评价，如果不能增加人类福祉与知识就无法进入市场。这对所有科研人员而言都是一种实实在在的约束。

试问这一套“组合拳”打下来，还有多少人敢以身试险？责任原则在个体心中的内化保证了科技向善不再是空洞的许诺，而是一种牢固的认知习惯。伦理不是科技的敌人，而是保驾护航的伙伴。

（作者系上海交通大学科学史与科学文化研究院教授）

《中国科学报》 (2024-05-28 第1版 要闻)