《道德机器：如何让机器人明辨是非》，[美]温德尔·瓦拉赫、科林·艾伦著，北京大学出版社2017年11月出版

■李佳欣

2015年，美国仿生机器人公司创始人David Hanson推出了号称“全世界最美的机器人”索菲亚，2016年推出二代升级款，“她”不仅拥有与人类女性高度相似的五官外形——睫毛和毛孔清晰可见，还能随着谈话情景的改变而自如地使用60多种细腻的面部表情。

而在德国，根据英国的《金融时报》报道，2015年7月2日，德国大众汽车公司的一家工厂里，一名技术人员遭到机器人的攻击并由于受伤过重而不治身亡。

无论是光鲜亮丽的美女索菲亚，还是棋开得胜的阿尔法狗，抑或是袭击人类的机器人“杀手”，甚至是饱受热议的性爱机器人，这些现象无不表明：随着人工智能研究领域的日益深化与拓展，高智能机器人已经渐渐走进我们的生活世界，它所引发的社会争议与伦理话题——机器人是否应当或者能够担负起道德责任、人工道德智能体（AMAs）是否可能等等——愈发值得我们重视与深思，而温德尔·瓦拉赫与科林·艾伦教授合著的《道德机器：如何让机器人明辨是非》一书所探讨的正是这一热点话题。

该书从哲学与认知科学的角度出发，着重讨论了机器是否需要伦理，需要怎样的伦理以及如何把这种伦理属性建构到机器当中等重要论题，并且给出了自己的回答：通过把自上而下与自下而上式两种进路相结合，能够在很大程度上让人工道德智能体具备更加全面的认知能力——包括作出道德判断与决策。

所谓自上而下式的理论进路，是指通过将机器人所要掌握的知识与能力转化为一系列算法规则，把这些规则植入机器人的“大脑”，从而获得“认知”；自下而上式的发展进路则是通过模拟孩童的成长过程，让机器人在不同环境的相互作用中习得复杂行为与认知的能力与知识。

这两种发展进路都存在一定缺陷，对于前者而言，虽然其运行模式更为“安全”，却“常常意味着很难达到的理想标准……还包含着难以落实的计算复杂性”；后者则难以在面对多个目标的过程中提供一个明确的行动方针。

因而，该书认为应该将这两种进路结合在一起，从而尽可能使得机器人在法律、道德等因素上符合社会的规范，朝着更为人性化的AMAs方向迈进。

但是在关于伦理道德的方面，该书明确表示“人工系统是否能成为‘真正的’道德主体”，这并不重要。关于这一问题，该书引入了弗洛里迪的信息伦理学观点，弗洛里迪和桑德斯认为可以通过参照那些人类社会中符合道德规范的行为，来为人工智能体设定一种道德阈值函数，阈值的高低作为衡量具体行为是否道德。

他们将责任进行分隔和形式化，并澄清它在道德中的角色，即通过区分“道德问责”和“道德责任”来调控、规范并改善自主性智能体的行为。

《道德机器》一书虽然认同弗洛里迪理论所带来的解放研究的积极意义，但同时对其在道德机器具体实践层面上的可行性表示怀疑——道德规范是怎样符合阈值，尚不得知。

不过作者似乎赞同这样的看法，“主动定期召集专家和关注这些问题的公众成员，勘察数字技术提出的现有问题和即将到来的问题……在人们所猜测的未来挑战应被视为真正的可能之前，阐明那些必须跨域的技术阈值”。

也就是说，对已经出现的问题我们可以进行道德阈值的设定来改善人工道德智能体；但对于人们猜想与怀疑中的一些问题则先行悬置，因为“未来主义场景的重要性在于其警世故事的作用，告诫工程师要警惕当前问题的解决方案并不能控制未来意想不到的后果”。因此，继续推进人工道德智能体的发展势在必行，所需重点关注的是考虑如何让人工智能体的行为像道德主体一样行事。

《道德机器》的这一看似有些“妥协性”的回答，对于推进人工智能研究的技术人员来说是一颗及时的定心丸。但在笔者看来，这一定心丸的药效也只是暂时的。因为，未来所面对的问题正以各种各样可能的复杂形式进入到我们当下的生活中，并且是非常迫切与重要的。

比如关于性爱机器人所引发的伦理争议，其中所谓的“合乎道德的适当行为/像道德主体一样行事”是否“适当”或者说“是否真的存在”，是以前一个问题——性爱机器人是否能够作为真正的道德主体——为基础的，也就是说，这种（或可称之为未来的）道德问题已经进入了当下人们的伦理生活中，并且它也确实是在我们可操作的范围之内的（比如我们能够对之进行设置道德阈值）——科学家们是能够在开发更加智能的性爱机器人和禁止这一方面的研究之间作出选择的。

但在此处，弗洛里迪的信息伦理学并没有告诉我们“道德阈值”在这里意味着什么？究竟怎样做才符合道德？无论是本书的两位作者抑或其他学者，相信对于这一问题的回答并非轻而易举，毕竟会牵涉到不同民族文化与信仰等相关问题。

而当此时，关于“道德阈值”的讨论还悬而未决，但关于这一方面的人工智能技术却已经突飞猛进，其所呈现出来的是这样一种姿态——等性爱机器人研制成功甚至投入使用之后再来讨论其可能引发的伦理问题的时候，已经造成了一些棘手的家庭婚姻问题。

因此，我们需要对在未来可能引发道德争议的问题进行预先考虑，尤其是那些关系到人类生活的核心主题——婚姻、两性等等问题，应当始终抱以审慎的态度。换言之，如果AMAs在未来会以相当大的数量进入我们的生活空间，那么将其纳入伦理反思的领域势在必行。

当然，这不仅仅是一个简单的“道德阈值”大小的数字标准问题，也不只是AMAs研究人员和认知科学家以及道德哲学家的任务，而是需要所有关心人类生存发展的有责任心之人都来贡献一份自己的智识力量。