On Machine Ethics

　　作者简介：杜严勇(1976- )，男，四川南充人，科学史博士，上海交通大学科学史与科学文化研究院副教授，研究方向为科学史，科技哲学。上海 200240

　　原发信息：《科学技术哲学研究》20161期

　　内容提要：随着现代科学技术的迅猛发展，机器的力量日益强大，自主程度也不断提高，使得机器伦理问题逐渐突显出来。选择何种伦理理论作为机器伦理的指导原则，如何解决哲学语言的模糊性与计算机程序的精确性之间的矛盾等问题是实现机器伦理可能遇到的主要障碍。来自不同领域的学者从人工智能、社会学、心理学以及哲学等不同进路对实现机器伦理的具体原则与方法进行了初步探讨。机器伦理研究尚处于“前科学”时期，需要各个领域的学者大力协作，共同努力将机器伦理研究推向深入。

　　With the development of modem science and technology,machine has become increasingly powerful and autonomous,leading to the emergence of the new field of machine ethics.This paper argues that there are mainly three approaches to machine ethics,namely the artificial intelligence approach,the psychological approach and the philosophical approach.There are many questions and difficulties in this new field so that the scholars in computer science and philosophy fields should collaborate to figure them out.

　　关键词：机器伦理/必要性/障碍/解决进路　　machine ethics/necessity/obstacle/approach

　　标题注释：国家社会科学基金项目“机器人伦理问题研究”(15BZX036)。

　　随着现代科学技术的快速发展，机器(人)与人的差异在逐渐缩小，人类对机器的依赖越来越深。为了使机器更好地为人类服务，机器伦理①是我们必须认真思考的问题。本文试图就机器伦理的必要性、主要障碍与解决的可能性以及实现路径等问题做出初步探讨。

　　一 机器伦理的必要性

　　机器是人类智慧的结晶，它们在许多方面已经超越了人类。在机器能力日新月异的当代，至少有以下三个方面的原因突显了机器伦理的必要性。

　　第一，机器力量的日益强大及其潜在的巨大破坏力。比如，现有的民用飞行器一般都可以载客数百人，并装载大量燃料，一旦失事就会导致巨大的人员伤亡和财产损失。飞行器对人类产生破坏作用主要源于两个方面的因素，即机器本身的故障以及人为因素导致的破坏。2009年法航447航班坠海事件可能是由于这两方面的综合因素造成的，而2014年的马航失联客机则可能主要源于人为因素。

　　为了最大程度减少机器故障导致的事故，就需要提高机器的安全性能。飞机的基本目标是把乘客安全地送达目的地，对飞行器本身的技术性能而言，这主要是制造商的责任与义务，属于工程伦理学的研究范畴。对于机器伦理来说，我们更需要关注的是第二方面，也就是如何避免(特别是主观故意的)人为的因素导致的事件。比如，劫机者通常需要改变飞机的航线和目的地，如果马航失联客机与歹徒劫机有关的话，这次事件跟“9·11事件”一样，客机都受劫机者的威胁，完全偏离了既定的航线。如果飞机具有伦理判断能力，认为航线的改变可能导致重大事故，从而拒绝诸如此类的操作，飞机自主地按照原定目标飞行，从理论上可以避免重大事故的发生。

　　美国达特茅斯学院哲学系教授摩尔(James H.Moor)把内在地按照某种伦理规则运行的机器，根据其伦理判断与行为能力从低到高区分为隐性道德行为体(Implicit Ethical Agent)、显性道德行为体(Explicit Ethical Agents)以及完全道德行为体(Full Ethical Agents)。[1]根据摩尔的分类，我们可以把具有一定的伦理判断及行为能力的飞机归为显性道德行为体。在摩尔看来，显性道德行为体在避免灾难的情景中可能是最佳的道德行为体。因为人类在获取与处理信息方面可能不如计算机，而且在面对复杂问题时，需要快速做出抉择，在这方面计算机比人类更有优势。因此，为了避免飞机被劫持而导致类似于马航失联航班事件以及恐怖袭击事件等情况，将现有的大型飞机发展为显性道德行为体可能是最有效的方式之一。