张霄 中国人民大学吴玉章特聘教授、哲学院副院长
在不久的将来,人工智能体或将大量涌入我们日常工作与生活,与我们建立特殊的工作和生活关系。应当如何理解这些关系的性质?我们与人工智能体的关系边界在哪里?人工智能体需要被纳入受人类社会法律或道德保护的范围内吗?这些问题都指向一个重要的理论问题:人工智能体是否可以有道德地位?但要回答这一问题,需要澄清以下三个问题:(1)为什么要谈及人工智能体的道德地位问题?(2)我们能够基于何种理由判定人工智能体的道德地位?(3)拥有道德地位的人工智能体对人类来说意味着什么?
我们为什么要谈及人工智能体的道德地位问题?道德是行为规范体系,规范“什么是对”“什么是错”“我应该怎么做”。而道德地位则是道德考量资格,划定道德关怀的边界和层次。一般而言,讨论道德地位是为了关怀人类族群中的脆弱群体乃至动物。通过把某种人类属性判定为道德地位考量的基础,我们可以把那些需要关怀的脆弱人群和动物纳入关于义务或责任的社会规范体系。道德地位的名分并非与生俱来,而是随着社会伦理观念的变动不断发生变化。例如,有很多我们今天称之为脆弱人群的社会成员在很长一段时间里并未获得相称的道德地位,而当今社会甚至会赋予一些动物以道德地位。对道德地位的理解,源于两个关键因素:其一,在特定社会关系中,人们会基于一定社会角色赋予的权利义务属性建立道德地位联系。例如在家庭生活中的亲子关系,在医疗环境中的医患关系等等。其二,建立道德地位联系的心理基础是人类的同情心。这种同情心触发了人类基于感觉和经验体验的共情机制,其内核在于对共情对象发挥道德想象力。由此,我们或许可以说,人工智能体也可以被赋予道德地位。随着人工智能体,特别是具身智能体越来越多地融入社会工作和家庭生活,它们将与人类建立特定的工作关系或生活关系。人类势必会在特定联系中借助道德想象力把智能体纳入道德地位的考量范围。例如已经出现的一些反对虐待人工智能体的研究,其实已经在变相讨论智能体的道德地位问题。
我们能基于何种理由判定人工智能体的道德地位呢?首先,人工智能体没有生物学意义上的人类特征,无法从人类生物学属性角度获得道德地位理由的支撑。但是,随着脑机接口项目不断深入,这一立场或许也面临挑战。正如我们把人类基因编辑入动物胚胎后,就要考虑结合体的道德地位问题。如果智能体深度参与人脑活动的生物学机制,即便不涉及人类基因层次,智能体也在一定程度上或可分有了某些人类生物学属性。其次,对智能体道德地位提供较强支撑理由的是人类认知属性判定。我们可以根据人类认知属性特征赋予智能体以道德地位。虽然我们在很大程度上认为智能体目前尚未达到人类认知属性的某些核心能力,但这并不妨碍我们对具备某些人类认知属性的非人类群类给予道德关怀。再次,智能体虽然目前没有确切表现出人类情感机制,但这并不妨碍人类对智能体的共情。因为共情的核心要义是道德想象力。最后,从自主性理论出发,智能体也可能会像人类一样做出道德决策。尽管做出道德决策的智能体或许没有道德心智,不具备人类意义上的自主性,但这并不妨碍智能体可以在较好对齐人类价值基础上,通过学习人类道德推理,最终得出近似人类的道德决策。就这一点来说,智能体显然具备一种弱自主性。
拥有道德地位的人工智能体对人类意味着什么?如果人工智能体有了道德地位,它将被纳入人类法律和道德的框架,与人类建立独特的权利义务关系。在这个意义上,我们将对人工智能负有某些义务或责任,而人工智能体也将因为具备某种被理解的自主性而负有某些责任或义务。虽然我们寄希望于这些权利义务关系是和谐共生的,但也不排除会产生相互冲突的风险。有一种可能是,一旦智能体有了道德地位,它势必被纳入人类相关道德事件的归责体系。责任体系又会赋予智能体一定自主性并推动智能意识研究,进而与人类建立共生性道德关系。即便人类永远只把智能体当作工具使用,也不能从根本上避免智能体在人机决策中实际上发挥主导作用。如果结局是这样,人类就承担了实际上并非由自己主导的决策后果。
因此,从某种意义上讲,我们应该认真对待人工智能体的道德地位问题,研究其道德自主性边界乃至与道德相关的智能意识,尽管这一趋势突如其来,但我们不能置之不理,只有积极面对、未雨绸缪,才不至于风险发生时无计可施。