首页 >> 哲学 >> 科学技术哲学
人工智能伦理体系:基础架构与关键问题
2019年11月08日 10:22 来源:《智能系统学报》 作者:陈小平 字号

内容摘要:

关键词:

作者简介:

 

  作者:陈小平

  原载:《智能系统学报》2019年6月

  

  随着人工智能第三次浪潮带来的重要进展,人工智能伦理挑战已成为当前国内外普遍关注的一个焦点,一些组织和机构开展了相关议题的研讨,发布了一批人工智能伦理准则的建议。中国人工智能学会对人工智能伦理问题高度重视,于2018年年中开始组建人工智能伦理专委会。在2019全球人工智能技术大会上,5月26日举行了“全球视野下的人工智能伦理”论坛,在国际上首次提出了人工智能伦理体系规划问题,这意味着人工智能伦理建设开始进入第三阶段,而人工智能伦理体系的关键问题研究提上了议事日程。正如中国人工智能学会理事长李德毅院士在论坛致辞中指出的那样,本次论坛具有里程碑意义。 

  1人工智能伦理建设:从伦理准则到伦理体系 

  人工智能伦理建设已经历了两个阶段。第一阶段是人工智能伦理必要性的讨论,从专业角度说,耶鲁大学WendellWallach等美国学者起了带头作用,在国际上引起了普遍重视;从更广泛的背景看,尤瓦尔·赫拉利的《人类简史》发挥了重要的推动作用。第二阶段是人工智能伦理准则的讨论,欧盟走在前面,中国和其他一些国家也积极参与其中。 

  在第二阶段,欧盟人工智能伦理高级专家组提出了人工智能伦理的7条准则[1],包括:确保人的能动性和监督性、保证技术稳健性和安全性、加强隐私和数据管理、保证透明度、维持人工智能系统使用的多样性、非歧视性和公平性、增强社会福祉、加强问责制。我国清华大学人工智能与安全项目组提出了6条准则[2]:福祉原则、安全原则、共享原则、和平原则、法治原则、合作原则。据不完全统计[3,4,5,6,7,8,9,10,11,12,13,14,15],迄今已有40多个机构或组织提出了各自的人工智能伦理准则建议。总体上看,所有这些准则建议是基本一致的。 

  因此本文认为,人工智能伦理准则讨论阶段已达成共识而基本结束了。在这些共识的基础上,人工智能伦理建设需要进入第三阶段,即人工智能伦理体系的讨论。 

  那么,“人工智能伦理体系”与“人工智能伦理准则”有什么不同?展开人工智能伦理体系的讨论有什么必要性和紧迫性?我认为,以下四个关键问题,是伦理准则无法回答,人工智能伦理体系建设无法回避的。不解决这些问题,就不可能建立完整、有效的人工智能伦理体系。 

  第一,人工智能伦理体系的运作机制问题。任何伦理准则都不可能自我执行,都必须借助于伦理体系中的一系列相互配合的运作机制才能得到落实。这就如同法律条文制定得再好,也不可能自我执行,必须在完整的法制体系中才可以得到落实,而法制体系是由立法、司法、执法等机制组成的。没有完整的法制体系的支撑,必然出现有法不依的问题。当然,伦理体系与法制体系是十分不同的,不可能完全照抄法制体系的“模板”,所以必须开展人工智能伦理体系的讨论,尤其是运作机制的讨论。 

  第二,人工智能伦理准则的场景落地问题。已经提出的人工智能伦理准则,大部分属于反映普世价值的原则。当把这些准则应用于具体的实际场景,就需要细化为可操作的具体规定,否则必然停留在口号的层面上无法落地。例如,无人驾驶可以有两种本质不同的应用场景。一种是完全无人驾驶交通系统,这种交通系统中只有无人驾驶汽车,没有有人驾驶汽车,行人必须严格遵守与普通道路交通完全不同的规则。另一种应用场景是混合交通系统,其中无人驾驶汽车和有人驾驶汽车同时存在,行人遵守普通道路交通规则。这两种交通系统虽然都是无人驾驶的应用场景,它们所面临的技术和伦理风险却是非常不同的。在混合交通系统中,人工智能技术面临着难度和复杂度更大的挑战,而其中大部分最难的挑战在无人驾驶交通系统中是不存在的。因此,在人工智能伦理体系中,需要为两种交通系统制定非常不同的监管规定,即使这两种交通系统符合相同的人工智能伦理准则。 

  第三,人工智能伦理风险的预测判别问题。世界上所有民航局都规定了禁带物品清单,同时强制实行登机安检,以检测乘客和乘务人员是否携带了禁带物品。在人工智能伦理体系中,也需要有对应于“禁带物品清单”的某种“违禁物清单”,以便有针对性地进行风险监督和管控。显然,人工智能伦理准则只是一些原则,并不包含人工智能的“违禁物清单”,比如“安全原则”不可能具体指出哪些人工智能技术是不安全的,“公平性原则”不可能具体指出哪些人工智能技术是不公平的。同时,人工智能处于不断发展之中,不可能一劳永逸的列出完整的“违禁物清单”。所以,只能在人工智能伦理体系中建立某种常态化机制,该机制能够预测、判别任何一项人工智能技术有什么风险、风险多大、是否应该禁用等等。这种机制过去并不存在,这是人类面临的一个全新课题。 

  第四,重大社会问题综合创新的动力机制问题。伦理学的基本落脚点围绕着“正确的和错误的行为”[16,17];也就是说,伦理并非只关心“不做错事”,也关心“要做好事”。可是在迄今人工智能伦理的讨论中,防范风险的一面得到了普遍重视和广泛讨论,而推动社会进步和经济发展的一面却没有受到足够重视,这已成为人工智能伦理体系建设的最大短板。有一种观点认为,推动经济发展、社会进步的问题,应该并且已经由人工智能研究和产业化承担了,无需人工智能伦理的介入。这种观点是不符合当今社会现实和未来发展态势的。例如,根据民政部等部门的统计,中国有2.5亿个家庭需要家政服务,而现有家政服务人员不到1700万。根据中国老龄办2016年调查,中国失能和半失能老人总数已达4000万,而且每年增加800万。类似问题在发达国家也不同程度地存在着。目前,这些问题难以找到有效的解决办法,因为现存科技和产业创新(innovation)的主要动力机制是商业化,而商业化机制应对老龄化等社会问题的效力是严重不足的,未来这种情况将越来越严重。因此,有必要在商业化机制之外,增加一种新型的综合创新机制,即借助于人工智能技术的伦理性创新。 

作者简介

姓名:陈小平 工作单位:

转载请注明来源:中国社会科学网 (责编:李秀伟)
W020180116412817190956.jpg
用户昵称:  (您填写的昵称将出现在评论列表中)  匿名
 验证码 
所有评论仅代表网友意见
最新发表的评论0条,总共0 查看全部评论

回到频道首页
QQ图片20180105134100.jpg
jrtt.jpg
wxgzh.jpg
777.jpg
内文页广告3(手机版).jpg
中国社会科学院概况|中国社会科学杂志社简介|关于我们|法律顾问|广告服务|网站声明|联系我们