摘 要:对于人工智能发展的理解存在着一种观点,即把狭义人工智能、通用智能和超级智能看作一个连续过程。但实际上,人工智能发展过程并非完全连续,而是如同有裂缝但又未完全裂开的岩石,对此需要揭示其内部断裂。通过工具与主体、知识与存在、个体性与集体性以及综合性等多重角度,能够洞察其内部断裂,并可概括为三种类型:技术断裂、哲学断裂以及存在论断裂。技术断裂即人工智能从工具到智能体的变革;哲学断裂即超级智能体成为知识主体;存在论断裂即作为生存论问题的导致因呈现“存在的升级”与“存在的飞跃”。超级智能作为新的能动体和他者,使这些断裂充分展现了出来。
关键词:人工智能;超级智能;连续论;存在论
作者杨庆峰,复旦大学科技伦理与人类未来研究院教授(上海 200433)。

人工智能连续论指的是人工智能发展的本质特征,包含类型、水平、实现和终极阶段四个方面。第一,智能类型连续演变,即人工智能类型可以概括为从狭义人工智能到通用智能再到超级智能,其实质是工具的持续演进,从辅助工具到增强工具再到协作工具。第二,智能水平连续提升,即机器智能内在逻辑体现为从模拟人类到比肩人类再到超越人类的连续过程,其核心是机器智能的人为扩展。随着神经科学的日渐成熟和算力数据的支持,机器智能在逐步增强,尤其是在机器推理的形成上增强连续性。第三,通用智能连续实现,即通用智能目标的实现过程类似攀爬梯子的过程。“放梯子的地板是特殊目的的硬件;踏板1是可编程的计算机;踏板2是可存储程序的计算机;踏板3是机器学习;踏板4是深度学习;踏板5是预训练模型;踏板6是指令微调模型。”第四,超级智能是智能体连续进化的终极阶段。智能体连续进化过程存在一个终点,即超级智能的出现,其实质是两种实体智能的博弈。可以说,连续论图景无比诱人,通向超级智能的路径也看似变得清晰起来。
一、人工智能的连续论图景
当前,一个流行的观点是,人工智能是辅助人类的工具,但不能替代人类。这一观点可称为人工智能工具论。但实际上,人工智能工具论的观念并未得到深入考察。海德格尔《技术的追问》呈现了一个追问技术工具论并进行批判的过程,强调技术是人类的活动和满足人类需要的东西。本文将这一观念作为考察的起点。在此基础上,连续发展、器官投射和人类活动成为人类学工具论的重要观念。但这一理解的前提是人类中心主义,而在对人工智能乃至超级智能的理解上,人类学工具论解释是否依然有效?人工智能工具论又提出了怎样的哲学规定?笔者认为,将人类学工具论延伸到人工智能乃至超级智能是行不通的。人工智能工具论有着一些不同的规定性。
首先,人工智能工具论预设了工具性能的连续提升。如果用人类学工具论来理解人工智能,一个明显的结论是人工智能符合莱特林格(Edmund Reitlinger)的观念,即人工智能是“更好的工具”。从性质来看,它通过效率“更快”实现了“更好”;从功能上看,它通过泛化走向了通用,一个智能体可以做很多事情。所以,“更好的”规定性体现了性能上的连续性。随着人工智能工具的不断完善和持续进化,它的效率获得了稳步提升。
最后,人工智能工具论有着规范伦理的立场。李飞飞等一些学者认为,“人工智能是辅助工具”,这一观念具有很强的规范伦理的特点。在人与人工智能的关系中,“人类起主导作用”是一种应然状态与描述状态并存的命题,而“人工智能工具起辅助作用”是一个应然状态,而不是描述状态的命题。人类应起主导作用,人类根据自己的意志做出是否使用人工智能工具的决定,而使用到何种程度则是由不同场景语境决定。但是,现在最大的问题是把使用人工智能工具当作一个完全应然的伦理行为,而忽略了其内在的实然特性。所以“人类使用人工智能”作为应然行为时,强调的是人类不丧失主体地位,不产生过度依赖;作为实然行为时,强调的是根据场景、具体情况应用人工智能。
同时,人工智能发展中也存在着连续论观念。这种观念强调人工智能发展是一个连续的过程。如果用辩证法来解释,矛盾对立面之间呈现一种错综复杂的关系。在人工智能发展史上,一种争议是体现了技术原理的符号主义与联结主义之间的争论,二者相互倾轧构成了一部连续斗争的历史;另一种争议则是大模型与具身智能之间的争议。大模型体现了语言、计算等精神维度的技术实现,而具身智能则体现了物质维度的技术实现。第一种争议已淡出人们的视野,第二种争议正在徐徐展开。连续论观念将人工智能发展看作连续的过程,可分为四种类型。
二是智能水平连续增强观念。该观念强调人类与智能体的关系遵循从模仿到对齐再到超越的基本逻辑。以拉曼的划分为例,狭义人工智能包括弱人工智能、人类水平人工智能和类人智能。弱人工智能即专用智能,可以高效执行特定任务,而无需通用认知能力。通用智能则能够执行人类可以做的任何智能任务,并且具有跨领域的泛化能力。拉曼采用“匹配”“模仿”两个阶段强化了人工智能的逻辑连续观念。超级智能是一种特定类型,根据超级智能的比较解释,人工智能会在所有领域超越人类智能,如创新能力、决策能力等。逻辑连续观念是符合常识又符合进化的观点。从常识角度来看,随着智能程度的加强,狭义人工智能会逐渐进入通用智能和超级智能阶段。从进化角度看,不同类型的人工智能是算法逐步进化的必然结果。
三是通用智能连续实现也是人工智能特别是通用智能理解中的一个设定。“人工智能历史显示出在通用性上的逐步增长。”尽管在通用智能理解上存在诸多争议,对于真正的通用智能能否实现、可能具备哪些特征,科学家和哲学家尚存分歧,但在具备通用目标和自动化上却存在共识——具备泛化的能力,并在目标实现上存在一致性,能够自动规划、实现目标。
四是机器智能持续进化并超越人类是超级智能的显著特征。很多学者根据人工智能的广度和深度来划分人工智能层次。尽管学者们普遍认为,超级智能远未实现,只具有想象实在。
连续论有很强的叙事特性,它将人工智能发展史看作连续过程,从叙事角度看是科学化叙事的结果。然而,需要揭示其中的叙事本质,从而使人工智能的断裂性暴露出来。“连续性的这些形式一旦被束之高阁,便打开了整个领域。这是一个宽广的,然而又是一个可确定的领域:它是由实际陈述的整体在它们的散落和在各自所特有的层次上构成的。”因此,反思连续论图景就成为必要的任务。
二、从工具和主体反思连续论
哲学通常采用的方法是从经验到先验,“既然我们应当由复合事物领悟单纯事物的知识,由经验的事物认识先验的事物,则我们在学习时从比较容易的东西起步就是恰当的了”。对人工智能连续性的考察也可以这样进行。在经验层面可以从工具角度开始考察。从工具角度看,这种新型工具不断实现包括认知与推理在内的智能增强,但也带来“取代”的深层担忧。从思想角度看,人工智能正在改变着思想的特征,“尽管数字化取得了许多惊人的成就,但它也让人类的思想变得更缺乏情境性和概念性”。从主体角度看,超级智能有可能成为新的主体,给人类带来未知的危机,使人类文明面临存亡选择。人工智能有着超越工具的意义,比如哲学事件、生存论事件,导致“存在的升级”甚至“存在的飞跃”。
(一)人工智能的工具性
在对人工智能的认知中,工具是最为基础的规定。在一定意义上,人工智能也被视为工具性的存在。这种看法可称为人工智能工具论观念。根据海德格尔的理解,工具论的规定意味着工具指向人类活动本身以及满足某种价值需要的中介。不过,人工智能工具论有着新的特征,下面将分析阐述人工智能工具论的四种内涵。
一是无智能的工具。该观点认为,人工智能是一种类似锤子的工具,远未达到人类智能的水平。如同计算器、程序编译器等,都可以看作无智能的工具,无法主动与使用者形成互动。根据这个观点,人工智能对人的辅助作用是有限的。
二是辅助工具。该观点认为,人工智能只是起到辅助作用,帮助人类决策、执行任务,对于人类本性、品质、视野不会有太多影响。
三是增强工具。该观点认为,人工智能可以增强人类的认识、推理、记忆等能力。这种现象可称为“智能增强”,并可归入分析人工智能问题的方法范畴。比如,大模型的快速发展与广泛应用,显著增强了人们的信息检索、内容生成、文本翻译等方面的能力。
四是影响文明的工具。尽管这一观点也基于人工智能的工具性,但更加强调人工智能对文明的影响。“在文明层面,放弃人工智能是不可行的。领导者们将不得不直面这项技术的影响,他们对这项技术的应用负有重大责任。至关重要的是,我们需要一种伦理准则,它能够帮助我们理解人工智能时代,甚至在这个时代为我们提供指引。”
以上是人工智能工具论的形式,这四种理解有着逐渐强化智能意义的特征,从无智能、增强智能再到影响人类文明。李飞飞提出“以人为中心”的人工智能观念,即以人类理性为中心或是以人类尊严和自主性为中心。在工具论的观念中,这一认识的局限在于人类中心主义的设定。如果稍加改造这一观念,变为“以人为目的”,从这样的角度认识人工智能,其意义就发生了改变。人工智能将人作为最高目的,可以做到为了最高目的而奉献自身,这将成为人工智能治理的新原则。在关机场景中,当超级智能面临人类关机要求时,最好的方式是智能体能够实现自主关机。这种方式比哥德尔炸弹更为有效,因为哥德尔炸弹会失效。而人工智能将自身献给自己的最高目标时,这种奉献就如同人类的自我牺牲一样,将成为人工智能价值的最大体现。
(二)通用智能的拟主体性
通用智能与一般的工具有着很大的区别。在对区别的探讨中,人们逐渐发现了人工智能的功能拟主体规定。但是在这个问题上,很多学者并不承认通用智能的主体性。要承认通用智能的主体性最基本的条件是承认通用智能的自我觉知或自我意识。这一点在科学界已有所显现,比如自我觉知的人工智能(self-awareness AI)与有意识的人工智能(conscious AI)的出现。因此,拟主体性是科学界对人工智能主体性的一种折中态度。承认通用智能的功能拟主体性,相当于承认了人工智能具备理性推理和情感能力。
从哲学角度看,这项研究强调了具身智能可以获得涌现能力从而实现机器意识,这相对于单纯使用意识涌现概念的做法向前迈进了一大步,它将意识涌现具象化,为机器意识提供了能力涌现的途径。从具身智能质变产生的主体性还是技术断裂,即从技术本身发生的根本改变,其本质是从工具到主体的变革。与技术断裂不同,当新的主体性出现时,存在论断裂便悄然出现。
(三)超级智能的主体性
当人工智能从通用智能进入超级智能阶段时,“就有可能成长为另一种主体,另一种立法者,或者另一种眼睛”。这种主体特性表现为意识涌现。意识涌现在具身智能中的可能性已被科学界讨论,可以看作自我意识的条件。目前,RT-2已基本做到,从互联网规模的训练中获得对新物体泛化能力的显著提升、解释未包含在机器人训练数据中的命令、根据用户命令执行多阶段语义推理等一系列涌现能力。可以看出,这种涌现能力使智能体形成了一定程度的主体性。
如果超级智能的主体性成为可能,接下来的问题将过渡到主体间性,即作为他者的存在。在对超级智能的讨论中,一个仓促(缺少论证)的认识是将伊德的人机关系框架(他者关系或异在关系)的活力激发出来。超级智能主体显然与人类主体有很大区别,难以借助现象学的主体间性范畴加以推演和论证。从意向性角度看,机器主体的意识行为没有意向性,并不构成指向特定的对象,这是与人类主体意向不同的地方。从语言意向角度看,大模型的语言并不是意义的指向,而是词元(token)预测的结果。从经验角度看,机器经验与人类经验不同,是来自机器与世界的真实交互。
三、从知识与存在反思连续论
贡华南从知识类型的角度讨论了知者的存在方式,认为不同的知识既反映了知者与他者之间不同的交往方式,也反映了知者不同的存在方式。那么,人工智能是怎样的知者存在类型?
(一)知识角度的反思
(二)存在角度的反思
四、从个体性与集体性反思连续论
一般来说,人是个体性与集体性的统一。每一个个体都有其特性和人格,而不同的个体组合起来就构成了集体。但集体并不等同于个体的组合,而是超越个体组合的结果。乌合之众只属于个体的组合(也称群体),通常因某个共同原因而形成。比如,一辆车上的乘客需要借助交通工具去往各自的目的地,而这辆车能够满足这些乘客个体的需要,车上的乘客就构成了群体。缺乏凝聚力是乌合之众的重要特征。但对于集体来说,形成凝聚力和认同是前提,并且能够升华为特定的文化——这是集体的重要本质,而且与记忆密切相关。
对于人工智能来说,只有个体性和群体性,而没有集体性和总体性。在西蒙栋看来,技术对象的个体性可以从物质与形式、结构与功能等多个角度加以理解。他从物理对象的个体性分析了技术对象的个体性。对于人工智能来说,其个体性需要从智能体与环境的关联中进行解释。换句话说,一个智能体可以等同于个体。智能个体可以通过结构和功能加以分析,比如transformer算法加上决策、感知、交流行动等功能。可以说,智能个体的一个特征是整合了不同的能力,如语言、视觉、记忆、推理等。
智能对象的个体性已明显超出传统的技术对象。按照DeepMind的观点,传统的技术物品是无智能的工具,但智能对象开始拥有了智能:L0为非人工智能物品、L1中人工智能作为工具、L2中人工智能作为咨询者、L3中人工智能作为合作者、L4中人工智能作为专家、L5中人工智能作为大师。这个划分中,无智能的物品本身就是作为工具呈现给人类的,但是智能体还有咨询者、合作者、专家和大师等类型,这是一般技术对象并不具备的,并且这与主体意识也没有关系。从工具角度看,智能对象的群体性不但具有一般技术对象的组合特征,更具有系统性。人工智能作为系统存在可以把其他单个对象整合进来。功能整合是智能对象个体性和群体性的特征。
五、从综合性角度看连续论问题
在人工智能与社会的关系方面,很多学者认为人工智能是一个综合性问题。奥特曼(Sam Altman)认为,人工智能不仅是一个技术问题,更是一个社会问题、政治问题。赵汀阳认为,要把人工智能看作哲学问题,甚至是政治问题。“为人工智能设限的设想最终需要全球合作的政治条件才能够实现,所以说,人工智能的发展问题最终是个政治问题。”
在技术问题、社会问题、哲学问题和政治问题四个维度中,人工智能是技术问题并不需要太多解释,这是一个自明的前提。人工智能是社会问题,因为人工智能带来了工作替代、角色取代的危机。人工智能是哲学问题和政治问题也被赵汀阳加以解释,前者是因为人工智能带来了存在论问题,后者是因为人工智能需要全球政治合作才能实现向善治理。所以说,人工智能可以看作四位一体问题的综合。但对于超级智能而言,这种四位一体并不是那么自明了,甚至在某些维度还会成为明显的问题。
从技术角度看,人工智能取决于算法、算力和数据。在人工智能界看来,尽管通用智能是一个技术问题,但也存在很大争议。李飞飞认为通用智能是一个模糊的概念,还有一些人认为通用智能是人工智能技术发展的圣杯。而超级智能从什么意义上来说是一个技术问题?这一点显然更具争议。一些公司关注这一维度,但往往只是作为一种技术可能性来对待。另外,一些人还是把超级智能看成带有未来维度的安全隐患或杞人忧天式的想象的杂糅。超级智能是科幻想象中常见的未来场景设定,是媒介想象中的关注点,同时也是技术想象的过度表现。目前还不能明确说,超级智能是一个技术问题,因为其实现机制和路径并不明确。
从社会角度看,人工智能是一个社会问题,带来了工作取代和角色替代的问题。然而,对于超级智能来说,这些问题显然并不是一个维度的。现有法律体系很严肃地对待了人工智能带来的可能性风险。欧盟的人工智能法案对人工智能风险进行了划分:不可接受风险、高风险、中风险、低风险和无风险。尽管这个法案讨论了通用智能的未来形态,但依然把超级智能排除在外。这也表明,超级智能更多被视为想象对象,而非实在对象。
从政治角度看,人工智能需要全球联合应对,进行讨论和治理。但超级智能却是少数人面对的问题。目前,关心这一问题的学者屈指可数,只有辛顿、鲍斯彻姆等发出了零星声音。大多数人认为,这是一个媒介想象、社会想象的话题。
从哲学角度看,情况有所不同。超级智能的哲学性已从两个方面表现出来。一是知识论层面。超级智能给予人类知识以新的类型和源头。二是存在论层面。赵汀阳等人认为,超级智能导致“存在的升级”。因此,在四个维度中,技术、社会和政治这三个维度由于这一问题的想象性而存在争议,唯独哲学维度在超级智能的讨论中保持了下来,但也表现为两个不同问题的延续——知识生成与“存在的升级”。
六、超级智能的现象辨析与应对之策
在笔者看来,超级智能既不能视为想象建构对象,也不能视为生存焦虑建构对象,而应视为现实对象。超级智能的现实性在科学上已明显表现出来,相关问题必须加以反思。超级智能被一些学者视为人工智能进化的必然结果,它会采取自主进化或动物进化的方式实现。如果说人工智能的工具性是人们对其的原初认识,那么超级智能或许已然失去了这种工具性。从主体角度看,超级智能是人类想象意向构成与焦虑意向构成的对象;从客体角度看,超级智能是一个重大事件,也可能是人类最后一个发明,从此之后机器将开启自主设计。
(一)从主体角度看,超级智能机器可以视为人类想象意向构成的对象和生存焦虑意向构成的对象。从想象角度看,超级智能是三种想象构建的产物:从诞生起就带有强烈的科幻想象底色,在发展过程中是过度的技术想象的产物,在呈现给世人时是媒介想象的对象。
从超级智能的缘起看,它带有浓厚的科幻想象色彩,这一点构成了超级智能机器讨论的底色。在历史上,超级智能与人类的关系成为科幻电影或文学作品的重要题材,呈现了科幻想象构建的超级智能叙事缺乏现实性。有学者开始反思这种叙事的有效性。“这些叙事长时间形成了我们最坏未来的图景,但它们是正确的叙事吗?”科幻想象经常把人类与超级智能置于激烈对立的矛盾冲突中,因为其作为文学创作试图构建一种典型叙事,而激烈对立的矛盾叙事更有可能实现这一目标。在上述题材中,人与机器冲突的敌托邦色彩往往伴随着科幻电影或文学作品。这种冲突并不必然导致人类对这个问题的反思和关注,很多时候只是好奇或娱乐的一种体现。
在技术发展中,超级智能可以视为人类过度的技术想象。笔者曾区分了两类技术想象:合理的技术想象和过度的技术想象。合理的技术想象指以理性形式表现出来的技术之爱且符合必要的技术逻辑;过度的技术想象指基于人类自身的狂迷想象行为对于特定技术和文化对象的“胡思乱想”,这种想象产生了一种超出理性的结果。
在社会呈现上,超级智能是媒介想象的重要对象。为了博取社会关注,媒体不惜渲染人类与人工智能的紧张关系,探讨未来人工智能是魔鬼、机器人反抗会不会消灭人类等话题,无形之中挑逗、刺激着人们的神经,从而将人工智能风险与安全话题作为一种独特社会记忆加以巩固。
不过,将超级智能看作想象产物,还停留在心理感性层面,缺乏足够的反思。超级智能如果是想象的产物,那么它和一般性想象有什么区别?想象金山、孙悟空和想象超级智能的区别何在?目前来看,只有超级智能是三种想象行为综合的产物,而金山只是个体理性产物,孙悟空是文学想象的产物。进入哲学反思层面,方可对超级智能现象有更深入的认识。从哲学层面看,存在两种情况。
一是超级智能由人类生存焦虑意向构成。也许是人们看过太多敌托邦式的电影,对这种警告有点麻木。相比核武器的危机,这种由超级智能带来的危机是模糊的、不清晰的,更多是想象的产物。这种由生存、命运导致的情绪与焦虑密切相关。可以说,超级智能是生存焦虑意向构造的产物,而且是能够带来灭绝的东西。所以从此看,“存在的升级”远不是焦虑意向构建的对象,而是智能科技对人类生活方式、存在方式产生的改变,最大的改变是消除了传统的存在方式,创建了一种新的存在方式。
二是超级智能是人类存在论事件。赵汀阳、王天恩等人强调了“存在的升级”,这是从正面价值看到的结果,而不是强调存在的降幂或人类存在的消亡。当然,这种升级并不是孤立的变化,而是在关系中呈现的变化。未来超级智能与人类之间可以达成一种智能契约关系,以此确保彼此“存在的升级”。所以,在智能契约关系下,“存在的升级”成为可能。
(二)从客体角度看超级智能,可以说它是机器事件的新开端,机器智能超越人类智能具有解决人类大麻烦的独特功能,但可能会导致生命灭亡和文明重置。
从发展视角看,超级智能是一种比喻,对象进化超越人类进化。因此,超级智能并不是实体,而是一个时间节点。在这个节点,机器智能将超越人类智能。这种比喻是建立在线性时间上,即时间能够无限制地延伸。在无限的时间内,机器进化的速度很快,而人类生物进化基本上停留在一个较高的阶段,因此超越必然会出现。现在想来,超越比较观点还是过于朴素。如果从相融的角度看,人类与机器不断融合,就不存在超越与否的问题了,而二元进化比喻忽略了彼此之间的融合趋势。
从功能角度看,超级智能是实体的功能,对象功能超越了人类的水平。从人工智能功能来看,可以具有咨询者、合作者、专家和大师的功能。人工智能在这些基础上可以给人类最权威的信息,能够很完美地与人类合作,提供专家级的咨询甚至大师级的指引。从经验角度看,超级智能有望解决一些人类社会面临的重大问题,但超级智能最终可能起到独特的作用,如破解人类面对的与生存有关的凭借理性无法解决的“大麻烦”。就像古希腊戏剧中突然引入一个外部的、非逻辑性的力量(如神明、超自然现象或意外事件)来解决问题,从而强行推动故事走向结局。作为外部力量,超级智能或许可以消解人类陷入僵局的危机。
结语
从根本上来说,本文是基于未来可能性的哲学思辨分析,目的并非论证通用智能以及超级智能的可能性甚至必然性,而是阐述超级智能这一“看似遥远甚至虚构的未来”对于当下哲学反思的重要性。本文通过工具、知识、存在、集体性和综合性这五种角度对人工智能连续论进行了反思,并在此基础上对超级智能进行了追问。超级智能超越了一般的工具技术,成为新的能动体和他者。在存在论意义上,超级智能不仅带来了“存在的升级”,更带来了“存在的飞跃”。尽管目前有关讨论争议较多,但存在论视角的探讨对于克服人工智能理解中的短视效应非常必要,并且这也是经过哲学审思的人工智能叙事的重要内容。
西蒙栋曾谈到技术与文化之间的二元对立,而人工智能的出现扩大了二者之间的裂缝。当人工智能仅作为工具存在时,这种裂痕和以往并没有太大区别,最多只是增加了一个经验的变量。但随着智能体能够与真实环境交互学习进化乃至超级智能的出现,这种裂痕显然已不仅是经验变量的结果,而是呈现为一道巨大的鸿沟。人工智能叙事则能够起到弥合技术与文化之间鸿沟的作用。这种叙事的目的是将新的意义赋予人工智能,尤其是赋予超级智能以合适的意义,从而实现与社会文化的融合。这种赋予意义的过程并非一种过度渲染,而是在努力探寻弥合人工智能与社会文化的裂痕乃至鸿沟的方法,对于当下以及未来的人工智能发展具有一定的现实意义。
〔本文注释内容略〕
原文责任编辑:崔晋 责任编审:莫斌