从技术突破与探险精神看ChatGPT

2023-03-07 来源:中国社会科学网-中国社会科学报

  美国OpenAI公司于2022年11月发布的ChatGPT,引起了科技界、商界、教育界及其他群体的震动。一些大学开始禁止在课堂、作业和评估中使用ChatGPT;一些教育行政机关限制公立学校访问和使用ChatGPT;一些杂志禁止使用ChatGPT生成的文本,也禁止将其署名为作者……从目前公布的功能来看,ChatGPT可以替代或辅助人类完成许多知识性工作,从而对相关群体和领域形成新一波冲击。

  ChatGPT与人类理智的关系

  为撰写这篇文章,笔者登录和试用了ChatGPT。它确实能够像常人一样与人对话。令笔者印象深刻的是,它的汉语表达相当规范,甚至比不少大学生的文字要规整得多,并且几乎没有病句。这是相当值得关注的进步。因为语言是人类智能的一个层面,不仅具有结构和规范,而且能够生成千变万化的句式。ChatGPT能够生成规范的汉语、英语等语言,虽然如其名称所标示的那样,是预先训练的结果,但它表明,人工智能在基础理论层面把握了自然语言生成的规则以及在技术上生成出来的方式,或者至少掌握了模仿自然语言的规则。不仅如此,它所生成的文本往往具有一定程度的前后连贯性。也就是说,它也在一定程度上掌握了篇法的规则。此外,它能够有针对性地回应各式提问。虽然这并不表明它理解问话的意义,但至少表明它把握了不同的自然语言之间联结的规则,而通过这样的规则,它就能够针对提问搜集和组织相关的信息(尽管有些信息实际上是错误的)。

  ChatGPT具备人类一般理智所不及的巨大优势。比如,有海量的信息资源,响应速度快,始终专注,永不疲倦。不过,与人类之间的对话相比,它也显示出一些劣势。其一,它没有情感,或者说无法生成情感。至于它反复表明不对个人和单位进行评价,应为训练者所设置的伦理限制。其二,它没有记忆。当使用者启动另一次对话,重新提出上一次对话中的问题时,它依旧会回答错误。当使用者提醒它说上次给过你正确的信息时,它就会回答:非常抱歉,我的记忆只能在当前会话中持续。由于我是一个语言模型,没有记忆功能,也无法知道先前对话的历史记录。其三,它的对话所依据的信息都来自训练截止期之前输入的数据。比如,使用者提问涉及2022年之后的知识和消息,它就会回答:“没有相关的数据,无法回答你的问题。”

  根据以上情形,目前的ChatGPT仅是一种专域的人工智能,与人类智能之间的差异依旧是根本的。就其本身来看,它的信息来自人为的数据输入和训练,并没有真正意义上的学习功能,即自主获取新知识的能力。从根本上来说,它也没有认知功能。它并没有直接学习抽象概念的能力,而是需要大量数据的训练,也无法对概念形成理解,无法形成开放式的推理等。这些都是人类理智的基本能力,而说到底都属于认知能力。虽然它的技术被称为深度学习,但也只是根据一些算法规则以及受训的程度进行类人的推理。认知是人类意识的本质,即使学习也是重新认知的过程,没有认知就没有学习。当然,我们也可以从另一个角度来说,到目前为止的哲学和心理学关于意识或理智的研究都表明,记忆是认知的重要层面,没有记忆也就没有认知。当ChatGPT表示它没有记忆时,也就表明它的设计者承认它没有认知能力。

  ChatGPT对基础研究发展的启示

  ChatGPT的出现,除了人工智能理论和技术上的突破之外,对中国学者、大学和科研机构来说,还产生了特别的冲击效应。从AlphaGo到ChatGPT,人工智能基础理论和技术上的重大进展,大多发生在美国。它们之所以不是首先在中国产生,有一部分原因就在于,国内基础理论和前沿技术的产生环境和条件尚不完备。

  所谓基础理论,从根本上来说是指具有原创性的新理论。人类的科学发现需要基础理论层面新的观点和学说。基础理论并不仅限于自然科学,社会科学、人文学科和技术学科同样是以基础理论为地基支撑起来的上层建筑。不过,重要的是,具有原创性的基础理论、观点和技术,往往来自学者或学术团队的自主探索和创造。这样的活动对精神的自由有着极高的要求,对学术环境的公正性存在高度的敏感性。因此,建立和完善这样的学术环境,才是基础理论研究得以生存、基础理论得以产生的必不可少的基本条件。

  可以看到,举国体制在中国的科技、经济、体育等领域发挥了重要作用,并获得了极大的效益和成果。举国体制基本对现成的基础理论、明确的目标等领域和事业的赶超相当有效,但对于只有大致方向而无明确目标、重在探索和尝试的基础理论研究和前沿技术往往难以奏效。因此,如何在营造具有极大自主性和原创动力的环境和举国体制之间形成某种有效平衡,既是未来中国人工智能的基础理论和前沿技术获得突破的关键,同样也是其他基础理论和前沿技术获得突破的必由之路。

  基础理论和前沿技术的探索、原创和发明,从根本上来说就是一种精神的探险活动,并且要以物质的风险为条件。因此,冒险精神是必要条件。鉴于ChatGPT团队以毕业不久的青年科学家为主,自然就会联想到国内大学的人才培养体制,而后者有不少值得反省的地方。仅从观念的探险精神而论,现在大学的教学方式,尤其是管理方式,在一定程度上是应试教育的延伸。这显然不利于学生独立自主的探索精神的养成,同样不利于学术和思想的探险精神的养成。因此,在保障学生基本权益的前提下,形成有利于从本科生到研究生的学术探索和探险精神的环境,需要大学教学和管理体系的改革,这是一项急迫的任务。

  从长远来看,人工智能的作用将施加于每一个人身上,关乎人类的整体利益和前途。人工智能的理论和技术发展不仅依赖于自然科学和技术学科,同样也需要人文学科和社会科学的参与。进一步说,没有人文学科和社会科学的基础理论突破,也难以取得人工智能的革命性进展。总之,所有基础领域的探索和发明都要以人类关怀为宗旨,因为基础理论和前沿技术不仅事关人类一般理智,亦关涉人类的共同利益和未来。在共同的人类关怀与不同国家竞争之间,可以形成适当的张力而取得合理的平衡。良性的相互竞争能够促进更多的发现和发明,从而更好地造福于全人类。

  (作者系北京大学哲学系教授)

转载请注明来源:中国社会科学网(责编:王晏清)

扫码在手机上查看