人工智能辅助科研,边界在哪里

——国际学术界的多元规范探索

2026-08-20 来源:中国社会科学网-中国社会科学报

微信公众号

分享
链接已复制

  不久前,中国社会科学院发布了《人工智能辅助科研基本规范(试行)》(以下简称“中国社科院规范”),受到广泛关注。这份文件的意义不仅在于它是中国哲学社会科学领域首套系统性的人工智能辅助科研行为准则,更在于它独特的架构——37条实操条款划定人工智能应用边界,11类细分场景规定适用范围,10条刚性“禁用红线”设置硬性约束。在全球人工智能科研治理版图中,这种治理模式具有极高的辨识度。

  这种模式能否应对人工智能发展带来的挑战?自上而下的规范与自下而上的实践如何有效衔接?普适性的学术诚信底线与因地制宜的操作细则之间,是否存在一条可以兼容的中间道路?围绕这些问题,本报记者采访了相关学者。

  修正学术界长期存在的讨论失衡

  中国社科院规范将抽象原则转化为可操作、可判定的具体条款。从选题研判、研究设计到知识梳理,从数据采集到文献整理,中国社科院规范为人工智能介入科研的各个环节设定了细致的使用边界和披露要求。

  丹麦哥本哈根大学生物科学创新法高等研究中心助理教授塞巴斯蒂安·波尔斯达姆·曼恩(Sebastian Porsdam Mann)在接受本报记者采访时表示,他印象最深刻的是中国社科院规范对跨学科研究的定位:将跨学科研究本身视作合规的应用场景,而不是局限在特定学科,并配套设立了专门的“人工智能+学科”扶持机制。

  “据我所知,全球几乎没有同类文件做到这一点。”波尔斯达姆·曼恩说,大语言模型的训练素材几乎覆盖所有学科,是具备跨领域研究能力的科研工具,大幅降低了深度跨学科研究的门槛。而人工智能伦理与治理领域最难解决的问题,恰恰需要融合多学科视角才能破解。

  “放眼全球绝大部分地区,人们都把人工智能辅助科研局限在自然科学范畴进行讨论。据我所知,中国社科院规范是人文社会科学领域首套体系完整的制度规范,修正了全球学界长期存在的讨论失衡问题。”波尔斯达姆·曼恩说。

  治理路径分野

  中国社科院规范在当下节点划出了尽可能清晰的“红线”与“可用清单”。近年来,国际上的相关规范更倾向于采用“说明书”模式,即提供详尽的使用场景分类和操作指引,并将更多裁量权下放给各学科、各期刊乃至一线学者。

  2025年9月,国际科学、技术与医学出版商协会发布《论文撰写过程中人工智能使用的分类建议》,将人工智能在学术论文撰写过程中的应用场景细分为九大类,涵盖语言润色、内容撰写、翻译、数据可视化、图表生成、代码格式化、参考文献收集等环节。该协会建议出版机构围绕四个问题作出决策:是否允许使用?是否需在投稿阶段发表声明?是否需在文章中注明?是否需向作者提供具体指导?

  这种“说明书”模式承认学科差异:同一项人工智能应用,在理工科和人文社科领域的“可接受度”可能截然不同。新加坡国立大学生物医学伦理研究中心副教授、牛津大学—新加坡国立大学神经伦理与社会研究中心主任布莱恩·戴维·伊尔普(Brian David Earp)对本报记者表示,各国、各学科对人工智能应用的态度差异十分明显,“我的中国同行整体对人工智能科研工具接受度更高,部分欧洲学者则更为保守;在学科层面,理工科研究者普遍更认可人工智能,人文社科领域学者则大多持谨慎态度”。

  国际科学、技术与医学出版商协会试图在普遍性原则与具体实践之间建立起弹性连接,但可能因此带来更高的执行与解释成本,以及更显著的跨学科、跨地域规范差异。对此,波尔斯达姆·曼恩表示:“理想状态下,细分规范应由各学科、细分研究领域单独制定,因为人工智能的使用范围、披露要求、修改边界等标准,会因学科不同而产生巨大差异;一线学科从业者最有资格制定适配本领域的细则。”

  高校和研究机构也是制定具体操作规范的最活跃主体之一。它们的规则通常直接面向师生和科研人员,并落实到可执行、可追责的条款层面。例如,加拿大多伦多大学研究生院发布的人工智能使用指南要求该校研究生在使用人工智能工具前,必须获得导师和评审委员会的书面批准,未经授权使用将被视为学术不端行为,同时要求在学术作品中对人工智能使用给出清晰完整的说明和引用。这一规定将审批程序前置,把人工智能使用从“事后披露”升级为“事前授权”,对制度执行力的要求更高,标准也更为严格。

  使用者承担如实披露责任成为共识

  中国社科院规范的首要原则“人主智辅”规定:“人工智能生成的相关内容须经使用者最终审定,由使用者负责。”国际学术界在这一点上已形成高度共识。国际出版伦理委员会在其立场声明中明确:人工智能不能被列为作者,作者对稿件内容(包括人工智能生成部分)承担全部责任。这一立场与《美国心理协会格式手册》《现代语言协会格式手册》《芝加哥格式手册》等国际主流引用体系的规定一致。《自然》《科学》等知名期刊以及威利出版社的指南也持相同立场。

  伊尔普说:“无论研究者使用商用通用大模型,还是定制、个性化大模型辅助研究,都必须完整核验模型输出内容,保证成果符合学术标准,这一责任不能豁免。”

  当前,人工智能生成虚假参考文献(“幻觉引文”)已成为令人头疼的问题,部分论文甚至出现了10—15条文献的出处完全由人工智能编造的情况。尽管有关规范普遍要求研究者承担内容(包括参考文献)核验义务并对人工智能使用做出完整披露,但当“幻觉引文”已经混入学术记录,责任归属该如何确定?

  波尔斯达姆·曼恩给出了明确的回答:“核心责任必须由科研人员承担。归根结底,是科研人员本人为成果署名、享有研究带来的学术声誉,因此科研人员也必须对内容的真实性负责,这是署名带来的必然义务。”

  伊尔普对此表达了同样明确的立场:“只要署上自己的姓名投稿,就必须为未尽核查义务承担全部过错责任。”

  但波尔斯达姆·曼恩并不主张为“幻觉引文”单独设立一类违规定性。“大语言模型问世前,学术界早已存在大量引文错误问题:引用已撤稿文献、文献论点无法支撑自身论述等各类差错层出不穷,彼时不合格引文占比就已达到两位数。”在他看来,参考文献的核心作用是佐证论点、支撑整篇研究的可信度。而判定引文是否达到可信标准,各学科尺度不一,最终应由各学科自行界定。

  在波尔斯达姆·曼恩看来,关键判断标准在于:研究者投稿署名前,是否履行了所属学科要求的核查义务。一处疏漏属于可修正的普通差错,五六处虚假引用则说明研究者几乎未进行核查,“现有规范中针对草率研究、重大疏忽的条款完全可以覆盖”。他建议,明确简化各学科核查标准,无心失误只做更正处理,对蓄意造假和极度草率的行为才认定为学术不端。“如果只是出现一处引文错误就大肆追责,只会迫使研究者放弃本可合规使用的人工智能工具,或继续隐瞒工具使用行为。”

  “如实披露”是中国社科院规范对人工智能辅助科研的刚性要求,国际出版伦理委员会同样强调,使用人工智能工具撰写论文、生成图像或收集分析数据的作者,必须在论文的研究方法部分披露人工智能工具的使用方式。“透明”已成为大部分人工智能使用指南或规范划定的底线之一。然而,《柳叶刀》副主编萨宾娜·克莱纳特(Sabine Kleinert)曾坦言,该期刊通过复选框收集人工智能使用声明,但声明使用了人工智能的论文仅占投稿论文总量的7%,这与估算的50%以上使用率严重不符。

  波尔斯达姆·曼恩以其所在领域为例表示,在2024年20本高引用生命伦理学期刊总计1808篇论文中,仅有12篇提及使用生成式人工智能,占比不足1%;但据各类调研估算,实际使用此类工具的比例要高得多。

  他认为,当下学术界对生成式人工智能的使用存在污名化倾向,即便合理使用,主动披露人工智能工具使用情况也会使科研人员受到负面影响,这就导致科研人员普遍刻意隐瞒相关使用行为。

  合理运用而非过度依赖人工智能

  中国社科院规范明确界定了人工智能在科研中的角色:“科研工作者是学术思考、科研实践和理论创新的主体,人工智能是重要的科研辅助工具。”这一立场与国际主流出版机构的思路基本一致。威利出版社的指南鼓励将人工智能视为“初级研究助理”,强调人类仍需进行“迭代指导”和结果验证。但克莱纳特警告,过度依赖人工智能会使下一代科研人员面临巨大的“去技能化”风险,尤其是丧失批判性思维和基础研究能力。

  波尔斯达姆·曼恩对此持一种务实态度。他认为,资深研究者掌握新工具的同时本就会弱化部分旧技能。例如,课题负责人不会再亲手做每一项数据分析,而是会把更多精力放在统筹、评价、优化研究工作上。“学术界从未将其视作负面问题,人工智能带来的技能迭代也理应被如此看待。”但青年科研人员的处境截然不同。“导师所需具备的专业判断力,只能依靠亲身实操积累;如果博士研究生、青年学者过早把全部工作交由人工智能完成,将永远无法建立独立判断能力。”

  波尔斯达姆·曼恩区分了两种使用方式:“人工智能既可以单纯承接事务性工作,也能扮演提问者、授课导师、研讨伙伴的角色。用人工智能反思自身预设、拓展新知、打磨论证逻辑的科研人员,思辨能力只会不断精进;全权交给人工智能的人,才会出现能力滑坡。”因此,教学层面的约束机制效果最佳。合理运用人工智能开展科研本身就是一项专业技能,应当和其他学术能力一样,被纳入课程教学、导师监督与实操训练范畴。工具设计层面也可配套优化,定制化模型实验已经证实,完全能开发出强化而非消解科研人员独立思考与表达能力的人工智能产品。

  中国社科院规范提出,“支持创建人工智能辅助哲学社会科学研究的课程体系和教材体系,培育兼具人文素养与智能技术能力的复合型人才”。波尔斯达姆·曼恩表示,这项条款“精准切中要害,我也主张将其作为监管落地的核心抓手”。

  “科学权”框架与普适性争议

  波尔斯达姆·曼恩围绕“科学权”展开的研究,为人工智能治理提供了一套独特的规范分析框架。在他看来,人工智能科研准则中存在放之四海而皆准的核心价值:开放科学的诚信底线、科研探索自由、平等参与科研的渠道。他解释道:“人类在财富、医疗、教育等几乎所有关键领域的进步,根源都来自科学技术(此处的‘科学’泛指全学科以探寻真相为目标而开展的严谨研究,人文社会科学领域内一切求真探索都包含在内)。科研成果的红利应当由全社会以及所有国家和地区共享,而非被掌握技术的少数群体垄断。”

  基于这套理论,波尔斯达姆·曼恩对各国监管差异给出了判断:“底线之上,落地细则需要因地制宜,各学科需要自主界定本领域合格核验、工具披露的具体标准。”他用这套标准评判中国社科院规范:“文件明确研究者为第一责任主体,是完全正确的出发点;所有配套细则的评判标准,都要看其能否守住学术诚信底线,同时不损害推动进步所需的科研自由与平等参与权。”

  伊尔普则从更务实的角度看待普适性与地域性的平衡。他认为,科研领域确实存在公认的基础准则,如“如实呈现研究数据”。但“各国、各学科对人工智能应用的态度差异十分显著”,跨学科、跨科研文化、跨国界的规范协调矛盾“在未来一定会长期存在”。

  在人工智能深度嵌入科研已成定局的今天,全球治理的共同挑战正在浮现:如何在守住“人工智能不能署名、人类必须担责”这条底线的基础上,发展出既能有效指导实践,又不会被飞速迭代的技术轻易甩在身后的规范体系?未来的答案或许不在于某一种模式的独行,而在于多元思路的对话与融合。

  中国社会科学报记者 陈密容

【编辑:姚晓丹(报纸)赛音(网络)】