司法错误链式扩散的成因及预防

2026-06-09 来源:中国社会科学网-中国社会科学报

微信公众号

分享
链接已复制

  近日,四川某基层法院在一则公告中援引了由人工智能虚构的“《中华人民共和国印章管理办法》”。这一现实中并不存在的“空气法”,竟被全国三十余家法院、检察院在正式司法文书中相继援引、层层背书,长达七年未被发现和纠正,成为智能时代司法实践中极具典型性和警示性的公共事件。此类由源头单点错误引发,经多层级司法主体未经实质审核便机械转发、批量套用,最终演变为跨区域、规模化司法失范的现象,可概括为司法错误链式扩散。其危害不容忽视:虚假信息进入司法程序,违背了“以事实为根据、以法律为准绳”的基本准则,直接导致文书失实、裁判依据错误,既损害当事人合法权益,也在一定程度上影响了司法公信力。对此问题,必须引起各方重视并积极加以应对。

  司法错误链式扩散的多维成因

  这一看似荒诞的司法事件,显然不能简单归因于偶然的技术误用或个别人员疏忽,其背后反映出人工智能深度嵌入司法场域带来的多重治理隐患。对此,可从技术、制度和认知心理三个维度展开分析,以厘清成因,方能靶向治理,确保现代司法文明在数字化转型中行稳致远。

  第一,技术局限是重要诱因之一。必须承认,人工智能、大数据等信息技术在司法领域的应用,显著提升了办案效率。尤其在类案精准检索、证据梳理、庭审记录、裁判参考以及文书辅助生成等多个环节,均发挥了重要作用,不仅缩短了案件办理周期,也推动了司法公正与便民服务同步提升。因而无论怎样,我们都应积极拥抱智慧司法建设。然而,人工智能固有的“算法黑箱”“数据偏见”“裁量缺位”“模型幻觉”等问题依然存在。这些技术局限导致生成的虚假法条或判例,在专业表述、行文格式和逻辑结构上与真实法律规范高度相似,迷惑性较强,仅凭常规形式审查往往难以辨别真伪。本次事件即是如此,这种迷惑性使得司法人员误以为那是真实有效的规范性文件。这正是模型幻觉与算法不可解释性共同作用的结果。当前学术界与实务界对此的讨论,主要聚焦于算法透明度不足、模型准确率有待提升等问题,可谓抓住了问题的实质。

  第二,制度机制因素是核心成因。我国当前司法领域“诉讼爆炸”“案多人少”的矛盾较为突出,案件数量快速增长与司法资源相对短缺的压力长期并存。为缓解这一矛盾,首先,国家大力推进智慧法院和司法信息化建设,人工智能因此被寄予厚望。然而,技术应用若缺乏边界,则容易导致司法改革重心偏移,在一定程度上弱化体制机制改革这一“硬骨头”,使得人工智能的价值定位悄然异化——从辅助法官公正办案的“工具”,异化为服务科层管控、应付绩效考核的“目的”。其次,量化考核的推行,无疑让本就存在的问题进一步叠加。量化考核的本意是规范办案流程、提升审判质效。然而,过度倚重该量化考核模式,尤其是结案率、人均结案数等效率指标权重较大的话,则容易形成“重形式、轻实质”的办案倾向,实质审查空间受到挤压;最后,科层治理模式内在的管理逻辑进一步放大了这一风险:其偏重形式审核、强调流程闭环与程序规整的特征,使得司法文书层级审查多聚焦于格式规范和形式要件,而对裁判依据的真实性、合法性等实质内容核验相对薄弱,从而为虚假法律信息在系统内链式传播提供了制度通道。本次荒诞事件正是这一制度机制缺陷的集中体现:AI生成的“空气法”因表述高度规范、格式完全符合模板而被迅速纳入办案系统,初审法官因时间压力和效率考核需求,未作深入实质核验即予引用,后续层级审查也因侧重形式合规而未能发现问题,导致虚假规范在多起案件中被连锁适用,最终形成司法错误链式反应,这充分说明制度优化已刻不容缓。

  第三,人机协同中的认知心理偏差加剧了扩散。司法工作本质上是一项高认知负荷的专业活动。在案件数量持续攀升、办案时限较为紧迫的现实背景下,人机协同虽能有效分担事务性压力,但也可能增加司法人员的整体认知负荷。心理学与人机交互领域的实证研究显示,认知负荷较高时,容易滋生“自动化偏见”和“自动化自满”现象,即习惯性依赖智能系统输出,选择认知捷径,放松审慎审查义务。具体表现为:司法人员在长期使用网络检索、智能办案系统和现成文书模板的过程中,易形成路径依赖,默认机器生成结果具有较高权威性,从而在引用法条或文献时,弱化对法条溯源、效力核验、原文比对等实质审查。此次“空气法”事件在一定程度上反映了这一认知心理偏差的影响,值得各方高度重视。

  司法错误链式扩散的预防策略

  显然,要有效解决这一问题,必须从技术、体制与职业伦理等多方面着手,在法律共同体内部建立一套适应数字化时代需要的“技术—法律美德”体系。

  第一,推进技术迭代升级。技术迭代发展应以“可解释、高精准、强可控”为核心导向,在充分发挥人工智能提升司法效率优势的同时,着力破解算法黑箱、数据偏见、模型幻觉等局限。可通过构建可解释性AI司法模型、建立算法备案与全流程溯源机制,提升算法透明度;通过拓宽权威司法数据来源、强化数据清洗与去偏见处理、搭建实时更新平台,优化训练数据体系;同时构建多维度虚假信息识别预警系统,提升模型对幻觉现象的防控能力。此外,还需完善全流程、多层次的技术监管体系,推动技术优化与制度保障协同,实现技术赋能与风险防控的动态平衡。需要强调的是,技术迭代虽然重要,但本次事件表明,单纯依赖技术升级难以根治问题,必须与制度和人文因素有机结合。

  第二,深化体制机制改革。此次事件从根本上反映出技术滥用背后的制度问题。需从源头抓起,压实审核责任,锤炼严实作风,堵塞流程漏洞。首先,应遵循司法规律,继续优化量化考核机制。最高人民法院近期精简审判质量管理指标的举措方向正确,措施有力,未来可进一步合理降低单纯效率指标权重,适当提升裁判文书说理质量、事实查证深度、社会效果等质量指标比重。其次,要持续优化司法资源配置。通过健全繁简分流机制、推行类案集中办理、深化司法辅助事务社会化改革等措施,科学统筹审判力量与办案任务,为一线司法人员有效减负。最后,重建权责统一机制,强化刚性问责。明确人工智能工具的辅助定位,建立健全“人在环中”的治理原则,强制司法人员通过权威法律数据库核验AI生成内容并留存记录;推行AI生成内容强制标注制度,对因使用AI导致的虚假信息适用视同失职,依法依规追究直接责任,筑牢司法责任防线,从根本上减少形式主义倾向。

  第三,加强技术祛魅与职业伦理重构。“空气法”事件的发生,也暴露出部分司法人员在人机协同中对技术权威的认知偏差:误把“可搜索性”“可复制性”等机器生成的概率拼图,当成了不可挑战的“有效法源”。必须引导司法人员正确认识技术的角色定位:人工智能是法律检索、文书模板、案例比对等的辅助工具,绝非法律解释、效力认定与裁判论证的替代主体。其输出结果仅供参考,不具有天然的法理正当性和规范约束力,不能跳过规范甄别、法理分析和价值衡量等关键环节,而直接作为裁判依据。在此基础上,要同步推进司法职业伦理重构,重申法律人的专业审慎义务与真实性底线,塑造对机器输出保持批判性怀疑的职业习惯,培养独立判断能力和求真品格,回归以规范文本为根基、以法理逻辑为内核、以个案正义为导向的司法本真。只有这样,才能从认知和伦理层面有效破解盲从机器的倾向,重塑数字时代司法人员应有的专业能力、认知美德和职业品格。

  总之,智慧司法是时代发展的大势所趋,但必须始终坚持“技术为辅、人工为主”的基本原则。通过技术迭代、制度完善与职业伦理重构等的有机结合,让人工智能在法治轨道上更好服务司法公正,避免类似事件再次发生,不断提升司法公信力,维护社会公平正义。

  (作者系吉林大学理论法学研究中心主任、教授)

【编辑:王博(报纸)赛音(网络)】