以“组织义务”破解AI智能体风险治理难题

2026-09-09 来源:中国社会科学网-中国社会科学报

微信公众号

分享
链接已复制

  随着人工智能(AI)从生成式AI向代理式AI演进,其风险由内容生成扩展至自主决策和任务执行,治理重心需要从规范生成内容进一步转向规范AI智能体行为。当前,AI智能体风险治理的关键是政策的法律化,即完成从政策原则到法律义务的转换,明晰AI智能体的开发者、平台、部署者和终端用户等参与方义务的性质、根据与边界。但风险分类分级、透明告知、人工监督、责任行为可追溯和责任追究等政策性原则,只有转化为具体义务,才能成为行为规范与裁判规范。笼统要求所有参与者“负责任”,既不能说明义务来源,也难以确定违反义务的后果。在开发、集成、部署和应用主体相互分离时,义务可能无法对应实际控制环节,责任则被推诿、转移或集中于末端主体,由此导致“义务与责任漂移”难题。

  何为“组织义务”

  所谓“组织义务”,是指对AI智能体开发、部署或运行作出组织性安排并具有实质控制能力的组织主体,基于其对风险的开启、配置或控制,就内部治理、权限配置、人工监督、运行监测和应急处置所负有的积极作为和合理注意义务。这里的“组织”强调的不是主体形态,而是对AI智能体预期用途、权限范围、交互规则、对外执行方式和人工监督条件所作的安排。当服务提供者决定应用目的、权限范围、交互规则、外部效果和人工控制条件时,其已不再只是中立的技术工具,而是实际主导系统架构、权限配置和风险控制的责任主体,即“数字架构者”。上述要素共同构成应受法律评价的“行动安排”。同一系统分别用于文字润色和重大财产处分时,注意标准显然不同。以具体部署和运行安排作为治理对象,有助于将义务配置与受保护法益及危险来源相联系。

  从法律性质看,组织义务具有预防性、持续性和主体特定性,要求采取与风险相称的合理措施,但不保证损害绝不发生。组织义务可以由行政法规范规定,也可表现为合同义务或侵权法上的注意义务。消极的不侵害义务主要要求行为人不得积极制造损害,而组织义务要求特定主体采取评估、控制、监督和处置等积极作为。理论上,此种积极义务会限制行动自由并增加成本,该义务的成立并不能仅以损害可能发生为由,而应以将风险归属于特定主体控制领域为规范依据。因此,组织义务的主要来源包括法律规定、合同约定、自愿承担和开启危险的先行行为。风险由谁开启、维持和控制,关键环节由谁支配,何者具备相应的专业及防范能力,以及受影响主体是否形成合理信赖,则决定着具体义务的主体和注意标准。

  组织义务的规范逻辑

  在具体制度和纠纷案件中,组织义务可以按照“义务产生—义务内容—义务违反及法律后果”的规范逻辑展开。判断义务是否产生,应查明法律关系、规范依据、保护对象和风险来源;确定义务的内容,需结合风险的可能性与严重程度、可预见性、专业能力、实际控制和防范成本来确定。“谁开发谁负责”等原则只能提示责任环节,不能代替对规范依据、实际控制和义务违反的判断。在具体实践中,模型提供者应承担测试评估、信息说明和风险警示义务;开发者或系统集成者应验证系统与预期用途的适配性;服务提供者和部署者通常承担场景评估及运行管理义务;控制支付、身份认证或设备执行等环节的第三方,应履行与其验证和阻断能力相称的义务。用户越权或明知风险仍不当使用的,也应承担相应责任。

  组织义务可进一步划分为基础义务和高风险场景下的强化义务。基础义务包括AI智能体身份与技术介入告知、权限控制、运行日志留存以及建立投诉和救济机制,不得虚构来源或对系统能力、输出准确性和可靠性作虚假宣传。当涉及生命健康、重大财产处分、人格权益或对个人权益有重大影响的公共管理决策时,还应履行场景评估、来源核验、专业复核、分级授权和人工审批等强化义务。义务分层应以预期用途、风险等级、行为后果和受保护权益为依据。需要强调的是,多方参与并不当然产生共同责任或连带责任。备案、评估或认证不能当然免责,违反管理要求也不必然与具体损害具有法律上的因果关系。

  组织义务的全过程贯穿

  由于AI智能体风险可能在部署、运行和事件处置中逐步形成,组织义务应贯穿全过程。部署前应结合具体用途评估风险,明确禁用场景和禁止行为,遵循最小权限原则,仅授予完成任务所需的数据访问、系统操作和工具调用权限。当涉及生命健康、重大财产处分等难以逆转的高风险事项,概括授权不能代替人的具体决定;当用途、权限或运行环境发生实质变化时,应重新评估。运行中应告知用户AI智能体身份、主要功能、能力边界、数据处理规则和救济渠道;在处理敏感个人信息或作出对个人权益有重大影响的自动化决策时,应依法履行告知、同意等义务。属于现行标识制度调整范围的生成合成内容,应依法添加显式和隐式标识。服务提供者和部署者还应监测目标偏离、越权访问、权限提升和工具滥用等风险,及时预警、提高人工复核层级、限制权限或暂停执行,并留存必要日志,以备审计监管或为举证证明和责任认定提供条件。

  人的最终控制原则需要通过实质有效的人工监督加以落实。监督人员应掌握必要信息,具备相应权限和专业能力,并有足够时间在高风险操作执行或者不可逆后果发生前批准、否决或者接管系统。当风险现实化为损害结果后,相关主体还应及时停止有关功能或行为,保存运行日志和其他证据,删除或者更正违法内容;在技术和法律允许的范围内,采取取消尚未完成的操作、冻结有关账户或交易、纠正错误结果、通知受影响主体等措施,防止损害进一步扩大,并依法履行报告、通知和整改义务。系统是否恢复运行,应当以权限已重新配置、异常原因已查明并消除、必要补救已完成为前提。事后审计不仅用于查明既往责任,也应用于修正组织安排,防止同类风险再次发生。

  总之,AI智能体风险治理无须赋予AI智能体独立法律人格或责任主体资格,关键是将风险归责于具有风险开启或实质控制能力的自然人和组织。以具体部署与运行安排界定治理对象,以规范依据说明义务何以产生,以风险等级和控制能力具体化义务内容,以规范保护目的确定责任范围,构成组织义务的基本法理结构。循此路径,全过程安全管理、透明告知、人工监督和可信输出即可转化为可执行、可监督和可司法审查的法律标准,进而为AI智能体风险治理和健康发展提供清晰的“链式”责任主体框架。

  (作者系大连海事大学校长、教授;辽宁斐然律师事务所律师)

【编辑:张天悦(报纸) 胡子轩(网络)】