中国社会科学网讯(记者 张杰)从屏幕里的虚拟主播到政务大厅的智能向导,从直播间里不间断带货的数字员工到陪伴青少年的情感交互形象,数字虚拟人正以可感可知的形态走进日常生活。近日,国家互联网信息办公室发布《数字虚拟人信息服务管理办法(征求意见稿)》(以下简称《办法》),标志着我国对这一新兴业态的治理迈入全流程、法治化的新阶段。
南开大学法学院副院长、新一代人工智能发展战略研究院特约研究员陈兵在接受记者采访时表示,数字虚拟人产业的健康发展,既需要刚性的制度底线,也需要柔性的伦理引导。唯有在发展中规范、在规范中发展,推动数字虚拟人产业从“技术炫技”转向“价值创造”,在守住安全底线的同时激活创新动能,这一新兴产业才能行稳致远。围绕数字虚拟人产业的相关话题,记者采访了陈兵。
数字虚拟人可灵活适配多场景
中国社会科学网:数字虚拟人具有哪些特性?当前主要应用于哪些领域?在您看来,数字虚拟人产业快速增长背后的驱动因素是什么?哪些行业的应用最值得关注?
陈兵:数字虚拟人是通过计算机图形学、动作捕捉、深度学习等技术构建的数字化人类形象,其核心特性集中体现为三点:其一,强交互性。通过3D建模能够实现逼真视觉呈现,借助语音识别与自然语言处理技术完成智能对话,结合情感计算模块感知用户情绪并调整回应策略。其三,高可控性。其可实现7×24小时不间断工作,培训成本低,能替代人类完成重复性、标准化任务,大幅提升工作效率、具备规模化复制优势。同时其形象、行为可根据需求精准定制,规避真人工作中的不确定性。其三,多场景性。数字虚拟人可灵活适配多场景,既能在虚拟空间开展活动,也能与现实场景融合,并服务于多种场景。
目前已从单一娱乐向全行业渗透:娱乐领域的虚拟偶像、虚拟主播等;服务领域的智能导引可以提供咨询服务;医疗领域投入的数字虚拟人因其强交互性能为青少年提供情感支撑;此外,金融客服、文旅宣传、媒体播报、教育教学等领域也已出现了数字虚拟人。未来,数字虚拟人有望在第一产业农业和第二产业工业领域中得到高效利用。
数字虚拟人产业快速增长,是技术驱动、需求牵引、政策激励的聚合结果。其一,技术突破筑牢产业根基,各类大模型等底层技术迭代,使数字人具备跨语言理解、多任务处理能力,动作捕捉、情感计算等技术的成熟,推动产业规模化发展,使得高质量数字虚拟人的制作成本与周期大幅下降,从“重资产投入”转向“轻量化生成”。其二,市场需求持续释放。在企业层面,企业数字化转型急需降本增效工具,有内生需求推动数字人替代重复性人力工作;在消费层面,用户对沉浸式交互的偏好,激活了虚拟陪伴、数字消费等新兴需求,为产业增长注入动力。其三,政策激励层面,从《“十四五”数字经济发展规划》到工信部等部门发布的《元宇宙产业创新发展三年行动计划》明确支持数字人技术研发,北京、上海、广东等地出台相关政策,做好精准产业引导,加速了行业落地。
在众多应用中,以下几类领域最具观察价值:其一是“虚拟人+政务服务”,这不仅是技术应用,更涉及行政流程重塑与数字公平,其标准化、合规性探索具有社会治理风向标意义;其二是“虚拟人+金融”,金融业对安全性、合规性要求极高,虚拟人在智能投顾、反欺诈、远程身份核验等场景的落地,实质是前沿科技与金融监管规则的深度碰撞,其经验能为高风险场景治理提供范本;其三是“虚拟人+医疗健康”,该应用直接关乎生命健康权,其诊断建议的可靠性边界、健康数据的安全保护、医疗责任的界定等问题最为复杂,是法律、伦理与技术冲突的集中场域,相关规则探索将影响技术应用的伦理底线。其四“虚拟人+教育”,虚拟教师等应用,可实现个性化教学,打破地域限制,推动教育资源均衡配置。当然,这里面也涉及教育伦理、信息安全的问题。
新规传递“技术向善”治理导向
中国社会科学网:在您看来,数字虚拟人在应用过程中存在哪些风险?您如何看待《办法》构建全流程责任框架?
陈兵:技术往往是双刃剑。数字虚拟人在带来便利的同时,也引发了以下主要亟待法律回应的风险:其一是人格权益侵害风险,未经授权使用他人肖像、声音乃至神态习惯制作虚拟人,会构成对肖像权、声音权的侵害。此外,利用信息技术恶意扭曲、污损他人形象生成虚拟人进行侮辱,或利用虚拟人形象从事不符合其人设的失当行为,可能同时侵害名誉权与一般人格权。
其二是数据安全与个人信息保护风险,虚拟人的依赖海量数据塑造,包括用户的交互数据以及所模仿自然人的生物识别信息、行踪信息等敏感个人信息。这些数据在采集、训练、使用过程中,存在被过度收集、泄露、滥用的隐患。例如,虚拟人客服在服务中获取的用户财务信息、健康信息,若保护不力,将直接威胁用户人身财产安全。
其三是内容安全风险,虚拟人可被用于生成和传播虚假信息,进行网络诈骗、诽谤或舆论操纵。深度合成技术制造的虚假音视频,可能用于诽谤或金融欺诈,危害社会秩序。此外,不合格数字人提供诊疗建议、智能荐股等服务,可能危害民众生命财产安全。
其四是特殊群体保护与伦理风险,对未成年人而言,情感交互型虚拟人可能诱发非理性消费、过度情感依赖,干扰其现实社交与人格发展。对老年人而言,则可能成为新型诈骗工具。
《办法》构建的全流程责任框架,是应对行业风险、推动产业法治化发展的关键举措,具有很强的针对性和前瞻性,彰显了“监管护航发展”的治理理念。其最大亮点在于构建了全链条化、精细化的全流程责任框架。这一框架的治理智慧在于其实现了责任主体的精准覆盖,《办法》没有笼统地规定运营者责任,而是创新性地将产业链分解为技术支持者、服务提供者、服务使用者、传播平台四类主体,并分别设定义务,避免了责任虚化或互相推诿。
具体讲,在形象建立阶段,要求未经特定自然人同意,不得使用其肖像、声音等信息建模,明确个人信息处理规范,筑牢人格权益保护底线;在运作管理阶段,强调服务提供者和使用者需共同承担内容审核、应急响应责任,禁止利用数字虚拟人实施违法违规行为;在传播阶段,要求传播平台履行“守门人”职责,建立动态审核机制,及时阻断违规内容传播。尤为值得肯定的是,《办法》提出服务使用者需与服务提供者承担同等责任,这一规定精准破解了以往使用者滥用服务、规避责任的难题,实现了从技术源头、内容生产到传播落地的闭环管理。
同时,《办法》抓住了服务使用者这一关键责任环节,特别强调使用虚拟人向社会公众提供信息服务的组织或个人,必须承担与服务提供者相似的内容管理责任。这直指当前部分商家利用虚拟人违规营销、推卸责任的乱象,实现了“谁实际操控、谁最终负责”的治理穿透。最后,《办法》注重了与现有法律体系的衔接,将《中华人民共和国网络安全法》、《中华人民共和国个人信息保护法》中关于数据安全、算法透明、内容审核、未成年人保护等原则性规定,在虚拟人这一具体场景中进行了操作化、细颗粒度的落实,增强了法律体系的协同性。
此外,该责任框架既划定了安全底线,也为产业创新留足了空间。《办法》在禁止违规行为的同时,鼓励数字虚拟人技术研发和产学研协同,支持其在政务服务、公共管理等领域的示范应用,遵循“以人为本”与“规范与发展并重”原则。这一框架的构建,不仅填补了数字虚拟人领域法治化治理的空白,衔接了我国现有人工智能、算法管理等相关法律法规,更能引导行业从“野蛮生长”向“规范有序”转型,为产业长期健康发展提供了坚实的制度保障,也向社会传递了“技术向善”的治理导向。
构建组合式治理体系
中国社会科学网:数字虚拟人产业的发展呈现出强劲动力,成为我国数字经济的重要引擎。对于平衡技术应用风险与产业发展之间的张力,推动数字虚拟人健康繁荣发展,你有何建议?
陈兵:平衡安全与发展的张力,本质上是寻求鼓励创新与规范秩序的平衡,需要构建一套 “法规底线、标准牵引、技术赋能、多元共治”的组合式治理体系。
首先,推行分类分级的精准监管策略。风险与场景深度绑定,建议监管机构依据虚拟人的应用场景、交互深度、影响范围等因素,建立风险分级目录,对医疗诊断、金融交易等高危场景实行许可制与全程审计,对娱乐、普通客服等中低风险场景侧重事中事后监管与合规指导,避免“一刀切”监管扼杀创新活力。为此,需推动《办法》尽快落地实施,细化各类主体的责任清单、处罚标准,明确数字虚拟人身份标识、授权同意、未成年人保护等具体实施细则,解决当前认定标准模糊、维权困难等问题。同时,完善多部门协同监管机制,由网信部门统筹协调,工信、市场监管、文旅等部门各司其职,针对不同行业应用场景制定差异化监管措施,为产业创新留足空间。
其次,加快“以技术治理技术”的合规能力建设。健全完善的技术安全防控体系,规范数字人建模、训练、应用全流程技术标准,鼓励研发和部署深度伪造检测、AI生成内容标识、交互内容实时审核等监管科技,从技术层面防范虚假宣传、诈骗等乱象。推动在虚拟人服务中嵌入伦理算法,如设置未成年人防沉迷机制、敏感操作确认提示、虚假信息矫正功能等,将部分治理要求内化为技术默认规则。
再者,强化多元共治与行业自律的协作。政府监管应定位于划定底线、纠正失灵;大力发挥行业协会作用,制定细化的技术伦理准则、服务标准合同、争议处理机制;平台企业必须压实主体责任,建立从身份核验、内容审核到投诉处理的全流程内控体系,定期开展合规培训,规范数字人形象设计、内容生产、商业运营等行为,推动“技术向善向上”发展;同时,加强公众数字素养教育,提升全社会对虚拟人风险的辨识与维权能力。此外,也应加强该领域专业人才队伍建设,高校、职业院校可增设数字虚拟人相关专业,培养兼具技术研发、内容创作、合规管理能力的复合型人才,缓解监管部门、产业发展部门以及企业发展中人才短缺困境。
最后,要积极参与并引领相关国际规则对话。数字虚拟人的治理是全球性课题,我国在产业实践与规则探索中已走在前列,应主动将《办法》所体现的全流程责任、分类治理等理念,在国际场合进行交流,参与并推动形成具有广泛共识的国际治理原则与标准,为我国产业全球化发展营造有利的规则环境。
当前,产业正处于从“技术炫技”向“价值创造”转型的关键阶段,需从技术、监管、行业、应用四个维度协同发力,构建“技术赋能、法治护航、行业自律、应用提质”的良性发展生态。为此,需牢牢拧住场景开放和应用创新这个牛鼻子,深挖技术创新应用的价值,在应用中不断规范,以规范促进应用高质量发展。一是聚焦重点场景。推动数字虚拟人与实体经济深度融合,在金融领域优化智能服务,在医疗领域拓展远程诊疗、健康科普,在教育领域打造个性化教学场景,在文旅领域创新宣传模式,通过场景创新释放产业价值。二是平衡好数字虚拟人应用的社会价值和商业价值。推动其在适老助残、应急科普、公益宣传等领域的应用,实现商业价值与社会价值双赢。三是瞄准国际市场提升国际竞争力。推动数字虚拟人技术标准、治理规则的国际高标准规则对接,提升我国数字虚拟人产业的国际竞争力。