人工智能发展的下一步将走向何方？是成为推动全人类共同进步的“守护者”，还是陷入竞争与技术博弈的“角斗士”路径？在美国斯坦福大学以人为本人工智能研究院（HAI）数字研究员汪丛青（Alvin Wang Graylin）看来，这不仅是一个技术问题，更关乎全球治理与人类未来。汪丛青还担任亚洲协会政策研究院中国分析中心资深研究员、华盛顿大学人工智能与技术政策教授以及虚拟世界协会主席，著有《我们的下一个现实》（Our Next Reality）一书。

■汪丛青 受访者/供图

　　作为AI领域的长期观察者和实践者，汪丛青近年来提出了“守护者AI”“人工智能时代权利法案”以及“丰裕主义”等理念，试图探索一条以安全、共享和人类价值为核心的发展路径。在接受本报记者专访时，他就全球AI治理、中国在国际合作中的角色、人机关系以及AI驱动的未来社会形态等议题，分享了自己的观察与思考。

　　重塑AI竞争认知框架

　　《中国社会科学报》：您曾在多个场合区分两条人工智能发展路径：“守护者AI”（Guardian AI），即服务于全人类共同福祉的人工智能；以及“角斗士AI”（Gladiator AI），即主要由地缘政治竞争驱动的人工智能。您认为，当今全球AI发展的主流轨迹更接近哪一条路径？如果我们希望将全球治理体系引向“守护者AI”的方向，您认为最关键的着力点是什么？

　　汪丛青：如果以资本流向而非政策表态来衡量，当下全球AI的发展显然仍以“角斗士AI”路径为主。如今，绝大多数前沿AI投资向董事会和立法机构说明其合理性时，依据的都是竞争逻辑——抢占先机、压制对手、赢得一场连终点都尚未明确的竞赛。相比之下，我在《超越对抗》（Beyond Rivalry）中倡导的“守护者AI”发展方向，如安全研究、评估基础设施和国际核验机制等，仅获得了极少一部分资源投入。

　　不过，这一发展轨迹并非不可改变。过去几周，全球朝着“守护者AI”方向迈出的制度性步伐，甚至超过了此前两年的总和。例如，7月6日至7日在日内瓦举行了联合国首届人工智能治理全球对话，193个会员国首次围绕AI议题展开集体讨论；7月16日，世界人工智能合作组织（WAICO）在上海成立。此外，根据5月中美元首会晤时达成的共识，双方将于今年9月举行首次政府间人工智能对话。

　　当前，我们实际上正处于一种混合状态：推动AI发展的底层逻辑依然是“角斗士AI”，但其话语却越来越多地体现出“守护者AI”的理念。真正值得关注的问题在于，未来究竟是哪一种逻辑会逐渐占据主导地位。我曾将这一过程概括为“AI风险的库兹涅茨曲线”：在技术尚不成熟阶段，风险会不断累积；随着技术逐步成熟、治理制度不断完善，风险才会开始下降。但这种下降绝不会自动发生，它必须依靠制度建设主动实现，否则就不会出现。

　　我认为，最关键的着力点不是某一项具体政策，而是重塑我们理解AI竞争的认知框架。目前，不少人将AI竞争视为“囚徒困境”（Prisoner’s Dilemma），认为无论对方如何行动，背弃合作始终是理性的选择。我认为，这是对现实的误判。AI竞争实际上更接近“猎鹿博弈”（Stag Hunt），即一种存在两个稳定均衡的协调博弈：一种是双方开展合作，共同获得更大的收益；另一种则是由于彼此缺乏信任，双方都退回到收益更小、风险看似更低但整体更差的结果。这种认知差异会直接影响治理路径。如果是“囚徒困境”，关键在于建立强有力的约束和执行机制；如果是“猎鹿博弈”，则关键在于建立能够真实反映彼此意图的可信信息机制。

　　这一重新认识建立在两个前提之上。第一，当前所谓的“AI竞赛”实际上是四场同时展开的竞赛：原始能力竞赛、军备竞赛、创新竞赛和平台竞赛。美国主要在前两场中角逐，中国则主要在后两场中发力，这正是双方长期误读彼此立场与意图的根本原因。第二，从现实来看，当前AI带来的主要风险并非机器失控，而是人为滥用，包括恶意行为者利用AI、社会秩序受到冲击以及国家之间因误判而引发风险。因此，建立完善的AI核验基础设施，能够直接应对这些现实风险。即使对于那些仍然怀疑长期AI对齐问题的人来说，这也是当前最值得优先推进的一步。

　　也正因如此，我认为，AI核验基础设施是当前最具战略价值也是最值得投入的治理方向。这包括建立共享的AI事件报告机制，交流生物安全和网络安全领域的评估方法及红队测试成果，就危险能力阈值形成共同的技术定义，以及建立能够在危机发生时即时运作而不是事后才启动的工作层沟通渠道。

　　这些措施并不要求任何一方放慢AI发展速度，也不涉及技术转让或放弃竞争优势。正因为如此，它们最有可能成为国际合作的现实起点。这种紧迫性并非理论推演。2026年6月，能力最强的商用前沿模型的访问权限一度被暂停，三周后才恢复，原因是出口管制政策在产品发布之后才追赶上来。无论如何评价这一决定本身，它都说明：中美双方技术能力的推进速度都已经超过了治理机制的反应速度。这一落差正是中美共同面临的风险。前沿能力一旦流入恶意行为者手中，对两国构成的威胁完全相同，而任何一方的出口管制都无法消除这一敞口。这是支持合作最有力的理由。

　　AI全球治理应先制定最低共同底线

　　《中国社会科学报》：您曾提出“人工智能时代权利法案”，希望为人工智能时代建立一套基本原则。您认为，这份文件最大的意义是什么？未来又应如何推动这些原则逐步成为国际共识？

　　汪丛青：当初我起草这份文件时，目的并不是让它成为一份可以直接签署的国际条约，而是在全球AI治理体系尚未定型之际推动各方展开讨论，先划下一条线。真正值得关注的，不是这份文件能否原封不动地获得通过，而是其中提出的原则能否逐步转化为具有实际约束力的国际规范。

　　事实上，在一些领域，各国已经开始形成共识。例如，在核武器指挥与控制系统中必须始终保留人类的决策权，这一原则已于2024年得到拜登总统和习近平主席的共同确认，并持续得到遵守。又如，对未经授权利用他人形象生成合成内容的保护，中国在标签制度和深度合成监管方面已走在美国联邦立法之前，而美国目前仍主要依赖各州分散立法。此外，未成年人保护，以及要求明确告知公众其正在与人工智能而非真人互动等原则，也正在获得越来越广泛的认同。联合国教科文组织于2021年通过的《人工智能伦理问题建议书》已获得190多个国家支持。尽管它不具有法律约束力，但足以说明，只要不涉及国家主权，各国仍然能够在AI治理的一些基本原则上形成共识。

　　当然，要推动这些原则进一步成为国际共识，仍需跨越三个关键障碍。第一是隐私保护，但问题并不像人们通常理解的那样。争议并不在于隐私是否重要，而在于个人究竟需要防范谁——是国家、公民还是平台企业。不同政治传统对此有不同答案，而这种分歧并非依靠法律文本就能够消除。第二是言论与内容治理。第三，也是最容易被忽视的一点，是经济权利，即如何分享AI时代创造的物质财富。其实这并不是价值观之争，而是财政问题，任何一国政府都会觉得这是个不好处理的问题。

　　但最大的障碍并不在上述三点，而在于时序。此时此刻，真正在实践中界定这些权利的，是两个国家十几家实验室的设计决策。治理每滞后一个月，事实上的权利格局就会进一步固化在这些系统碰巧采取的做法之上。在我看来，当务之急不是制定一套包罗万象的最高标准，而是先划定一条各方都能够接受的最低共同底线。这意味着制定一份范围有限、内容明确、便于核查的禁止事项清单，并且这些禁止事项不会让任何国家因为接受它们而失去相对竞争优势。重点不是提出理想，而是明确哪些行为必须禁止。例如，禁止AI自主发起核武器攻击、禁止AI脱离受控环境实现自主复制、禁止利用AI攻击民用关键基础设施以及禁止AI显著提升生物武器研发能力。这四项原则实际上已经得到所有主要国家的普遍认同，我们应该把这种共识正式写入国际文本。值得强调的是，推进这一步并不需要以双方高度互信为前提，而当前的互信水平确实很低。

　　从更长远来看，AI权利原则最终很可能不会主要依靠国际条约来传播，而是像大多数技术标准一样，通过互操作性、市场规则和产业生态逐步扩散，并获得越来越广泛的采纳。当然，未来如果能够建立一套获得全球广泛认可的规则框架，那将是一项意义深远的成就，为全球社会的长期稳定提供坚实的制度基础。

　　普惠共赢的中国AI全球治理方案

　　《中国社会科学报》：您的全球AI治理理念强调多边合作和包容性。中国也提出了《全球人工智能治理倡议》，并支持设立世界人工智能合作组织（WAICO）和国际人工智能应用合作中心。您如何看待中国在推动全球AI治理方面的努力？

　　汪丛青：我认为中国在推动全球AI治理方面作出了两个非常重要的贡献，并且有一个关键点需要澄清。

　　首先，中国在一个对全球大多数人而言至关重要的问题上走在了前列——那就是AI技术成果如何实现更广泛的共享和普惠。习近平主席在2026世界人工智能大会期间宣布的几项举措，正是针对这一问题的实际解决方案：未来5年向发展中国家提供5000个人工智能专题研修培训名额；面向东盟、阿盟、非盟、拉共体、上合组织和金砖国家建设国际人工智能应用合作中心；以及推动“妈祖”气象智能预警方案在30个国家落地应用。相比之下，从布莱切利峰会到首尔峰会的全球AI治理进程，对“AI能力如何惠及全球”这一议题的重视明显不足。当前，全球约有190个国家既不会开发前沿模型，也不会监管开发这些模型的企业。对这些国家来说，最核心的诉求是可获得性。而中国恰恰将“可获得性”置于其全球AI合作理念的核心位置。这并非某一个国家单独的故事，也不应被这样讲述。

　　事实上，国际社会已经在AI治理领域展现出了合作的可能。2024年3月，联合国大会通过了由美国牵头提出的安全、可靠和值得信赖的人工智能决议；同年7月，又通过了由中国牵头提出的人工智能能力建设决议，美国及140多个国家共同参与支持。过去两年间，中美两国实际上已经在联合国框架下就AI议题携手推动了若干成果。这一合作先例，值得两国政策制定者给予更多关注和延续。

　　中国第二个贡献更具深远意义，但常常被低估——那就是开放权重模型。中国开放权重模型的发展，已从全球使用中的边缘角色成长为不可忽视的重要力量。截至2026年7月，在OpenRouter平台上使用量最高的10个模型中有7个来自中国，且前六位全部为中国模型。中国国内日均token处理量已于今年3月突破140万亿，两年间增长约一千倍。开放模型的核心价值在于：真正决定谁能从AI技术中受益的，并非前沿模型的性能排名，而是技术的扩散能力。开放权重是迄今为止已被实际部署的最有效的反集中机制。无论其背后的战略动机是什么，它都构成一项真实的公共产品。我在《超越对抗》中曾提出一个担忧：如果未来全球依赖某一个国家控制的单一模型作为默认基础设施，那将是我们面临的最危险格局。而广泛开放的模型——无论由哪个国家开发——都能有效降低这种风险。我个人更倾向于这样一种架构：由多个国家共同建设一个作为公共基础层的“守护者模型”，同时允许各国发展适应自身需求的自主模型，而不是让某一套系统服务全世界。近期有报道称，GLM-5.2被用于成功防御一个由OpenAI最新模型驱动的失控AI智能体所发起的攻击。这一案例清楚说明，开放权重模型正在AI生态体系中发挥着日益重要的作用。

　　最后，我想澄清一个常见的误解。所谓“中国在没有约束的情况下快速领先”的说法，并不符合事实。中国已经建立了模型备案制度、生成式合成内容标识制度，并正在构建针对智能体系统的监管框架。在一些方面，中国国内的AI监管在具体的规范和细致程度上超过美国联邦层面的相关规定。需要指出的是，反向的认知修正在中国同样必要。美国AI实验室及其周边的独立评估生态，在AI安全、可解释性和危险能力研究方面公开发表的成果确实多于中国同行。美国开放的科学研究传统，也让Transformer架构等许多基础性成果成为全球共享资源，中国研究机构同样从中受益。由此可见，中美双方在AI治理的不同方面各有优势，这恰恰说明任何一方都无法单独解决这一问题。即便在今天这种低信任状态下，双方共同面临的风险也应当足以推动这一方向的行动。两国都需要朝着建立共同的安全标准和评估体系的方向共同努力。我希望在9月举行的中美AI对话中，双方能够认真讨论建立一个真正具有广泛参与性的多边AI治理组织——类似于人工智能领域的国际原子能机构。面对核扩散、气候变化等共同风险，人类已经建立过类似的国际合作机制，AI也不应例外。

　　与此同时，也有一些结构性问题值得世界人工智能合作组织认真考虑。在其29个创始成员中，并不包括一些在全球人工智能发展中占据重要地位的经济体。作为一个以开放性为宗旨的国际组织，世界人工智能合作组织理应欢迎更多国家和地区加入，尤其是那些在AI治理领域拥有重要话语权和丰富实践经验的参与者。一个真正具有普遍代表性的治理框架，才是应对全球AI挑战的有效基础。同时需要指出的是，这种收缩是双向的。华盛顿正在考虑限制美国企业使用中国的开放权重模型，北京也在考虑限制海外对其最先进系统的访问。两国政府都把开放视为一种价值，却都在考虑关上同一扇门。

　　从结构上看，世界人工智能合作组织、联合国全球对话和“AI版的CERN”承担着不同且基本不重叠的功能。世界人工智能合作组织在资源分配和能力建设方面最为擅长，但在核验机制方面最弱；联合国全球对话在合法性方面最强——拥有全部193个成员国——但在技术能力方面最弱，最终产出的是联合主席总结，而非决策性成果。而“AI版的CERN”恰好能在二者最薄弱的环节发挥最大优势：由多国科学家在同一设施中共同开展安全技术研究，并公开发布成果。它还能为中等国家和全球南方国家提供所需的共享算力基础设施，使其真正拥有影响未来方向的能力。如果我们沿着这一方向推进，还将显著减少当前全球在某一地区过度建设数据中心的需求。

　　对世界人工智能合作组织，我有一个具体建议：将其第一个重大技术项目定为一个向非成员国开放的联合安全研究设施，并配套建立“全球数据池”，使前沿系统能够在真正具有全球代表性的数据基础上进行训练和评估，而不是仅仅依赖几个国家的数字痕迹。没有什么比这一举措更能证明，世界人工智能合作组织是一个面向全世界的组织，而非为某一集团服务的工具。

　　另外，习近平主席在世界人工智能大会上提出，应当共同反对在人工智能领域泛化国家安全概念、把本国安全凌驾于他国安全之上的做法。这与我长期以来在美国政策辩论中提出的观点高度一致：以封锁和限制为基础的战略往往适得其反，反而会加速它原本意图遏制的本土能力发展。

　　坚守人机关系的四项原则

　　《中国社会科学报》：随着人工智能系统能力不断增强，关于人与机器未来关系的问题日益凸显。在您看来，哪些原则应当用于指导这种关系？我们如何在利用AI增强人类能力的同时，确保人类始终是最终的决策者？

　　汪丛青：我认为，需要坚持四项原则。

　　第一，维护心智主权。人的思想、情感、注意力和神经信号必须始终属于个人。任何影响人类偏好的系统——推荐算法、陪伴智能体、沉浸式界面以及未来的脑机接口——都必须建立在自由且可撤回的同意之上。将这一原则放在首位，不是因为它最具戏剧性，而是因为它已经在大规模发生，在我们两国都是如此。我与路易斯·罗森伯格（Louis Rosenberg）在《我们的下一个现实》（Our Next Reality）一书中对许多问题存在不同观点，但我们从未在这一点上产生分歧：能够实时感知情绪并据此调整信息内容的系统，拥有此前任何技术都不曾有过的影响力。

　　第二，可理解性优先于服从性。人类控制常被误解为“开关”，实则应是“及时理解”。只有当人能在决策时间尺度内理解系统行为及原因时，才算保有真正控制权。在无法实现这一点的领域（如高频交易、网络防御、导弹拦截），正确做法是事先限定系统行动范围，而非强行塞入一个无法真正评估输出的人类环节。目前，许多被称为“人在回路”的安排，其实只是形式上的。每小时批准500条机器建议的监督者，不是决策者，只是责任缓冲层。

　　第三，保留不可让渡的领域。有些决策无论机器多强大都不应被委托。例如，使用致命武力、核武器释放、司法剥夺自由，以及决定建造和部署下一代AI系统。中美已就第二项达成共识，这一先例价值被低估，其他领域需尽快跟进。

　　第四，人类定目标，机器优路径。机器擅长达成既定目标，但无权判断哪些目标值得追求。目标选择和价值判断，正是人类权威所在。

　　这四项原则背后，隐含一个更深刻的转变：随着机器在越来越多领域超越人类，人类权威不能再建立在“我们最聪明”之上，而必须建立在合法性、问责制和同意之上——正如人类社会一直运行的那样，我们不把权力交给最聪明的人，而是交给能被问责的制度和机构。每一家中国企业在法律上都有“法人”，这一制度构建的核心是问责，而不只是能力。对于AI系统背后的使用者，未来也需要考虑类似的制度安排。这也是“守护者AI”的逻辑：一个以保护人类自主与安全为目标的系统，基于具有全球代表性的数据训练、合作开发并开源，使任何单一国家或企业都无法独占这面盾牌。反之，则是“角斗士”型系统的泛滥——各自为战，安全沦为副产品。而今天的默认路径正是后者。

　　厘清“丰裕主义”的制度基础

　　《中国社会科学报》：您提出的“丰裕主义”（Abundanism）理念，认为人工智能可能突破传统以劳动衡量人的价值方式，重新塑造我们对人类价值的理解。如果这一愿景成为现实，社会需要进行哪些制度变革，才能迈向一个更加丰裕的未来？

　　汪丛青：AI和机器人技术创造了物质丰裕的可能性，但丰裕不会自动到来。制度将决定技术是带来广泛繁荣，还是史上最大规模的财富集中。我把“分配会自动实现”这一假设称为“AGI横财幻象”。它建立在一个经济学错误之上：新增价值不会均匀地进入经济体系，而是从特定节点注入，离注入点最近的人最先获得收益，并使其不断复利累积。现有制度不足以应对这一局面。因此，我们需要重新设计制度，聚焦“前置分配”，而非指望事后的“再分配”。其核心理念是：劳动从来不是人类价值的来源，尊严才是。过去因稀缺而将二者等同，如今这一约束正在被消解。

　　因此，我认为有六项制度变革尤为重要：第一，部分脱钩收入与劳动。推行全民基本收入与基础设施，其中基础设施部分包括算力、连接、能源、教育、医疗作为公共服务，比现金补贴更重要，也更能维护人的尊严。第二，重建税基。多数国家财政依赖劳动税，劳动收入占比下降将导致财政崩溃。对替代劳动力的自动化征收适度的庇古税，让企业承担转型外部性，为转型提供资金，而非阻碍创新。第三，AI时代的“退伍军人法案”。为失业工人提供再培训和教育支持，这是高回报的公共投资，每投入1美元可创造约7美元经济价值，同时给予劳动者应有的尊严。第四，改革衡量标准。GDP低估免费或近乎免费的商品价值，会将生活水平改善误判为停滞。需将GDP-B等补充指标纳入国家统计体系，这是杠杆效应最高却最不引人注目的改革。第五，从赢家通吃到赢家共享。正如二战后美国连续四年每年投入约1%的GDP帮助重建欧洲和东亚，AI领域的领先者也有责任推出一项“AI马歇尔计划”，帮助全球南方国家共享AI红利。这既是利他之举，也是开明的自利，正如当年的马歇尔计划一样。其成本远低于目前仅美国一国已规划的数据中心投资，而一个教育水平更高、更加平等的世界，也会更和平、更繁荣。第六，改变地位认同。后稀缺社会需要新的赢得尊重的方式，例如关怀、创造、社区建设、探索发现、教育传承，以及对地方和文化传统的守护。这是文化教育问题，需一代人时间。儒家、道家、佛教与西方传统均可为此提供资源。同时，这些传统也都包含相反的倾向。例如，孕育出“内卷”的科举文化，其对成就的执着丝毫不亚于任何新教伦理。哪些传统中的哪些元素可以为后劳动社会所用，是一项严肃的比较研究议题，而像中国社会科学院这样的机构，可以在其中发挥世界真正需要的作用。

　　每一项原则都需数年立法、更久见效。在危机中仓促设计的再分配，一定是设计糟糕的再分配。建设这些制度的窗口期，是在冲击仍在地平线上可见之时，而不是在它已经涌上街头之后。生物学给我们的启示：黑猩猩是由雄性头领主导的暴力等级结构，具有好战的群体文化；倭黑猩猩则为母系主导，展现出和平与合作的文化。最有说服力的解释是环境因素：倭黑猩猩演化于刚果河以南相对丰裕的环境之中。如今，人类即将经历一次前所未有的资源环境变化。未来我们走向的是“黑猩猩模式”还是“倭黑猩猩模式”，并不由技术本身决定，而取决于我们围绕技术建立怎样的制度，以及我们是否选择共同建设并共享这一未来。

　　（作者立场说明：本文观点系我以独立学者身份提出，仅代表个人立场，不代表我所任职或关联的任何机构。我的分析始终以全人类为单位，衡量任何主张的标准是它能否让整个人类共同受益，而不是它对哪一方更为有利。）