智能技术的飞速发展,尤其是自然语言处理、深度学习和大数据分析等技术的突破,重新定义了人机交互的边界。作为网络空间中的重要智能体,社交机器人的作用和形态发生了根本性变化。因具备多模态数据处理和复杂语义理解能力,社交机器人不仅能生产个性化的信息内容,还能基于对真实用户社交数据的分析,从情感层面引导用户反应,影响公众的态度和决策行为。技术迭代推动着社交机器人从信息中介转变为认知干预主体,使利用机器人账户干预舆论发展成为可能。
已深度介入信息传播全流程
社交机器人已深度介入信息传播全流程。早在2014年美国证券交易委员会的一项报告就揭示,X(Twitter)中有超过2300万的活跃账户是社交机器人。这些机器人账户具有高度的拟人化特征,且活动更频繁、行为更主动、情绪更突出,在社交网络中扮演着更加活跃的主体角色。通过高频点赞、评论互动等多种方式,它们与真人用户建立连接,形成广泛的集群网络,深度嵌入社交网络,在信息扩散和舆论发展的不同阶段影响着公众对事件的认知态度与行为决策。
在信息生产环节,社交机器人通过深度伪造和情绪化叙事策略制造信息混乱,操控信息的传播路径与效果。首先,基于先进的自然语言处理技术,社交机器人能够模仿多种语言风格、语气及情感表达,生成符合特定情境和情感倾向的内容。普通用户难以从文本表征中对人工创作与机器生成的内容进行区分,大大加剧了信息的伪装性和传播的隐蔽性。其次,社交机器人能够将文字、声音和图像等多模态内容融合在一起,生成高度逼真的信息,借助生成对抗网络等技术,迭代出更高质量的图像、音频和视频,从而提升传播效果。这些多模态内容不仅增加了信息的吸引力,也使得事实核查变得更加困难。受众在面对虚假信息时,往往无法轻易识别其真伪。此外,与传统新闻行业秉持客观、中立立场不同,社交机器人账户积极运用情绪化叙事策略来操控信息的传播和公众的情感反应。通过情绪传染和情感共鸣,它们能够有效驱动信息的扩散并影响公众态度。
在传播扩散环节,借助社交机器人,可以操纵僵尸网络和劫持关键节点,实现信息霸权,影响舆论走向。多项研究表明,至多需要10%的社交机器人参与舆情传播,就可以触发机器人意见占主导地位的沉默螺旋效应。社交机器人凭借其自动化、低成本、高效性及隐蔽性等特点,成为实施僵尸网络操控的理想工具。一方面,它们能够通过时间战术,在人类用户低活跃时段(如凌晨)集中推送信息,有效塑造舆论趋势与情绪效应。在此期间,由于互动频率较低,虚假信息往往能够在不被反驳的情况下迅速扩散,增加传播范围和影响力。另一方面,社交机器人能够实现在多个社交平台同步推送信息,使受众在不同渠道反复接收相似内容,提高虚假信息的可信度和传播力。这种跨平台、全时段的信息传播策略形成了一个高度集中的传播矩阵,进一步放大了虚假信息的影响力。此外,“标签劫持”也是社交机器人营造舆论气候的关键策略。它们一边推动符合自身利益诉求的标签扩散传播,一边在对立标签中发布大量与标签无关的内容来“干扰”或“占有”该标签,降低标签的影响力。除此之外,这种协同作战也被用来打造“意见领袖”。通过集体点赞、集体转发等行为,机器人账号能让符合特定利益的内容或账号迅速成为社交网络中的核心节点,营造虚假共识。
在信息接收环节,社交机器人通过认知过载和群体极化助推策略,挤占用户注意力,强化其固有认知。当社会群体中谎言的数量增加到一定程度时,信息环境会达到“饱和点”,引发公众对信息的普遍怀疑。在这种信息环境中,个体通常倾向于选择性地接收与既有信念一致的信息。社交机器人通过短时间内大量投放相互矛盾的信息,造成用户的认知混乱和事实核查能力的削弱。在此状态下,用户容易放弃对信息的深度思考,只选择接收与既有认知一致的内容,从而加深认知的固化和偏见。除此以外,社交机器人还能够精确识别和操作敏感议题,加剧群体对立。
建立复合治理框架
社交机器人滥用问题已经成为数字化时代全球社会治理的关键挑战。在算法推荐、智能传播等技术深度介入公共领域的背景下,社交机器人通过自动化内容生产和精准投放,能够在信息生态中实现指数级传播扩散。尤其是机器人账户推动的观念态度会在短时间内影响个体的认知与决策,可能对公共舆论的形成和社会稳定带来深远影响。面对这一治理难题,亟须建立涵盖技术、平台监管和法律规范的复合治理框架,形成有效的治理协作体系。只有通过多方主体的协同治理,才能有效应对社交机器人带来的系统性风险。
在技术层面,开发基于账号行为特征的检测系统。现有的信息识别技术在面对日益智能化的社交机器人时,往往难以实现高效和准确的监控。一方面,随着自然语言处理技术的进步,社交机器人生成的内容越来越接近人类的风格,现有的检测技术难以精确区分机器生成的文本与人类用户的表达,甚至可能发生误判,将正常的用户行为错误识别为机器生成内容。另一方面,一些社交机器人具备较强的学习和适应能力,能够根据环境和用户反馈持续调整自己的行为和内容输出,不断优化策略,规避现有的内容检测手段。为了应对这一挑战,未来的技术治理方向应着重于开发基于账号行为特征而非单纯依赖内容的实时检测系统。这种基于行为分析的监控方法,可以通过追踪用户的行为模式、互动方式以及信息传播路径来更有效地识别潜在的机器行为,实现更加精准的监督管理。
在平台监管方面,统一监管框架和提高监管过程透明度。目前,社交媒体的信息流通管理主要依赖各平台自身的监管机制,然而,不同平台在内容审查和行为监控上的判定标准存在显著差异,缺乏统一的监管框架。这导致相同信息在不同平台上的存活率差异较大。社交机器人能够通过跨平台操控实现信息传播的最大化,而这种行为难以得到高效治理。此外,即使某些社交平台已经制定了针对社交机器人的检测和防范措施,普通用户对这些审查过程和标准的了解也相对匮乏。信息不对称使得公众难以对平台的监管措施产生信任,也为社交机器人的滥用行为提供了空间。因而,推动建立统一的监管框架和标准化监管体系,打通各平台间的治理障碍,同时提高平台监管过程的透明度,让用户在技术使用中理解潜在风险,在平台参与中提升算法素养,重建公众信任,或可成为未来社交机器人滥用治理中的关键环节。
在法律层面,推动技术与法律手段的结合。智能技术的快速发展与新型传播形态的涌现,使得现行法律框架缺乏对社交机器人行为的明确规定,无法清晰界定平台、开发者和使用者的具体法律责任,责任追溯和法律执行存在较大空白。此外,保障隐私和信息安全与治理社交机器人滥用之间存在冲突。为了有效识别和制止社交机器人滥用行为,通常需要读取和分析大量用户数据。如何在不侵犯用户隐私的前提下,平衡数据使用与内容治理是法律规制中的一大难题。因此,运用法律手段治理社交机器人滥用,不仅要从完善法规入手,也应推动技术与法律手段的结合,利用先进的技术工具辅助法律执行,在实践操作中更好界定行为主体的责任边界,更快实现对社交机器人行为的自动识别与实时追踪。
依托人工智能时代的技术突破,社交机器人已经超越了信息中介角色,成为社交网络中与人类平等的传播节点。通过深度伪造、情绪化叙事、关键点劫持等策略,它们能深刻影响公众认知,塑造偏狭的舆论氛围,为网络安全带来巨大风险。立足新的传播生态,应积极探索融合技术手段创新、平台监管强化和法律框架完善的综合治理格局,促进网络空间的健康发展。
(作者系中国人民大学新闻学院博士研究生)