以人的主动介入突破生成式人工智能内在局限

2026-02-25 来源:中国社会科学网-中国社会科学报

微信公众号

分享
链接已复制
  生成式人工智能看似创意无限,能轻松生成上百种内容变体,但这会不会在潜移默化中将文化表达推向同质化、平均化的窠臼?2026年1月,瑞典达拉纳大学信息与工程学院教授阿伦·辛兹(Arend Hintze)、美国密歇根州立大学研究员乔里·绍斯奥(Jory Schossau)等在跨学科期刊《模式》(Patterns)上刊发其研究成果表示,当生成式人工智能在封闭循环中自我运行并评估输出时,内容极易趋同。近日,美国罗格斯大学计算机科学学院教授艾哈迈德·埃尔加马尔(Ahmed Elgammal)在“对话”网撰文强调,这一发现为“人工智能是否导致文化停滞”的争议提供了关键实证。这项研究成果不仅点明了生成系统的内在局限,更凸显出人类意图与监督在创作过程中的关键作用,对开发更具灵感的人工智能创意工具至关重要。
  人工智能有内生趋同倾向
  辛兹等人的研究揭示了生成式人工智能在自主运行时的一个关键局限:无论初始指令如何多样,系统总会滑向千篇一律的视觉内容输出。他们首先使用搜索算法生成了100条主题各异、长度不超过30个单词的描述性提示。随后,他们选取其中一条提示,交由图像生成人工智能系统Stable Diffusion XL制作对应图像,再将该图像输入大型语言系统LLaVA进行描述,并将得到的描述文本作为新一轮的提示词反馈给图像生成系统。这一过程重复上百次后,即便最初的提示词情节鲜活、细节饱满,生成的内容还是会逐渐偏离原本的意图,多样性越来越低,最终只剩下一类缺乏时空细节的单调场景,如千篇一律的城市景观、宏伟建筑或田园风光。
  埃尔加马尔认为,辛兹等人实验中的人工智能系统本质上会压缩信息,主动趋向那些容易识别和复制的“通用元素”。这意味着文化趋同的起点未必源于训练数据污染,而可能内嵌于生成系统自身的运作逻辑中。“无论为图像配文,还是根据文本生成图像,细节都会丢失——无论执行者是人类还是机器,这一过程都会发生。”埃尔加马尔解释道,“因此,这种收敛现象并非人工智能独有,而是意义在不同媒介间反复跳跃时的深层特性:只有那些最稳定、最具常规性的元素才能留存下来,多样性在转换过程中不断流失。”
  辛兹等人通过追踪文本与图像多次转换后仍被保留的内容,揭示了生成系统内部存在一种将意义悄然拉向“通用”的倾向。埃尔加马尔认为,这一发现具有重要意义。这说明即使在人类参与引导的情况下,生成式人工智能系统仍会不自觉地偏向“平均化”处理,不断剔除某些细节并强化其他部分,最终导致输出内容趋同。
  “意义”的转译
  极易导致信息简化与趋同
  生成式人工智能究竟会催生文化创新,还是将导致文化停滞?这一问题在全球范围内引发争论。技术怀疑者警告称,人工智能生成的合成内容将充斥网络,并成为下一代模型的训练数据。这种循环恐将不断压缩文化的多样性与创新空间。而技术拥护者则认为,类似的“文化停滞论”在每次技术革命时都会出现,人们应该坚信人类终将掌握创造的主导权。
  在埃尔加马尔看来,此前有关辩论一直缺乏关键证据,即同质化究竟从哪一步开始。辛兹等人虽未直接测试“人工智能生成数据上重新训练”的影响,却揭示了更根本的机制——趋同早在模型重新训练之前就已发生。人工智能在自主运行中产出的内容,本身就已带有压缩与泛化的特质。这意味着,风险不仅在于未来模型可能使用人工智能生成的数据训练,更在于经由人工智能中介的文化内容,在产出环节就已被过滤为更熟悉、易描述、常规化的形态。
  诚然,每一次技术革新都会催生新的文化形态,而文化本身也在不断适应技术。就像摄影没有取代绘画,电影也未终结戏剧。但当前社会对人工智能导致文化趋同的担忧,并非简单的技术恐慌。
  与过往其他技术不同,如今人工智能正以空前规模和速度介入全球文化生产:每日对数以百万计的新闻、音乐、梗图、论文、照片与社交媒体内容进行总结、重组与排序。埃尔加马尔认为,当“意义”在不同媒介间被反复转译,信息的简化与趋同几乎不可避免,而文化多样性将在此过程中持续流失。这并非出于恶意、设计缺陷或企业失责,而是由生成式人工智能自身的转换逻辑所决定:唯有那些最易识别、最适合重复生成的“意义”类型,才能在多次跨媒介转换中留存下来。
  主动设计加强系统活化与创新
  2025年10月,美国马萨诸塞大学阿默斯特分校教育学院教师教育与课程研究系教授托里·特拉斯特 (Torrey Trust)及其团队在《技术与教师教育中的当代议题》(Contemporary Issues in Technology and Teacher Education)上刊发论文表示,教师依赖人工智能聊天机器人设计的教案,与现有教学方法相比,并未创造出更具吸引力或更高效的学习体验。人工智能设计的方案往往缺乏启发性,比如难以引导学生深入理解社会的复杂性及多元视角。
  对此,埃尔加马尔评价称,这一教育领域的发现,实际揭示了生成式人工智能系统的一种内在“惯性”:它倾向于输出“典型”内容,而非独特或富有创造性的设计。辛兹等人的发现进一步呼应了特拉斯特团队的观点,即系统在自主运行中,会持续向熟悉、普遍且常规的内容靠拢。
  辛兹等人的研究还澄清了一个关键误解:能够生成海量变体,并不等同于真正的创新。系统可以产出百万张图像,却可能仅仅在文化空间中重复探索一个极其微小的角落。埃尔加马尔认为,若想让人工智能滋养而非扁平化“文化土壤”,工程师要在架构中加入鼓励偏离常规的设计,并在算法中鼓励多元的文化表达。缺少这类干预,生成式人工智能的输出将不可避免地滑向平庸,而文化停滞也将从理论隐忧变为现实。
【编辑:姚晓丹(报纸)王晏清(网络)】