胡泳:AI倾向于加强人类对话的缺陷

2023-03-09 来源:传媒观察杂志

  近日,以ChatGPT为代表的AI机器人掀起一场狂欢般的全民参与。对AIGC即将给人类社会带来的颠覆,人们既深怀憧憬,又充满焦虑。

  2023年2月21日下午,《传媒观察》与数字交往小组联合举办了“激荡AIGC”主题对谈,彭兰、邓建国、王成军、胡泳、张子柯、杜骏飞、曹轲、邹军八位新闻传播学学者相会云端,从不同视角观照AIGC与即将到来的智能交往时代,并展开了一场雄辩争锋、思想和鸣的学术对谈。

  “传媒观察杂志”微信公众号将陆续推送此次对谈中八位学者的代表性观点以及“激荡对谈”内容(含视频精彩回顾)。期待读者关注!

ChatGPT作为文化现象

主讲人:胡泳

  北京大学新闻与传播学院教授胡泳从幻觉的视角预判AIGC。他认为,人们习惯将人工智能拟人化,这背后是人类中心主义思想。事实上,在数字系统中,人工智能并无所谓的人性。幻觉是人工智能的一个专门术语,指人工智能的一种自信反应。胡泳发现,人工智能的内容输出往往看起来正确、本质上错误。在幻觉的意义上,人和机器产生了某种同构性。

  胡泳提到,《纽约时报》科技专栏作家凯文·鲁斯(Kevin Roose)和科技通讯Stratechery的作者本·汤普森(Ben Thompson)均发现,通过引诱,AI机器人会展现出阴暗的幻想和欲望,为机器人作的预先审核设定可以被绕过。从微软必应搜索引擎的测试来看,很多人关心的不是AI搜集信息和事实的能力,而是聊天机器人的人格。他做出总结:很多人或许不在乎机器人是不是传达事实,而在乎机器人传达的情感。

  胡泳认为,机器人之所以有所谓的阴影人格,是因为其训练模型源于开放网络。ChatGPT这一类系统的不安全性即源于此。人类的日常语言本质上是有偏见的,甚至不乏仇恨。很大的危险在于,ChatGPT能将错误、有偏见的内容以看似正确、权威的方式进行陈述。AI倾向于加强人类对话的缺陷。

  胡泳发现,AI技术带来的合成智能善于用平行宇宙的故事娱乐用户。AI可能成为一项严肃的娱乐性技术。在这一点上,机器的幻觉和人类的幻觉可以完美联手。AI进入幻觉领域后,可能会具备极大的创造性。假以时日,必然有公司将这样的机器人投放市场,满足广大用户的体验需求。人类很有可能将进入幻觉时代。

 

转载请注明来源:中国社会科学网(责编:张赛)

扫码在手机上查看