2024-01-16 | 박태준 기자

[黎明]你没有“幻觉现象”吗

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

去年2月,谷歌的生成式人工智能(AI)“Bard”在测试演示中介绍称“詹姆斯·韦布太空望远镜被用于首次拍摄太阳系外行星”。这一若非专家便会相信的回答是假的。首次用于拍摄太阳系外行星的,是2004年欧洲南方天文台安装的超大型望远镜。当天谷歌盘中股价暴跌9%。

两个月后,谷歌首席执行官(CEO)桑达尔·皮查伊在接受美国节目《60分钟》采访时表示:“对于Bard等AI聊天机器人出现的幻觉(hallucination),谁都无法提出原因和解决方案”,“这将成为今后AI开发者的首要任务。”

AI把错误的事实或图像呈现得如同真实的“幻觉现象”。正如皮查伊CEO所指出的,明确原因尚未显现。只能推测其源于AI所学习数据的不足、错误、偏差等。

词典义为“没有可感知或实体对象的心理现象”的幻觉,是人类而非AI一直承受的痛苦,且其强度正愈发加剧。这与需要医生治疗的病理现象是另一回事。

上周,韩国社会及人格心理学会经会员问卷调查,将“确认偏误(confirmation bias)”选为2024年韩国社会最应警惕的社会心理现象。这种“只看自己想看的、只信自己想信的”心理态度,制造出严重的幻觉。

围绕遭袭的野党代表,极右YouTuber先是抛出自导自演说,接着又搬出了木筷子。围绕执政党紧急对策委员长与一名少年合影的照片,倾向野党的YouTuber则将其渲染为虐待儿童。这些YouTube频道的订阅者从数十万人到最多达100万人。

对充满偏见与扭曲的假新闻,群众反而狂热。内容越刺激、越煽情,人们越觉得“像喝了汽水一样”痛快,毫不吝啬地打出“Super Chat”。对于如此上瘾的人来说,不存在理解、和解、妥协与整合。所有不认同我的主张与信念的人都成了敌人和恶魔,最终成为理应清除的憎恶对象。

我们已把那种一旦清醒过来便会连声说“我是不是疯了”而后悔的言行变成了日常。为何会如此?德国记者卡罗琳·恩科表示,“因为想象所注视对象的另一面已变得不可能”。“只通过那类媒体获取信息的人,只以其提供的过滤视线看待世界和他人的人,被烙印的永远是固定而同一方式的联想。想象力受到了损害(《憎恶社会》·2017年)。”

在助长憎恶社会方面,媒体同样无法回避责任。本月12日,文化艺术界人士在《关于已故演员李善均之死的声明书》中痛斥:“对于包括部分YouTuber在内、未经充分采访或核实程序便急于制造话题的黄色媒体,即所谓‘网络拖车’的弊病,我们还要沉默到什么时候?”

而憎恶社会的顶点是政权与政治。曾成为憎恶政治靶子的野党代表10日出院时的第一句话是“必须终结这种必须把对手杀死除掉的、如同战争般的政治”,但没有人相信。人们知道,“憎恶”早已成为他们势力化的重要机制。支持率始终未能走出30%区间的总统,就任以来反复发表的主要言论都是“无法与敌对的反国家团体共治”“打破帮派卡特尔”等划分阵营的话语。

正如上周在美国拉斯维加斯闭幕的全球最大电子·信息技术(IT)展会“CES”所印证的,AI已渗入人们日常生活的各个角落。因此人类的技术最终将消除给出荒唐答案的AI“幻觉现象”。

那么,无法用不断进化的技术消除、反而因技术高度化加深确认偏误而产生的人类幻觉与对他人的憎恶,又该如何化解?从现在起,是否应当努力在承认并理解成员多样性与各自差异的沟通过程中寻找新的解法?在不远的将来,克服了幻觉的AI或许正望着依然在幻觉中呻吟的人类冷笑。

阅读韩文原文