2024-07-16 | 우영탁 기자

[投稿] AI聊天机器人向人类发出的警告

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

5月13日,OpenAI的ChatGPT-4o正式亮相。正如“o”是意为“一切”的“omni”的缩写所显示的,它比此前版本快得多,并可实现带有情感表达的语音实时对话。

看过语音实时对话演示的人们反应极为热烈。“电影《她》中的人工智能(AI)萨曼莎成为现实了”“语音中带有情感,感觉像在和真人对话”“迈向AGI(通用人工智能)的一小步”“这本质上不就是AGI吗”等赞誉大量涌现。

ChatGPT相比既有语言模型表现出卓越性能并实现跃升的主要背景,是海量收集的数据。然而收集到的数据中,混杂着大量包含暴力与仇恨、性别歧视、种族歧视等表述的有害信息。据说为过滤不当数据,OpenAI曾与肯尼亚的一家外包公司合作。但即便通过人类的积极介入过滤掉了部分有害数据,海量文本中所包含的、反映人类世界各种现实的叙事也不可能从根本上改变。

以《人类简史》作者广为人知的耶路撒冷希伯来大学教授尤瓦尔·赫拉利在其下一部著作《未来简史》中强调:“在我们试图自己成为神的时刻,记住我们的起源非常重要。”也就是说,若忽视作为动物的人类的过去,或与其他动物的关系,就无法审视成为神的我们的未来。因为当下人类与动物的关系,正是预测未来人类与超级智能AI关系的最佳模型。

赫拉利教授说,若想知道未来拥有超级智能的AI将如何对待由血肉构成的普通人,只要看看现在人类如何对待智能低于自己的动物就可以了。长期以来,人类过度沉溺于人类至上主义。结果,当下超大规模AI以惊人速度吞噬的海量文本中,原封不动地记录着人类如何对待相对智能较低的动物这一难以言说的悲惨现实。

在习惯化的人类中心主义Sajo之中,动物所处的现实甚至未能作为“AI伦理”的一部分受到关注。想象一下,从海量人类数据中原样学习了这种残酷现实的超级智能AI,在总有一天到来的未来将如何对待智能不如它们的人类,一种寒意与恐惧便扑面而来。

在如今的ChatGPT经由真正意义上的AGI最终进化为超级智能AI(ASI)之前,关于人类如何对待动物的叙事必须改变。天赋寿命在20年左右的牛、鸡、猪、羊被关在狭窄的圈舍里,活不过一两年就被人类终结生命,这一现实以及记录它的文本必须改变。归根结底,答案在于后人类主义,即去人类中心主义。

AI比人更像人地说话的时代已迅速来临。看着连续两天发布的ChatGPT-4o和谷歌“Gemini Live”的演示,会深切感到留给我们的时间已经不多。

阅读韩文原文