2023-04-19 | 최수문기자 기자

尤瓦尔·赫拉利:“若编造引发仇恨的故事…ChatGPT将成人类重大威胁”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

“与其他新药或技术产品一样,ChatGPT在允许使用之前也应有充分的审查和调整期。让民营企业制造的东西在没有任何公共检验的情况下直接投入使用,这是不可接受的。”

以色列出身的世界级学者、耶路撒冷希伯来大学历史系教授尤瓦尔·赫拉利19日在首尔钟路区卢武铉市民中心举行的视频座谈会上,就近来在国际上引发巨大争议的生成式人工智能(AI)ChatGPT如此表示。

他就最近被翻译出版的《不可阻挡的我们》(原名Unstoppable us)——《①人类如何统治了地球》(金明珠译,Junior金英社出版)举行了记者座谈会。本书是四部曲中的第一部,后续作品将陆续推出。

当天,他谈到ChatGPT时承认:“确实有些令人震惊”,“没想到AI技术发展如此之快,能达到人类水平地写文章、制作图像和视频”。不过他表示:“当然,这并不意味着要停止AI研究,停止也不可能”,“我们需要的是暂停一下,留出时间审视技术的水平和影响”。

围绕AI,意大利等各国已出现监管动向。特别是非营利组织未来生命研究所要求所有企业和研究机构至少在6个月内暂停训练比最新的GPT-4更强大的AI系统。据悉,赫拉利教授也参与了这一呼吁。

赫拉利教授指出,ChatGPT之所以具有威胁性,“是因为它能自己创造故事”。他在前作《人类简史》等书中一直主张,人类之所以能够统治世界,是因为能通过语言创造共同的故事并相互协作。而如今连AI也能创造故事了。

他主张:“Facebook、Twitter等社交平台也是低层级的AI,它们汇集并提供故事,以延长人们在平台上的停留时间作为盈利模式”,“在这一过程中,它们发现引发人与人之间愤怒和仇恨的故事更能赚钱”。

在这种情况下,如果ChatGPT本身创造出引发愤怒和仇恨的故事,这将对人类构成巨大威胁。他指出:“AI机器人不必像电影里那样攻击人类”,“只要制造让人类互相争斗的故事就够了”。

他接着强调:“无论是AI还是什么问题,都是因我们人类而产生的,所以我们能够解决。无论是好的方面还是坏的方面,我们都应认识到人类拥有无所不能的力量。”

新书《不可阻挡的我们》实际上可以说是儿童与青少年版的《人类简史》。《人类简史》自2011年首次出版以来已过去十多年,其间又有新的事实被揭示,作者的认识也有所改变,因此需要新的著作。

不过,关于此次撰写儿童读物,他表示:“偏见和错误的认识到成年后很难纠正”,“正是出于应从小传递准确科学事实的考虑而写了这本书。它不是前作《人类简史》的儿童版,实际上可以说是一本新书”。书中如《人类简史》一样铺展出人类的史诗,不过除文字之外,插画与照片也占了相当比重。

关于书名为何定为《不可阻挡的我们》,他解释说:“包含两层含义:一是地球上没有任何生物能够抑制或消灭人类,人类是超级力量;二是人类的欲望没有尽头。”

阅读韩文原文