2024-10-16 | 정혜진 기자

“会出现连AI创造者都无法控制的局面”,尤瓦尔·赫拉利警告

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

“起初,制造和使用人工智能(AI)的人与其他人之间可能会出现壁垒。但当技术成熟后,连最初创造它的人也无法控制的局面将会出现。”

凭《人类简史》(2014年)对世界史作出深刻反思、在全球引发巨大反响的耶路撒冷希伯来大学教授尤瓦尔·赫拉利15日在与韩国媒体举行的视频座谈会上表示:“人类面临的最大威胁不是AI,而是围绕AI的人类社会分裂”,并强调必须克服这种内部分裂状态,将AI的潜力用于减少人类面临的威胁。他近期通过人类三部曲的终结篇新作《智人之上》(金泳社出版)警告了盲信AI可能带来的威胁。

他之所以认为AI危险,与AI作为行为主体(Agent)的属性有关。赫拉利教授指出:“AI是能够自我学习、变化、创造新事物并作出决定的独立行为主体”,“极难预测它会作出何种决定,控制则更为困难。”

他强调,AI之所以存在偏见,是因为与AI自身意志无关,学习过程已大范围使用了掺入偏见、带有偏向的数据。他指出:“现有数据库中,无论是针对女性还是针对种族的偏见都已广泛渗透”,“我并不认为去偏见化不可能,但这将是非常艰难的课题。”

他所担忧的是,生成式AI引发的AI热潮将以类似19世纪工业革命的形态,加速人类社会的不平等与两极化。赫拉利教授强调:“主导工业革命的国家统治了全世界,其他国家获得自由花了一个多世纪”,“如今美国、中国等少数国家走在AI前列,如果出现由AI引发的不平等问题,这将是最大的问题。”

他还表示,最重要的是让运营算法的公司对其算法所引发的后果承担法律责任。即AI在与人沟通时必须表明自己是AI。他说:“无论是AI医生的诊断还是任何情形,都必须表明是AI”,“不能装成人类进行对话和互动。”但他的立场是,因警惕AI的危险性而贸然一味走向监管并不可取。他指出:“在监管之前,观察和理解AI才是当务之急”,“目前只有美国、中国等少数国家了解AI是什么,其余国家在完全不知道AI是什么、会带来何种结果的情况下推进监管。”他还补充说:“等政府或国家对AI形成相对准确的认识后再引入监管也不算晚。”

关于能够写出内容浩繁且洞察敏锐的人类三部曲的独特写作方式,他表示:“我重视消化信息的时间,其程度不亚于输入信息。”《智人之上》从动笔到完成花了5年。以每天为单位,写作8小时,冥想约2小时。以年为单位,会进行一到两个月的冥想休息。他说:“这段期间我不读邮件,也不带书”,“我努力留出大量不摄取信息、只做消化的时间。”

阅读韩文原文