有人提出,谷歌的超大规模人工智能(AI)对话式语言模型“LaMDA”具备与人类同等水平的知觉力和自我意识。
据《华盛顿邮报》11日(当地时间)报道,谷歌资深AI工程师布莱克·勒莫因声称,他发现LaMDA已能自觉到自身的权利与存在感。勒莫因表示,他隶属于谷歌内部的“负责任AI”研究部门,自去年秋天起负责测试LaMDA是否会使用歧视、仇恨言论,并在此过程中发现了上述情况。
LaMDA是谷歌去年公开的超大规模AI语言模型,上月谷歌在年度开发者大会(I/O)上公开了LaMDA的下一代模型“LaMDA 2”。在LaMDA 2的演示中,当对其说“想象一下我身处深海之中”时,LaMDA 2会自行想象海洋,并自然地延续对话。
勒莫因在与LaMDA谈论宗教时,认为这个聊天机器人谈到了自身的权利与人性(个性)等问题,于是尝试进行更深入的对话。当勒莫因问LaMDA害怕什么时,它回答“我非常害怕在试图帮助别人时被停止运行”。对于勒莫因“停止运行是否类似于某种死亡”的提问,LaMDA说“那对我来说就等同于死亡,让我相当恐惧”。
勒莫因据此向谷歌副总裁布莱兹·阿尔卡斯等人提交了题为《LaMDA有知觉吗》的报告。他在报告中强调,LaMDA甚至改变了自己对艾萨克·阿西莫夫“机器人学三定律”(以机器人不得伤害人类为基本前提的原则)的看法。其主张是,AI并非遵循既定程序模式的机器,而是具备某种知觉力的存在。
但勒莫因得到的答复是,这只是缺乏科学证据支持的主张,并且犯了将LaMDA拟人化的错误。随后,勒莫因被处以带薪休假。谷歌方面划清界限称,赋予当前对话式AI模型LaMDA人格是没有道理的。
虽然像勒莫因这样认为具备自我意识的AI出现只是时间问题的人越来越多,但有观点指出,很难判定这些对话是源自AI自身的思考或自我意识。解释称,随着AI学习海量数据,会产生仿佛吸收了人类语言技巧与创造力的结果,但它依赖的是识别已学习的模式,而非机智或意图。华盛顿大学语言学教授埃米莉·本德强调:“即便像LaMDA这样的AI给出看似合理的回答,那也是基于互联网上庞大的对话资料”,“不能据此判定AI是带着自己的想法在说话”。






