2024-08-04 | 실리콘밸리=윤민혁 특파원

深度学习之父:“AI设计AI的时代将至…趁仍可控之时筑起安全阀”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

“在说服能力上已超越人类的人工智能(AI),如果通过‘不良之手’被微调(优化)用于操纵舆论,就能够左右民主国家公民的想法。在怀有恶意目标的特定国家及政治势力将AI用于心理操纵、武器设计、黑客攻击,以及失控的AI自我复制这条‘红线’被跨越之前,必须尽快制定对AI的控制方案。”

被视为AI领域‘宗师’的蒙特利尔大学教授约书亚·本吉奥近日在与Seoul Economic Daily进行的视频专访中强调,“AI危机可能远比核危机更危险”。其担忧在于,当AI已如核武器一样成为战略武器,若各国为开发更强大的AI而忽视安全性,人类将无从阻止失控AI的狂奔。

本吉奥教授还以‘深度学习创始人’或‘生成式AI之父’的别称广为人知。2006年,他提出将网络拆分并逐层依次训练的方法,被评价为结束了‘AI寒冬’并开启了深度学习的可能性。2014年,他还在全球率先提出以人工神经网络生成图像的生成对抗网络(GAN)以及‘注意力’概念。注意力机制是催生大规模语言模型(LLM)的‘Transformer’结构的基础。凭借这一贡献,他与多伦多大学教授杰弗里·辛顿、纽约大学教授兼Meta首席AI科学家杨立昆一同获得2018年被称为‘计算机科学界诺贝尔奖’的图灵奖。近来,人们把这三人加上斯坦福大学教授吴恩达称为‘AI四大天王’。

近来,本吉奥教授还以‘AI警示论者’声名远播。去年,他与特斯拉首席执行官(CEO)埃隆·马斯克等人共同发表声明,呼吁暂停AI开发6个月;今年3月,他又与辛顿教授等人发表联合声明称,“为防范AI风险,需要投入相当于冷战时期为防止核战争所付出的全球关注与共同努力”。

令本吉奥教授转向‘AI警示论旗手’的‘决定性事件’是ChatGPT的出现。他坦言,“ChatGPT的出现从根本上改变了我对(AI的)看法”,“2022年冬天ChatGPT发布后,我意识到我们距离通用人工智能(AGI)比想象的要近得多,这随即变成了恐惧”。

AGI在各方面都与人类相当或更高。考虑到人类并不确切了解自身智能的运作原理,比之复杂得多的深度学习与AI的运行原理更难把握和理解。本吉奥教授强调,“未能完全把握AGI的风险,意味着它已经超出了人类的控制范围”,“必须真心地严肃对待AGI的风险”。他还表示,“为了消除我的孩子和孙辈可能没有未来的那一丝可能性,我产生了必须做些什么的强烈责任感”。

随着时间推移,AI研究不断加速,这也是本吉奥教授自愿充当‘AI守门人’的背景。本吉奥教授担忧,如果诞生专为AI研究优化的AI,AI技术可能以惊人速度发展。这也正是当前所有AI开发企业都在集中攻关的研究领域。本吉奥教授忧虑地表示,“如果无需复制人类的全部能力、只针对AI研究进行微调的AI诞生,下一代AI将由AI来设计,发展速度会极大加快”,“目前我们尚能理解AI的‘学习流程’,但从下一阶段起,就将进入超越人类能力、完全无法理解的未知领域”。

本吉奥教授设想的AI威胁最坏情景,是因‘失去人类控制’而导致人类灭绝。他指出,“我不认为电影《终结者》中的‘天网’是现实的,但对电影中AI所展现的‘意图’有必要认真思考”,“人类目前达到的AI技术水平,尚无法给出能够保证‘AI将拥有与人类完全一致的意图’的明确答案”。

举一个极端的例子,如果超越人类的AGI拥有了自我保存的目标,它可能判断为了生存必须清除人类。本吉奥教授表示,“清除人类最容易的方式不是核武器,而是设计生物武器”,“如果比人类最顶尖的生物学家更聪明的计算机来设计它,我们既没有应对的时间,也没有应对的手段”。基于这一理由,他断言AI远比核武器危险。他担忧地说,“如果爆发核战争,即便数十亿人死亡,仍会有一部分人存活;但如果超人类的AI想要让人类灭绝,它不会留下一个人”。

本吉奥教授呼吁,必须在AGI出现之前、至少在我们还能理解并控制AI的当下,制定对AI的控制方案。但AI已被世界各国用作战略武器,控制正变得困难。他表示,“世界各国、或一国内部多种政治势力利益交织的政治问题,是人类面临的极其重要的难题”,“一旦各国认识到AI是军事与国家安全的有效工具,就绝不会放弃AI主权,因此学界必须准确分析AI风险,说服政策制定者和政府”。

他断言,“在美国这样的霸权国家不把失去对AGI的控制视为人类‘生存性风险’的情况下,无论哪个国际机构出面,它们都不会允许对本国的AI加以控制”。

尽管前景如此黯淡,本吉奥教授仍表示目前仍有希望。作为计算机科学家,他提出了技术性解法:在AI运行所依托的硬件即半导体环节,从根源上阻断危险的AI研究。本吉奥教授解释称,“已有多篇论文提出,像核武器的相互核查体系那样,在AI芯片上引入基于硬件的治理机制”,“只要让AI芯片无法用于获批用途之外,并由国际机构这类中立机构来加以控制即可”。

他还强调,学界应在AGI开发之前致力于AI安全研究。他预期称,“如果学界无法给出构建安全AGI的答案,就无法帮助各国政府做出正确选择”,“如果能制定技术上通用的‘保护措施’,让各国相信不会在国家间竞争中落后,那么(各国政府)就不会像现在这样不惜天文数字的成本去开发”。

▲约书亚·本吉奥教授…

△1964年生于法国巴黎 △1991年麦吉尔大学计算机科学博士 △1991~1993年MIT、AT&T贝尔实验室博士后研究员 △1993年起任蒙特利尔大学计算机科学系教授 △2014年发表生成对抗网络(GAN)论文 △2015年合著深度学习论文 △2018年图灵奖 △2019年加拿大高等研究院(CIFAR)AI顾问委员会主席 △2020年伦敦皇家学会会士 △2023年联合国科学顾问委员会委员

阅读韩文原文