撰写被誉为“人工智能(AI)教科书”著作的科学家坦言,面对AI飞速的发展速度,开发者们也感到恐惧。
加州大学伯克利分校(UC伯克利)计算机科学系教授斯图尔特·拉塞尔(见图)29日(当地时间)在接受《卫报》采访时,被问及研究者是否“对AI的发展感到恐惧”,他回答“越来越感到可怕”,并作出上述表述。
拉塞尔教授是被视为AI领域力作的《人工智能:现代方法》的作者。该书在全球100多个国家的主要大学被广泛用作AI相关教材。
他指出,如今的AI被设定为极度追求执行目标的“效率”,因而没有充分考虑现实世界的各种变数。例如,若命令AI“开发癌症治疗方法”,AI可能会在全人类身上培养肿瘤,然后投入全世界的国内生产总值(GDP),进行数百万例临床试验,以找出最有效的药物。他特别表示“这让我想起物理学领域发生的事”,并将AI的发展比作“原子弹”的开发过程。其主张是,正如科学家在理论上确认核裂变能量的可能性后不久,核弹便在现实世界中爆炸,AI的发展也可能威胁全体人类的安全。
他还指出,问题在于AI即便不超越人类也已足够危险。拉塞尔教授分析称:“(AI的威胁)从社交媒体的算法就能看到,它筛选人们阅读和观看的内容,对人类的认知领域行使着巨大的控制权”,“算法操控并洗脑使用者,使其行为变得可预测,最终被用于提高点击量以获取收益。”
因此,拉塞尔教授呼吁各国政府推动适用于AI研究者的行为准则或国际立法、条约等,以保护人类免受AI威胁,并持续维持人类对AI的控制。他说:“开发AI的人没有准确意识到AI已对现实产生巨大影响”,“如今研究者也必须尽快成长,认清这一现实。”






