2024-08-04 | 실리콘밸리=윤민혁 특파원

深度学习之父:“AI落入恶人之手将威胁民主”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

被誉为“深度学习之父”的人工智能(AI)权威、蒙特利尔大学教授约书亚·本吉奥提出担忧:落入“恶人之手”的AI可能动摇民主的根基。理由是,在说服能力上开始超越人类的AI,若在社交网络服务(SNS)上操纵民主国家的舆论,可能带来不可挽回的后果。

本吉奥教授在近期与Seoul Economic Daily进行的视频采访中指出:“已有研究结果显示,GPT-4在影响人类想法方面优于人类”,“如果恶意的国家行为体(state actor)将经过心理操纵微调(优化)的AI投放到民主国家,甚至可能改变公众对特定政治议题的看法”。

这一观点认为,不仅是中国、俄罗斯、朝鲜等威权国家,民主国家内部特定政治势力手中的AI也可能从根本上动摇民主。美国已在2016年大选中因通过SNS散布假新闻的“俄罗斯门”饱受困扰。本吉奥教授担忧,超越过去“情报人员”共享假新闻的层面,在煽动和说服方面远胜人类的AI可能像人一样活动,操纵群体舆论。

本吉奥教授还提出,为防止AI被滥用,应在半导体设计环节应用阻断未获许可研究的“终止开关”。此外,他主张,像Meta的“Llama”这样的开源(开放型)AI,其设计图可能被恶意修改,因此“最优秀的AI不应开源”。

阅读韩文原文