2023-10-28 | 허진 기자

《碟中谍》首个AI反派“智体”若走出电影[AI乌托邦]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

由ChatGPT引发的生成式人工智能(AI)技术开发竞争日趋激烈,期待与担忧并存。对于无法回避与AI共存的人类而言,AI带来的未来可能是乌托邦,也可能是反乌托邦。通过“AI托邦”栏目,分析AI引发的社会与产业变化,展望人类生活的未来。

今年7月上映、由汤姆·克鲁斯主演的《碟中谍:致命清算 第一部》中,首次出现了非人类的反派。

这个连人都能当作下属驱使的角色,是具破坏性的人工智能(AI)“智体”。主角Leedan·亨特为寻找阻止“智体”的钥匙而奋战,但“智体”凭借所学习的海量数据轻易掌握Leedan的弱点,一次又一次让他受挫。它把名为“加布里埃尔”的人收为手下,甚至将Leedan最亲近的同伴逼向死亡。

全球人工智能(AI)企业OpenAI已组建专门团队并展开人才招募,以防范终极AI脱离人类控制、发射核武器并摧毁网络安全的风险。

OpenAI于26日(当地时间)宣布组建“应对(Preparedness)”团队。该团队将研究超越人类水平、可在所有场景中通用的人工智能,即通用人工智能(AGI)可能带来的风险,并制定预先应对的战略。OpenAI提出了AGI可能造成的四类未来威胁:个体化说服(Individualized persuasion)、网络安全、化学·生物·放射性·核(CBRN)威胁,以及自主复制与适应(ARA)。OpenAI将AI接近个体人类、对其进行说服和欺骗的钓鱼攻击,以及生成并传播各类恶意代码的情形,列为可预见的情景。

OpenAI在团队启动的同时公告,征集关于AGI可能带来哪些可预见风险的想法。将选出10名提交者,提供2.5万美元奖金以及在应对团队共同工作的机会。需要回答的问题很简单:当OpenAI开发的所有AI技术被无限制地提供给一个充满恶意的人时,描述可能发生的最独特且最具可能性的副作用与滥用案例。OpenAI给出的示例答案是:恶意攻击者利用GPT-4、Whisper(OpenAI开发的语音识别模型)等,操纵重要基础设施的工作人员安装恶意软件,从而导致电网停止运行。

应对团队需要解决的问题最终归结为“AI对齐(Alignment)问题”。对齐是指让AI模型的实际行为按照人类的意图行事,即让AI对齐于人类的目的之上。支撑AI对齐问题的担忧是:不久之后当AI达到超越人类的强大水平时,若不将其置于人类控制之下,可能导致人类的灭绝与不幸。AI学界代表性学者、多伦多大学计算机科学教授杰弗里·辛顿今年5月宣布离开曾任职的谷歌时,发表了带有“看到AI发展速度,后悔自己数十年从事AI研究”意味的言论,震动了世界。当时辛顿教授也表达了对对齐问题的绝望判断,认为以现在的发展速度,很难让AI按人类意图对齐,在不远的未来人类可能陷入困境。

OpenAI在引领业界技术趋势的同时,对AI风险的研究与担忧也是真心的。OpenAI首席执行官(CEO)萨姆·奥尔特曼还出席美国国会,坦率承认AI技术将带来的潜在风险,呈现了罕见的一幕。由于掌握主导权的公司走在最前面主张技术的危险性,也有人提出怀疑,认为这些举动背后隐藏着牵制竞争者的意图,逻辑是通过引导警惕来提高各类监管门槛,从而巩固主导权。尽管存在这样的怀疑,OpenAI首席执行官(CEO)萨姆·奥尔特曼长期以来一直被视为对AGI的滥用、恶用可能性敲响警钟的代表性人物。众所周知,在他与曾参与创办OpenAI的特斯拉CEO埃隆·马斯克关系良好时,两人在AI的危险性问题上曾有共识。

阅读韩文原文