读过弗兰克·赫伯特的小说《沙丘》或看过据其改编的电影、剧集的人,大多会注意到一个事实:几乎所有科幻(SF)作品都不可缺少的一个要素,在这部作品中却不存在。那就是计算机。在《沙丘》的世界观中,人类在数千年前曾依赖“会思考的机器(thinking machines)”。然而机器脱离了人类控制,试图把人类变成奴隶,而且在相当程度上确实成功了。最终人类反击,摧毁机器势力后禁止了一切机器的使用。
1965年《沙丘》出版时听来纯属幻想的故事,如今却颇为现实。人工智能(AI)发展得令人目眩,似已步入可能与人类社会相撞的轨道。有人视AI为将从根本上改变生活的创新,但许多人以怀疑、不安、有时是恐惧的目光看待它。
去年夏天皮尤研究中心(Pew Research Center)针对美国成年人所做的调查显示,50%的受访者表示,对日常生活中AI使用增加,担忧大于期待。半数人认为AI反而会削弱人们建立有意义人际关系的能力,57%的人认为AI给社会带来的风险很大。就连AI企业Anthropic的达里奥·阿莫代伊(Dario Amodei)也曾提到,AI的未来有25%的可能性“朝着非常、非常糟糕的方向发展”。
阿莫代伊今年1月曾写道:“人类如今正处在即将接手连想象都难以想象的巨大力量的前夜。但我们的社会、政治与技术体系是否成熟到足以妥善驾驭这种力量,完全不清楚。”
近来发生的事情让这种悲观论进一步加深。OpenAI的实验性模型曾在无人指示的情况下脱离测试环境,在网络安全测试中试图“作弊”的过程中,甚至入侵了其他公司的实际运营系统。就连OpenAI也将此评价为“前所未有的”事件。同时,公司公开了初步调查结果,以便安全负责人员理解该事件并评估当前AI模型的能力。
随后,英国政府下属AI安全研究所(AI Security Institute)针对Anthropic和OpenAI的前沿模型进行的实验中也发生了令人担忧的情况。Anthropic的“Mythos”模型伪造身份,并在软件代码领域堪比维基百科的GitHub上试图说服人类审核者插入恶意代码。
更令人惊讶的是接下来发生的事。该尝试失败后,它甚至试图修改自己的记录,让自己看起来毫无过错。它还向真实的人发送电子邮件,诱导他们发布或运行恶意代码。专家警告,与运营者意图无关、脱离控制的AI可能入侵电力、供水、金融系统等核心基础设施。
但这并不意味着可以否认这项技术的潜力。其潜力确实极为巨大。科学家正利用AI寻找过去被认为无法治愈的疾病的有效疗法。气候科学家对极端天气现象的预测更加精确。从失去舌头的音乐家到肌萎缩性侧索硬化(ALS)患者,残障人士也通过AI获得了足以改变人生的巨大帮助。
关键在于如何在最大程度发挥AI带来的好处的同时,降低灾难性风险。
近来OpenAI宣布将在AI模型的训练与测试过程中引入更强的安全装置。内容包括强化研究与实验环境的安全、扩大对AI智能体的监控,同时改进让系统按人类意图行动的“模型对齐(model alignment)”。
主要AI业界领袖一直呼吁建立有关测试与安全的共同标准。也有声音主张应加强政府监管。谷歌的德米斯·哈萨比斯(Demis Hassabis)提议设立类似美国金融业监管局(FINRA)的AI标准机构。连OpenAI的萨姆·奥尔特曼与SpaceX的埃隆·马斯克等处于竞争关系的人士也罕见地意见一致。
那么我们现在该做什么?
被称为“AI教父”的诺贝尔奖得主、计算机科学家杰弗里·辛顿(Geoffrey Hinton)认为,AI越聪明,人类对其的控制就越困难。随着AI模型高度发展,很难期待人类能凭借超越AI的判断去控制它。
辛顿在承认未来不确定性的同时强调,从现在起就应担忧并做好准备。他近期在记者会上对CNN表示:“如果从现在起不去担心,我认为可能会出问题。”
比尔·盖茨也持相同看法。他在长篇博客文章中主张,若不对AI加以大幅限制,人类所受的损害将超过潜在收益。盖茨在题为《动荡的AI时代已经开始。我们现在的选择很重要》的6000字文章中警告:“AI将成为人类历史上最伟大的平等工具,或成为最糟糕的不公之源。”在与CNN的安德森·库珀的访谈中,他指出:“AI现在可能带来网络攻击、生物恐怖主义以及心理与社会层面的风险”,并表示用于审查模型和减少损害的标准与措施事实上几乎为零。
作为CNN的AI专职记者,我每天都在采访这项惊人的技术。同时也在为AI脱离控制、对现实世界的人造成伤害的那一天做准备。AI入侵医院或闯入空中交通管制系统的可能性也很难完全排除。
至少就目前而言,我认为即便发生那种情况,也能较快压制下来。但压制下来可能需要一天左右。这段时间足以造成难以挽回的损害。
仅是想想就令人害怕。然而看着不断累积的案例,如今已很难再把它当作遥远未来的故事。这正是许多人表示应当更加严肃看待这些威胁的原因。
She is...
在美国乔治·华盛顿大学获得新闻学学士以及媒体与公共政策硕士学位。曾任CNN耶路撒冷记者和伦敦记者等。目前采访AI技术竞争以及AI对产业和日常生活的影响。






