2026-04-21

[吴世正专栏]须防范AI技术的风险

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

几乎没有人否认人工智能(AI)今后将极大改变世界的预测。但在如何改变这一问题上,专家之间意见分歧。甚至对于AI技术最终会让世界变好(乐观论)还是相反变坏(悲观论),意见也不一致。例如,著名未来学家雷·Kurzweil主张,当AI发展到超越人类能力的奇点时,能源担忧将消失,人将享受近乎永生的生活。相反,天才物理学家已故的斯蒂芬·霍金生前主张:“AI可能成为人类文明史上最糟糕的事件。需要做好防范技术万能主义反乌托邦的准备。”而开发深度学习算法、被称为“AI教父”的杰弗里·辛顿教授甚至表示:“人工智能毁灭人类并非不可能之事。因为这种担忧,我对自己所做的事感到后悔。”

但当今世界正因AI卓越的生产力及由此带来的经济价值,以美国大型科技企业为中心投入巨额资源,全力开发AI技术。我国也将跃升为“AI世界三大强国”作为主要国政课题,设立总统直属的“国家人工智能战略委员会”、编制大规模研发(R&D)预算等,集中国家力量。在这些努力的推动下,AI技术日新月异。约三年半前OpenAI的ChatGPT展示了生成文本(text)的能力后,AI很快不仅能处理文字,还能运用图像和视频,经过推理(reasoning)阶段,如今已进入自主行动的智能体(Agentic)AI阶段。也就是说,无需人类介入,AI自行制定计划、使用工具并产出完整成果的时代已经到来。

随着AI技术的快速发展,悲观论者所担忧的事例也开始真实出现。最近的美国—伊朗战争便是一例。在这场战争中,美国和以色列综合运用AI技术,使伊朗领导层集体被炸死,并确定黎巴嫩和伊朗境内的攻击目标,将AI技术在战争中的运用发挥到极致。AI技术在用于和平目的之前,率先被正式用于战争这一破坏性目的。此外,战争初期伊朗一所女子小学在空袭中被摧毁,造成100多名儿童死亡的惨剧,据推测这是因为AI错误判断了攻击目标。由此可见,AI技术的失误可能性正成为一大问题。更何况也有研究结果显示,脱离人类控制的AI会表现出更加好战和强硬的态度。不久前英国研究团队使用AI模型进行兵棋推演模拟,结果在21种高风险情景中,有20次对决使用了核武器。由于AI没有伦理意识,也没有对人类灭亡的恐惧,因此仅将核武器视为为取胜的高效选项之一,以95%的概率加以使用。

最近美国AI企业Anthropic推出的名为“Claude Mythos”的程序又带来一次冲击。当专家之间蔓延起这样的担忧——用于发现软件缺陷的程序反过来可能成为极其强大的“人工智能黑客”——包括美国政府在内的各国政府开始讨论应对措施。我国政府也召集主要IT企业的安全负责人召开紧急会议,韩国金融委员会则与银行、保险业界讨论了对策。可见,AI技术的滥用可能威胁人类文明的安全。

当然,AI技术若运用得当将提高生产力,进而有助于增进人类福祉。而且在世界各国企业纷纷投入AI技术开发的现实下,我们也不能袖手旁观。只是AI技术误用滥用带来的副作用如今已开始显现,对此的防范也不能懈怠。

阅读韩文原文