美国发出警告称,快速进化的人工智能(AI)可能构成足以令人类灭绝的威胁。
据美国CNN电视台12日(当地时间)报道,AI政策咨询企业Gladstone AI在受美国国务院委托撰写、近期公开的报告中指出,“最先进的AI系统在最坏情况下可能构成人类灭绝级别的威胁,美国政府必须介入”。报告还警告,美国联邦政府避免灾难的时间已经不多。该报告基于对主要AI企业高层管理人员、网络安全研究人员、大规模杀伤性武器专家、国家安全政府官员等200余人历时一年多的访谈撰写而成。
报告警告,AI的代表性风险首先是最先进的AI系统被武器化,可能造成潜在不可逆的损害。报告还提出担忧,认为到某一时点可能失去对在研AI系统的控制力,从而对全球安全带来潜在破坏性后果。报告称,“AI与AGI(通用人工智能)的崛起,有可能以令人联想到核武器问世的方式动摇全球安全”,并判断存在AI军备竞赛、冲突以及大规模杀伤性武器规模的致命事故风险。
报告呼吁采取划时代的措施应对这类威胁,提出设立新的AI监管机构与紧急监管安全装置、限制可用于训练AI模型的计算性能等方案。
Gladstone AI联合创始人兼首席执行官(CEO)杰里米·哈里斯对CNN表示,“AI已经是在经济上具有革新性的技术”,“但它同时也可能带来我们必须了解的、包括灾难性风险在内的严重风险”。他说,“包括在全球顶级AI会议上发表的实证研究与分析在内,越来越多的证据表明,一旦越过特定能力的临界点,AI有可能变得无法控制”。
报告显示,AI专家推测今年因AI引发的事故(AI incident)对全球产生不可逆影响的可能性为4%至最高20%。不过报告补充说,这类推测属非正式性质,也可能存在相当程度的偏差。
报告将AGI的进化速度列为决定AI是否会对人类构成危险的最大关键。报告称,“AGI被视为因失去控制力而产生灾难性风险的主要因素”,并补充说,OpenAI、谷歌DeepMind、Anthropic、英伟达都曾公开表示最晚到2028年可能实现AGI。
美国政府表示,委托Gladstone AI撰写该报告是为评估AI如何契合在国内外保护美国国家利益的目标,该报告并不代表美国政府的观点。






