特斯拉首席执行官(CEO)埃隆·马斯克担忧人工智能(AI)有可能导致人类灭绝。他表示,随着AI以爆炸性速度发展,可能产生副作用。前谷歌CEO埃里克·施密特也提出AI可能威胁人类生命的预测。警告声接连不断,各国政府决定在全球层面讨论制动装置。企业也主动提出需要调节AI开发速度并设置控制机制。
据26日信息技术(IT)业界和《华尔街日报》(WSJ)报道,特斯拉CEO埃隆·马斯克于23日(当地时间)以视频方式出席在英国伦敦举行的WSJ“CEO理事会峰会”,表示“AI可能推动人类发展,但也存在使人类灭绝或制约人类成长的风险”。
马斯克尤其预计AI将对军事领域产生巨大影响。他说:“超级智能(super-intelligence)具有双刃剑的一面”,“AI可以被武装成在战场上比任何人反应都更快。未来,至少在具备无人机运用能力的国家之间,战争很可能是‘无人机战争’”。
有关AI可能威胁人类的担忧不断涌现。前谷歌CEO埃里克·施密特24日(当地时间)在CEO理事会上表示,“AI正在带来生存性风险”,“生存性风险意味着非常非常多的人受伤或死亡”。
施密特预计AI可能被用于“零日攻击”。他预测,高度发展的AI一旦发现操作系统等核心系统内的安全漏洞,就有可能立即针对其发动黑客攻击等。这可能引发社会混乱。他还分析称,AI可能在生命科学领域被滥用。
随着AI将威胁人类生命的警告接连出现,各国政府也决定携手讨论制动装置。七国集团(G7)在本月20日于日本广岛举行的会议成果共同声明中写入“为实现可信AI这一共同目标,将按照民主主义价值观推进国际讨论”的内容。各国官员将于30日举行有关AI监管的首次工作会议。欧盟(EU)正在推进在全球率先制定AI控制相关监管方案的工作。欧洲议会已就本月初拟定的法案草案原则上达成一致。今后欧洲议会、欧盟理事会和欧盟委员会(EC)代表将展开讨论以形成最终方案。
业界也着手加快推出应对措施。谷歌24日(当地时间)表示,已与欧盟达成协议,将自主制定防止AI误用和滥用的措施。谷歌此前通过官方博客发布了包含AI政策建议方案的白皮书。谷歌及Alphabet全球事务总裁肯特·沃克表示,可能需要创设类似“打击恐怖主义全球互联网论坛”的新组织和机构。他还强调,各国政府应探讨对可能构成安全风险的基于AI的软件应用案例、以及支持威胁全球安全的AI相关研发的特定团体实施贸易管制。
微软(MS)25日(当地时间)提出了AI监管应考虑的五项原则。微软当天通过博客建议,对用于重要基础设施的特定AI系统强制安装“安全刹车”。
掀起超大规模AI热潮的ChatGPT开发商OpenAI也于22日(当地时间)发表题为“超级智能AI治理”的立场文件。OpenAI提出,为降低超级智能AI系统的风险,世界主要国家政府应就限制AI性能年度提升水平达成一致。该公司还主张,考虑到技术的潜在风险,需要设立类似国际原子能机构(IAEA)的AI专门国际机构,企业应按照这些机构设定的“安全标准”接受检查和审计。
不过,OpenAI正密切关注政府层面监管可能过度的情况。据路透社报道,OpenAI首席执行官山姆·奥尔特曼24日(当地时间)表示:“我们将努力遵守(欧洲的AI规定),但如果无法遵守,将停止(在欧洲的)运营。”据悉,OpenAI反对ChatGPT等超大规模AI模型在欧盟监管方案中被列为“高风险”等级。欧盟将制定法案,把应用AI的工具按风险程度分为“最低”“有限”“高”“不可接受”四个等级。据悉,一旦被划分为高风险,就必须遵守欧盟要求的额外安全条件。不过,奥尔特曼CEO在自己的推特上改变了立场,称“OpenAI很高兴能继续在欧洲运营”,“当然没有离开的计划”。
由ChatGPT引发的生成式人工智能(AI)技术开发竞争日趋激烈,期待与忧虑并存。与AI共处的当下以及将如此生活的未来,对人类可能是乌托邦,也可能成为反乌托邦。通过“AI托邦”,分析AI带来的社会与产业变化,展望人类生活的未来。






