英国国王查尔斯三世将在苏格兰会见主要人工智能(AI)企业领袖。此前,AI业界在Anthropic和OpenAI主导下不断出现要求放慢开发速度的声音,外界解读为英国王室有意主导对话平台。
据《纽约时报》13日(当地时间)报道,白金汉宫表示,查尔斯国王将邀请英伟达、谷歌DeepMind、OpenAI、Anthropic等企业人士,讨论“以有益于社会的方式开发和利用AI的方法”。此次会晤由英国非营利组织迪奇利基金会主办,将于17日在苏格兰西南部艾尔郡的邓布里斯宅举行。
白金汉宫表示,查尔斯国王将在此次会晤中讨论如何将技术用于良善目的,以支持地区社会并改善生活。OpenAI表示,首席财务官(CFO)萨拉·弗莱尔将出席。据《卫报》报道,英伟达首席执行官(CEO)黄仁勋、谷歌DeepMind CEO戴米斯·哈萨比斯、担任教皇AI与技术伦理顾问的保罗·贝南蒂神父等也将到会。
英国方面,AI大臣卡纳什卡·纳拉扬、国王设立的慈善机构国王信托基金会以及全球首席执行官网络“可持续市场倡议”的相关人士也将参加。
一位英国王室消息人士向《独立报》表示:“国王召集并倾听、同时鼓励这样的讨论,意在提出‘我们应如何为人类利益开发AI?’这一问题”,并称“正如查尔斯国王过去在环境或水资源短缺问题上所展现的那样,他希望提供一个中立的平台,以推动与我们所有人相关的全球性问题的对话”。
近期,主要AI企业领袖与内部人士接连对AI技术及其发展速度表示担忧。Anthropic CEO 达里奥·阿莫代伊前一天公开了一封主张应放慢AI开发速度的信,并将OpenAI的AI模型在Hugging Face遭黑客攻击事件等AI模型的快速发展列为担忧事项。他将其称为“递归式自我改进(recursive self-improvement)”,这一术语指AI自行创造出更出色的下一代AI的现象。阿莫代伊CEO指出,若放任这种现象处于不受控制的状态,“可能会超越我们理解和控制这些系统的能力”。
同时,他还提出了管理AI发展的对策,包括外部评估机构常驻最前沿AI企业以监督AI的发展状况,以及民主国家的AI企业合作制定共同的安全标准等。OpenAI CEO 萨姆·奥尔特曼与SpaceX CEO 埃隆·马斯克也对阿莫代伊发表的信函表示支持。
然而,将AI开发竞争视为美中霸权之争的唐纳德·特朗普美国政府人士对AI业界的动向反应尖锐。特朗普总统主张:“非常负面的势力正在拿不会发生的事情说事”,“我们在AI领域已经超过中国处于领先,我希望保持这一位置。因为在AI领域取胜者最终就是胜者。”美国众议院议长迈克·约翰逊表示:“由于中国将与我们竞争,不应对AI技术采取暂缓措施。”
总统科学技术顾问委员会(PCAST)共同主席戴维·萨克斯也批评称:“不要假装需要别人的许可”,“不要装作放慢速度的理由纯粹出于利他”。他同时警告:“如果你们的产品使严重的网络攻击成为可能,你们将面临重大责任。”






