在美国国防部与OpenAI签约、取代拒绝给予军方无限制使用人工智能(AI)权限的Anthropic之际,OpenAI一名高管批评此举并提交辞呈。
当地时间7日,OpenAI机器人部门负责人凯特琳·卡利诺斯基通过本人X表示:“我已从OpenAI辞职”,并称“在没有司法监督的情况下监视美国公民,以及在没有人类批准的情况下自主行使杀伤能力,是需要更慎重审视的事项。”
这是OpenAI与美国国防部签署AI模型使用合约后,首次有高管以此为由提交辞呈。卡利诺斯基表示:“因为我对机器人团队和我们取得的成果怀有深厚感情,这并不是一个容易的决定。AI在国家安全中扮演的角色非常重要”,但同时称“这次的决定不是关于人的问题,而是关于原则的问题”。
据卡利诺斯基的领英资料,她是主导OpenAI机器人组织整体规划、招聘和运营的核心管理者。2024年11月加入OpenAI之前,她曾任Meta AR眼镜负责人。
卡利诺斯基反驳了OpenAI首席执行官山姆·奥尔特曼所主张的“安全保障装置”。奥尔特曼上月27日公开与国防部签约的事实时明确表示“将构建技术性安全保障装置,使模型按预期运行”。而卡利诺斯基在X上追加表示:“我所质疑的是,在指导方针尚未妥善确立的情况下就草率发布”,并指出“这些事项太过重要,不应仓促推进交易或发布”。
此前,开发AI模型“Claude”的Anthropic拒绝向国防部提供AI无限制使用权限而产生矛盾,OpenAI随后取而代之签下合约。OpenAI的举动被解读为允许Anthropic所质疑的利用AI对美国公民进行大规模监视,以及无人类介入的军事打击权限,由此招致批评。在美国国防部将Anthropic指定为“供应链风险”企业等展开报复之后,接受合约的OpenAI高管也辞职,有分析认为矛盾的余波正式显现。
卡利诺斯基辞职消息传出后,OpenAI通过声明表示:“与国防部的协议在制定负责任地将AI用于国家安全的方案的同时,也明确划出了‘禁止国内监视及自主武器开发’这条界线。”






