据彭博社等17日(当地时间)报道,ChatGPT开发商OpenAI已实质上解散了研究人工智能(AI)长期风险的安全(safety)团队。
彭博社等报道称,消息人士透露,OpenAI的“超级对齐”(superalignment)团队部分成员正被重新分配到其他团队。
该团队是一个安全团队,研究如何控制未来到来的超级智能AI,使其以对人类有用且无害的方式行事。
该团队于去年7月设立,曾表示“专注于为引导和控制远比我们聪明的AI系统而开展的科学与技术研究”。
尤其是,该团队的解散发生在OpenAI联合创始人伊利亚·苏茨克韦尔等领导该团队的人员相继离职仅数天之后。
担任OpenAI首席科学家的苏茨克韦尔于14日表示“已决定离开OpenAI”。苏茨克韦尔曾在去年11月主导了罢免奥尔特曼的事件。
继苏茨克韦尔之后,另一名高管扬·莱克也离开了公司。苏茨克韦尔与莱克一直领导超级对齐团队。
随着两人相继辞职,也有观测认为这是与奥尔特曼等其他管理层发生矛盾所致。
据悉,苏茨克韦尔在去年罢免奥尔特曼时曾担忧,公司在未对AI的危险性给予充分注意的情况下,只专注于扩建OpenAI的业务。
他在离职时表示:“我确信OpenAI将在奥尔特曼等人的领导下构建安全且有益的AGI(通用人工智能)”。
莱克倾诉道:“我曾认为OpenAI会是开展这项研究(超级对齐)的最佳场所”,“但长期以来,我在公司核心优先事项上与管理层意见不一致”。
他接着指出:“制造比人类更聪明的机器本质上是一项危险的努力”,“OpenAI代表人类承担着巨大的责任,但过去几年,安全文化和流程被置于产品之后”。
据悉,除这两人之外,此前其他团队成员也已离职。
对此,OpenAI解释称:“我们并非将该团队作为独立实体保留,而是将其整合到整个研究之中,以帮助实现安全这一目标”。
同时补充表示,OpenAI联合创始人之一约翰·舒尔曼将成为AI对齐研究(使AI系统符合人类意图的目标和伦理原则)的负责人。






