2024-05-29 | 실리콘밸리=윤민혁 특파원

被批忽视安全的奥尔特曼将领导OpenAI新安全委员会

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

山姆·奥尔特曼(见图)OpenAI首席执行官(CEO)将领导原超级对齐(SuperAlignment)团队解散后新组建的安全与保障委员会。这意味着,在内外受到忽视安全人工智能(AI)开发批评的奥尔特曼CEO,将负责构建AI技术安全装置的“安全委员会”。在被逐事件之后完全掌控董事会的奥尔特曼CEO掌握了公司经营全权,OpenAI今后的走向也引发关注。

28日(当地时间)OpenAI表示,已组建新的安全委员会,以检查AI技术的安全及伦理问题。委员会成员包括奥尔特曼CEO、董事会主席布雷特·泰勒、董事亚当·迪安杰洛等。公司方面称“这是为进一步发展AI开发流程与安全装置的举措”,但由于是在原安全团队超级对齐团队瓦解后以奥尔特曼CEO为中心重组,疑虑正在加深。

事实上,随超级对齐团队解散一同离开公司的OpenAI共同创始人伊利亚·苏茨克维,正是以忽视安全为由引发奥尔特曼被逐事件的当事人。曾任超级对齐团队共同负责人的扬·莱克也将加入被称为OpenAI对手的Anthropic。Anthropic是OpenAI出身人士为开发安全AI而创立的公司。莱克在离开OpenAI时留下批评称“安全评估流程被置于AI产品之后”。

与苏茨克维一同主导解雇奥尔特曼的前OpenAI高管海伦·托纳也公开了被逐事件的背景。她在播客中主张:“ChatGPT首次发布时,董事会没有得到事先通报,是通过推特(现在的X)得知消息的”,“奥尔特曼一直提供有关安全的不准确信息,因此得出无法信任的结论。”相反,朝着实现通用人工智能(AGI)这一最大目标奔跑的奥尔特曼CEO对这些批评毫不在意。OpenAI当天在传达安全委员会组建消息时表示:“已开始训练下一代模型(GPT-5),它将提供通向AGI的下一个阶段”,“我们为构建在功能与安全性两方面都最出色的模型而自豪。”

阅读韩文原文