"ChatGPT"开发商OpenAI的首席科学家表示,有必要对人工智能(AI)进行速度调节。OpenAI首席执行官(CEO)萨姆·奥尔特曼也表示同意并予以支持。
OpenAI首席科学家雅库布·帕霍茨基6日(当地时间)在公司主页的投稿中写道:"如果机器智能继续飞速发展,无人对随之而来的后果做好准备。"
帕霍茨基首席科学家指出,现代AI"与其说是被设计出来的,不如说是被养育出来的",人类很难完全理解AI的运作方式。意即AI如生物一样成长,人类难以完全控制AI。
针对业界主张只有持续开发AI才能构筑防御体系的说法,帕霍茨基首席科学家批评称,这被用作为鲁莽行为正当化的借口。他同时强调:"AI开发方面的国际合作应成为世界各国政府的首要课题。"
帕霍茨基首席科学家表示,目前还没有任何一家研究机构充分解决了让AI拒绝对人类构成威胁的行为的"对齐"问题,"期待并希望在共同的安全机制建立之前,自发的速度调节能够普及。"
奥尔特曼CEO也在社交网络服务(SNS)X(原推特)上引用帕霍茨基首席科学家的文章,称其为"重要的文章",表达支持之意。奥尔特曼CEO在近期GPT模型的"Hugging Face"黑客事件后改变立场,认同速度调节的必要性。






