ChatGPT开发商OpenAI正在敲开人工智能(AI)爆发式发展、超越人类理解的“奇点”之门。旧一代AI指导最新AI,取得了优于低水平人类介入的成果。虽然目前仍不及人类的优化(微调),但有观点认为,若相关技术得以改进,AI可自行发展并突破超级智能。
14日(当地时间),OpenAI表示,用GPT-2来教GPT-4,取得了GPT-3至3.5水平的成果。也就是说,2019年开发的GPT-2训练今年初发布的GPT-4,得到了去年初水平的成果。这虽不及OpenAI人员精细优化后的现有GPT-4表现,但高于人类对GPT-4进行低水平(Naive)优化时的GPT-2.5至3.0水平。
目前的机器学习采用的是AI给出答案、由人类输入反馈的“基于人类反馈的强化学习(RLHF)”。即便输入相同的参数,最终生成式AI的性能也取决于进行强化学习的人员能力。OpenAI此次研究显示,GPT-2的优化优于技术能力较弱的人类介入。OpenAI解释称:“低水平的RLHF无法使AI发展到超人水平,但这暗示用小型AI模型改进强大AI模型是可能的。”
这暗示了AI可自行开发更好的AI并不断进化,从而突破“超级智能”、抵达奇点的可能性。目前GPT-2的优化尚未赶上OpenAI的人员,但若作为“老师”的AI进一步发展,其成果也可能超越人类。
OpenAI进行相关研究的原因,也是为了应对超级智能的诞生。由伊利亚·苏茨克维参与的“超级对齐(Superalignment)团队”负责这项研究,这一点也颇具意味。苏茨克维是主导解除OpenAI首席执行官(CEO)萨姆·奥尔特曼职务事件的人物,主张强调安全的AI开发。OpenAI表示:“我们相信十年内将诞生远比人类聪明的超级智能,这可能带来潜在的巨大风险”,“为应对人类需要教导和监督比自己更聪明的AI的时刻,我们开展了这项研究。”
OpenAI当天在公开研究结果的同时表示,将招募与超级对齐团队一同开展安全AI开发的研究者。总规模达1000万美元(约129亿韩元)的支持项目由谷歌前CEO埃里克·施密特共同参与。计划开展的研究包括:相对于超级智能属于“弱监督者”的人类能否控制AI,人类能否理解超越人类的AI等。






