2024-12-09 | 송종호 기자

诺贝尔物理、化学奖得主“AI将在10年内超越人类……需要控制方案”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

“‘超级智能(Super Intelligence)AI’将在5至20年内被开发出来。必须尽快制定对人工智能(AI)的控制方案。”今年诺贝尔物理学奖得主、加拿大多伦多大学教授杰弗里·辛顿高声呼吁,应配合超级智能AI的开发速度建立控制方案。

诺贝尔化学奖得主、谷歌DeepMind首席执行官(CEO)戴米斯·哈萨比斯也警告称:“AI是人类开发的最强大技术之一,因此有必要极其严肃地对待其危险性。”

7日(当地时间),在瑞典皇家科学院举行的物理学、化学、经济学奖得主联合记者会上,今年获得诺贝尔物理学奖的辛顿教授表示:“以前预计超越人类的‘超级智能AI’开发时间会晚得多,但从最近的开发速度看,似乎5至20年就能实现”,“必须思考如何维持对AI的控制力”。他还表示:“本应更早思考AI的安全性问题”,称最遗憾的是未能思考控制方案。

辛顿教授将“自主杀伤性武器系统(LAWS)”的开发列为AI的短期威胁。LAWS指AI能够自行识别并攻击敌人的系统。他同时指出:“各国政府并不愿意就LAWS自行制定监管”,“例如欧洲的AI法案就把AI的军事用途排除在外”。他对各国反而在军备竞赛中利用AI的状况表示担忧。

凭借开发解析蛋白质结构的“AlphaFold”而获得今年诺贝尔化学奖的哈萨比斯CEO态度相似。他表示:“AI将成为帮助解决疾病、能源、气候等当今人类面临问题的出色工具”,但同时称“AI是人类开发的最强大技术,因此也必须严肃考虑其危险性”。他还说:“我认为没有比AGI(通用人工智能)更具革新性的技术。就像火或电的发明一样,要迈向重大技术开发的下一阶段,需要特别的谨慎”,“如果能安全管理这项技术,AGI最终可以成为终极的通用工具”。他接着表示:“妥善监管AI非常重要”,“技术正在快速演进,几年前讨论的监管方式如今可能已不适合讨论”,强调需要迅速的国际协商。

阅读韩文原文