为应对高度发展的人工智能(AI)技术可能引发的灾难性风险,各国政府首次聚首,正式展开国家层面的讨论。
包括韩国在内的美国、中国、欧盟(EU)等世界各国政府,于1日(当地时间)起为期两天在英国白金汉郡布莱切利园举行的首届“AI安全峰会”上,发表了以共同应对AI潜在风险为核心内容的《布莱切利宣言》。各国领导人在宣言中表示,“AI模型的主要能力有可能造成严重、甚至是灾难性的损害”,“AI所引发的许多风险本质上具有国际性,通过合作加以解决是最佳方式”。并补充称,“我们决心以包容的方式开展合作,以确保AI以人为本、可信赖且负责任”。
本次活动除韩国等28个国家的领导人和部长外,欧盟委员会主席乌尔苏拉·冯德莱恩、联合国秘书长安东尼奥·古特雷斯等领导人级人士也亲自出席或发表视频演讲。尹锡悦总统2日通过视频演讲强调为确立全球层面的数字国际规范而加强团结,并提议推动设立相关国际机构。此外,OpenAI、谷歌DeepMind、Meta、微软、特斯拉、英伟达等AI企业人士及学界专家也出席了会议。韩国国内则有Samsung Electronics和NAVER集团受邀。
本次会谈的意义在于,这是各国政府层面首次共同商讨应对生成式AI等尖端技术可能带来的风险。因为在高度发展的AI将改变人类生产力和生活质量的乐观预期之外,对失控AI风险的担忧也在不断加剧。此前对AI安全性的担忧和监管讨论一直以单个政府、企业或机构为单位进行。OpenAI近期为应对AI引发的网络安全问题和核威胁等组建专门应对团队便是代表性例子。英国科技大臣米歇尔·多内兰对本次宣言评价称,“这是各国首次就有必要审视AI风险达成一致”。
不过,业界部分人士批评称,本次决议可能会制约仍处于成长初期的AI技术发展。多伦多大学教授杰弗里·辛顿和蒙特利尔大学教授约书亚·本吉奥等AI学界巨擘,以及OpenAI首席执行官(CEO)萨姆·奥尔特曼、谷歌DeepMind CEO戴米斯·哈萨比斯等AI产业界领袖此前均警告技术潜藏的风险,但反对意见依然不容小觑。斯坦福大学教授吴恩达等人主张,AI的威胁存在被夸大的一面。出席本次活动的特斯拉CEO埃隆·马斯克指出,“我不知道什么才是公平的规则,但在监管之前应先从洞察出发”,“AI业界普遍担忧政府在还不知道该做什么之前就急于套上规则。我认为这种事不会发生”。






