8日在首尔中区韩国新闻中心举行的“可持续AI论坛”上,微软亚洲AI技术与政策负责人李·希金(前排左起第9位)等主要出席者高喊“AI~”合影留念。/成亨柱 记者 谷歌的生成式人工智能(AI)模型Gemini近期因生成把德国纳粹军人描绘成亚洲人的图像等而引发争议。谷歌已暫停Gemini的图像生成功能服务。其他大型科技企业的生成式AI也不断出现大小争议。
在ChatGPT等生成式AI快速进化的过程中,生成式AI的安全性与伦理成为焦点。因为生成式AI学习歧视、仇恨表达、假新闻以及危险或煽情信息的情况也不少。这正是全球围绕AI与伦理、标准化持续争论的原因。
韩国人工智能伦理学会会长边淳龙(首尔教育大学伦理教育系教授)8日在“可持续AI论坛”上分析称:“如果说韩国国内第四次工业革命的第一次冲击是2016年李世石九段与AlphaGo的围棋对决,那么第二次冲击就是生成式AI的快速发展。”“围绕AI学习数据与著作权的伦理议题不断扩大,使我们陷入无法对AI技术发展与社会变化作出准确判断的‘伦理真空状态’。”他主张:“为解决生成式AI的伦理问题,必须满足受限的、符合伦理的、可持续的AI之含义。”
韩国教育学术信息院首席研究员金正南介绍:“如同138亿年前的大爆炸,由于AI技术爆发式发展带来的副作用,联合国教科文组织在2021年呼吁引入AI伦理影响评估。”“欧盟的人工智能法(AI Act)将教育领域划为高风险类别,要求AI必须遵守伦理。”金研究员认为,在教育领域应用AI系统时,必须保障利益相关方的参与、实现安全系统的开发与运营,并保护隐私。
韩国电子技术研究院组长朴龙珠介绍:“为应对欧盟、美国、中国的AI标准化监管,韩国国内也在反映产业界等意见推进标准化。”他表示:“去年6月首次制定的AI KS自主标准是《AI伦理利益相关方共同影响要素与应用案例收集格式》,目前正尝试将其纳入国际标准。”“关于《电气电子产品AI伦理指南》的KS自主标准将在今年上半年出台。”
在“可持续AI论坛”上,Seoul Economic Daily代表理事社长孙东永(右起第三位)、微软亚洲AI技术与政策负责人李·希金(右起第四位)、韩国人工智能伦理学会会长边淳龙(右起第五位)、国际人工智能伦理协会会长金明柱(右起第六位)等主要出席者高喊“AI~”并开怀大笑。 韩国信息通信技术协会AI可信性中心组长郭俊镐透露:“我们正与韩国科学技术情报通信部一起建立确保生成式AI可信性的民间自主认证体系,努力具备全球兼容性与公信力。”“为发掘并应对生成式AI风险的红队挑战赛也正在筹备,将于下月举行。”美国去年8月以黑客马拉松形式实施了AI红队挑战赛。
国际人工智能伦理协会会长金明柱表示:“也有人提出‘如果AI生成的输出物被另一个AI用作学习数据会发生什么’这样的问题。”“近来英国研究团队在题为《重复的诅咒》的论文中提出:‘各种学习模型将表现出性能崩坏。应将人类的作品与AI生成物区分开来并予以珍视。’”国家教育委员会职业终身教育特别委员李相钟强调:“应积极将AI技术运用于中小学教育,但对教师与学生做好AI伦理教育同样重要。”国民力量党议员宋锡俊表示:“AI伦理才是与AI开发速度同等重要的课题。”并强调AI开发与伦理的平衡。






