2025-07-08 | 김윤수 기자,사진=오승현 기자

AI学者李秀仁“韩国主权模型要成功,须有‘可解释AI’技术”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

“韩国正在强调主权(自立型)人工智能(AI)竞争力,而为此,确保‘可解释AI(XAI)’技术十分迫切。”

美国华盛顿大学计算机工程系教授李秀仁在第三届世界韩人科技人大会召开的8日,于首尔江南区韩国科学技术会馆接受韩国媒体采访时表示:“AI并不像半导体那样具有悠久历史、根基牢固的学科,因此必须做到让人能够理解并解释其技术原理。”她强调,AI准确度研究水平将成为全球技术霸权竞争的关键。

韩国政府以跃升为AI三强为目标,正集中力量开发不依赖外部的国产模型,即所谓主权模型,并建设为此所需的图形处理器(GPU)和数据中心等AI基础设施。但这位韩裔全球AI权威认为,要使如此打造的主权AI模型确保高准确度、在实际日常中被信赖使用,作为相关基础科学领域的可解释AI同样需要政府的集中支持。

李教授是三星集团湖岩财团自1991年起向为社会发展作出卓越贡献的韩裔专家颁发的“三星湖岩奖”设立以来,首位获得工学奖的女性。她毕业于韩国科学技术院(KAIST)电子工程系,并在美国斯坦福大学取得电气工程博士学位。在斯坦福大学求学时,她选修了AI四大权威、同校教授吴恩达的机器学习课程并取得第一名成绩,此后还与其共同撰写论文。毕业后在研究一线至今专注于可解释AI。李教授在该领域创立了获得世界认可的方法论“沙普利加性解释(SHAP)框架”,并在国际学术期刊《自然·生物医学工程》上发表封面论文等,取得学术成果。

通常AI的思考过程无法准确掌握,因此被比作“黑箱”,而透明地解释这一过程并预测AI将作出何种判断的技术就是可解释AI。面对深度伪造、假新闻(虚假信息)、仇恨与偏见言论、侵犯著作权、个人信息泄露等副作用,这是提高AI可信度必不可少的技术。李教授解释:“比如设想一种拍摄皮肤照片来判别皮肤癌的AI服务,会出现并非皮肤癌却判定为癌、或者相反的错误情况”,“SHAP是揭示AI的输入,即输入的皮肤照片中哪一部分导致错误结论的方法论”。

李教授表示:“2016年与医生们一起尝试预测麻醉引发的副作用低氧症,成为可解释AI研究的契机”,“由于麻醉也可能致人死亡,我判断通过可解释AI这一领域将AI与生物融合,应用可能性无穷。”正如她所说,可解释AI不仅可用于皮肤癌或低氧症预测,还可广泛用于解决谷歌“Gemini”或Perplexity AI的“Perplexity”等日常大型语言模型(LLM)给出错误回答的幻觉问题。

由于可解释AI在全球AI竞争中如此重要,韩国也需要相关投资。被问及韩国相关研究水平时,李教授表示“离开韩国很久了,不太清楚”,但同时委婉指出:“我认为韩国在优待科学技术的程度上还有很多需要改善之处。”其意在于,可解释AI并非AI模型开发这样的应用领域,而属基础科学领域,因此不可避免受到韩国当前轻视基础科学风气的影响。

李教授还强调:“我看到很多韩国研究者因(前政府)削减研发(R&D)预算而处境十分艰难”,“要让研究发展、阻止人才外流,必须从长期视角持续提供资金(投资)。”她表示:“可解释AI以数学或博弈论等传统理论为基础”,“这种理论根基必须牢固,才能具备竞争力。”其意在于,除她的研究团队创立的SHAP之外,多种可解释AI方法论正相互竞争,韩国要获得真正的主权AI,也需要在该领域掌握研究主导权。

李教授正以这种技术优势挑战攻克阿尔茨海默症(痴呆)。因为人能够解释生物AI如何预测疾病,就意味着可以了解该疾病的病因。李教授解释:“阿尔茨海默症在美国属于致死疾病前十位,却仍没有真正有效的治疗药物”,“如果AI得出因特定基因问题导致阿尔茨海默症发病的结论,我们就可以利用可解释AI解释其发病原因,而这本身就成为新的生命科学知识。”

关于韩国政府近期的AI政策方向,李教授建议:“任命(河正宇)AI未来规划首席等,从国家层面支持AI的姿态非常可取”,“我也赞成主权AI战略,但不应有那种外国模型一概不可的‘封闭心态’。”

阅读韩文原文