被评价为拓宽了“可解释人工智能(XAI)”领域研究视野的美国华盛顿大学计算机工程系讲座教授李秀仁表示:“用于生命科学及医疗领域的人工智能(AI)不应仅停留在准确率高的预测工具上”,“今后人类应把AI视为可解释的验证型科学系统”。
李教授28日在首尔中区新罗酒店以“超越智能,成为产业新引擎”为主题举行的“首尔论坛2026”特别演讲中表示:“在生命科学领域,AI的用途仅具备准确率并不能保证安全与信任”,并作出上述表述。
李教授是主导开发用于解释AI模型预测结果的技术之一“沙普利加性解释(SHAP)框架”的学者。SHAP被视为在医疗、金融、产业分析等多个领域广泛使用的代表性XAI框架。首次介绍SHAP的论文引用次数已超过9万次,公开SHAP版本之一TreeSHAP的论文于2020年被AI领域国际学术期刊《自然·机器智能》选为封面论文。
当天的特别演讲中,李教授多次提到,即便AI模型不断发展、在疾病早期诊断及预后预测上拥有接近100%的准确率,如果无法解释得出分析结果的理由,也不适合用于医疗。她补充说,即使患同一种疾病,每位患者影响发病的基因特性、个人生活习惯、周边环境都各不相同,因此必须能够解释复杂的生物学数据与疾病之间的相关关系。
这是因为AI总是基于已学习的数据得出结果,从而导致偏差。带有偏差的分析结果存在对特定个人作出不适合诊断的风险。因此,只有AI解释在诊断等分析过程中考虑了哪些数据、考虑到何种程度,专业医疗人员才能对该分析结果进行交叉验证。李教授表示:“XAI揭示AI看到了什么、基于何种依据作出判断,因此人可以验证AI模型并找出错误”,“XAI是安全使用AI的核心技术”。
随后李教授介绍了XAI如何推动生命科学发展的研究案例。新冠疫情流行时期,医学界不断尝试开发AI模型,通过让AI学习胸部X光片来预测是否感染新冠。当时时常出现这样的现象:学习某家医院数据后准确率提高的新冠预测模型,在其他医院准确率却显著下降。
李教授带领的研究团队用XAI查明了这种现象发生的原因。他们将胸部X光片按像素单位拆分,分析哪些像素影响了新冠预测AI模型的分析。研究团队发现,AI模型把X光片中的肩部拍摄区域识别为重要信息。要判别呼吸道疾病新冠的感染情况,本应主要分析肺部和气管拍摄区域,而模型却把与此无关、一并拍入的肩部区域作为主要学习数据。
李教授的这项研究被评价为取得了及早阻止医疗界误用滥用经过错误数据学习的AI的成果。包含该研究的论文于2021年发表在《自然·机器智能》等6份期刊上。
李教授建议,越是与人的生命直接相关的AI,越要确保透明性。她表示:“今后生命科学领域AI的核心竞争力不是打造更大、更准确的模型,而是构建更值得信赖的模型”,“XAI是使科学发现成为可能、并通过系统验证模型使临床应用成为可能的核心基础技术”。






