在人工智能(AI)时代开创“可解释AI(XAI)”领域的美国华盛顿大学计算机工程系讲座教授李秀仁强调了可信AI的重要性。李教授提出,“生命科学、医学领域AI的核心竞争力不是构建更大更准确的模型,而是构建更透明、更可信的模型”。
李教授28日在首尔中区新罗酒店以“超越智能,成为产业新引擎”为主题举行的“首尔论坛2026”特别演讲中抛出话题称,“即便AI模型在疾病早期诊断和预后预测上自夸拥有100%水平的准确度,如果无法解释得出预测结果的原因,就不适合用于医疗”。李教授介绍了近来生命科学界和医学界利用AI进行疾病分析与预测的案例日益增多的动向。他接着解释称,当前AI应用的问题源自预测与理解之间的落差。李教授指出,“在生命科学、医学领域,AI的用途仅靠提高准确度并不能保证安全与信任”。
这是因为AI总是基于此前学习的数据给出结果,而这一结果蕴含偏差风险。学习了偏差数据的AI在分析例外案例时会暴露出一致性不足的问题。若在医疗部门发生此类错误,可能带来致命后果。因为在患者诊疗过程中使用这种不准确的AI可能引发医疗事故。李教授对此表示,“即便患上同一种疾病,每位患者影响发病的基因特性、个人生活习惯、周边环境等都各不相同”,“AI必须能够解释复杂的生物学数据与疾病之间的相关关系”。
李教授还提出了专家对AI进行交叉验证的必要性。即AI在得出分析结果时提出使用了何种数据、使用了多少的依据,再由专家加以确认。在生命科学、医学领域,这种专家介入相当于阻断AI偏差学习所带来风险的安全装置。李教授补充说,“XAI若披露作为判断依据的数据及数据贡献度等,人就可以验证AI的回答并找出隐藏的错误”,“XAI是安全使用AI的解决方案”。
李教授当天还介绍了查明医学界因偏差学习导致AI引入失败案例原因的研究。这些研究同样以XAI为工具展开。例如新冠疫情时期,医疗界不断尝试开发通过胸部X光片预测是否感染新冠的AI模型。当时出现了这样的现象:通过学习某家医院的X光片提高了准确度的AI模型,在另一家医院却无法正确辨别是否感染新冠。
李教授带领的研究团队利用XAI查明了“AI模型失灵现象”。即把胸部X光片按像素单位划分,再分析哪些像素对新冠诊断AI模型产生了何种程度的影响。研究团队的调查结果显示,AI模型把X光片中的肩部拍摄区域识别为重要信息。要确认是否感染呼吸道疾病新冠,本应集中分析肺部和气管拍摄区域,但AI却犯下了把一同拍入的肩部区域作为主要学习数据的错误。介绍该研究的论文因准确指出医疗界AI应用盲点的成果获得认可,于2021年发表在《自然·机器智能》上。
李教授与研究团队在研究AI给出的答案时,不拘于正确或错误的二分法框架,而是聚焦于查明得出结果的过程。李教授由此建议,利用XAI可以避免盲信AI的分析结果,而由人介入并验证,推动学术发展。他解释称,“XAI是使科学发现成为可能、对AI模型进行系统性验证并最终实现临床应用的基础技术”,“利用XAI可以发现疾病新的生物学结构,进而取得新药开发的成果”。






