2024-11-17 | 박준호 기자

[东十字阁]“双刃剑”医疗AI

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

“我们癌症医院院长用美国的人工智能(AI)解决方案上传X光片并用韩文提问,它就用韩文给出回答。问主要所见,它说怀疑是间质性肺疾病;问是否有癌症隐藏的部位,它给出了一般水平的回答。虽不算完全专业,但我看到它能作出住院医师水平的回答。”

12日举行的“首经生物医疗论坛2024”上,三星首尔医院数字创新中心副中心长姜美罗在演讲中讲述了她在美国医疗信息与管理系统学会(HIMSS)上体验美国企业Hoppr多模态AI解决方案的经历。她回忆说,看到这一场景后,“2023年1月看到生成式AI火起来的新闻后,仅两三个月就出现了相关产品,当时很震惊,这次又受到了非常大的冲击。”

如此,AI也正以此前难以想象的方式改变医疗服务现场。国内医院已在与NAVER集团的“CLOVA AI”合作,减少诊疗过程中不必要的录入环节,为医生赢得更多与患者交流的时间。韩国保健产业振兴院近期在全球保健产业动态报告中表示,医护人员使用AI对缓解职业倦怠危机具有积极作用。根据飞利浦《2024未来健康指数》报告,对14个国家2800名医疗企业领导者的调查结果显示,认为重复性工作自动化对解决人力短缺问题很重要的比例高达92%。

但任何现象都是光与影共存,AI绝非例外。代表性问题就是AI生成不以既有数据或语境为依据的错误信息或虚假信息,即所谓“AI幻觉”现象。AI输出的结果太过逼真,以至于不实之事也会被当作真相相信。现在医疗AI解决方案使用的数据还有限,但今后范围不断扩大,一旦学习了被污染的数据,其危害将不可估量。

此外,对AI诊断结果的责任归属至今尚不明确,发生误诊时应如何应对也未确立。是否能使用AI解决方案,还可能造成医疗服务差距。这是技术进步放大人类伦理与不平等问题的典型情形。

任何尖端技术,取决于如何使用,既可成为造福人类的光与盐,也可成为威胁生存的凶器。AI同样是“双刃剑”。若使用不当,在与生命直接相关的医疗卫生领域问题将更严重。在安于技术带来的便利之前,应持续反省。

阅读韩文原文