2026-07-08 | 장형임 기자

“假新闻愈发精巧…须以主权AI应对”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

随着大型语言模型(LLM)、自主智能体等人工智能(AI)技术的发展,更具致命性且更为精巧的“假新闻”正在扩散。科技界内外呼声渐高,认为除了跨国家层面的政策合作外,韩国也应确保主权AI技术以应对这一问题。

担任今年韩人科学技术人员大会主旨演讲的德国马克斯·普朗克研究所安全·信息保护研究所所长车美英(见图)也表达了同样立场。

车所长7日在首尔江南区韩国科学技术会馆与国内媒体见面时表示:“为防止最尖端AI操纵舆论或对社会决策造成恶意影响,政策与科学必须共同应对。”

身为韩国科学技术院(KAIST)电子学部教授的车所长,凭借运用大数据AI分析新冠时期假新闻、贫困·环境污染等社会问题的成果获得认可,于2024年成为德国马克斯·普朗克研究所首位韩国籍研究团长,该研究所被称为“诺贝尔奖士官学校”。目前她领导“为人类的数据科学”研究团,当天在活动上也就同一主题进行了主旨演讲。

车所长诊断称,近来迅速高度化的AI改变了假新闻生态本身,因此技术与政策路径也必须改变。在伪装成人类的AI生成数千个以上虚假账号并有组织活动的情况下,由人类“事实核查者”逐一判别真伪的事后应对方式已不再有效。

车所长说:“过去假新闻是沿着社交网络这样的‘人’际网络生成,而如今AI直接介入,使得以过去的方式追踪、分析扩散路径变得困难。”她还强调:“在每个人与AI对话的过程中被注入偏向、虚假信息的算法,研究者层面也难以确认”,“今后为解决这一问题,窥视AI内部黑箱的‘机制解释’研究将变得重要。”

她还指出,相较假新闻的扩散速度和影响力,国内监管水平仍不足。当天被称为“虚假操纵信息根除法”的《信息通信网法》修正案开始施行,车所长表示:“对散布虚假事实、损害名誉等行为的处罚仍是轻描淡写的水平”,“应让包括平台在内的所有责任利益相关方承担更多责任。”她尤其认为,应加强对全球平台和AI开发企业的政策监管。她说:“有必要要求其(向公共机构、研究团队等)提供最低限度的基准等,以便掌握AI与个人之间的信息交流是如何进行的。”

车所长在此过程中强调了主权AI的重要性。她表示:“为应对恶意利用AI,向研究者提供接触最尖端AI模型的权限是必需的”,“应以近期Anthropic的‘Mythos 5’·‘Fable 5’访问被切断事件为教训,韩国也要在国家层面加快AI模型开发,确保主权AI等核心技术。”

车所长还说:“相较于在文化和行政上难以产生创新的欧洲,韩国具有进取性和速度感的研究文化,我认为在开发主权AI方面尤为有利。”另一方面,她也指出:“长期稳定的研究支持制度是韩国值得向欧洲学习的部分。”她表示:“马克斯·普朗克研究所最大的优点是周期长的研究经费。由于无需每年申请预算或担心被削减,研究者也会深入思考十几年后仍有意义的研究课题是什么。”

最后她强调:“目前以盈利模式和短期回报为重心发展的最尖端AI正在加剧两极分化”,“越是这种情况,就越应提出根本性问题:AI如何才能为‘全人类’而非‘一部分人’的幸福作出贡献。”她并建议:“应着眼于成果可延续至未来世代的长期回报,来设计对AI的研究与政策。”

阅读韩文原文