2025-06-23 | 김윤수 기자

能识别98.5%的AI撰写评论…开发应对舆论操纵技术

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

国内开发出能够以高准确率识别生成式人工智能(AI)所撰写在线评论的技术。在滥用AI操纵网络舆论的担忧加大的情况下,此次开发的技术有望在相关应对中发挥核心作用。

韩国科学技术院(KAIST)23日表示,电气与电子工程学部教授金容大与国家安保技术研究所联合研究团队开发出全球首个检测韩语AI生成评论的技术“XDAC”。该研究成果已被本月27日举行的AI自然语言处理领域最高权威学术会议“ACL 2025”录用。

只需1韩元成本就能用生成式AI制作1条评论,并借此轻易操纵网络舆论,这一担忧正在加大。虽然检测AI撰写评论的技术不断被开发,但目前大多数技术是针对英语评论检测进行优化的。韩语评论平均仅51字、较短且口语化表达较多,因此需要确保量身定制的技术。

研究团队首先分析了区别于人类撰写评论的AI生成评论独有模式。分析结果显示,AI常使用“好像”“关于”等形式化表达以及“但是”“不过”等连接词。此外还显示,AI不使用韩国人常用的“ㅋㅋㅋ”之类情绪表达,而使用全球通用的表情符号。频繁换行或连续空多格的习惯在AI身上则与人类不同,很少出现。

研究团队让XDAC重点学习了这些差异。结果,XDAC在检验能多准确检测AI生成评论的F1分数上取得98.5%,比现有技术提升68%。XDAC还能区分不同大语言模型的语气差异,准确率达84.3%。研究团队解释,例如“GPT4o”为精炼、形式化的语调,“LLaMA”的口语化语调较强。XDAC应用了利用14种大语言模型、强化自然度、精细情绪控制、通过参考资料增强生成等四项策略。

第一作者、KAIST高级研究员高宇英表示:“这是全球首个能以高准确率检测生成式AI撰写的短评论、并可识别生成模型的技术”,“意义在于为应对基于AI的舆论操纵奠定了技术基础”。

阅读韩文原文