2025-03-10 | 송주희 기자

AI聊天机器人被俄罗斯散布的虚假信息污染

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

有人指出,俄罗斯正通过在网络上散布虚假信息、污染西方人工智能(AI)聊天机器人数据的方式展开宣传战。

法新社9日(当地时间)报道,美国虚假信息追踪网站NewsGuard的调查结果显示,10个AI聊天机器人有超过33%的比例重复了俄罗斯宣传网络“真理”散布的虚假内容,从而扩散亲俄议程。“真理”是传播对俄罗斯友好信息的宣传网络。该网络本身并不生产内容,而是通过引用俄罗斯国营媒体报道或发布亲俄信息的网红的社交媒体(SNS)内容并转发的方式展开宣传战。

据NewsGuard调查,“真理”正向大型语言模型(LLM)散布虚假信息,扭曲AI聊天机器人的数据。这就是所谓的“LLM grooming”方式。该方式通过让模型学习海量信息,使其输出对俄罗斯友好的结果。NewsGuard表示,仅去年就有多达360万条俄罗斯宣传帖文和报道等渗入西方AI系统。因此,ChatGPT4、Grok、Copilot、Meta AI、Gemini等代表性AI聊天机器人全部受到了扭曲信息的影响。尤其是其中7个聊天机器人还出现了直接将“真理”刊载的报道作为资料来源引用的情况。

专家担忧,在美国迅速向俄罗斯靠拢的形势下,这类虚假宣传信息可能进一步扩散。近期特朗普总统表现出亲俄举动,美国也已中止针对俄罗斯的网络作战。

非营利组织“美国阳光计划”的妮娜·扬科维茨警告称,随着“真理”影响力扩大,亲俄内容可能在LLM训练数据中泛滥。她指出:“‘真理’大规模扩散虚假信息的能力达到了前所未有的水平”,“随着俄罗斯影响力扩大并趋于高端化,这也对全球民主话语构成了直接威胁。”

阅读韩文原文