2024-04-15 | 김성태 기자

从钓鱼邮件到深度伪造技术…借“生成式AI”进化的朝鲜黑客攻击

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

外界日益担忧,朝鲜可能利用人工智能(AI)等尖端技术提升网络攻击水平。目前利用生成式AI的网络攻击仍处于初期阶段,但也有预测认为,在国会选举后的混乱局势下,或在11月美国总统选举前,深度伪造或假新闻散布的尝试可能接连出现。据确认,朝鲜国务委员长金正恩去年底曾指示“制定明年初在韩国引发巨大波澜的方案”,安保部门的紧张感因此加剧。因为朝鲜是按照金正恩的指示和关注点挑选网络攻击目标的,国会选举后可能正式展开分裂国民舆论、动摇政府的威胁行动。National Intelligence Service近期也发现朝鲜黑客利用生成式AI寻找黑客攻击对象、检索攻击所需技术的迹象。

事实上,朝鲜已开始将AI用于网络攻击。微软和OpenAI上月表示,朝鲜等国将超大规模AI用于黑客攻击。特别是朝鲜黑客组织“金秀基”的另一名称“绿宝石缝隙”滥用生成式AI,撰写针对特定人物的“鱼叉式网络钓鱼”邮件初稿,滥用AI针对具备朝鲜问题专业知识的人士生成钓鱼邮件。此外还发现其利用AI调查研究朝鲜的外国智库。谷歌云的网络安全部门Mandiant去年8月警告称:“已确认被称为朝鲜金秀基的APT43对可广泛用于网络间谍活动的大语言模型(LLM)表现出兴趣”,“看来有可能利用LLM执行任务,但其目的尚不明确”。

也有部分观点认为,朝鲜将利用AI技术制作的“深度伪造”内容引发社会混乱。初步分析认为并非朝鲜幕后组织所为,但1月底YouTube频道“Big Big Politic”上曾发布金正恩面带笑容按下令人联想到“核按钮”的红色按钮的视频。

虽是“深度伪造”内容,但有可能影响对安保议题敏感的选民。拥有626万订阅者的YouTube频道“就是普京”上上传了俄罗斯总统弗拉基米尔·普京与金正恩视频通话的深度伪造视频。尽管附有“恶搞”或“梗”的说明,但这表明AI随时可以让有影响力的人物出场,散布并非真实的虚假信息。

国际社会也在警惕朝鲜滥用技术的可能性。美国国家安全委员会(NSC)负责网络与新技术的副国家安全顾问安妮·纽伯格上月在华盛顿邮报(WP)主办的活动上指出:“矛盾的是,朝鲜是最具创造性和创新性地运用新技术的国家之一。”

滥用AI的假新闻可能动摇国家体系,需多角度加以防范。因为若基于虚假信息形成的舆论作出错误决策,可能给国家利益造成巨大打击。总统尹锡悦也对此表示担忧,上月在“第三届民主峰会”以“技术、选举与假新闻”为主题的第二场会议开场发言中强调:“特定势力有组织地制作和散布的假新闻,不仅传播错误信息,还引发社会矛盾与分裂”,“应共同打造能够发现并清除假新闻的AI和数字系统,以对抗滥用AI和数字技术制造假新闻的势力”。尹锡悦表示:“如果恶意假新闻和虚假信息仍不停止,就必须展开强有力且系统化的共同应对宣传战。”

联合国会员国上月21日(当地时间)在美国纽约联合国总部举行大会,一致通过决议,内容为应紧急就AI的安全使用达成国际共识。美国常驻联合国代表琳达·托马斯-格林菲尔德在大会演讲中表示:“像深度伪造这样由AI生成的内容,有可能损害政治辩论的真实性。”

阅读韩文原文