2025-12-23 | 김도연 기자

看到市民被过度制服的视频喊“警察怎么这样?”……原来是AI伪造视频

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

抽烟的学生嘲讽警察、警察强行制服市民等场面的视频正在网上扩散。但这些视频均被确认并非真实情况,而是用人工智能(AI)制作的“假冒警察出警视频”,加剧了社会混乱。

据IT业界23日消息,此类AI合成视频自10月2日起陆续发布在某YouTube频道及Instagram、TikTok等社交网络服务(SNS)上,目前已超过50个。共同点是都被制作成警察出警处理斗殴、争吵、酒驾查处现场的执法记录仪影像模样。

一条视频中,警察制止在街头穿校服吸烟的学生:“你是○○女高的学生吧?学生不能抽烟,快掐了。”学生则反驳“与你何干”。随后看到警察执法记录仪的学生嘲讽道:“你刚才在偷拍(非法拍摄)吗?”“警察到处偷拍?真是变态。”警察则以为难的声音说:“最近的学生真是要疯了……”

另一条视频中出现了在京仁国铁(首尔地铁1号线)富川站附近做网络直播的主播。该主播对以影响市民通行为由要求其结束直播的警察辱骂并扑上去。之后警察将其按倒在地制服,并说出“以侮辱罪及占用公共道路将你逮捕”的场面。

这些视频全部是用AI制作的虚假内容。尽管如此,仅10月一个月在Instagram上的累计播放量就达1200万次,相关TikTok频道的粉丝数一个月内增至9900人,在网上迅速扩散。

问题在于相当多用户将其误认为真实的警察执法记录仪影像。有分析认为,这与上月27日从首都圈开始、本月初扩大至大田的警察执法记录仪在全国投入使用的时点重叠,加剧了混乱。实际上,制服主播的视频下还出现了“警察压制市民自由”等批评留言。

近期一名YouTuber上传视频质疑警方对违章停车举报的处理方式,辖区警察署长出面回应称“请停止猎巫”,在警察过度执法等误解不断扩大的情况下,也有人担忧AI假视频会放大这种不信任。

对此,Korean National Police Agency表示,为防止AI制作的虚假视频传播造成损害扩大,将对相关SNS频道启动立案前调查(内查)。警方认为频道运营者是出于为自己或他人谋利或造成损害的目的进行虚假通信,正优先考虑适用违反《电气通信基本法》的嫌疑,同时将并行推进视频删除或屏蔽措施。

不过也有人指出,能否真正落实处罚尚不明朗。规定处罚以损害公益为目的进行虚假通信行为的《电气通信基本法》第47条第1款,因2010年所谓“密涅瓦事件”被判违宪而废止。替代该条款的明确处罚规定至今尚未出台。

将于明年1月实施的AI基本法同样更侧重产业振兴而非监管,未能纳入直接规制引发社会混乱的AI虚假内容的内容。因此有观点指出,需要出台应对AI合成视频扩散的补充立法。

阅读韩文原文