在各类社交媒体(SNS)和YouTube等平台上人工智能(AI)图像扩散之际,出现了利用其传播政治信息的案例,引发的担忧不断加剧。
近日,卢武铉基金会理事黄希斗通过自己的社交媒体账号表示“年轻女性极右知名账号的真实身份终于暴露”,并揭露该账号内的内容是用“AI深度伪造”技术制作的。
黄理事截图分享了一个在Instagram上活动的账号的道歉声明。此前该账号一直上传看似20多岁女性的照片,并发布“尹再来”等政治信息,账号主人表示“我必须说一声抱歉”,并承认自己其实是男性。他说“向感到被背叛的各位道歉”,随后即删除了账号。
黄理事指出,“AI技术已发展到人眼难以区分真假的程度”,“这不是单纯的技术问题,而是攻击人类认知过程的认知战典型案例”。他表示,“最近还有盗用空乘、网红等真实女性面孔来高喊‘灭共’‘尹再来’的案例”,称除利用AI技术外,盗用照片的犯罪也频繁发生。
黄理事表示,“这种方式不是单纯引起关注,而是制造虚假民意的典型宣传手法”,担忧其可能摧毁社会信任。他说,“上当的人相当多。这不是个人判断力的问题,而是通过反复曝光和算法放大所设计出的认知环境的结果”。他还警告,“若对(滥用AI技术、盗用犯罪)放任不管,民主主义本身可能崩塌”。
另一方面,近期在网络上走红的、被棒球转播画面捕捉到的一名女性视频也被推测为AI生成内容。本月初,社交媒体和网络社区上,一段拍到观众席上观赛女性的视频引发极大热议。视频中的女性身穿白色露肩上衣和牛仔裤,翘着腿投入比赛,似因球员表现而感到郁闷叹了口气。看到该视频的国内外网民纷纷热捧,称其为“韩国棒球女神”。
当这段约5秒的视频获得超过810万次播放后,棒球迷中出现了“AI伪造视频”的质疑。转播画面上投手标注为金瑞贤、打者为赵仁成,而金瑞贤2023年加入韩华集团,赵仁成1998年加入LG双子队并于2017年退役,目前担任教练。对此棒球迷指出,“两名球员在场上对决是不可能的”。
通过社交媒体扩散的AI图像引发争议并非首次。上月大田动物园的狼“勒古”出逃时,就曾有用AI伪造的目击照片扩散而引发问题。最终制作并传播该图像的40多岁A某因涉嫌妨碍警察、消防部门搜索(以伪计妨碍执行公务)被大田警察厅网络调查队抓获。






