从浏览量突破800万次的“棒球场女神”人工智能(AI)视频,到声称发现失踪“狼狗(Neukgu)”的AI伪造照片。在AI生成内容对韩国社会影响力不断扩大之际,外媒指出,若照此发展,现实感可能崩塌。
香港《南华早报》(SCMP)17日(当地时间)刊发题为《缺乏现实感:韩国为何在AI上走错方向》的报道。SCMP提及了近期在社交媒体(SNS)上引发热议的“AI棒球场女神”视频、大田“狼狗”出逃事件中的AI合成照片风波等。
本月初,社交媒体和网络社区上,一段拍摄某女性观看棒球比赛的视频引发极大关注。视频中,一名身穿白色一字肩上衣和牛仔裤、双腿交叠、专注看比赛的女性,令国内外网民热议称其为“韩国的棒球女神”。
这段约5秒的视频瞬间取得800万次以上的浏览量后,棒球迷中接连有人指出这是“AI伪造视频”。转播画面上投手标为金瑞贤、打者标为赵仁成,而金瑞贤2023年加入韩华集团,赵仁成1998年加入LG双子,2017年退役后目前担任教练。对此棒球迷指出:“两名选手在场上对决是不可能的。”
上月大田动物园狼“Neukgu”出逃时,也曾因AI伪造的目击照片扩散而引发问题。最终,制作并传播该图像的40多岁A某因妨碍警方与消防部门搜索(以伪计妨碍公务执行)嫌疑,被大田警察厅网络调查队抓获。
AI安全研究所所长金明柱对SCMP表示:“在对外貌和形象有着高度文化关注的韩国,AI正扮演着让被压抑的欲望与挫败感获得替代性满足的‘扭曲镜子’角色”,并警告“对AI的过度沉浸可能助长逃避现实、降低生活满意度,形成恶性循环”。实际上韩国AI滥用问题已相当严重。据视频编辑平台Kapwing数据,韩国人消费的AI垃圾内容(诱导点击的低质AI内容)为全球最多。
甚至引发政治混乱……“亟需讨论解决方案”
SCMP指出,在韩国AI还被用作“政治武器”。近期,一个在Instagram上发布看似20多岁女性照片、并刊载“尹再来”等政治信息的账号主人称“我必须说一声抱歉”,并透露自己实际上是男性。他说“向感到被背叛的人们道歉”,随后删除了账号。对此,卢武铉基金会理事黄希斗表示:“这种方式不只是单纯引流,而是制造虚假民意的典型宣传手段”,并担忧此举会摧毁社会信任。
国际人工智能伦理学会(IAAE)理事长全昌培强调:“在出现更大问题之前,政府、学界、企业和公民都应共同讨论并研究解决方案。”






