2023-09-03 | 이종호 기자

“无聊,要聊聊吗?”社交媒体泛滥的“AI女友”背后的隐秘真相

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

在Instagram和TikTok等社交媒体(SNS)平台上,利用人工智能(AI)制作的性工作者所做的广告泛滥,已成为社会问题。由于这类广告中并非真人,得以钻过社交媒体自身审查系统无法过滤的漏洞而激增。

据美国NBC电视台1日(当地时间)报道,最近几个月数十家科技初创公司在TikTok、Instagram、Facebook等平台上投放露骨广告,推广助长“性方面不适宜”(not-safe-for-work·NSFW)体验的应用。

这些广告中出现由AI制作的胸部丰满、身着紧身衣的“女朋友”,以“NSFW照片”“定制版海报女郎”“不受审查”的聊天为承诺,露骨地刺激用户。

部分广告使用包含海绵宝宝、饼干怪兽等热门儿童电视角色的表情包,宣传可制作“NSFW照片”的应用。另有广告让看起来不满十几岁的少女以动画形象出现。

NBC电视台报道称,已确认有35名应用开发者在Facebook和Instagram母公司Meta旗下的应用中投放此类性相关广告。据该台报道,这些开发者投放的广告总数超过1000个。

NBC还表示,在另一社交媒体TikTok上,已确认有14名投放刺激性AI广告的应用开发者。这些广告中部分与Meta上投放的广告相同,部分观看量达到数千次。

在这些社交媒体上,直接的性交易广告是严格打击对象,但这类利用AI的新型性内容却未被过滤。

对此,Meta表示,对人制作的内容和AI生成的内容同样适用成人内容禁令;TikTok也说明,禁止性方面具有刺激性的广告,并对出现问题的案例予以删除。

NBC电视台表示,也有观点指出,这类广告正从与真实性工作者区别对待的双重标准中获利。

英国诺桑比亚大学与数字公民中心研究员卡罗琳娜·阿雷批评称:“真实的性工作者无法用自己的形象赚钱,而制作类似AI图像的科技企业却在赚钱。”

阅读韩文原文