英国政府决定对上传由人工智能(AI)生成或未经受害者同意拍摄的性虐待图像的平台企业实施48小时内强制删除的监管规定。
当地时间19日,英国科学创新技术部(DSIT)在新闻稿中表示,对未在期限内删除内容的企业,可处以最高相当于营业额10%的罚款,或封锁其在英国境内的服务。
受害者可向英国广播通信监管机构通信管理局(Ofcom)或平台企业直接举报受害事实,通信管理局在接到举报后发出删除警告。此前英国政府已将未经同意拍摄性虐待图像的制作或分享行为定为“优先犯罪”,并归类为与儿童虐待和恐怖主义同等严重的犯罪。
监管机构还在考虑为性虐待图像附加数字标签,一旦该图像被再次上传即自动删除的方案。此外,针对不受《在线安全法》监管的非法在线网站,还将发布具体指引,使互联网服务提供商(ISP)可以封锁访问。
英国首相基尔·斯塔默强调:“网络世界是对抗针对妇女和女童暴力的21世纪战斗的最前线”,“这正是我们政府对聊天机器人和‘脱衣’(nudification)工具采取紧急措施的原因。”
此次举措源于社交网络服务(SNS)上AI深度伪造图像激增。特别是通过X的AI聊天机器人Grok大量传播真实人物的深度伪造图像,凸显了监管必要性。据《卫报》分析,Grok聊天机器人每小时收到约6000条制作比基尼照片的请求。一项研究显示,Grok发布的图像中有85%含有性内容。儿童安全团体还在暗网上发现了AI生成的儿童性图像。
在国际批评持续之际,X上月开始采取应对措施,包括禁止生成以真实人物为对象的比基尼、内衣、暴露服装图像,并将图像生成和编辑功能限于付费订阅用户。不过,以“Grok事态”为契机,各国的SNS监管动向呈扩散之势。欧洲部分国家也在考虑引入澳大利亚的“禁止青少年使用SNS法”。
此次监管方案也是在间接牵涉杰弗里·爱泼斯坦丑闻的斯塔默首相面临辞职压力之际公布的。斯塔默首相一直因明知前工业大臣彼得·曼德尔森与杰弗里·爱泼斯坦关系密切却仍任命其为驻美大使而受到批评。斯塔默首相对《卫报》表示:“必须让加害者和放任危害的企业承担责任”,“这一举措对于克服网络厌女这一‘国家紧急状态’是必要的。”






