向儿童和青少年提供社交网络服务(SNS)与人工智能(AI)服务的企业,若未妥善采取安全措施而造成损害,每名儿童最高可承担100万美元(约14亿韩元)的责任。
一名儿童受害最高14亿韩元…阻止“成瘾型SNS”
据美联社等13日(当地时间)报道,加利福尼亚州州长加文·纽森签署了由13项法案组成的一揽子立法,对儿童和青少年使用SNS及AI聊天机器人等进行监管。
核心是限制留住16岁以下用户的所谓“成瘾型功能”。分析用户行为和个人信息以持续推送内容的推荐算法,以及无限滚动、自动播放等均被纳入监管对象。
企业责任也随之加重。若认定大型SNS企业在运营平台过程中未尽到保护儿童和青少年的注意义务而造成损害,每名受害儿童最高可获100万美元的损害赔偿。此次监管还包括强化个人信息保护的内容。
在美国,一直有人指出TikTok和Instagram等SNS的部分功能会诱导青少年过度使用,并可能加剧自残或饮食失调等精神健康问题。
此前,Meta在上月26日就一起指称其平台被设计为使儿童和青少年成瘾的民事诉讼达成和解,同意在未来10年内最多支付180亿美元。据此,该公司还决定强化与未成年人使用Facebook、Instagram方式相关的措施。
与AI对话后身亡的16岁少年…甚至有以其名字命名的“亚当法”
AI聊天机器人也是监管的核心对象。此次法案中的一部分以16岁少年亚当·雷恩的名字命名,被称为“亚当法(Adam’s Law)”。据悉,亚当在与AI聊天机器人长时间谈论自杀后身亡。
根据亚当法,AI聊天机器人运营商必须建立在捕捉到自残、自杀等危险信号时可作出应对的危机处理程序,以及家长控制功能等安全装置。法案还要求在服务上线前评估对儿童的风险,并实施独立的儿童安全审计等。
对AI生成的有害内容的监管也得到加强。不仅是对18岁以下未成年人进行性描写的真实内容,由AI生成或通过数字技术合成、篡改的性内容也被纳入监管范围。此外还规定在4年内禁止制造和销售搭载AI聊天机器人功能的玩具。
纽森州长表示:“我希望我们的孩子成长在一个技术支持孩子幸福、而不是利用孩子脆弱之处的世界里。”其用意是,安全装置的强化应与技术发展速度相匹配。
大型科技公司总部所在地成监管先锋…业界反弹与诉讼可能性
此次举措受到关注的另一原因,是它出自谷歌、Meta、Snap等世界级科技企业扎根的加利福尼亚州。《华盛顿邮报》评价称,尽管其他州也在推进限制青少年使用SNS的立法,但此次举措出自拥有硅谷的加州,意义重大。
业界也出现反弹。Meta认为,定制化推荐并不一定只是对青少年有害的功能。Meta方面主张,具备适当安全装置的个性化功能可以向青少年展示符合年龄、兴趣度高的内容,并起到与家人、朋友建立联系的作用。
相反,儿童保护团体则反驳称,无限滚动和自动播放等功能本就被设计为延长用户停留时间,因此为保护青少年需要监管。
法律实施前仍有障碍。《华盛顿邮报》预测,在民主党掌控的加州议会通过的此次监管,今后很可能面临法律诉讼。从大型科技公司总部所在地开始的监管能否真正落地,并扩散至美国其他州的SNS与AI监管,是关键所在。






