在美国加利福尼亚州法院,原告——20多岁的女性凯莉说:“每次我想给自己设限,都不管用。就是关不掉。”她从6岁起使用YouTube,9岁起使用Instagram。随之而来的是抑郁症、自残和身体畸形恐惧症。今年3月,法庭陪审团认定,这并非凯莉的软弱,而是平台的设计缺陷所致。无限滚动、自动播放、无休止的通知和推荐。所有这一切,都是驯化了孩子大脑的“有缺陷的产品”。
Meta和谷歌被裁定赔偿600万美元(约81亿韩元)。这是两家公司约6000亿美元年营收的0.001%。相当于对年薪5000万韩元的人罚款500韩元。金钱的分量很轻。然而这一判决具有历史意义的原因不是数字。它首次向近30年来藏身于“我们对内容不负责”免责条款背后的科技巨头追究了责任。凯莉的审判是将决定数千件待审同类诉讼走向的先导性审判。法律界将其比作1990年代烟草诉讼撼动整个行业。
在法庭缓慢推进之际,各国政府先行动了起来。澳大利亚去年12月在全球率先全面禁止16岁以下青少年使用社交网络服务(SNS)。违反者将被处以最高480亿韩元罚款,对象不是用户而是相关平台。实施仅一个月,470万个账号消失。今年3月,印度尼西亚在亚洲率先实施同样措施。丹麦、巴西、马来西亚也相继跟进。
烟草有害数十年前便已为人所知,但监管却在很久之后才随之而来。未成年人饮酒也是如此。禁止向18岁以下售酒并非总能被完美遵守,但我们知道这项监管本身是正确的事。同样,一些青少年会通过虚拟专用网络(VPN)绕行使用社交媒体,但门变窄了,进来的人数自然会减少。
批评声也不小。澳大利亚人权委员会指出,该法可能阻碍青少年的社会参与,从而侵犯人权。对性少数群体或移民青少年而言,社交媒体或许实际上是唯一的支持性共同体。但这不构成什么都不做的理由。这场斗争的本质只有一个:算法设计出的成瘾,责任在谁。平台一直主张:“我们只是架了桥,对在桥上行走的人的行为不负责任。”凯莉的陪审团认定,桥本身就是陷阱。
问题不在于禁止还是允许,而在于以何种设计来保护。凯莉的故事并非只发生在遥远国度的法庭上。看着上初中的女儿整天手机不离手,我不得不承认,设计的陷阱已铺设到了我们家中。我们自己是否一直在默许平台错误的设计,这值得认真思考。






