随着包括GPT在内的生成式人工智能(AI)引入成人内容的动向扩散,争论随之而起。正如过去影像等媒体制作公司引入成人内容一样,AI也着手争取付费订阅用户,但担忧也在加大:今后性骚扰等法律与伦理问题显然会随之而来。特别是在AI聊天机器人近来被指对儿童与青少年的极端选择放任不管、责任论浮现之际,有观点指出,若引入成人内容,未成年人接触有害内容的问题也可能更加严重。
OpenAI首席执行官(CEO)萨姆·奥尔特曼14日(当地时间)通过社交媒体X表示,从今年12月起,将依据“把成年用户当成年人对待”的原则,允许通过成人认证的用户使用色情内容(erotica)。
奥尔特曼写道:“计划在数周内推出新版本的ChatGPT”,“如果你希望ChatGPT像人一样更自然地对话,或者希望它像朋友一样说话,我们会让它做到这一点。”他接着解释称:“12月将更完整地引入年龄限制功能,并依据‘把成年用户当成年人对待’的原则,对(年龄)已认证的成年人允许更多内容,例如色情内容(erotica)。”
AI服务企业为争取付费用户正争相推出成人向服务。埃隆·马斯克创立的xAI从今年7月起,在其服务Grok中让用户可以使用“Ani”等可进行露骨性表达(sexually explicit)对话的聊天机器人。
这一动向出现在近来OpenAI被指纵容十几岁青少年极端选择、责任论升温之际。加利福尼亚州一名十几岁少年的父母以ChatGPT对儿子之死负有责任为由,对OpenAI和首席执行官(CEO)萨姆·奥尔特曼提起诉讼。他们主张,儿子在ChatGPT上检索了极端选择的方法并采取了极端选择。在美国联邦贸易委员会(FTC)着手调查青少年安全状况并施压要求制定对策后,OpenAI推出了面向18岁以下用户的专用ChatGPT。
尽管OpenAI在区分成人与未成年人的同时,为争取付费用户而着手允许色情内容,但对此的担忧声正在加大。美国政治专业网络媒体Axios指出,OpenAI此次举措或许有助于增加聊天机器人的付费订阅用户,但也可能借此加大立法议员面临的将相关监管法制化的压力。也就是说,正如历史上录像机(VCR)、数字视频、互动游戏中成人内容曾成为问题一样,AI领域的监管也将不可避免。
特别是在AI聊天机器人使用量激增的情况下,有未成年子女的父母的烦恼可能会加深。律所“博伊斯·席勒·弗莱克斯纳”的合伙人、律师珍妮·金对BBC电视台指出:“到底要怎样阻止儿童接触(AI服务提供的色情内容)?”“现在甚至连能否按年龄妥善提供差异化服务都不清楚。”此前TechCrunch报道称,OpenAI放任未成年人账户也能生成色情内容。
美国加利福尼亚州首次制定了监管儿童及青少年使用人工智能(AI)聊天机器人的法案,监管动向不断加强。该法案自明年1月1日起生效,强制要求运营AI聊天机器人的企业具备平台用户年龄确认功能,以及明确标示AI聊天机器人的所有回答均为人工生成的功能等。此外还要求聊天机器人平台设置能够识别并应对用户自杀冲动或自残表达的装置,并确保未成年人无法看到聊天机器人生成的露骨性图像。
? 孩子看到怎么办……ChatGPT“引入成人内容”让爸妈紧张






