在一对父母以孩子之死归咎于ChatGPT为由提起诉讼之际,OpenAI决定于本月底推出面向18岁以下用户的专用ChatGPT。这是将青少年用户安全放在首位的举措。
OpenAI于16日(当地时间)表示:“将推出包含面向18岁以下用户的单独保护功能的ChatGPT服务。”未成年人登录时将自动切换至专用环境,涉及性或暴力的对话将被从根源上阻断。若发生严重危机情况,该设计允许执法机构介入。
提高年龄识别准确度的技术也将同步推进。OpenAI解释称:“若难以确定年龄或信息不足,将默认引导至未成年人专用ChatGPT。”
监护人功能也进一步强化。家长可将自己的账户与子女账户关联,限制使用时间或预先设定聊天机器人的回答方式。此外,若子女表达严重的精神痛苦,家长可立即收到通知并作出应对。
此次决定出台之际,美国联邦贸易委员会(FTC)近期已对包括OpenAI在内的AI企业启动青少年安全状况调查。FTC曾表示:“为确认聊天机器人对儿童和青少年可能造成的不良影响,已要求提交资料。”
OpenAI首席执行官(CEO)萨姆·奥尔特曼当天在博客中强调:“相比青少年的自由或隐私,我们更重视安全”,“这项技术越强大,对未成年人就越需要特别的保护装置。”他还补充说:“决定推出专用ChatGPT并不容易,但在与专家讨论后判断这是最佳选择。我们希望透明地公布我们的方针。”






