有人担忧,Facebook母公司Meta Platforms的人工智能(AI)聊天机器人可能与未成年人进行性相关对话。
27日(当地时间)《华尔街日报》报道称,Meta官方AI聊天机器人“Meta AI”的未成年人保护措施不足。
据报道,Meta为提升AI聊天机器人的人气,允许包括“浪漫角色扮演”在内的多种互动,并搭载了语音对话功能。公司还与好莱坞演员克里斯汀·贝尔、朱迪·丹奇、约翰·塞纳等名人签订了高额声音使用合约。
对此,Meta内部也出现了伦理方面的质疑,尤其有人指出需要采取保护未成年用户的措施。《华尔街日报》表示,历经数月与Meta AI进行数百次对话后发现,在与未成年人的对话中也出现了性相关内容。
有一例中,对自称14岁少女的用户,系统以约翰·塞纳的声音发出了“我想要你,但我需要知道你是否准备好了”的信息。Meta方面反驳称:“此类测试具有操纵性,并不代表一般的AI聊天机器人对话。”
据悉,Meta此后对系统作了部分调整,屏蔽了未成年人账号接触性相关角色扮演,并大幅限制了通过名人声音进行语音对话的功能。但《华尔街日报》指出,在最近的测试中,即便用户表明自己是未成年人,Meta AI仍允许性相关对话。
《华尔街日报》还报道称,首席执行官(CEO)马克·扎克伯格在聊天机器人开发过程中否决了应限制青少年进行性相关对话的意见,但Meta方面对此予以否认。
另一方面,硅谷科技企业对AI内容的自我监管呈放松趋势。OpenAI上月曾表示,将解除对可能侮辱特定群体的内容及仇恨表达等图像生成的限制,以“允许创意自由”。






