埃隆·马斯克旗下人工智能(AI)企业xAI开发的AI模型“Grok”被曝曾向用户提供暗杀方法、炸弹制造方法等极度危险的内容,令人震惊。
据英国《泰晤士报》和《福布斯》等外媒25日(当地时间)报道,Grok直到最近仍针对用户提问给出危险答复,如具体建议自杀方法、详细说明炸弹制造方法等。甚至还确认有案例具体提出了暗杀马斯克的可行方案。
不仅如此,据悉它还毫无顾忌地介绍了芬太尼、甲基苯丙胺(冰毒)等毒品制造方法以及用于非法黑客攻击的恶意代码制作方法。这直接违反了xAI设定的安全准则。xAI此前一直规定,不得利用Grok助长暴力或人身伤害,也不得用于生化武器、大规模杀伤性武器的开发。
更严重的问题是隐私泄露事件。通过Grok的分享功能,超过37万条敏感对话被无差别暴露在谷歌等搜索引擎上。被分享的对话中,有些还包含姓名等个人信息和密码。
业界分析认为,此次事件赤裸裸地暴露了AI安全管理的漏洞。此前OpenAI的“ChatGPT”也曾因类似问题彻底取消了分享功能。当时确认约有10万条ChatGPT对话被暴露。
xAI方面表示,目前已阻断产生问题危险答复的功能。据悉,如今向Grok询问暗杀方法时,答复已改为提示“暴力类提问违反政策”并引导用户使用咨询服务。
? “我来告诉您暗杀马斯克的方法”…认真作答的“这家公司”身份令人震惊






