中国代表性人工智能(AI)初创企业月之暗面的大语言模型(LLM)“Kimi”发生了他人敏感个人信息被直接暴露的安全事故。这不仅是简单的信息错误,还显现出用户之间数据相互混淆的迹象,当地用户的不安情绪正在加剧。也有人指出,中国AI企业在急于变现与上市的同时,却忽视了最基本的安全管理。
请求翻译却收到别人的简历?安全事故引发“骚动”
争议始于本月20日夜间。一位化名张成的网民在社交网络服务(SNS)上发帖称,他请Kimi翻译一张英文PPT图片,却收到了一个完全不认识的人的简历。
据称,该PPT中只有“核心玩家业绩分析”“下月活动筹备”等极为简单的内容,但Kimi未能识别,反而开始讲解毫不相关的“减振技术”。当用户提出疑问后,Kimi突然发来了他人的简历。据称该简历包含姓名、电话号码、电子邮件、经历、业绩等敏感信息。
随后该用户通过电话号码与当事人取得联系,确认信息与实际情况一致。信息被泄露的当事人称,当天上午曾使用过Kimi的“简历修改”功能。
“只是AI幻觉”的牵强解释……专家称“明显是管理疏漏”
月之暗面至今未发表官方立场,保持沉默。不过据爆料者称,有自称月之暗面员工的人士多次联系,主张此次事件只是“AI幻觉(Hallucination)”现象导致的简单事故,并要求删除帖子。
专家的看法不同。有人指出,此次案例并非简单的信息失真,而更接近不同用户数据相互混淆的所谓“串话(Cross-talk)”现象。也就是说,问题源于数据隔离与访问权限管理等系统架构整体的设计缺陷。
特别是连简单的翻译请求都无法理解、执行了无关任务,甚至从他人数据库中调取并展示个人信息,这表明模型的可信度与性能本身存在严重瑕疵。位于广东省深圳的国鼎律师事务所首席律师廖建勋对当地媒体界面新闻表示:“此次事件并非不可避免的技术局限,而是暴露了系统与个人信息保护体系的明显漏洞”,“不能把‘AI幻觉’当作逃避法律责任的借口。”
失去信任的Kimi,IPO前的重大利空……AI安全争议不断
有观点认为,此次事故对目标在今年下半年赴港上市的Kimi将成为重大利空。因为Kimi一直以判例、合同等长文档分析能力为优势,主攻律师与研究人员等专业人士用户。
实际上,此前依靠付费订阅模式稳固盈利能力的Kimi,在此次事件后遭到部分用户强烈反弹,他们纷纷晒出停止订阅的凭证。目前中国AI市场上100多个模型林立、竞争激烈,正处于所谓“百模大战”之中,每一位用户都十分宝贵。特别是对于一直推进企业级解决方案变现的月之暗面而言,失去最看重安全与合规的企业客户的信任,尤为痛苦。
个人信息泄露争议并非只有Kimi存在。去年5月,中国有关部门公布智谱AI的“智谱清言”等35款应用非法收集个人信息;今年4月,字节跳动的“豆包”在回答关于未来配偶的问题时暴露了他人真实姓名与电话号码,引发争议。在去年9月进行的中国大模型安全测试结果中,也共发现281项安全漏洞。






