上班路上,下班路上。为您解读线上线下热议的各种议题。不止于传递事实,还一并呈现经济价值与社会意义。世上所有议题,都为你解开!
“只是和AI聊了聊,结果短信就发给了熟人。”
随着超越搜索与文档撰写、可实际执行操作的“AI智能体”时代到来,围绕自动执行功能的控制与责任问题正浮出水面。
据AI业界29日消息,近日一位谷歌Gemini用户在社交网络服务(SNS)上分享了一段离谱经历。在与AI讨论假设偷渡进入中国的虚构情景时,Gemini生成的所谓“偷渡宣言”竟以短信形式实际发送到了熟人的手机上。该消息在凌晨时段被发送给平时交情不深的熟人,令其更加尴尬。
◇“并非擅自发送”…自动执行的陷阱
据谷歌方面解释,Gemini并非擅自行动。Gemini在安卓智能手机上正式提供发送短信的功能,用户指定联系人并请求发送时,会经过确认程序后发出消息。谷歌提出,用户可能在被问“要发送短信吗”时无意中点了“是”。
问题在于这一过程中没有可以再停一步的安全装置。若在对话过程中不经意作出选择,敏感内容可能就这样传给了并非本意的对象。目前该功能仅在安卓智能手机上运行,但苹果已预告将在Siri中搭载Gemini,因此难以排除今后在iPhone上出现类似情况的可能。
◇核心在于“自动联动”…关掉也仍然存在的功能
此事背后是Gemini的“智能体功能”。Gemini被设计为与短信、电话、计时器、工具类应用等联动,从而执行实际操作。
这一结构从去年起就已引发争议。据IT媒体TechRadar去年7月报道,若用户不单独更改设置,Gemini可自动访问消息、电话等应用。尤其被指出的问题是,即便关闭“Gemini应用活动记录”,部分联动功能仍会保留,形成用户在不知情状态下也可能发送短信或发起通话的结构。
要彻底阻止该功能,须在安卓设置中直接解除联动,或停用该应用本身。加密邮件服务企业Tuta当时批评称,“在未获得用户明示同意的情况下启用自动功能,属于透明度问题”。
◇Gemini个人信息收集“数量最多”…需要双重安全装置
这类担忧并非只是感觉。去年10月,全球VPN企业Surfshark分析主要生成式AI应用的个人信息收集项目后发现,谷歌Gemini被归类为调查对象中收集个人信息项目最多的服务。
除账户信息外,位置信息、联系人、用户内容、使用记录等广泛数据也被纳入收集范围。尤其在与短信、电话等设备功能联动的结构下,用户难以直观了解AI在何种情境下使用了哪些数据,这被视为风险因素。
Surfshark指出,“功能越高级,AI所访问的数据范围也随之扩大”,“在追求便利性的同时,必须检视个人信息的可控程度”。
另一方面,对AI智能体的担忧已从移动端延伸至PC环境。可执行邮件回复、浏览器操作、编程乃至支付的AI智能体“Claude Bot(现Moltbot)”正在开发者中迅速扩散,但由于其直接接入个人PC的结构,聊天记录或API密钥等敏感信息外泄的可能性被提出。有人指出,便利性越大,对控制与安全的担忧也随之增加。
AI业界一位相关人士表示,“过去是人让AI做事,现在正进入AI自行行动的阶段”,“对于短信或支付这类无法撤回的行为,至少需要双重安全装置”。






