2025-02-24 | 김윤수 기자

仅需30韩元便可在5秒内窃取个人信息……KAIST警告AI助手被用于黑客攻击

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

韩国国内研究结果显示,OpenAI、谷歌等开发并逐步商用化的人工智能(AI)智能体(助理)服务容易被滥用,进而导致个人信息被窃取。近期谷歌撤回了不将AI技术用于武器或监控的原有承诺,引发AI被滥用的担忧,研究团队强调政府和业界应提前制定安全对策。

韩国科学技术院(KAIST)24日表示,电气与电子工程学部教授申承源、金在哲AI研究生院教授李基民的联合研究团队通过实验验证了大型语言模型(LLM)在实际环境中被用于网络攻击的可能性。尽管OpenAI、谷歌等大型科技公司已制定防御机制以阻止LLM被滥用,但仍可轻易绕过。研究成果将在计算机安全领域国际学术会议“USENIX Security Symposium 2025”上发表。

研究团队确认,与以往黑客窃取个人信息需耗费大量时间和精力不同,利用基于LLM的AI智能体,平均可在5~20秒内以30~60韩元的成本完成个人信息窃取。AI智能体能以最高95.9%的准确率收集攻击目标的个人信息。此外,在冒充知名教授生成虚假帖子的实验中,93.9%的帖子被认为是真实的,暴露出AI的漏洞。

研究团队还表示,仅利用受害者的电子邮件地址就能生成针对受害者高度优化的精巧钓鱼邮件,实验参与者点击此类钓鱼邮件中链接的概率最高增至46.67%。

申教授表示:“本次研究有望成为信息安全和AI政策改善的重要基础资料”,“计划与LLM服务提供商及研究机构合作,商讨安全对策”。

阅读韩文原文