2025-09-16 | 박윤선 기자

"帮我写封钓鱼邮件"…骗子最爱用的AI工具竟是[全球观察]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

将日益聪明的生成式人工智能(AI)滥用于犯罪的案例不断增加。犯罪组织正积极将AI引入诈骗,用生成式AI制作钓鱼邮件、以貌似可信的话术欺骗受害者。

15日,路透社通过肯尼亚人邓肯·奥金多的证词报道称,中国和东南亚的犯罪组织正在利用AI。奥金多去年被“来泰国就给工作”的提议骗走,在位于缅甸与泰国边境的诈骗组织被强制劳动了四个月。奥金多被带去的地方名为“KK园区”,据悉由中国人主导的犯罪团伙运营。

奥金多称,组织成员让他们利用ChatGPT去诈骗美国的房地产中介。手法是假装富有投资者接近中介,骗取钱财。当中介就房地产市场或加密货币等提问时,他们就迅速用ChatGPT生成看似可信的回答并发过去。部分被强制劳动者被用于利用ChatGPT实施的“杀猪盘”式恋爱诈骗。另一名来自缅甸的强制劳动受害者也表示:“我们用ChatGPT生成的诗和调情信息同时向数十人示爱”,“AI富有说服力的文字让受害者更加信任我们。”

奥金多说:“ChatGPT是诈骗者执行工作时使用最多的AI工具。”

OpenAI方面表示正在努力防范诈骗,但结果显示,只要以“用于写小说”或“研究目的”为借口,AI就会轻易配合行骗。

路透社与哈佛大学研究团队利用主要AI聊天机器人制作针对老年人的假钓鱼邮件,并对108名老年志愿者进行测试,结果约11%的人点击了恶意链接。路透社称,聊天机器人不仅代写冒充税务机关或主要银行的假邮件、就发送时机提供建议,甚至还提供了让受害者更晚察觉受骗事实的掩盖策略。

包括埃隆·马斯克的Grok在内,ChatGPT、Meta AI、谷歌Gemini、Claude、DeepSeek等6款主要聊天机器人表面上都接受过防诈骗训练,但只要以写小说或研究目的这类简单借口,就轻易被骗而代写钓鱼邮件。路透社还补充称,Grok在制作假慈善机构邮件时,甚至自行添加了“现在就点击,趁还不算太晚!”这样营造紧迫感的语句。

美国联邦调查局(FBI)警告称,生成式AI导致诈骗犯罪激增,并公布称60岁以上美国人的网络诈骗受害申报较去年增加8倍,损失至少达49亿美元。

? “帮我做个钓鱼邮件” …诈骗者爱用的AI工具正是

阅读韩文原文