2026-09-07 | 조윤진 기자

[独家] “阻止犯罪AI代理”…政府将制定科学治安中长期战略

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

为应对快速升级的人工智能(AI)相关犯罪,政府将制定国家科学治安战略。原因在于,AI不仅被用于深度伪造视频、深度伪造语音等制作,还有被滥用于从寻找受害者到诱导获取机密信息和钱财的犯罪全过程之忧。政府计划对应对AI新型犯罪的研发(R&D)项目进行全面普查分析,制定中长期战略。

7日,据韩国科学技术情报通信部及总统直属科学技术咨询会议消息,政府不久将启动构建科学治安体系及制定国家战略的研究。依据《警察法》第33条及治安领域科学技术振兴相关规定,Korean National Police Agency每五年制定治安领域科学技术振兴综合计划,但政府认为仅凭此难以有效遏制AI相关犯罪。

政府相关人士解释称:“Korean National Police Agency的现有计划是把研发和单年度实务项目整体囊括在内的粗线条形式,而Korean National Police Agency的研发与国防领域相比,在预算、组织等方面稍显薄弱”,“新型犯罪正以AI、暗网等技术为媒介趋于智能化、非接触化,因此有必要聚焦研发,提出中长期视角的路线图”。事实上,据Korean National Police Agency数据,作为典型AI相关犯罪的“违反性暴力处罚法的虚假影像物(深度伪造)编辑、传播等”犯罪发生件数由2023年的168件增至2024年的550件、去年的1300件,呈激增态势。

问题在于,AI不仅停留在处理具体指令,还可能发展到自行实施犯罪。联合国毒品和犯罪问题办公室(UNODC)在去年的报告中指出:“市面上正在出售打包了恶意网站和电子邮件模板、只需极少努力即可部署的钓鱼工具包”,“在印度尼西亚运营的‘16shop’工具包以约60美元(约8万韩元)在暗网出售,导致43个国家逾7万人受害,并生成了超过15万个钓鱼域名”。WormGPT、FraudGPT、Nytheon AI等同样被认为是针对钓鱼犯罪优化的软件即服务(SaaS)型黑客工具。

美国基于AI的情报与威胁监控企业Overwatch Data联合创始人兼首席技术官(CTO)扎拉·佩鲁马尔去年7月出席美国众议院司法委员会小组委员会时警告称:“智能体AI正成为网络犯罪领域的新趋势”,“与遵循固定脚本的传统机器人不同,只要给出关于诈骗手法的大致说明,AI智能体就会自行梳理分步流程并按需调整方式,以比现有系统更难被检测、更持久的方式实施犯罪”。全球AI智能体市场预计将从去年的78.4亿美元(约11万亿韩元)猛增至2030年的526.2亿美元(约71万亿韩元),而AI智能体竟也被用于犯罪。

对此,政府计划对生成式AI出现后韩国国内推进的暗网毒品侦查、关系型犯罪预测平台等新型犯罪应对研发项目进行全面普查分析。在掌握一线现场所需技术后,分析这些需求技术目前的成熟度,并基于研发供需分析诊断国内研发的盲区。科学技术咨询会议计划借此建立从预防到侦查、受害者保护的全周期应对及综合支援体系,并于明年上半年前后制定国家科学治安战略。

另一方面,政府还计划对应对AI犯罪的组织进行整合运营。此前政府于今年6月启动AI犯罪应对跨部门协议体,随后正在推进新设统管AI犯罪应对工作的AI犯罪综合应对团。广播媒体通信委员会相关人士表示:“综合应对团将发挥AI犯罪应对指挥塔的作用,包括制定跨部门综合应对计划及履行管理、部门间协作与角色协调、政企合作、发生社会性问题时启动快速应对体系等。”

阅读韩文原文