以AI为基础的信息技术(IT)能否解决深度伪造性犯罪,正受到关注。
据IT业界30日消息,基于AI的网络威胁情报(CTI)专业企业SandsLab正在开发生成式AI负面功能抑制平台,以及面向网络安全的检索增强生成(RAG)小规模语言模型(sLLM)。生成式AI负面功能,指AI技术被用于生成虚假信息和假新闻、侵犯著作权、制作深度伪造、被网络犯罪滥用等负面或意料之外的方式。
韩国科学技术情报通信部与信息通信规划评价院(IITP)曾以开发抑制AI负面功能的网络安全专用RAG小规模语言模型模型、并构建国民可感知型平台为课题,发布总规模100亿韩元的“信息保护核心源头技术开发项目”。SandsLab今年4月中标该项目,正与LG U+、Fourty Two Maru、Logpresso、韩国科学技术院(KAIST)共同开展研发。
SandsLab认为,通过应用研发课题之一“生成式AI负面功能检测应对技术”的国民可感知型平台,可以检测并应对近来成为社会问题的钓鱼攻击、假新闻生成、恶意代码大量生产、语音合成、深度伪造图像及视频制作等滥用AI的新型数字犯罪。
正在开发的国民可感知型平台不仅集成各类检测技术,还汇集用于结果说明的RAG、解密等多种AI相关技术,并包含用于检测和拦截短信钓鱼及语音钓鱼的移动应用。SandsLab期待,通过与LG U+共同研发的深度伪造视频及图像检测技术,开发深度学习算法、应用对抗生成网络(GAN)技术的对抗性学习方法、进行多模态数据分析等,能够更准确、更精细地检测深度伪造。
SandsLab还计划为实现在实时视频流或社交媒体平台上的即时检测,对模型进行轻量化并将复杂度降至最低,应用能够保持或提升检测准确度的优化方法。公司相关人士表示:“SandsLab拥有可用于训练AI模型的PB(Petabyte)级数据集,因此能够自主开发网络安全专用AI模型和sLLM,该数据集还可向AI模型开发企业供应,期待今后在全球大数据市场上实现数据集销售。”






