2024-02-16 | 김성태 기자

微软拦截滥用AI的朝鲜、中国网络攻击

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

朝鲜黑客组织被发现将超大规模人工智能(AI)用于网络攻击。微软(MS)与OpenAI查处了此类滥用AI的案例并阻断了其访问。

微软16日表示,已于14日(当地时间)公开网络威胁信息摘要报告《网络信号第六版》。

微软通过此次报告重点阐明了在国家背景黑客组织的威胁下保护AI平台的方法。

微软与OpenAI合作,追踪了朝鲜黑客组织“Emerald Sleet”、与俄罗斯军方有关联的Forest Blizzard、与伊朗有关联的Crimson Sandstorm、与中国有关联的Charcoal Typhoon和Salmon Typhoon等的威胁行为。分析结果显示,这些组织正在利用大型语言模型(LLM)强化网络攻击。虽未发现利用LLM的严重攻击,但微软为保护AI平台与用户而阻断了其访问。

微软公布了可缓解国家层面高级持续性攻击(APTs)、高级持续性攻击者(APMs)以及使用AI平台和API的网络犯罪组织威胁的原则。该原则包括对恶意威胁行为者采取措施、向其他AI服务供应商通报访问情况、与其他利益相关方合作等。

微软还分享了利用AI防御网络威胁的方法,介绍了AI通过掌握网络资源或流量使用方式的变化来探测威胁,或识别危险登录及异常行为的方法。同时还说明了探测危险登录与恶意软件的机器学习模型、零信任等内容。微软还持续与研发团体“MITRE”合作,制定网络威胁应对方案。

微软安全部门企业副总裁瓦苏·贾卡尔表示:“为确保AI的未来,我们必须承认技术同时带来新能力与新风险的两面性”,“AI不只是一种工具,而可能成为新的网络安全范式,通过AI防御精密的网络威胁并适应动态的威胁环境,我们将能够确保安全的未来”。

阅读韩文原文