“人工智能(AI)技术如何被使用,既可能成为威胁网络安全的‘矛’,也可能成为改善安全系统的‘盾’。”
RaonSecure白帽中心负责人(专务)尹元锡20日在接受Seoul Economic Daily采访时表示,今年企业需警惕的网络安全威胁包括利用AI的黑客攻击智能化、勒索软件高级化以及云安全威胁。
他特别强调,必须防范以生成式AI等新技术为基础的深度伪造。深度伪造是指用AI制作的图像或视频篡改物。
他诊断称:“深度伪造不仅被用于国家间阵营对抗,对青少年等个人的可及性也在提高”,“只要发送熟人的照片就能制作成侮辱性图像或视频的犯罪正在扩散。”他还补充说:“需要对AI制作的视频引入水印技术或应用深度伪造验证安全技术”,“为避免青少年在毫无防备的情况下接触深度伪造,必须将包括生物识别认证在内的多级认证程序作为强制要求。”也就是说,由于泄露的个人信息可能被用于扩散深度伪造虚假操纵信息,个人、企业和国家的安全意识都必须加强。
尹专务建议,随着基于AI的网络安全威胁不断增加,需要“聪明地”运用AI。
他表示:“生成式AI可以自动生成攻击代码、使钓鱼攻击智能化,并使勒索软件的传播方式进化”,但同时“另一方面,它也可用于提升安全检测水平、缩短海量数据分析时间,因此对网络安全企业反而可能是机会。”他还强调:“今年除勒索软件等既有黑客趋势外,利用AI的One-day攻击(攻击漏洞已被公开但尚未应用安全补丁的方式)将日常化”,“必须强化零信任系统(不以信任为前提的安全认证系统)或应用与AI使用相关的安全指南。”
RaonSecure为应对上述各类网络安全威胁,自2012年起运营培养网络安全人才的“白帽中心”。该中心以信息保护咨询业务和高端模拟黑客攻击业务为主力。通过自主开发的“SafetyHook”程序,白帽黑客可将模拟黑客攻击过程中的全部诊断过程记录下来,并查明系统问题发生原因,迅速恢复。尹中心负责人表示:“把黑客攻击过程中发生的所有事情都记录下来,提高了客户企业的信任度。”
该中心有20余名曾在世界最高水平的国际黑客攻防大赛——美国“DEFCON CTF”、日本“SECCON CTF”、中国“Real World CTF”等赛事中夺冠的白帽黑客,以及安全专业咨询顾问等共50余人在职。在政府全面推进“网络安全10万人才培养项目”之际,白帽中心被评价为在业界发挥了引领作用。
今年计划全面扩大“Raon Metademy”业务。Raon Metademy是全球首个基于元宇宙的实操专业平台,用户可接入虚拟校园,选择想要的科目和课程听讲并进行实操。尹中心负责人解释说,由于以实拍影像提供,虽然是非接触形式,但可以进行生动的实操。RaonSecure近期还与天主教大学恩平圣母医院签署了利用Raon Metademy推动医疗专业内容活跃化的业务协议。尹中心负责人表示:“Metademy将被用于模拟黑客攻击实操等多个领域,能够以非接触方式高效培养专家。”






