有分析指出,如ChatGPT等生成式人工智能(AI)在安全领域尚不适合作为主力使用,而更适合在使用者专业知识基础上作为辅助工具。
在SKShieldus20日于首尔中区SK电讯大厦举办的“上半年主要安全趋势与生成式AI安全威胁展望”研讨会上,EQST实验室负责人李浩锡表示,“生成式AI在分析恶意代码或复杂代码逻辑方面存在局限”,但同时预计“今后随着AI模型发展、令牌数增加而解决技术局限,或幻觉等问题得到缓解,其在安全领域的应用度将提高”。EQST是SKShieldus内部的白帽黑客专家团队。
随着生成式AI向全产业界扩展,SKShieldus将其引入四个安全领域并验证了应用度。该负责人表示,“AI应用度在‘情景模拟黑客攻击’和‘安全编码’中分别为60%和50%”,“在生成模拟黑客攻击情景或分析以主要编程语言编写的代码方面,AI应用度较高”。不过在“移动端分析”和“恶意代码分析”中,应用度分别仅为30%和20%。对此他解释称,“移动端漏洞探测须实时进行,而AI目前还无法理解复杂且冗长的代码”。
虽然在安全领域显现出技术局限,但随着利用AI的服务增多,新的安全威胁正在浮现。该负责人称,“与ChatGPT对话过一次的内容会保存在服务器上”,“一旦服务器被黑,可能导致信息泄露”。他还补充说,“随着AI技术高度化,合成人物影像或声音的深度伪造、深度伪声技术正被滥用”,“利用模仿的钓鱼攻击增多,钓鱼模型的模式也日趋精巧”。
据SKShieldus统计,今年上半年网络攻击比例同比增加49%。窃取企业机密或个人金融信息的信息泄露侵害事故占比最高,达30%。SKShieldus预计,今年下半年勒索软件攻击仍将持续,源自朝鲜的黑客攻击将增多。同时预计,扩大化的软件(SW)供应链攻击、利用软件漏洞的攻击等各类安全威胁也将延续。SKShieldus EQST事业组长李在雨表示,“EQST将从防御角度研究生成式AI,针对日益高度化的AI攻击提出前瞻性对策”。
SKShieldus面向企业提供定制化的信息通信技术、基础设施、个人信息保护等安全咨询服务。此外,还通过实时反映最新侵害威胁指标(IoC)的MDR(威胁检测响应)服务,致力于强化企业的网络威胁应对能力。






