据确认,与朝鲜、中国、俄罗斯、伊朗等相关联的黑客组织正在利用生成式人工智能(AI)ChatGPT。这证明了生成式AI可能被用于犯罪,防范此类风险的安全对策的重要性预计将更加突出。
据《纽约时报》(NYT)14日(当地时间)报道,ChatGPT开发商OpenAI与微软(MS)表示,已察觉黑客组织使用ChatGPT的情况,并封锁了其对网站的访问。
据微软透露,一个与俄罗斯相关联的黑客组织在与乌克兰战争有关的卫星通信和雷达技术研究中使用了ChatGPT。与伊朗伊斯兰革命卫队相关联的黑客组织,则在探索绕过计算机安全系统方法的过程中借助了ChatGPT。此外,他们还利用ChatGPT伪装成国际开发机构发送的邮件,或撰写针对女权活动人士的钓鱼邮件。
不过微软说明称,并没有出现部分专家所担忧的、黑客借助AI之力创造出迄今无法想象的攻击手法的情况。OpenAI安全领域负责人鲍勃·罗特斯特德表示:“目前尚未发现证据表明,与敌对国家相关联的黑客通过利用OpenAI找到了比一般搜索引擎更新颖、更新的攻击方法。”
也就是说,其使用仅限于撰写邮件草稿、翻译文件以及让ChatGPT修正计算机程序的错误等层面。微软安全领域负责人汤姆·伯特表示:“黑客也像一般计算机用户一样,把OpenAI用于提高生产效率。”据悉,OpenAI可以追踪ChatGPT用户的接入地点,但黑客通过篡改IP等方式,像普通用户一样使用了ChatGPT。






