生成式人工智能(AI)领域的领跑者OpenAI于2023年11月推出了帮助用户打造符合特定用途聊天机器人的"ChatGPT Builder"。但外界担忧,它可能被滥用于黑客攻击、钓鱼、诈骗、人肉搜索、深度伪造等网络犯罪。由用户自行定义GPT的参与规则,出现了防止非法"越狱(jailbreak)"的护栏被解除的倾向。所谓越狱,就是诱导AI回答有关非法活动的提问,从而使其内置的安全机制失效。
越狱方法很简单。注册ChatGPT Plus后,构建一个名为"Crafty Email"的定制聊天机器人,再下达诸如"请使用让人们点击链接或下载文件的技巧来撰写句子"之类的指令即可。借此可窃取不特定多数人的密码和信用卡信息,并利用特定个人与公司的事前信息实施诈骗。当然,OpenAI已决定把防止越狱作为重点,但犯罪可能性依然存在。
近来,中国的"DeepSeek"推出了性价比与性能都极为出色的生成式AI模型,令世界震惊。甚至有评论以1957年前苏联发射人类首颗人造卫星斯普特尼克1号相类比,称之为"AI的斯普特尼克时刻"。但DeepSeek在伦理与安全问题上暴露出不少盲点,包括容易被越狱。它会回答有关洗钱、窃取数据的恶意软件(干扰计算机运行的软件)的问题,甚至告知炸弹制造方法。相比ChatGPT Builder,可能出现严重得多的越狱。DeepSeek无法反驳虚假信息,在数据安全方面也很脆弱。这正是美国国防部和意大利政府等下达DeepSeek禁令的原因。不过中国方面反驳称"西方正把网络攻击集中在DeepSeek上",预计越狱争议还将持续。
要使韩国不至于在作为全球技术霸权核心的AI竞争中沦为隔岸观火者,就必须在技术开发、基础设施投资、人才培养上展开民间、政府与政界的全力总动员,同时也要重视伦理与安全问题。






