发现ChatGPT的漏洞,最高可获得2万美元(约2600万韩元)。其目的是通过用户的集体智慧,迅速找出内部人员未能发现的漏洞。
据15日信息技术(IT)业界消息,OpenAI于11日(当地时间)通过官方博客宣布,将实施“漏洞赏金”(bug bounty)计划,对在使用其AI产品过程中发现并报告错误或安全漏洞者给予现金奖励。截至前一日下午8时(韩国时间),获认定的漏洞为29件,平均奖金为694美元73美分(约88万韩元)。
OpenAI对每个漏洞给予最低200美元、最高6500美元的奖励。奖励金额视用户所报告缺陷的严重程度而定,最高可达2万美元。用户报告登录错误、数据泄露、系统中断等问题即可获得奖金。诱导“越狱”以改变系统本身的指令、以及诱导编写恶意代码的提问等不在奖励范围内。
OpenAI实施漏洞赏金的原因,是希望通过用户的集体智慧迅速找出漏洞。这样可以发现内部人员未能掌握的问题并先行应对,从而防止由此引发的事故。近期部分ChatGPT用户的提问内容和个人信息外泄引发争议,公司似因此更加致力于问题的发掘与解决。上月OpenAI曾说明,在发生故障的9小时内,使用付费账户“ChatGPT Plus”的会员中有1.2%的姓名、电子邮件地址、账单地址、信用卡后四位及有效期等支付相关信息被意外暴露。OpenAI安全负责人马修·奈特强调:“该计划是开发安全的前沿AI这一努力中不可或缺的部分”,“为开发安全、可信赖的技术和服务,我们需要各位的帮助。”
另一方面,韩国政府计划在6月前制定“AI数据安全利用政策方向”。Personal Information Protection Commission计划提出在数据收集—AI学习—服务提供等全过程中应遵守的个人信息保护原则和数据处理标准。特别是鉴于为AI学习而公开的信息或用户生成的数据被频繁收集,将就此确立明确原则。此外,还将提出AI学习时适当的假名化处理标准,并指导视频、语音等非结构化数据的假名化处理方法。5月将发布跨部门联合的假名信息利用活性化综合对策。






