有报道称,OpenAI已开发出可以99.9%准确率识别人工智能(AI)所撰写文本的技术,但两年多来一直未予公开。
《华尔街日报》(WSJ)5日(当地时间)援引熟悉此事的人士及所获文件报道称,ChatGPT开发商OpenAI已开发出可检测使用ChatGPT撰写的文章、论文等文本的技术,但一直未正式推出。该技术会植入人眼无法看到的水印。随后通过OpenAI的检测技术找出该标记,并以分数形式给出由AI撰写的可能性。WSJ表示,“OpenAI就该项目已进行了两年的内部争论,并为推出准备了约一年”,“只需按一个按钮即可”。也就是说,实际上只剩下执行(发布公告)这一步。
据WSJ报道,关于水印的讨论早在2022年11月ChatGPT推出之前就已开始。该技术由得克萨斯大学计算机科学系教授斯科特·阿伦森开发,他从学校休职后在OpenAI从事了两年与AI安全相关的工作。
据悉,OpenAI围绕这项水印技术,在吸引与扩大用户和使用透明度之间持续纠结。部分员工强调该技术将带来的积极影响,支持公开和推出。最近的调查显示,美国中学教师中有59%确信“部分学生正在作业中使用AI”。这一数字较上年增加了17%。
另一方面,也有员工提出担忧,认为水印可以通过简单技术轻易被清除。即可将AI生成的文本用谷歌翻译等转换成其他语言后再译回原语言,或通过增删表情符号等方式改变原文结构,从而破坏水印。
OpenAI内部自行开展的问卷调查结果也让决定变得困难。去年4月针对ChatGPT用户的调查中,69%的受访者认为AI使用检测技术可能导致对AI用户的不实指责(被怀疑、指责由AI撰写),约30%的人回答,如果ChatGPT引入水印而竞争对手不引入,他们将减少使用ChatGPT。据悉,OpenAI高层高管与研究人员在6月初也再次就是否公开检测技术进行了讨论,但用户问卷调查结果仍是一大顾虑和负担。
WSJ表示,OpenAI计划在今年秋季之前就AI透明度说服舆论,并制定应对该主题潜在法案的计划,着手确立整体战略。






