2024-08-05 | 실리콘밸리=윤민혁 특파원

OpenAI已完成AI检测器开发却推迟发布…因盈利考量?

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

有报道称,OpenAI已开发出可探测由人工智能(AI)撰写的“文本”的方法,但一直未公开。有解读认为,该技术可通过留下“水印”以99.9%的准确率探测AI生成内容,但出于公开后ChatGPT用户可能减少的担忧而不愿公开。近期因追求收益而忽视安全AI开发遭受批评的OpenAI,其举动引发的争议呈扩大之势。

4日(当地时间)《华尔街日报》(WSJ)报道称:“OpenAI一年前就已完成开发可确切探测由ChatGPT撰写的文章或论文的方法,但一直未公开”,“员工们在公司对透明度的承诺与吸引用户之间陷入矛盾。”据传,包括OpenAI首席执行官(CEO)萨姆·奥尔特曼在内的管理层也参与了关于“防作弊工具”的讨论,并鼓励该项目,但并未实际投入服务。

在AI生成的句子中隐藏特征性表达或语句的水印技术,其有效性已通过相关论文等得到证明。AI生成的图像中也已应用水印。OpenAI也没有否认已完成技术开发,只是公司方面解释称,由于探测能力专门针对英语,因此未予公开。OpenAI解释称:“水印技术虽在技术上well-known,但在研究替代方案期间存在须慎重考虑的风险”,“考虑到对整个AI生态系统的影响,慎重的态度是必需的。”

但WSJ指出,OpenAI推迟公开技术的原因在于收益性。即ChatGPT忠实用户中有三分之一对防作弊技术抱有反感,因担忧用户流失而推迟公开。WSJ报道称:“根据去年4月OpenAI委托进行的问卷调查,约30%的用户回答若引入水印将减少使用ChatGPT,赞成探测工具的意见约为25%”,“OpenAI内部存在探测工具可能损害ChatGPT质量的担忧,今年6月的内部会议上也提到了问卷调查结果,得出了寻找‘其他方法’的结论。”

因学生使用AI完成作业而头疼的一线学校则希望公开该技术。据非营利组织民主与技术中心近期调查,认为学生曾利用AI做作业的美国中学教师比例达59%,比一年前增加了17个百分点。

阅读韩文原文