为弥补如ChatGPT般爆发式增长的生成式人工智能(AI)的缺陷,各类对策正相继出现。英伟达正致力于消除生成式AI编造与事实不符的内容、扩散错误信息的争议。ChatGPT开发商OpenAI则推出了消除个人信息侵权担忧的解决方案。此举被解读为,生成式AI的问题阻碍产业成长并显现出损害这些企业盈利能力的迹象后,它们开始着手解决问题。
据信息技术(IT)业界29日消息,英伟达25日(当地时间)表示,已开发出可阻断生成式AI聊天机器人编造与事实不符内容的"幻觉"(Hallucination)并减少错误答案的软件"NeMo Guardrails"。
幻觉问题已凸显为致命问题,谷歌及母公司Alphabet首席执行官(CEO)桑达尔·皮查伊也曾对此提出指摘。皮查伊16日(当地时间)在接受美国CBS电视台采访时担忧表示,"(AI可能提供的)虚假信息、假新闻和图像问题会变得更大,并可能造成危害"。近来还发生了ChatGPT将美国一名教授指为罪犯的争议。据《华盛顿邮报》5日(当地时间)报道,ChatGPT以2018年《华盛顿邮报》的报道为依据,称乔治城大学法学院教授乔纳森·特利曾发表性方面的不当言论,但事实证明ChatGPT在说谎。相关报道根本查不到,特利也不是乔治城大学教授。也就是说,ChatGPT为支撑自己的主张伪造了依据资料。
NeMo Guardrails有望为解决这一问题提供助力,因为它可帮助AI模型不说出与事实不符的内容。它通过请求其他语言模型进行事实核查来检测"幻觉",若其他模型未能找到一致的答案,就回答"不知道"。此外,它还可强制只谈论特定主题,并阻断有害指令的执行。英伟达应用研究部门副总裁乔纳森·科恩解释称,"如果有人谈论某个主题,可以编写脚本,要求只以这种方式作答"。"NeMo Guardrails"以开源形式通过英伟达服务提供。
英伟达似是在"幻觉"问题阻碍AI市场成长之际挺身而出。AI将错误内容说得煞有介事的案例接连发生,用户不信任加深,这对英伟达也是利空,因为其大力投入的AI业务成长性可能放缓。英伟达拥有具盈利能力的AI软件平台CUDA,并生产供应训练用芯片。AI市场增势受挫,盈利能力便会下降。英伟达不得不亲自出手。
以ChatGPT掀起生成式AI热潮的OpenAI也着手解决问题。OpenAI力图平息ChatGPT泄露个人信息的争议。近来OpenAI引入了"关闭聊天记录"功能,使用户可选择不让与ChatGPT的对话被用于训练。
OpenAI还在开发面向企业的订阅模式"ChatGPT Business"。该服务用户输入的数据不会被用于AI训练。该商业模式预计将在数月内正式推出。此举似意在消除近来部分ChatGPT用户提问内容和个人信息泄露所引发的争议。






