“目前人工智能(AI)的回答,主要应被视为反映了‘健康的白人年轻男性’的想法。若把全球AI服务像人脑那样绘制成图,‘健康的白人年轻男性’被过度代表了。”
韩国科学技术院科学技术政策研究生院教授崔文正指出了AI的偏向性问题,他表示,生成式AI在学习信息对错的‘强化学习’过程中,最终难免受到开发者所持想法的影响。目前在全球引发热潮的OpenAI的ChatGPT,也是由40余名数据科学家历经一年多通过强化学习提高了回答成功率,而据悉这些数据科学家大多是白人男性。
崔教授表示:“由于这一问题,残障人士或非白人使用ChatGPT时,可能会觉得其回答具有偏向性”,“为使ChatGPT不再生产或强化不平等,在公正性、责任性、透明性方面需要做大量思考。”预计人类对ChatGPT这类生成式AI的依赖度越高,相关问题就越突出。
围绕比人更像人的生成式AI‘ChatGPT’热潮,专家指出,该服务的应用案例越多,伦理问题的提出就不可避免。
OpenAI也意识到此类质疑,已向ChatGPT用户告知‘有时可能生成错误信息’‘有时可能提供有害的引导或带偏向的信息’等内容,但随着现实中使用案例增多,此类质疑也必然增加。崔教授表示:“ChatGPT普及后,除了不使用它就会在竞争中落后的所谓‘人类增强’问题外,还可能突显出在实现想法时不使用自动化服务就难以维持日常生活的‘依赖性’,以及影响世界观形成的‘支配力’等问题”,“应营造用户可以在多种‘对话型人工智能聊天机器人’服务中进行选择的环境,以降低此类风险。”尤其就ChatGPT而言,由于未学习2021年以后的数据,今后若在未经强化学习的情况下基于实时数据给出答案,有关伦理偏向性及危害性的质疑预计会更加强烈。
OpenAI方面也表示生成式AI可能被负面使用,提醒格外注意。OpenAI首席执行官(CEO)萨姆·奥尔特曼近期在一次采访中担忧地表示:“出于技术可能被危险使用的恐惧,我夜不能寐”,“最想提醒人们注意的是‘幻觉(hallucination)’问题,该模型可能把完全编造的故事当作事实提出来。”OpenAI近期推出的GPT-4.0相比上一版本准确度提高了约40%,但由于并非人类,难免存在‘幻觉’问题等诸多缺陷。
也有乐观看法认为,这类聊天机器人型AI的偏向性、有害性问题将随着市场竞争加剧而在很大程度上得到改善。具体做法预计是使投入强化学习的科学家在性别、年龄、种族上多样化,同时在机器学习投入前预先过滤掉有偏向或不准确的数据。首尔大学讲座教授李景武表示:“如果特定聊天机器人型AI存在问题,消费者最终会选择其他产品,在这一过程中,回答的偏向性和可信度等会持续改善”,“AI的可信度问题最终将按市场原理得到改善或解决。”






