2024-08-10 | 세종=유현욱 기자

“对话式AI或令用户产生情感依赖”

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

有人担忧,提供仿佛与真人对话体验的生成式人工智能(AI)服务,可能使用户在情感上依赖AI。

据CNN 9日(当地时间)报道,OpenAI在有关支持语音功能的新AI模型“GPT-4o”的报告中表示担忧称:“观察到用户在与ChatGPT进行语音模式对话时,表达出共享纽带的现象。”

GPT-4o是OpenAI今年5月公开的最新人工智能模型。其特点是发出自然的人声而非生硬的机械音,并可与用户进行实时语音对话。尤其是有人指出,GPT-4o所用的AI声音与2013年上映的电影《她》(Her)中AI助手配音者斯嘉丽·约翰逊的真实声音相似,由此引发争议。

OpenAI担忧表示:“用户与AI建立社会关系,可能会减少其与他人互动的需求”,“这或可对孤独的个体有所帮助,但也可能影响与他人之间的健康关系。”并指出,尽管生成式AI可能提供错误信息,但像真人一样说话的AI可能使用户对其盲目信任。

OpenAI在报告中表示:“我们正竭尽全力使AI变得‘安全’”,“并计划持续研究用户潜在的‘情感依赖’问题。”

阅读韩文原文