2026-02-12 | 서지혜 기자

概念→梳理→分析顺序…分阶段拆解提问

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

为解决人工智能(AI)把错误乃至根本不存在的信息当作事实陈述的“幻觉(Hallucination)”现象,学界提出了多种缓解技术。2024年由伊斯兰工业大学(IUT)研究员托希杜尔·伊斯兰·通莫伊等人共同撰写的论文《大规模语言模型幻觉缓解技术综合分析》介绍了32种以上的方法,并强调了聪明使用AI的“提示词(提问)技巧”的重要性。减少幻觉的方法大致分为三条路径:精细化提问、把生成过程转向以验证为中心,以及改进模型的学习结构。

首先,用户的提示词应更加明确。即先向AI提供外部资料或参考文献等数据,并在提问中包含最新的事实关系。比起一次性抛出复杂要求,分阶段提问的方式也很有效。与其要求撰写长篇报告或综合分析,不如像“概念定义→案例整理→比较分析”那样拆分为小单元,可减少逻辑跳跃。此外,最好使用具体术语而非模糊表述。用“2023~2024年发表的国际学术期刊论文”取代“最近的研究”,规定越明确,AI的回答范围就越收窄。

用户也可以直接给模型设定诚实性条件。例如明确要求“只提供有确切依据的内容,不要进行推测”。在生成答案之后,还可以追加要求“重新检查所写内容是否为事实”的自我事实核查环节。这是让模型自行重读此前答案、降低出错可能性的过程。

进一步,指示其检查答案内部的矛盾也有帮助。这是交叉逻辑检查,即确认前后主张是否冲突、所给数值是否彼此一致。利用出示外部资料并令其直接比对的“检索增强生成(RAG)”方式,引导AI依据实际文档而非记忆作答。

在模型设计层面,当不确定性较高时,会限制提出答案的方式,即训练模型在不知道时就说不知道。这是一种让模型对不存在的论文或信息不去编造貌似可信的内容,而是拒绝回答或回应需要补充信息的学习方式。

阅读韩文原文