Hallucination
/həˌluːsɪˈneɪʃən/幻觉跟读一遍
哈·鲁·西·内·申
点「跟读」听中文慢速念法——记住这一串,开口不慌。
AI 一本正经地胡说八道,专业名词叫「幻觉」。
人话解释
幻觉指模型把编造的内容说得像真的一样:不存在的论文、查无此 API 的用法、张冠李戴的数据,统统讲得头头是道。根源是它只会按概率接龙,天生不会查证自己说的话。实用对策有三条:重要事实要求给出处;用 RAG 把真资料垫在问题前面;关键信息过一遍人工复核再采用。越是冷门生僻的问题越容易触发,千万别把它当成百科全书来查证。
例问它某本冷门书讲了什么,它可以流畅复述出一章「剧情」——那一章是现编的,像不懂装懂还嘴硬的同学。