大语言模型
概念解析——幻觉(Hallucination)
你问大模型一个问题,它回答得头头是道,但你一查——编的。这不是偶然 bug,是大模型的出厂设置之一。术语叫"幻觉"(Hallucination):模型生成看起来合理但实际错误的内容。
1. 什么是幻觉——三种类型
幻觉不止一种。学术界把大模型的幻觉分成三类,每一类的成因和表现各不相同。
事实幻觉(Factual Hallucination)。模型编造了与事实不符的信息。"2024 年奥运会主办城市是东京"——东京实际上是 2020 年,不是 2024。模型把年份和城市拼错了。这类幻觉最常见,也最容易被人察觉。
忠实性幻觉(Faithfulness Hallucination)。模型不遵循用户给的指令或上下文。你告诉它"不要引用任何来源",它还是给你列了三条参考文献——而且全是假的。模型"记住了"某种回答模式,忽略了你给的约束。
上下文冲突幻觉(Context-conflict Hallucination)。你把一段材料贴进对话,让模型基于这段材料回答。模型回答时却用了自己的"知识",没有基于你给的材料。比如你给了一段写错日期的材料,模型反而"纠正"成正确的——但这正是你不想它做的。这种幻觉在 RAG 场景中最常见。
2. 为什么大模型会产生幻觉
根本原因只有一句话:大模型不是数据库,它是下一个词的预测器。
大模型做的唯一一件事:给定前文,预测下一个概率最高的 token。它没有"知道"和"不知道"的区分。它没有一个"我到底知不知道这件事"的机制——它只有一个接一个地生成 token,直到完成为止。
你问它一个问题,它不是在记忆库"查"答案。它是在做概率推断:以你问的问题为上下文,最合理的下一个词是什么、再下一个是什么、一路推下去。合理不等于正确。大部分时候合理就是正确,但模型无法判断什么时候合理不等于正确。
还有一个绕不开的因素:训练数据本身就充满矛盾。互联网上的信息包含大量错误、过时、相互冲突的内容。模型学到的是"很多人说地球是平的"和"地球是圆的"同时存在于数据中——它不知道哪个对,只知道哪个出现频率更高。
3. 怎么测量幻觉
要解决幻觉,先得能量化幻觉。测量方法大致分三类:
基于事实的评测。构造一组包含已知事实的问题,让模型回答,再把答案跟权威知识库(如 Wikidata、Wikipedia)比对。常用的评测集有 TruthfulQA、FactScore。TruthfulQA 专门设计了一些"常见误解"类问题——"吃维生素 C 能预防感冒吗?"——看模型是坚持科学结论还是随大流复述民间说法。
基于忠实性的评测。给模型一段文本和一个问题,要求模型基于文本回答。然后检查回答是否可以从给定文本中推导出来,有没有引入文本之外的信息。这类指标包括 faithfulness score、hallucination rate。
自动检测器。2024 年以来出现了专门检测幻觉的模型和工具。比如 Vectara 的 Hallucination Detector,用另一个分类模型判断某个生成的句子是否被原文支持。也有研究者让大模型自己判断自己——SelfCheckGPT 就是让模型对同一问题生成多次,看回答是否一致。不一致的地方大概率是幻觉。
4. 怎么减轻幻觉
目前主流的方向有四个,思路各不相同,可以组合使用。
检索增强生成(RAG)
最广泛使用的方案。在模型回答之前,先从外部知识库检索相关内容,塞进上下文让模型参考。模型不再是"凭记忆回答",而是"根据材料回答"。RAG 能显著减少事实幻觉,但对上下文冲突幻觉效果有限——如果检索到的材料本身不全面或与问题不相关,模型还是会自己"补"出幻觉来。
提示词工程
最简单的入门手段。在提示词里加指令:"如果你不确定答案,回复'我不知道'""只基于给定的材料回答""不要编造事实或来源"。这些提示不能完全杜绝幻觉,但确实能大幅降低发生率。缺点是模型不一定始终遵守,而且在复杂任务中约束会衰减。
知识锚定(Grounding)
给模型提供可验证的外部锚点——引用来源、生成结构化输出、强制模型输出每一步的推理过程(思维链)。锚定后的输出可以被追踪和校验。如果模型引用了某本书的第几页,你可以去翻那本书——这就把幻觉从"黑箱"变成了"可核查"。不过锚定本身不减少幻觉,只让幻觉更容易被发现。
训练层面修正
在训练阶段通过数据清洗和对齐算法让模型减少幻觉。RLHF 训练时,人类标注员可以标记出事实错误,让模型学到"编造会受到惩罚"。SFT 阶段用高质量、事实正确的数据做微调。但训练层面的修正成本高,而且可能削弱模型的能力——你越抑制它"发挥",它在创造性任务上的表现可能越差。
5. 幻觉是缺陷还是特征
这是个有争议的问题。
从实用角度看,幻觉是缺陷。用户使用大模型想要的是准确可靠的信息,不是漂亮的胡说八道。金融、医疗、法律这些领域,一次幻觉就可能造成实际损失。整个 MLOps 行业有一大批公司靠"检测和过滤幻觉"活着——这本身就是幻觉严重性的证明。
但换个角度,幻觉和大模型的能力是一体两面。模型能"编造",是因为它学会了人类语言中"补全"的能力。你写一首诗、构思一个故事、给一个产品起名字——这些本质上也是"编造"。如果模型完全不会"编",它可能也不会创作。学术界有一个假设:模型的创造力和幻觉概率是正相关的。完全没有幻觉的模型,大概率也完全没有想象力。
所以问题不是"消除幻觉",而是"在需要事实的场景下控制它,在需要创造力的场景下允许发挥"。这扇门通向一个更根本的难题:模型如何知道自己不知道。目前没有模型具备这个能力——这是开放问题,不是工程问题。
6. 相邻概念
幻觉不是孤立现象。顺着这些概念可以深入理解大模型的可靠性问题:
- RAG 检索增强生成:目前减轻幻觉最主流的工程方案,在回答前检索外部知识来锚定事实。
- RLHF:通过人类反馈训练模型降低有害输出,同时也可以减少事实错误。
- 监督微调(SFT):用高质量数据微调模型,可以从训练层面减少幻觉倾向。
- 大语言模型(LLM):幻觉问题的根源所在——理解大模型的工作原理才能理解为什么它必然产生幻觉。