基础概念
概念解析——微调(Fine-tuning)
微调(Fine-tuning)就是把大语言模型拉到你要的方向上。做法直白:拿你的数据,把预训练好的模型再训一遍。不是从头搭,是在别人打好的地基上改。
1. 微调是什么
大模型出厂前走两个阶段:预训练(pretrain)学通用语言能力,微调再把它拧成你要的样子。
预训练就像让孩子读了一整座图书馆的书——泛读,什么都看,目的是建立对世界的基本认知。微调像是请个家教,拿着你的教材给他做针对性辅导。图书馆的书不能白读,但光读不练也考不出分。
技术上说,微调就是继续训练:拿预训练模型的权重当起点,在你的数据集上再跑几轮梯度下降。改的是那些数字(权重),让模型在你需要的任务上表现更好。
微调和预训练的区别:
- 预训练:海量通用数据(TB 级互联网文本),自监督学习(预测下一个词),耗时数周到数月,成本数百万美元。产出是"通用知识库"。
- 微调:少量特定数据(几百到几万条),监督学习(输入→期望输出),耗时数分钟到数天,成本低到一张消费级显卡就能跑。产出是"某个场景下的专家"。
2. 全参微调 vs 参数高效微调
微调不只有一种做法。区别就一条:改多少个权重。
全参微调(Full Fine-tuning)
所有权重都调。7B 模型就是 70 亿个数字全改一遍。效果上限最高,代价也最高。7B 全参微调要 60-80 GB 显存(一张 A100 才刚够),8 卡 A100 跑几十小时。2026 年只有前沿实验室还在用,工业界基本放弃了。
参数高效微调(PEFT)
核心思路:把大部分权重冻住,只改一小撮。2026 年主流做法是 LoRA(Low-Rank Adaptation)。
LoRA 的原理不复杂:每一层 Transformer 的权重矩阵旁边,并联两个细长的矩阵 B 和 A。B 是 d×r,A 是 r×d,中间的 r 叫秩(rank),默认 r=8。两个窄矩阵乘起来就是原权重的一个"补丁"——改动量。训的时候原权重不动,只训这个补丁。训完可以把这个补丁合并回原权重,推理时零延迟。
r=8 时新增参数只有原矩阵的 0.4%。7B 模型的 LoRA 补丁只有几十 MB,一张 RTX 4090(24 GB)随便跑。
LoRA 之外,还有更省显存的 QLoRA——base 模型先压到 4-bit 再挂 LoRA,7B 只需 6-8 GB 显存;质量更高的 DoRA——把补丁拆成方向和长度两个分量分别优化。底层逻辑一样:冻住大部分,只改一小点。
3. 什么时候该微调,什么时候不该
这是每个用过 AI 的人都会问的问题:直接写提示词不行吗?为什么要微调?
微调不是万能药。多数时候你也不需要它。判断标准一条:提示词能不能解决?
提示词够用:要模型按特定格式输出、用特定语气说话、照你的例子做同类任务。大模型上下文窗口从 4K 扩到了 128K,甚至 1M tokens。提示词里塞几十个例子(few-shot),模型足够聪明。
提示词不够:任务有固定的输入输出映射,每次干同一件事——电商商品分类、客服工单判断、医疗报告摘要、日志转 JSON。每次写同样的提示词、附同样的例子,又贵又慢又不稳定。这种情况,拿几百条数据去微调,效果好、推理快、成本低。
需要更新知识:想让模型知道"本公司 2026 年的产品线"?微调不是第一选择。RAG(检索增强生成)更轻量——文档存进向量数据库,每次让模型先查再答。微调改行为(怎么写回复),RAG 管事实(知道什么)。
4. 微调的风险
微调不是零代价。两个最常翻车的坑:
灾难性遗忘(Catastrophic Forgetting)
你的微调数据量少(几百到几千条),偏科严重。模型为了学会你的特殊任务,把预训练时学到的通用能力覆盖掉了。典型的例子:你用中文法律文书微调了一个模型,它写法律摘要很好,但让它用英文介绍自己就胡言乱语。
LoRA 因为改动量小,天然缓解这个问题——大部分权重没动,通用能力保留得更好。全参微调最容易触发灾难性遗忘,需要混入一定比例的通用数据做缓冲。
过拟合(Overfitting)
微调数据只有 200 条,模型把它背下来了。训练时 loss 很好看,一到新数据就露馅。过拟合的典型症状:把训练集里的偶发性错误(比如某条数据里写错了产品名)当成规律学会了。
缓解方法:数据量不少于 500 条(理想 1K-5K),用验证集监控 loss,适时 early stopping,LoRA 的 rank 不要开太大(r=8 起步,不是越大越好)。
- 微调后在通用任务上退步了吗?→ 灾难性遗忘 · 考虑 LoRA 或混入通用数据
- 训练 loss 很低但实际不好用?→ 过拟合 · 增加数据量或减小 rank
- 微调效果不如写提示词?→ 先确认是否真的需要微调
5. 相邻概念
微调不是孤立的概念。这里串几条线帮你继续深入:
- 预训练(Pretrain):微调的前置阶段,用海量数据学通用知识。决定了模型知道多少。
- SFT(Supervised Fine-tuning):微调的一种具体形式,用"指令→回复"对把模型调成会听话的样子。LoRA 是怎么训,SFT 是训成什么。
- LoRA:2026 年最主流的参数高效微调方法。用一个细长的补丁代替全量改动,0.1% 的参数换来 95% 以上的效果。
- 为什么要微调:帮你判断当前任务该不该走微调这条路,还是提示词/RAG/长上下文就够了。
概念解析 · 人工智能ABC