RAG还是微调：一张决策表说清适用边界

结论先行：RAG 与微调不是替代关系，而是互补——两者改变的东西不同。需要“用自有最新数据回答”优先 RAG；需要“改变模型行为风格或学会新技能”才考虑微调。多数企业知识库场景，RAG 是更稳的默认起点。

一、两者解决不同问题

RAG 解决的是“让模型用上你的最新私有数据”：答案来自检索到的文档，每句话可以标注出处，文档更新答案立刻跟着变，不动模型一个参数。财报季新披露的公告、上周刚作废的费用制度，入库即生效；审计抽查时能指出答案来自哪份文件哪一节，这是合规行业的基本要求。反过来看，微调后的模型是个黑盒：没人能指出某个答案的依据，知识更新只能等下一轮训练。

微调解决的是另一层问题——“让模型本身更懂某类任务或风格”：把输出格式、语气、领域技能写进权重。代价是知识被固化：训练截止之后的任何变化它都不知道，答案难以溯源，数据一变就可能意味着一轮重训，而重训不是改个参数的事——数据准备、训练、评测、上线，每一轮都是完整工程。用一个公式概括两者分工：RAG 知识库效果 = 模型能力 × 数据质量——微调只动前一项，RAG 抬高的是后一项，而企业场景里数据质量往往是更短的那块板。

二、决策表

读这张表的要点是按需求找行，而不是按技术找行。多数团队逐条勾下来会发现：知识频繁更新、需溯源合规、数据敏感不出域三条同时命中，答案已经很明显。

表中最后一行常被忽略：走微调路线，敏感数据还要经过训练框架、标注平台等一整条链路，暴露面更长；RAG 配全本地推理，一台机器即可闭环。

三、常见误区

误区一：“微调能替代 RAG 记住知识。”实际上微调记知识既易过时又难溯源——模型说不出答案来自哪份文档哪一段，合规行业无法接受；行业经验里约 80% 的 RAG 效果问题出在数据处理不当，这一层微调根本碰不到，换路线解决不了数据问题。有团队喂了几千份内部文档做微调，新政策一出，学到的旧知识全部要重来。

误区二：“RAG 能教会模型新技能。”RAG 只提供上下文，不改变模型能力边界：模型不会因为检索到几份优秀示例就学会写合规意见书或特定格式的研究报告。需要稳定输出特定结构、或让模型掌握训练语料里没有的全新任务时，微调才是对口的工具——它改的是模型本身，而 RAG 改的只是模型能看到的材料。

四、推荐路径

推荐顺序是先用 RAG 把知识问答跑通：建好解析→清洗→脱敏→切片→评测的数据管道，把检索与生成效果做到可用；确有“风格/新任务”需求，再在这个基础上叠加微调。反过来先微调的团队，常在数据质量上踩了坑才发现方向错了——RAG 的数据质量决定了天花板，见 为什么 80% 的 RAG 问题出在数据。何况数据管道本身就是可复用资产：无论后面是否微调，解析、切片、评测这些环节一个都省不掉。

决策之后是落地。数据工程见 解析流水线；效果验证见 RAG 评测三层指标；数据敏感不出域的部署见 私有化部署。先有可度量的管道，再谈要不要动模型。

真实场景：投研知识库为什么不微调

用 A 股投研语料的数字算一笔账：841 家公司、252,386 份文档、147 GB，覆盖 2000 年至今 25 个以上报告年度。这个体量决定了结论——微调既装不下（训练成本与灾难性遗忘），也追不上（财报季每周新增几百份），更没法溯源（监管场景要求每个答案能指出处）。RAG 的外挂知识库让新文档入库即生效（SHA-256 幂等 + 增量 diff，重复导入 0.2 秒跳过），答案带引用可核查，知识随时可替换。RAG 的原始论文（Lewis et al., NeurIPS 2020，arXiv:2005.11401）论证的正是这一架构分工：参数化知识留给模型，非参数化知识外挂检索。

微调仍然有它的位置：固定任务风格的矫正、领域话术的对齐。但企业知识密集型应用的主体应该是「RAG 管知识、模型管表达」。知识侧的工程化路径从解析到评测，见文档解析流水线设计；选型之后怎么验证效果，见RAG 评测三层指标。

常见问题 FAQ

Q1：RAG 和微调是替代关系吗？

不是，是互补。RAG 让模型用上最新私有数据且答案可溯源，微调把能力或风格固化进权重；两者改变的东西不同，多数企业知识库场景应先上 RAG。

Q2：什么情况优先选 RAG？

知识频繁更新、需溯源合规、数据敏感不出域时优先 RAG：更新文档即更新答案，回答可附出处，且可全本地推理，不必重训模型。

Q3：什么情况才考虑微调？

需要稳定改变输出风格格式、或让模型学会训练语料之外的全新任务时才考虑微调——RAG 只提供上下文，不改变模型能力边界。

Q4：能不能 RAG 和微调一起用？

可以。先建好 RAG 数据管道把知识问答跑通，确有风格或新任务需求再叠加微调；顺序反了，往往先在数据质量上踩坑。