RAG 还是微调？为产品功能做选择

问题背后的问题

当团队问"我们该不该微调"时，他们真正想说的往往是"模型不知道我们的数据"。这是两个不同的问题，解法也不同。

微调改变模型的行为方式。检索（RAG）改变模型在回答那一刻知道什么。混淆这两者，是早期 AI 功能中最常见也最昂贵的错误。

答案在你的数据里，就用检索

如果正确答案已经存在于某份文档、商品目录、客服历史或数据库的一行里，检索几乎总是正确选择：

• 你的内容会变。微调过的模型把知识冻结在训练那一刻；检索索引在你写入新行的瞬间就更新了。
• 你需要标注来源。检索能指向具体段落。微调过的模型说不出答案从哪来。
• 你需要今天就改掉一个错误答案。用检索，改文档即可。用微调，就得重新训练。

问题出在形式而非事实，才用微调

当你需要提示词始终做不稳定的一致行为时，微调才值这个成本：

• 模型总是偏离的严格输出格式。
• 跨越上千次生成的统一语气。
• 狭窄的分类任务，用更小更便宜的模型替代大模型。

最后一点最被低估。让小模型在一个狭窄任务上追平大模型，通常是成本决策，而不是质量决策。

我们建议的顺序

1. 先把提示词写扎实。相当比例的"我们需要微调"，最后发现只是指令不清楚。
2. 加上检索。衡量之前的失败是否真是知识缺失。
3. 之后再考虑微调，且只针对检索修不好的行为。

团队栽跟头的地方

最昂贵的失败，是拿一份每周都在变的数据快照去微调。六周后，模型信心十足地报出上个季度的价格，而没人能指出是哪条训练样本造成的。换成检索，那本来只是改一行数据库。

如果你正在为自己的产品权衡这件事，写代码之前花一小时聊一聊是值得的。我们的定制开发服务正是从这里开始。