让 AI 功能在规模化后依然负担得起

先弄清钱到底花在哪

在优化任何东西之前，按功能维度记录每次请求的 token 用量。团队往往会意外：真正烧钱的那条路径，很少是他们担心的那条。

四根杠杆，按收益排序

别再重复发送静态上下文。 冗长的系统提示词、商品目录或政策文档，如果每次调用都附带，通常就是最大的一笔。把调用之间不变的部分缓存起来。

缩短检索到的上下文。 三篇够用却发二十篇，是习惯不是要求。一边削减一边测量回答质量。大多数功能在远少于上线时的上下文下依然成立。

按难度分流。 不是每个请求都需要你最好的模型。在两个模型前面放一个便宜的分类器判断"简单还是困难"，往往能显著降本而质量没有可见变化。

缓存整条回答。 在电商场景里，少数几个问题占据了大部分流量：发货时间、退换政策、尺码建议。这些在第一次之后根本不需要调用模型。

要避开的陷阱

不要在功能做对之前优化成本。上面每一项都是拿质量换钱，而如果你从未有过一条能用的基准线，就看不出自己换掉了什么。先做对，再测量，然后才做便宜。