为直接面客的 AI 设置护栏

风险性质变了

内部摘要工具出错，浪费几分钟。面客助手出错，产生的是一张截图、一次投诉，有时还有一个法律处境。技术是类似的，风险画像不是。

需要准备的东西

范围边界。 用文字写清楚助手被允许讨论什么。范围之外交给真人，而不是硬答。那些想在所有话题上都帮上忙的助手，正是会说出让你不得不撤回的话的助手。

没有记录系统就不做承诺。 价格、交付日期、保修条款、退款资格，都来自你的系统。系统答不了，助手就照实说。

明显的转人工出口。 顾客对一个说"我帮您转接人工"的机器人，容忍度远高于一个不断绕圈的机器人。把这个出口做得显眼且随时可用。

你能解释清楚的留存策略。 对话里常含个人数据。上线之前就决定保留什么、保留多久、基于什么法律依据——而不是等收到第一个删除请求之后。

用敌意输入来测

上线前，找个人认真去尝试让助手承诺一个折扣、泄露另一位顾客的订单，或者同意一条你根本没有的政策。如果没人试过，就等于没测过。