顧客と話すAIのためのガードレール

賭け金が変わる

社内の要約ツールが間違えば、数分が無駄になります。顧客と接するアシスタントが間違えば、スクリーンショットとクレーム、ときには法的な立場が生まれます。技術は似ていても、リスクの性質は違います。

用意すべきもの

範囲の境界。 アシスタントが何を語ってよいかを文書で決めます。範囲外は、試みるのではなく人間へ引き継ぐ。何にでも役立とうとするアシスタントこそ、後で撤回すべき発言をします。

記録システムなしに約束しない。 価格、納期、保証条件、返金の可否は自社システムから取得します。システムが答えられないなら、アシスタントはそう言う。

引き継ぎを目に見える形に。 客は「担当者におつなぎします」と言うボットのほうを、堂々巡りするボットよりはるかに許容します。出口を明示し、常に使えるようにしておく。

説明できる保存方針。 会話には個人データが含まれがちです。何を、どれだけ、どの法的根拠で保持するかを、最初の削除請求の後ではなく公開前に決めておくこと。

敵対的な入力で試す

公開前に、誰かに本気でアシスタントを試させてください。割引を約束させる、他の顧客の注文を漏らさせる、存在しない規約に同意させる。誰も試していないなら、それはテストしていないということです。