販売チャットボットに嘘をつかせない

商取引で特に重い理由

デモでの幻覚は気まずいだけです。店頭での幻覚は約束になります。ボットが「30パーセント割引がある」と客に伝えたら、それを履行すべきかという争いに巻き込まれます。

実際に効く4つの制御

すべての事実を接地させる。 価格、在庫、配送日数、規約はリクエスト時にデータベースから取得し、モデルの記憶からは決して取らない。検索が何も返さなければ、ボットは「わかりません」と答える。この一文は弱点ではなく機能です。

出力の形を縛る。 商品を提案するときは、名前と価格を書かせるのではなく、バックエンドが解決する識別子を返させる。実際の数字はバックエンドが埋めます。書いていない価格を、モデルが誤って伝えることはできません。

回答と実行を分ける。 カタログを読むのは低リスク。割引の適用、住所変更、注文キャンセルはそうではありません。実行は自前の検証を通し、Webフォームと同じ規則を適用します。

返答だけでなく検索結果も記録する。 問題が起きたとき、モデルがどの文書を見たかを知る必要があります。それがなければ推測にすぎません。

正直な限界

これで幻覚がゼロになるわけではありません。失敗の種類が「事実を捏造した」から「わからないと答えた」に移るだけです。ただし後者は、共存できる失敗です。

ECサイト向けAIチャットはまさにこの制約の上に構築されています。商品データはサーバー側で解決し、チェックアウト操作は店舗と同じ検証を通ります。