コンテキスト保持

解説

コンテキスト保持は、ボットが直前までの会話から話の流れを把握し、前のやり取りを踏まえて答えるための仕組みです。たとえば、顧客がプランの変更について相談したあとに「料金はいくらですか」と尋ねた場合、コンテキストを保持するボットは、どのプランの料金を聞かれているのかを直前の会話から判断できます。一方で、一問一答型のボットでは、質問ごとに話が切れてしまいます。

仕組み

生成AI（大規模言語モデル）を使うボットでは、過去のやり取りを入力に含めることで、会話の流れを踏まえた回答を生成します。ただし、一度に参照できる情報の量には上限（コンテキストウィンドウ）があります。そのため、会話が長くなると、ボットの実装によっては古いやり取りから順に参照の範囲外へ外され、前提となる条件が抜けて回答が変わることがあります。

実務での使われ方

コンテキスト保持では、どこまでの範囲を保持するかによって設計が変わります。たとえば、同じセッションの中だけで会話を保持するのか、離脱した顧客が数日後に戻ったときの履歴まで参照するのかは、設計段階の判断になります。会員向けの窓口では、契約内容や直近の問い合わせ履歴をボットに読み込ませる形もあります。

参照する情報が増えるほど、ボットの回答は自然になります。一方で、顧客の個人情報をどこに保存し、いつ消すかという扱いも決めておかなければなりません。

注意点

顧客が長い対話の末に「さっきの件だけど」と話を戻したとき、ボットが追えなくなることがあります。したがって、長引いた対話は早めに有人対応へ回す設計にしておくのが現実的です。

さらに、有人対応へ切り替える際は、そこまでのやり取りをオペレーターの画面へ引き継ぎます。顧客が最初から同じ説明を繰り返す状況になると、ボットを挟んだこと自体が手間として受け取られます。