ガードレール

解説

ガードレールは、生成AIの出力が業務上許容できる範囲に収まるように掛ける制約の総称です。入力側（何を受け付けるか）と出力側（何を返すか）の両方に掛けます。サポートの場面では、誤った案内が請求や契約の話に直結します。答えさせない範囲を先に決めておくことが、導入の前提になります。

答えさせない範囲をあらかじめ決めておく

• 料金・契約・法令の質問は有人へ回す
• 他社製品との優劣比較には答えさせない
• 医療・法律などの専門的判断は行わない
• 自社文書に根拠がない場合は、推測で答えずにその旨を伝える
• 個人情報が含まれる入力を保存しない

締めすぎると何も答えないAIになる

制約を強くするほど安全側には寄ります。ただし「回答できません」ばかりを返す状態になれば、顧客は結局のところ人に問い合わせます。自動化の効果は出ないまま、入電だけが残ります。拒否した会話のログを定期的に読み、本来は答えられたはずの質問まで弾いていないかを確認してください。危険な回答の見逃しと、過剰な拒否。この両方を数えながら調整します。

プロンプトへの記述だけでは守り切れない

「答えないでください」と指示文に書くだけの制御は、聞き方を変えられると抜けます。参照する文書を限定する、出力を検査してから送信する、特定の語を含む質問は有人へ回すなど、仕組みの側でも止まる作りにしておくと確実です。誰が制約を変更できるのか、変更の記録をどこに残すのかも併せて決めておきます。