システムプロンプト

解説

システムプロンプトは、顧客の入力とは別に、会話の背後で常に適用されている指示です。AIに与える役割、口調、答える範囲、参照すべき情報源といった、会話ごとに変えない前提をシステムプロンプトに置きます。システムプロンプトは顧客の画面には表示されないため、表に見える回答文だけを追っていても、どの指示が効いているのかは分かりません。

実務での使われ方

事実の誤りは参照元の文書側で、言い方や答える範囲の問題はシステムプロンプト側で修正します。回答品質の問題を見つけたときは、システムプロンプトと参照元の文書のどちらを修正すべきかを切り分ける必要があるためです。切り分けを誤って指示のほうに例外を書き足していくと、文書の誤りは残ったまま指示だけが膨らみます。また、答えられない質問を有人対応へ引き継ぐ条件も、システムプロンプトに書いておく項目の一つです。

注意点

禁止事項を足し続けると、指示どうしが食い違うおそれがあります。不具合が出るたびに「〜しないこと」を追記していくと、後から加えた一文が前の指示と矛盾し、どちらが効いているのか読み手にも分からなくなるためです。そのため、書き足す前に、同じ趣旨の記述がすでにないかを確認してください。変更したあとは、過去に問題が起きた質問をいくつかあらためて入力し、修正したはずの挙動が再発していないかを確かめます。

さらに、システムプロンプトの内容は、利用者の巧妙な入力によって引き出される場合があります。したがって、APIキーなどの機密情報はシステムプロンプトに書かず、権限の制御などの安全対策はAIの外側の仕組みで行います。