RAG（検索拡張生成）

解説

RAGは Retrieval-Augmented Generation の略で、自社の文書を検索し、その内容を根拠として生成AIに回答を作らせる仕組みです。顧客向けのボットだけでなく、オペレーターが応対中に社内資料を引く用途でも使われます。検討の際は、AIの選定よりもどの文書を検索対象に入れるかの線引きから決めます。

自社の情報を知らないAIの誤回答を抑える

生成AI単体は、学習した一般的な知識しか持ちません。自社の料金体系、仕様、運用ルールは知らないため、そのまま使うともっともらしい誤回答を返します。RAGは、回答の前に自社のFAQやマニュアルを引いてくることで、この問題を抑えます。

検索してから回答を作り、出典を添えて返す

1. 質問を受け取る
2. 自社の文書から関連する箇所を検索する（ベクトル検索など）
3. その箇所を根拠として添え、生成AIに回答を作らせる
4. 参照した記事を出典として一緒に表示する

誤回答をゼロにはできない

根拠を与えても、ハルシネーションがゼロになるわけではありません。検索で拾えなければ答えようがなく、古い記事を拾えば古い回答を返します。元のナレッジの精度と新しさが、そのまま回答品質になります。