リランキング

解説

リランキングは、一段目の検索で広めに集めた候補を、二段目で質問との関連度を細かく評価してあらためて順位を付ける処理です。再ランキングとも呼ばれます。サイト内検索では、顧客に見せる並び順を決める処理として使われます。一方で、RAGでは、生成AIに渡す根拠を選び抜く処理として使われます。

仕組み

一段目のベクトル検索やキーワード検索は、大量の文書から速く候補を探せる代わりに、判定が粗くなります。そこで、一段目では候補を数十件から100件程度と多めに取り出します。二段目では、質問と候補を組にして丁寧に評価するモデル（クロスエンコーダーなど）に通し、上位の数件だけを生成AIへ渡します。この二段構えにより、必要な記事の取りこぼしを減らしながら、無関係な記事が根拠に混ざる事態も避けられます。

実務での使われ方

リランキングは、すべての問い合わせに適用するのではなく、誤回答の影響が大きい領域に限って使うという判断もあります。導入の前後で、上位に表示された記事のクリック率や自己解決率がどう動いたかを比べれば、効果を具体的に確かめられます。

注意点

リランキングで回答品質が上がる一方で、応答時間は延びます。二段目の評価は一段目より計算量が多く、その分だけ待ち時間が増えるためです。したがって、チャットで顧客を待たせる場面では、精度の向上分と体感速度の低下を比べたうえで、二段目に通す候補の件数を決めてください。