リランキング

解説

リランキングは、検索で拾った候補を、別の基準で並べ替えて精度を上げる処理です。再ランキングとも呼ばれます。一段目の検索で候補を広めに集め、二段目で質問との噛み合いを細かく評価して順位を付け直す、二段構えの形をとります。サイト内検索では顧客に見せる並び順を決める処理として、RAGでは生成AIに渡す根拠を選び抜く処理として置かれます。

一段目で候補を広く集め、二段目で絞り込む

一段目のベクトル検索は速さを優先する代わりに、判定が粗くなります。そこで候補を数十件ほど多めに取り出し、二段目でより丁寧に評価するモデルに通して、上位の数件だけを生成AIへ渡します。こうすると、必要な記事の取りこぼしを減らしながら、無関係な記事が根拠に混ざる事態も避けられます。

回答品質が上がる一方で応答時間は延びる

二段目の評価は一段目より計算量が多く、その分だけ待ち時間が増えます。チャットで顧客を待たせる場面では、精度の向上分と体感速度の低下を比べたうえで、候補を何件まで通すかを決めてください。すべての問い合わせに適用するのではなく、誤回答の影響が大きい領域に限って使うという判断もあります。導入の前後でゼロ件ヒットの割合や自己解決率がどう動いたかを比べれば、効果を具体的に確かめられます。