ベクトルDBを使わない「階層ナビゲーション型RAG」を作って、ベクトルDB版RAGと比較してみた
- 階層ナビゲーション型RAGはベクトルDBを使わず、LLMで階層を辿って文書を選ぶ手法で、ベクトルDB版RAGと同等の正答率を達成した
- 階層ナビゲーション型は要約カードとk-meansクラスタリングで階層を作り、LLMで降りる。ベクトルDB版は埋め込みと類似度検索で文書を選ぶ
- 階層ナビゲーション型はLLM呼び出し回数とレイテンシが高かったが、正答率は同等で範囲外質問では文書を取得しないことでコストを抑えた
ベクトルDBを使わない「階層ナビゲーション型RAG」を作って、ベクトルDB版RAGと比較してみた


