not · büyüyor

Naif RAG nerede bozulur

Düşük precision, düşük recall, bayat veri, tek atış. Dışarıdan hepsi model hatası gibi görünür.

Naif RAG bozulduğunda dışarıdan model hatası gibi görünür. Neredeyse her zaman bir retrieval hatasıdır.

Düşük precisiongetirilen her chunk alakalı değil

Düşük recallalakalı her chunk getirilmiyor

Bayat veriindex kaynaktan uzaklaştı

Tek atışkötü bir retrieval’ı düzeltme şansı yok

İki ayrı hastalık

Düşük precision context’i gürültüyle doldurur. Model doğru chunk’ı görüp yine de ortada kaybedebilir — lost in the middle. Cevap yakın ama yanlış çıkar.
Düşük recall, modelin sentezleyeceği malzemeyi hiç görmemesi demek. Cevap ya eksik ya uydurma olur.

Daha fazla token getirmek daha iyi performans demek değil. top-k’yı artırmak genellikle precision’a mal olur ve cevabı kötüleştirir.