Parça tabanlı retrieval'ın bir kör noktası vardır. "Bu iki yüz destek kaydında hangi temalar tekrar ediyor" diye sorduğunuzda cevap hiçbir tek parçanın içinde yoktur, çünkü cevap ancak setin bütününde vardır. Vektör araması soruya en yakın on parçayı getirir ve hiçbiri işe yaramaz.
GraphRAG önce bir ara yapı kurar. İndeksleme adımı corpus'u okur, varlıkları ve aralarındaki ilişkileri çıkarır ve bir grafik oluşturur. Ardından topluluk tespiti bu grafiğin sıkı bağlı bölgelerini gruplar ve model her topluluk için bir özet yazar. Bu özetler kendi başına getirilebilir bir katmana dönüşür.
Yerel bir soru hâlâ ilgili varlıktan başlayıp grafikte yürür. Küresel bir soru ise topluluk özetlerini okur. Yöntemin, parça retrieval'ının ulaşamadığı corpus geneli sorulara yanıt verebilmesinin nedeni budur.
Bedeli indeksleme maliyetidir. Her dokümandan varlık çıkarmak, corpus'un tamamı üzerinde bir kez model çalıştırmak demektir ve bu gömme çıkarmaktan çok daha pahalıdır. Dokümanlar değiştiğinde grafiği tazelemek de zahmetlidir. GraphRAG bu yüzden hızlı değişen değil, durağan corpus'lara daha iyi oturur.