Klasik RAG tek bir sorgu çalıştırır, sonuçları prompt'a yapıştırır ve yanıtı yazar. Kullanıcının sorusu tek bir aramaya temiz biçimde oturuyorsa bu yeterlidir. İki farklı yerden iki bilgi isteyen ya da corpus'un kullanmadığı bir kelime dağarcığıyla sorulan sorularda tıkanır.
Agentic RAG retrieval'ı modelin yönettiği bir döngüye çevirir. Model soruyu arama terimlerine dönüştürür, sorguyu çalıştırır, dönen içeriği okur ve bunun yeterli olup olmadığına karar verir. Eksik bir parça varsa yanıtı yazmadan önce, muhtemelen başka bir kaynağa, yeni bir sorgu daha atar.
Somut örnek: "geçen çeyrekte P1 kaydı açıldıktan sonra yenileme yapan kurumsal müşterilerimiz hangileri" sorusu birden fazla aramaya bölünür. Önce olay kayıtları, sonra yenileme kayıtları, ardından modelin kendi yaptığı eşleştirme. Tek bir gömme araması bunu getiremezdi.
Maliyet gerçektir. Her döngü latency ve token ekler, kötü arama yapan bir model limite çarpana kadar dönebilir. Production sistemleri yineleme sayısını sınırlar, her sorguyu incelemek için loglar ve basit sorularda tek adımlı retrieval'a düşer.
Değerlendirme tarafı klasik RAG'den farklıdır. Yalnızca son yanıta bakmak yetmez, döngünün her adımını ayrı ölçmek gerekir. Model doğru sorguyu mu üretti, dönen sonucu doğru mu değerlendirdi, aramayı doğru yerde mi durdurdu. Bu üç soruyu ayrı ayrı loglayan ekipler hatanın hangi adımda çıktığını görebiliyor.