Vektör deposu, embedding'leri saklamak ve aralarında en yakın olanları hızlıca bulmak için tasarlanmış veritabanıdır. Klasik veritabanı tam eşleşme ya da aralık sorgusu yaparken, vektör deposu "bu vektöre en yakın on kayıt hangisi" sorusuna cevap veriyor.
Yakınlık genelde kosinüs benzerliği ya da öklid mesafesiyle ölçülüyor. Milyonlarca vektörde her kaydı tek tek karşılaştırmak pratik olmadığı için yaklaşık en yakın komşu algoritmaları kullanılıyor. HNSW ve IVF gibi indeks yapıları, biraz isabetten feragat ederek aramayı milisaniyelere indiriyor. Vektörün yanına metadata da yazılıyor, böylece dil, tarih ya da kategori filtresi arama sırasında uygulanabiliyor.
En yaygın kullanım RAG akışları. Belgeler parçalanıp embedding'e çevriliyor ve depoya yazılıyor. Soru geldiğinde aynı modelle vektöre çevrilip en yakın parçalar getiriliyor ve modele bağlam olarak veriliyor. Anlamsal arama, öneri sistemleri ve kopya içerik tespiti de aynı altyapıyı kullanıyor.
Somut bir örnek: bir yardım merkezindeki 600 makale paragraf düzeyinde parçalanıyor ve 4.800 vektör oluşuyor. Kullanıcı sorusu geldiğinde depo en yakın beş paragrafı milisaniyeler içinde döndürüyor, asistan da cevabı bu paragraflardan yazıyor.
Deponun bakımı ihmal edilen kısım. Kaynak belge değiştiğinde ilgili vektörlerin yeniden üretilmesi gerekiyor, yoksa sistem eski metne göre cevap vermeye devam ediyor.