Vektör temsili, bir kelimenin, cümlenin ya da belgenin sayı dizisine çevrilmiş hâlidir. Modeller metinle doğrudan çalışamıyor, bu yüzden her metin parçası çok boyutlu bir uzayda bir noktaya karşılık geliyor. Anlamca yakın metinler bu uzayda birbirine yakın düşüyor.
Erken yöntemler kelimeyi sözlükteki konumuna göre kodluyordu ve iki kelime arasındaki anlam ilişkisini taşımıyordu. Word2vec ve benzeri yöntemler kelimeleri, birlikte göründükleri kelimelerden öğrenilen yoğun vektörlere çevirdi. Bugünkü modellerde temsil bağlama göre değişiyor: aynı kelime farklı cümlelerde farklı vektör alıyor, çünkü anlamı da farklı.
Bu temsil pek çok işin altyapısı. Anlamsal arama, öneri sistemleri, kopya içerik tespiti, kümeleme ve RAG akışındaki belge getirme hep vektörler üzerinden yürüyor. Karşılaştırma genelde kosinüs benzerliğiyle yapılıyor.
Somut bir örnek: bir yardım merkezinde "şifremi unuttum" sorgusu geliyor. Sistemde bu ifadeyi hiç kullanmayan ama "parola sıfırlama adımları" başlıklı bir makale var. Kelime eşleşmesi bu makaleyi bulamıyor, vektör temsilleri ise iki ifadeyi birbirine yakın konumlandırdığı için makale sonuçlara çıkıyor.
Vektörler yorumlanabilir değil. Bir boyutun neye karşılık geldiği bilinmiyor, bu yüzden bir sonucun neden getirildiğini açıklamak için ayrı yöntemler gerekiyor.