Doğrulama verisi, eğitim sırasında modelin performansını izlemek ve karar vermek için ayrılan veri kümesidir. Model bu örnekler üzerinden parametre öğrenmiyor, ama bu örneklerdeki skor eğitimin nasıl ilerleyeceğini belirliyor. Bu yüzden test verisinden ayrı tutuluyor.
İki temel işi var. Birincisi hiperparametre seçimi: öğrenme oranı, katman sayısı, düzenlileştirme katsayısı ve benzeri ayarlar doğrulama skoruna bakılarak seçiliyor. İkincisi erken durdurma: eğitim kaybı düşmeye devam ederken doğrulama kaybı yükselmeye başladığında model aşırı uyuma girmiş demektir ve eğitim orada kesiliyor.
Ayırma yöntemi veri miktarına göre değişiyor. Bol veri varsa sabit bir bölme yeterli oluyor. Veri azsa çapraz doğrulama kullanılıyor, yani küme parçalara bölünüp her parça sırayla doğrulama rolünü üstleniyor ve skorlar ortalanıyor.
Somut bir örnek: bir görüntü sınıflandırma modelinde eğitim doğruluğu 12. dönemde yüzde 98'e çıkıyor, ama doğrulama doğruluğu 8. dönemde tepe yapıp sonra düşmeye başlıyor. Ağırlıklar 8. dönemin kopyasından alınıyor, çünkü sonrası ezberden ibaret.
Doğrulama setine çok uzun süre bakmanın bir bedeli var. Ayarlar defalarca bu skora göre seçildiğinde model dolaylı olarak bu kümeye de uyum sağlıyor, bu yüzden nihai rakam ayrı bir test setinden alınıyor.