Diyalog sistemi, insanlarla doğal dilde konuşan yazılımların genel adıdır. Sohbet asistanları, sesli asistanlar, çağrı merkezi botları ve uygulama içindeki yardım pencereleri bu başlık altında toplanıyor. Ortak nokta, kullanıcının serbest metinle yazması ya da konuşması ve sistemin buna sırayla cevap vermesi.
İki ana tür var. Görev odaklı sistemler belirli bir işi tamamlatıyor: randevu almak, uçuş değiştirmek, fatura sorgulamak. Bunlarda niyet tespiti, gerekli alanların doldurulması ve bir arka uç servisine bağlanma adımları bulunuyor. Açık uçlu sistemler ise konu sınırı olmadan konuşuyor ve büyük dil modellerinin yaygınlaşmasıyla bu iki tür birbirine yaklaştı.
Mimarinin klasik hâli birkaç bileşenden oluşuyordu: kullanıcının söylediğini anlama, konuşmanın durumunu takip etme, bir sonraki hamleye karar verme ve cevabı metne dökme. Dil modelleriyle bu bileşenlerin çoğu tek bir modelin içine taşındı, ama durum takibi ve arka uç bağlantısı hâlâ ayrı yazılıyor.
Somut bir örnek: bir kargo firmasının asistanına "gönderim nerede" diye yazılıyor. Sistem niyeti anlıyor, takip numarasının eksik olduğunu görüyor, kullanıcıya soruyor, gelen numarayla takip servisini çağırıyor ve sonucu cümleye çeviriyor. Bu dört adımın herhangi biri atlandığında konuşma tıkanıyor.
Değerlendirme tek bir doğruluk skoruna sığmıyor. Görevin tamamlanma oranı, kaç turda tamamlandığı ve kullanıcının konuşmayı bırakma noktası birlikte ölçülüyor.