Chatbot, bir kişiyle metin ya da sesle konuşan yazılımdır. Kullanıcı gündelik dilde yazıyor ya da konuşuyor, sistem de sırayla cevap veriyor. Arada menü ya da form bulunmuyor.
İlk kuşak chatbot'lar kurallarla çalışıyordu. Mesajdaki bir kalıp önceden yazılmış bir cevabı tetikliyordu, bu da insanlar beklenen ifadelerin içinde kaldığı sürece işe yarıyordu. Sonraki kuşak niyet sınıflandırması ve varlık çıkarımı ekledi, böylece bir mesaj tanımlı bir niyete ve parametrelerine eşlenebildi. Büyük dil modelleri üzerine kurulan chatbot'lar ise serbest metni doğrudan işliyor ve önceden yazılmış senaryoya ihtiyaç duymuyor.
Canlıdaki chatbot'ların çoğu bilinçli olarak dar tutuluyor. Sistem mesajı konu sınırını çiziyor, model bir getirme adımıyla şirketin kendi belgelerini okuyor ve arkada insana devir yolu duruyor.
Somut bir örnek: bir operatör destek kuyruğunun önüne chatbot koyuyor. Bakiye, paket ve fatura sorularını iç servisleri çağırarak doğrudan yanıtlıyor. Kesintiyle ilgili bir şikâyet algıladığında hesap bilgilerini topluyor ve konuşmayı bu bağlamla birlikte temsilciye aktarıyor, böylece müşteri anlattığını tekrar etmiyor.
Ölçüm doğruluktan ibaret değil. Görevin tamamlanma oranı, insana devredilen konuşmaların payı ve kullanıcıların konuşmayı bıraktığı nokta birlikte izleniyor.
