Fine-grained control, bir modelin çıktısını genel bir talimatla değil, tek tek nitelikler üzerinden yönlendirebilmektir. "Daha kısa yaz" kaba bir istek. Fine-grained control ise ton, uzunluk, okuma seviyesi, biçim, terminoloji ve hangi konulara girilmeyeceği gibi eksenleri ayrı ayrı ayarlamak anlamına geliyor.
Kontrol birkaç katmanda kuruluyor. İstem tarafında sistem mesajı ve yapılandırılmış talimatlar var. Kod çözme tarafında temperature, top-p ve durdurma dizileri var. Çıktı biçimi bir şemaya bağlanarak modelin serbest metin yerine belirli alanları doldurması sağlanabiliyor. Daha derin kontrol için ince ayar ya da LoRA gibi hafif uyarlamalar kullanılıyor.
İhtiyaç genelde ölçekle ortaya çıkıyor. Tek bir metin üretirken çıktıyı elle düzeltmek kolay, ama binlerce ürün açıklaması üretilirken her birinin aynı ton ve biçimde çıkması gerekiyor.
Somut bir örnek: bir bankada ürün metinleri üretiliyor. Kurallar net: cümleler kısa, faiz oranı asla metinde yazılmıyor, yasal uyarı her metnin sonunda aynı ifadeyle yer alıyor. Bu kısıtlar sistem mesajına ve çıktı şemasına yazıldığında model binlerce metinde aynı çerçeveyi koruyor.
Kontrolü artırmanın bir bedeli var. Kısıt sayısı arttıkça model bazı talimatları kaçırmaya başlıyor, bu yüzden kritik kurallar ayrıca çıktı üzerinde kontrol ediliyor.