Prompt içinde modelden JSON istediğinizde çoğu zaman JSON alırsınız. Çıktı production'da bir parser'a gidiyorsa "çoğu zaman" bir problemdir, çünkü hata gece üçte fazladan bir virgül olarak gelir.
Yapılandırılmış çıktı bu işi prompt katmanında değil kod çözme katmanında çözer. Şema bir durum makinesine derlenir ve her adımda örnekleyici, çıktıyı geçersiz kılacak token'ları maskeler. Nesne tamamlandığında tek yasal token kapanış parantezi olur. İçeriği model seçmeye devam eder, bozuk sözdizimini seçemez.
Mekanizma araç çağırmayla örtüşse de amaç farklıdır. Araç çağırma hangi fonksiyonun hangi argümanlarla çalıştırılacağını sorar. Yapılandırılmış çıktı ise modelin kendi yanıtına biçim verir. Bilgi çıkarımı, sınıflandırma ve form doldurma işlerinin gerçekten ihtiyaç duyduğu şey budur.
Geriye anlamsal risk kalır. Kısıtlı kod çözme yanıtın biçimini garanti eder, değerlerin doğru olup olmadığı konusunda hiçbir şey söylemez. Alan bazlı doğrulama hâlâ akışın devamında durmalıdır.
Şema tasarımının kendisi de kaliteyi etkiler. Alan adlarının anlaşılır olması, opsiyonel alanların gerçekten opsiyonel olması ve enum değerlerinin kapalı bir kümeye oturması modelin işini kolaylaştırır. Belirsiz bir şema geçerli ama anlamsız çıktı üretir. Alan açıklamalarını şemanın içine yazmak, prompt'a ayrıca talimat eklemekten daha güvenilir sonuç verir.