Hizalama eğitimi modelin genel davranışını biçimlendirir. Guardrails ise belirli bir kurulumun neye izin verdiğini uygular ve modelin dışında, inceleyebildiğiniz ve değiştirebildiğiniz bir yerde çalışır.
Girdi tarafındaki koruma katmanları modelin önünde durur. Prompt injection denemelerini, ürünün karşılamayacağı istekleri ve üçüncü taraf bir API'ye gitmeden önce maskelenmesi gereken kişisel veriyi ayıklar. Çıktı tarafındakiler arkada durur. Politika ihlallerine, sızan sistem talimatlarına, dayanaksız iddialara ve onaylı alanın dışına taşan yanıtlara bakar.
Uygulama biçimi çok değişir. Düzenli ifadeler hesap numarası yakalar. Bir sınıflandırıcı zararlılık puanı verir. İkinci bir model, yanıtın getirilen dokümanlara gerçekten dayanıp dayanmadığını kontrol eder. Birçok ekip bunları sırayla çalıştırır ve her tetiklenmeyi loglar.
Erken netleştirilmesi gereken tasarım sorusu, bir kontrol tetiklendiğinde ne olacağıdır. Doğrudan engellemek güvenlidir ve kullanıcıyı yorar. Yeniden yazmak akıcıdır ve gerçek hataları gizleyebilir. İnsana yönlendirmek doğrudur ve ölçeklenmez. Kararı kontrol bazında verin ve gerekçesini yazın. Hem denetimler hem olay incelemeleri bunu soracaktır.
Ölçüm tarafında iki sayı birlikte izlenir. Yanlış pozitif oranı, yani meşru isteklerin kaçının engellendiği. Ve kaçırma oranı, yani engellenmesi gerekirken geçen içerik. Bu ikisi ters yönde hareket eder ve doğru denge ürüne göre değişir. Tetiklenen her kontrolü örnekleyip elle incelemek, bu dengeyi zamanla ayarlamanın en güvenilir yolu.