Sandbox ortamı, kodun ya da bir modelin canlı sistemden yalıtılmış biçimde çalıştırıldığı alandır. İçeride ne olursa olsun dışarıya sızmıyor. Gerçek müşteri verisi yok, gerçek ödeme yok, gerçek e-posta gönderimi yok. Amaç bir şeyin patlamasını engellemek değil, patladığında kimsenin etkilenmemesini sağlamak.
Yalıtım birkaç katmanda kuruluyor. Ayrı bir veritabanı ve sahte veri kümesi, dış servislere giden isteklerin test uçlarına yönlendirilmesi, dosya sistemi ve ağ erişiminin kısıtlanması ve kaynak sınırları bunların içinde. Bulut sağlayıcıları bunu genelde konteyner ya da hafif sanal makine düzeyinde veriyor.
Yapay zeka tarafında sandbox'ın ağırlığı arttı. Bir model kod üretip çalıştırabildiğinde ya da bir agent kendi başına araç çağırabildiğinde, üretilen komutun ne yapacağı önceden bilinmiyor. Bu yüzden kod yürütme, dosya işlemleri ve dış API çağrıları izole bir ortamda yapılıyor, sonuç ancak kontrolden geçtikten sonra dışarı alınıyor.
Somut bir örnek: veri analizi yapan bir asistan, kullanıcının yüklediği tabloyu okuyup grafik üretmek için Python kodu yazıyor. Bu kod sandbox içinde çalışıyor. Kod yanlışlıkla dosya silmeye ya da dışarı istek atmaya kalksa bile ortamın sınırlarına takılıyor ve oturum kapandığında her şey siliniyor.
Sandbox tek başına yeterli değil. Yalıtım kaçışları mümkün olduğu için, üzerine yetki kontrolleri ve kayıt tutma ekleniyor.
