Model kartı, bir makine öğrenimi modelinin ne olduğunu, nasıl eğitildiğini ve nerede güvenilmemesi gerektiğini anlatan kısa belgedir. Amaç modeli tanıtmak değil, kullanacak kişinin doğru karar vermesini sağlamak. Kavram 2018'de Google araştırmacılarının yayımladığı bir makaleyle yerleşti.
İçerik genelde belirli başlıklara oturuyor. Modelin amacı ve hedeflenen kullanım, eğitim verisinin kaynağı ve kapsamı, değerlendirme sonuçları, alt gruplara göre performans farkları, bilinen sınırlar, etik değerlendirmeler ve sürüm bilgisi bunların içinde. Alt gruplara göre kırılım özellikle önemli, çünkü toplam doğruluk yüksek görünürken belirli bir grupta belirgin biçimde düşük olabiliyor.
Kart, yapay zeka yönetişiminin en ucuz parçalarından biri. Bir modeli üretime alan ekip, kartı okuyarak modelin hangi veriyle eğitildiğini ve hangi durumda test edilmediğini görüyor. Düzenleme tarafında da benzer belgeler talep edilmeye başlandı.
Somut bir örnek: bir işe alım aracına özgeçmiş sıralayan bir model ekleniyor. Model kartı, eğitim verisinin yalnızca beyaz yakalı teknoloji ilanlarından geldiğini ve saha pozisyonlarında test edilmediğini söylüyor. Bu tek satır, aracın hangi ilan tipinde kullanılmayacağına dair kararı doğrudan veriyor.
Kartın işe yaraması için güncel tutulması gerekiyor. Model yeniden eğitildiğinde belge de yenilenmezse, elde eskimiş bir garanti kalıyor.