Açıklanabilir AI Mutabakatta Ne Demek? Kara Kutu vs Sebep Zinciri

Yapay zekâ son üç yılda finans yazılımının her köşesine girdi. Ama finans, hata kabul etmeyen bir alandır. Bir öneri yapan AI değil, kararını gerekçelendirebilen AI kabul edilir burada.

İşte açıklanabilir AI (XAI — Explainable AI) bu yüzden mutabakat dünyasının yeni standardıdır.

Kara kutu sorunu

Klasik makine öğrenmesi modelleri — derin sinir ağları, gradient boosting toplulukları — bir input alır, bir output verir. "Bu iki kayıt %97 oranında eşleşiyor." Ama neden sorusunun cevabı modelin iç ağırlıklarında gömülüdür; insan tarafından okunamaz.

Bir denetçi karşınıza gelir ve sorar:

• "Bu fatura niçin bu ödeme ile eşleştirildi?"
• "Bu işlemi neden anomali olarak işaretledin?"
• "Bu güven skorunda 0.97'yi nasıl hesapladın?"

Cevap "model böyle dedi" ise audit reddedilir. `AI'ın kararı, insan karar gibi sorumlu olmalıdır.`

Finans dünyasında bir AI sistemi kara kutu olduğu için değil, kararlarını gerekçelendirebildiği için kabul edilir.

Avrupa Birliği AI Act'i (2024) finansal sistemleri "yüksek risk" kategorisine koydu — bu kategoride karar gerekçelendirme zorunludur.

Sebep zinciri (reasoning chain) nedir?

Açıklanabilir AI bir kara kutu değil, bir karar çağaltıdır. Her karar bir gerekçeler dizisine bağlıdır:

EŞLEŞME KARARI: ÖD-2026-4287 ↔ FT-2026-1158 GÜVEN: 96.8% GEREKÇELER: ├─ Tutar birebir eşleşmesi (€12.450 = €12.450) [+40 puan] ├─ Ödeme açıklamasında fatura no var (FT-2026-1158) [+30 puan] ├─ Tarih bandı içinde (fatura: 02 Mart, ödeme: 04 Mart) [+15 puan] ├─ Müşteri ismi fuzzy %92 eşleşmesi [+10 puan] └─ Vergi numarası eşleşmesi [+2 puan] ───────────────────────────────────────────────── TOPLAM: 97 / 100

Her insan okuyabilir. Her denetçi onaylayabilir. Her gerekçenin matematiksel ağırlığı bellidir.

Sebep zincirinin üç kazancı

1. Audit izi tam. Denetçi her satırın gerekçesini görür, "neden böyle karar verildi" sorusu bir log satırında kapanır.

2. Yanlış pozitifler hızla düzeltilir. "Bu eşleşme yanlış" denildiğinde, hangi gerekçenin yanıltıcı olduğu görülür ve model gelecek için düzeltilir.

3. Ekip güveni artar. Finans ekibi, sistemin önerdiği bir eşleştirmeyi kabul etmeden önce gerekçeyi okuyabilir. AI önerir, insan karar verir mimarisi sağlamlaşır.

İFinances'in 6-katmanlı sebep zinciri

İFinances Mutabakat modülü içindeki AI motoru, her eşleşme için 6 katmanlı bir karar zinciri üretir. Detaylı 3-kaynak çapraz çalışma mantığı için bu rehberi okuyabilirsiniz.

Her eşleşme şu metaverileri taşır:

• Hangi katmanda eşleşti (tutar, referans, fuzzy isim, ML pattern, manuel öneri)
• Güven skoru (0-100, her katmanın puan dağılımı görünür)
• Alternatifler (model'in dikkate aldığı diğer adaylar ve neden reddedildikleri)
• Geçmiş benzerlik (geçmişte aynı müşteri için yapılmış benzer eşleştirmeler)

Açıklanabilir AI ne değildir?

Yanlış anlaşılmaması için:

• Daha az akıllı değildir. Modern XAI modelleri kara kutu modelleriyle aynı doğruluk seviyesinde çalışır; sadece kararını anlatmayı bilir.
• Daha yavaş değildir. Sebep zinciri üretme maliyeti milisaniye seviyesindedir.
• Sadece eski usul kural-bazlı sistem değildir. Karar gerekçelendirme modern XAI yaklaşımları (SHAP, LIME, attention weights) ile yapılır — manuel kural yazılmaz.

Pratik soru: "AI hata yaparsa ne olur?"

İyi tasarlanmış bir XAI sistemi iki güvenlik katmanı sunar:

1. Düşük güven eşiği. Güven skoru bir eşik altındaysa (örn. <0.85) sistem otomatik eşleştirme yapmaz, insana sunar. İnsan onaylar veya reddeder. 2. Geri besleme döngüsü. İnsan reddederse, model bu reddi bir öğrenme sinyali olarak işler. Aynı hata gelecek sefere yapılmaz.

Açıklanabilir AI'da hata bir korku değil, bir öğrenme fırsatıdır. Çünkü her hata sebep zincirinde görülür, düzeltilir, kayda geçer.

Sonuç

Mutabakatta AI kullanmak artık yeni değil — bunu açıklanabilir yapmak yeni. Audit, mevzuat ve insan güveni açıklanabilir AI'ı zorunlu kılıyor.

İFinances'in mutabakat motoru tam bu zihinle inşa edildi. Detaylı bir demo için demo talep edebilir, veya fiyatlandırma seçeneklerine göz atabilirsiniz.