Contoso Finans — Ajan Kalite ve Güvence Panosu

18 ajanın çıktı kalitesi, sapma, hata kaçışı ve insan inceleme kuyruğu — tek bakışta

📅 Dönem: 2026-04-01 – 2026-06-30🤖 18 ajan · 6 çıktı türü📊 10.000 çalışma · 2.400 değerlendirme🧪 Örneklem: M1/V1
82.5
Ortalama Kalite (0-100)
2.400 insan değerlendirmesi
%81.3
Rubrik Geçme Oranı
tüm boyutlar eşik üstü
36
Yanlış Kabul (adet)
%1.98 sistem-kabul
170
Yanlış Ret (adet)
%29.16 sistem-ret
48
Üretime Kaçan Hata
%10.69 · 48 olay
−8.3 p
M1→M2 Hata Değişimi
%45.5 görece azalma

Karışıklık Matrisi

Pozitif sınıf = "Ret" (sorun tespiti) · Gerçek = insan kararı · N = 2,400
İnsan: Ret
(gerçek hata)
İnsan: Kabul
(hata yok)
Sistem: Ret
413Doğru Ret (TP)
170Yanlış Ret (FP)
Sistem: Kabul
36Yanlış Kabul (FN)
1781Doğru Kabul (TN)
MetrikFormülDeğer
Doğruluk(TP+TN)/N = 2194/2400%91.42
Duyarlılık (Recall)TP/(TP+FN) = 413/449%91.98
Kesinlik (Precision)TP/(TP+FP) = 413/583%70.84
Yanlış Kabul OranıFN/(TN+FN) = 36/1817%1.98
Yanlış Ret OranıFP/(TP+FP) = 170/583%29.16

Çıktı Türüne Göre Kalite

Ağırlıklı kalite puanı (0-100), M1/V1 örneklemi
Karar Notu84.2E-posta83.7Word83.2PowerPoint82.1CRM Kaydı81.4Excel80.5
Çıktı TürüKaliteRubrik %Ret %Yanlış KabulKaçan
Excel80.5%78.8%21.2727
Word83.2%80.5%19.560
PowerPoint82.1%82.8%17.280
E-posta83.7%81.8%18.2621
CRM Kaydı81.4%81.0%19.050
Karar Notu84.2%83.0%17.040

Sürüm Farkı — M1 vs M2

Çalışma düzeyi gerçek hata oranı (%), 10.000 çalışma · İlişkiseldir, nedensellik değildir
05101520ExcelWordPowerPointE-postaCRM KaydıKarar NotuM1 hata %M2 hata %

İnceleme Kuyruğu (Haftalık)

Role göre bekleyen çıktı adedi · 12 hafta
050100150200135791112135791112135791112Kalite UzmanıAlan UzmanıTakım Yöneticisi

Hata Türü Dağılımı

Tespit edilen 449 hata
Doğruluk85Tamlık78Dil76İş Kuralı73Kaynak69Sapma68

Olay Kök Nedenleri

48 yüksek etkili olay (tümü üretime kaçan hatadan)
Model sürümü — 16
Kaynak veri — 11
Eksik kontrol — 11
İstem sürümü — 10

Karar Çerçevesi — İnceleme Modu

Kural: Yüksek etkili veya geri döndürülemez hiçbir çıktı insan onayı olmadan otomatik geçirilmez
Çıktı Türüİş EtkisiGeri Dön.KaliteKaçanÖnerilen Mod
ExcelYüksekEvet80.527Zorunlu %100 İnceleme
WordOrtaEvet83.20%10 Örnekleme + Otomatik
PowerPointOrtaEvet82.10%10 Örnekleme + Otomatik
E-postaYüksekEvet83.721Zorunlu %100 İnceleme
CRM KaydıÇok YüksekHayır81.40Zorunlu %100 İnceleme
Karar NotuÇok YüksekHayır84.20Zorunlu %100 İnceleme

Ajan Puan Kartları

18 ajan · kalite (M1/V1 örneklemi) + çalışma düzeyi sürüm eğilimi (M1→M2)
AjanÇıktıOrtamRiskKaliteRubrik %Yanlış KabulKaçanM1 Hata%M2 Hata%Δ
AJ-01ExcelÜretimOrta80.9%79.7127%19.5%10.4-9.1
AJ-02WordÜretimYüksek83.2%80.510%18.0%5.8-12.2
AJ-03PowerPointÜretimÇok Yüksek81.5%81.250%16.6%7.9-8.6
AJ-04E-postaÜretimDüşük84.4%83.620%15.1%7.9-7.2
AJ-05CRM KaydıÜretimOrta81.5%81.210%18.8%9.0-9.8
AJ-06Karar NotuÜretimYüksek86.2%88.010%12.9%8.7-4.3
AJ-07ExcelÜretimÇok Yüksek81.5%81.320%18.4%9.3-9.0
AJ-08WordÜretimDüşük82.0%77.640%19.4%9.0-10.4
AJ-09PowerPointÜretimOrta83.0%85.010%18.4%22.4+4.0
AJ-10E-postaÜretimYüksek84.7%84.2121%18.7%9.7-9.0
AJ-11CRM KaydıÜretimÇok Yüksek80.6%79.120%20.1%10.8-9.3
AJ-12Karar NotuÜretimDüşük82.6%79.030%18.1%9.0-9.1
AJ-13ExcelÜretimOrta79.1%75.240%21.9%10.8-11.1
AJ-14WordÜretimYüksek84.4%83.510%15.8%8.6-7.2
AJ-15PowerPointPilotÇok Yüksek81.8%82.120%16.2%8.3-7.9
AJ-16E-postaPilotDüşük82.0%77.430%19.1%9.7-9.4
AJ-17CRM KaydıPilotOrta82.1%82.720%18.7%10.4-8.3
AJ-18Karar NotuPilotYüksek83.8%82.100%21.2%10.4-10.8
Varsayımlar ve Sınırlamalar