Explainable AI zur Analyse von Verzerrungen
Bachelorarbeit — Note: 1.6
Zusammenfassung
Die Kreditrisikobewertung stützt sich zunehmend auf Black-Box-Modelle wie baumbasierte Gradient-Boosting-Ensembles. Zugleich stellt der EU AI Act Anforderungen an Transparenz, menschliche Aufsicht und unter bestimmten Voraussetzungen an Erläuterungen für betroffene Personen.
SHAP, LIME und Permutation Feature Importance (PFI) werden verglichen anhand eines XGBoost-Modells auf dem South German Credit-Datensatz. Die Arbeit untersucht Stabilität globaler Ranglisten (SHAP, PFI), lokale Erklärungen (LIME), sowie eine Ablationsanalyse redundanter geschlechtsbezogener Repräsentationen und ordnet die technischen Fähigkeiten der Methoden im Kontext relevanter Artikel des EU AI Act ein.
Ergebnisse zeigen sehr stabile Rankings für SHAP und gruppierte PFI; LIME wird ausschließlich lokal analysiert. SHAP bietet die breiteste Abdeckung erklärungsbezogener Möglichkeiten, PFI ergänzt eine performancebasierte Perspektive, und LIME liefert alternative lokale Surrogaterklärungen.