Hannemann/Biewer/Kocatepe/Zaruk/Weigl, MaRisk AT 4.3.5 V ... / 7 Erklärbarkeit (Tz. 6)

Rz. 87

7.1 Interpretation der Ergebnisse

Rz. 88

Die Modellergebnisse müssen vom Institut interpretiert werden können. Insbesondere müssen die Wirkungszusammenhänge zwischen den Eingangsgrößen (z. B. Markt- und Portfoliodaten) und den Ausgangsgrößen (z. B. Marktpreis eines Finanzinstrumentes im Risikofall) aufgezeigt werden können. Bei den Modellen, die Charakteristika von technologiegestützter Innovation und künstlicher Intelligenz aufweisen, besteht im Vergleich zu traditionellen Methoden und Verfahren die Herausforderung, dass sie für den Anwender nicht immer verständlich sind. Es ist dem Anwender nicht in jedem Fall klar, warum oder wie das Modell seine Entscheidung fällt und das Ergebnis produziert ("Blackbox"-Eigenschaft). Dies führt zu einer beschränkten Nachvollziehbarkeit des Modellverhaltens und ggf. auch zu einer erschwerten Überprüfung der Angemessenheit der Modellergebnisse. Die Akzeptanz der Modellergebnisse bei den Anwendern kann darunter ebenfalls leiden, insbesondere wenn es sich um rechtliche oder sicherheitstechnische Anwendungen handelt. Während diese "Blackbox"-Eigenschaft als Preis für eine höhere Prognosegüte des Modells gesehen werden kann, entsteht gleichzeitig ein potenziell höheres Modellrisiko. Die "Blackbox"-Eigenschaft kann verbergen, dass diese Methoden Beziehungen in den Daten erlernen, die keine realen Grundlagen haben und keine allgemeinen Schlussfolgerungen zulassen. Aus der eingeschränkten Nachvollziehbarkeit des Modellverhaltens ergeben sich praktische Herausforderungen nicht nur für die Modellentwicklung und -validierung, sondern auch für die Inte...