Skip to content

GRA · KI und Risiken von Finanzmodellen

Räumliche FinanzanalyseWo Kapital auf Gefahr, Exposition und Transition trifft

Governance des Modellrisikos

Modellrisiko bezeichnet das Potenzial für Verluste oder Schäden aus Entscheidungen, die auf fehlerhaften oder missbräuchlich verwendeten Modellen beruhen. Banken, Versicherer und Vermögensverwalter steuern es über Modellinventare, Risikoeinstufung, unabhängige Validierung, Genehmigung und laufende Überwachung, beaufsichtigt von Vorständen und Geschäftsleitung. Maschinelles Lernen und generative KI erweitern, was als Modell gilt. Diese Seite legt dar, wie die Governance des Modellrisikos funktioniert und scheitert, welche Aufzeichnungen beteiligt sind und wer entscheidet.

01Registrieren

Steuerung von Modellrisiken, nachvollziehbar dokumentiert.

02Die Frage

Governance von Modellrisiken: wie sich das Risiko entwickelt.

Bestand, Zuständigkeit und Validierung. Das folgende Dossier legt dar, wie sich das Risiko entwickelt, was gemessen wird, woher die Daten stammen, wie modelliert wird und wer entscheidet.

Mechanismus

Inventories miss models

Tabellenkalkulationen, Anbieterwerkzeuge und KI-Komponenten stehen oft außerhalb des Modellinventars. Nicht erfasste Modelle entgehen der Validierung und Überwachung, und ihre Fehler zeigen sich erst, wenn Verluste oder Beschwerden eintreffen.

Mechanismus

Die Herausforderung nimmt ab

Eine Validierung, der es an Unabhängigkeit, Sachkunde oder der Befugnis fehlt, ein Modell zu stoppen, wird zur Formalität. Wirksame kritische Prüfung braucht Validierer, die die Methode verstehen und die Nutzung unterbinden können.

Mechanismus

Die Einstufung bestimmt die Aufmerksamkeit

Models are tiered by materiality and complexity, which decides validation depth. Underestimating a model’s materiality, or the reach of an AI tool, leaves high-impact models lightly reviewed.

Mechanismus

Models interact

Ergebnisse eines Modells fließen in andere ein: Ein Score fließt in die Preisgestaltung ein, diese in die Kapitalausstattung. Ein vorgelagerter Fehler pflanzt sich fort, und das aggregierte Modellrisiko über die Kette wird selten gemessen.

03Monitoring

Lebenszyklus des Modellrisikos.

Die Ansicht, die ein Team nutzen würde, um dieses Thema zu verfolgen: seine Messgrößen, Zustände und Entscheidungen. Namen sind Beispiele, Werte sind illustrativ.

Lebenszyklus des Modellrisikos

Governance von Modellrisiken · Modellinventar · Ausschuss 9

9 validations overdueGRA · AI and Financial Model Risk

Lebenszyklus

  1. Bestandregistriert
  2. Entwickelndokumentiert
  3. Validierenunabhängig
  4. GenehmigenAusschuss
  5. UmsetzenKontrollen
  6. MonitoringSchwellenwerte
  7. Prüfungjährlich
  8. Außer Betrieb nehmenStilllegung

Modelle

MD-204 PD retailStufe 114 Monate3Überfällig
MD-511 LLM complaints triageStufe 1nie0Nicht validiert
MD-164 IFRS-9-StufenzuordnungStufe 18 Monate1Genehmigt
MD-534 Marketing-NeigungStufe 317 Monate0Genehmigt

Validierungsumfang

Konzeptionelle Stichhaltigkeit
In Bearbeitung
Ergebnisanalyse
Ausstehend
Benchmarking
Ausstehend
Nutzungsgrenzen
menschliche Prüfung erforderlich
Model risk lifecycle: the screen’s structure, terms and states for Model risk governance.Example names and illustrative values; a design, not a record or a live system.
04Indikatoren

Was gemessen wird und wie gut.

Jeder Indikator trägt seine Einheit, seinen Rhythmus, die Art der zugrunde liegenden Quelle und die Evidenzkennzeichnung, die ein Wert tragen würde. Es werden keine Werte gezeigt: Ein Programm liefert sie unter seiner eigenen Autorität.

IndikatorEinheitTaktQuellentypKennzeichnung
Modelle im BestandAnzahl nach StufevierteljährlichModellinventarDEKLARIERT
Modelle, die innerhalb des Politikzyklus validiert werdenAnteil nach StufevierteljährlichValidierungsprotokolleDEKLARIERT
Offene ValidierungsbefundeAnzahl nach SchweregradvierteljährlichValidierungsprotokolleDEKLARIERT
Models used with exceptions or restrictionsAnzahlvierteljährlichModel governance recordsDEKLARIERT
KI- und Machine-Learning-Modelle im Bestandcount and sharejährlichBestandsaufnahme und ErhebungenDEKLARIERT
Supervisory findings on model risk managementAnzahljährlichAufsichtsberichteVeröffentlichte Statistiken
05Szenariomodell

Politikpfade und was sie für das Risiko bewirken.

Wie drei Instrumentenfamilien ein Risikoergebnis im Zeitverlauf verändern, mit Einführungsverzögerungen, Abdeckung und Einhaltung, die Politikszenarien hinter Bewertungen von Transitions- und physischen Risiken. Szenario: benannte Annahmen über die Zukunft, keine Prognose.

Steuerung

Basistrend des Ergebnisses
2.0% pro Jahr
Abdeckung des Instruments
70%
Compliance
75%
Effektgröße im Vergleich zum Lehrwert
100%
Jahre im Voraus
20 Jahre

Messwerte

Größte Verringerung am Zeithorizont
Regulierung
Der Rückgang gegenüber der Basislinie
21%
Zahlen, Methoden und Quellen
JahrAusgangslageRegulierungWirtschaftlicher AnreizInformation und Kapazität
0100.099.598.899.1
1102.0101.2100.199.8
2104.0102.5101.199.9
3106.1103.5101.6100.0
4108.2103.7101.8100.7
5110.4103.2101.7102.1
6112.6102.0101.6103.9
7114.9100.4101.6105.9
8117.299.2102.1108.0
9119.598.6102.9110.1
10121.998.9104.2112.3
11124.399.7105.7114.5
12126.8101.1107.4116.8
13129.4102.7109.4119.2
14131.9104.5111.4121.6
15134.6106.5113.5124.0
16137.3108.5115.7126.5
17140.0110.7118.0129.0
18142.8112.9120.4131.6
19145.7115.1122.8134.2
20148.6117.4125.2136.9

Methoden

  1. Tools of government Hood (1983), The Tools of Government, Macmillan
  2. Zuckerbrot, Peitsche und Predigt Bemelmans-Videc, Rist und Vedung (1998), Transaction
  3. Diffusion of innovations Rogers (2003), Diffusion of Innovations, Free Press
  4. Unsicherheitsfächer (Parameter-Monte-Carlo) Spiegelhalter, Pearson und Short (2011), Visualising uncertainty about the future, Science 333
  5. One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley

Daten

The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:

  • Borders Natural Earth
  • Cities Natural Earth
Politikpfade und ihre Wirkung auf das Risiko. Anschauliches Lehrmodell: Es arbeitet mit den über die Bedienelemente gesetzten Werten, nicht mit Messdaten. Methoden: Werkzeuge des Regierens (Hood (1983), The Tools of Government, Macmillan); Zuckerbrot, Peitsche und Predigt (Bemelmans-Videc, Rist und Vedung (1998), Transaction); Diffusion von Innovationen (Rogers (2003), Diffusion of Innovations, Free Press).
06Quellen

Woher die Evidenz stammt.

Benannte öffentliche Datensätze und institutionelle Aufzeichnungen, jeweils mit ihrer Lizenzklasse. Quellen auf Vereinbarungsbasis werden nur zu ihren Bedingungen genutzt und niemals weiterveröffentlicht.

QuelleWas es liefertLizenzklasse
Leitlinien SR 11-7 der Federal Reserve und des OCCModellrisiko managementGemeinfrei
PRA SS1/23 model risk management principlesBritische Grundsätze für BankenKostenlos, Konditionen der Bank of England
EZB-Leitfaden zu internen ModellenErwartungen an interne Modelle für die KapitalunterlegungKostenlos, EZB-Bedingungen
Erhebungen der Bank of England und der FCA zu KI und maschinellem Lernen im britischen FinanzwesenUse and governance of AI across firmsKostenfrei, Bedingungen der Bank of England und der FCA
Folgeberichte der EBA zum maschinellen Lernen in auf internen Ratings basierenden ModellenAufsichtliche Sichtweisen zu maschinellem Lernen in KapitalmodellenKostenlos, EU-Weiterverwendungsbedingungen
07Exposition, Verlust und Kapital

What model risk governance means for exposure, loss and capital.

Die Ansichten zu Exposition, Verlust, Szenario und Kapital, die eine Risikoverantwortliche, ein Aufseher oder ein Finanzministerium verlangen würde, samt den Rahmenwerken, gegen die berichtet wird. Die Strukturen folgen der aufsichtsrechtlichen und versicherungsmathematischen Praxis. Die Werte sind illustrativ: niemals Preise, Ratings oder Beratung.

Transmissionskanäle

Wie sich ein Schock in der Governance von Modellrisiken auf Kredit-, Markt-, Zeichnungs-, Liquiditäts- und operationelle Risiken auswirkt und zurückwirkt.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
NGFS climate scenarios · Network for Greening the Financial SystemIFRS S2 Climate-related Disclosures · ISSBTCFD recommendations · Financial Stability Board TCFDPrinciples for the effective management of climate-related financial risks · Basel Committee on Banking Supervision
08Entscheidungen

Wer entscheidet und wozu die Evidenz dient.

KI und finanzielles Modellrisiko bereitet Evidenz auf. Die nachstehenden Entscheidungen werden von den genannten Behörden nach ihren eigenen Regeln getroffen, nie von der Plattform.

Wer entscheidetDie FrageEvidenz, der diese Seite dient
Boards and senior managementWhat model risk appetite to set and how to oversee itInventory, tiering, findings and incident evidence
Model risk management functionsWelche Modelle zu validieren, zu genehmigen, einzuschränken oder auszumustern sindValidierungsergebnisse und Überwachung
Aufsichtsbehörden für FinanzstabilitätOb das Modellrisikomanagement den Erwartungen entsprichtAufsichtsprüfungen und Berichterstattung der Unternehmen
Interne RevisionOb der Rahmen für das Modellrisiko wie vorgesehen funktioniertGovernance- und Validierungsunterlagen

Ergebnisse, die dieses Thema hervorbringt

  • Leitfaden zu Modellinventaren, Einstufung und Validierung
  • Kurzdarstellung zur Ausweitung des Modellrisikomanagements auf KI und generative KI
  • Methodenhinweis zur wirksamen Hinterfragung
  • Questions for boards on aggregate model risk
09Kernfragen

Was Fachleute fragen.

Governance-Fragen beginnen damit, zu wissen, welche Modelle existieren.

  • Was gilt als Modell, und erfasst die Definition maschinelles Lernen, Anbieterwerkzeuge und generative KI?
  • Ist jedes Modell im Inventar erfasst, mit einem verantwortlichen Eigentümer und einer Risikostufe?
  • Is validation genuinely independent and effective at challenging developers?
  • How are model limitations documented and communicated to users?
  • Does the board understand the institution’s aggregate model risk?
10Mechanismen

Mechanismen und Treiber.

Models fail through flawed design, poor data, implementation errors, or use beyond their intended scope. Governance frameworks address these through development standards, independent validation and ongoing monitoring, scaled to each model’s materiality. Supervisory guidance on model risk management in several jurisdictions sets expectations along these lines.

KI belastet herkömmliche Rahmenwerke. Modelle des maschinellen Lernens können zahlreich sein, häufig neu trainiert und in Prozesse eingebettet werden; generative KI-Werkzeuge können von Mitarbeitenden informell übernommen werden; Modelle von Anbietern können undurchsichtig sein. Inventare, die diese Nutzungen übersehen, lassen Risiken unbewältigt.

11Methoden und Daten

Wie es untersucht wird und wo die Methoden enden.

Methode oder DatenWas es zeigtGrenzen
Model inventories and tieringWhich models exist and how material they areInformelle und eingebettete KI-Anwendungen werden leicht übersehen
Unabhängige ValidierungSoundness of design, data and implementationDie Validierung wird durch Zeit, Fachkenntnisse und den Zugang zu Anbieterangaben eingeschränkt
Governance benchmarkingHow institutions organise model riskSelf-reported and hard to compare
Analyse von Sachverhalten und FeststellungenWiederkehrende SchwächenBefunde bleiben innerhalb der Unternehmen vertraulich
12Methoden

Wie es untersucht wird und was die Methoden nicht sagen können.

  1. Engineering für KI-Evaluierung und -AssuranceValidierung von Modellen des maschinellen Lernens · Red-Teaming generativer KI · FairnessbewertungHier angewandt
  2. Wahrscheinlichkeit und StatistikKalibrierungstests · Driftstatistiken · Vergleich der Ergebnisse zwischen GruppenHier angewandt
  3. Unsicherheitsquantifizierung und ModellvalidierungVorhersageintervalle für Verlustmodelle · Modellensembles · Kapital- oder Puffer für ModellrisikoHier angewandt
  4. Künstliche Intelligenz und maschinelles LernenGradient-Boosting-Kreditmodelle · Sprachmodelle im Betrieb · AnomalieerkennungHier angewandt
13Fragen

Fragen und Antworten.

Was ist Modellrisiko?
Das Potenzial für nachteilige Folgen aus Entscheidungen, die auf fehlerhaften oder missbräuchlich verwendeten Modellergebnissen beruhen, wie SR 11-7 es beschreibt, einschließlich finanzieller Verluste, schlechter Entscheidungen und Reputationsschäden.
What is effective challenge?
Kritische, unabhängige Analyse eines Modells durch Personen mit der Kompetenz, dem Einfluss und den Anreizen, Grenzen zu erkennen und Änderungen zu verlangen.
Are AI models covered by model risk rules?
Aufsichtsbehörden wie die PRA geben an, dass die Grundsätze des Modellrisikos auch für KI- und Machine-Learning-Modelle gelten, unter Beachtung ihrer spezifischen Risiken.
Zählen Tabellenkalkulationen und generative KI-Werkzeuge als Modelle?
Many frameworks define models by function rather than technology, so tools that produce quantitative estimates or influence decisions can fall within scope. Each institution applies its own definition under its supervisors’ expectations.
Does the platform review firms’ frameworks?
No. GRA does not review, validate or approve firms’ frameworks or models.
BerichteBeitragen

Evidenz von dieser Seite aus beitragen.

Reports ist die vierteljährliche Publikation des Konsortiums. Was Sie über dieses Thema wissen, kann in der nächsten Ausgabe zu Evidenz, einem Fall oder einer Korrektur werden, Ihnen zugeschrieben und unter CC BY 4.0 veröffentlicht, soweit es Ihr eigenes Werk ist.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
KI und Risiken von Finanzmodellen

Bringen Sie eine Frage zu Exposition oder Kapital in die Alliance ein.

Information und Anfragen sind heute offen. Eine Anfrage erhält ein Aktenzeichen und nennt den nächsten Schritt; Bewerbungen, Zahlungen, Rechenzuteilungen und Registrierungen öffnen erst, wenn Team, Bedingungen und Prüfkapazität bestehen.