GRA · KI und Risiken von Finanzmodellen
Räumliche FinanzanalyseWo Kapital auf Gefahr, Exposition und Transition trifft
Modelle von Drittanbietern
Unternehmen setzen Kreditscores von Anbietern, Betrugsmodelle, Katastrophenmodelle, Analysen von Marktdaten und Foundation-Modelle ein, die sie weder selbst entwickelt haben noch vollständig prüfen können. Die Verantwortung für das Modellrisiko verbleibt beim Unternehmen. Diese Seite beschreibt, wie Modellrisiko bei Dritten entsteht, wie Unternehmen validieren, was sie nicht einsehen können, welche Evidenz verfügbar ist und wer entscheidet.
Third party models on the record.
Modelle Dritter: wie sich das Risiko entwickelt.
Abhängigkeiten von Anbietern und Sorgfaltsprüfung. Das nachfolgende Dossier legt dar, wie sich das Risiko entwickelt, was gemessen wird, woher die Daten stammen, wie modelliert wird und wer entscheidet.
Limited transparency
Vendors protect their methods as trade secrets. Firms may get documentation and performance reports but not code, data or training details, which limits validation.
Shared models, shared errors
Wenn viele Unternehmen dasselbe Modell eines Anbieters nutzen, wirken sich dessen Fehler auf alle gleichzeitig aus und können Märkte oder das Kreditangebot gemeinsam bewegen.
Updates verändern das Verhalten
Vendors update models and data on their own schedules. Without notice and change analysis, a firm’s validated model can change silently.
Validierung anhand von Ergebnissen
Wo Interna verborgen sind, validieren Unternehmen durch Benchmarking, Ergebnisanalyse und Tests mit eigenen Daten, was Zeit und Daten erfordert.
Lebenszyklus des Modellrisikos.
Die Ansicht, die ein Team nutzen würde, um dieses Thema zu verfolgen: seine Messgrößen, Zustände und Entscheidungen. Namen sind Beispiele, Werte sind illustrativ.
Lebenszyklus des Modellrisikos
Modelle Dritter · Modellinventar · Ausschuss 8
Lebenszyklus
- Bestandregistriert
- Entwickelndokumentiert
- Validierenunabhängig
- GenehmigenAusschuss
- UmsetzenKontrollen
- MonitoringSchwellenwerte
- Prüfungjährlich
- Außer Betrieb nehmenStilllegung
Modelle
| MD-709 PD Privatkunden | Stufe 1 | 9 Monate | 1 | Überfällig |
| MD-561 Triage von Beschwerden mit LLM | Stufe 1 | nie | 0 | Nicht validiert |
| MD-601 IFRS 9 staging | Stufe 1 | 3 months | 0 | Genehmigt |
| MD-088 Marketingneigung | Stufe 3 | 14 Monate | 1 | Genehmigt |
Validierungsumfang
- Konzeptionelle Stichhaltigkeit
- In Bearbeitung
- Ergebnisanalyse
- Ausstehend
- Benchmarking
- Ausstehend
- Nutzungsgrenzen
- menschliche Prüfung erforderlich
Was gemessen wird und wie gut.
Jeder Indikator trägt seine Einheit, seinen Rhythmus, die Art der zugrunde liegenden Quelle und die Evidenzkennzeichnung, die ein Wert tragen würde. Es werden keine Werte gezeigt: Ein Programm liefert sie unter seiner eigenen Autorität.
| Indikator | Einheit | Takt | Quellentyp | Kennzeichnung |
|---|---|---|---|---|
| Modelle Dritter im Inventar | Anzahl nach Stufe | jährlich | Modellinventar | DEKLARIERT |
| Anbietermodelle mit vollständiger Dokumentation | Anteil | jährlich | Aufzeichnungen zum Lieferantenmanagement | DEKLARIERT |
| Modelländerungen des Anbieters mitgeteilt | Anzahl | pro Jahr | Hinweise von Anbietern | BERICHTET |
| Modelle Dritter, an eigenen Daten validiert | Anteil | jährlich | Validierungsprotokolle | DEKLARIERT |
| Concentration of vendor model use across firms | Anteil der Unternehmen, die führende Anbieter nutzen | periodisch | Aufsichtliche Erhebungen | BERICHTET |
| Contracts with model change notice clauses | Anteil | periodisch | Vertragsprüfungen | DEKLARIERT |
What third party models means for exposure, loss and capital.
Die Ansichten zu Exposition, Verlust, Szenario und Kapital, die eine Risikoverantwortliche, ein Aufseher oder ein Finanzministerium verlangen würde, samt den Rahmenwerken, gegen die berichtet wird. Die Strukturen folgen der aufsichtsrechtlichen und versicherungsmathematischen Praxis. Die Werte sind illustrativ: niemals Preise, Ratings oder Beratung.
Transmissionskanäle
How a shock in third party models reaches credit, market, underwriting, liquidity and operational risk, and feeds back.
Woher die Evidenz stammt.
Benannte öffentliche Datensätze und institutionelle Aufzeichnungen, jeweils mit ihrer Lizenzklasse. Quellen auf Vereinbarungsbasis werden nur zu ihren Bedingungen genutzt und niemals weiterveröffentlicht.
| Quelle | Was es liefert | Lizenzklasse |
|---|---|---|
| SR 11-7: Leitlinien zu Modellen von Anbietern und Dritten | Erwartungen an die Nutzung externer Modelle | Gemeinfrei |
| Behördenübergreifende Leitlinien zu Beziehungen mit Drittanbietern (Bankaufsichtsbehörden der Vereinigten Staaten) | Erwartungen an das Risikomanagement bei Dritten | Gemeinfrei |
| FSB-Bericht zu den Auswirkungen von KI auf die Finanzstabilität | Drittparteien- und Konzentrationsrisiken durch KI | Kostenlos, FSB-Bedingungen |
| Pflichten nach dem EU-KI-Gesetz für Anbieter und Betreiber | Aufgabenteilung zwischen KI-Anbietern und Nutzern | Kostenlos, EU-Weiterverwendungsbedingungen |
| Vendor model documentation and performance reports | Informationen, die Anbieter den Nutzern bereitstellen | Proprietär, Bedingungen je Anbieter |
Wer entscheidet und wozu die Evidenz dient.
KI und finanzielles Modellrisiko bereitet Evidenz auf. Die nachstehenden Entscheidungen werden von den genannten Behörden nach ihren eigenen Regeln getroffen, nie von der Plattform.
| Wer entscheidet | Die Frage | Evidenz, der diese Seite dient |
|---|---|---|
| Funktionen des Modellrisikos | How to validate and approve third-party models | Dokumentation, Benchmarks und Ergebnisprüfung |
| Beschaffung und Recht | Which transparency and change terms to require | Vertragspraxis und regulatorische Erwartungen |
| Aufsichtsbehörden | Ob die Nutzung von Anbietermodellen angemessen gesteuert wird und ob Konzentration eine Rolle spielt | Surveys and review findings |
| Anbieter | Welche Dokumentation und Mitteilung bereitzustellen ist | Kunden- und regulatorische Anforderungen |
Ergebnisse, die dieses Thema hervorbringt
- Leitfaden zur Validierung von Modellen, die Unternehmen nicht einsehen können
- Kurzdarstellung zur Konzentration bei Anbieter- und Foundation-Modellen
- Methodenhinweis zur Änderungsanalyse bei Anbieter-Updates
- Fragen für die Beschaffung zu Bedingungen der Modelltransparenz
Was Fachleute fragen.
Die Fragen betreffen die Verantwortung für Modelle, die man nicht selbst erstellt hat.
- Versteht die Institution die Funktionsweise eines Anbietermodells gut genug, um dessen Verwendung zu validieren?
- What documentation, testing evidence and access does the vendor provide?
- Wie werden Modellaktualisierungen von Anbietern kommuniziert, getestet und genehmigt?
- Wie viele Institutionen verlassen sich auf denselben Anbieter, und was geschieht, wenn er ausfällt oder sich ändert?
- Can the institution exit or replace the model if needed?
Mechanismen und Treiber.
Vendors often protect their models as intellectual property, limiting the transparency available to users. Institutions must still validate the model’s use for their own purposes, typically through outcome testing, benchmarking and contractual rights to documentation. Updates by the vendor can change model behaviour without the institution’s knowledge.
Konzentration ist ein sektorweites Anliegen. Wenn viele Institutionen dasselbe Anbietermodell oder denselben KI-Anbieter nutzen, wirken sich ein Fehler, ein Ausfall oder eine Änderung auf alle gemeinsam aus. Es entstehen korrelierte Fehler und operative Abhängigkeiten, die keine einzelne Institution allein steuern kann.
Wie es untersucht wird und wo die Methoden enden.
| Methode oder Daten | Was es zeigt | Grenzen |
|---|---|---|
| Vendor due diligence | Vendor capability, controls and transparency | Limited by vendor disclosure |
| Ergebnis- und Benchmark-Tests | Performance on the institution’s own data | Legt die interne Logik nicht offen |
| Vertrags- und Ausstiegsanalyse | Rechte auf Information, Benachrichtigung und Ausstieg | Rechte sind möglicherweise schwer auszuüben |
| Konzentrationskartierung | Shared dependencies across the sector | Erfordert aggregierte Informationen |
Wie es untersucht wird und was die Methoden nicht sagen können.
- 01Engineering für KI-Evaluierung und -AssuranceValidierung von Modellen des maschinellen Lernens · Red-Teaming generativer KI · FairnessbewertungHier angewandt
- 02Wahrscheinlichkeit und StatistikKalibrierungstests · Driftstatistiken · Vergleich der Ergebnisse zwischen GruppenHier angewandt
- 03Unsicherheitsquantifizierung und ModellvalidierungVorhersageintervalle für Verlustmodelle · Modellensembles · Kapital- oder Puffer für ModellrisikoHier angewandt
- 04Künstliche Intelligenz und maschinelles LernenGradient-Boosting-Kreditmodelle · Sprachmodelle im Betrieb · AnomalieerkennungHier angewandt
Fragen und Antworten.
Who is responsible for a vendor model’s risk?
Wie kann ein Unternehmen ein Modell validieren, das es nicht einsehen kann?
Warum ist die Anbieterkonzentration von Bedeutung?
Überträgt der Kauf eines Modells dessen Risiko auf den Anbieter?
Why is vendor concentration a stability concern?
Was sollte eine Institution von einem Modellanbieter erhalten können?
Does the platform rate vendors?
Evidenz von dieser Seite aus beitragen.
Reports ist die vierteljährliche Publikation des Konsortiums. Was Sie über dieses Thema wissen, kann in der nächsten Ausgabe zu Evidenz, einem Fall oder einer Korrektur werden, Ihnen zugeschrieben und unter CC BY 4.0 veröffentlicht, soweit es Ihr eigenes Werk ist.
- E-MailPortal GW-GRAVon dieser Seite aus sendenEvidenz, eine Korrektur, ein Fall, eine Methode, eine Prüfung, eine Übersetzung oder ein Beitrag zu einem Profil. Sie kommt mit dieser Seite gekennzeichnet an, sodass die zuständige Redaktion sie erhält.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks AllianceSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Senden Sie nie personenbezogene Daten, sensible Infrastrukturdetails oder etwas, das Sie nicht weitergeben dürfen. Ein Beitrag wird vor der Nutzung geprüft; das Einsenden begründet weder Urheberschaft noch redaktionelle Rechte, und Sponsoring erkauft nie ein Ergebnis.
Bringen Sie eine Frage zu Exposition oder Kapital in die Alliance ein.
Information und Anfragen sind heute offen. Eine Anfrage erhält ein Aktenzeichen und nennt den nächsten Schritt; Bewerbungen, Zahlungen, Rechenzuteilungen und Registrierungen öffnen erst, wenn Team, Bedingungen und Prüfkapazität bestehen.
Rechtliche Dokumente.
Karten, Daten und Zahlen auf dieser Website werden zu Kontext- und allgemeinen Informationszwecken gezeigt. Sie sind weder Beratung noch Prognosen oder Warnungen; die Grenzen der Information sind in den Haftungsausschlüssen und Datenhinweisen dargelegt.