GRA · Risque lié à l'IA et aux modèles financiers
Spatial financeWhere capital meets hazard, exposure and transition
Gouvernance du risque de modèle
Risque de modèle est le risque de perte ou de préjudice résultant de décisions fondées sur des modèles erronés ou mal utilisés. Les banques, les assureurs et les gestionnaires d'actifs le gèrent au moyen d'inventaires de modèles, d'une hiérarchisation des risques, d'une validation indépendante, d'une approbation et d'un suivi continu, sous la supervision des conseils d'administration et de la direction générale. L'apprentissage automatique et l'IA générative élargissent ce qui constitue un modèle. Cette page expose le fonctionnement et les défaillances de la gouvernance du risque de modèle, les enregistrements concernés et les responsables des décisions.
La gouvernance du risque de modèle, documentée.
Gouvernance du risque de modèle : comment le risque se développe.
Inventaire, propriété et validation. Le dossier ci-dessous expose comment le risque se développe, ce qui est mesuré, d'où viennent les données, comment elles sont modélisées et qui décide.
Les inventaires passent à côté des modèles
Les tableurs, les outils de fournisseurs et les composants d'IA se trouvent souvent hors de l'inventaire des modèles. Les modèles non recensés échappent à la validation et au suivi, et leurs erreurs n'apparaissent que lorsque surviennent des pertes ou des réclamations.
Le défi s'atténue
Une validation qui manque d'indépendance, de compétence ou d'autorité pour arrêter un modèle devient une formalité. Une contestation effective exige des validateurs qui comprennent la méthode et peuvent en bloquer l'utilisation.
Le niveau détermine l'attention
Models are tiered by materiality and complexity, which decides validation depth. Underestimating a model’s materiality, or the reach of an AI tool, leaves high-impact models lightly reviewed.
Models interact
Les sorties d'un modèle alimentent d'autres modèles : un score alimente la tarification, qui alimente le capital. Une erreur en amont se propage, et le modèles financiers agrégé le long de la chaîne est rarement mesuré.
Cycle de vie du risque de modèle.
L'écran qu'une équipe utiliserait pour suivre ce sujet : ses mesures, ses états et ses décisions. Les noms sont des exemples et les valeurs sont illustratives.
Cycle de vie du risque de modèle
Gouvernance du risque de modèle · Inventaire des modèles · Comité 9
Cycle de vie
- Inventaireenregistré
- Développerdocumenté
- Validerindépendant
- Approuvercomité
- Mettre en œuvrecontrôles
- Suiviseuils
- Examenannuel
- Retirermise hors service
Modèles
| MD-204 PD retail | Niveau 1 | 14 mois | 3 | En retard |
| MD-511 Triage des réclamations par LLM | Niveau 1 | jamais | 0 | Non validé |
| MD-164 IFRS 9 staging | Niveau 1 | 8 mois | 1 | Approuvé |
| MD-534 propension marketing | Niveau 3 | 17 months | 0 | Approuvé |
Périmètre de validation
- Solidité conceptuelle
- En cours
- Analyse des résultats
- En attente
- Analyse comparative
- En attente
- Limites d'utilisation
- examen humain requis
Ce qui est mesuré, et avec quelle qualité.
Chaque indicateur porte son unité, sa périodicité, le type de source qui le sous-tend et l'étiquette de preuve que porterait une valeur. Aucune valeur n'est affichée : un programme les fournit sous sa propre autorité.
| Indicateur | Unité | Fréquence | Type de source | Étiquette |
|---|---|---|---|---|
| Modèles à l'inventaire | nombre par niveau | trimestriel | Inventaire des modèles | DÉCLARÉ |
| Modèles validés dans le cycle de politique publique | share by tier | trimestriel | Dossiers de validation | DÉCLARÉ |
| Open validation findings | nombre par niveau de gravité | trimestriel | Dossiers de validation | DÉCLARÉ |
| Modèles utilisés avec exceptions ou restrictions | nombre | trimestriel | Model governance records | DÉCLARÉ |
| Modèles d'IA et d'apprentissage automatique dans l'inventaire | count and share | annuel | Inventaire et enquêtes | DÉCLARÉ |
| Constats de supervision sur la gestion du modèles financiers fondée sur des principes | nombre | annuel | Rapports prudentiels | Statistiques publiées |
Les trajectoires de politique publique et leurs effets sur le risque.
Comment trois familles d'instruments modifient un résultat de risque au fil du temps, avec des délais d'adoption, la couverture et la conformité, soit les scénarios de politique publique qui sous-tendent les évaluations du risque de transition et du risque physique. Scénario : hypothèses nommées sur l'avenir, et non une prévision.
Commandes
- Tendance de référence du résultat
- 2.0 % par an
- Couverture de l'instrument
- 70%
- Conformité
- 75%
- Ampleur de l'effet, par rapport à la valeur pédagogique
- 100%
- Années à venir
- 20 ans
Relevés
- Plus forte réduction à l'horizon
- Réglementation
- Sa réduction par rapport à la référence
- 21%
Chiffres, méthodes et sources
| Année | Référence | Réglementation | Incitation économique | Information et capacité |
|---|---|---|---|---|
| 0 | 100.0 | 99.5 | 98.8 | 99.1 |
| 1 | 102.0 | 101.2 | 100.1 | 99.8 |
| 2 | 104.0 | 102.5 | 101.1 | 99.9 |
| 3 | 106.1 | 103.5 | 101.6 | 100.0 |
| 4 | 108.2 | 103.7 | 101.8 | 100.7 |
| 5 | 110.4 | 103.2 | 101.7 | 102.1 |
| 6 | 112.6 | 102.0 | 101.6 | 103.9 |
| 7 | 114.9 | 100.4 | 101.6 | 105.9 |
| 8 | 117.2 | 99.2 | 102.1 | 108.0 |
| 9 | 119.5 | 98.6 | 102.9 | 110.1 |
| 10 | 121.9 | 98.9 | 104.2 | 112.3 |
| 11 | 124.3 | 99.7 | 105.7 | 114.5 |
| 12 | 126.8 | 101.1 | 107.4 | 116.8 |
| 13 | 129.4 | 102.7 | 109.4 | 119.2 |
| 14 | 131.9 | 104.5 | 111.4 | 121.6 |
| 15 | 134.6 | 106.5 | 113.5 | 124.0 |
| 16 | 137.3 | 108.5 | 115.7 | 126.5 |
| 17 | 140.0 | 110.7 | 118.0 | 129.0 |
| 18 | 142.8 | 112.9 | 120.4 | 131.6 |
| 19 | 145.7 | 115.1 | 122.8 | 134.2 |
| 20 | 148.6 | 117.4 | 125.2 | 136.9 |
Méthodes
- Tools of government Hood (1983), The Tools of Government, Macmillan
- Carottes, bâtons et sermons Bemelmans-Videc, Rist et Vedung (1998), Transaction
- Diffusion of innovations Rogers (2003), Diffusion of Innovations, Free Press
- Éventail d'incertitude (Monte Carlo sur les paramètres) Spiegelhalter, Pearson et Short (2011), Visualising uncertainty about the future, Science 333
- One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Données
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- Borders Natural Earth
- Cities Natural Earth
Sur les six piliers, sous la conduite de Nexus Consortium
- Expériences Laboratoires
- Intégré Risque lié à l'IA et aux modèles financiers dans Foundry
- Testé à Risque lié à l'IA et aux modèles financiers dans Universe
- Codifié dans Numérique, cyber et IA dans Standards
- Publié dans Risque lié à l'IA et aux modèles financiers dans Reports
- Enseigné dans Faculté de technologie et de systèmes numériques dans Academy
D'où proviennent les données probantes.
Jeux de données publics et registres institutionnels nommés, chacun avec sa catégorie de licence. Les sources fournies dans le cadre d'accords ne sont utilisées que selon leurs conditions et ne sont jamais republiées.
| Sources | Ce qu'elle apporte | Catégorie de licence |
|---|---|---|
| Orientations SR 11-7 de la Réserve fédérale et de l'OCC | Model risk management expectations | Domaine public |
| Principes de gestion du risque de modèle de la PRA SS1/23 | Principes du Royaume-Uni pour les banques | Gratuit, conditions de la Banque d'Angleterre |
| Guide de la BCE sur les modèles internes | Expectations for internal models used for capital | Gratuit, conditions de la BCE |
| Enquêtes de la Bank of England et de la FCA sur l'IA et l'apprentissage automatique dans les services financiers britanniques | Use and governance of AI across firms | Gratuit, conditions de la Bank of England et de la FCA |
| Rapports de suivi de l'EBA sur l'apprentissage automatique pour les modèles fondés sur les notations internes | Supervisory views on ML in capital models | Gratuit, conditions de réutilisation de l'UE |
What model risk governance means for exposure, loss and capital.
Les vues d'exposition, de pertes, de scénarios et de capital que demanderaient un responsable des risques, une autorité de contrôle ou un ministère des finances, avec les cadres dont ils relèvent pour leurs rapports. Les structures suivent la pratique prudentielle et actuarielle. Les valeurs sont illustratives : jamais des prix, des notations ni des conseils.
Canaux de transmission
Comment un choc dans la gouvernance du risque de modèle atteint le risque de crédit, de marché, de souscription, de liquidité et opérationnel, et se répercute en retour.
Qui décide, et à quoi servent les données probantes.
Risque lié à l'IA et risque de modèle prépare les données probantes. Les décisions ci-dessous sont prises par les autorités nommées, selon leurs propres règles, et jamais par la plateforme.
| Qui décide | La question | Données probantes servies par cette page |
|---|---|---|
| Conseils d'administration et direction générale | What model risk appetite to set and how to oversee it | Inventaire, hiérarchisation, constats et preuves d'incident |
| Model risk management functions | Quels modèles valider, approuver, restreindre ou retirer | Validation results and monitoring |
| Autorités de supervision prudentielle | Whether model risk management meets expectations | Examens prudentiels et déclarations des entreprises |
| Audit interne | Si le cadre de risque de modèle fonctionne comme prévu | Governance and validation records |
Résultats que produit ce thème
- Guide de l'inventaire, de la hiérarchisation et de la validation des modèles
- Note sur l'extension de la gestion du risque de modèle à l'IA et à l'IA générative
- Note méthodologique sur la contestation effective
- Questions à l'intention des conseils d'administration sur le risque de modèle agrégé
Ce que se demandent les experts.
Les questions de gouvernance commencent par savoir quels modèles existent.
- Qu'est-ce qui constitue un modèle, et la définition couvre-t-elle l'apprentissage automatique, les outils de fournisseurs et l'IA générative ?
- Is every model in the inventory, with an accountable owner and a risk tier?
- Is validation genuinely independent and effective at challenging developers?
- How are model limitations documented and communicated to users?
- Does the board understand the institution’s aggregate model risk?
Mécanismes et facteurs.
Models fail through flawed design, poor data, implementation errors, or use beyond their intended scope. Governance frameworks address these through development standards, independent validation and ongoing monitoring, scaled to each model’s materiality. Supervisory guidance on model risk management in several jurisdictions sets expectations along these lines.
AI strains traditional frameworks. Machine learning models can be numerous, frequently retrained and embedded in processes; generative AI tools may be adopted informally by staff; vendor models may be opaque. Inventories that miss these uses leave risk unmanaged.
Comment c'est étudié, et où les méthodes s'arrêtent.
| Méthode ou données | Ce qu'il montre | Limites |
|---|---|---|
| Model inventories and tiering | Which models exist and how material they are | Les usages informels et intégrés de l'IA sont facilement négligés |
| Validation indépendante | Soundness of design, data and implementation | La validation est limitée par le temps, les compétences et l'accès aux informations sur les fournisseurs |
| Governance benchmarking | Comment les institutions organisent le modèles financiers | Self-reported and hard to compare |
| Issue and finding analysis | Faiblesses récurrentes | Les conclusions restent confidentielles au sein des entreprises |
Comment c'est étudié, et ce que les méthodes ne peuvent pas dire.
- 01Ingénierie de l'évaluation et de l'assurance de l'IAValidation des modèles d'apprentissage automatique · Tests adversariaux de l'IA générative · Évaluation de l'équitéAppliqué ici
- 02Probabilités et statistiquesTests d'étalonnage · Statistiques de dérive · Comparaison des résultats entre groupesAppliqué ici
- 03Quantification de l'incertitude et validation des modèlesIntervalles de prédiction pour les modèles de pertes · Ensembles de modèles · Capital ou coussins pour risque de modèleAppliqué ici
- 04Intelligence artificielle et apprentissage automatiqueModèles de crédit à gradient boosting · Modèles de langage dans les opérations · Détection des anomaliesAppliqué ici
Questions et réponses.
Qu'est-ce que le risque de modèle ?
Qu'est-ce que la remise en question effective ?
Are AI models covered by model risk rules?
Les feuilles de calcul et les outils d'IA générative comptent-ils comme des modèles ?
Does the platform review firms’ frameworks?
Apportez des éléments de preuve depuis cette page.
Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.
- E-mailPasserelle GW-GRAL'envoyer depuis cette pageUne preuve, une correction, un cas, une méthode, un examen, une traduction ou un apport au profil. Elle arrive étiquetée avec cette page, afin que le rédacteur responsable la reçoive.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks AllianceSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
N'envoyez jamais de données personnelles, de détails sensibles sur des infrastructures ni rien que vous n'avez pas le droit de communiquer. Une contribution est examinée avant utilisation ; son envoi ne confère ni qualité d'auteur ni droits éditoriaux, et un parrainage n'achète jamais une conclusion.
Soumettez une question d'exposition ou de capital à l'Alliance.
L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.
Documents juridiques.
Les cartes, données et chiffres de ce site sont présentés à titre de contexte et d'information générale. Ils ne constituent ni des conseils, ni des prévisions, ni des alertes ; les limites de l'information sont exposées dans les Avertissements et les Notices sur les données.