Skip to content

GRA · Risque lié à l'IA et aux modèles financiers

Spatial financeWhere capital meets hazard, exposure and transition

Gouvernance du risque de modèle

Risque de modèle est le risque de perte ou de préjudice résultant de décisions fondées sur des modèles erronés ou mal utilisés. Les banques, les assureurs et les gestionnaires d'actifs le gèrent au moyen d'inventaires de modèles, d'une hiérarchisation des risques, d'une validation indépendante, d'une approbation et d'un suivi continu, sous la supervision des conseils d'administration et de la direction générale. L'apprentissage automatique et l'IA générative élargissent ce qui constitue un modèle. Cette page expose le fonctionnement et les défaillances de la gouvernance du risque de modèle, les enregistrements concernés et les responsables des décisions.

01Registre

La gouvernance du risque de modèle, documentée.

02La question

Gouvernance du risque de modèle : comment le risque se développe.

Inventaire, propriété et validation. Le dossier ci-dessous expose comment le risque se développe, ce qui est mesuré, d'où viennent les données, comment elles sont modélisées et qui décide.

Mécanisme

Les inventaires passent à côté des modèles

Les tableurs, les outils de fournisseurs et les composants d'IA se trouvent souvent hors de l'inventaire des modèles. Les modèles non recensés échappent à la validation et au suivi, et leurs erreurs n'apparaissent que lorsque surviennent des pertes ou des réclamations.

Mécanisme

Le défi s'atténue

Une validation qui manque d'indépendance, de compétence ou d'autorité pour arrêter un modèle devient une formalité. Une contestation effective exige des validateurs qui comprennent la méthode et peuvent en bloquer l'utilisation.

Mécanisme

Le niveau détermine l'attention

Models are tiered by materiality and complexity, which decides validation depth. Underestimating a model’s materiality, or the reach of an AI tool, leaves high-impact models lightly reviewed.

Mécanisme

Models interact

Les sorties d'un modèle alimentent d'autres modèles : un score alimente la tarification, qui alimente le capital. Une erreur en amont se propage, et le modèles financiers agrégé le long de la chaîne est rarement mesuré.

03Suivi

Cycle de vie du risque de modèle.

L'écran qu'une équipe utiliserait pour suivre ce sujet : ses mesures, ses états et ses décisions. Les noms sont des exemples et les valeurs sont illustratives.

Cycle de vie du risque de modèle

Gouvernance du risque de modèle · Inventaire des modèles · Comité 9

9 validations overdueGRA · AI and Financial Model Risk

Cycle de vie

  1. Inventaireenregistré
  2. Développerdocumenté
  3. Validerindépendant
  4. Approuvercomité
  5. Mettre en œuvrecontrôles
  6. Suiviseuils
  7. Examenannuel
  8. Retirermise hors service

Modèles

MD-204 PD retailNiveau 114 mois3En retard
MD-511 Triage des réclamations par LLMNiveau 1jamais0Non validé
MD-164 IFRS 9 stagingNiveau 18 mois1Approuvé
MD-534 propension marketingNiveau 317 months0Approuvé

Périmètre de validation

Solidité conceptuelle
En cours
Analyse des résultats
En attente
Analyse comparative
En attente
Limites d'utilisation
examen humain requis
Model risk lifecycle: the screen’s structure, terms and states for Model risk governance.Example names and illustrative values; a design, not a record or a live system.
04Indicateurs

Ce qui est mesuré, et avec quelle qualité.

Chaque indicateur porte son unité, sa périodicité, le type de source qui le sous-tend et l'étiquette de preuve que porterait une valeur. Aucune valeur n'est affichée : un programme les fournit sous sa propre autorité.

IndicateurUnitéFréquenceType de sourceÉtiquette
Modèles à l'inventairenombre par niveautrimestrielInventaire des modèlesDÉCLARÉ
Modèles validés dans le cycle de politique publiqueshare by tiertrimestrielDossiers de validationDÉCLARÉ
Open validation findingsnombre par niveau de gravitétrimestrielDossiers de validationDÉCLARÉ
Modèles utilisés avec exceptions ou restrictionsnombretrimestrielModel governance recordsDÉCLARÉ
Modèles d'IA et d'apprentissage automatique dans l'inventairecount and shareannuelInventaire et enquêtesDÉCLARÉ
Constats de supervision sur la gestion du modèles financiers fondée sur des principesnombreannuelRapports prudentielsStatistiques publiées
05Modèle de scénarios

Les trajectoires de politique publique et leurs effets sur le risque.

Comment trois familles d'instruments modifient un résultat de risque au fil du temps, avec des délais d'adoption, la couverture et la conformité, soit les scénarios de politique publique qui sous-tendent les évaluations du risque de transition et du risque physique. Scénario : hypothèses nommées sur l'avenir, et non une prévision.

Commandes

Tendance de référence du résultat
2.0 % par an
Couverture de l'instrument
70%
Conformité
75%
Ampleur de l'effet, par rapport à la valeur pédagogique
100%
Années à venir
20 ans

Relevés

Plus forte réduction à l'horizon
Réglementation
Sa réduction par rapport à la référence
21%
Chiffres, méthodes et sources
AnnéeRéférenceRéglementationIncitation économiqueInformation et capacité
0100.099.598.899.1
1102.0101.2100.199.8
2104.0102.5101.199.9
3106.1103.5101.6100.0
4108.2103.7101.8100.7
5110.4103.2101.7102.1
6112.6102.0101.6103.9
7114.9100.4101.6105.9
8117.299.2102.1108.0
9119.598.6102.9110.1
10121.998.9104.2112.3
11124.399.7105.7114.5
12126.8101.1107.4116.8
13129.4102.7109.4119.2
14131.9104.5111.4121.6
15134.6106.5113.5124.0
16137.3108.5115.7126.5
17140.0110.7118.0129.0
18142.8112.9120.4131.6
19145.7115.1122.8134.2
20148.6117.4125.2136.9

Méthodes

  1. Tools of government Hood (1983), The Tools of Government, Macmillan
  2. Carottes, bâtons et sermons Bemelmans-Videc, Rist et Vedung (1998), Transaction
  3. Diffusion of innovations Rogers (2003), Diffusion of Innovations, Free Press
  4. Éventail d'incertitude (Monte Carlo sur les paramètres) Spiegelhalter, Pearson et Short (2011), Visualising uncertainty about the future, Science 333
  5. One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley

Données

The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:

  • Borders Natural Earth
  • Cities Natural Earth
Trajectoires de politique publique et leurs effets sur le risque. Modèle pédagogique illustratif : il fonctionne sur les valeurs fixées par les commandes, et non sur des données mesurées. Méthodes : outils de gouvernement (Hood (1983), The Tools of Government, Macmillan) ; carottes, bâtons et sermons (Bemelmans-Videc, Rist et Vedung (1998), Transaction) ; diffusion des innovations (Rogers (2003), Diffusion of Innovations, Free Press).
06Sources

D'où proviennent les données probantes.

Jeux de données publics et registres institutionnels nommés, chacun avec sa catégorie de licence. Les sources fournies dans le cadre d'accords ne sont utilisées que selon leurs conditions et ne sont jamais republiées.

SourcesCe qu'elle apporteCatégorie de licence
Orientations SR 11-7 de la Réserve fédérale et de l'OCCModel risk management expectationsDomaine public
Principes de gestion du risque de modèle de la PRA SS1/23Principes du Royaume-Uni pour les banquesGratuit, conditions de la Banque d'Angleterre
Guide de la BCE sur les modèles internesExpectations for internal models used for capitalGratuit, conditions de la BCE
Enquêtes de la Bank of England et de la FCA sur l'IA et l'apprentissage automatique dans les services financiers britanniquesUse and governance of AI across firmsGratuit, conditions de la Bank of England et de la FCA
Rapports de suivi de l'EBA sur l'apprentissage automatique pour les modèles fondés sur les notations internesSupervisory views on ML in capital modelsGratuit, conditions de réutilisation de l'UE
07Exposition, perte et capital

What model risk governance means for exposure, loss and capital.

Les vues d'exposition, de pertes, de scénarios et de capital que demanderaient un responsable des risques, une autorité de contrôle ou un ministère des finances, avec les cadres dont ils relèvent pour leurs rapports. Les structures suivent la pratique prudentielle et actuarielle. Les valeurs sont illustratives : jamais des prix, des notations ni des conseils.

Canaux de transmission

Comment un choc dans la gouvernance du risque de modèle atteint le risque de crédit, de marché, de souscription, de liquidité et opérationnel, et se répercute en retour.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
Scénarios climatiques du NGFS · Réseau pour le verdissement du système financierIFRS S2 Informations à fournir en lien avec les changements climatiques · ISSBRecommandations de la TCFD · TCFD du Conseil de stabilité financièrePrincipes pour une gestion efficace des risques financiers liés au climat · Comité de Bâle sur le contrôle bancaire
08Décisions

Qui décide, et à quoi servent les données probantes.

Risque lié à l'IA et risque de modèle prépare les données probantes. Les décisions ci-dessous sont prises par les autorités nommées, selon leurs propres règles, et jamais par la plateforme.

Qui décideLa questionDonnées probantes servies par cette page
Conseils d'administration et direction généraleWhat model risk appetite to set and how to oversee itInventaire, hiérarchisation, constats et preuves d'incident
Model risk management functionsQuels modèles valider, approuver, restreindre ou retirerValidation results and monitoring
Autorités de supervision prudentielleWhether model risk management meets expectationsExamens prudentiels et déclarations des entreprises
Audit interneSi le cadre de risque de modèle fonctionne comme prévuGovernance and validation records

Résultats que produit ce thème

  • Guide de l'inventaire, de la hiérarchisation et de la validation des modèles
  • Note sur l'extension de la gestion du risque de modèle à l'IA et à l'IA générative
  • Note méthodologique sur la contestation effective
  • Questions à l'intention des conseils d'administration sur le risque de modèle agrégé
09Questions essentielles

Ce que se demandent les experts.

Les questions de gouvernance commencent par savoir quels modèles existent.

  • Qu'est-ce qui constitue un modèle, et la définition couvre-t-elle l'apprentissage automatique, les outils de fournisseurs et l'IA générative ?
  • Is every model in the inventory, with an accountable owner and a risk tier?
  • Is validation genuinely independent and effective at challenging developers?
  • How are model limitations documented and communicated to users?
  • Does the board understand the institution’s aggregate model risk?
10Mécanismes

Mécanismes et facteurs.

Models fail through flawed design, poor data, implementation errors, or use beyond their intended scope. Governance frameworks address these through development standards, independent validation and ongoing monitoring, scaled to each model’s materiality. Supervisory guidance on model risk management in several jurisdictions sets expectations along these lines.

AI strains traditional frameworks. Machine learning models can be numerous, frequently retrained and embedded in processes; generative AI tools may be adopted informally by staff; vendor models may be opaque. Inventories that miss these uses leave risk unmanaged.

11Méthodes et données

Comment c'est étudié, et où les méthodes s'arrêtent.

Méthode ou donnéesCe qu'il montreLimites
Model inventories and tieringWhich models exist and how material they areLes usages informels et intégrés de l'IA sont facilement négligés
Validation indépendanteSoundness of design, data and implementationLa validation est limitée par le temps, les compétences et l'accès aux informations sur les fournisseurs
Governance benchmarkingComment les institutions organisent le modèles financiersSelf-reported and hard to compare
Issue and finding analysisFaiblesses récurrentesLes conclusions restent confidentielles au sein des entreprises
13Questions

Questions et réponses.

Qu'est-ce que le risque de modèle ?
The potential for adverse consequences from decisions based on incorrect or misused model outputs, as SR 11-7 describes it, including financial loss, poor decisions and reputational harm.
Qu'est-ce que la remise en question effective ?
Analyse critique et indépendante d'un modèle par des personnes ayant la compétence, l'influence et les incitations nécessaires pour en relever les limites et exiger des modifications.
Are AI models covered by model risk rules?
Des autorités de surveillance telles que la PRA indiquent que les principes de risque de modèle s'appliquent aux modèles d'IA et d'apprentissage automatique, en prêtant attention à leurs risques spécifiques.
Les feuilles de calcul et les outils d'IA générative comptent-ils comme des modèles ?
Many frameworks define models by function rather than technology, so tools that produce quantitative estimates or influence decisions can fall within scope. Each institution applies its own definition under its supervisors’ expectations.
Does the platform review firms’ frameworks?
No. GRA does not review, validate or approve firms’ frameworks or models.
RapportsContribuer

Apportez des éléments de preuve depuis cette page.

Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
Risque lié à l'IA et aux modèles financiers

Soumettez une question d'exposition ou de capital à l'Alliance.

L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.