Skip to content

GRA · Risque lié à l'IA et aux modèles financiers

Spatial financeWhere capital meets hazard, exposure and transition

Transmission au système financier

Une erreur de modèle reste rarement confinée à une seule décision. Des modèles défectueux ou obsolètes peuvent mal évaluer le risque dans un portefeuille, et lorsque de nombreuses institutions utilisent des modèles, des données ou des fournisseurs similaires, leurs erreurs peuvent s'aligner et amplifier les mouvements de marché. À leur tour, les chocs réels remettent en cause les hypothèses sur lesquelles reposent les modèles. Cette page montre comment les vulnérabilités des systèmes réels et des modèles se propagent à travers les institutions et les marchés, à partir d'une analyse au niveau sectoriel. Elle n'évalue ni entreprises ni modèles individuels et ne constitue pas un conseil.

Méthodes STIM
4
Méthodes canoniques appliquées par ce domaine
Sujets
8
Pages thématiques sur le terrain
Homologues
5
Plateformes dans des domaines partagés à travers le réseau
Séries de rapports
2
Séries de Reports auxquelles il contribue
01Dans les modèles

Comment les changements du monde réel mettent les modèles en défaut.

OrigineCanalEffet
Economic shock or regime changeDes relations présentes dans les données d'entraînement ne tiennent plusCredit, pricing and risk models misestimate
Climat et aléas physiquesLosses outside the historical recordCatastrophe, credit and collateral models understate risk
Évolutions du comportement des clientsDérive des données et dérive conceptuelleLes modèles de fraude, de crédit et de service se dégradent
Changement de chaîne de traitement des données ou de fournisseurSilent changes to inputsErrors that monitoring may not detect
Adversarial behaviourFraudeurs ou utilisateurs s'adaptant aux modèlesControls bypassed, false outputs
02Suivi

Vue d'ensemble du domaine.

L'écran qu'une équipe utiliserait pour suivre ce sujet : ses mesures, ses états et ses décisions. Les noms sont des exemples et les valeurs sont illustratives.

Field overview: the screen’s structure, terms and states for AI and model risk.Example names and illustrative values; a design, not a record or a live system.
03Comportement grégaire

Modèles communs, démarches communes.

Lorsque de nombreuses institutions utilisent des modèles similaires entraînés sur des données similaires, elles parviennent aux mêmes décisions au même moment : resserrement du crédit, retarification du risque ou vente des mêmes actifs. Cette homogénéité est un canal de risque systémique que les superviseurs et le Conseil de stabilité financière (FSB) ont signalé dans leurs travaux sur l'IA dans la finance. Approfondissement du sujet à gouvernance du risque de modèle.

04Concentration

Les fournisseurs derrière les modèles.

  • Fournisseurs de modèles de fondation: peu d'entreprises fournissent les modèles de base qu'utilisent de nombreuses applications.
  • Calcul en nuage: l'entraînement et l'inférence dépendent d'une infrastructure concentrée.
  • Fournisseurs de données: les jeux de données partagés propagent largement les erreurs.
05Hors des modèles

Comment les défaillances des modèles se propagent.

Correlation

Modèles semblables, erreurs semblables

Des fournisseurs, des données et des techniques partagés signifient que de nombreuses entreprises peuvent se tromper de la même manière en même temps.

Procyclicality

Amplified market moves

Les modèles de risque qui réagissent à la volatilité peuvent amener de nombreuses entreprises à réduire ensemble leur risque, aggravant la tension.

Concentration

Points de défaillance uniques

Reliance on a few AI and cloud providers creates shared operational dependencies.

06Conséquences

Where the harm lands.

Model failures can produce unfair or inaccurate decisions for customers, losses and capital shortfalls for institutions, and instability in markets. Generative AI adds risks of misinformation and data leakage. These links connect model risk to systemic interconnectedness at Financial Stability and to cloud and outsourcing at Financial Cyber and Operational Resilience, both at GRA, and to the evaluation of AI systems at The Global Centre for Risk and Innovation (GCRI) on model evaluation.

Voir suivi des modèles et dérive, les modèles de tiers et les modèles de tests de résistance et de scénarios. Retour à l'aperçu de la discipline financière.

07Analyse

Au niveau sectoriel, agrégé, avec des limites.

L'analyse repose sur des informations publiques et agrégées au niveau sectoriel. Elle n'évalue ni les entreprises ni les modèles individuels, ne recommande aucun fournisseur et ne constitue pas un conseil. Les scénarios énoncent leurs hypothèses et ne sont pas des prévisions.

Any data from institutions is designed to be aggregated before use, under the safeguards set out in GRA’s written competition policy.

08Sources

Where this page’s references lead.

Les organismes et documents à l'aune desquels cette page se lit. Les statuts et éditions changent ; chaque lien mène à l'organisme émetteur.

09Questions

Questions et réponses.

Les données des concurrents sont-elles partagées ?
No. Any data from firms is aggregated before use, under the safeguards set out in GRA’s written competition policy.
Why does model similarity matter for stability?
Because if many institutions use similar models, they may respond to the same signal in the same way, amplifying market moves and concentrating errors.
Une carte de transmission est-elle une prévision ?
No. It shows channels through which failures could spread. Scenarios are labelled as such and carry their assumptions.
RapportsContribuer

Apportez des éléments de preuve depuis cette page.

Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
Risque lié à l'IA et aux modèles financiers

Soumettez une question d'exposition ou de capital à l'Alliance.

L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.