GRA · Risque lié à l'IA et aux modèles financiers
Spatial financeWhere capital meets hazard, exposure and transition
Transmission au système financier
Une erreur de modèle reste rarement confinée à une seule décision. Des modèles défectueux ou obsolètes peuvent mal évaluer le risque dans un portefeuille, et lorsque de nombreuses institutions utilisent des modèles, des données ou des fournisseurs similaires, leurs erreurs peuvent s'aligner et amplifier les mouvements de marché. À leur tour, les chocs réels remettent en cause les hypothèses sur lesquelles reposent les modèles. Cette page montre comment les vulnérabilités des systèmes réels et des modèles se propagent à travers les institutions et les marchés, à partir d'une analyse au niveau sectoriel. Elle n'évalue ni entreprises ni modèles individuels et ne constitue pas un conseil.
- Méthodes STIM
- 4
- Méthodes canoniques appliquées par ce domaine
- Sujets
- 8
- Pages thématiques sur le terrain
- Homologues
- 5
- Plateformes dans des domaines partagés à travers le réseau
- Séries de rapports
- 2
- Séries de Reports auxquelles il contribue
Comment les changements du monde réel mettent les modèles en défaut.
| Origine | Canal | Effet |
|---|---|---|
| Economic shock or regime change | Des relations présentes dans les données d'entraînement ne tiennent plus | Credit, pricing and risk models misestimate |
| Climat et aléas physiques | Losses outside the historical record | Catastrophe, credit and collateral models understate risk |
| Évolutions du comportement des clients | Dérive des données et dérive conceptuelle | Les modèles de fraude, de crédit et de service se dégradent |
| Changement de chaîne de traitement des données ou de fournisseur | Silent changes to inputs | Errors that monitoring may not detect |
| Adversarial behaviour | Fraudeurs ou utilisateurs s'adaptant aux modèles | Controls bypassed, false outputs |
Vue d'ensemble du domaine.
L'écran qu'une équipe utiliserait pour suivre ce sujet : ses mesures, ses états et ses décisions. Les noms sont des exemples et les valeurs sont illustratives.
Modèles communs, démarches communes.
Lorsque de nombreuses institutions utilisent des modèles similaires entraînés sur des données similaires, elles parviennent aux mêmes décisions au même moment : resserrement du crédit, retarification du risque ou vente des mêmes actifs. Cette homogénéité est un canal de risque systémique que les superviseurs et le Conseil de stabilité financière (FSB) ont signalé dans leurs travaux sur l'IA dans la finance. Approfondissement du sujet à gouvernance du risque de modèle.
Les fournisseurs derrière les modèles.
- Fournisseurs de modèles de fondation: peu d'entreprises fournissent les modèles de base qu'utilisent de nombreuses applications.
- Calcul en nuage: l'entraînement et l'inférence dépendent d'une infrastructure concentrée.
- Fournisseurs de données: les jeux de données partagés propagent largement les erreurs.
Comment les défaillances des modèles se propagent.
Modèles semblables, erreurs semblables
Des fournisseurs, des données et des techniques partagés signifient que de nombreuses entreprises peuvent se tromper de la même manière en même temps.
Amplified market moves
Les modèles de risque qui réagissent à la volatilité peuvent amener de nombreuses entreprises à réduire ensemble leur risque, aggravant la tension.
Points de défaillance uniques
Reliance on a few AI and cloud providers creates shared operational dependencies.
Where the harm lands.
Model failures can produce unfair or inaccurate decisions for customers, losses and capital shortfalls for institutions, and instability in markets. Generative AI adds risks of misinformation and data leakage. These links connect model risk to systemic interconnectedness at Financial Stability and to cloud and outsourcing at Financial Cyber and Operational Resilience, both at GRA, and to the evaluation of AI systems at The Global Centre for Risk and Innovation (GCRI) on model evaluation.
Voir suivi des modèles et dérive, les modèles de tiers et les modèles de tests de résistance et de scénarios. Retour à l'aperçu de la discipline financière.
Au niveau sectoriel, agrégé, avec des limites.
L'analyse repose sur des informations publiques et agrégées au niveau sectoriel. Elle n'évalue ni les entreprises ni les modèles individuels, ne recommande aucun fournisseur et ne constitue pas un conseil. Les scénarios énoncent leurs hypothèses et ne sont pas des prévisions.
Any data from institutions is designed to be aggregated before use, under the safeguards set out in GRA’s written competition policy.
Where this page’s references lead.
Les organismes et documents à l'aune desquels cette page se lit. Les statuts et éditions changent ; chaque lien mène à l'organisme émetteur.
Questions et réponses.
Les données des concurrents sont-elles partagées ?
Why does model similarity matter for stability?
Une carte de transmission est-elle une prévision ?
Apportez des éléments de preuve depuis cette page.
Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.
- E-mailPasserelle GW-GRAL'envoyer depuis cette pageUne preuve, une correction, un cas, une méthode, un examen, une traduction ou un apport au profil. Elle arrive étiquetée avec cette page, afin que le rédacteur responsable la reçoive.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks AllianceSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
N'envoyez jamais de données personnelles, de détails sensibles sur des infrastructures ni rien que vous n'avez pas le droit de communiquer. Une contribution est examinée avant utilisation ; son envoi ne confère ni qualité d'auteur ni droits éditoriaux, et un parrainage n'achète jamais une conclusion.
Soumettez une question d'exposition ou de capital à l'Alliance.
L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.
Documents juridiques.
Les cartes, données et chiffres de ce site sont présentés à titre de contexte et d'information générale. Ils ne constituent ni des conseils, ni des prévisions, ni des alertes ; les limites de l'information sont exposées dans les Avertissements et les Notices sur les données.