GRA · Risque lié à l'IA et aux modèles financiers
Spatial financeWhere capital meets hazard, exposure and transition
IA générative dans la finance
Financial firms use large language models to draft documents, answer customers, summarise research, write code and support analysts. Generative AI produces fluent output that can be wrong, can leak data and can be manipulated through its inputs. This page sets out how generative AI risks arise in financial services, how they are measured and controlled, and who decides where it may be used.
Comment le travail se déroule.
Cycle de vie du risque de modèle
IA générative en finance · Inventaire des modèles · Comité 7
Cycle de vie
- Inventaireenregistré
- Développerdocumenté
- Validerindépendant
- Approuvercomité
- Mettre en œuvrecontrôles
- Suiviseuils
- Examenannuel
- Retirermise hors service
Modèles
| MD-264 PD retail | Niveau 1 | 12 mois | 2 | En retard |
| MD-251 LLM complaints triage | Niveau 1 | jamais | 0 | Non validé |
| MD-297 IFRS 9 staging | Niveau 1 | 5 months | 2 | Approuvé |
| MD-784 propension marketing | Niveau 3 | 6 mois | 1 | Approuvé |
Périmètre de validation
- Solidité conceptuelle
- En cours
- Analyse des résultats
- En attente
- Analyse comparative
- En attente
- Limites d'utilisation
- examen humain requis
Fig.Model risk lifecycle: example names and illustrative values, not a record or a live system.
Generative AI in finance: how the risk develops.
Cas d'usage et contrôles des défaillances. Le dossier ci-dessous expose comment le risque se développe, ce qui est mesuré, d'où viennent les données, comment elles sont modélisées et qui décide.
Fluide mais erroné
Models can generate plausible statements that are false, citations that do not exist or calculations that are wrong. In finance, an error in a disclosure, advice or code change can harm customers or the firm.
Les intrants peuvent être instrumentalisés
L'injection de prompt par des documents, des courriels ou des pages web peut amener un modèle à ignorer des instructions, à révéler des données ou à entreprendre des actions non voulues, surtout lorsqu'il est connecté à des outils.
Data leaks across boundaries
Les informations confidentielles saisies dans des services externes ou intégrées dans des réponses peuvent parvenir à des personnes qui n'y ont pas droit. Les conditions de traitement des données et les contrôles d'accès déterminent l'exposition.
Behaviour changes with versions
Provider updates change model behaviour without the firm’s code changing. Validation done on one version may not hold for the next.
What Generative AI in finance means for exposure, loss and capital.
Les vues d'exposition, de pertes, de scénarios et de capital que demanderaient un responsable des risques, une autorité de contrôle ou un ministère des finances, avec les cadres dont ils relèvent pour leurs rapports. Les structures suivent la pratique prudentielle et actuarielle. Les valeurs sont illustratives : jamais des prix, des notations ni des conseils.
Canaux de transmission
How a shock in Generative AI in finance reaches credit, market, underwriting, liquidity and operational risk, and feeds back.
Ce qui est mesuré, et avec quelle qualité.
Chaque indicateur porte son unité, sa périodicité, le type de source qui le sous-tend et l'étiquette de preuve que porterait une valeur. Aucune valeur n'est affichée : un programme les fournit sous sa propre autorité.
| Indicateur | Unité | Fréquence | Type de source | Étiquette |
|---|---|---|---|---|
| Cas d'usage de l'IA générative en production | nombre par niveau de risque | trimestriel | Registre des cas d'usage | DÉCLARÉ |
| Taux d'erreurs factuelles sur les jeux d'évaluation | part des réponses | par évaluation | Internal evaluation | ESTIMÉ |
| Prompt injection test failures | count per test cycle | par test | Résultats des exercices de red team | OBSERVÉ |
| Data loss prevention events involving AI tools | nombre | mensuel | Surveillance de la sécurité | OBSERVÉ |
| Plaintes de clients liées à des contenus générés par l'IA | nombre | trimestriel | Données sur les plaintes | DÉCLARÉ |
| Model version changes by providers | nombre | par an | Avis des fournisseurs | DÉCLARÉ |
D'où proviennent les données probantes.
Jeux de données publics et registres institutionnels nommés, chacun avec sa catégorie de licence. Les sources fournies dans le cadre d'accords ne sont utilisées que selon leurs conditions et ne sont jamais republiées.
| Sources | Ce qu'elle apporte | Catégorie de licence |
|---|---|---|
| Rapport du FSB sur les implications de l'IA pour la stabilité financière | Vulnerabilities from AI adoption in finance | Gratuit, conditions du FSB |
| Rapport de l'IOSCO sur les cas d'usage, les risques et les défis de l'IA | AI use in capital markets | Gratuit, conditions de l'IOSCO |
| NIST AI RMF generative AI profile | Risques et actions propres à l'IA générative | Domaine public |
| OWASP Top 10 pour les applications de grands modèles de langage | Risques de sécurité courants dans les applications LLM | Gratuit, CC BY-SA |
| Bank of England and FCA AI surveys | Adoption and governance of AI in UK finance | Gratuit, conditions de la Bank of England et de la FCA |
Qui décide, et à quoi servent les données probantes.
Risque lié à l'IA et risque de modèle prépare les données probantes. Les décisions ci-dessous sont prises par les autorités nommées, selon leurs propres règles, et jamais par la plateforme.
| Qui décide | La question | Données probantes servies par cette page |
|---|---|---|
| Conseils d'administration et comités exécutifs | Where generative AI may be used and with what controls | Niveaux de risque des cas d'usage et résultats d'évaluation |
| Fonctions de risque de modèle et de sécurité | Comment l'IA générative est validée et sécurisée | Evaluation, red-team and monitoring evidence |
| Conduct supervisors | Si l'IA en contact avec la clientèle respecte les obligations de conduite et de divulgation | Complaints and outcome evidence |
| Équipes des achats et des affaires juridiques | Which providers and data terms are acceptable | Clauses contractuelles et preuves de traitement des données |
Résultats que produit ce thème
- Guide des modes de défaillance de l'IA générative dans les services financiers
- Method note on evaluating factual accuracy and grounding
- Note sur l'injection de requêtes et les assistants connectés à des outils
- Questions à l'intention des conseils d'administration sur les cas d'usage de l'IA générative
Ce que se demandent les experts.
Les questions sur l'IA générative commencent par le cas d'usage et ses conséquences.
- What is the tool being used for, and what happens if its output is wrong?
- How is the accuracy of output verified before it affects customers or decisions?
- What data is sent to the model, and could confidential information leak?
- Comment les invites, les versions et les sorties sont-elles consignées pour garantir la redevabilité ?
- Quel est le degré de dépendance de l'institution à l'égard d'un seul prestataire, et que se passe-t-il si le service change ou défaille ?
Mécanismes et facteurs.
Large language models generate text by predicting likely continuations. They can produce fluent, plausible output that is false, which matters greatly where accuracy is required. Their behaviour can change when providers update models, and they can be manipulated by crafted inputs. Their outputs are hard to test exhaustively because the space of possible inputs is vast.
Risk depends strongly on the use. Drafting an internal summary that a professional reviews carries different risk from answering customers directly or informing credit decisions. Controls therefore scale with consequence: human review, restricted data, retrieval from approved sources, testing against known cases and monitoring of outputs.
Comment c'est étudié, et où les méthodes s'arrêtent.
| Méthode ou données | Ce qu'il montre | Limites |
|---|---|---|
| Use-case risk assessment | Consequences of failure by application | Informal uses may not be captured |
| Évaluation sur des jeux de test | Exactitude et taux d'échec sur des cas connus | Ne peut couvrir toutes les données d'entrée réelles |
| Tests d'équipe rouge et tests adversariaux | Vulnerability to manipulation | Finds some weaknesses, not all |
| Output monitoring and logging | Errors and incidents in use | Detecting subtle errors is hard |
Comment c'est étudié, et ce que les méthodes ne peuvent pas dire.
- 01Intelligence artificielle et apprentissage automatiqueModèles de crédit à gradient boosting · Modèles de langage dans les opérations · Détection des anomaliesAppliqué ici
- 02Ingénierie de l'évaluation et de l'assurance de l'IAValidation des modèles d'apprentissage automatique · Tests adversariaux de l'IA générative · Évaluation de l'équitéAppliqué ici
- 03Quantification de l'incertitude et validation des modèlesIntervalles de prédiction pour les modèles de pertes · Ensembles de modèles · Capital ou coussins pour risque de modèleAppliqué ici
- 04Probabilités et statistiquesTests d'étalonnage · Statistiques de dérive · Comparaison des résultats entre groupesAppliqué ici
Questions et réponses.
Un grand modèle de langage est-il un modèle au sens des règles sur le risque de modèle ?
Qu'est-ce que l'injection de prompt ?
What is grounding?
Why do language models produce false information?
L'IA générative devrait-elle prendre des décisions de crédit ou d'indemnisation ?
La plateforme évalue-t-elle des produits d'IA spécifiques ?
Apportez des éléments de preuve depuis cette page.
Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.
- E-mailPasserelle GW-GRAL'envoyer depuis cette pageUne preuve, une correction, un cas, une méthode, un examen, une traduction ou un apport au profil. Elle arrive étiquetée avec cette page, afin que le rédacteur responsable la reçoive.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks AllianceSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
N'envoyez jamais de données personnelles, de détails sensibles sur des infrastructures ni rien que vous n'avez pas le droit de communiquer. Une contribution est examinée avant utilisation ; son envoi ne confère ni qualité d'auteur ni droits éditoriaux, et un parrainage n'achète jamais une conclusion.
Soumettez une question d'exposition ou de capital à l'Alliance.
L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.
Documents juridiques.
Les cartes, données et chiffres de ce site sont présentés à titre de contexte et d'information générale. Ils ne constituent ni des conseils, ni des prévisions, ni des alertes ; les limites de l'information sont exposées dans les Avertissements et les Notices sur les données.