GRA · Risque lié à l'IA et aux modèles financiers
Spatial financeWhere capital meets hazard, exposure and transition
Modèles de tiers
Les entreprises utilisent des scores de crédit fournis par des prestataires, des modèles de fraude, des modèles de catastrophe, des analyses de données de marché et des modèles de fondation qu'elles n'ont pas conçus et qu'elles ne peuvent pas inspecter entièrement. La responsabilité du modèles financiers reste celle de l'entreprise. Cette page expose l'origine du risque de modèle lié aux tiers, la manière dont les entreprises valident ce qu'elles ne peuvent pas voir, les données probantes disponibles et qui décide.
Third party models on the record.
Modèles de tiers : comment le risque évolue.
Vendor dependencies and due diligence. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Limited transparency
Les fournisseurs protègent leurs méthodes comme secrets d'affaires. Les entreprises peuvent obtenir de la documentation et des rapports de performance, mais pas le code, les données ni les détails de l'entraînement, ce qui limite la validation.
Shared models, shared errors
Lorsque de nombreuses entreprises utilisent le même modèle de fournisseur, ses erreurs les touchent toutes en même temps et peuvent faire évoluer ensemble les marchés ou l'offre de crédit.
Les mises à jour modifient le comportement
Vendors update models and data on their own schedules. Without notice and change analysis, a firm’s validated model can change silently.
Validation par les résultats
Lorsque le fonctionnement interne est opaque, les entreprises valident par l'étalonnage, l'analyse des résultats et des tests sur leurs propres données, ce qui demande du temps et des données.
Cycle de vie du risque de modèle.
L'écran qu'une équipe utiliserait pour suivre ce sujet : ses mesures, ses états et ses décisions. Les noms sont des exemples et les valeurs sont illustratives.
Cycle de vie du risque de modèle
Modèles de tiers · Inventaire des modèles · Comité 8
Cycle de vie
- Inventaireenregistré
- Développerdocumenté
- Validerindépendant
- Approuvercomité
- Mettre en œuvrecontrôles
- Suiviseuils
- Examenannuel
- Retirermise hors service
Modèles
| MD-709 PD retail | Niveau 1 | 9 mois | 1 | En retard |
| MD-561 LLM complaints triage | Niveau 1 | jamais | 0 | Non validé |
| MD-601 IFRS 9 staging | Niveau 1 | 3 months | 0 | Approuvé |
| MD-088 marketing propensity | Niveau 3 | 14 mois | 1 | Approuvé |
Périmètre de validation
- Solidité conceptuelle
- En cours
- Analyse des résultats
- En attente
- Analyse comparative
- En attente
- Limites d'utilisation
- examen humain requis
Ce qui est mesuré, et avec quelle qualité.
Chaque indicateur porte son unité, sa périodicité, le type de source qui le sous-tend et l'étiquette de preuve que porterait une valeur. Aucune valeur n'est affichée : un programme les fournit sous sa propre autorité.
| Indicateur | Unité | Fréquence | Type de source | Étiquette |
|---|---|---|---|---|
| Modèles tiers à l'inventaire | nombre par niveau | annuel | Inventaire des modèles | DÉCLARÉ |
| Modèles de fournisseurs avec documentation complète | part | annuel | Dossiers de gestion des fournisseurs | DÉCLARÉ |
| Vendor model changes notified | nombre | par an | Avis des fournisseurs | DÉCLARÉ |
| Modèles tiers validés sur des données propres | part | annuel | Dossiers de validation | DÉCLARÉ |
| Concentration of vendor model use across firms | part des entreprises recourant aux principaux fournisseurs | périodique | Enquêtes de supervision | DÉCLARÉ |
| Contracts with model change notice clauses | part | périodique | Examens des contrats | DÉCLARÉ |
What third party models means for exposure, loss and capital.
Les vues d'exposition, de pertes, de scénarios et de capital que demanderaient un responsable des risques, une autorité de contrôle ou un ministère des finances, avec les cadres dont ils relèvent pour leurs rapports. Les structures suivent la pratique prudentielle et actuarielle. Les valeurs sont illustratives : jamais des prix, des notations ni des conseils.
Canaux de transmission
How a shock in third party models reaches credit, market, underwriting, liquidity and operational risk, and feeds back.
D'où proviennent les données probantes.
Jeux de données publics et registres institutionnels nommés, chacun avec sa catégorie de licence. Les sources fournies dans le cadre d'accords ne sont utilisées que selon leurs conditions et ne sont jamais republiées.
| Sources | Ce qu'elle apporte | Catégorie de licence |
|---|---|---|
| SR 11-7 guidance on vendor and third-party models | Attentes relatives à l'utilisation de modèles externes | Domaine public |
| Orientations interinstitutions sur les relations avec les tiers (autorités bancaires des États-Unis) | Attentes en matière de gestion des risques liés aux tiers | Domaine public |
| Rapport du CSF sur les implications de l'IA pour la stabilité financière | Risques liés aux tiers et risques de concentration issus de l'IA | Gratuit, conditions du FSB |
| Obligations prévues par le règlement européen sur l'IA (EU AI Act) pour les fournisseurs et les déployeurs | Répartition des responsabilités entre fournisseurs et utilisateurs d'IA | Gratuit, conditions de réutilisation de l'UE |
| Vendor model documentation and performance reports | Information vendors provide to users | Propriétaire, conditions propres à chaque fournisseur |
Qui décide, et à quoi servent les données probantes.
Risque lié à l'IA et risque de modèle prépare les données probantes. Les décisions ci-dessous sont prises par les autorités nommées, selon leurs propres règles, et jamais par la plateforme.
| Qui décide | La question | Données probantes servies par cette page |
|---|---|---|
| Fonctions du risque de modèle | Comment valider et approuver les modèles de tiers | Documentation, benchmarks et tests des résultats |
| Marchés publics et affaires juridiques | Which transparency and change terms to require | Pratiques contractuelles et attentes réglementaires |
| Superviseurs | Si l'utilisation de modèles de fournisseurs est encadrée de manière adéquate et si la concentration importe | Enquêtes et conclusions d'examen |
| Fournisseurs | Documentation et préavis à fournir | Exigences des clients et exigences réglementaires |
Résultats que produit ce thème
- Guide pour valider des modèles que les entreprises ne peuvent pas inspecter
- Brief on concentration in vendor and foundation models
- Note méthodologique sur l'analyse des changements pour les mises à jour des fournisseurs
- Questions for procurement on model transparency terms
Ce que se demandent les experts.
The questions concern responsibility for models one did not build.
- L'institution comprend-elle assez bien le fonctionnement d'un modèle de fournisseur pour valider son utilisation ?
- Quels documents, quelles preuves d'essai et quel accès le fournisseur met-il à disposition ?
- How are vendor model updates communicated, tested and approved?
- How many institutions rely on the same vendor, and what happens if it fails or changes?
- L'institution peut-elle abandonner ou remplacer le modèle si nécessaire ?
Mécanismes et facteurs.
Vendors often protect their models as intellectual property, limiting the transparency available to users. Institutions must still validate the model’s use for their own purposes, typically through outcome testing, benchmarking and contractual rights to documentation. Updates by the vendor can change model behaviour without the institution’s knowledge.
La concentration est une préoccupation à l'échelle du secteur. Lorsque de nombreuses institutions utilisent le même modèle de fournisseur ou le même fournisseur d'IA, un défaut, une panne ou une modification les touche toutes ensemble, créant des erreurs corrélées et des dépendances opérationnelles qu'aucune institution ne peut gérer seule.
Comment c'est étudié, et où les méthodes s'arrêtent.
| Méthode ou données | Ce qu'il montre | Limites |
|---|---|---|
| Vendor due diligence | Vendor capability, controls and transparency | Limited by vendor disclosure |
| Outcome and benchmark testing | Performance on the institution’s own data | Ne révèle pas la logique interne |
| Analyse des contrats et des sorties | Droits à l'information, à la notification et à la sortie | Des droits parfois difficiles à exercer |
| Cartographie de la concentration | Dépendances partagées dans l'ensemble du secteur | Requires aggregated information |
Comment c'est étudié, et ce que les méthodes ne peuvent pas dire.
- 01Ingénierie de l'évaluation et de l'assurance de l'IAValidation des modèles d'apprentissage automatique · Tests adversariaux de l'IA générative · Évaluation de l'équitéAppliqué ici
- 02Probabilités et statistiquesTests d'étalonnage · Statistiques de dérive · Comparaison des résultats entre groupesAppliqué ici
- 03Quantification de l'incertitude et validation des modèlesIntervalles de prédiction pour les modèles de pertes · Ensembles de modèles · Capital ou coussins pour risque de modèleAppliqué ici
- 04Intelligence artificielle et apprentissage automatiqueModèles de crédit à gradient boosting · Modèles de langage dans les opérations · Détection des anomaliesAppliqué ici
Questions et réponses.
Who is responsible for a vendor model’s risk?
How can a firm validate a model it cannot see?
Why does vendor concentration matter?
Does buying a model transfer its risk to the vendor?
Why is vendor concentration a stability concern?
Que doit pouvoir obtenir une institution auprès d'un fournisseur de modèles ?
Does the platform rate vendors?
Apportez des éléments de preuve depuis cette page.
Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.
- E-mailPasserelle GW-GRAL'envoyer depuis cette pageUne preuve, une correction, un cas, une méthode, un examen, une traduction ou un apport au profil. Elle arrive étiquetée avec cette page, afin que le rédacteur responsable la reçoive.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks AllianceSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
N'envoyez jamais de données personnelles, de détails sensibles sur des infrastructures ni rien que vous n'avez pas le droit de communiquer. Une contribution est examinée avant utilisation ; son envoi ne confère ni qualité d'auteur ni droits éditoriaux, et un parrainage n'achète jamais une conclusion.
Soumettez une question d'exposition ou de capital à l'Alliance.
L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.
Documents juridiques.
Les cartes, données et chiffres de ce site sont présentés à titre de contexte et d'information générale. Ils ne constituent ni des conseils, ni des prévisions, ni des alertes ; les limites de l'information sont exposées dans les Avertissements et les Notices sur les données.