Skip to content

GRA · Risque lié à l'IA et aux modèles financiers

Spatial financeWhere capital meets hazard, exposure and transition

Modèles de tiers

Les entreprises utilisent des scores de crédit fournis par des prestataires, des modèles de fraude, des modèles de catastrophe, des analyses de données de marché et des modèles de fondation qu'elles n'ont pas conçus et qu'elles ne peuvent pas inspecter entièrement. La responsabilité du modèles financiers reste celle de l'entreprise. Cette page expose l'origine du risque de modèle lié aux tiers, la manière dont les entreprises valident ce qu'elles ne peuvent pas voir, les données probantes disponibles et qui décide.

01Registre

Third party models on the record.

02La question

Modèles de tiers : comment le risque évolue.

Vendor dependencies and due diligence. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

Mécanisme

Limited transparency

Les fournisseurs protègent leurs méthodes comme secrets d'affaires. Les entreprises peuvent obtenir de la documentation et des rapports de performance, mais pas le code, les données ni les détails de l'entraînement, ce qui limite la validation.

Mécanisme

Shared models, shared errors

Lorsque de nombreuses entreprises utilisent le même modèle de fournisseur, ses erreurs les touchent toutes en même temps et peuvent faire évoluer ensemble les marchés ou l'offre de crédit.

Mécanisme

Les mises à jour modifient le comportement

Vendors update models and data on their own schedules. Without notice and change analysis, a firm’s validated model can change silently.

Mécanisme

Validation par les résultats

Lorsque le fonctionnement interne est opaque, les entreprises valident par l'étalonnage, l'analyse des résultats et des tests sur leurs propres données, ce qui demande du temps et des données.

03Suivi

Cycle de vie du risque de modèle.

L'écran qu'une équipe utiliserait pour suivre ce sujet : ses mesures, ses états et ses décisions. Les noms sont des exemples et les valeurs sont illustratives.

Cycle de vie du risque de modèle

Modèles de tiers · Inventaire des modèles · Comité 8

5 validations en retardGRA · Risque lié à l'IA et aux modèles financiers

Cycle de vie

  1. Inventaireenregistré
  2. Développerdocumenté
  3. Validerindépendant
  4. Approuvercomité
  5. Mettre en œuvrecontrôles
  6. Suiviseuils
  7. Examenannuel
  8. Retirermise hors service

Modèles

MD-709 PD retailNiveau 19 mois1En retard
MD-561 LLM complaints triageNiveau 1jamais0Non validé
MD-601 IFRS 9 stagingNiveau 13 months0Approuvé
MD-088 marketing propensityNiveau 314 mois1Approuvé

Périmètre de validation

Solidité conceptuelle
En cours
Analyse des résultats
En attente
Analyse comparative
En attente
Limites d'utilisation
examen humain requis
Model risk lifecycle: the screen’s structure, terms and states for Third party models.Example names and illustrative values; a design, not a record or a live system.
04Indicateurs

Ce qui est mesuré, et avec quelle qualité.

Chaque indicateur porte son unité, sa périodicité, le type de source qui le sous-tend et l'étiquette de preuve que porterait une valeur. Aucune valeur n'est affichée : un programme les fournit sous sa propre autorité.

IndicateurUnitéFréquenceType de sourceÉtiquette
Modèles tiers à l'inventairenombre par niveauannuelInventaire des modèlesDÉCLARÉ
Modèles de fournisseurs avec documentation complètepartannuelDossiers de gestion des fournisseursDÉCLARÉ
Vendor model changes notifiednombrepar anAvis des fournisseursDÉCLARÉ
Modèles tiers validés sur des données proprespartannuelDossiers de validationDÉCLARÉ
Concentration of vendor model use across firmspart des entreprises recourant aux principaux fournisseurspériodiqueEnquêtes de supervisionDÉCLARÉ
Contracts with model change notice clausespartpériodiqueExamens des contratsDÉCLARÉ
05Exposition, perte et capital

What third party models means for exposure, loss and capital.

Les vues d'exposition, de pertes, de scénarios et de capital que demanderaient un responsable des risques, une autorité de contrôle ou un ministère des finances, avec les cadres dont ils relèvent pour leurs rapports. Les structures suivent la pratique prudentielle et actuarielle. Les valeurs sont illustratives : jamais des prix, des notations ni des conseils.

Canaux de transmission

How a shock in third party models reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
Scénarios climatiques du NGFS · Réseau pour le verdissement du système financierIFRS S2 Informations à fournir en lien avec les changements climatiques · ISSBRecommandations de la TCFD · TCFD du Conseil de stabilité financièrePrincipes pour une gestion efficace des risques financiers liés au climat · Comité de Bâle sur le contrôle bancaire
06Sources

D'où proviennent les données probantes.

Jeux de données publics et registres institutionnels nommés, chacun avec sa catégorie de licence. Les sources fournies dans le cadre d'accords ne sont utilisées que selon leurs conditions et ne sont jamais republiées.

SourcesCe qu'elle apporteCatégorie de licence
SR 11-7 guidance on vendor and third-party modelsAttentes relatives à l'utilisation de modèles externesDomaine public
Orientations interinstitutions sur les relations avec les tiers (autorités bancaires des États-Unis)Attentes en matière de gestion des risques liés aux tiersDomaine public
Rapport du CSF sur les implications de l'IA pour la stabilité financièreRisques liés aux tiers et risques de concentration issus de l'IAGratuit, conditions du FSB
Obligations prévues par le règlement européen sur l'IA (EU AI Act) pour les fournisseurs et les déployeursRépartition des responsabilités entre fournisseurs et utilisateurs d'IAGratuit, conditions de réutilisation de l'UE
Vendor model documentation and performance reportsInformation vendors provide to usersPropriétaire, conditions propres à chaque fournisseur
07Décisions

Qui décide, et à quoi servent les données probantes.

Risque lié à l'IA et risque de modèle prépare les données probantes. Les décisions ci-dessous sont prises par les autorités nommées, selon leurs propres règles, et jamais par la plateforme.

Qui décideLa questionDonnées probantes servies par cette page
Fonctions du risque de modèleComment valider et approuver les modèles de tiersDocumentation, benchmarks et tests des résultats
Marchés publics et affaires juridiquesWhich transparency and change terms to requirePratiques contractuelles et attentes réglementaires
SuperviseursSi l'utilisation de modèles de fournisseurs est encadrée de manière adéquate et si la concentration importeEnquêtes et conclusions d'examen
FournisseursDocumentation et préavis à fournirExigences des clients et exigences réglementaires

Résultats que produit ce thème

  • Guide pour valider des modèles que les entreprises ne peuvent pas inspecter
  • Brief on concentration in vendor and foundation models
  • Note méthodologique sur l'analyse des changements pour les mises à jour des fournisseurs
  • Questions for procurement on model transparency terms
08Questions essentielles

Ce que se demandent les experts.

The questions concern responsibility for models one did not build.

  • L'institution comprend-elle assez bien le fonctionnement d'un modèle de fournisseur pour valider son utilisation ?
  • Quels documents, quelles preuves d'essai et quel accès le fournisseur met-il à disposition ?
  • How are vendor model updates communicated, tested and approved?
  • How many institutions rely on the same vendor, and what happens if it fails or changes?
  • L'institution peut-elle abandonner ou remplacer le modèle si nécessaire ?
09Mécanismes

Mécanismes et facteurs.

Vendors often protect their models as intellectual property, limiting the transparency available to users. Institutions must still validate the model’s use for their own purposes, typically through outcome testing, benchmarking and contractual rights to documentation. Updates by the vendor can change model behaviour without the institution’s knowledge.

La concentration est une préoccupation à l'échelle du secteur. Lorsque de nombreuses institutions utilisent le même modèle de fournisseur ou le même fournisseur d'IA, un défaut, une panne ou une modification les touche toutes ensemble, créant des erreurs corrélées et des dépendances opérationnelles qu'aucune institution ne peut gérer seule.

10Méthodes et données

Comment c'est étudié, et où les méthodes s'arrêtent.

Méthode ou donnéesCe qu'il montreLimites
Vendor due diligenceVendor capability, controls and transparencyLimited by vendor disclosure
Outcome and benchmark testingPerformance on the institution’s own dataNe révèle pas la logique interne
Analyse des contrats et des sortiesDroits à l'information, à la notification et à la sortieDes droits parfois difficiles à exercer
Cartographie de la concentrationDépendances partagées dans l'ensemble du secteurRequires aggregated information
12Questions

Questions et réponses.

Who is responsible for a vendor model’s risk?
The firm using it. Supervisory guidance expects firms to validate and govern third-party models as they would their own, within the information available.
How can a firm validate a model it cannot see?
Par l'examen de la documentation, la comparaison avec des solutions alternatives, l'analyse des résultats, des tests de sensibilité sur ses propres données et des droits contractuels à l'information.
Why does vendor concentration matter?
Because a flaw or change in a widely used model affects many firms at once, which can correlate decisions across the market.
Does buying a model transfer its risk to the vendor?
Non. L'institution qui utilise le modèle reste responsable de son utilisation et de ses résultats.
Why is vendor concentration a stability concern?
Car si de nombreuses entreprises s'appuient sur le même modèle ou le même fournisseur, une défaillance ou une modification unique peut les toucher toutes en même temps.
Que doit pouvoir obtenir une institution auprès d'un fournisseur de modèles ?
Typically enough documentation to understand the model’s purpose, design, data and limitations, evidence of the vendor’s own testing, notice of material changes, and rights that allow the institution to validate the model’s use and to exit. What is obtainable in practice varies.
Does the platform rate vendors?
Non. La GRA ne note pas, n'approuve pas et ne recommande pas de fournisseurs.
RapportsContribuer

Apportez des éléments de preuve depuis cette page.

Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
Risque lié à l'IA et aux modèles financiers

Soumettez une question d'exposition ou de capital à l'Alliance.

L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.