Skip to content

GRA · Risque lié à l'IA et aux modèles financiers

Spatial financeWhere capital meets hazard, exposure and transition

Intelligence artificielle et apprentissage automatique pour le risque lié à l'IA et aux modèles financiers

L'intelligence artificielle et l'apprentissage automatique sont des méthodes qui apprennent des motifs à partir de données pour prédire, classer ou générer. Sur cette plateforme, elles sont expliquées comme les techniques qui sous-tendent le crédit, la tarification, la détection de fraude et les outils génératifs modernes, et comme sources de modèles financiers avec des modes de défaillance particuliers.

01Registre

Artificial intelligence and machine learning for AI and financial model risk on the record.

Fiche de la méthodeMéthode STIM
  1. MéthodeIntelligence artificielle et apprentissage automatique
  2. Appliqué dansRisque lié à l'IA et risque de modèle
  3. Données3 intrants
  4. Page canoniqueCommuns STIM
02Candidature

Ce que fait ici l'intelligence artificielle et l'apprentissage automatique.

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In artificial intelligence and financial stability, machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on the STEM Commons.

Modèles de crédit à gradient boosting

Les ensembles d'arbres utilisés dans la notation de crédit sont examinés quant aux gains de pouvoir de classement, à la sensibilité aux changements de données et à la manière dont leurs motifs peuvent être expliqués aux demandeurs.

Les modèles de langage dans les opérations

Large language models used to summarise documents and draft responses are assessed for factual accuracy, grounding and data handling before deployment.

Détection des anomalies

Les méthodes non supervisées qui signalent des transactions ou des opérations inhabituelles sont examinées quant à leurs taux de faux positifs et à la manière dont les alertes sont traitées par le personnel.

03Exposition, perte et capital

Ce que cela signifie pour l'exposition, les pertes et le capital.

Les vues d'exposition, de pertes, de scénarios et de capital que demanderaient un responsable des risques, une autorité de contrôle ou un ministère des finances, avec les cadres dont ils relèvent pour leurs rapports. Les structures suivent la pratique prudentielle et actuarielle. Les valeurs sont illustratives : jamais des prix, des notations ni des conseils.

Canaux de transmission

Comment un choc dans l'intelligence artificielle et l'apprentissage automatique, pour le risque lié à l'IA et aux modèles financiers, atteint le risque de crédit, de marché, de souscription, de liquidité et opérationnel, puis rétroagit.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
Scénarios climatiques du NGFS · Réseau pour le verdissement du système financierIFRS S2 Informations à fournir en lien avec les changements climatiques · ISSBRecommandations de la TCFD · TCFD du Conseil de stabilité financièrePrincipes pour une gestion efficace des risques financiers liés au climat · Comité de Bâle sur le contrôle bancaire
04Données

Ce que consomme la méthode.

Les jeux de données et registres utilisés par l'intelligence artificielle et l'apprentissage automatique sur cette plateforme, avec le rôle de chacun et l'étiquette que portent ses valeurs. Les sources sont listées dans le registre des sources.

DonnéesRôleÉtiquette
Labelled historical decisions and outcomesEntraînement et testsDÉCLARÉ
Evaluation datasetsMesure de la performanceOBSERVÉ
Documentation du modèleConception et limitesDÉCLARÉ
05Processus

Comment le processus se déroule.

Process explorer · Process

Artificial intelligence and machine learning for AI and financial model risk: AI risk management (NIST)

9 steps5 stages1 gate

Processus

Artificial intelligence and machine learning for AI and financial model risk: AI risk management (NIST)

Le AI RMF Core comprend quatre fonctions, GOVERN, MAP, MEASURE et MANAGE, GOVERN étant transversale ; l'ordre représenté est une lecture courante, non une liste de contrôle.

  1. 01 Gouverner

    1. 01GOVERN : politiques, rôles et responsabilitéÉtape · Comité MRMGOVERN est une fonction transversale. Elle imprègne l'ensemble de la gestion des risques liés à l'IA et rend possibles les autres fonctions.
  2. 02 Map

    1. 02MAP : contexte et usage prévuJeu de donnéesLa fonction MAP établit le contexte permettant de cadrer les risques liés à un système d'IA, y compris les finalités prévues et les impacts sur les personnes.
  3. 03 Mesurer

    1. 03MESURER : évaluer les caractéristiques de fiabilitéModèleAI systèmes d'IA sont évalués au regard de caractéristiques de fiabilité. Ils devraient être testés avant le déploiement, puis régulièrement en exploitation.
    2. 04MESURER : suivre les risques identifiés dans le tempsModèleDes mécanismes de suivi dans le temps des risques identifiés liés à l'IA sont en place, y compris les risques imprévus et émergents.
  4. 04 Gérer

    1. 05GÉRER : traiter les risquesÉtapeTraitement des risques couvrent la réponse aux incidents, le rétablissement après incident et la communication à leur sujet. Les ressources sont affectées aux risques cartographiés et mesurés.
    2. 06Poursuivre ou non (MANAGE 1.1)Porte · Comité de gestion du risque de modèleIl est déterminé si le système répond à ses finalités et à ses objectifs, et s'il convient de poursuivre. Le cadre ne fixe aucun seuil.
    3. 07Décision de déploiementDécision · Comité MRML'organisation propriétaire du système décide de son déploiement et des conditions de celui-ci.
    4. 08Suivi après déploiement et incidentsModèleDes plans de suivi après déploiement sont mis en œuvre. Les incidents et les erreurs sont communiqués aux acteurs concernés de l'IA, y compris aux communautés touchées.
  5. 05 Consigner

    1. 09Inventaire des systèmes d'IAJeu de donnéesGOVERN 1.6 demande des mécanismes pour inventorier les systèmes d'IA. Une fiche de modèle est une pratique courante et n'est pas nommée dans le cadre.

Présentation neutre d'une norme ou d'une méthode externe publiée, telle qu'elle émane de son organisme émetteur. Ce n'est pas un enregistrement d'exploitation. Nexus n'exécute, ne certifie et n'approuve aucune des étapes présentées. Une porte ou une décision relève de la partie que désigne la source. Les actions ne forment pas nécessairement une suite ordonnée d'étapes. Le règlement européen sur l'IA n'est pas représenté dans ce flux.

06Validation

Comment les résultats sont vérifiés.

Les modèles sont évalués sur des données réservées qui respectent la structure spatiale, temporelle et par groupe. La robustesse, l'étalonnage et l'équité sont testés en plus de l'exactitude.

VérifierComment c'est fait
Test hors périodeLes modèles sont testés sur des périodes postérieures à celles des données d'entraînement
Benchmark comparisonLes modèles complexes sont comparés à des alternatives plus simples
StabilitéPerformance and explanations are checked across retraining runs

La performance se dégrade lorsque les conditions de déploiement diffèrent des données d'entraînement. Les modèles peuvent encoder des biais et échouer sans avertissement clair sur des événements rares.

08Intendance

Qui tient à jour la méthode.

Intelligence artificielle et systèmes autonomes est le garant de l'intelligence artificielle et de l'apprentissage automatique pour le Consortium et examine la manière dont ils sont appliqués sur les différentes plateformes.

10Questions

Questions et réponses.

Quelles sont les limites de l'intelligence artificielle et de l'apprentissage automatique dans ce domaine ?
La performance se dégrade lorsque les conditions de déploiement diffèrent des données d'entraînement. Les modèles peuvent encoder des biais et échouer sans avertissement clair sur des événements rares.
Comment les résultats sont-ils vérifiés ?
Les modèles sont évalués sur des données réservées qui respectent la structure spatiale, temporelle et par groupe. La robustesse, l'étalonnage et l'équité sont testés en plus de l'exactitude.
Les valeurs de cette page sont-elles réelles ?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Où d'autre cette méthode est-elle appliquée ?
L'Observatoire page canonique de la méthode liste toutes les plateformes qui l'appliquent.
RapportsContribuer

Apportez des éléments de preuve depuis cette page.

Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
Risque lié à l'IA et aux modèles financiers

Soumettez une question d'exposition ou de capital à l'Alliance.

L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.