GRA · Risque lié à l'IA et aux modèles financiers
Spatial financeLà où le capital rencontre l'aléa, l'exposition et la transition
Analyse et incertitude
Risque de modèle is managed through inventory, documentation, conceptual soundness review, outcome analysis, benchmarking and ongoing monitoring. This page explains each step, how machine learning changes it, and why generative and agentic AI sit partly outside current guidance.
Analysis and uncertainty in five parts.
Les méthodes utilisées.
- 01Intelligence artificielle et apprentissage automatiqueModèles de crédit à gradient boosting · Modèles de langage dans les opérations · Détection des anomaliesAppliqué ici
- 02Ingénierie de l'évaluation et de l'assurance de l'IAValidation des modèles d'apprentissage automatique · Tests adversariaux de l'IA générative · Évaluation de l'équitéAppliqué ici
- 03Quantification de l'incertitude et validation des modèlesIntervalles de prédiction pour les modèles de pertes · Ensembles de modèles · Capital ou coussins pour risque de modèleAppliqué ici
- 04Probabilités et statistiquesTests d'étalonnage · Statistiques de dérive · Comparaison des résultats entre groupesAppliqué ici
Explainability and fairness methods, with limits.
| Méthode | Gives | Limite |
|---|---|---|
| SHAP and other attribution methods | Contribution of each input to a prediction | Correlated inputs blur attribution |
| Counterfactual explanations | What change would alter the decision | May suggest infeasible changes |
| Group fairness metrics | Outcome differences across groups | Metrics can conflict |
| Challenger models | Independent benchmark | Shares data weaknesses |
Comment le processus se déroule.
Process explorer · Process
Analysis and uncertainty: Source to evidence record
10 steps·4 étapes·2 points de contrôle
Processus
Analysis and uncertainty: Source to evidence record
Une source est enregistrée et évaluée, son dossier étiqueté et classé, et un passeport numérique des éléments probants porte la provenance ; une correction atteint chaque enregistrement dépendant.
01 Admission
- 01Identifier la sourceSource · Le gestionnaire de la sourceRepérer n'est pas intégrer. L'identification d'une source consigne la catégorie de source, le gestionnaire, le rôle institutionnel et la juridiction.
- 03Enregistrer la sourceÉtapeL'enregistrement fait d'une source repérée un participant gouverné du cycle de vie des données probantes. Il n'implique ni caution ni certification.
02 Évaluation
- 04Classification par juridiction et par droitsJalonLa classification des droits identifie la licence, le consentement, la confidentialité et les limites de réutilisation. Le résultat détermine l'accès et l'acheminement.
- 05Évaluation de la qualité des données probantesÉtapeL'évaluation de la qualité détermine si un dossier est adapté à un usage défini. La qualité est multidimensionnelle et ne se résume jamais à une note unique.
- 06Étiquette de données probantesÉtapeChaque constat porte l'une des neuf étiquettes de données probantes. Les données manquantes sont signalées comme manquantes, jamais comme nulles.
03 Registre
- 07Classification des données probantesEnregistrementLa classification attribue aux dossiers des états de cycle de vie, tels que vérifié à la source, publiable ou restreint. Les états peuvent coexister et déterminent l'usage des données probantes.
- 08Publication de la source et identifiantEnregistrement · NXS-GRX (données canoniques, provenance et risque)Une publication de source consigne les droits, la couverture temporelle et la filiation des sources. Un UNI est attribué au moyen d'un catalogue et n'est jamais saisi à la main.
- 09Passeport numérique des données probantesEnregistrementLe passeport consigne la provenance, la qualité, les droits, la juridiction, l'usage autorisé et l'historique, afin que les données probantes conservent leur contexte lorsqu'elles circulent.
04 Utilisation et correction
- 02La correction atteint les dossiers dépendantsÉtape · NXS-GRX (données de référence, provenance et risque)Une correction de source se propage aux extractions et produits dépendants sans réécrire les résultats antérieurs.
- 10Examen de la sécurité de publicationJalonL'examen de publicabilité détermine si un dossier peut être partagé publiquement. C'est une étape distincte, qui ne constitue pas une validation.
Protocoles de données : cycle de vie des données probantes · Data protocols: core data objects and evidence records · The Global Risks Index (NXS-GRX)Designed programme process, not a record of operation. No cycle has run and every programme is at service level R0. A gate is a programme decision, never a public-authority approval, certification or deployment authorisation. The data-protocol pages describe a design, not a running system.
Quantifying what the model does not know.
Prediction intervals and calibration checks show when a model is outside its experience. Methods at GCRI uncertainty quantification; topic depth at explainability and fairness.
Comment l'incertitude est indiquée.
- 01
Énoncer les hypothèses
Chaque analyse liste ses hypothèses et les données dont elle dépend.
- 02
Quantifier lorsque c'est possible
Les fourchettes et les niveaux de confiance sont indiqués à côté des estimations centrales.
- 03
Valider et comparer
Les modèles sont confrontés aux observations et, lorsque c'est possible, à d'autres modèles.
- 04
Publier les limites
Ce qu'une analyse ne peut pas montrer est indiqué à côté de ce qu'elle peut montrer.
Where this page’s references lead.
Les organismes et documents à l'aune desquels cette page se lit. Les statuts et éditions changent ; chaque lien mène à l'organisme émetteur.
Questions et réponses.
Les méthodes sont-elles ouvertes ?
Apportez des éléments de preuve depuis cette page.
Rapports is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- E-mailPasserelle GW-GRAL'envoyer depuis cette pageUne preuve, une correction, un cas, une méthode, un examen, une traduction ou un apport au profil. Elle arrive étiquetée avec cette page, afin que le rédacteur responsable la reçoive.
- ZenodoDépôt ouvertLe déposer et le soumettre à la communautéPubliez votre propre fiche sur Zenodo avec votre identifiant ORCID, puis soumettez-la à la communauté Reports qui s'y trouve. Des curateurs l'examinent ; le DOI reste le vôtre.
- RapportsGlobal Risks AllianceVoir toutes les façons de contribuerLes types de contribution, la manière dont chacune est examinée, la reconnaissance accordée, la licence et ce qui n'est jamais accepté.
N'envoyez jamais de données personnelles, de détails sensibles sur des infrastructures ni rien que vous n'avez pas le droit de communiquer. Une contribution est examinée avant utilisation ; son envoi ne confère ni qualité d'auteur ni droits éditoriaux, et un parrainage n'achète jamais une conclusion.
Soumettez une question d'exposition ou de capital à l'Alliance.
L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.
Documents juridiques.
Les cartes, données et chiffres de ce site sont présentés à titre de contexte et d'information générale. Ils ne constituent ni des conseils, ni des prévisions, ni des alertes ; les limites de l'information sont exposées dans les Avertissements et les Notices sur les données.