Skip to content

GRA · Risque lié à l'IA et aux modèles financiers

Spatial financeWhere capital meets hazard, exposure and transition

Évaluation et ingénierie d'assurance de l'IA pour AI and Financial Model Risk

L'assurance de l'IA désigne l'ensemble des pratiques qui donnent une confiance justifiée dans un système d'IA ou de modèle : validation, tests, red teaming, surveillance, documentation et examen indépendant. Sur cette plateforme, elle relie la gestion établie du modèles financiers aux nouvelles données probantes qu'exigent les systèmes d'IA.

01Registre

AI evaluation and assurance engineering for AI and financial model risk on the record.

Fiche de la méthodeMéthode STIM
  1. MéthodeIngénierie de l'évaluation et de l'assurance de l'IA
  2. Appliqué dansRisque lié à l'IA et risque de modèle
  3. Données3 intrants
  4. Page canoniqueCommuns STIM
02Candidature

Ce que fait ici l'ingénierie de l'évaluation et de l'assurance de l'IA.

L'ingénierie de l'évaluation et de l'assurance de l'IA développe des méthodes pour tester, surveiller et fournir une confiance justifiée dans les systèmesd'IA. Elle porte sur la performance, la robustesse, la sécurité et l'impact sociétal tout au long du cycle de vie du système. En matière d'intelligence artificielle et de stabilité financière, l'assurance de l'IA détermine si des systèmes automatisés peuvent être dignes de confiance dans des contextes à fortes conséquences. Elle aide à gérer les risques lorsque l'IA est intégrée dans la finance, la santé et les infrastructures. La description canonique figure sur le STEM Commons.

Validation of machine learning models

La solidité conceptuelle, la qualité des données, l'analyse des résultats et les tests de stabilité sont adaptés aux modèles dont la logique interne est difficile à lire.

Tests d'équipe rouge (red-teaming) de l'IA générative

Adversarial tests probe language model applications for prompt injection, data leakage and harmful output before and after deployment.

Évaluation de l'équité

Outcome rates and error rates are compared across groups, with the chosen fairness criterion and its legal basis documented for review.

03Exposition, perte et capital

Ce que cela signifie pour l'exposition, les pertes et le capital.

Les vues d'exposition, de pertes, de scénarios et de capital que demanderaient un responsable des risques, une autorité de contrôle ou un ministère des finances, avec les cadres dont ils relèvent pour leurs rapports. Les structures suivent la pratique prudentielle et actuarielle. Les valeurs sont illustratives : jamais des prix, des notations ni des conseils.

Canaux de transmission

How a shock in AI evaluation and assurance engineering for AI and financial model risk reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
Scénarios climatiques du NGFS · Réseau pour le verdissement du système financierIFRS S2 Informations à fournir en lien avec les changements climatiques · ISSBRecommandations de la TCFD · TCFD du Conseil de stabilité financièrePrincipes pour une gestion efficace des risques financiers liés au climat · Comité de Bâle sur le contrôle bancaire
04Données

Ce que consomme la méthode.

Datasets and records used by AI evaluation and assurance engineering on this platform, with the role each plays and the label its values carry. Sources are listed in the source register.

DonnéesRôleÉtiquette
Rapports de validationDonnées probantes d'assuranceDÉCLARÉ
Résultats des exercices de red teamAdversarial weaknessesOBSERVÉ
Données de résultatsPerformance en conditions réellesOBSERVÉ
05Processus

Comment le processus se déroule.

Process explorer · Process

AI evaluation and assurance engineering for AI and financial model risk: AI risk management (NIST)

9 steps5 stages1 gate

Processus

AI evaluation and assurance engineering for AI and financial model risk: AI risk management (NIST)

Le AI RMF Core comprend quatre fonctions, GOVERN, MAP, MEASURE et MANAGE, GOVERN étant transversale ; l'ordre représenté est une lecture courante, non une liste de contrôle.

  1. 01 Gouverner

    1. 01GOVERN : politiques, rôles et responsabilitéÉtape · Comité MRMGOVERN est une fonction transversale. Elle imprègne l'ensemble de la gestion des risques liés à l'IA et rend possibles les autres fonctions.
  2. 02 Map

    1. 02MAP : contexte et usage prévuJeu de donnéesLa fonction MAP établit le contexte permettant de cadrer les risques liés à un système d'IA, y compris les finalités prévues et les impacts sur les personnes.
  3. 03 Mesurer

    1. 03MESURER : évaluer les caractéristiques de fiabilitéModèleAI systèmes d'IA sont évalués au regard de caractéristiques de fiabilité. Ils devraient être testés avant le déploiement, puis régulièrement en exploitation.
    2. 04MESURER : suivre les risques identifiés dans le tempsModèleDes mécanismes de suivi dans le temps des risques identifiés liés à l'IA sont en place, y compris les risques imprévus et émergents.
  4. 04 Gérer

    1. 05GÉRER : traiter les risquesÉtapeTraitement des risques couvrent la réponse aux incidents, le rétablissement après incident et la communication à leur sujet. Les ressources sont affectées aux risques cartographiés et mesurés.
    2. 06Poursuivre ou non (MANAGE 1.1)Porte · Comité de gestion du risque de modèleIl est déterminé si le système répond à ses finalités et à ses objectifs, et s'il convient de poursuivre. Le cadre ne fixe aucun seuil.
    3. 07Décision de déploiementDécision · Comité MRML'organisation propriétaire du système décide de son déploiement et des conditions de celui-ci.
    4. 08Suivi après déploiement et incidentsModèleDes plans de suivi après déploiement sont mis en œuvre. Les incidents et les erreurs sont communiqués aux acteurs concernés de l'IA, y compris aux communautés touchées.
  5. 05 Consigner

    1. 09Inventaire des systèmes d'IAJeu de donnéesGOVERN 1.6 demande des mécanismes pour inventorier les systèmes d'IA. Une fiche de modèle est une pratique courante et n'est pas nommée dans le cadre.

Présentation neutre d'une norme ou d'une méthode externe publiée, telle qu'elle émane de son organisme émetteur. Ce n'est pas un enregistrement d'exploitation. Nexus n'exécute, ne certifie et n'approuve aucune des étapes présentées. Une porte ou une décision relève de la partie que désigne la source. Les actions ne forment pas nécessairement une suite ordonnée d'étapes. Le règlement européen sur l'IA n'est pas représenté dans ce flux.

06Validation

Comment les résultats sont vérifiés.

Les méthodes d'évaluation sont vérifiées quant à leur fiabilité et à leur pertinence au regard des conditions de déploiement. La réplication indépendante et les audits par des tiers mettent les affirmations à l'épreuve.

VérifierComment c'est fait
IndépendanceL'assurance est exercée par des personnes indépendantes du développement
Périmètre préciséCe que l'assurance a couvert et exclu est consigné
Repeat after changeLes changements importants de modèle ou de version déclenchent une nouvelle assurance

Benchmarks may not reflect real-world use or novel capabilities. General-purpose systems have open-ended behaviour that resists complete testing.

08Intendance

Qui tient à jour la méthode.

Intelligence artificielle et systèmes autonomes est le garant de l'évaluation de l'IA et de l'ingénierie de l'assurance pour le Consortium, et examine la manière dont elles sont appliquées sur l'ensemble des plateformes.

10Questions

Questions et réponses.

Quelles sont les limites de l'évaluation de l'IA et de l'ingénierie de l'assurance dans ce domaine ?
Benchmarks may not reflect real-world use or novel capabilities. General-purpose systems have open-ended behaviour that resists complete testing.
Comment les résultats sont-ils vérifiés ?
Les méthodes d'évaluation sont vérifiées quant à leur fiabilité et à leur pertinence au regard des conditions de déploiement. La réplication indépendante et les audits par des tiers mettent les affirmations à l'épreuve.
Les valeurs de cette page sont-elles réelles ?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Où d'autre cette méthode est-elle appliquée ?
L'Observatoire page canonique de la méthode liste toutes les plateformes qui l'appliquent.
RapportsContribuer

Apportez des éléments de preuve depuis cette page.

Reports est la publication trimestrielle du Consortium. Ce que vous savez de ce sujet peut devenir une donnée probante, un cas ou une correction dans la prochaine édition, avec mention de votre nom et publié sous licence CC BY 4.0 lorsqu'il s'agit de votre propre travail.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
Risque lié à l'IA et aux modèles financiers

Soumettez une question d'exposition ou de capital à l'Alliance.

L'information et les demandes sont ouvertes dès aujourd'hui. Une demande reçoit une référence et indique l'étape suivante ; candidatures, paiements, allocations de calcul et inscriptions n'ouvrent que lorsque l'équipe, les conditions et la capacité d'examen existent.