Skip to content

GRA · IA e rischio dei modelli finanziari

Finanza spazialeDove il capitale incontra pericolo, esposizione e transizione

Intelligenza artificiale e apprendimento automatico per il rischio dei modelli finanziari e dell'IA

Artificial intelligence and machine learning are methods that learn patterns from data to predict, classify or generate. On this platform they are explained as the techniques behind modern credit, pricing, fraud and generative tools, and as sources of model risk with distinctive failure modes.

01Registrare

Artificial intelligence and machine learning for AI and financial model risk on the record.

Registro del metodoMetodo STEM
  1. MetodoIntelligenza artificiale e apprendimento automatico
  2. Applicato inIA e rischio di modello
  3. Pagina canonicaBeni comuni STEM
02Domanda di adesione

Cosa fanno qui l'intelligenza artificiale e l'apprendimento automatico.

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In artificial intelligence and financial stability, machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on the STEM Commons.

Gradient-boosted credit models

Gli ensemble di alberi usati nel credit scoring sono esaminati per i miglioramenti del potere di ordinamento, la sensibilità ai cambiamenti nei dati e la possibilità di spiegare le motivazioni ai richiedenti.

Modelli linguistici nelle attività operative

I modelli linguistici di grandi dimensioni usati per riassumere documenti e redigere risposte sono valutati per accuratezza fattuale, ancoraggio e trattamento dei dati prima della diffusione.

Rilevamento delle anomalie

Unsupervised methods that flag unusual transactions or trades are examined for false positive rates and for how alerts are reviewed by staff.

03Esposizione, perdita e capitale

Che cosa significa per esposizione, perdita e capitale.

Le viste su esposizione, perdita, scenari e capitale che un responsabile del rischio, un'autorità di vigilanza o un ministero delle finanze richiederebbe, con i quadri normativi in base ai quali riferisce. Le strutture seguono la prassi di vigilanza e attuariale. I valori sono illustrativi: mai prezzi, rating o consulenza.

Canali di trasmissione

How a shock in Artificial intelligence and machine learning for AI and financial model risk reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
NGFS climate scenarios · Network for Greening the Financial SystemIFRS S2 Climate-related Disclosures · ISSBTCFD recommendations · Financial Stability Board TCFDPrinciples for the effective management of climate-related financial risks · Basel Committee on Banking Supervision
04Dati

Cosa utilizza il metodo.

Set di dati e registri utilizzati dall'intelligenza artificiale e dall'apprendimento automatico su questa piattaforma, con il ruolo di ciascuno e l'etichetta dei suoi valori. Le fonti sono elencate nel registro delle fonti.

DatiRuoloEtichetta
Labelled historical decisions and outcomesAddestramento e verificaRIPORTATO
Evaluation datasetsPerformance measurementOSSERVATO
Documentazione del modelloDesign and limitsDICHIARATO
05Processo

Come si svolge il processo.

Process explorer · Process

Artificial intelligence and machine learning for AI and financial model risk: AI risk management (NIST)

9 steps5 stages1 gate

Processo

Artificial intelligence and machine learning for AI and financial model risk: AI risk management (NIST)

Il nucleo dell'AI RMF comprende quattro funzioni, GOVERN, MAP, MEASURE e MANAGE, con GOVERN trasversale; l'ordine illustrato è una lettura comune, non una lista di controllo.

  1. 01 Governare

    1. 01GOVERNARE: politiche, ruoli e responsabilitàFase · Comitato MRMGOVERN è una funzione trasversale. Permea l'intera gestione del rischio dell'IA e abilita le altre funzioni.
  2. 02 Map

    1. 02MAP: context and intended useDatasetThe MAP function establishes the context to frame risks related to an AI system, including intended purposes and impacts on people.
  3. 03 Misurare

    1. 03MISURARE: valutare le caratteristiche di affidabilitàModelloAI Sistemi di IA sono valutati rispetto alle caratteristiche di affidabilità. Dovrebbero essere testati prima della messa in opera e regolarmente durante l'esercizio.
    2. 04MISURARE: monitorare nel tempo i rischi identificatiModelloSono in atto meccanismi per il monitoraggio nel tempo dei rischi di IA individuati, inclusi quelli imprevisti ed emergenti.
  4. 04 Gestione

    1. 05GESTIRE: trattare i rischiPassaggioTrattamento del rischio comprendono la risposta agli incidenti, il ripristino e la comunicazione. Le risorse sono destinate ai rischi mappati e misurati.
    2. 06Proceed or not (MANAGE 1.1)Gate · MRM committeeA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07Decisione di implementazioneDecisione · comitato MRML'organizzazione proprietaria del sistema decide se e a quali condizioni procedere all'impiego.
    4. 08Monitoraggio post-implementazione e incidentiModelloI piani di monitoraggio post-implementazione sono attuati. Incidenti ed errori sono condivisi con gli attori dell'IA pertinenti, comprese le comunità interessate.
  5. 05 Registro

    1. 09Inventory of AI systemsDatasetGOVERN 1.6 asks for mechanisms to inventory AI systems. A model card is common practice and is not named in the framework.

Sintesi neutrale di uno standard o di un metodo esterno pubblicato, riportata dall'ente che lo ha emesso. Non costituisce una registrazione operativa. Nexus non esegue, certifica né approva alcuna fase illustrata. Un gate o una decisione spetta alla parte indicata dalla fonte. Le azioni non costituiscono necessariamente una sequenza ordinata di fasi. Il Regolamento UE sull'IA non è rappresentato in questo flusso.

06Validazione

Come vengono verificati i risultati.

I modelli sono valutati su dati esclusi dalla stima che rispettano la struttura spaziale, temporale e di gruppo. Robustezza, calibrazione ed equità sono testate insieme all'accuratezza.

VerificaCome si fa
Test fuori campione temporaleI modelli vengono testati su periodi successivi a quelli dei dati di addestramento
Confronto con i parametri di riferimentoI modelli complessi sono confrontati con alternative più semplici
StabilitàPrestazioni e spiegazioni sono verificate nelle esecuzioni di riaddestramento

Le prestazioni peggiorano quando le condizioni di impiego differiscono dai dati di addestramento. I modelli possono incorporare distorsioni e fallire senza un chiaro preavviso sugli eventi rari.

08Custodia

Chi mantiene il metodo.

Intelligenza artificiale e sistemi autonomi è custode dell'intelligenza artificiale e dell'apprendimento automatico per il Consortium ed esamina come vengono applicati tra le piattaforme.

10Domande

Domande e risposte.

Quali sono i limiti dell'intelligenza artificiale e dell'apprendimento automatico in questo campo?
Le prestazioni peggiorano quando le condizioni di impiego differiscono dai dati di addestramento. I modelli possono incorporare distorsioni e fallire senza un chiaro preavviso sugli eventi rari.
Come vengono verificati i risultati?
I modelli sono valutati su dati esclusi dalla stima che rispettano la struttura spaziale, temporale e di gruppo. Robustezza, calibrazione ed equità sono testate insieme all'accuratezza.
I valori di questa pagina sono reali?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Dove altro viene applicato questo metodo?
L'Observatory pagina canonica del metodo elenca ogni piattaforma che lo applica.
RapportiContribuisci

Contribuisci con evidenze da questa pagina.

Reports è la pubblicazione trimestrale del consorzio. Ciò che sai su questo tema può diventare un'evidenza, un caso o una correzione nella prossima edizione, attribuita a te e pubblicata con licenza CC BY 4.0 se si tratta di un tuo lavoro.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
IA e rischio dei modelli finanziari

Portate all'Alliance una questione di esposizione o di capitale.

Informazioni e richieste sono aperte oggi. Una richiesta riceve un riferimento e indica il passo successivo; candidature, pagamenti, assegnazioni di calcolo e registrazioni si aprono solo quando esistono il team, le condizioni e la capacità di revisione.