GRA · IA e rischio dei modelli finanziari
Finanza spazialeDove il capitale incontra pericolo, esposizione e transizione
Governance del rischio di modello
Rischio di modello è la possibilità di perdite o danni derivanti da decisioni basate su modelli errati o usati impropriamente. Banche, assicurazioni e gestori di attivi lo gestiscono con inventari dei modelli, classificazione per livelli di rischio, validazione indipendente, approvazione e monitoraggio continuo, sotto la supervisione di consigli di amministrazione e alta direzione. L'apprendimento automatico e l'IA generativa ampliano ciò che si considera un modello. Questa pagina illustra come funziona e come fallisce la governance del rischio di modello, quali registri sono coinvolti e chi decide.
La governance del rischio di modello, documentata.
Model risk governance: how the risk develops.
Inventory, ownership and validation. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Inventories miss models
Fogli di calcolo, strumenti di fornitori e componenti di IA spesso restano fuori dall'inventario dei modelli. I modelli non censiti sfuggono a validazione e monitoraggio, e i loro errori emergono solo quando arrivano perdite o reclami.
La sfida si indebolisce
Validation that lacks independence, skill or authority to stop a model becomes a formality. Effective challenge needs validators who understand the method and can block use.
La classificazione per livelli determina l'attenzione
Models are tiered by materiality and complexity, which decides validation depth. Underestimating a model’s materiality, or the reach of an AI tool, leaves high-impact models lightly reviewed.
I modelli interagiscono
Gli output di un modello alimentano altri modelli: un punteggio alimenta la determinazione dei prezzi, che alimenta il capitale. Un errore a monte si propaga, e il rischio di modello aggregato lungo la catena è raramente misurato.
Ciclo di vita del rischio di modello.
La schermata che un gruppo utilizzerebbe per seguire questo tema: misure, stati e decisioni. I nomi sono esempi e i valori sono illustrativi.
Ciclo di vita del rischio di modello
Governance del rischio di modello · Inventario dei modelli · Comitato 9
Ciclo di vita
- Inventarioregistrato
- Sviluppodocumentato
- Convalidareindipendente
- Approvarecomitato
- Attuarecontrolli
- Monitoraggiosoglie
- Valutazioneannuale
- Dismetteredismissione
Modelli
| MD-204 PD retail | Livello 1 | 14 mesi | 3 | In ritardo |
| MD-511 Triage dei reclami con LLM | Livello 1 | mai | 0 | Non convalidato |
| MD-164 IFRS 9 staging | Livello 1 | 8 mesi | 1 | Approvato |
| MD-534 propensione di marketing | Livello 3 | 17 mesi | 0 | Approvato |
Ambito di validazione
- Solidità concettuale
- In corso
- Analisi dei risultati
- In sospeso
- Benchmarking
- In sospeso
- Limiti d'uso
- revisione umana necessaria
Cosa viene misurato e con quale accuratezza.
Ogni indicatore riporta la sua unità, la sua cadenza, il tipo di fonte su cui si basa e l'etichetta di evidenza che un valore riporterebbe. Non sono mostrati valori: un programma li fornisce sotto la propria autorità.
| Indicatore | Unità | Cadenza | Tipo di fonte | Etichetta |
|---|---|---|---|---|
| Modelli in inventario | conteggio per livello | trimestrale | Inventario dei modelli | DICHIARATO |
| Modelli convalidati entro il ciclo decisionale | quota per livello | trimestrale | Registri di validazione | DICHIARATO |
| Risultanze di validazione aperte | conteggio per gravità | trimestrale | Registri di validazione | DICHIARATO |
| Modelli utilizzati con eccezioni o restrizioni | conteggio | trimestrale | Model governance records | DICHIARATO |
| AI and machine learning models in inventory | count and share | annuale | Inventario e indagini | DICHIARATO |
| Supervisory findings on model risk management | conteggio | annuale | Segnalazioni di vigilanza | Statistiche pubblicate |
Percorsi di politica e loro effetti sul rischio.
Come tre famiglie di strumenti modificano nel tempo un esito di rischio, con ritardi di adozione, copertura e conformità, gli scenari di policy alla base delle valutazioni del rischio di transizione e del rischio fisico. Scenario: ipotesi dichiarate sul futuro, non una previsione.
Comandi
- Tendenza di base del risultato
- 2.0% all'anno
- Copertura dello strumento
- 70%
- Conformità
- 75%
- Dimensione dell'effetto rispetto al valore didattico
- 100%
- Anni in avanti
- 20 anni
Letture
- Riduzione maggiore all'orizzonte
- Regolamentazione
- La sua riduzione rispetto allo scenario di base
- 21%
Numeri, metodi e fonti
| Anno | Base di riferimento | Regolamentazione | Incentivo economico | Informazione e capacità |
|---|---|---|---|---|
| 0 | 100.0 | 99.5 | 98.8 | 99.1 |
| 1 | 102.0 | 101.2 | 100.1 | 99.8 |
| 2 | 104.0 | 102.5 | 101.1 | 99.9 |
| 3 | 106.1 | 103.5 | 101.6 | 100.0 |
| 4 | 108.2 | 103.7 | 101.8 | 100.7 |
| 5 | 110.4 | 103.2 | 101.7 | 102.1 |
| 6 | 112.6 | 102.0 | 101.6 | 103.9 |
| 7 | 114.9 | 100.4 | 101.6 | 105.9 |
| 8 | 117.2 | 99.2 | 102.1 | 108.0 |
| 9 | 119.5 | 98.6 | 102.9 | 110.1 |
| 10 | 121.9 | 98.9 | 104.2 | 112.3 |
| 11 | 124.3 | 99.7 | 105.7 | 114.5 |
| 12 | 126.8 | 101.1 | 107.4 | 116.8 |
| 13 | 129.4 | 102.7 | 109.4 | 119.2 |
| 14 | 131.9 | 104.5 | 111.4 | 121.6 |
| 15 | 134.6 | 106.5 | 113.5 | 124.0 |
| 16 | 137.3 | 108.5 | 115.7 | 126.5 |
| 17 | 140.0 | 110.7 | 118.0 | 129.0 |
| 18 | 142.8 | 112.9 | 120.4 | 131.6 |
| 19 | 145.7 | 115.1 | 122.8 | 134.2 |
| 20 | 148.6 | 117.4 | 125.2 | 136.9 |
Metodi
- Tools of government Hood (1983), The Tools of Government, Macmillan
- Carote, bastoni e prediche Bemelmans-Videc, Rist e Vedung (1998), Transaction
- Diffusion of innovations Rogers (2003), Diffusion of Innovations, Free Press
- Ventaglio di incertezza (Monte Carlo sui parametri) Spiegelhalter, Pearson e Short (2011), Visualising uncertainty about the future, Science 333
- One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Dati
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- Borders Natural Earth
- Cities Natural Earth
Nei sei pilastri, sotto la guida di Nexus Consortium
- Esperimenti Laboratori
- Costruito in IA e rischio dei modelli finanziari in Foundry
- Testato a IA e rischio dei modelli finanziari in Universe
- Codificato in Digitale, cibernetico e IA in Standards
- Pubblicato in IA e rischio dei modelli finanziari in Reports
- Insegnato in Facoltà di Tecnologia e sistemi digitali in Academy
Da dove provengono le evidenze.
Set di dati pubblici e registri istituzionali specifici, ciascuno con la sua classe di licenza. Le fonti soggette ad accordo sono utilizzate solo alle relative condizioni e mai ripubblicate.
| Fonte | Cosa fornisce | Classe di licenza |
|---|---|---|
| Federal Reserve and OCC SR 11-7 guidance | Model risk management expectations | Pubblico dominio |
| PRA SS1/23 model risk management principles | UK principles for banks | Gratuito, condizioni della Bank of England |
| ECB guide to internal models | Aspettative per i modelli interni usati per il capitale | Gratuito, condizioni BCE |
| Indagini della Bank of England e della FCA sull'IA e sull'apprendimento automatico nei servizi finanziari del Regno Unito | Use and governance of AI across firms | Gratuito, termini della Bank of England e della FCA |
| Rapporti di follow-up dell'EBA sull'apprendimento automatico per i modelli basati su rating interni | Supervisory views on ML in capital models | Gratuito, condizioni di riutilizzo dell'UE |
What model risk governance means for exposure, loss and capital.
Le viste su esposizione, perdita, scenari e capitale che un responsabile del rischio, un'autorità di vigilanza o un ministero delle finanze richiederebbe, con i quadri normativi in base ai quali riferisce. Le strutture seguono la prassi di vigilanza e attuariale. I valori sono illustrativi: mai prezzi, rating o consulenza.
Canali di trasmissione
Come uno shock nella governance del rischio di modello raggiunge i rischi di credito, di mercato, di sottoscrizione, di liquidità e operativo, e retroagisce.
Chi decide, e a cosa servono le evidenze.
IA e rischio di modello prepara le evidenze. Le decisioni riportate di seguito sono assunte dalle autorità indicate, secondo le rispettive norme, e mai dalla piattaforma.
| Chi decide | La domanda | Evidenze fornite da questa pagina |
|---|---|---|
| Boards and senior management | Quale propensione al rischio di modello definire e come sorvegliarla | Inventario, classificazione per livelli, risultanze ed evidenze degli incidenti |
| Funzioni di gestione del rischio di modello | Which models to validate, approve, restrict or retire | Validation results and monitoring |
| Autorità di vigilanza prudenziale | Se la gestione del rischio di modello soddisfa le aspettative | Revisioni di vigilanza e segnalazioni delle imprese |
| Audit interno | Se il quadro di rischio di modello funziona come previsto | Governance and validation records |
Output prodotti da questo argomento
- Guide to model inventories, tiering and validation
- Nota di sintesi sull'estensione della gestione del rischio di modello all'IA e all'IA generativa
- Nota metodologica sulla sfida efficace (effective challenge)
- Questions for boards on aggregate model risk
Cosa si chiedono gli esperti.
Governance questions begin with knowing what models exist.
- Che cosa conta come modello, e la definizione comprende l'apprendimento automatico, gli strumenti dei fornitori e l'IA generativa?
- Is every model in the inventory, with an accountable owner and a risk tier?
- Is validation genuinely independent and effective at challenging developers?
- How are model limitations documented and communicated to users?
- Does the board understand the institution’s aggregate model risk?
Meccanismi e fattori.
Models fail through flawed design, poor data, implementation errors, or use beyond their intended scope. Governance frameworks address these through development standards, independent validation and ongoing monitoring, scaled to each model’s materiality. Supervisory guidance on model risk management in several jurisdictions sets expectations along these lines.
AI strains traditional frameworks. Machine learning models can be numerous, frequently retrained and embedded in processes; generative AI tools may be adopted informally by staff; vendor models may be opaque. Inventories that miss these uses leave risk unmanaged.
Come viene studiato, e dove si fermano i metodi.
| Metodo o dati | Cosa mostra | Limiti |
|---|---|---|
| Inventari dei modelli e classificazione per livelli | Which models exist and how material they are | Informal and embedded AI uses are easily missed |
| Convalida indipendente | Soundness of design, data and implementation | Validation is constrained by time, skills and access to vendor details |
| Governance benchmarking | How institutions organise model risk | Autodichiarato e difficile da confrontare |
| Issue and finding analysis | Recurring weaknesses | Le risultanze restano riservate all'interno delle imprese |
Come viene studiato, e cosa i metodi non possono dire.
- 01Ingegneria della valutazione e dell'assicurazione dell'IAConvalida dei modelli di apprendimento automatico · Red teaming dell'IA generativa · Valutazione dell'equitàApplicato qui
- 02Probabilità e statisticaTest di calibrazione · Statistiche di deriva · Confronto degli esiti tra gruppiApplicato qui
- 03Quantificazione dell'incertezza e validazione dei modelliIntervalli di previsione per i modelli di perdita · Insiemi di modelli · Capitale o riserve per il rischio di modelloApplicato qui
- 04Intelligenza artificiale e apprendimento automaticoModelli di credito con gradient boosting · Modelli linguistici nelle operazioni · Rilevamento delle anomalieApplicato qui
Domande e risposte.
Che cos'è il rischio di modello?
Che cos'è la sfida efficace (effective challenge)?
Are AI models covered by model risk rules?
I fogli di calcolo e gli strumenti di IA generativa contano come modelli?
Does the platform review firms’ frameworks?
Contribuisci con evidenze da questa pagina.
Reports è la pubblicazione trimestrale del consorzio. Ciò che sai su questo tema può diventare un'evidenza, un caso o una correzione nella prossima edizione, attribuita a te e pubblicata con licenza CC BY 4.0 se si tratta di un tuo lavoro.
- E-mailPortale GW-GRAInvialo da questa paginaUn'evidenza, una correzione, un caso, un metodo, una revisione, una traduzione o un contributo a un profilo. Arriva etichettata con questa pagina, così la riceve la persona redattrice che ne è responsabile.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks AllianceSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Non inviare mai dati personali, dettagli su infrastrutture sensibili o qualsiasi cosa che tu non abbia il diritto di condividere. Un contributo viene sottoposto a revisione prima dell'uso; inviarlo non conferisce diritti di paternità né editoriali, e la sponsorizzazione non compra mai un risultato.
Portate all'Alliance una questione di esposizione o di capitale.
Informazioni e richieste sono aperte oggi. Una richiesta riceve un riferimento e indica il passo successivo; candidature, pagamenti, assegnazioni di calcolo e registrazioni si aprono solo quando esistono il team, le condizioni e la capacità di revisione.
Documenti legali.
Le mappe, i dati e le cifre di questo sito sono mostrati a titolo di contesto e di informazione generale. Non costituiscono consigli, previsioni né allerte; i limiti dell'informazione sono esposti nelle Dichiarazioni di esclusione di responsabilità e nelle Note sui dati.