GRA · IA e rischio dei modelli finanziari
Finanza spazialeDove il capitale incontra pericolo, esposizione e transizione
Modelli di terze parti
Le imprese utilizzano punteggi di credito dei fornitori, modelli antifrode, modelli di catastrofe, analisi di dati di mercato e modelli di fondazione che non hanno sviluppato e che non possono ispezionare integralmente. La responsabilità del rischio di modello resta in capo all'impresa. Questa pagina illustra come nasce il rischio di modello di terze parti, come le imprese convalidano ciò che non possono vedere, quali evidenze sono disponibili e chi decide.
Third party models on the record.
Modelli di terze parti: come si sviluppa il rischio.
Dipendenze dai fornitori e due diligence. Il dossier seguente illustra come si sviluppa il rischio, che cosa viene misurato, da dove provengono i dati, come vengono modellizzati e chi decide.
Trasparenza limitata
Vendors protect their methods as trade secrets. Firms may get documentation and performance reports but not code, data or training details, which limits validation.
Shared models, shared errors
Quando molte imprese usano lo stesso modello di un fornitore, i suoi errori le colpiscono tutte contemporaneamente e possono muovere insieme i mercati o l'offerta di credito.
Updates change behaviour
Vendors update models and data on their own schedules. Without notice and change analysis, a firm’s validated model can change silently.
Validation by outcomes
Dove i meccanismi interni sono nascosti, le imprese convalidano tramite benchmarking, analisi dei risultati e test sui propri dati, il che richiede tempo e dati.
Ciclo di vita del rischio di modello.
La schermata che un gruppo utilizzerebbe per seguire questo tema: misure, stati e decisioni. I nomi sono esempi e i valori sono illustrativi.
Ciclo di vita del rischio di modello
Modelli di terze parti · Inventario dei modelli · Comitato 8
Ciclo di vita
- Inventarioregistrato
- Sviluppodocumentato
- Convalidareindipendente
- Approvarecomitato
- Attuarecontrolli
- Monitoraggiosoglie
- Valutazioneannuale
- Dismetteredismissione
Modelli
| MD-709 PD retail | Livello 1 | 9 months | 1 | In ritardo |
| MD-561 Smistamento dei reclami tramite LLM | Livello 1 | mai | 0 | Non convalidato |
| MD-601 IFRS 9 staging | Livello 1 | 3 months | 0 | Approvato |
| MD-088 propensione al marketing | Livello 3 | 14 mesi | 1 | Approvato |
Ambito di validazione
- Solidità concettuale
- In corso
- Analisi dei risultati
- In sospeso
- Benchmarking
- In sospeso
- Limiti d'uso
- revisione umana necessaria
Cosa viene misurato e con quale accuratezza.
Ogni indicatore riporta la sua unità, la sua cadenza, il tipo di fonte su cui si basa e l'etichetta di evidenza che un valore riporterebbe. Non sono mostrati valori: un programma li fornisce sotto la propria autorità.
| Indicatore | Unità | Cadenza | Tipo di fonte | Etichetta |
|---|---|---|---|---|
| Modelli di terze parti in inventario | conteggio per livello | annuale | Inventario dei modelli | DICHIARATO |
| Vendor models with full documentation | quota | annuale | Registri di gestione dei fornitori | DICHIARATO |
| Vendor model changes notified | conteggio | all'anno | Avvisi dei fornitori | RIPORTATO |
| Third-party models validated on own data | quota | annuale | Registri di validazione | DICHIARATO |
| Concentrazione dell'uso di modelli di fornitori tra le imprese | quota di imprese che utilizzano i principali fornitori | periodico | Indagini di vigilanza | RIPORTATO |
| Contracts with model change notice clauses | quota | periodico | Revisioni dei contratti | DICHIARATO |
Che cosa significano i modelli di terze parti per esposizione, perdita e capitale.
Le viste su esposizione, perdita, scenari e capitale che un responsabile del rischio, un'autorità di vigilanza o un ministero delle finanze richiederebbe, con i quadri normativi in base ai quali riferisce. Le strutture seguono la prassi di vigilanza e attuariale. I valori sono illustrativi: mai prezzi, rating o consulenza.
Canali di trasmissione
How a shock in third party models reaches credit, market, underwriting, liquidity and operational risk, and feeds back.
Da dove provengono le evidenze.
Set di dati pubblici e registri istituzionali specifici, ciascuno con la sua classe di licenza. Le fonti soggette ad accordo sono utilizzate solo alle relative condizioni e mai ripubblicate.
| Fonte | Cosa fornisce | Classe di licenza |
|---|---|---|
| Linee guida SR 11-7 sui modelli di fornitori e terze parti | Aspettative per l'uso di modelli esterni | Pubblico dominio |
| Interagency guidance on third-party relationships (United States banking agencies) | Aspettative sulla gestione del rischio di terze parti | Pubblico dominio |
| Rapporto dell'FSB sulle implicazioni dell'IA per la stabilità finanziaria | Rischi di terze parti e di concentrazione derivanti dall'IA | Gratuito, condizioni FSB |
| Obblighi dell'AI Act dell'UE per fornitori e utilizzatori | Division of duties between AI providers and users | Gratuito, condizioni di riutilizzo dell'UE |
| Vendor model documentation and performance reports | Information vendors provide to users | Proprietario, condizioni per fornitore |
Chi decide, e a cosa servono le evidenze.
IA e rischio di modello prepara le evidenze. Le decisioni riportate di seguito sono assunte dalle autorità indicate, secondo le rispettive norme, e mai dalla piattaforma.
| Chi decide | La domanda | Evidenze fornite da questa pagina |
|---|---|---|
| Funzioni di gestione del rischio di modello | Come convalidare e approvare i modelli di terze parti | Documentazione, benchmark e verifica dei risultati |
| Appalti e questioni legali | Quali termini di trasparenza e di modifica richiedere | Prassi contrattuale e aspettative normative |
| Autorità di vigilanza | Se l'uso dei modelli dei fornitori è governato in modo adeguato e se la concentrazione conta | Indagini e risultati delle revisioni |
| Fornitori | Quale documentazione e quale preavviso fornire | Requisiti dei clienti e normativi |
Output prodotti da questo argomento
- Guida alla validazione di modelli che le imprese non possono ispezionare
- Brief on concentration in vendor and foundation models
- Method note on change analysis for vendor updates
- Questions for procurement on model transparency terms
Cosa si chiedono gli esperti.
The questions concern responsibility for models one did not build.
- L'istituzione comprende il funzionamento di un modello fornito da terzi abbastanza bene da convalidarne l'uso?
- Quali documentazione, evidenze di collaudo e accesso fornisce il fornitore?
- Come vengono comunicati, testati e approvati gli aggiornamenti dei modelli dei fornitori?
- How many institutions rely on the same vendor, and what happens if it fails or changes?
- Can the institution exit or replace the model if needed?
Meccanismi e fattori.
Vendors often protect their models as intellectual property, limiting the transparency available to users. Institutions must still validate the model’s use for their own purposes, typically through outcome testing, benchmarking and contractual rights to documentation. Updates by the vendor can change model behaviour without the institution’s knowledge.
La concentrazione è una preoccupazione che riguarda l'intero settore. Quando molte istituzioni utilizzano lo stesso modello di un fornitore o lo stesso fornitore di IA, un difetto, un'interruzione o una modifica le colpisce tutte insieme, generando errori correlati e dipendenze operative che nessuna singola istituzione può gestire da sola.
Come viene studiato, e dove si fermano i metodi.
| Metodo o dati | Cosa mostra | Limiti |
|---|---|---|
| Due diligence sui fornitori | Vendor capability, controls and transparency | Limited by vendor disclosure |
| Verifica dei risultati e test di benchmark | Performance on the institution’s own data | Non rivela la logica interna |
| Analisi dei contratti e delle uscite | Rights to information, notification and exit | I diritti possono essere difficili da esercitare |
| Mappatura della concentrazione | Dipendenze condivise nel settore | Richiede informazioni aggregate |
Come viene studiato, e cosa i metodi non possono dire.
- 01Ingegneria della valutazione e dell'assicurazione dell'IAConvalida dei modelli di apprendimento automatico · Red teaming dell'IA generativa · Valutazione dell'equitàApplicato qui
- 02Probabilità e statisticaTest di calibrazione · Statistiche di deriva · Confronto degli esiti tra gruppiApplicato qui
- 03Quantificazione dell'incertezza e validazione dei modelliIntervalli di previsione per i modelli di perdita · Insiemi di modelli · Capitale o riserve per il rischio di modelloApplicato qui
- 04Intelligenza artificiale e apprendimento automaticoModelli di credito con gradient boosting · Modelli linguistici nelle operazioni · Rilevamento delle anomalieApplicato qui
Domande e risposte.
Who is responsible for a vendor model’s risk?
How can a firm validate a model it cannot see?
Why does vendor concentration matter?
L'acquisto di un modello trasferisce il suo rischio al fornitore?
Why is vendor concentration a stability concern?
Che cosa dovrebbe poter ottenere un'istituzione da un fornitore di modelli?
Does the platform rate vendors?
Contribuisci con evidenze da questa pagina.
Reports è la pubblicazione trimestrale del consorzio. Ciò che sai su questo tema può diventare un'evidenza, un caso o una correzione nella prossima edizione, attribuita a te e pubblicata con licenza CC BY 4.0 se si tratta di un tuo lavoro.
- E-mailPortale GW-GRAInvialo da questa paginaUn'evidenza, una correzione, un caso, un metodo, una revisione, una traduzione o un contributo a un profilo. Arriva etichettata con questa pagina, così la riceve la persona redattrice che ne è responsabile.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks AllianceSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Non inviare mai dati personali, dettagli su infrastrutture sensibili o qualsiasi cosa che tu non abbia il diritto di condividere. Un contributo viene sottoposto a revisione prima dell'uso; inviarlo non conferisce diritti di paternità né editoriali, e la sponsorizzazione non compra mai un risultato.
Portate all'Alliance una questione di esposizione o di capitale.
Informazioni e richieste sono aperte oggi. Una richiesta riceve un riferimento e indica il passo successivo; candidature, pagamenti, assegnazioni di calcolo e registrazioni si aprono solo quando esistono il team, le condizioni e la capacità di revisione.
Documenti legali.
Le mappe, i dati e le cifre di questo sito sono mostrati a titolo di contesto e di informazione generale. Non costituiscono consigli, previsioni né allerte; i limiti dell'informazione sono esposti nelle Dichiarazioni di esclusione di responsabilità e nelle Note sui dati.