GRA · Riesgo de la IA y de los modelos financieros
Spatial financeWhere capital meets hazard, exposure and transition
Gobernanza del riesgo de modelo
Model risk is the potential for loss or harm from decisions based on models that are wrong or misused. Banks, insurers and asset managers manage it through model inventories, risk tiering, independent validation, approval and ongoing monitoring, overseen by boards and senior management. Machine learning and generative AI widen what counts as a model. This page sets out how model risk governance works and fails, the records involved, and who decides.
La gobernanza del riesgo de modelo, documentada.
Gobernanza del riesgo de modelo: cómo se desarrolla el riesgo.
Inventario, titularidad y validación. El expediente siguiente expone cómo se desarrolla el riesgo, qué se mide, de dónde proceden los datos, cómo se modela y quién decide.
Los inventarios no recogen los modelos
Las hojas de cálculo, las herramientas de proveedores y los componentes de IA suelen quedar fuera del inventario de modelos. Los modelos no registrados escapan a la validación y al seguimiento, y sus errores solo salen a la luz cuando llegan las pérdidas o las reclamaciones.
El desafío se debilita
La validación que carece de independencia, competencia o autoridad para detener un modelo se convierte en una formalidad. El desafío efectivo requiere validadores que comprendan el método y puedan bloquear su uso.
Tiering sets attention
Models are tiered by materiality and complexity, which decides validation depth. Underestimating a model’s materiality, or the reach of an AI tool, leaves high-impact models lightly reviewed.
Models interact
Los resultados de un modelo alimentan a otros: una puntuación alimenta la fijación de precios, que a su vez alimenta el capital. Un error aguas arriba se propaga, y el modelos financieros agregado a lo largo de la cadena rara vez se mide.
Ciclo de vida del riesgo de modelo.
La pantalla que utilizaría un equipo para seguir esta materia: sus mediciones, estados y decisiones. Los nombres son ejemplos y los valores son ilustrativos.
Ciclo de vida del riesgo de modelo
Model risk governance · Model inventory · Committee 9
Ciclo de vida
- Inventarioregistrado
- Desarrollardocumentado
- Validarindependiente
- Aprobarcomisión
- Implementarcontroles
- Seguimientoumbrales
- Revisiónanual
- Retirardesmantelar
Modelos
| MD-204 PD retail | Nivel 1 | 14 meses | 3 | Vencido |
| MD-511 Triaje de quejas con LLM | Nivel 1 | nunca | 0 | No validado |
| MD-164 IFRS 9 staging | Nivel 1 | 8 meses | 1 | Aprobado |
| MD-534 propensión de marketing | Nivel 3 | 17 months | 0 | Aprobado |
Alcance de la validación
- Solidez conceptual
- En curso
- Análisis de resultados
- Pendiente
- Evaluación comparativa
- Pendiente
- Límites de uso
- revisión humana obligatoria
Qué se mide y con qué calidad.
Cada indicador lleva su unidad, su periodicidad, el tipo de fuente que lo respalda y la etiqueta de evidencia que llevaría un valor. No se muestran valores: un programa los aporta bajo su propia autoridad.
| Indicador | Unidad | Cadencia | Tipo de fuente | Etiqueta |
|---|---|---|---|---|
| Modelos en inventario | recuento por nivel | trimestral | Inventario de modelos | DECLARADO |
| Modelos validados dentro del ciclo de políticas | proporción por nivel | trimestral | Registros de validación | DECLARADO |
| Open validation findings | recuento por gravedad | trimestral | Registros de validación | DECLARADO |
| Modelos utilizados con excepciones o restricciones | recuento | trimestral | Model governance records | DECLARADO |
| AI and machine learning models in inventory | count and share | anual | Inventario y encuestas | DECLARADO |
| Conclusiones de supervisión sobre la gestión del modelos financieros basada en principios | recuento | anual | Informes de supervisión | Estadísticas publicadas |
Trayectorias de políticas y sus efectos sobre el riesgo.
Cómo tres familias de instrumentos modifican un resultado de riesgo a lo largo del tiempo, con rezagos de adopción, cobertura y cumplimiento, es decir, los escenarios de política que sustentan las evaluaciones del riesgo de transición y del riesgo físico. Escenario: supuestos nombrados sobre el futuro, no un pronóstico.
Controles
- Tendencia de referencia del resultado
- 2.0 % al año
- Cobertura del instrumento
- 70%
- Cumplimiento
- 75%
- Magnitud del efecto, frente al valor didáctico
- 100%
- Años por delante
- 20 años
Lecturas
- Mayor reducción en el horizonte
- Regulación
- Su reducción respecto de la línea de base
- 21%
Cifras, métodos y fuentes
| Año | Referencia | Regulación | Incentivo económico | Información y capacidad |
|---|---|---|---|---|
| 0 | 100.0 | 99.5 | 98.8 | 99.1 |
| 1 | 102.0 | 101.2 | 100.1 | 99.8 |
| 2 | 104.0 | 102.5 | 101.1 | 99.9 |
| 3 | 106.1 | 103.5 | 101.6 | 100.0 |
| 4 | 108.2 | 103.7 | 101.8 | 100.7 |
| 5 | 110.4 | 103.2 | 101.7 | 102.1 |
| 6 | 112.6 | 102.0 | 101.6 | 103.9 |
| 7 | 114.9 | 100.4 | 101.6 | 105.9 |
| 8 | 117.2 | 99.2 | 102.1 | 108.0 |
| 9 | 119.5 | 98.6 | 102.9 | 110.1 |
| 10 | 121.9 | 98.9 | 104.2 | 112.3 |
| 11 | 124.3 | 99.7 | 105.7 | 114.5 |
| 12 | 126.8 | 101.1 | 107.4 | 116.8 |
| 13 | 129.4 | 102.7 | 109.4 | 119.2 |
| 14 | 131.9 | 104.5 | 111.4 | 121.6 |
| 15 | 134.6 | 106.5 | 113.5 | 124.0 |
| 16 | 137.3 | 108.5 | 115.7 | 126.5 |
| 17 | 140.0 | 110.7 | 118.0 | 129.0 |
| 18 | 142.8 | 112.9 | 120.4 | 131.6 |
| 19 | 145.7 | 115.1 | 122.8 | 134.2 |
| 20 | 148.6 | 117.4 | 125.2 | 136.9 |
Métodos
- Tools of government Hood (1983), The Tools of Government, Macmillan
- Zanahorias, palos y sermones Bemelmans-Videc, Rist y Vedung (1998), Transaction
- Diffusion of innovations Rogers (2003), Diffusion of Innovations, Free Press
- Abanico de incertidumbre (Monte Carlo de parámetros) Spiegelhalter, Pearson y Short (2011), Visualising uncertainty about the future, Science 333
- One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Datos
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- Borders Natural Earth
- Cities Natural Earth
En los seis pilares, bajo la dirección de Nexus Consortium
- Experimentos Laboratorios
- Integrado en Riesgo de la IA y de los modelos financieros en Foundry
- Probado en Riesgo de la IA y de los modelos financieros en Universe
- Codificado en Riesgo digital, cibernético y de la IA en Standards
- Publicado en Riesgo de la IA y de los modelos financieros en Reports
- Se imparte en Facultad de Tecnología y Sistemas Digitales en Academy
De dónde procede la evidencia.
Conjuntos de datos públicos y registros institucionales identificados, cada uno con su tipo de licencia. Las fuentes obtenidas por acuerdo solo se utilizan conforme a sus condiciones y nunca se republican.
| Fuente | Lo que aporta | Tipo de licencia |
|---|---|---|
| Federal Reserve and OCC SR 11-7 guidance | Model risk management expectations | Dominio público |
| PRA SS1/23 model risk management principles | UK principles for banks | Gratuito, condiciones del Bank of England |
| ECB guide to internal models | Expectativas para los modelos internos utilizados para el capital | Gratuito, condiciones del BCE |
| Bank of England and FCA surveys of AI and machine learning in UK financial services | Uso y gobernanza de la IA en las empresas | Gratuito, términos del Banco de Inglaterra y la FCA |
| Informes de seguimiento de la EBA sobre aprendizaje automático para modelos basados en calificaciones internas | Supervisory views on ML in capital models | Gratuito, condiciones de reutilización de la UE |
What model risk governance means for exposure, loss and capital.
Las vistas de exposición, pérdida, escenarios y capital que pediría un responsable de riesgos, un supervisor o un ministerio de finanzas, con los marcos con arreglo a los cuales informan. Las estructuras siguen la práctica supervisora y actuarial. Los valores son ilustrativos: nunca precios, calificaciones ni asesoramiento.
Canales de transmisión
How a shock in model risk governance reaches credit, market, underwriting, liquidity and operational risk, and feeds back.
Quién decide y a qué sirve la evidencia.
La investigación de riesgo de modelo financiero prepara evidencia. Las decisiones que se indican a continuación las toman las autoridades nombradas, conforme a sus propias normas, y nunca la plataforma.
| Quién decide | La pregunta | Evidencia a la que sirve esta página |
|---|---|---|
| Boards and senior management | What model risk appetite to set and how to oversee it | Inventory, tiering, findings and incident evidence |
| Model risk management functions | Which models to validate, approve, restrict or retire | Validation results and monitoring |
| Supervisores prudenciales | Si la gestión del riesgo de modelo cumple las expectativas | Supervisory reviews and firm reporting |
| Auditoría interna | Si el marco de riesgo de modelos funciona según lo diseñado | Governance and validation records |
Productos que genera este tema
- Guía de inventarios, clasificación por niveles y validación de modelos
- Nota sobre la ampliación de la gestión del riesgo de modelos a la IA y la IA generativa
- Nota metodológica sobre el desafío efectivo
- Questions for boards on aggregate model risk
Lo que se preguntan los expertos.
Governance questions begin with knowing what models exist.
- ¿Qué cuenta como modelo y abarca la definición el aprendizaje automático, las herramientas de proveedores y la IA generativa?
- Is every model in the inventory, with an accountable owner and a risk tier?
- Is validation genuinely independent and effective at challenging developers?
- How are model limitations documented and communicated to users?
- Does the board understand the institution’s aggregate model risk?
Mecanismos y factores impulsores.
Models fail through flawed design, poor data, implementation errors, or use beyond their intended scope. Governance frameworks address these through development standards, independent validation and ongoing monitoring, scaled to each model’s materiality. Supervisory guidance on model risk management in several jurisdictions sets expectations along these lines.
AI strains traditional frameworks. Machine learning models can be numerous, frequently retrained and embedded in processes; generative AI tools may be adopted informally by staff; vendor models may be opaque. Inventories that miss these uses leave risk unmanaged.
Cómo se estudia y dónde terminan los métodos.
| Método o datos | Lo que muestra | Límites |
|---|---|---|
| Inventarios de modelos y clasificación por niveles | Qué modelos existen y cuán relevantes son | Los usos informales e integrados de la IA se pasan por alto con facilidad |
| Validación independiente | Soundness of design, data and implementation | La validación está limitada por el tiempo, las competencias y el acceso a los detalles del proveedor |
| Governance benchmarking | How institutions organise model risk | Autodeclarado y difícil de comparar |
| Issue and finding analysis | Debilidades recurrentes | Los hallazgos son confidenciales dentro de las empresas |
Cómo se estudia y lo que los métodos no pueden decir.
- 01Ingeniería de evaluación y garantía de la IAValidación de modelos de aprendizaje automático · Red-teaming de IA generativa · Evaluación de equidadAplicado aquí
- 02Probabilidad y estadísticaPruebas de calibración · Estadísticas de deriva · Comparación de resultados entre gruposAplicado aquí
- 03Cuantificación de la incertidumbre y validación de modelosIntervalos de predicción para los modelos de pérdidas · Conjuntos de modelos · Capital o colchones por riesgo de modelosAplicado aquí
- 04Inteligencia artificial y aprendizaje automáticoModelos de crédito con potenciación de gradiente · Modelos de lenguaje en las operaciones · Detección de anomalíasAplicado aquí
Preguntas y respuestas.
¿Qué es el riesgo de modelo?
What is effective challenge?
Are AI models covered by model risk rules?
Do spreadsheets and generative AI tools count as models?
Does the platform review firms’ frameworks?
Aporte evidencia desde esta página.
Reports es la publicación trimestral del Consortium. Lo que usted sabe sobre este tema puede convertirse en evidencia, un caso o una corrección en la próxima edición, con su crédito y publicado bajo licencia CC BY 4.0 cuando se trate de obra propia.
- Correo electrónicoPasarela GW-GRAEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks AllianceSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Plantee una cuestión de exposición o de capital a la Alliance.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Documentos jurídicos.
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.