GRA · Riesgo de la IA y de los modelos financieros
Spatial financeDonde el capital se encuentra con la amenaza, la exposición y la transición
Análisis e incertidumbre
Riesgo de modelo is managed through inventory, documentation, conceptual soundness review, outcome analysis, benchmarking and ongoing monitoring. This page explains each step, how machine learning changes it, and why generative and agentic AI sit partly outside current guidance.
Analysis and uncertainty in five parts.
Los métodos en uso.
- 01Inteligencia artificial y aprendizaje automáticoGradient-boosted credit models · Language models in operations · Anomaly detectionAplicado aquí
- 02Ingeniería de evaluación y garantía de la IAValidation of machine learning models · Red-teaming generative AI · Fairness assessmentAplicado aquí
- 03Cuantificación de la incertidumbre y validación de modelosPrediction intervals for loss models · Model ensembles · Model risk capital or buffersAplicado aquí
- 04Probabilidad y estadísticaPruebas de calibración · Estadísticas de deriva · Comparación de resultados entre gruposAplicado aquí
Explainability and fairness methods, with limits.
| Método | Gives | Límite |
|---|---|---|
| SHAP and other attribution methods | Contribution of each input to a prediction | Correlated inputs blur attribution |
| Counterfactual explanations | What change would alter the decision | May suggest infeasible changes |
| Group fairness metrics | Outcome differences across groups | Metrics can conflict |
| Challenger models | Independent benchmark | Shares data weaknesses |
Cómo funciona el proceso.
Process explorer · Process
Analysis and uncertainty: Source to evidence record
10 steps·4 etapas·2 puntos de control
Proceso
Analysis and uncertainty: Source to evidence record
Una fuente se registra y evalúa, su registro se etiqueta y clasifica, y un pasaporte digital de evidencia lleva la procedencia; una corrección llega a todos los registros dependientes.
01 Admisión
- 01Identificar la fuenteFuente · El custodio de la fuenteDescubrir no es incorporar. La identificación de la fuente registra la clase de fuente, el custodio, la función institucional y la jurisdicción.
- 03Registrar la fuentePasoEl registro convierte una fuente descubierta en un participante gobernado del ciclo de vida de la evidencia. No implica respaldo ni certificación.
02 Evaluación
- 04Clasificación de la jurisdicción y de los derechosHitoLa clasificación de los derechos identifica la licencia, el consentimiento, la confidencialidad y los límites de reutilización. El resultado determina el acceso y el encaminamiento.
- 05Evaluación de la calidad de la evidenciaPasoLa evaluación de la calidad decide si un registro es apto para un uso definido. La calidad es multidimensional y nunca una puntuación única.
- 06Etiqueta de evidenciaPasoCada conclusión lleva una de nueve etiquetas de evidencia. Los datos que faltan se muestran como ausentes, nunca como cero.
03 Registro
- 07Clasificación de la evidenciaRegistroLa clasificación asigna a los registros estados de ciclo de vida, como verificado en la fuente, seguro para el público o restringido. Los estados pueden coexistir y determinan el uso de la evidencia.
- 08Publicación de la fuente e identificadorRegistro · NXS-GRX (datos canónicos, procedencia y riesgo)Una publicación de fuente registra los derechos, la cobertura temporal y el linaje de la fuente. Un UNI se asigna a través de un catálogo y nunca se escribe a mano.
- 09Pasaporte de Evidencia DigitalRegistroEl pasaporte registra la procedencia, la calidad, los derechos, la jurisdicción, el uso permitido y el historial, para que la evidencia conserve su contexto cuando circula.
04 Uso y corrección
- 02La corrección llega a los registros dependientesPaso · NXS-GRX (datos canónicos, procedencia y riesgo)Una corrección de la fuente se propaga a los cortes y productos dependientes sin reescribir los resultados anteriores.
- 10Revisión apta para el públicoHitoLa revisión de seguridad para el público decide si un registro puede compartirse públicamente. Es una etapa distinta y no constituye una validación.
Protocolos de datos: ciclo de vida de la evidencia · Data protocols: core data objects and evidence records · The Global Risks Index (NXS-GRX)Designed programme process, not a record of operation. No cycle has run and every programme is at service level R0. A gate is a programme decision, never a public-authority approval, certification or deployment authorisation. The data-protocol pages describe a design, not a running system.
Quantifying what the model does not know.
Prediction intervals and calibration checks show when a model is outside its experience. Methods at GCRI uncertainty quantification; topic depth at explainability and fairness.
Cómo se comunica la incertidumbre.
- 01
Explicitar los supuestos
Cada análisis enumera sus supuestos y los datos de los que depende.
- 02
Cuantificar siempre que sea posible
Los rangos y los niveles de confianza se comunican junto con las estimaciones centrales.
- 03
Validar y comparar
Los modelos se contrastan con las observaciones y, cuando es posible, con otros modelos.
- 04
Publicar los límites
Lo que un análisis no puede mostrar se indica junto a lo que sí puede.
Where this page’s references lead.
Los organismos y documentos con los que se lee esta página. El estado y las ediciones cambian; cada enlace lleva al organismo emisor.
Preguntas y respuestas.
¿Son abiertos los métodos?
Aporte evidencia desde esta página.
Informes is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- Correo electrónicoPasarela GW-GRAEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoDepósito abiertoDeposítelo y envíelo a la comunidadPublique su propio registro en Zenodo con su ORCID iD y luego envíelo a la comunidad de Reports allí. Los curadores lo revisan; el DOI sigue siendo suyo.
- InformesGlobal Risks AllianceVer todas las formas de contribuirLos tipos de contribución, cómo se revisa cada uno, qué crédito recibe, la licencia y qué nunca se acepta.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Plantee una cuestión de exposición o de capital a la Alliance.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Documentos jurídicos.
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.