Skip to content

GRA · Riesgo de la IA y de los modelos financieros

Spatial financeWhere capital meets hazard, exposure and transition

Inteligencia artificial y aprendizaje automático para el riesgo de la IA y de los modelos financieros

Artificial intelligence and machine learning are methods that learn patterns from data to predict, classify or generate. On this platform they are explained as the techniques behind modern credit, pricing, fraud and generative tools, and as sources of model risk with distinctive failure modes.

01Registro

Inteligencia artificial y aprendizaje automático para el riesgo de la IA y de los modelos financieros, documentados.

Registro del métodoMétodo CTIM
  1. MétodoInteligencia artificial y aprendizaje automático
  2. Se aplica enLa investigación de riesgo de modelo
  3. Página canónicaProcomún CTIM
02Solicitud

Lo que aportan aquí la inteligencia artificial y el aprendizaje automático.

La inteligencia artificial y el aprendizaje automático desarrollan algoritmos que aprenden patrones a partir de datos para clasificar, predecir o generar resultados. Se utilizan cada vez más para la detección de amenazas, la previsión y el apoyo a la toma de decisiones, y son en sí mismos una fuente de riesgo. En la inteligencia artificial y la estabilidad financiera, el aprendizaje automático puede ampliar la detección y la previsión a través de sistemasinterconectados. Sus propios modos de fallo deben ponderarse cuando los resultados automatizados fundamentan decisiones de consecuencias importantes. La descripción canónica se encuentra en el STEM Commons.

Modelos de crédito con gradient boosting

Los conjuntos de árboles utilizados en la calificación crediticia se examinan por sus mejoras en poder de clasificación, su sensibilidad a los cambios en los datos y la forma de explicar sus motivos a los solicitantes.

Modelos de lenguaje en las operaciones

Los modelos de lenguaje de gran tamaño utilizados para resumir documentos y redactar respuestas se evalúan en cuanto a exactitud factual, fundamentación y tratamiento de datos antes de su despliegue.

Detección de anomalías

Unsupervised methods that flag unusual transactions or trades are examined for false positive rates and for how alerts are reviewed by staff.

03Exposición, pérdida y capital

Qué significa para la exposición, la pérdida y el capital.

Las vistas de exposición, pérdida, escenarios y capital que pediría un responsable de riesgos, un supervisor o un ministerio de finanzas, con los marcos con arreglo a los cuales informan. Las estructuras siguen la práctica supervisora y actuarial. Los valores son ilustrativos: nunca precios, calificaciones ni asesoramiento.

Canales de transmisión

Cómo una perturbación en Inteligencia artificial y aprendizaje automático para el riesgo de IA y de modelos financieros llega al riesgo de crédito, de mercado, de suscripción, de liquidez y operativo, y retroalimenta el sistema.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
Escenarios climáticos del NGFS · Red para la Ecologización del Sistema FinancieroNIIF S2 Información a revelar relacionada con el clima · ISSBRecomendaciones del TCFD · TCFD del Consejo de Estabilidad FinancieraPrincipios para la gestión eficaz de los riesgos financieros relacionados con el clima · Comité de Supervisión Bancaria de Basilea
04Datos

Lo que consume el método.

Conjuntos de datos y registros utilizados por la inteligencia artificial y el aprendizaje automático en esta plataforma, con la función que desempeña cada uno y la etiqueta que llevan sus valores. Las fuentes se enumeran en el registro de fuentes.

DatosFunciónEtiqueta
Labelled historical decisions and outcomesEntrenamiento y pruebasNOTIFICADO
Evaluation datasetsMedición del desempeñoOBSERVADO
Documentación del modeloDiseño y límitesDECLARADO
05Proceso

Cómo funciona el proceso.

Process explorer · Process

Artificial intelligence and machine learning for AI and financial model risk: AI risk management (NIST)

9 steps5 stages1 gate

Proceso

Artificial intelligence and machine learning for AI and financial model risk: AI risk management (NIST)

El núcleo del AI RMF tiene cuatro funciones, GOVERN, MAP, MEASURE y MANAGE, con GOVERN de carácter transversal; el orden representado es una lectura habitual, no una lista de verificación.

  1. 01 Gobernar

    1. 01GOVERN: políticas, funciones y rendición de cuentasPaso · Comité MRMGOVERN es una función transversal. Está presente en toda la gestión de riesgos de la IA y habilita las demás funciones.
  2. 02 Map

    1. 02MAP: contexto y uso previstoConjunto de datosLa función MAP establece el contexto para enmarcar los riesgos relacionados con un sistema de IA, incluidos los propósitos previstos y los impactos en las personas.
  3. 03 Medir

    1. 03MEDIR: evaluar las características de fiabilidadModeloAI sistemas de IA se evalúan en función de características de fiabilidad. Deben probarse antes del despliegue y de forma periódica durante la operación.
    2. 04MEASURE: seguimiento de los riesgos identificados a lo largo del tiempoModeloExisten mecanismos para el seguimiento a lo largo del tiempo de los riesgos de IA identificados, incluidos los riesgos imprevistos y emergentes.
  4. 04 Gestionar

    1. 05GESTIONAR: tratar los riesgosPasoTratamiento del riesgo abarcan la respuesta a los incidentes, la recuperación y la comunicación sobre ellos. Los recursos se destinan a los riesgos cartografiados y medidos.
    2. 06Proceder o no (MANAGE 1.1)Puerta · comité de MRMSe determina si el sistema cumple sus propósitos y objetivos, y si se debe continuar. El marco no establece umbrales.
    3. 07Decisión de despliegueDecisión · Comité de MRMLa organización propietaria del sistema decide si lo despliega y en qué condiciones.
    4. 08Seguimiento posterior al despliegue e incidentesModeloSe aplican planes de seguimiento posteriores al despliegue. Los incidentes y errores se comparten con los actores de IA pertinentes, incluidas las comunidades afectadas.
  5. 05 Registro

    1. 09Inventario de sistemas de IAConjunto de datosGOVERN 1.6 pide mecanismos para inventariar los sistemas de IA. Una ficha de modelo es una práctica habitual y el marco no la nombra.

Esquema neutral de un estándar o método externo publicado, procedente del organismo que lo emite. No es un registro de operación. Nexus no realiza, certifica ni aprueba ninguno de los pasos mostrados. Una puerta o decisión corresponde a la parte que indica la fuente. Las acciones no constituyen necesariamente una serie ordenada de pasos. La Ley de IA de la UE no figura en este flujo.

06Validación

Cómo se verifican los resultados.

Los modelos se evalúan con datos reservados que respetan la estructura espacial, temporal y de grupos. La robustez, la calibración y la equidad se prueban junto con la exactitud.

VerificaciónCómo se hace
Pruebas fuera del periodo de muestraLos modelos se prueban en periodos posteriores a los datos de entrenamiento
Benchmark comparisonLos modelos complejos se comparan con alternativas más sencillas
EstabilidadEl rendimiento y las explicaciones se comprueban en las distintas ejecuciones de reentrenamiento

El desempeño se degrada cuando las condiciones de despliegue difieren de los datos de entrenamiento. Los modelos pueden incorporar sesgos y fallar sin aviso claro ante eventos poco frecuentes.

08Custodia responsable

Quién mantiene el método.

Inteligencia artificial y sistemas autónomos es el custodio de la inteligencia artificial y el aprendizaje automático para el Consortium y revisa cómo se aplican en las distintas plataformas.

10Preguntas

Preguntas y respuestas.

¿Cuáles son los límites de la inteligencia artificial y el aprendizaje automático en este campo?
El desempeño se degrada cuando las condiciones de despliegue difieren de los datos de entrenamiento. Los modelos pueden incorporar sesgos y fallar sin aviso claro ante eventos poco frecuentes.
¿Cómo se verifican los resultados?
Los modelos se evalúan con datos reservados que respetan la estructura espacial, temporal y de grupos. La robustez, la calibración y la equidad se prueban junto con la exactitud.
¿Son reales los valores de esta página?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
¿Dónde más se aplica este método?
El Observatory del página canónica del método enumera todas las plataformas que lo aplican.
InformesContribuir

Aporte evidencia desde esta página.

Reports es la publicación trimestral del Consortium. Lo que usted sabe sobre este tema puede convertirse en evidencia, un caso o una corrección en la próxima edición, con su crédito y publicado bajo licencia CC BY 4.0 cuando se trate de obra propia.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
Riesgo de la IA y de los modelos financieros

Plantee una cuestión de exposición o de capital a la Alliance.

La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.