Skip to content

GRA · Riesgo de la IA y de los modelos financieros

Spatial financeWhere capital meets hazard, exposure and transition

Evaluación e ingeniería de aseguramiento de la IA para AI and Financial Model Risk

El aseguramiento de la IA es el conjunto de prácticas que dan una confianza justificada en un sistema de IA o de modelos: validación, pruebas, pruebas adversarias (red teaming), seguimiento, documentación y revisión independiente. En esta plataforma conecta la gestión consolidada del modelos financieros con la nueva evidencia que requieren los sistemas de IA.

01Registro

AI evaluation and assurance engineering for AI and financial model risk on the record.

Registro del métodoMétodo CTIM
  1. MétodoIngeniería de evaluación y garantía de la IA
  2. Se aplica enLa investigación de riesgo de modelo
  3. Página canónicaProcomún CTIM
02Solicitud

Qué hace aquí la ingeniería de evaluación y aseguramiento de la IA.

La ingeniería de evaluación y garantía de la IA desarrolla métodos para probar, supervisar y aportar confianza justificada en los sistemasde IA. Aborda el rendimiento, la solidez, la seguridad y el impacto social a lo largo del ciclo de vida del sistema. En inteligencia artificial y estabilidad financiera, la garantía de la IA determina si se puede confiar en los sistemas automatizados en entornos de alto impacto. Ayuda a gestionar los riesgos cuando la IA está integrada en las finanzas, la salud y las infraestructuras. La descripción canónica se encuentra en el STEM Commons.

Validation of machine learning models

La solidez conceptual, la calidad de los datos, el análisis de resultados y las pruebas de estabilidad se adaptan a modelos cuya lógica interna es difícil de interpretar.

Red-teaming generative AI

Adversarial tests probe language model applications for prompt injection, data leakage and harmful output before and after deployment.

Evaluación de equidad

Las tasas de resultados y de error se comparan entre grupos, y el criterio de equidad elegido y su base jurídica se documentan para su revisión.

03Exposición, pérdida y capital

Qué significa para la exposición, la pérdida y el capital.

Las vistas de exposición, pérdida, escenarios y capital que pediría un responsable de riesgos, un supervisor o un ministerio de finanzas, con los marcos con arreglo a los cuales informan. Las estructuras siguen la práctica supervisora y actuarial. Los valores son ilustrativos: nunca precios, calificaciones ni asesoramiento.

Canales de transmisión

Cómo una perturbación en la evaluación de la IA y la ingeniería de aseguramiento para la IA y el riesgo de modelos financieros llega al riesgo de crédito, de mercado, de suscripción, de liquidez y operativo, y retroalimenta el sistema.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
Escenarios climáticos del NGFS · Red para la Ecologización del Sistema FinancieroNIIF S2 Información a revelar relacionada con el clima · ISSBRecomendaciones del TCFD · TCFD del Consejo de Estabilidad FinancieraPrincipios para la gestión eficaz de los riesgos financieros relacionados con el clima · Comité de Supervisión Bancaria de Basilea
04Datos

Lo que consume el método.

Conjuntos de datos y registros que utilizan la evaluación de IA y la ingeniería de garantía en esta plataforma, con la función de cada uno y la etiqueta que llevan sus valores. Las fuentes figuran en el registro de fuentes.

DatosFunciónEtiqueta
Informes de validaciónEvidencia de aseguramientoDECLARADO
Resultados de las pruebas de equipo rojoAdversarial weaknessesOBSERVADO
Datos de resultadosDesempeño en condiciones realesOBSERVADO
05Proceso

Cómo funciona el proceso.

Process explorer · Process

AI evaluation and assurance engineering for AI and financial model risk: AI risk management (NIST)

9 steps5 stages1 gate

Proceso

AI evaluation and assurance engineering for AI and financial model risk: AI risk management (NIST)

El núcleo del AI RMF tiene cuatro funciones, GOVERN, MAP, MEASURE y MANAGE, con GOVERN de carácter transversal; el orden representado es una lectura habitual, no una lista de verificación.

  1. 01 Gobernar

    1. 01GOVERN: políticas, funciones y rendición de cuentasPaso · Comité MRMGOVERN es una función transversal. Está presente en toda la gestión de riesgos de la IA y habilita las demás funciones.
  2. 02 Map

    1. 02MAP: contexto y uso previstoConjunto de datosLa función MAP establece el contexto para enmarcar los riesgos relacionados con un sistema de IA, incluidos los propósitos previstos y los impactos en las personas.
  3. 03 Medir

    1. 03MEDIR: evaluar las características de fiabilidadModeloAI sistemas de IA se evalúan en función de características de fiabilidad. Deben probarse antes del despliegue y de forma periódica durante la operación.
    2. 04MEASURE: seguimiento de los riesgos identificados a lo largo del tiempoModeloExisten mecanismos para el seguimiento a lo largo del tiempo de los riesgos de IA identificados, incluidos los riesgos imprevistos y emergentes.
  4. 04 Gestionar

    1. 05GESTIONAR: tratar los riesgosPasoTratamiento del riesgo abarcan la respuesta a los incidentes, la recuperación y la comunicación sobre ellos. Los recursos se destinan a los riesgos cartografiados y medidos.
    2. 06Proceder o no (MANAGE 1.1)Puerta · comité de MRMSe determina si el sistema cumple sus propósitos y objetivos, y si se debe continuar. El marco no establece umbrales.
    3. 07Decisión de despliegueDecisión · Comité de MRMLa organización propietaria del sistema decide si lo despliega y en qué condiciones.
    4. 08Seguimiento posterior al despliegue e incidentesModeloSe aplican planes de seguimiento posteriores al despliegue. Los incidentes y errores se comparten con los actores de IA pertinentes, incluidas las comunidades afectadas.
  5. 05 Registro

    1. 09Inventario de sistemas de IAConjunto de datosGOVERN 1.6 pide mecanismos para inventariar los sistemas de IA. Una ficha de modelo es una práctica habitual y el marco no la nombra.

Esquema neutral de un estándar o método externo publicado, procedente del organismo que lo emite. No es un registro de operación. Nexus no realiza, certifica ni aprueba ninguno de los pasos mostrados. Una puerta o decisión corresponde a la parte que indica la fuente. Las acciones no constituyen necesariamente una serie ordenada de pasos. La Ley de IA de la UE no figura en este flujo.

06Validación

Cómo se verifican los resultados.

Se verifica la fiabilidad de los métodos de evaluación y su pertinencia para las condiciones de despliegue. La replicación independiente y las auditorías de terceros ponen a prueba las afirmaciones.

VerificaciónCómo se hace
IndependenciaEl aseguramiento lo realizan personas independientes del desarrollo
Alcance declaradoWhat assurance covered and excluded is recorded
Repeat after changeLos cambios sustanciales de modelo o de versión activan un nuevo aseguramiento

Los puntos de referencia pueden no reflejar el uso real ni capacidades nuevas. Los sistemas de propósito general tienen un comportamiento abierto que se resiste a una prueba completa.

08Custodia responsable

Quién mantiene el método.

Inteligencia artificial y sistemas autónomos es custodio de la ingeniería de evaluación y garantía de la IA para el consorcio y revisa cómo se aplica en las plataformas.

10Preguntas

Preguntas y respuestas.

¿Cuáles son los límites de la evaluación y la ingeniería de garantía de la IA en este campo?
Los puntos de referencia pueden no reflejar el uso real ni capacidades nuevas. Los sistemas de propósito general tienen un comportamiento abierto que se resiste a una prueba completa.
¿Cómo se verifican los resultados?
Se verifica la fiabilidad de los métodos de evaluación y su pertinencia para las condiciones de despliegue. La replicación independiente y las auditorías de terceros ponen a prueba las afirmaciones.
¿Son reales los valores de esta página?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
¿Dónde más se aplica este método?
El Observatory del página canónica del método enumera todas las plataformas que lo aplican.
InformesContribuir

Aporte evidencia desde esta página.

Reports es la publicación trimestral del Consortium. Lo que usted sabe sobre este tema puede convertirse en evidencia, un caso o una corrección en la próxima edición, con su crédito y publicado bajo licencia CC BY 4.0 cuando se trate de obra propia.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
Riesgo de la IA y de los modelos financieros

Plantee una cuestión de exposición o de capital a la Alliance.

La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.