Skip to content

GRA · Riesgo de la IA y de los modelos financieros

Spatial financeWhere capital meets hazard, exposure and transition

IA generativa en las finanzas

Financial firms use large language models to draft documents, answer customers, summarise research, write code and support analysts. Generative AI produces fluent output that can be wrong, can leak data and can be manipulated through its inputs. This page sets out how generative AI risks arise in financial services, how they are measured and controlled, and who decides where it may be used.

01Lienzo

Cómo se desarrolla el trabajo.

Sistemas · en torno a este temaIlustrativo

Ciclo de vida del riesgo de modelo

IA generativa en finanzas · Inventario de modelos · Comité 7

3 validations overdueGRA · AI and Financial Model Risk

Ciclo de vida

  1. Inventarioregistrado
  2. Desarrollardocumentado
  3. Validarindependiente
  4. Aprobarcomisión
  5. Implementarcontroles
  6. Seguimientoumbrales
  7. Revisiónanual
  8. Retirardesmantelar

Modelos

MD-264 PD minoristaNivel 112 meses2Vencido
MD-251 Triaje de reclamaciones con LLMNivel 1nunca0No validado
MD-297 clasificación por etapas de la NIIF 9Nivel 15 months2Aprobado
MD-784 marketing propensityNivel 36 meses1Aprobado

Alcance de la validación

Solidez conceptual
En curso
Análisis de resultados
Pendiente
Evaluación comparativa
Pendiente
Límites de uso
revisión humana obligatoria
Model risk lifecycle: the screen’s structure, terms and states for Generative AI in finance.Example names and illustrative values; a design, not a record or a live system.

Fig.Model risk lifecycle: example names and illustrative values, not a record or a live system.

02La pregunta

Generative AI in finance: how the risk develops.

Casos de uso y controles de fallos. El expediente siguiente expone cómo se desarrolla el riesgo, qué se mide, de dónde proceden los datos, cómo se modela y quién decide.

Mecanismo

Fluent but wrong

Models can generate plausible statements that are false, citations that do not exist or calculations that are wrong. In finance, an error in a disclosure, advice or code change can harm customers or the firm.

Mecanismo

Las entradas pueden utilizarse como arma

La inyección de instrucciones mediante documentos, correos electrónicos o páginas web puede hacer que un modelo ignore instrucciones, revele datos o realice acciones no previstas, especialmente cuando está conectado a herramientas.

Mecanismo

Los datos se filtran a través de las fronteras

La información confidencial introducida en servicios externos o recuperada en las respuestas puede llegar a personas sin derecho a acceder a ella. Los términos de tratamiento de datos y los controles de acceso determinan la exposición.

Mecanismo

Behaviour changes with versions

Provider updates change model behaviour without the firm’s code changing. Validation done on one version may not hold for the next.

03Exposición, pérdida y capital

Qué significa la IA generativa en las finanzas para la exposición, la pérdida y el capital.

Las vistas de exposición, pérdida, escenarios y capital que pediría un responsable de riesgos, un supervisor o un ministerio de finanzas, con los marcos con arreglo a los cuales informan. Las estructuras siguen la práctica supervisora y actuarial. Los valores son ilustrativos: nunca precios, calificaciones ni asesoramiento.

Canales de transmisión

Cómo una perturbación en la IA generativa en las finanzas llega al riesgo de crédito, de mercado, de suscripción, de liquidez y operacional, y retroalimenta.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
Escenarios climáticos del NGFS · Red para la Ecologización del Sistema FinancieroNIIF S2 Información a revelar relacionada con el clima · ISSBRecomendaciones del TCFD · TCFD del Consejo de Estabilidad FinancieraPrincipios para la gestión eficaz de los riesgos financieros relacionados con el clima · Comité de Supervisión Bancaria de Basilea
04Indicadores

Qué se mide y con qué calidad.

Cada indicador lleva su unidad, su periodicidad, el tipo de fuente que lo respalda y la etiqueta de evidencia que llevaría un valor. No se muestran valores: un programa los aporta bajo su propia autoridad.

IndicadorUnidadCadenciaTipo de fuenteEtiqueta
Casos de uso de IA generativa en producciónrecuento por nivel de riesgotrimestralUse case registerDECLARADO
Factual error rate on evaluation setsshare of responsespor evaluaciónEvaluación internaESTIMADO
Prompt injection test failurescount per test cyclepor pruebaResultados de las pruebas de equipo rojoOBSERVADO
Eventos de prevención de pérdida de datos relacionados con herramientas de IArecuentomensualMonitorización de la seguridadOBSERVADO
Quejas de clientes vinculadas a contenido generado por IArecuentotrimestralDatos de reclamacionesNOTIFICADO
Model version changes by providersrecuentoal añoAvisos de proveedoresNOTIFICADO
05Fuentes

De dónde procede la evidencia.

Conjuntos de datos públicos y registros institucionales identificados, cada uno con su tipo de licencia. Las fuentes obtenidas por acuerdo solo se utilizan conforme a sus condiciones y nunca se republican.

FuenteLo que aportaTipo de licencia
Informe del FSB sobre las implicaciones de la IA para la estabilidad financieraVulnerabilities from AI adoption in financeGratuito, condiciones del FSB
Informe de la IOSCO sobre casos de uso, riesgos y desafíos de la IAUso de la IA en los mercados de capitalesGratuito, condiciones de la IOSCO
Perfil de IA generativa del NIST AI RMFRiesgos y acciones específicos de la IA generativaDominio público
OWASP Top 10 for large language model applicationsRiesgos de seguridad comunes en las aplicaciones de LLMGratuito, CC BY-SA
Encuestas sobre IA del Bank of England y la FCAAdoption and governance of AI in UK financeGratuito, términos del Banco de Inglaterra y la FCA
06Decisiones

Quién decide y a qué sirve la evidencia.

La investigación de riesgo de modelo financiero prepara evidencia. Las decisiones que se indican a continuación las toman las autoridades nombradas, conforme a sus propias normas, y nunca la plataforma.

Quién decideLa preguntaEvidencia a la que sirve esta página
Consejos de administración y comités ejecutivosDónde puede usarse la IA generativa y con qué controlesNiveles de riesgo de los casos de uso y resultados de evaluación
Funciones de riesgo de modelos y de seguridadCómo se valida y se protege la IA generativaEvaluation, red-team and monitoring evidence
Supervisores de conductaWhether customer-facing AI meets conduct and disclosure dutiesComplaints and outcome evidence
Equipos de contratación y de asuntos jurídicosQué proveedores y condiciones de datos son aceptablesCondiciones contractuales y evidencia del tratamiento de datos

Productos que genera este tema

  • Guide to generative AI failure modes in financial services
  • Method note on evaluating factual accuracy and grounding
  • Brief on prompt injection and tool-connected assistants
  • Preguntas para los consejos de administración sobre los casos de uso de la IA generativa
07Cuestiones centrales

Lo que se preguntan los expertos.

Las cuestiones sobre IA generativa comienzan por el caso de uso y sus consecuencias.

  • ¿Para qué se utiliza la herramienta y qué ocurre si su resultado es erróneo?
  • How is the accuracy of output verified before it affects customers or decisions?
  • What data is sent to the model, and could confidential information leak?
  • How are prompts, versions and outputs logged for accountability?
  • ¿Qué grado de dependencia tiene la institución de un único proveedor y qué ocurre si el servicio cambia o falla?
08Mecanismos

Mecanismos y factores impulsores.

Los grandes modelos de lenguaje generan texto prediciendo continuaciones probables. Pueden producir resultados fluidos y verosímiles pero falsos, lo cual importa mucho cuando se exige exactitud. Su comportamiento puede cambiar cuando los proveedores actualizan los modelos, y pueden ser manipulados mediante entradas diseñadas a tal fin. Sus resultados son difíciles de probar de forma exhaustiva porque el espacio de entradas posibles es inmenso.

Risk depends strongly on the use. Drafting an internal summary that a professional reviews carries different risk from answering customers directly or informing credit decisions. Controls therefore scale with consequence: human review, restricted data, retrieval from approved sources, testing against known cases and monitoring of outputs.

09Métodos y datos

Cómo se estudia y dónde terminan los métodos.

Método o datosLo que muestraLímites
Use-case risk assessmentConsecuencias del fallo según la aplicaciónInformal uses may not be captured
Evaluación frente a conjuntos de pruebaAccuracy and failure rates on known casesNo puede cubrir todos los insumos reales
Pruebas de equipo rojo y pruebas adversariasVulnerability to manipulationFinds some weaknesses, not all
Supervisión y registro de los resultadosErrores e incidentes en el usoDetectar errores sutiles es difícil
10Métodos

Cómo se estudia y lo que los métodos no pueden decir.

11Preguntas

Preguntas y respuestas.

¿Es un modelo de lenguaje de gran tamaño un modelo según las reglas de riesgo de modelo?
Los supervisores tratan cada vez más las herramientas de IA que informan decisiones como modelos o como parte del riesgo de modelo, y esperan que las entidades las gobiernen de forma proporcionada a su uso.
¿Qué es la inyección de instrucciones (prompt injection)?
An attack in which instructions hidden in inputs, such as a document or web page, cause a language model to ignore its intended instructions or take unintended actions.
¿Qué es la fundamentación?
Constraining a model’s answers to retrieved, authoritative sources and checking that statements are supported by them, to reduce fabricated content.
¿Por qué los modelos de lenguaje producen información falsa?
Porque generan texto estadísticamente probable en lugar de recuperar hechos verificados. Sin fundamentación ni controles, pueden producir resultados verosímiles pero incorrectos.
¿Debe la IA generativa tomar decisiones de crédito o de siniestros?
That is for institutions and regulators to decide. Where the consequences for people are significant, strong human oversight and testing are widely expected.
¿Evalúa la plataforma productos de IA concretos?
No. La GRA no evalúa, califica ni respalda productos ni proveedores.
InformesContribuir

Aporte evidencia desde esta página.

Reports es la publicación trimestral del Consortium. Lo que usted sabe sobre este tema puede convertirse en evidencia, un caso o una corrección en la próxima edición, con su crédito y publicado bajo licencia CC BY 4.0 cuando se trate de obra propia.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
Riesgo de la IA y de los modelos financieros

Plantee una cuestión de exposición o de capital a la Alliance.

La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.