GRA · Riesgo de la IA y de los modelos financieros
Spatial financeWhere capital meets hazard, exposure and transition
IA generativa en las finanzas
Financial firms use large language models to draft documents, answer customers, summarise research, write code and support analysts. Generative AI produces fluent output that can be wrong, can leak data and can be manipulated through its inputs. This page sets out how generative AI risks arise in financial services, how they are measured and controlled, and who decides where it may be used.
Cómo se desarrolla el trabajo.
Ciclo de vida del riesgo de modelo
IA generativa en finanzas · Inventario de modelos · Comité 7
Ciclo de vida
- Inventarioregistrado
- Desarrollardocumentado
- Validarindependiente
- Aprobarcomisión
- Implementarcontroles
- Seguimientoumbrales
- Revisiónanual
- Retirardesmantelar
Modelos
| MD-264 PD minorista | Nivel 1 | 12 meses | 2 | Vencido |
| MD-251 Triaje de reclamaciones con LLM | Nivel 1 | nunca | 0 | No validado |
| MD-297 clasificación por etapas de la NIIF 9 | Nivel 1 | 5 months | 2 | Aprobado |
| MD-784 marketing propensity | Nivel 3 | 6 meses | 1 | Aprobado |
Alcance de la validación
- Solidez conceptual
- En curso
- Análisis de resultados
- Pendiente
- Evaluación comparativa
- Pendiente
- Límites de uso
- revisión humana obligatoria
Fig.Model risk lifecycle: example names and illustrative values, not a record or a live system.
Generative AI in finance: how the risk develops.
Casos de uso y controles de fallos. El expediente siguiente expone cómo se desarrolla el riesgo, qué se mide, de dónde proceden los datos, cómo se modela y quién decide.
Fluent but wrong
Models can generate plausible statements that are false, citations that do not exist or calculations that are wrong. In finance, an error in a disclosure, advice or code change can harm customers or the firm.
Las entradas pueden utilizarse como arma
La inyección de instrucciones mediante documentos, correos electrónicos o páginas web puede hacer que un modelo ignore instrucciones, revele datos o realice acciones no previstas, especialmente cuando está conectado a herramientas.
Los datos se filtran a través de las fronteras
La información confidencial introducida en servicios externos o recuperada en las respuestas puede llegar a personas sin derecho a acceder a ella. Los términos de tratamiento de datos y los controles de acceso determinan la exposición.
Behaviour changes with versions
Provider updates change model behaviour without the firm’s code changing. Validation done on one version may not hold for the next.
Qué significa la IA generativa en las finanzas para la exposición, la pérdida y el capital.
Las vistas de exposición, pérdida, escenarios y capital que pediría un responsable de riesgos, un supervisor o un ministerio de finanzas, con los marcos con arreglo a los cuales informan. Las estructuras siguen la práctica supervisora y actuarial. Los valores son ilustrativos: nunca precios, calificaciones ni asesoramiento.
Canales de transmisión
Cómo una perturbación en la IA generativa en las finanzas llega al riesgo de crédito, de mercado, de suscripción, de liquidez y operacional, y retroalimenta.
Qué se mide y con qué calidad.
Cada indicador lleva su unidad, su periodicidad, el tipo de fuente que lo respalda y la etiqueta de evidencia que llevaría un valor. No se muestran valores: un programa los aporta bajo su propia autoridad.
| Indicador | Unidad | Cadencia | Tipo de fuente | Etiqueta |
|---|---|---|---|---|
| Casos de uso de IA generativa en producción | recuento por nivel de riesgo | trimestral | Use case register | DECLARADO |
| Factual error rate on evaluation sets | share of responses | por evaluación | Evaluación interna | ESTIMADO |
| Prompt injection test failures | count per test cycle | por prueba | Resultados de las pruebas de equipo rojo | OBSERVADO |
| Eventos de prevención de pérdida de datos relacionados con herramientas de IA | recuento | mensual | Monitorización de la seguridad | OBSERVADO |
| Quejas de clientes vinculadas a contenido generado por IA | recuento | trimestral | Datos de reclamaciones | NOTIFICADO |
| Model version changes by providers | recuento | al año | Avisos de proveedores | NOTIFICADO |
De dónde procede la evidencia.
Conjuntos de datos públicos y registros institucionales identificados, cada uno con su tipo de licencia. Las fuentes obtenidas por acuerdo solo se utilizan conforme a sus condiciones y nunca se republican.
| Fuente | Lo que aporta | Tipo de licencia |
|---|---|---|
| Informe del FSB sobre las implicaciones de la IA para la estabilidad financiera | Vulnerabilities from AI adoption in finance | Gratuito, condiciones del FSB |
| Informe de la IOSCO sobre casos de uso, riesgos y desafíos de la IA | Uso de la IA en los mercados de capitales | Gratuito, condiciones de la IOSCO |
| Perfil de IA generativa del NIST AI RMF | Riesgos y acciones específicos de la IA generativa | Dominio público |
| OWASP Top 10 for large language model applications | Riesgos de seguridad comunes en las aplicaciones de LLM | Gratuito, CC BY-SA |
| Encuestas sobre IA del Bank of England y la FCA | Adoption and governance of AI in UK finance | Gratuito, términos del Banco de Inglaterra y la FCA |
Quién decide y a qué sirve la evidencia.
La investigación de riesgo de modelo financiero prepara evidencia. Las decisiones que se indican a continuación las toman las autoridades nombradas, conforme a sus propias normas, y nunca la plataforma.
| Quién decide | La pregunta | Evidencia a la que sirve esta página |
|---|---|---|
| Consejos de administración y comités ejecutivos | Dónde puede usarse la IA generativa y con qué controles | Niveles de riesgo de los casos de uso y resultados de evaluación |
| Funciones de riesgo de modelos y de seguridad | Cómo se valida y se protege la IA generativa | Evaluation, red-team and monitoring evidence |
| Supervisores de conducta | Whether customer-facing AI meets conduct and disclosure duties | Complaints and outcome evidence |
| Equipos de contratación y de asuntos jurídicos | Qué proveedores y condiciones de datos son aceptables | Condiciones contractuales y evidencia del tratamiento de datos |
Productos que genera este tema
- Guide to generative AI failure modes in financial services
- Method note on evaluating factual accuracy and grounding
- Brief on prompt injection and tool-connected assistants
- Preguntas para los consejos de administración sobre los casos de uso de la IA generativa
Lo que se preguntan los expertos.
Las cuestiones sobre IA generativa comienzan por el caso de uso y sus consecuencias.
- ¿Para qué se utiliza la herramienta y qué ocurre si su resultado es erróneo?
- How is the accuracy of output verified before it affects customers or decisions?
- What data is sent to the model, and could confidential information leak?
- How are prompts, versions and outputs logged for accountability?
- ¿Qué grado de dependencia tiene la institución de un único proveedor y qué ocurre si el servicio cambia o falla?
Mecanismos y factores impulsores.
Los grandes modelos de lenguaje generan texto prediciendo continuaciones probables. Pueden producir resultados fluidos y verosímiles pero falsos, lo cual importa mucho cuando se exige exactitud. Su comportamiento puede cambiar cuando los proveedores actualizan los modelos, y pueden ser manipulados mediante entradas diseñadas a tal fin. Sus resultados son difíciles de probar de forma exhaustiva porque el espacio de entradas posibles es inmenso.
Risk depends strongly on the use. Drafting an internal summary that a professional reviews carries different risk from answering customers directly or informing credit decisions. Controls therefore scale with consequence: human review, restricted data, retrieval from approved sources, testing against known cases and monitoring of outputs.
Cómo se estudia y dónde terminan los métodos.
| Método o datos | Lo que muestra | Límites |
|---|---|---|
| Use-case risk assessment | Consecuencias del fallo según la aplicación | Informal uses may not be captured |
| Evaluación frente a conjuntos de prueba | Accuracy and failure rates on known cases | No puede cubrir todos los insumos reales |
| Pruebas de equipo rojo y pruebas adversarias | Vulnerability to manipulation | Finds some weaknesses, not all |
| Supervisión y registro de los resultados | Errores e incidentes en el uso | Detectar errores sutiles es difícil |
Cómo se estudia y lo que los métodos no pueden decir.
- 01Inteligencia artificial y aprendizaje automáticoModelos de crédito con potenciación de gradiente · Modelos de lenguaje en las operaciones · Detección de anomalíasAplicado aquí
- 02Ingeniería de evaluación y garantía de la IAValidación de modelos de aprendizaje automático · Red-teaming de IA generativa · Evaluación de equidadAplicado aquí
- 03Cuantificación de la incertidumbre y validación de modelosIntervalos de predicción para los modelos de pérdidas · Conjuntos de modelos · Capital o colchones por riesgo de modelosAplicado aquí
- 04Probabilidad y estadísticaPruebas de calibración · Estadísticas de deriva · Comparación de resultados entre gruposAplicado aquí
Preguntas y respuestas.
¿Es un modelo de lenguaje de gran tamaño un modelo según las reglas de riesgo de modelo?
¿Qué es la inyección de instrucciones (prompt injection)?
¿Qué es la fundamentación?
¿Por qué los modelos de lenguaje producen información falsa?
¿Debe la IA generativa tomar decisiones de crédito o de siniestros?
¿Evalúa la plataforma productos de IA concretos?
Aporte evidencia desde esta página.
Reports es la publicación trimestral del Consortium. Lo que usted sabe sobre este tema puede convertirse en evidencia, un caso o una corrección en la próxima edición, con su crédito y publicado bajo licencia CC BY 4.0 cuando se trate de obra propia.
- Correo electrónicoPasarela GW-GRAEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks AllianceSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Plantee una cuestión de exposición o de capital a la Alliance.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Documentos jurídicos.
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.