GRA · Riesgo de la IA y de los modelos financieros
Spatial financeWhere capital meets hazard, exposure and transition
Modelos de terceros
Las empresas utilizan puntuaciones crediticias de proveedores, modelos de fraude, modelos de catástrofes, analítica de datos de mercado y modelos fundacionales que no construyeron y que no pueden inspeccionar por completo. La responsabilidad por el modelos financieros sigue recayendo en la empresa. Esta página expone cómo surge el riesgo de modelo de terceros, cómo validan las empresas lo que no pueden ver, la evidencia disponible y quién decide.
Third party models on the record.
Modelos de terceros: cómo se desarrolla el riesgo.
Dependencias de proveedores y diligencia debida. El expediente siguiente expone cómo se desarrolla el riesgo, qué se mide, de dónde proceden los datos, cómo se modela y quién decide.
Transparencia limitada
Los proveedores protegen sus métodos como secretos comerciales. Las empresas pueden obtener documentación e informes de desempeño, pero no el código, los datos ni los detalles del entrenamiento, lo que limita la validación.
Shared models, shared errors
Cuando muchas empresas utilizan el mismo modelo de un proveedor, sus errores las afectan a todas a la vez y pueden mover los mercados o la oferta de crédito de forma conjunta.
Las actualizaciones cambian el comportamiento
Vendors update models and data on their own schedules. Without notice and change analysis, a firm’s validated model can change silently.
Validación por resultados
Cuando los elementos internos están ocultos, las empresas validan mediante comparación de referencia, análisis de resultados y pruebas con sus propios datos, lo que requiere tiempo y datos.
Ciclo de vida del riesgo de modelo.
La pantalla que utilizaría un equipo para seguir esta materia: sus mediciones, estados y decisiones. Los nombres son ejemplos y los valores son ilustrativos.
Ciclo de vida del riesgo de modelo
Third party models · Model inventory · Committee 8
Ciclo de vida
- Inventarioregistrado
- Desarrollardocumentado
- Validarindependiente
- Aprobarcomisión
- Implementarcontroles
- Seguimientoumbrales
- Revisiónanual
- Retirardesmantelar
Modelos
| MD-709 PD retail | Nivel 1 | 9 months | 1 | Vencido |
| MD-561 Clasificación de reclamaciones con LLM | Nivel 1 | nunca | 0 | No validado |
| MD-601 Clasificación por etapas de la NIIF 9 | Nivel 1 | 3 months | 0 | Aprobado |
| MD-088 propensión de marketing | Nivel 3 | 14 meses | 1 | Aprobado |
Alcance de la validación
- Solidez conceptual
- En curso
- Análisis de resultados
- Pendiente
- Evaluación comparativa
- Pendiente
- Límites de uso
- revisión humana obligatoria
Qué se mide y con qué calidad.
Cada indicador lleva su unidad, su periodicidad, el tipo de fuente que lo respalda y la etiqueta de evidencia que llevaría un valor. No se muestran valores: un programa los aporta bajo su propia autoridad.
| Indicador | Unidad | Cadencia | Tipo de fuente | Etiqueta |
|---|---|---|---|---|
| Modelos de terceros en el inventario | recuento por nivel | anual | Inventario de modelos | DECLARADO |
| Vendor models with full documentation | proporción | anual | Registros de gestión de proveedores | DECLARADO |
| Vendor model changes notified | recuento | al año | Avisos de proveedores | NOTIFICADO |
| Third-party models validated on own data | proporción | anual | Registros de validación | DECLARADO |
| Concentration of vendor model use across firms | share of firms using top vendors | periódico | Encuestas de supervisión | NOTIFICADO |
| Contracts with model change notice clauses | proporción | periódico | Revisiones de contratos | DECLARADO |
Qué significan los modelos de terceros para la exposición, la pérdida y el capital.
Las vistas de exposición, pérdida, escenarios y capital que pediría un responsable de riesgos, un supervisor o un ministerio de finanzas, con los marcos con arreglo a los cuales informan. Las estructuras siguen la práctica supervisora y actuarial. Los valores son ilustrativos: nunca precios, calificaciones ni asesoramiento.
Canales de transmisión
How a shock in third party models reaches credit, market, underwriting, liquidity and operational risk, and feeds back.
De dónde procede la evidencia.
Conjuntos de datos públicos y registros institucionales identificados, cada uno con su tipo de licencia. Las fuentes obtenidas por acuerdo solo se utilizan conforme a sus condiciones y nunca se republican.
| Fuente | Lo que aporta | Tipo de licencia |
|---|---|---|
| SR 11-7 guidance on vendor and third-party models | Expectativas para el uso de modelos externos | Dominio público |
| Orientaciones interagenciales sobre las relaciones con terceros (agencias bancarias de Estados Unidos) | Third-party risk management expectations | Dominio público |
| Informe del FSB sobre las implicaciones de la IA para la estabilidad financiera | Riesgos de terceros y de concentración derivados de la IA | Gratuito, condiciones del FSB |
| Obligaciones del Reglamento de IA de la UE para proveedores y responsables del despliegue | Division of duties between AI providers and users | Gratuito, condiciones de reutilización de la UE |
| Vendor model documentation and performance reports | Información que los proveedores facilitan a los usuarios | Propietaria, con condiciones según el proveedor |
Quién decide y a qué sirve la evidencia.
La investigación de riesgo de modelo financiero prepara evidencia. Las decisiones que se indican a continuación las toman las autoridades nombradas, conforme a sus propias normas, y nunca la plataforma.
| Quién decide | La pregunta | Evidencia a la que sirve esta página |
|---|---|---|
| Funciones de riesgo de modelo | Cómo validar y aprobar modelos de terceros | Documentación, pruebas comparativas y pruebas de resultados |
| Contratación y asuntos jurídicos | Which transparency and change terms to require | Práctica contractual y expectativas regulatorias |
| Supervisores | Si el uso de modelos de proveedores está gobernado adecuadamente y si la concentración importa | Encuestas y hallazgos de revisiones |
| Proveedores | Qué documentación y aviso se deben proporcionar | Requisitos de clientes y regulatorios |
Productos que genera este tema
- Guía para validar modelos que las empresas no pueden inspeccionar
- Brief on concentration in vendor and foundation models
- Nota metodológica sobre el análisis de cambios en las actualizaciones de proveedores
- Preguntas para la contratación sobre las condiciones de transparencia de los modelos
Lo que se preguntan los expertos.
The questions concern responsibility for models one did not build.
- ¿Comprende la institución el funcionamiento de un modelo de proveedor lo suficiente como para validar su uso?
- ¿Qué documentación, evidencia de pruebas y acceso proporciona el proveedor?
- ¿Cómo se comunican, prueban y aprueban las actualizaciones de modelos de los proveedores?
- How many institutions rely on the same vendor, and what happens if it fails or changes?
- ¿Puede la institución abandonar o sustituir el modelo si es necesario?
Mecanismos y factores impulsores.
Vendors often protect their models as intellectual property, limiting the transparency available to users. Institutions must still validate the model’s use for their own purposes, typically through outcome testing, benchmarking and contractual rights to documentation. Updates by the vendor can change model behaviour without the institution’s knowledge.
La concentración es una preocupación para todo el sector. Cuando muchas instituciones utilizan el mismo modelo de un proveedor o el mismo proveedor de IA, un fallo, una interrupción o un cambio las afecta a todas a la vez, lo que genera errores correlacionados y dependencias operativas que ninguna institución puede gestionar por sí sola.
Cómo se estudia y dónde terminan los métodos.
| Método o datos | Lo que muestra | Límites |
|---|---|---|
| Vendor due diligence | Vendor capability, controls and transparency | Limited by vendor disclosure |
| Pruebas de resultados y de referencia | Performance on the institution’s own data | Does not reveal internal logic |
| Análisis de contratos y de salida | Rights to information, notification and exit | Rights may be hard to exercise |
| Concentration mapping | Dependencias compartidas en todo el sector | Requiere información agregada |
Cómo se estudia y lo que los métodos no pueden decir.
- 01Ingeniería de evaluación y garantía de la IAValidación de modelos de aprendizaje automático · Red-teaming de IA generativa · Evaluación de equidadAplicado aquí
- 02Probabilidad y estadísticaPruebas de calibración · Estadísticas de deriva · Comparación de resultados entre gruposAplicado aquí
- 03Cuantificación de la incertidumbre y validación de modelosIntervalos de predicción para los modelos de pérdidas · Conjuntos de modelos · Capital o colchones por riesgo de modelosAplicado aquí
- 04Inteligencia artificial y aprendizaje automáticoModelos de crédito con potenciación de gradiente · Modelos de lenguaje en las operaciones · Detección de anomalíasAplicado aquí
Preguntas y respuestas.
Who is responsible for a vendor model’s risk?
How can a firm validate a model it cannot see?
Why does vendor concentration matter?
Does buying a model transfer its risk to the vendor?
Why is vendor concentration a stability concern?
¿Qué debería poder obtener una institución de un proveedor de modelos?
Does the platform rate vendors?
Aporte evidencia desde esta página.
Reports es la publicación trimestral del Consortium. Lo que usted sabe sobre este tema puede convertirse en evidencia, un caso o una corrección en la próxima edición, con su crédito y publicado bajo licencia CC BY 4.0 cuando se trate de obra propia.
- Correo electrónicoPasarela GW-GRAEnvíelo desde esta páginaEvidencia, una corrección, un caso, un método, una revisión, una traducción o un aporte a un perfil. Llega etiquetado con esta página, de modo que lo recibe el editor responsable.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks AllianceSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
No envíe nunca datos personales, detalles sensibles de infraestructura ni nada que no tenga derecho a compartir. Un aporte se revisa antes de su uso; enviarlo no confiere autoría ni derechos editoriales, y el patrocinio nunca compra un hallazgo.
Plantee una cuestión de exposición o de capital a la Alliance.
La información y las consultas están abiertas hoy. Una consulta recibe una referencia e indica el siguiente paso; las solicitudes, pagos, asignaciones de cómputo y registros solo se abren cuando existen su equipo, sus condiciones y la capacidad de revisión.
Documentos jurídicos.
Los mapas, datos y cifras de este sitio se muestran como contexto e información general. No son consejos, pronósticos ni avisos; los límites de la información se exponen en los Descargos de responsabilidad y los Avisos sobre datos.