Skip to content

GRA · 人工智能与金融模型风险

空间金融资本与危害、风险暴露和转型的交汇之处

模型风险治理

Model risk is the potential for loss or harm from decisions based on models that are wrong or misused. Banks, insurers and asset managers manage it through model inventories, risk tiering, independent validation, approval and ongoing monitoring, overseen by boards and senior management. Machine learning and generative AI widen what counts as a model. This page sets out how model risk governance works and fails, the records involved, and who decides.

01登记

记录在案的模型风险治理。

02问题

模型风险治理:风险如何发展。

Inventory, ownership and validation. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

机制

清单遗漏模型

电子表格、供应商工具和人工智能组件往往不在模型清单之内。未列入清单的模型逃过验证和监测,其错误只有在出现损失或投诉时才会暴露。

机制

挑战减弱

验证如果缺乏独立性、专业能力或叫停模型的权限,就会流于形式。有效质疑需要理解方法并有权阻止模型使用的验证人员。

机制

Tiering sets attention

Models are tiered by materiality and complexity, which decides validation depth. Underestimating a model’s materiality, or the reach of an AI tool, leaves high-impact models lightly reviewed.

机制

模型相互作用

一个模型的输出会输入其他模型:评分输入定价,定价又输入资本。上游的误差会向下传播,而整条链条上的总体 模型风险 很少被衡量。

03监测

模型风险生命周期。

团队跟踪该主题时会使用的界面:其指标、状态与决策。名称为示例,数值仅作示意。

模型风险生命周期

Model risk governance · Model inventory · Committee 9

9 validations overdueGRA · AI and Financial Model Risk

生命周期

  1. 清单已注册
  2. 开发有记录
  3. 验证独立
  4. 批准委员会
  5. 实施控制措施
  6. 监测阈值
  7. 审核年度
  8. 退役退役

模型

MD-204 PD retail第 1 级14 个月3逾期
MD-511 LLM complaints triage第 1 级从不0未经验证
MD-164 IFRS 9 staging第 1 级8 个月1已批准
MD-534 营销倾向第 3 级17 个月0已批准

验证范围

概念合理性
进行中
结果分析
待处理
基准比较
待处理
使用限制
需要人工审核
Model risk lifecycle: the screen’s structure, terms and states for Model risk governance.Example names and illustrative values; a design, not a record or a live system.
04指标

衡量什么,以及衡量得如何。

每个指标都注明其单位、频率、背后的来源类型以及数值将附带的证据标签。此处不显示数值:数值由计划依据其自身权限提供。

指标单位节奏来源类型标签
清单中的模型按层级计数每季度模型清单已声明
在政策周期内完成验证的模型按层级划分的份额每季度验证记录已声明
Open validation findings按严重程度计数每季度验证记录已声明
附有例外或限制条件使用的模型计数每季度模型治理记录已声明
AI and machine learning models in inventory数量和占比年度清单与调查已声明
关于 模型风险 管理的建议计数年度监管报告已发布统计
05情景模型

政策路径及其对风险的影响。

三类工具如何随时间改变风险结果,涉及采用滞后、覆盖范围与合规,这些是转型与实体风险评估所依据的政策情景。情景:关于未来的明确假设,并非预测。

控制措施

结果的基线趋势
每年 2.0%
该工具的覆盖范围
70%
合规
75%
效应量,相对于教学取值
100%
未来年数
20 年

读数

期末时点降幅最大
监管
相对基线的降幅
21%
数字、方法与来源
年份基线监管经济激励信息与能力
0100.099.598.899.1
1102.0101.2100.199.8
2104.0102.5101.199.9
3106.1103.5101.6100.0
4108.2103.7101.8100.7
5110.4103.2101.7102.1
6112.6102.0101.6103.9
7114.9100.4101.6105.9
8117.299.2102.1108.0
9119.598.6102.9110.1
10121.998.9104.2112.3
11124.399.7105.7114.5
12126.8101.1107.4116.8
13129.4102.7109.4119.2
14131.9104.5111.4121.6
15134.6106.5113.5124.0
16137.3108.5115.7126.5
17140.0110.7118.0129.0
18142.8112.9120.4131.6
19145.7115.1122.8134.2
20148.6117.4125.2136.9

方法

  1. Tools of government Hood (1983), The Tools of Government, Macmillan
  2. Carrots, sticks and sermons Bemelmans-Videc, Rist and Vedung (1998), Transaction
  3. Diffusion of innovations Rogers (2003), Diffusion of Innovations, Free Press
  4. Uncertainty fan (parameter Monte Carlo) Spiegelhalter, Pearson and Short (2011), Visualising uncertainty about the future, Science 333
  5. One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley

数据

The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:

  • Borders Natural Earth
  • Cities Natural Earth
政策路径及其对风险的影响。示意性教学模型:它依据控件设定的数值运行,而不是实测数据。方法:政府工具(Hood(1983),The Tools of Government,Macmillan);胡萝卜、大棒与说教(Bemelmans-Videc、Rist 和 Vedung(1998),Transaction);创新扩散(Rogers(2003),Diffusion of Innovations,Free Press)。
06来源

证据来自何处。

具名公共数据集与机构记录,各自注明许可类别。依协议获得的来源仅按其条款使用,绝不再次发布。

来源它提供什么许可类别
Federal Reserve and OCC SR 11-7 guidanceModel risk management expectations公有领域
PRA SS1/23 模型风险管理原则英国银行业原则免费,英格兰银行条款
ECB guide to internal models对用于资本计量的内部模型的要求免费,适用欧洲央行条款
Bank of England and FCA surveys of AI and machine learning in UK financial servicesUse and governance of AI across firms免费,英格兰银行和 FCA 条款
EBA follow-up reports on machine learning for internal ratings-based modelsSupervisory views on ML in capital models免费,欧盟再利用条款
07风险暴露、损失与资本

What model risk governance means for exposure, loss and capital.

风险官、监管者或财政部会要求的风险暴露、损失、情景和资本视图,以及它们据以报告的框架。结构遵循监管和精算实务。数值为说明性:绝非价格、评级或建议。

传导渠道

模型风险治理中的冲击如何传导至信用、市场、承保、流动性和运营风险,并产生反馈。

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
NGFS 气候情景 · 央行与监管机构绿色金融网络IFRS S2 气候相关披露 · ISSBTCFD 建议 · 金融稳定理事会 TCFD有效管理气候相关金融风险的原则 · 巴塞尔银行监管委员会
08决定

由谁决定,以及证据服务于什么。

AI 与金融 模型风险 负责准备证据。以下决定由所指明的主管机构依其自身规则作出,绝不由平台作出。

谁来决定问题本页面服务的证据
董事会和高级管理层What model risk appetite to set and how to oversee itInventory, tiering, findings and incident evidence
Model risk management functionsWhich models to validate, approve, restrict or retireValidation results and monitoring
审慎监管机构Whether model risk management meets expectations监管审查和机构报告
内部审计模型风险框架是否按设计运行Governance and validation records

该主题产生的产出

  • 模型清单、分级与验证指南
  • 关于将模型风险管理扩展到人工智能和生成式人工智能的简报
  • 关于有效质询的方法说明
  • Questions for boards on aggregate model risk
09核心问题

专家提出的问题。

治理问题始于了解存在哪些模型。

  • 什么算作模型,该定义是否涵盖机器学习、供应商工具和生成式 AI?
  • 清单中的每个模型是否都有负责的责任人和风险等级?
  • Is validation genuinely independent and effective at challenging developers?
  • 模型局限如何记录并向用户说明?
  • Does the board understand the institution’s aggregate model risk?
10机制

机制与驱动因素。

Models fail through flawed design, poor data, implementation errors, or use beyond their intended scope. Governance frameworks address these through development standards, independent validation and ongoing monitoring, scaled to each model’s materiality. Supervisory guidance on model risk management in several jurisdictions sets expectations along these lines.

AI strains traditional frameworks. Machine learning models can be numerous, frequently retrained and embedded in processes; generative AI tools may be adopted informally by staff; vendor models may be opaque. Inventories that miss these uses leave risk unmanaged.

11方法与数据

如何研究,以及方法止于何处。

方法或数据显示内容局限
模型清单与分级Which models exist and how material they areInformal and embedded AI uses are easily missed
独立验证Soundness of design, data and implementation验证受时间、技能和获取供应商详细信息的条件所限
Governance benchmarkingHow institutions organise model riskSelf-reported and hard to compare
Issue and finding analysis反复出现的薄弱环节调查结果在企业内部保密
12方法

如何研究,以及方法无法说明的内容。

  1. AI 评估与保证工程机器学习模型验证 · 生成式人工智能红队测试 · 公平性评估在此应用
  2. 概率与统计校准检验 · 漂移统计量 · 群体结果比较在此应用
  3. 不确定性量化与模型验证损失模型的预测区间 · 模型集合 · 模型风险资本或缓冲在此应用
  4. 人工智能与机器学习梯度提升信用模型 · 运营中的语言模型 · 异常检测在此应用
13问题

问题与解答。

什么是模型风险?
如 SR 11-7 所述,指因基于不正确或被误用的模型输出作出决策而可能产生的不利后果,包括财务损失、决策失误和声誉损害。
What is effective challenge?
Critical, independent analysis of a model by people with the competence, influence and incentives to identify limitations and require changes.
Are AI models covered by model risk rules?
监管机构(如 PRA)指出,模型风险原则适用于人工智能和机器学习模型,并须关注其特有风险。
Do spreadsheets and generative AI tools count as models?
Many frameworks define models by function rather than technology, so tools that produce quantitative estimates or influence decisions can fall within scope. Each institution applies its own definition under its supervisors’ expectations.
Does the platform review firms’ frameworks?
No. GRA does not review, validate or approve firms’ frameworks or models.
报告贡献

从本页贡献证据。

Reports 是联合体的季刊。您对该主题的了解可以成为下一期中的证据、案例或更正,署名归您,并在属于您本人作品时以 CC BY 4.0 发布。

全球风险联盟(Global Risks Alliance)人工智能与金融模型风险方法与技术指数级技术
人工智能与金融模型风险

向联盟提出风险暴露或资本问题。

信息和咨询现已开放。每项咨询都会获得一个编号,并告知下一步;申请、付款、算力分配和注册只有在相应团队、条款和审查能力就绪时才会开放。