第三方模型:风险如何发展。
Vendor dependencies and due diligence. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
透明度有限
供应商将其方法作为商业秘密加以保护。企业可获得文档和性能报告,但无法获得代码、数据或训练细节,这限制了验证。
Shared models, shared errors
当许多企业使用同一供应商的模型时,其误差会同时影响所有企业,并可能带动市场或信贷供给一同变动。
更新会改变行为
Vendors update models and data on their own schedules. Without notice and change analysis, a firm’s validated model can change silently.
按结果验证
Where internals are hidden, firms validate through benchmarking, outcome analysis and testing on their own data, which needs time and data.
模型风险生命周期。
团队跟踪该主题时会使用的界面:其指标、状态与决策。名称为示例,数值仅作示意。
模型风险生命周期
第三方模型 · 模型清单 · 委员会 8
生命周期
- 清单已注册
- 开发有记录
- 验证独立
- 批准委员会
- 实施控制措施
- 监测阈值
- 审核年度
- 退役退役
模型
| MD-709 PD retail | 第 1 级 | 9 个月 | 1 | 逾期 |
| MD-561 大语言模型投诉分流 | 第 1 级 | 从不 | 0 | 未经验证 |
| MD-601 IFRS 9 staging | 第 1 级 | 3 months | 0 | 已批准 |
| MD-088 营销倾向 | 第 3 级 | 14 个月 | 1 | 已批准 |
验证范围
- 概念合理性
- 进行中
- 结果分析
- 待处理
- 基准比较
- 待处理
- 使用限制
- 需要人工审核
衡量什么,以及衡量得如何。
每个指标都注明其单位、频率、背后的来源类型以及数值将附带的证据标签。此处不显示数值:数值由计划依据其自身权限提供。
| 指标 | 单位 | 节奏 | 来源类型 | 标签 |
|---|---|---|---|---|
| 清单中的第三方模型 | 按层级计数 | 年度 | 模型清单 | 已声明 |
| 文档完整的供应商模型 | 占比 | 年度 | 供应商管理记录 | 已声明 |
| Vendor model changes notified | 计数 | 每年 | 供应商通知 | 已报告 |
| Third-party models validated on own data | 占比 | 年度 | 验证记录 | 已声明 |
| Concentration of vendor model use across firms | 使用头部供应商的企业占比 | 定期 | 监管调查 | 已报告 |
| Contracts with model change notice clauses | 占比 | 定期 | 合同审查 | 已声明 |
第三方模型对风险暴露、损失和资本意味着什么。
风险官、监管者或财政部会要求的风险暴露、损失、情景和资本视图,以及它们据以报告的框架。结构遵循监管和精算实务。数值为说明性:绝非价格、评级或建议。
传导渠道
How a shock in third party models reaches credit, market, underwriting, liquidity and operational risk, and feeds back.
证据来自何处。
具名公共数据集与机构记录,各自注明许可类别。依协议获得的来源仅按其条款使用,绝不再次发布。
| 来源 | 它提供什么 | 许可类别 |
|---|---|---|
| SR 11-7 关于供应商和第三方模型的指引 | 使用外部模型的要求 | 公有领域 |
| Interagency guidance on third-party relationships (United States banking agencies) | 第三方风险管理要求 | 公有领域 |
| 金融稳定理事会关于人工智能对金融稳定影响的报告 | 人工智能带来的第三方风险和集中度风险 | 免费,FSB 条款 |
| 欧盟《人工智能法案》对提供者和部署者的义务 | AI 提供方与使用方之间的职责划分 | 免费,欧盟再利用条款 |
| Vendor model documentation and performance reports | 信息供应商向用户提供的信息 | 专有,条款因供应商而异 |
| 谁来决定 | 问题 | 本页面服务的证据 |
|---|---|---|
| 模型风险函数 | 如何验证和批准第三方模型 | 文档、基准和结果测试 |
| 采购与法务 | Which transparency and change terms to require | 合同实践与监管预期 |
| 监管机构 | 供应商模型的使用是否得到充分治理,以及集中度是否重要 | 调查和审查结果 |
| 供应商 | What documentation and notice to provide | 客户和监管要求 |
该主题产生的产出
- 验证企业无法检视的模型的指南
- 关于供应商模型和基础模型集中度的简报
- Method note on change analysis for vendor updates
- Questions for procurement on model transparency terms
专家提出的问题。
The questions concern responsibility for models one did not build.
- 机构是否充分了解供应商模型的工作原理,足以验证其使用?
- 供应商提供哪些文档、测试证据和访问权限?
- 供应商模型更新如何沟通、测试和批准?
- 有多少机构依赖同一供应商?该供应商发生故障或变更时会怎样?
- 如有需要,机构能否退出或替换该模型?
机制与驱动因素。
Vendors often protect their models as intellectual property, limiting the transparency available to users. Institutions must still validate the model’s use for their own purposes, typically through outcome testing, benchmarking and contractual rights to documentation. Updates by the vendor can change model behaviour without the institution’s knowledge.
集中度是全行业层面的问题。当众多机构使用同一供应商的模型或同一 AI 提供方时,一处缺陷、中断或变更会同时波及所有机构,造成相互关联的错误和运营依赖,任何单个机构都无法独自应对。
如何研究,以及方法止于何处。
| 方法或数据 | 显示内容 | 局限 |
|---|---|---|
| 供应商尽职调查 | 供应商的能力、控制措施和透明度 | Limited by vendor disclosure |
| 结果与基准测试 | Performance on the institution’s own data | 不披露内部逻辑 |
| 合同与退出分析 | 知情、通知和退出的权利 | 权利可能难以行使 |
| 集中度映射 | 全行业的共同依赖 | 需要汇总信息 |
问题与解答。
Who is responsible for a vendor model’s risk?
How can a firm validate a model it cannot see?
为什么供应商集中度很重要?
Does buying a model transfer its risk to the vendor?
为什么供应商集中度会引发稳定性方面的关切?
机构应能从模型供应商处获得什么?
平台是否对供应商评级?
从本页贡献证据。
Reports 是联合体的季刊。您对该主题的了解可以成为下一期中的证据、案例或更正,署名归您,并在属于您本人作品时以 CC BY 4.0 发布。
- 电子邮件门户 GW-GRA从本页发送证据、更正、案例、方法、审查、翻译或概况投稿。它会带上本页标签送达,由负责的编辑接收。
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- 报告全球风险联盟(Global Risks Alliance)查看所有贡献方式贡献类型、各自的评审方式、您获得的署名、许可协议,以及绝不接受的内容。
切勿发送个人数据、敏感基础设施细节或您无权分享的任何内容。贡献在使用前会经过审查;发送贡献不赋予署名权或编辑权,赞助也绝不能换取研究结论。
法律文件。
本网站上的地图、数据和图表仅作为背景和一般信息展示。它们不是建议、预测或预警;信息的局限见免责声明和数据说明。