Skip to content

GRA · 人工智能与金融模型风险

空间金融资本与危害、风险暴露和转型的交汇之处

面向人工智能与金融模型风险的人工智能与机器学习

Artificial intelligence and machine learning are methods that learn patterns from data to predict, classify or generate. On this platform they are explained as the techniques behind modern credit, pricing, fraud and generative tools, and as sources of model risk with distinctive failure modes.

01登记

Artificial intelligence and machine learning for AI and financial model risk on the record.

方法记录STEM 方法
  1. 方法人工智能与机器学习
  2. 应用于AI 与金融 模型风险
  3. 规范页面STEM 公共资源
02申请

人工智能与机器学习在此处的作用。

人工智能和机器学习开发能够从数据中学习模式的算法,用于分类、预测或生成输出。它们越来越多地用于危害检测、预测和决策支持,其本身也是风险来源。在人工智能与金融稳定领域,机器学习可在相互关联的 系统中扩大检测和预报的规模。当自动化输出为重大决策提供依据时,必须权衡其自身的失效模式。标准表述见 STEM Commons.

梯度提升信用模型

考察信用评分中使用的树集成模型在排序能力方面的提升、对数据偏移的敏感性,以及如何向申请人解释其理由。

运营中的语言模型

用于摘要文件和起草回复的大语言模型,在部署前要评估其事实准确性、依据性和数据处理。

异常检测

Unsupervised methods that flag unusual transactions or trades are examined for false positive rates and for how alerts are reviewed by staff.

03风险暴露、损失与资本

这对风险暴露、损失和资本意味着什么。

风险官、监管者或财政部会要求的风险暴露、损失、情景和资本视图,以及它们据以报告的框架。结构遵循监管和精算实务。数值为说明性:绝非价格、评级或建议。

传导渠道

How a shock in Artificial intelligence and machine learning for AI and financial model risk reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
NGFS 气候情景 · 央行与监管机构绿色金融网络IFRS S2 气候相关披露 · ISSBTCFD 建议 · 金融稳定理事会 TCFD有效管理气候相关金融风险的原则 · 巴塞尔银行监管委员会
04数据

该方法使用的输入。

本平台上人工智能与机器学习所使用的数据集与记录,注明各自的作用及其数值所附的标签。来源列于 来源登记册.

数据角色标签
带标签的历史决策与结果训练与测试已报告
Evaluation datasetsPerformance measurement观测
模型文档设计与局限已声明
05流程

流程如何运行。

Process explorer · Process

用于 AI 与金融模型风险的人工智能和机器学习:AI 风险管理(NIST)

9 steps5 stages1 gate

流程

用于 AI 与金融模型风险的人工智能和机器学习:AI 风险管理(NIST)

AI RMF 核心包含四项职能:GOVERN、MAP、MEASURE 和 MANAGE,其中 GOVERN 贯穿其他各项;图中所示顺序只是一种常见的解读方式,并非检查清单。

  1. 01 治理

    1. 01GOVERN:政策、角色与问责步骤 · MRM 委员会GOVERN 是贯穿各环节的职能。它渗透于人工智能风险管理的全过程,并为其他职能提供支撑。
  2. 02 Map

    1. 02MAP:背景和预期用途数据集MAP 职能建立背景,以界定与人工智能系统相关的风险,包括预期目的和对人的影响。
  3. 03 衡量

    1. 03衡量:评估可信特性建模AI 系统 需评估其可信特性。应在部署前以及运行期间定期对其进行测试。
    2. 04MEASURE:随时间跟踪已识别的风险建模已建立随时间跟踪已识别人工智能风险的机制,包括未预见的和新出现的风险。
  4. 04 管理

    1. 05MANAGE:处置风险步骤风险处置 计划涵盖事件的响应、恢复和沟通。资源将投向已绘制和已衡量的风险。
    2. 06是否继续(MANAGE 1.1)关口 · MRM 委员会判定系统是否满足其目的和目标,以及是否继续推进。该框架未设定阈值。
    3. 07部署决策决定 · MRM 委员会拥有该系统的组织决定是否部署以及在何种条件下部署。
    4. 08部署后监测与事件建模部署后监测计划已实施。事件和错误将与相关人工智能参与方共享,包括受影响的社区。
  5. 05 记录

    1. 09人工智能系统清单数据集GOVERN 1.6 要求建立 AI 系统清单编制机制。模型卡是常见做法,框架中并未提及。

对已发布的外部标准或方法的中立概述,内容来自其发布机构。并非运行记录。Nexus 不执行、认证或批准所示的任何步骤。关卡或决定归属于来源所指明的一方。这些行动不一定构成有先后顺序的步骤。本流程图未纳入欧盟《人工智能法案》。

06验证

结果如何核查。

模型在尊重空间、时间与群体结构的留出数据上进行评估。在测试准确性的同时,也测试稳健性、校准与公平性。

核查如何开展
样本外时间测试模型在晚于训练数据的时期上进行测试
基准比较复杂模型与较简单的替代方案进行比较
稳定跨再训练运行检查性能和解释

当部署条件与训练数据不同时,性能会下降。模型可能固化偏见,并在罕见事件上毫无明显预警地失效。

08管理责任

由谁维护该方法。

人工智能与自主系统 为 Consortium 管理人工智能与机器学习,并审查其在各平台上的应用情况。

10问题

问题与解答。

在该领域,人工智能与机器学习有哪些局限?
当部署条件与训练数据不同时,性能会下降。模型可能固化偏见,并在罕见事件上毫无明显预警地失效。
结果如何核查?
模型在尊重空间、时间与群体结构的留出数据上进行评估。在测试准确性的同时,也测试稳健性、校准与公平性。
本页面上的数值是真实的吗?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
该方法还应用于何处?
维持社会运转的各个 规范方法页面 列出应用该方法的每个平台。
报告贡献

从本页贡献证据。

Reports 是联合体的季刊。您对该主题的了解可以成为下一期中的证据、案例或更正,署名归您,并在属于您本人作品时以 CC BY 4.0 发布。

全球风险联盟(Global Risks Alliance)人工智能与金融模型风险方法与技术指数级技术
人工智能与金融模型风险

向联盟提出风险暴露或资本问题。

信息和咨询现已开放。每项咨询都会获得一个编号,并告知下一步;申请、付款、算力分配和注册只有在相应团队、条款和审查能力就绪时才会开放。