Skip to content

GRA · 人工智能与金融模型风险

空间金融资本与危害、风险暴露和转型的交汇之处

面向人工智能与金融模型风险的人工智能评估与保证工程

人工智能保障是一整套能够为人工智能或模型系统提供充分依据的信心的做法:验证、测试、红队演练、监测、文档记录和独立审查。在本平台上,它将成熟的 模型风险 管理与人工智能 系统 所需的新证据联系起来。

01登记

AI evaluation and assurance engineering for AI and financial model risk on the record.

方法记录STEM 方法
  1. 方法AI 评估与保证工程
  2. 应用于AI 与金融 模型风险
  3. 规范页面STEM 公共资源
02申请

人工智能评估与保障工程在此发挥的作用。

AI 评估与保证工程开发相关方法,用于测试、监测并为 AI 系统提供有据可依的信心。它涵盖整个系统生命周期中的性能、稳健性、安全和社会影响。在人工智能与金融稳定领域,AI 保证决定自动化系统能否在高后果情境中获得信任。当 AI 嵌入金融、卫生和基础设施各领域时,它有助于管理相关风险。规范性描述见 STEM Commons.

Validation of machine learning models

概念合理性、 数据质量、结果分析和稳定性测试均经调整,以适用于内部逻辑难以解读的模型。

生成式人工智能红队测试

Adversarial tests probe language model applications for prompt injection, data leakage and harmful output before and after deployment.

公平性评估

各群体之间比较结果率和错误率,并记录所选公平性标准及其法律依据,以供审查。

03风险暴露、损失与资本

这对风险暴露、损失和资本意味着什么。

风险官、监管者或财政部会要求的风险暴露、损失、情景和资本视图,以及它们据以报告的框架。结构遵循监管和精算实务。数值为说明性:绝非价格、评级或建议。

传导渠道

How a shock in AI evaluation and assurance engineering for AI and financial model risk reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
NGFS 气候情景 · 央行与监管机构绿色金融网络IFRS S2 气候相关披露 · ISSBTCFD 建议 · 金融稳定理事会 TCFD有效管理气候相关金融风险的原则 · 巴塞尔银行监管委员会
04数据

该方法使用的输入。

本平台上 AI 评估与保障工程所使用的数据集和记录,并说明各自的作用及其数值所带的标签。来源列于 来源登记册.

数据角色标签
验证报告保证证据已声明
红队测试结果Adversarial weaknesses观测
成果数据实际表现观测
05流程

流程如何运行。

Process explorer · Process

面向人工智能与金融模型风险的人工智能评估与保证工程:人工智能风险管理(NIST)

9 steps5 stages1 gate

流程

面向人工智能与金融模型风险的人工智能评估与保证工程:人工智能风险管理(NIST)

AI RMF 核心包含四项职能:GOVERN、MAP、MEASURE 和 MANAGE,其中 GOVERN 贯穿其他各项;图中所示顺序只是一种常见的解读方式,并非检查清单。

  1. 01 治理

    1. 01GOVERN:政策、角色与问责步骤 · MRM 委员会GOVERN 是贯穿各环节的职能。它渗透于人工智能风险管理的全过程,并为其他职能提供支撑。
  2. 02 Map

    1. 02MAP:背景和预期用途数据集MAP 职能建立背景,以界定与人工智能系统相关的风险,包括预期目的和对人的影响。
  3. 03 衡量

    1. 03衡量:评估可信特性建模AI 系统 需评估其可信特性。应在部署前以及运行期间定期对其进行测试。
    2. 04MEASURE:随时间跟踪已识别的风险建模已建立随时间跟踪已识别人工智能风险的机制,包括未预见的和新出现的风险。
  4. 04 管理

    1. 05MANAGE:处置风险步骤风险处置 计划涵盖事件的响应、恢复和沟通。资源将投向已绘制和已衡量的风险。
    2. 06是否继续(MANAGE 1.1)关口 · MRM 委员会判定系统是否满足其目的和目标,以及是否继续推进。该框架未设定阈值。
    3. 07部署决策决定 · MRM 委员会拥有该系统的组织决定是否部署以及在何种条件下部署。
    4. 08部署后监测与事件建模部署后监测计划已实施。事件和错误将与相关人工智能参与方共享,包括受影响的社区。
  5. 05 记录

    1. 09人工智能系统清单数据集GOVERN 1.6 要求建立 AI 系统清单编制机制。模型卡是常见做法,框架中并未提及。

对已发布的外部标准或方法的中立概述,内容来自其发布机构。并非运行记录。Nexus 不执行、认证或批准所示的任何步骤。关卡或决定归属于来源所指明的一方。这些行动不一定构成有先后顺序的步骤。本流程图未纳入欧盟《人工智能法案》。

06验证

结果如何核查。

评估方法会接受可靠性及与部署条件相关性的检验。独立复现和第三方审计用于检验各项论断。

核查如何开展
独立性保证工作由独立于开发的人员执行
已说明范围记录鉴证所涵盖和排除的内容
变更后重复进行模型或版本发生重大变更时须重新进行保证

基准测试可能无法反映真实使用情况或新出现的能力。通用系统的行为是开放式的,难以进行完整测试。

08管理责任

由谁维护该方法。

人工智能与自主系统 负责管理联合体的人工智能评估和保障工程,并审查其在各平台的应用情况。

10问题

问题与解答。

AI 评估和保障工程在该领域有哪些局限?
基准测试可能无法反映真实使用情况或新出现的能力。通用系统的行为是开放式的,难以进行完整测试。
结果如何核查?
评估方法会接受可靠性及与部署条件相关性的检验。独立复现和第三方审计用于检验各项论断。
本页面上的数值是真实的吗?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
该方法还应用于何处?
维持社会运转的各个 规范方法页面 列出应用该方法的每个平台。
报告贡献

从本页贡献证据。

Reports 是联合体的季刊。您对该主题的了解可以成为下一期中的证据、案例或更正,署名归您,并在属于您本人作品时以 CC BY 4.0 发布。

全球风险联盟(Global Risks Alliance)人工智能与金融模型风险方法与技术指数级技术
人工智能与金融模型风险

向联盟提出风险暴露或资本问题。

信息和咨询现已开放。每项咨询都会获得一个编号,并告知下一步;申请、付款、算力分配和注册只有在相应团队、条款和审查能力就绪时才会开放。