Skip to content

GRA · 人工智能与金融模型风险

空间金融资本与危害、风险暴露和转型的交汇之处

分析与不确定性

模型风险 is managed through inventory, documentation, conceptual soundness review, outcome analysis, benchmarking and ongoing monitoring. This page explains each step, how machine learning changes it, and why generative and agentic AI sit partly outside current guidance.

提出咨询 Back to Professional research
01目录

Analysis and uncertainty in five parts.

本档案内容5 个部分
  1. 01方法The methods in use
  2. 02方法Explainability and fairness methods, with limits
  3. 03不确定性Quantifying what the model does not know
  4. 04不确定性How uncertainty is reported
  5. 05来源Where this page’s references lead
02方法

使用中的方法。

  1. 人工智能与机器学习梯度提升信用模型 · 运营中的语言模型 · 异常检测在此应用
    规范 · STEM Commons
  2. AI 评估与保证工程机器学习模型验证 · 生成式人工智能红队测试 · 公平性评估在此应用
    规范 · STEM Commons
  3. 不确定性量化与模型验证损失模型的预测区间 · 模型集合 · 模型风险资本或缓冲在此应用
    规范 · STEM Commons
  4. 概率与统计校准检验 · 漂移统计量 · 群体结果比较在此应用
    规范 · STEM Commons
03Explainability and fairness methods

Explainability and fairness methods, with limits.

方法Gives限制
SHAP and other attribution methodsContribution of each input to a predictionCorrelated inputs blur attribution
Counterfactual explanationsWhat change would alter the decisionMay suggest infeasible changes
Group fairness metricsOutcome differences across groupsMetrics can conflict
Challenger modelsIndependent benchmarkShares data weaknesses
04流程

流程如何运行。

Process explorer · Process

Analysis and uncertainty: Source to evidence record

10 steps4 个阶段2 道关口

流程

Analysis and uncertainty: Source to evidence record

来源经过登记和评估，其记录被标注和分类，数字证据护照承载溯源信息；一项更正会传达到每一条依赖记录。

  1. 01 受理

    1. 01识别来源来源 · 来源管理方发现不等于纳入。来源识别记录来源类别、管理方、机构角色和管辖范围。
    2. 03登记来源步骤登记使已发现的来源成为证据生命周期中受治理的参与方。它不意味着任何背书或认证。

  2. 02 评估

    1. 04管辖范围与权利分类关口权利分类识别许可、同意、保密和再利用限制。其结果决定访问和流转路径。
    2. 05证据质量评估步骤质量评估决定一条记录是否适合既定用途。质量是多维度的，绝不是单一分数。
    3. 06证据标签步骤每项发现都带有九种证据标签之一。缺失数据显示为缺失，绝不显示为零。

  3. 03 记录

    1. 07证据分类记录分类为记录赋予生命周期状态，例如来源已核实、可公开或受限。多种状态可以并存，并决定证据的用途。
    2. 08来源发布与标识符记录 · NXS-GRX （规范数据、来源追溯与风险）来源发布记录权利、时间覆盖范围和来源谱系。 UNI 通过目录分配，绝不手工输入。
    3. 09数字证据护照记录护照记录来源追溯、质量、权利、管辖范围、允许用途和历史，使证据在流转时保留其背景。

  4. 04 使用与更正

    1. 02更正传达到依赖记录步骤 · NXS-GRX（规范数据、来源追溯与风险）来源更正会传递到依赖它的切片和产品，而不改写旧结果。
    2. 10公开安全审查关口可公开审查决定一条记录能否公开共享。这是一个独立阶段，并非验证。

数据协议：证据生命周期 · Data protocols: core data objects and evidence records · The Global Risks Index (NXS-GRX)Designed programme process, not a record of operation. No cycle has run and every programme is at service level R0. A gate is a programme decision, never a public-authority approval, certification or deployment authorisation. The data-protocol pages describe a design, not a running system.

05不确定性

Quantifying what the model does not know.

Prediction intervals and calibration checks show when a model is outside its experience. Methods at GCRI uncertainty quantification; topic depth at explainability and fairness.

06How uncertainty is reported

如何报告不确定性。

  1. 01

    说明假设

    每项分析都列出其假设及其所依赖的数据。

  2. 02

    尽可能量化

    在报告中心估计值的同时报告区间与置信度。

  3. 03

    验证与比较

    模型会对照观测数据进行核查，并在可能时与其他模型进行对照。

  4. 04

    发布限制

    分析无法说明的内容与其能够说明的内容并列陈述。

07来源

Where this page’s references lead.

阅读本页时所对照的机构和文件。状态和版本会变化；每个链接都指向发布机构。

08问题

问题与解答。

方法是开放的吗？
方法描述在 STEM Commons 上公开。代码与数据遵循各自的许可与访问条款，列于来源登记册中。
报告贡献

从本页贡献证据。

报告 is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.

全球风险联盟（Global Risks Alliance）人工智能与金融模型风险方法与技术指数级技术

切勿发送个人数据、敏感基础设施细节或您无权分享的任何内容。贡献在使用前会经过审查；发送贡献不赋予署名权或编辑权，赞助也绝不能换取研究结论。

人工智能与金融模型风险

向联盟提出风险暴露或资本问题。

信息和咨询现已开放。每项咨询都会获得一个编号，并告知下一步；申请、付款、算力分配和注册只有在相应团队、条款和审查能力就绪时才会开放。

提出准备度试点建议 查看全部联系途径
法律

本网站上的地图、数据和图表仅作为背景和一般信息展示。它们不是建议、预测或预警；信息的局限见免责声明和数据说明。