Skip to content

GRA · IA e Risco de Modelos Financeiros

Finanças espaciaisOnde o capital encontra ameaça, exposição e transição

Análise e incerteza

Risco de modelo is managed through inventory, documentation, conceptual soundness review, outcome analysis, benchmarking and ongoing monitoring. This page explains each step, how machine learning changes it, and why generative and agentic AI sit partly outside current guidance.

Fazer um pedido Back to Professional research
01Conteúdo

Analysis and uncertainty in five parts.

Neste dossiê5 partes
  1. 01MétodosThe methods in use
  2. 02MétodosExplainability and fairness methods, with limits
  3. 03IncertezaQuantifying what the model does not know
  4. 04IncertezaHow uncertainty is reported
  5. 05FontesWhere this page’s references lead
02Métodos

Os métodos em uso.

  1. Inteligência artificial e aprendizado de máquinaModelos de crédito com gradient boosting · Modelos de linguagem nas operações · Detecção de anomaliasAplicado aqui
    Canônico · STEM Commons
  2. Engenharia de avaliação e garantia de IAValidation of machine learning models · Red-teaming generative AI · Fairness assessmentAplicado aqui
    Canônico · STEM Commons
  3. Quantificação da incerteza e validação de modelosIntervalos de previsão para modelos de perdas · Conjuntos de modelos · Capital ou colchões para o risco de modeloAplicado aqui
    Canônico · STEM Commons
  4. Probabilidade e estatísticaTestes de calibração · Estatísticas de deriva · Comparação de resultados entre gruposAplicado aqui
    Canônico · STEM Commons
03Explainability and fairness methods

Explainability and fairness methods, with limits.

MétodoGivesLimite
SHAP and other attribution methodsContribution of each input to a predictionCorrelated inputs blur attribution
Counterfactual explanationsWhat change would alter the decisionMay suggest infeasible changes
Group fairness metricsOutcome differences across groupsMetrics can conflict
Challenger modelsIndependent benchmarkShares data weaknesses
04Processo

Como decorre o processo.

Process explorer · Process

Analysis and uncertainty: Source to evidence record

10 steps4 etapas2 portões

Processo

Analysis and uncertainty: Source to evidence record

Uma fonte é registrada e avaliada, seu registro é rotulado e classificado, e um Passaporte Digital de Evidências leva a proveniência; uma correção chega a todos os registros dependentes.

  1. 01 Admissão

    1. 01Identificar a fonteFonte · O guardião da fonteDescoberta não é ingestão. A identificação da fonte registra a classe da fonte, o guardião, o papel institucional e a jurisdição.
    2. 03Registrar a fontePassoO registro faz de uma fonte descoberta um participante governado do ciclo de vida das evidências. Não implica aval nem certificação.

  2. 02 Avaliação

    1. 04Classificação de jurisdição e de direitosMarcoA classificação de direitos identifica licença, consentimento, confidencialidade e limites de reutilização. O resultado determina o acesso e o encaminhamento.
    2. 05Avaliação da qualidade das evidênciasPassoA avaliação de qualidade decide se um registro é adequado para um uso definido. A qualidade é multidimensional e nunca uma pontuação única.
    3. 06Rótulo de evidênciaPassoCada constatação traz um de nove rótulos de evidência. Dados ausentes aparecem como ausentes, nunca como zero.

  3. 03 Registro

    1. 07Classificação das evidênciasRegistroA classificação atribui aos registros estados de ciclo de vida, como verificado na fonte, seguro para o público ou restrito. Os estados podem coexistir e determinam o uso das evidências.
    2. 08Versão da fonte e identificadorRegistro · NXS-GRX (dados canônicos, proveniência e risco)Uma versão de fonte registra direitos, cobertura temporal e linhagem da fonte. Um UNI é atribuído por meio de um catálogo e nunca digitado à mão.
    3. 09Passaporte Digital de EvidênciasRegistroO passaporte registra proveniência, qualidade, direitos, jurisdição, uso permitido e histórico, para que as evidências conservem seu contexto quando circulam.

  4. 04 Uso e correção

    1. 02A correção chega aos registros dependentesEtapa · NXS-GRX (dados canônicos, proveniência e risco)Uma correção na fonte se propaga aos recortes e produtos dependentes sem reescrever resultados anteriores.
    2. 10Revisão segura para o públicoMarcoA revisão de segurança para o público decide se um registro pode ser compartilhado publicamente. É uma etapa distinta e não constitui validação.

Protocolos de dados: ciclo de vida das evidências · Data protocols: core data objects and evidence records · The Global Risks Index (NXS-GRX)Designed programme process, not a record of operation. No cycle has run and every programme is at service level R0. A gate is a programme decision, never a public-authority approval, certification or deployment authorisation. The data-protocol pages describe a design, not a running system.

05Incerteza

Quantifying what the model does not know.

Prediction intervals and calibration checks show when a model is outside its experience. Methods at GCRI uncertainty quantification; topic depth at explainability and fairness.

06How uncertainty is reported

Como a incerteza é relatada.

  1. 01

    Declarar os pressupostos

    Cada análise lista seus pressupostos e os dados de que depende.

  2. 02

    Quantificar sempre que possível

    Os intervalos e a confiança são relatados ao lado das estimativas centrais.

  3. 03

    Validar e comparar

    Os modelos são verificados em relação às observações e, sempre que possível, a outros modelos.

  4. 04

    Publicar os limites

    O que uma análise não pode mostrar é declarado ao lado do que ela pode mostrar.

07Fontes

Where this page’s references lead.

Os organismos e documentos à luz dos quais esta página é lida. O estado e as edições mudam; cada ligação leva ao organismo emissor.

08Perguntas

Perguntas e respostas.

Os métodos são abertos?
As descrições dos métodos são públicas no STEM Commons. O código e os dados seguem suas próprias licenças e condições de acesso, listadas no registro de fontes.
RelatóriosContribuir

Contribua com evidências a partir desta página.

Relatórios is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.

Global Risks AllianceIA e Risco de Modelos FinanceirosMétodos e documentos técnicosTecnologia exponencial

Nunca envie dados pessoais, detalhes sensíveis de infraestrutura nem nada que você não tenha o direito de compartilhar. Uma contribuição é revisada antes do uso. Enviá-la não confere autoria nem direitos editoriais, e o patrocínio nunca compra uma constatação.

IA e Risco de Modelos Financeiros

Apresente à Alliance uma questão de exposição ou de capital.

A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.

Propor um piloto de preparação Veja todas as vias de contato
Jurídico

Os mapas, dados e números deste site são apresentados como contexto e informação geral. Não são aconselhamento, previsões nem avisos; os limites da informação estão expostos nos Avisos legais e nos Avisos sobre dados.