Skip to content

GRA · IA e Risco de Modelos Financeiros

Finanças espaciaisOnde o capital encontra ameaça, exposição e transição

Inteligência artificial e aprendizado de máquina para a IA e o risco de modelos financeiros

Artificial intelligence and machine learning are methods that learn patterns from data to predict, classify or generate. On this platform they are explained as the techniques behind modern credit, pricing, fraud and generative tools, and as sources of model risk with distinctive failure modes.

01Registrar

Artificial intelligence and machine learning for AI and financial model risk on the record.

Registro do métodoMétodo CTEM
  1. MétodoInteligência artificial e aprendizado de máquina
  2. Aplicado emO AI and Financial risco de modelo
  3. Página canônicaBens comuns CTEM
02Candidatura

O que a inteligência artificial e o aprendizado de máquina fazem aqui.

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In artificial intelligence and financial stability, machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on the STEM Commons.

Gradient-boosted credit models

Conjuntos de árvores usados em credit scoring são examinados quanto a ganhos de poder de ordenação, sensibilidade a mudanças nos dados e à forma como suas razões podem ser explicadas aos solicitantes.

Modelos de linguagem em operações

Os grandes modelos de linguagem usados para resumir documentos e redigir respostas são avaliados quanto à precisão factual, fundamentação e tratamento de dados antes da implantação.

Detecção de anomalias

Unsupervised methods that flag unusual transactions or trades are examined for false positive rates and for how alerts are reviewed by staff.

03Exposição, perda e capital

O que isso significa para exposição, perdas e capital.

As vistas de exposição, perda, cenários e capital que um responsável pelo risco, um supervisor ou um ministério das finanças pediria, com os quadros de referência perante os quais reportam. As estruturas seguem a prática de supervisão e atuarial. Os valores são ilustrativos: nunca preços, notações ou aconselhamento.

Canais de transmissão

How a shock in Artificial intelligence and machine learning for AI and financial model risk reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
Cenários climáticos do NGFS · Network for Greening the Financial SystemIFRS S2 Divulgações Relacionadas ao Clima · ISSBRecomendações da TCFD · Financial Stability Board TCFDPrincípios para a gestão eficaz dos riscos financeiros relacionados ao clima · Comitê de Basileia de Supervisão Bancária
04Dados

O que o método consome.

Conjuntos de dados e registros usados pela inteligência artificial e pelo aprendizado de máquina nesta plataforma, com o papel que cada um desempenha e a etiqueta que seus valores levam. As fontes estão listadas no registro de fontes.

DadosFunçãoRótulo
Labelled historical decisions and outcomesTreinamento e testesREPORTADO
Evaluation datasetsMedição de desempenhoOBSERVADO
Documentação do modeloConcepção e limitesDECLARADO
05Processo

Como decorre o processo.

Process explorer · Process

Inteligência artificial e aprendizado de máquina para o risco de IA e de modelos financeiros: gestão de risco de IA (NIST)

9 steps5 stages1 gate

Processo

Inteligência artificial e aprendizado de máquina para o risco de IA e de modelos financeiros: gestão de risco de IA (NIST)

O núcleo do AI RMF tem quatro funções, GOVERN, MAP, MEASURE e MANAGE, com GOVERN de caráter transversal; a ordem representada é uma leitura comum, não uma lista de verificação.

  1. 01 Governar

    1. 01GOVERN: políticas, papéis e responsabilizaçãoEtapa · Comitê de MRMGOVERN é uma função transversal. Ela permeia toda a gestão de riscos de IA e viabiliza as demais funções.
  2. 02 Map

    1. 02MAP: contexto e uso pretendidoConjunto de dadosA função MAP estabelece o contexto para delimitar os riscos relacionados a um sistema de IA, incluindo finalidades pretendidas e impactos sobre as pessoas.
  3. 03 Medir

    1. 03MEDIR: avaliar as características de confiabilidadeModeloAI sistemas de IA são avaliados quanto a características de confiabilidade. Devem ser testados antes da implantação e regularmente em operação.
    2. 04MEASURE: acompanhar os riscos identificados ao longo do tempoModeloHá mecanismos para acompanhar ao longo do tempo os riscos de IA identificados, incluindo riscos imprevistos e emergentes.
  4. 04 Gerenciar

    1. 05GERIR: tratar os riscosPassoTratamento do risco abrangem a resposta a incidentes, a recuperação e a comunicação sobre eles. Os recursos são destinados a riscos mapeados e medidos.
    2. 06Prosseguir ou não (MANAGE 1.1)Etapa de controle · comitê de MRMDetermina-se se o sistema cumpre seus propósitos e objetivos e se deve prosseguir. O quadro não estabelece limiares.
    3. 07Decisão de implantaçãoDecisão · Comitê de MRMA organização proprietária do sistema decide se o implanta e em que condições.
    4. 08Monitoramento pós-implantação e incidentesModeloPlanos de monitoramento pós-implantação são executados. Incidentes e erros são compartilhados com os atores de IA relevantes, inclusive as comunidades afetadas.
  5. 05 Registro

    1. 09Inventário de sistemas de IAConjunto de dadosGOVERN 1.6 pede mecanismos para inventariar sistemas de IA. O cartão de modelo é prática comum e não é mencionado na estrutura.

Esboço neutro de uma norma ou método externo publicado, conforme o órgão emissor. Não é um registro de operação. O Nexus não executa, certifica nem aprova nenhuma etapa mostrada. Uma etapa de controle ou decisão pertence à parte indicada pela fonte. As ações não constituem necessariamente um conjunto ordenado de etapas. A Lei de IA da UE não é representada neste fluxo.

06Validação

Como os resultados são verificados.

Os modelos são avaliados com dados reservados que respeitam a estrutura espacial, temporal e de grupos. A robustez, a calibração e a equidade são testadas ao lado da exatidão.

VerificarComo é feito
Teste fora do períodoOs modelos são testados em períodos posteriores aos dos dados de treinamento
Benchmark comparisonModelos complexos são comparados com alternativas mais simples
EstabilidadeO desempenho e as explicações são verificados ao longo de execuções de retreinamento

O desempenho se degrada quando as condições de implantação diferem dos dados de treinamento. Os modelos podem codificar vieses e falhar sem aviso claro em eventos raros.

08Gestão responsável

Quem mantém o método.

Inteligência artificial e sistemas autônomos é guardião da inteligência artificial e do aprendizado de máquina para o Consortium e revisa como são aplicados nas plataformas.

10Perguntas

Perguntas e respostas.

Quais são os limites da inteligência artificial e do aprendizado de máquina neste campo?
O desempenho se degrada quando as condições de implantação diferem dos dados de treinamento. Os modelos podem codificar vieses e falhar sem aviso claro em eventos raros.
Como os resultados são verificados?
Os modelos são avaliados com dados reservados que respeitam a estrutura espacial, temporal e de grupos. A robustez, a calibração e a equidade são testadas ao lado da exatidão.
Os valores desta página são reais?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Onde mais este método é aplicado?
O Observatory do página canônica do método lista todas as plataformas que o aplicam.
RelatóriosContribuir

Contribua com evidências a partir desta página.

Reports é a publicação trimestral do Consortium. O que você sabe sobre este tema pode se tornar evidência, um caso ou uma correção na próxima edição, com crédito a você e publicado sob CC BY 4.0 quando for obra sua.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
IA e Risco de Modelos Financeiros

Apresente à Alliance uma questão de exposição ou de capital.

A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.