Skip to content

GRA · AI and Financial Model Risk

Spatial financeWhere capital meets hazard, exposure and transition

Analysis and uncertainty

Xetera modelê is managed through inventory, documentation, conceptual soundness review, outcome analysis, benchmarking and ongoing monitoring. This page explains each step, how machine learning changes it, and why generative and agentic AI sit partly outside current guidance.

Pirsek bike Back to Professional research
01Naverok

Analysis and uncertainty in five parts.

Di vê dosyeyê de5 parts
  1. 01RêbazThe methods in use
  2. 02RêbazExplainability and fairness methods, with limits
  3. 03NediyarîQuantifying what the model does not know
  4. 04NediyarîHow uncertainty is reported
  5. 05ÇavkanîWhere this page’s references lead
02Rêbaz

The methods in use.

  1. Zîrekiya çêkirî û fêrbûna makîneyêGradient-boosted credit models · Language models in operations · Anomaly detectionApplied here
    Canonical · STEM Commons
  2. Endezyariya nirxandin û teminata zîrekiya çêkirîValidation of machine learning models · Red-teaming generative AI · Fairness assessmentApplied here
    Canonical · STEM Commons
  3. Pîvandina nediyariyê û rastandina modelêPrediction intervals for loss models · Model ensembles · Model risk capital or buffersApplied here
    Canonical · STEM Commons
  4. Îhtîmal û statîstîkCalibration testing · Drift statistics · Group outcome comparisonApplied here
    Canonical · STEM Commons
03Explainability and fairness methods

Explainability and fairness methods, with limits.

RêbazGivesSînor
SHAP and other attribution methodsContribution of each input to a predictionCorrelated inputs blur attribution
Counterfactual explanationsWhat change would alter the decisionMay suggest infeasible changes
Group fairness metricsOutcome differences across groupsMetrics can conflict
Challenger modelsIndependent benchmarkShares data weaknesses
04Pêvajo

Pêvajo çawa dimeşe.

Process explorer · Process

Analysis and uncertainty: Source to evidence record

10 steps4 qonax2 derî

Pêvajo

Analysis and uncertainty: Source to evidence record

Çavkanî tê tomarkirin û nirxandin, tomara wê tê nîşankirin û dabeşkirin, û Pasaporta Delîla Dîjîtal çavkanîbûnê hildigire; rastkirin digihîje her tomara girêdayî.

  1. 01 Wergirtin

    1. 01Çavkaniyê nas bikeÇavkanî · Parêzvanê çavkaniyêKeşif ne wergirtin e. Nasîna çavkaniyê çîna çavkaniyê, parêzvan, rola saziyî û dadrêsiyê tomar dike.
    2. 03Çavkaniyê tomar bikeGavTomarkirin çavkaniyeke hatî keşifkirin dike beşdarekî birêvebirî yê çerxa jiyanê ya delîlan. Ew tu piştgirî an pejirandinê nade.

  2. 02 Nirxandin

    1. 04Dadrêsî û dabeşkirina mafanDerîDabeşkirina mafan lîsans, razîbûn, nepenîtî û sînorên bikaranîna ji nû ve dide nasîn. Encam gihîştin û rêvekirinê diyar dike.
    2. 05Nirxandina kalîteya delîlanGavNirxandina kalîteyê diyar dike gelo tomar ji bo bikaranîneke diyarkirî guncav e. Kalîte pirdîmenî ye û tu carî ne puaneke yekane ye.
    3. 06Nîşana delîlanGavHer encam yek ji nehê nîşanên delîlan hildigire. Daneya kêm wekî kêm tê nîşandan, qet wekî sifir.

  3. 03 Tomar

    1. 07Dabeşkirina delîlanTomarDabeşkirin rewşên çerxa jiyanê dide tomaran, wekî çavkanî-rastandî, ewle-ji-bo-giştî an bisînor. Rewş dikarin bi hev re hebin û bikaranîna delîlan diyar bikin.
    2. 08Weşana çavkaniyê û nasnameTomar · NXS-GRX (daneya kanonîk, çavkanîbûn û xetere)Weşana çavkaniyê maf, vegirtina demî û nijada çavkaniyê tomar dike. UNI bi riya katalogekê tê dayîn û tu carî bi dest nayê nivîsandin.
    3. 09Pasaporta Delîla DîjîtalTomarPasaport çavkanîbûn, kalîte, maf, dadrêsî, bikaranîna destûrdayî û dîrokê tomar dike, da ku delîl dema digere çarçoveya xwe biparêze.

  4. 04 Bikaranîn û rastkirin

    1. 02Rastkirin digihîje tomarên girêdayîGav · NXS-GRX (daneya kanonîk, çavkanîbûn û xetere)Rastkirina çavkaniyekê digihîje birr û berhemên girêdayî bêyî ku encamên kevin ji nû ve binivîse.
    2. 10Nirxandina ewle ya giştîDerîNirxandina ewle-ji-bo-giştî diyar dike ka tomar dikare bi giştî were parvekirin. Ew qonaxeke cuda ye û ne rastandin e.

Protokolên daneyan: çerxa jiyanê ya delîlan · Data protocols: core data objects and evidence records · The Global Risks Index (NXS-GRX)Designed programme process, not a record of operation. No cycle has run and every programme is at service level R0. A gate is a programme decision, never a public-authority approval, certification or deployment authorisation. The data-protocol pages describe a design, not a running system.

05Nediyarî

Quantifying what the model does not know.

Prediction intervals and calibration checks show when a model is outside its experience. Methods at GCRI uncertainty quantification; topic depth at explainability and fairness.

06How uncertainty is reported

How uncertainty is reported.

  1. 01

    State assumptions

    Each analysis lists its assumptions and the data it depends on.

  2. 02

    Quantify where possible

    Ranges and confidence are reported alongside central estimates.

  3. 03

    Validate and compare

    Models are checked against observations and, where possible, against other models.

  4. 04

    Publish limits

    What an analysis cannot show is stated beside what it can.

07Çavkanî

Where this page’s references lead.

Sazî û belgeyên ku ev rûpel li hember wan tê xwendin. Rewş û çap diguherin; her girêdan diçe ba saziya derxistinê.

08Pirs

Pirs û bersiv.

Are the methods open?
Method descriptions are public on the STEM Commons. Code and data follow their own licences and access terms, listed in the source register.
rêzeya Pergalên StratejîkTevkarî bike

Ji vê rûpelê delîl bidin.

rêzeya Pergalên Stratejîk is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.

Global Risks AllianceXetera AI û modelên darayîRêbaz û teknîkîTeknolojiya eksponensiyel

Tu carî daneyên şexsî, hûrgiliyên binesaza hesas an tiştekî ku mafê we yê parvekirinê tune ne neşînin. Beşdarî berî bikaranînê tê nirxandin; şandina wê nivîskarî an mafên edîtorî nade û sponsorî tu carî encamekê nakire.

Xetera AI û modelên darayî

Bring an exposure or capital question to the Alliance.

Agahî û pirs îro vekirî ne. Pirsek referansekê distîne û gava piştî wê dide nasîn; serlêdan, drav, veqetandina hesabkirinê û tomarkirin tenê dema ku tîm, mercên wê û kapasîteya vekolînê hebin vedibin.

Propose a readiness pilot Hemû rêyên têkiliyê bibînin
Hiqûqî

Nexşe, dane û jimarên vê malperê ji bo çarçoveyê û agahiyên giştî têne nîşandan. Ew ne şîret, ne pêşbînî û ne hişyarî ne; sînorên agahiyê di Daxuyaniyên Berpirsiyariyê û Daxuyaniyên Daneyê de hatine diyarkirin.