Skip to content

GRA · Yapay Zekâ ve Finansal Model Riski

Mekânsal finansSermayenin tehlike, maruziyet ve geçişle buluştuğu yer

Model izleme ve kayma

Kullanıma alındığında doğrulanmış bir model, müşteriler, ürünler, piyasalar ve veri akışları değiştikçe sonradan başarısız olabilir. İzleme, sapmayı tespit etmek ve incelemeyi başlatmak için performansı, girdi dağılımlarını ve sonuçları takip eder. Sık yeniden eğitilen makine öğrenmesi modelleri kendi risklerini de beraberinde getirir. Bu sayfa, sapmanın nasıl ortaya çıktığını, izlemenin onu nasıl tespit ettiğini, kullanılan ölçütleri ve bir modelin ne zaman değiştirilmesi veya durdurulması gerektiğine kimin karar verdiğini ortaya koyar.

01Sicil

Model monitoring and drift on the record.

02Soru

Model monitoring and drift: how the risk develops.

Changes over time and review thresholds. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

Mekanizma

Data drift

The distribution of inputs shifts as new customer segments arrive, products change or upstream systems alter fields. The model meets data it was not trained on.

Mekanizma

Concept drift

Girdiler ile sonuçlar arasındaki ilişki değişir; örneğin bir ekonomik şok, kimlerin temerrüde düştüğünü değiştirdiğinde. Girdiler istikrarlı görünse bile doğruluk düşer.

Mekanizma

Outcomes arrive late

Temerrütler ve hasar talepleri kararlardan aylar ya da yıllar sonra ortaya çıkar; bu nedenle gerçek performans geç öğrenilir. Vekil göstergeler ve erken göstergeler bu boşluğu belirsizlikle doldurur.

Mekanizma

Retraining adds risk

Frequent retraining can absorb drift, and it can also learn from feedback loops or corrupted data. Each retrained version needs controls proportionate to its use.

03Maruziyet, kayıp ve sermaye

Model izleme ve sapmanın maruziyet, kayıp ve sermaye açısından ne anlama geldiği.

Bir risk yöneticisinin, denetim kurumunun veya maliye bakanlığının talep edeceği maruziyet, kayıp, senaryo ve sermaye görünümleri ile raporlama yaptıkları çerçeveler. Yapılar denetim ve aktüerya uygulamalarını izler. Değerler açıklayıcıdır: asla fiyat, derecelendirme veya tavsiye değildir.

Aktarım kanalları

Model izleme ve model kaymasındaki bir şokun kredi, piyasa, sigortacılık, likidite ve operasyonel riske nasıl ulaştığı ve nasıl geri beslendiği.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
NGFS iklim senaryoları · Network for Greening the Financial SystemIFRS S2 İklimle İlgili Açıklamalar · ISSBTCFD tavsiyeleri · Finansal İstikrar Kurulu TCFDİklimle ilgili finansal risklerin etkin yönetimine ilişkin ilkeler · Basel Bankacılık Denetim Komitesi
04Göstergeler

Neyin ve ne kadar iyi ölçüldüğü.

Her gösterge birimini, sıklığını, ardındaki kaynak türünü ve bir değerin taşıyacağı kanıt etiketini taşır. Hiçbir değer gösterilmez: değerleri bir program kendi yetkisi altında sağlar.

GöstergeBirimSıklıkKaynak türüEtiket
Population stability index by inputboyutsuzaylıkİzlemeTAHMİNİ
Doğrulama temel çizgisine göre performanschange in discrimination or calibrationaylık veya üç aylıkİzlemeTAHMİNİ
Monitoring alerts breaching thresholdssayıaylıkMonitoring recordsGÖZLENEN
Models retrained in periodsayıüç ayda birModel recordsBEYAN EDİLDİ
Data pipeline incidents affecting modelssayıüç ayda birOlay kayıtlarıBİLDİRİLMİŞ
Time from alert to remediationgünper alertYönetişim kayıtlarıGÖZLENEN
05Kaynaklar

Kanıtın nereden geldiği.

Her biri lisans sınıfıyla birlikte, adı belirtilmiş kamuya açık veri kümeleri ve kurumsal kayıtlar. Anlaşmaya dayalı kaynaklar yalnızca koşullarına göre kullanılır ve asla yeniden yayımlanmaz.

KaynakSağladıklarıLisans sınıfı
Model izlemeye ilişkin PRA SS1/23 ilkeleriExpectations for ongoing performance monitoringÜcretsiz, Bank of England koşulları
SR 11-7 on ongoing monitoring and outcomes analysisUnited States expectationsKamu malı
EBA guidelines on loan origination and monitoringMonitoring of automated credit modelsÜcretsiz, AB yeniden kullanım koşulları
Academic research on dataset shiftVeri kaymasını tespit etme ve ona uyum sağlama yöntemleriOkumak ücretsiz, koşullar yayıncıya göre
Banka Pillar 3 model geriye dönük test açıklamalarıBack-testing results for capital modelsKamu kayıtları, koşullar bankaya göre değişir
06Kararlar

Kim karar verir ve kanıt neye hizmet eder.

Yapay Zekâ ve Finansal Model Riski kanıt hazırlar. Aşağıdaki kararları, kendi kuralları çerçevesinde adı geçen yetkili makamlar alır; platform asla almaz.

Kim karar verirSoruBu sayfanın hizmet ettiği kanıt
Model sahipleriWhen to recalibrate, redevelop or retire a modelMonitoring results against thresholds
Model riski işlevleriKademeye göre hangi izleme standartları geçerlidirPolicy and monitoring evidence
Denetleyici kurumlarWhether monitoring is adequate for capital and conduct modelsBack-testing and review findings
Veri sahipleriHow upstream changes are controlledPipeline incident records

Bu konunun ürettiği çıktılar

  • Guide to data drift and concept drift
  • Method note on monitoring thresholds and alerts
  • Brief on controls for frequently retrained models
  • Questions for model owners on late-arriving outcomes
07Temel sorular

Uzmanların sordukları.

Monitoring questions ask how soon a problem will be seen.

  • Which performance measures are monitored, and how often?
  • How quickly are outcomes, such as defaults or claims, observed, and what fills the gap meanwhile?
  • Has the input data distribution shifted, and does it matter?
  • What thresholds trigger review, recalibration or withdrawal, and who set them?
  • How are continuously retrained models governed?
08Mekanizmalar

Mekanizmalar ve etkenler.

Data drift occurs when the distribution of inputs changes, for example a new customer segment or a change in a data source. Concept drift occurs when the relationship between inputs and outcomes changes, for example when an economic shock alters how income predicts repayment. Concept drift is more dangerous and harder to detect, because outcomes may take months or years to observe.

Feedback loops add complexity: a model’s decisions change who becomes a customer, which changes future data. Retraining can restore performance but can also absorb errors or bias, so retrained models need governance of their own.

09Yöntemler ve veriler

Nasıl incelendiği ve yöntemlerin nerede durduğu.

Yöntem veya veriGösterdiğiSınırlar
Performance tracking against outcomesAccuracy and calibration over timeOutcomes arrive with delay
Dağılım kayması istatistikleriChanges in input dataShift does not always mean performance loss
Benchmark and challenger modelsGöreli performansChallengers share some data limitations
Eşik ve uyarı çerçeveleriNe zaman üst düzeye taşınmalıThresholds involve judgement
11Sorular

Sorular ve yanıtlar.

What is the difference between data drift and concept drift?
Data drift is a change in the distribution of inputs; concept drift is a change in how inputs relate to outcomes. Either can reduce model accuracy.
What is a population stability index?
A measure comparing the distribution of a variable or score between two periods, used to detect shifts in the population a model scores.
Modeller otomatik olarak yeniden eğitilmeli mi?
Automatic retraining can keep models current but needs controls on data quality, performance checks and approval proportionate to the model’s use.
Why is concept drift hard to detect?
Because it involves changes in the relationship between inputs and outcomes, and outcomes such as defaults may only be known long after decisions are made.
Otomatik yeniden eğitim bir çözüm müdür?
Yardımcı olabilir ancak yönetişim gerektirir: yeniden eğitilen modeller hataları, yanlılığı veya geçici koşulları içine alabilir ve yine de test edilip onaylanmalıdır.
Does the platform monitor firms’ models?
Hayır. GRA hiçbir modeli izlemez, doğrulamaz veya onaylamaz.
RaporlarKatkıda bulunun

Bu sayfadan kanıt katkısında bulunun.

Reports, Konsorsiyumun üç ayda bir yayımlanan yayınıdır. Bu konu hakkında bildikleriniz bir sonraki sayıda kanıt, vaka veya düzeltme olabilir; size atfedilir ve kendi çalışmanızsa CC BY 4.0 kapsamında yayımlanır.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
Yapay Zekâ ve Finansal Model Riski

Bir maruziyet veya sermaye sorusunu İttifak'a getirin.

Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.