GRA · Yapay Zekâ ve Finansal Model Riski
Mekânsal finansSermayenin tehlike, maruziyet ve geçişle buluştuğu yer
Analiz ve belirsizlik
Model riski is managed through inventory, documentation, conceptual soundness review, outcome analysis, benchmarking and ongoing monitoring. This page explains each step, how machine learning changes it, and why generative and agentic AI sit partly outside current guidance.
Analysis and uncertainty in five parts.
Kullanımdaki yöntemler.
- 01Yapay zekâ ve makine öğrenmesiGradient-boosted credit models · Language models in operations · Anomaly detectionBurada uygulanır
- 02Yapay zekâ değerlendirme ve güvence mühendisliğiValidation of machine learning models · Red-teaming generative AI · Fairness assessmentBurada uygulanır
- 03Belirsizliğin nicelleştirilmesi ve model doğrulamasıPrediction intervals for loss models · Model ensembles · Model risk capital or buffersBurada uygulanır
- 04Olasılık ve istatistikCalibration testing · Drift statistics · Group outcome comparisonBurada uygulanır
Explainability and fairness methods, with limits.
| Yöntem | Gives | Sınır |
|---|---|---|
| SHAP and other attribution methods | Contribution of each input to a prediction | Correlated inputs blur attribution |
| Counterfactual explanations | What change would alter the decision | May suggest infeasible changes |
| Group fairness metrics | Outcome differences across groups | Metrics can conflict |
| Challenger models | Independent benchmark | Shares data weaknesses |
Sürecin nasıl işlediği.
Process explorer · Process
Analysis and uncertainty: Source to evidence record
10 steps·4 aşama·2 kapı
Süreç
Analysis and uncertainty: Source to evidence record
Bir kaynak kaydedilir ve değerlendirilir, kaydı etiketlenir ve sınıflandırılır, Dijital Kanıt Pasaportu menşei taşır; bir düzeltme her bağımlı kayda ulaşır.
01 Kabul
- 01Kaynağı tanımlayınKaynak · Kaynak sorumlusuKeşif, veri alımı değildir. Kaynak tanımlama; kaynak sınıfını, kaynak sorumlusunu, kurumsal rolü ve yetki alanını kaydeder.
- 03Kaynağı kaydedinAdımKayıt, keşfedilen bir kaynağı kanıt yaşam döngüsünün yönetilen bir katılımcısı hâline getirir. Herhangi bir onay veya belgelendirme anlamına gelmez.
02 Değerlendirme
- 04Yetki alanı ve hak sınıflandırmasıGeçitHak sınıflandırması lisansı, rızayı, gizliliği ve yeniden kullanım sınırlarını belirler. Sonuç erişimi ve yönlendirmeyi belirler.
- 05Kanıt kalitesi değerlendirmesiAdımKalite değerlendirmesi, bir kaydın tanımlanmış bir kullanıma uygun olup olmadığına karar verir. Kalite çok boyutludur ve hiçbir zaman tek bir puan değildir.
- 06Kanıt etiketiAdımHer bulgu dokuz kanıt etiketinden birini taşır. Eksik veri hiçbir zaman sıfır olarak değil, eksik olarak gösterilir.
03 Kayıt
- 07Kanıt sınıflandırmasıKayıtSınıflandırma, kayıtlara kaynağı doğrulanmış, kamuya açık güvenli veya kısıtlı gibi yaşam döngüsü durumları verir. Durumlar bir arada bulunabilir ve kanıtın kullanımını belirler.
- 08Kaynak sürümü ve tanımlayıcıKayıt · NXS-GRX (kanonik veriler, kaynak izlenebilirliği ve risk)Bir kaynak sürümü hakları, zamansal kapsamı ve kaynak soyunu kaydeder. Bir UNI bir katalog aracılığıyla atanır ve hiçbir zaman elle yazılmaz.
- 09Dijital Kanıt PasaportuKayıtPasaport kaynak izlenebilirliğini, kaliteyi, hakları, yetki alanını, izin verilen kullanımı ve geçmişi kaydeder; böylece kanıt aktarıldığında bağlamını korur.
04 Kullanım ve düzeltme
- 02Düzeltme bağımlı kayıtlara ulaşırAdım · NXS-GRX (kanonik veri, kaynak izlenebilirliği ve risk)Bir kaynak düzeltmesi, eski sonuçları yeniden yazmadan bağımlı kesitlere ve ürünlere yayılır.
- 10Kamuya açık güvenli incelemeGeçitKamuya açık güvenlik incelemesi, bir kaydın kamuyla paylaşılıp paylaşılamayacağına karar verir. Ayrı bir aşamadır ve doğrulama değildir.
Veri protokolleri: kanıt yaşam döngüsü · Data protocols: core data objects and evidence records · The Global Risks Index (NXS-GRX)Designed programme process, not a record of operation. No cycle has run and every programme is at service level R0. A gate is a programme decision, never a public-authority approval, certification or deployment authorisation. The data-protocol pages describe a design, not a running system.
Quantifying what the model does not know.
Prediction intervals and calibration checks show when a model is outside its experience. Methods at GCRI uncertainty quantification; topic depth at explainability and fairness.
Belirsizlik nasıl raporlanır.
- 01
Varsayımları belirtin
Her analiz varsayımlarını ve dayandığı verileri listeler.
- 02
Mümkün olduğunda sayısallaştırın
Aralıklar ve güven düzeyleri, merkezi tahminlerle birlikte raporlanır.
- 03
Doğrulayın ve karşılaştırın
Modeller gözlemlere ve mümkün olduğunda diğer modellere göre kontrol edilir.
- 04
Sınırları yayımlayın
Bir analizin gösteremeyecekleri, gösterebileceklerinin yanında belirtilir.
Where this page’s references lead.
Bu sayfanın karşılaştırıldığı kuruluşlar ve belgeler. Durumlar ve sürümler değişir; her bağlantı yayımlayan kuruluşa gider.
Sorular ve yanıtlar.
Yöntemler açık mı?
Bu sayfadan kanıt katkısında bulunun.
Raporlar is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- E-postaGeçit GW-GRABu sayfadan gönderinKanıt, bir düzeltme, bir vaka, bir yöntem, bir inceleme, bir çeviri veya profil girdisi. Bu sayfayla etiketlenmiş olarak gelir; böylece sayfanın sahibi editör onu alır.
- ZenodoAçık depoDepolayın ve topluluğa gönderinKendi kaydınızı ORCID iD'nizle Zenodo'da yayımlayın, ardından orada Reports topluluğuna gönderin. Küratörler inceler; DOI sizde kalır.
- RaporlarGlobal Risks AllianceKatkıda bulunmanın tüm yollarını görünKatkı türleri, her birinin nasıl incelendiği, alacağınız atıf, lisans ve asla kabul edilmeyenler.
Hiçbir zaman kişisel veri, hassas altyapı ayrıntısı veya paylaşma hakkınız olmayan hiçbir şey göndermeyin. Bir katkı kullanılmadan önce incelenir. Katkıyı göndermek yazarlık veya editoryal hak sağlamaz ve sponsorluk hiçbir zaman bir bulgu satın almaz.
Bir maruziyet veya sermaye sorusunu İttifak'a getirin.
Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.
Hukuki belgeler.
Bu sitedeki haritalar, veriler ve şekiller bağlam ve genel bilgi amacıyla gösterilir. Tavsiye, tahmin ya da uyarı değildir; bilgilerin sınırları Sorumluluk Reddi ve Veri Bildirimleri'nde açıklanmıştır.