GRA · Yapay Zekâ ve Finansal Model Riski
Mekânsal finansSermayenin tehlike, maruziyet ve geçişle buluştuğu yer
Üçüncü taraf modeller
Firms use vendor credit scores, fraud models, catastrophe models, market data analytics and foundation models they did not build and cannot fully inspect. Responsibility for model risk stays with the firm. This page sets out how third-party model risk arises, how firms validate what they cannot see, the evidence available, and who decides.
Third party models on the record.
Third party models: how the risk develops.
Vendor dependencies and due diligence. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Limited transparency
Vendors protect their methods as trade secrets. Firms may get documentation and performance reports but not code, data or training details, which limits validation.
Shared models, shared errors
When many firms use the same vendor model, its errors affect them all at once and can move markets or credit supply together.
Updates change behaviour
Vendors update models and data on their own schedules. Without notice and change analysis, a firm’s validated model can change silently.
Validation by outcomes
Where internals are hidden, firms validate through benchmarking, outcome analysis and testing on their own data, which needs time and data.
Model riski yaşam döngüsü.
Bir ekibin bu konuyu izlemek için kullanacağı ekran: ölçütleri, durumları ve kararları. Adlar örnektir ve değerler açıklayıcıdır.
Model riski yaşam döngüsü
Third party models · Model inventory · Committee 8
Yaşam döngüsü
- Envanterkayıtlı
- Geliştirinbelgelendi
- Doğrulayınbağımsız
- Onaylamakomite
- Uygulamakontroller
- İzlemeeşikler
- İncelemeyıllık
- Kullanımdan kaldırındevreden çıkarma
Modeller
| MD-709 PD retail | Kademe 1 | 9 months | 1 | Süresi geçti |
| MD-561 LLM complaints triage | Kademe 1 | asla | 0 | Doğrulanmadı |
| MD-601 IFRS 9 staging | Kademe 1 | 3 months | 0 | Onaylandı |
| MD-088 marketing propensity | Kademe 3 | 14 months | 1 | Onaylandı |
Doğrulama kapsamı
- Kavramsal sağlamlık
- Sürüyor
- Sonuç analizi
- Beklemede
- Kıyaslama
- Beklemede
- Kullanım sınırları
- insan incelemesi gerekli
Neyin ve ne kadar iyi ölçüldüğü.
Her gösterge birimini, sıklığını, ardındaki kaynak türünü ve bir değerin taşıyacağı kanıt etiketini taşır. Hiçbir değer gösterilmez: değerleri bir program kendi yetkisi altında sağlar.
| Gösterge | Birim | Sıklık | Kaynak türü | Etiket |
|---|---|---|---|---|
| Envanterdeki üçüncü taraf modeller | katmana göre sayı | yıllık | Model envanteri | BEYAN EDİLDİ |
| Vendor models with full documentation | pay | yıllık | Tedarikçi yönetimi kayıtları | BEYAN EDİLDİ |
| Vendor model changes notified | sayı | yılda | Vendor notices | BİLDİRİLMİŞ |
| Third-party models validated on own data | pay | yıllık | Doğrulama kayıtları | BEYAN EDİLDİ |
| Concentration of vendor model use across firms | önde gelen tedarikçileri kullanan firmaların payı | periyodik | Denetim anketleri | BİLDİRİLMİŞ |
| Contracts with model change notice clauses | pay | periyodik | Sözleşme incelemeleri | BEYAN EDİLDİ |
What third party models means for exposure, loss and capital.
Bir risk yöneticisinin, denetim kurumunun veya maliye bakanlığının talep edeceği maruziyet, kayıp, senaryo ve sermaye görünümleri ile raporlama yaptıkları çerçeveler. Yapılar denetim ve aktüerya uygulamalarını izler. Değerler açıklayıcıdır: asla fiyat, derecelendirme veya tavsiye değildir.
Aktarım kanalları
How a shock in third party models reaches credit, market, underwriting, liquidity and operational risk, and feeds back.
Kanıtın nereden geldiği.
Her biri lisans sınıfıyla birlikte, adı belirtilmiş kamuya açık veri kümeleri ve kurumsal kayıtlar. Anlaşmaya dayalı kaynaklar yalnızca koşullarına göre kullanılır ve asla yeniden yayımlanmaz.
| Kaynak | Sağladıkları | Lisans sınıfı |
|---|---|---|
| Tedarikçi ve üçüncü taraf modelleri hakkında SR 11-7 rehberliği | Expectations for using external models | Kamu malı |
| Üçüncü taraf ilişkilerine ilişkin kurumlar arası rehber (Amerika Birleşik Devletleri bankacılık otoriteleri) | Third-party risk management expectations | Kamu malı |
| FSB report on AI financial stability implications | Third-party and concentration risks from AI | Ücretsiz, FSB koşulları |
| EU AI Act obligations for providers and deployers | Division of duties between AI providers and users | Ücretsiz, AB yeniden kullanım koşulları |
| Vendor model documentation and performance reports | Information vendors provide to users | Tescilli, koşullar sağlayıcıya göre değişir |
Kim karar verir ve kanıt neye hizmet eder.
Yapay Zekâ ve Finansal Model Riski kanıt hazırlar. Aşağıdaki kararları, kendi kuralları çerçevesinde adı geçen yetkili makamlar alır; platform asla almaz.
| Kim karar verir | Soru | Bu sayfanın hizmet ettiği kanıt |
|---|---|---|
| Model riski işlevleri | How to validate and approve third-party models | Dokümantasyon, kıyaslamalar ve sonuç testi |
| Procurement and legal | Which transparency and change terms to require | Contract practice and regulatory expectations |
| Denetleyici kurumlar | Whether vendor model use is governed adequately and whether concentration matters | Surveys and review findings |
| Tedarikçiler | What documentation and notice to provide | Customer and regulatory requirements |
Bu konunun ürettiği çıktılar
- Firmaların inceleyemediği modellerin doğrulanmasına ilişkin kılavuz
- Brief on concentration in vendor and foundation models
- Tedarikçi güncellemeleri için değişiklik analizine ilişkin yöntem notu
- Questions for procurement on model transparency terms
Uzmanların sordukları.
The questions concern responsibility for models one did not build.
- Does the institution understand how a vendor model works well enough to validate its use?
- What documentation, testing evidence and access does the vendor provide?
- How are vendor model updates communicated, tested and approved?
- How many institutions rely on the same vendor, and what happens if it fails or changes?
- Can the institution exit or replace the model if needed?
Mekanizmalar ve etkenler.
Vendors often protect their models as intellectual property, limiting the transparency available to users. Institutions must still validate the model’s use for their own purposes, typically through outcome testing, benchmarking and contractual rights to documentation. Updates by the vendor can change model behaviour without the institution’s knowledge.
Concentration is a sector-wide concern. When many institutions use the same vendor model or AI provider, a flaw, outage or change affects them together, creating correlated errors and operational dependencies that no single institution can manage alone.
Nasıl incelendiği ve yöntemlerin nerede durduğu.
| Yöntem veya veri | Gösterdiği | Sınırlar |
|---|---|---|
| Tedarikçi durum tespiti | Vendor capability, controls and transparency | Limited by vendor disclosure |
| Outcome and benchmark testing | Performance on the institution’s own data | Does not reveal internal logic |
| Contract and exit analysis | Rights to information, notification and exit | Rights may be hard to exercise |
| Yoğunlaşma haritalaması | Shared dependencies across the sector | Requires aggregated information |
Nasıl incelendiği ve yöntemlerin söyleyemeyecekleri.
- 01Yapay zekâ değerlendirme ve güvence mühendisliğiMakine öğrenmesi modellerinin doğrulanması · Üretken yapay zekâya yönelik kırmızı takım testleri · Adalet değerlendirmesiBurada uygulanır
- 02Olasılık ve istatistikKalibrasyon testi · Sapma istatistikleri · Grup sonuçlarının karşılaştırılmasıBurada uygulanır
- 03Belirsizliğin nicelleştirilmesi ve model doğrulamasıKayıp modelleri için tahmin aralıkları · Model toplulukları · Model riski sermayesi veya tamponlarıBurada uygulanır
- 04Yapay zekâ ve makine öğrenmesiGradyan artırmalı kredi modelleri · Operasyonlarda dil modelleri · Anomali tespitiBurada uygulanır
Sorular ve yanıtlar.
Who is responsible for a vendor model’s risk?
How can a firm validate a model it cannot see?
Satıcı yoğunlaşması neden önemlidir?
Bir modeli satın almak, riskini satıcıya aktarır mı?
Why is vendor concentration a stability concern?
What should an institution be able to obtain from a model vendor?
Does the platform rate vendors?
Bu sayfadan kanıt katkısında bulunun.
Reports, Konsorsiyumun üç ayda bir yayımlanan yayınıdır. Bu konu hakkında bildikleriniz bir sonraki sayıda kanıt, vaka veya düzeltme olabilir; size atfedilir ve kendi çalışmanızsa CC BY 4.0 kapsamında yayımlanır.
- E-postaGeçit GW-GRABu sayfadan gönderinKanıt, bir düzeltme, bir vaka, bir yöntem, bir inceleme, bir çeviri veya profil girdisi. Bu sayfayla etiketlenmiş olarak gelir; böylece sayfanın sahibi editör onu alır.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks AllianceSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Hiçbir zaman kişisel veri, hassas altyapı ayrıntısı veya paylaşma hakkınız olmayan hiçbir şey göndermeyin. Bir katkı kullanılmadan önce incelenir. Katkıyı göndermek yazarlık veya editoryal hak sağlamaz ve sponsorluk hiçbir zaman bir bulgu satın almaz.
Bir maruziyet veya sermaye sorusunu İttifak'a getirin.
Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.
Hukuki belgeler.
Bu sitedeki haritalar, veriler ve şekiller bağlam ve genel bilgi amacıyla gösterilir. Tavsiye, tahmin ya da uyarı değildir; bilgilerin sınırları Sorumluluk Reddi ve Veri Bildirimleri'nde açıklanmıştır.