GRA · Risiko AI dan Model Keuangan
Keuangan spasialTempat modal bertemu bahaya, keterpaparan, dan transisi
Tata kelola risiko model
Model risk is the potential for loss or harm from decisions based on models that are wrong or misused. Banks, insurers and asset managers manage it through model inventories, risk tiering, independent validation, approval and ongoing monitoring, overseen by boards and senior management. Machine learning and generative AI widen what counts as a model. This page sets out how model risk governance works and fails, the records involved, and who decides.
Model risk governance on the record.
Model risk governance: how the risk develops.
Inventaris, kepemilikan, dan validasi. Dosir di bawah ini memaparkan bagaimana risiko berkembang, apa yang diukur, dari mana data berasal, bagaimana dimodelkan, dan siapa yang memutuskan.
Inventories miss models
Spreadsheets, vendor tools and AI components often sit outside the model inventory. Unlisted models escape validation and monitoring, and their errors surface only when losses or complaints arrive.
Tantangan melemah
Validasi yang tidak memiliki independensi, keahlian, atau kewenangan untuk menghentikan sebuah model hanya menjadi formalitas. Tantangan yang efektif membutuhkan validator yang memahami metode dan dapat memblokir penggunaan.
Tiering sets attention
Models are tiered by materiality and complexity, which decides validation depth. Underestimating a model’s materiality, or the reach of an AI tool, leaves high-impact models lightly reviewed.
Models interact
Outputs of one model feed others: a score feeds pricing, which feeds capital. An error upstream propagates, and aggregate model risk across the chain is rarely measured.
Siklus hidup risiko model.
Layar yang akan digunakan sebuah tim untuk mengikuti subjek ini: ukuran, status, dan keputusannya. Nama adalah contoh dan nilai bersifat ilustratif.
Siklus hidup risiko model
Tata kelola risiko model · Inventaris model · Komite 9
Siklus hidup
- Inventaristerdaftar
- Kembangkanterdokumentasi
- Validasiindependen
- Menyetujuikomite
- Terapkankontrol
- Pantauambang batas
- Tinjauantahunan
- Pensiunkannonaktifkan
Model
| MD-204 PD retail | Tingkat 1 | 14 months | 3 | Lewat tenggat |
| MD-511 LLM complaints triage | Tingkat 1 | tidak pernah | 0 | Belum divalidasi |
| MD-164 IFRS 9 staging | Tingkat 1 | 8 bulan | 1 | Disetujui |
| MD-534 propensitas pemasaran | Tingkatan 3 | 17 months | 0 | Disetujui |
Cakupan validasi
- Kesahihan konseptual
- Sedang berjalan
- Analisis hasil
- Tertunda
- Pembandingan
- Tertunda
- Batas penggunaan
- perlu tinjauan manusia
Apa yang diukur, dan seberapa baik.
Setiap indikator membawa satuan, frekuensi, jenis sumber di baliknya, dan label bukti yang akan dibawa suatu nilai. Tidak ada nilai yang ditampilkan: sebuah program menyediakannya berdasarkan wewenangnya sendiri.
| Indikator | Unit | Kadensi | Jenis sumber | Label |
|---|---|---|---|---|
| Model dalam inventaris | jumlah menurut tingkat | setiap kuartal | Inventaris model | DINYATAKAN |
| Model divalidasi dalam siklus kebijakan | share by tier | setiap kuartal | Catatan validasi | DINYATAKAN |
| Open validation findings | jumlah menurut tingkat keparahan | setiap kuartal | Catatan validasi | DINYATAKAN |
| Model yang digunakan dengan pengecualian atau pembatasan | jumlah | setiap kuartal | Catatan tata kelola model | DINYATAKAN |
| Model AI dan pembelajaran mesin dalam inventaris | count and share | tahunan | Inventory and surveys | DINYATAKAN |
| Supervisory findings on model risk management | jumlah | tahunan | Laporan pengawasan | Statistik yang diterbitkan |
Jalur kebijakan dan dampaknya terhadap risiko.
Bagaimana tiga kelompok instrumen mengubah hasil risiko dari waktu ke waktu dengan jeda adopsi, cakupan, dan kepatuhan, yakni skenario kebijakan di balik penilaian risiko transisi dan fisik. Skenario: asumsi bernama tentang masa depan, bukan prakiraan.
Kendali
- Tren dasar hasil
- 2,0% per tahun
- Cakupan instrumen
- 70%
- Kepatuhan
- 75%
- Ukuran efek terhadap nilai pengajaran
- 100%
- Tahun ke depan
- 20 tahun
Pembacaan
- Penurunan terbesar pada cakrawala
- Regulasi
- Penurunannya terhadap garis dasar
- 21%
Angka, metode, dan sumber
| Tahun | Garis dasar | Regulasi | Insentif ekonomi | Informasi dan kapasitas |
|---|---|---|---|---|
| 0 | 100.0 | 99.5 | 98.8 | 99.1 |
| 1 | 102.0 | 101.2 | 100.1 | 99.8 |
| 2 | 104.0 | 102.5 | 101.1 | 99.9 |
| 3 | 106.1 | 103.5 | 101.6 | 100.0 |
| 4 | 108.2 | 103.7 | 101.8 | 100.7 |
| 5 | 110.4 | 103.2 | 101.7 | 102.1 |
| 6 | 112.6 | 102.0 | 101.6 | 103.9 |
| 7 | 114.9 | 100.4 | 101.6 | 105.9 |
| 8 | 117.2 | 99.2 | 102.1 | 108.0 |
| 9 | 119.5 | 98.6 | 102.9 | 110.1 |
| 10 | 121.9 | 98.9 | 104.2 | 112.3 |
| 11 | 124.3 | 99.7 | 105.7 | 114.5 |
| 12 | 126.8 | 101.1 | 107.4 | 116.8 |
| 13 | 129.4 | 102.7 | 109.4 | 119.2 |
| 14 | 131.9 | 104.5 | 111.4 | 121.6 |
| 15 | 134.6 | 106.5 | 113.5 | 124.0 |
| 16 | 137.3 | 108.5 | 115.7 | 126.5 |
| 17 | 140.0 | 110.7 | 118.0 | 129.0 |
| 18 | 142.8 | 112.9 | 120.4 | 131.6 |
| 19 | 145.7 | 115.1 | 122.8 | 134.2 |
| 20 | 148.6 | 117.4 | 125.2 | 136.9 |
Metode
- Tools of government Hood (1983), The Tools of Government, Macmillan
- Carrots, sticks and sermons Bemelmans-Videc, Rist and Vedung (1998), Transaction
- Diffusion of innovations Rogers (2003), Diffusion of Innovations, Free Press
- Kipas ketidakpastian (Monte Carlo parametrik) Spiegelhalter, Pearson dan Short (2011), Memvisualisasikan ketidakpastian tentang masa depan, Science 333
- One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Data
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- Borders Natural Earth
- Cities Natural Earth
Di seluruh enam pilar, dipimpin oleh Nexus Consortium
- Eksperimen Laboratorium
- Tertanam di Risiko AI dan Model Keuangan di Foundry
- Diuji pada Risiko AI dan Model Keuangan di Universe
- Dikodifikasi dalam Digital, Siber, dan AI di Standards
- Diterbitkan di Risiko AI dan Model Keuangan di Reports
- Diajarkan di Fakultas Teknologi dan Sistem Digital di Academy
Asal bukti.
Set data publik bernama dan catatan kelembagaan, masing-masing dengan kelas lisensinya. Sumber berdasarkan perjanjian hanya digunakan sesuai ketentuannya dan tidak pernah diterbitkan ulang.
| Sumber | Apa yang diberikannya | Kelas lisensi |
|---|---|---|
| Panduan Federal Reserve dan OCC SR 11-7 | Model risk management expectations | Domain publik |
| PRA SS1/23 model risk management principles | Prinsip Inggris untuk bank | Gratis, ketentuan Bank of England |
| ECB guide to internal models | Ekspektasi terhadap model internal yang digunakan untuk modal | Gratis, ketentuan ECB |
| Bank of England and FCA surveys of AI and machine learning in UK financial services | Use and governance of AI across firms | Gratis, ketentuan Bank of England dan FCA |
| Laporan tindak lanjut EBA tentang pembelajaran mesin untuk model berbasis pemeringkatan internal | Supervisory views on ML in capital models | Gratis, ketentuan penggunaan ulang UE |
What model risk governance means for exposure, loss and capital.
Tampilan eksposur, kerugian, skenario, dan modal yang akan diminta oleh pejabat risiko, otoritas pengawas, atau kementerian keuangan, beserta kerangka pelaporan yang mereka gunakan. Strukturnya mengikuti praktik pengawasan dan aktuaria. Nilai bersifat ilustratif: tidak pernah merupakan harga, peringkat, atau saran.
Saluran transmisi
How a shock in model risk governance reaches credit, market, underwriting, liquidity and operational risk, and feeds back.
Siapa yang memutuskan, dan apa yang dilayani bukti.
Risiko AI dan Model menyiapkan bukti. Keputusan di bawah ini diambil oleh otoritas yang disebutkan, berdasarkan aturan mereka sendiri, dan tidak pernah oleh platform.
| Siapa yang memutuskan | Pertanyaannya | Bukti yang dilayani halaman ini |
|---|---|---|
| Boards and senior management | What model risk appetite to set and how to oversee it | Inventory, tiering, findings and incident evidence |
| Model risk management functions | Which models to validate, approve, restrict or retire | Validation results and monitoring |
| Pengawas prudensial | Whether model risk management meets expectations | Supervisory reviews and firm reporting |
| Audit internal | Apakah kerangka risiko model beroperasi sebagaimana dirancang | Catatan tata kelola dan validasi |
Keluaran yang dihasilkan topik ini
- Panduan inventarisasi, penjenjangan, dan validasi model
- Ringkasan tentang perluasan manajemen risiko model ke AI dan AI generatif
- Method note on effective challenge
- Pertanyaan bagi dewan direksi mengenai risiko model agregat
Apa yang ditanyakan pakar.
Governance questions begin with knowing what models exist.
- What counts as a model, and does the definition capture machine learning, vendor tools and generative AI?
- Is every model in the inventory, with an accountable owner and a risk tier?
- Apakah validasi benar-benar independen dan efektif dalam menantang para pengembang?
- Bagaimana keterbatasan model didokumentasikan dan dikomunikasikan kepada pengguna?
- Does the board understand the institution’s aggregate model risk?
Mekanisme dan pendorong.
Models fail through flawed design, poor data, implementation errors, or use beyond their intended scope. Governance frameworks address these through development standards, independent validation and ongoing monitoring, scaled to each model’s materiality. Supervisory guidance on model risk management in several jurisdictions sets expectations along these lines.
AI membebani kerangka kerja tradisional. Model pembelajaran mesin dapat berjumlah banyak, sering dilatih ulang, dan tertanam dalam proses; perangkat AI generatif dapat digunakan secara informal oleh staf; model dari vendor mungkin tidak transparan. Inventaris yang melewatkan penggunaan ini membuat risiko tidak terkelola.
Cara hal ini dikaji, dan di mana batas metodenya.
| Metode atau data | Apa yang ditampilkannya | Batasan |
|---|---|---|
| Model inventories and tiering | Model apa saja yang ada dan seberapa material model tersebut | Penggunaan AI yang informal dan tertanam mudah terlewatkan |
| Validasi independen | Soundness of design, data and implementation | Validation is constrained by time, skills and access to vendor details |
| Governance benchmarking | How institutions organise model risk | Self-reported and hard to compare |
| Analisis isu dan temuan | Recurring weaknesses | Findings are confidential within firms |
Cara hal ini dikaji, dan apa yang tidak dapat dinyatakan metodenya.
- 01Evaluasi AI dan rekayasa penjaminanValidasi model pembelajaran mesin · Red-teaming AI generatif · Penilaian keadilanDiterapkan di sini
- 02Probabilitas dan statistikaPengujian kalibrasi · Statistik pergeseran · Perbandingan hasil antarkelompokDiterapkan di sini
- 03Kuantifikasi ketidakpastian dan validasi modelInterval prediksi untuk model kerugian · Ansambel model · Modal atau penyangga risiko modelDiterapkan di sini
- 04Kecerdasan buatan dan pembelajaran mesinModel kredit gradient-boosted · Model bahasa dalam operasi · Deteksi anomaliDiterapkan di sini
Tanya jawab.
Apa itu risiko model?
Apa yang dimaksud dengan tantangan efektif (effective challenge)?
Are AI models covered by model risk rules?
Apakah spreadsheet dan perangkat AI generatif dihitung sebagai model?
Does the platform review firms’ frameworks?
Kontribusikan bukti dari halaman ini.
Reports adalah publikasi triwulanan Konsorsium. Apa yang Anda ketahui tentang subjek ini dapat menjadi bukti, kasus, atau koreksi dalam edisi berikutnya, dengan kredit atas nama Anda dan dipublikasikan di bawah CC BY 4.0 jika merupakan karya Anda sendiri.
- SurelGerbang GW-GRAKirim dari halaman iniBukti, koreksi, kasus, metode, tinjauan, terjemahan, atau masukan profil. Kiriman tiba dengan label halaman ini, sehingga editor pemiliknya menerimanya.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks AllianceSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Jangan pernah mengirim data pribadi, rincian infrastruktur sensitif, atau apa pun yang tidak berhak Anda bagikan. Kontribusi ditinjau sebelum digunakan. Mengirimkannya tidak memberikan hak kepenulisan atau editorial, dan sponsor tidak pernah membeli sebuah temuan.
Ajukan pertanyaan eksposur atau modal kepada Aliansi.
Informasi dan pertanyaan sudah terbuka hari ini. Sebuah pertanyaan menerima nomor referensi dan menyebutkan langkah berikutnya; lamaran, pembayaran, alokasi komputasi, dan pendaftaran hanya dibuka ketika tim, ketentuan, dan kapasitas tinjauannya tersedia.
Dokumen hukum.
Peta, data, dan gambar di situs ini ditampilkan untuk konteks dan informasi umum. Semua itu bukan nasihat, prakiraan, atau peringatan; batasan informasinya dijelaskan dalam Penafian dan Pemberitahuan Data.