Skip to content

GRA · Risiko AI dan Model Keuangan

Keuangan spasialTempat modal bertemu bahaya, keterpaparan, dan transisi

Tata kelola risiko model

Model risk is the potential for loss or harm from decisions based on models that are wrong or misused. Banks, insurers and asset managers manage it through model inventories, risk tiering, independent validation, approval and ongoing monitoring, overseen by boards and senior management. Machine learning and generative AI widen what counts as a model. This page sets out how model risk governance works and fails, the records involved, and who decides.

01Daftar

Model risk governance on the record.

02Pertanyaannya

Model risk governance: how the risk develops.

Inventaris, kepemilikan, dan validasi. Dosir di bawah ini memaparkan bagaimana risiko berkembang, apa yang diukur, dari mana data berasal, bagaimana dimodelkan, dan siapa yang memutuskan.

Mekanisme

Inventories miss models

Spreadsheets, vendor tools and AI components often sit outside the model inventory. Unlisted models escape validation and monitoring, and their errors surface only when losses or complaints arrive.

Mekanisme

Tantangan melemah

Validasi yang tidak memiliki independensi, keahlian, atau kewenangan untuk menghentikan sebuah model hanya menjadi formalitas. Tantangan yang efektif membutuhkan validator yang memahami metode dan dapat memblokir penggunaan.

Mekanisme

Tiering sets attention

Models are tiered by materiality and complexity, which decides validation depth. Underestimating a model’s materiality, or the reach of an AI tool, leaves high-impact models lightly reviewed.

Mekanisme

Models interact

Outputs of one model feed others: a score feeds pricing, which feeds capital. An error upstream propagates, and aggregate model risk across the chain is rarely measured.

03Pantau

Siklus hidup risiko model.

Layar yang akan digunakan sebuah tim untuk mengikuti subjek ini: ukuran, status, dan keputusannya. Nama adalah contoh dan nilai bersifat ilustratif.

Siklus hidup risiko model

Tata kelola risiko model · Inventaris model · Komite 9

9 validations overdueGRA · AI and Financial Model Risk

Siklus hidup

  1. Inventaristerdaftar
  2. Kembangkanterdokumentasi
  3. Validasiindependen
  4. Menyetujuikomite
  5. Terapkankontrol
  6. Pantauambang batas
  7. Tinjauantahunan
  8. Pensiunkannonaktifkan

Model

MD-204 PD retailTingkat 114 months3Lewat tenggat
MD-511 LLM complaints triageTingkat 1tidak pernah0Belum divalidasi
MD-164 IFRS 9 stagingTingkat 18 bulan1Disetujui
MD-534 propensitas pemasaranTingkatan 317 months0Disetujui

Cakupan validasi

Kesahihan konseptual
Sedang berjalan
Analisis hasil
Tertunda
Pembandingan
Tertunda
Batas penggunaan
perlu tinjauan manusia
Model risk lifecycle: the screen’s structure, terms and states for Model risk governance.Example names and illustrative values; a design, not a record or a live system.
04Indikator

Apa yang diukur, dan seberapa baik.

Setiap indikator membawa satuan, frekuensi, jenis sumber di baliknya, dan label bukti yang akan dibawa suatu nilai. Tidak ada nilai yang ditampilkan: sebuah program menyediakannya berdasarkan wewenangnya sendiri.

IndikatorUnitKadensiJenis sumberLabel
Model dalam inventarisjumlah menurut tingkatsetiap kuartalInventaris modelDINYATAKAN
Model divalidasi dalam siklus kebijakanshare by tiersetiap kuartalCatatan validasiDINYATAKAN
Open validation findingsjumlah menurut tingkat keparahansetiap kuartalCatatan validasiDINYATAKAN
Model yang digunakan dengan pengecualian atau pembatasanjumlahsetiap kuartalCatatan tata kelola modelDINYATAKAN
Model AI dan pembelajaran mesin dalam inventariscount and sharetahunanInventory and surveysDINYATAKAN
Supervisory findings on model risk managementjumlahtahunanLaporan pengawasanStatistik yang diterbitkan
05Model skenario

Jalur kebijakan dan dampaknya terhadap risiko.

Bagaimana tiga kelompok instrumen mengubah hasil risiko dari waktu ke waktu dengan jeda adopsi, cakupan, dan kepatuhan, yakni skenario kebijakan di balik penilaian risiko transisi dan fisik. Skenario: asumsi bernama tentang masa depan, bukan prakiraan.

Kendali

Tren dasar hasil
2,0% per tahun
Cakupan instrumen
70%
Kepatuhan
75%
Ukuran efek terhadap nilai pengajaran
100%
Tahun ke depan
20 tahun

Pembacaan

Penurunan terbesar pada cakrawala
Regulasi
Penurunannya terhadap garis dasar
21%
Angka, metode, dan sumber
TahunGaris dasarRegulasiInsentif ekonomiInformasi dan kapasitas
0100.099.598.899.1
1102.0101.2100.199.8
2104.0102.5101.199.9
3106.1103.5101.6100.0
4108.2103.7101.8100.7
5110.4103.2101.7102.1
6112.6102.0101.6103.9
7114.9100.4101.6105.9
8117.299.2102.1108.0
9119.598.6102.9110.1
10121.998.9104.2112.3
11124.399.7105.7114.5
12126.8101.1107.4116.8
13129.4102.7109.4119.2
14131.9104.5111.4121.6
15134.6106.5113.5124.0
16137.3108.5115.7126.5
17140.0110.7118.0129.0
18142.8112.9120.4131.6
19145.7115.1122.8134.2
20148.6117.4125.2136.9

Metode

  1. Tools of government Hood (1983), The Tools of Government, Macmillan
  2. Carrots, sticks and sermons Bemelmans-Videc, Rist and Vedung (1998), Transaction
  3. Diffusion of innovations Rogers (2003), Diffusion of Innovations, Free Press
  4. Kipas ketidakpastian (Monte Carlo parametrik) Spiegelhalter, Pearson dan Short (2011), Memvisualisasikan ketidakpastian tentang masa depan, Science 333
  5. One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley

Data

The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:

  • Borders Natural Earth
  • Cities Natural Earth
Jalur kebijakan dan dampaknya terhadap risiko. Model pengajaran ilustratif: model ini berjalan pada nilai yang ditetapkan oleh kontrol, bukan pada data terukur. Metode: perangkat pemerintah (Hood (1983), The Tools of Government, Macmillan); wortel, tongkat, dan khotbah (Bemelmans-Videc, Rist dan Vedung (1998), Transaction); difusi inovasi (Rogers (2003), Diffusion of Innovations, Free Press).
06Sumber

Asal bukti.

Set data publik bernama dan catatan kelembagaan, masing-masing dengan kelas lisensinya. Sumber berdasarkan perjanjian hanya digunakan sesuai ketentuannya dan tidak pernah diterbitkan ulang.

SumberApa yang diberikannyaKelas lisensi
Panduan Federal Reserve dan OCC SR 11-7Model risk management expectationsDomain publik
PRA SS1/23 model risk management principlesPrinsip Inggris untuk bankGratis, ketentuan Bank of England
ECB guide to internal modelsEkspektasi terhadap model internal yang digunakan untuk modalGratis, ketentuan ECB
Bank of England and FCA surveys of AI and machine learning in UK financial servicesUse and governance of AI across firmsGratis, ketentuan Bank of England dan FCA
Laporan tindak lanjut EBA tentang pembelajaran mesin untuk model berbasis pemeringkatan internalSupervisory views on ML in capital modelsGratis, ketentuan penggunaan ulang UE
07Eksposur, kerugian, dan modal

What model risk governance means for exposure, loss and capital.

Tampilan eksposur, kerugian, skenario, dan modal yang akan diminta oleh pejabat risiko, otoritas pengawas, atau kementerian keuangan, beserta kerangka pelaporan yang mereka gunakan. Strukturnya mengikuti praktik pengawasan dan aktuaria. Nilai bersifat ilustratif: tidak pernah merupakan harga, peringkat, atau saran.

Saluran transmisi

How a shock in model risk governance reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
Skenario iklim NGFS · Network for Greening the Financial SystemIFRS S2 Pengungkapan terkait Iklim · ISSBRekomendasi TCFD · Financial Stability Board TCFDPrinsip-prinsip pengelolaan efektif risiko keuangan terkait iklim · Basel Committee on Banking Supervision
08Keputusan

Siapa yang memutuskan, dan apa yang dilayani bukti.

Risiko AI dan Model menyiapkan bukti. Keputusan di bawah ini diambil oleh otoritas yang disebutkan, berdasarkan aturan mereka sendiri, dan tidak pernah oleh platform.

Siapa yang memutuskanPertanyaannyaBukti yang dilayani halaman ini
Boards and senior managementWhat model risk appetite to set and how to oversee itInventory, tiering, findings and incident evidence
Model risk management functionsWhich models to validate, approve, restrict or retireValidation results and monitoring
Pengawas prudensialWhether model risk management meets expectationsSupervisory reviews and firm reporting
Audit internalApakah kerangka risiko model beroperasi sebagaimana dirancangCatatan tata kelola dan validasi

Keluaran yang dihasilkan topik ini

  • Panduan inventarisasi, penjenjangan, dan validasi model
  • Ringkasan tentang perluasan manajemen risiko model ke AI dan AI generatif
  • Method note on effective challenge
  • Pertanyaan bagi dewan direksi mengenai risiko model agregat
09Pertanyaan inti

Apa yang ditanyakan pakar.

Governance questions begin with knowing what models exist.

  • What counts as a model, and does the definition capture machine learning, vendor tools and generative AI?
  • Is every model in the inventory, with an accountable owner and a risk tier?
  • Apakah validasi benar-benar independen dan efektif dalam menantang para pengembang?
  • Bagaimana keterbatasan model didokumentasikan dan dikomunikasikan kepada pengguna?
  • Does the board understand the institution’s aggregate model risk?
10Mekanisme

Mekanisme dan pendorong.

Models fail through flawed design, poor data, implementation errors, or use beyond their intended scope. Governance frameworks address these through development standards, independent validation and ongoing monitoring, scaled to each model’s materiality. Supervisory guidance on model risk management in several jurisdictions sets expectations along these lines.

AI membebani kerangka kerja tradisional. Model pembelajaran mesin dapat berjumlah banyak, sering dilatih ulang, dan tertanam dalam proses; perangkat AI generatif dapat digunakan secara informal oleh staf; model dari vendor mungkin tidak transparan. Inventaris yang melewatkan penggunaan ini membuat risiko tidak terkelola.

11Metode dan data

Cara hal ini dikaji, dan di mana batas metodenya.

Metode atau dataApa yang ditampilkannyaBatasan
Model inventories and tieringModel apa saja yang ada dan seberapa material model tersebutPenggunaan AI yang informal dan tertanam mudah terlewatkan
Validasi independenSoundness of design, data and implementationValidation is constrained by time, skills and access to vendor details
Governance benchmarkingHow institutions organise model riskSelf-reported and hard to compare
Analisis isu dan temuanRecurring weaknessesFindings are confidential within firms
12Metode

Cara hal ini dikaji, dan apa yang tidak dapat dinyatakan metodenya.

  1. Evaluasi AI dan rekayasa penjaminanValidasi model pembelajaran mesin · Red-teaming AI generatif · Penilaian keadilanDiterapkan di sini
  2. Probabilitas dan statistikaPengujian kalibrasi · Statistik pergeseran · Perbandingan hasil antarkelompokDiterapkan di sini
  3. Kuantifikasi ketidakpastian dan validasi modelInterval prediksi untuk model kerugian · Ansambel model · Modal atau penyangga risiko modelDiterapkan di sini
  4. Kecerdasan buatan dan pembelajaran mesinModel kredit gradient-boosted · Model bahasa dalam operasi · Deteksi anomaliDiterapkan di sini
13Pertanyaan

Tanya jawab.

Apa itu risiko model?
Potensi konsekuensi merugikan dari keputusan yang didasarkan pada keluaran model yang salah atau disalahgunakan, sebagaimana dijelaskan dalam SR 11-7, termasuk kerugian finansial, keputusan yang buruk, dan kerusakan reputasi.
Apa yang dimaksud dengan tantangan efektif (effective challenge)?
Critical, independent analysis of a model by people with the competence, influence and incentives to identify limitations and require changes.
Are AI models covered by model risk rules?
Para pengawas seperti PRA menyatakan bahwa prinsip risiko model berlaku untuk model AI dan pembelajaran mesin, dengan perhatian pada risiko spesifiknya.
Apakah spreadsheet dan perangkat AI generatif dihitung sebagai model?
Many frameworks define models by function rather than technology, so tools that produce quantitative estimates or influence decisions can fall within scope. Each institution applies its own definition under its supervisors’ expectations.
Does the platform review firms’ frameworks?
No. GRA does not review, validate or approve firms’ frameworks or models.
LaporanBerkontribusi

Kontribusikan bukti dari halaman ini.

Reports adalah publikasi triwulanan Konsorsium. Apa yang Anda ketahui tentang subjek ini dapat menjadi bukti, kasus, atau koreksi dalam edisi berikutnya, dengan kredit atas nama Anda dan dipublikasikan di bawah CC BY 4.0 jika merupakan karya Anda sendiri.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
Risiko AI dan Model Keuangan

Ajukan pertanyaan eksposur atau modal kepada Aliansi.

Informasi dan pertanyaan sudah terbuka hari ini. Sebuah pertanyaan menerima nomor referensi dan menyebutkan langkah berikutnya; lamaran, pembayaran, alokasi komputasi, dan pendaftaran hanya dibuka ketika tim, ketentuan, dan kapasitas tinjauannya tersedia.