GRA · Risiko AI dan Model Keuangan
Keuangan spasialTempat modal bertemu bahaya, keterpaparan, dan transisi
Model pihak ketiga
Perusahaan menggunakan skor kredit vendor, model penipuan, model katastrofe, analitik data pasar, dan model fondasi yang tidak mereka bangun dan tidak dapat mereka periksa sepenuhnya. Tanggung jawab atas model tetap berada pada perusahaan. Halaman ini menguraikan bagaimana risiko model pihak ketiga muncul, bagaimana perusahaan memvalidasi apa yang tidak dapat mereka lihat, bukti yang tersedia, dan siapa yang memutuskan.
Third party models on the record.
Model pihak ketiga: bagaimana risiko berkembang.
Vendor dependencies and due diligence. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Limited transparency
Vendors protect their methods as trade secrets. Firms may get documentation and performance reports but not code, data or training details, which limits validation.
Shared models, shared errors
When many firms use the same vendor model, its errors affect them all at once and can move markets or credit supply together.
Updates change behaviour
Vendors update models and data on their own schedules. Without notice and change analysis, a firm’s validated model can change silently.
Validation by outcomes
Jika bagian internal tersembunyi, perusahaan melakukan validasi melalui pembandingan, analisis hasil, dan pengujian pada data mereka sendiri, yang membutuhkan waktu dan data.
Siklus hidup risiko model.
Layar yang akan digunakan sebuah tim untuk mengikuti subjek ini: ukuran, status, dan keputusannya. Nama adalah contoh dan nilai bersifat ilustratif.
Siklus hidup risiko model
Third party models · Model inventory · Committee 8
Siklus hidup
- Inventaristerdaftar
- Kembangkanterdokumentasi
- Validasiindependen
- Menyetujuikomite
- Terapkankontrol
- Pantauambang batas
- Tinjauantahunan
- Pensiunkannonaktifkan
Model
| MD-709 PD ritel | Tingkat 1 | 9 bulan | 1 | Lewat tenggat |
| MD-561 LLM complaints triage | Tingkat 1 | tidak pernah | 0 | Belum divalidasi |
| MD-601 IFRS 9 staging | Tingkat 1 | 3 months | 0 | Disetujui |
| MD-088 marketing propensity | Tingkatan 3 | 14 months | 1 | Disetujui |
Cakupan validasi
- Kesahihan konseptual
- Sedang berjalan
- Analisis hasil
- Tertunda
- Pembandingan
- Tertunda
- Batas penggunaan
- perlu tinjauan manusia
Apa yang diukur, dan seberapa baik.
Setiap indikator membawa satuan, frekuensi, jenis sumber di baliknya, dan label bukti yang akan dibawa suatu nilai. Tidak ada nilai yang ditampilkan: sebuah program menyediakannya berdasarkan wewenangnya sendiri.
| Indikator | Unit | Kadensi | Jenis sumber | Label |
|---|---|---|---|---|
| Third-party models in inventory | jumlah menurut tingkat | tahunan | Inventaris model | DINYATAKAN |
| Model vendor dengan dokumentasi lengkap | pangsa | tahunan | Catatan manajemen vendor | DINYATAKAN |
| Vendor model changes notified | jumlah | per tahun | Pemberitahuan vendor | DILAPORKAN |
| Third-party models validated on own data | pangsa | tahunan | Catatan validasi | DINYATAKAN |
| Konsentrasi penggunaan model vendor di antara firma | share of firms using top vendors | berkala | Survei pengawasan | DILAPORKAN |
| Contracts with model change notice clauses | pangsa | berkala | Tinjauan kontrak | DINYATAKAN |
What third party models means for exposure, loss and capital.
Tampilan eksposur, kerugian, skenario, dan modal yang akan diminta oleh pejabat risiko, otoritas pengawas, atau kementerian keuangan, beserta kerangka pelaporan yang mereka gunakan. Strukturnya mengikuti praktik pengawasan dan aktuaria. Nilai bersifat ilustratif: tidak pernah merupakan harga, peringkat, atau saran.
Saluran transmisi
How a shock in third party models reaches credit, market, underwriting, liquidity and operational risk, and feeds back.
Asal bukti.
Set data publik bernama dan catatan kelembagaan, masing-masing dengan kelas lisensinya. Sumber berdasarkan perjanjian hanya digunakan sesuai ketentuannya dan tidak pernah diterbitkan ulang.
| Sumber | Apa yang diberikannya | Kelas lisensi |
|---|---|---|
| SR 11-7 guidance on vendor and third-party models | Expectations for using external models | Domain publik |
| Panduan antarlembaga tentang hubungan dengan pihak ketiga (lembaga perbankan Amerika Serikat) | Ekspektasi pengelolaan risiko pihak ketiga | Domain publik |
| FSB report on AI financial stability implications | Third-party and concentration risks from AI | Gratis, ketentuan FSB |
| Kewajiban EU AI Act bagi penyedia dan penerap | Division of duties between AI providers and users | Gratis, ketentuan penggunaan ulang UE |
| Vendor model documentation and performance reports | Information vendors provide to users | Proprietari, ketentuan per vendor |
Siapa yang memutuskan, dan apa yang dilayani bukti.
Risiko AI dan Model menyiapkan bukti. Keputusan di bawah ini diambil oleh otoritas yang disebutkan, berdasarkan aturan mereka sendiri, dan tidak pernah oleh platform.
| Siapa yang memutuskan | Pertanyaannya | Bukti yang dilayani halaman ini |
|---|---|---|
| Fungsi risiko model | Cara memvalidasi dan menyetujui model pihak ketiga | Dokumentasi, tolok ukur, dan pengujian hasil |
| Procurement and legal | Ketentuan transparansi dan perubahan mana yang perlu diwajibkan | Contract practice and regulatory expectations |
| Pengawas | Whether vendor model use is governed adequately and whether concentration matters | Survei dan temuan tinjauan |
| Vendor | What documentation and notice to provide | Customer and regulatory requirements |
Keluaran yang dihasilkan topik ini
- Panduan untuk memvalidasi model yang tidak dapat diperiksa oleh perusahaan
- Brief on concentration in vendor and foundation models
- Catatan metode tentang analisis perubahan untuk pembaruan vendor
- Pertanyaan bagi pengadaan mengenai ketentuan transparansi model
Apa yang ditanyakan pakar.
The questions concern responsibility for models one did not build.
- Apakah lembaga memahami cara kerja model vendor cukup baik untuk memvalidasi penggunaannya?
- What documentation, testing evidence and access does the vendor provide?
- How are vendor model updates communicated, tested and approved?
- How many institutions rely on the same vendor, and what happens if it fails or changes?
- Can the institution exit or replace the model if needed?
Mekanisme dan pendorong.
Vendors often protect their models as intellectual property, limiting the transparency available to users. Institutions must still validate the model’s use for their own purposes, typically through outcome testing, benchmarking and contractual rights to documentation. Updates by the vendor can change model behaviour without the institution’s knowledge.
Concentration is a sector-wide concern. When many institutions use the same vendor model or AI provider, a flaw, outage or change affects them together, creating correlated errors and operational dependencies that no single institution can manage alone.
Cara hal ini dikaji, dan di mana batas metodenya.
| Metode atau data | Apa yang ditampilkannya | Batasan |
|---|---|---|
| Vendor due diligence | Vendor capability, controls and transparency | Limited by vendor disclosure |
| Outcome and benchmark testing | Performance on the institution’s own data | Tidak mengungkap logika internal |
| Analisis kontrak dan keluar | Rights to information, notification and exit | Hak mungkin sulit dilaksanakan |
| Pemetaan konsentrasi | Shared dependencies across the sector | Memerlukan informasi agregat |
Cara hal ini dikaji, dan apa yang tidak dapat dinyatakan metodenya.
- 01Evaluasi AI dan rekayasa penjaminanValidasi model pembelajaran mesin · Red-teaming AI generatif · Penilaian keadilanDiterapkan di sini
- 02Probabilitas dan statistikaPengujian kalibrasi · Statistik pergeseran · Perbandingan hasil antarkelompokDiterapkan di sini
- 03Kuantifikasi ketidakpastian dan validasi modelInterval prediksi untuk model kerugian · Ansambel model · Modal atau penyangga risiko modelDiterapkan di sini
- 04Kecerdasan buatan dan pembelajaran mesinModel kredit gradient-boosted · Model bahasa dalam operasi · Deteksi anomaliDiterapkan di sini
Tanya jawab.
Who is responsible for a vendor model’s risk?
How can a firm validate a model it cannot see?
Why does vendor concentration matter?
Apakah membeli sebuah model mengalihkan risikonya kepada penyedia?
Why is vendor concentration a stability concern?
What should an institution be able to obtain from a model vendor?
Apakah platform memeringkat vendor?
Kontribusikan bukti dari halaman ini.
Reports adalah publikasi triwulanan Konsorsium. Apa yang Anda ketahui tentang subjek ini dapat menjadi bukti, kasus, atau koreksi dalam edisi berikutnya, dengan kredit atas nama Anda dan dipublikasikan di bawah CC BY 4.0 jika merupakan karya Anda sendiri.
- SurelGerbang GW-GRAKirim dari halaman iniBukti, koreksi, kasus, metode, tinjauan, terjemahan, atau masukan profil. Kiriman tiba dengan label halaman ini, sehingga editor pemiliknya menerimanya.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks AllianceSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Jangan pernah mengirim data pribadi, rincian infrastruktur sensitif, atau apa pun yang tidak berhak Anda bagikan. Kontribusi ditinjau sebelum digunakan. Mengirimkannya tidak memberikan hak kepenulisan atau editorial, dan sponsor tidak pernah membeli sebuah temuan.
Ajukan pertanyaan eksposur atau modal kepada Aliansi.
Informasi dan pertanyaan sudah terbuka hari ini. Sebuah pertanyaan menerima nomor referensi dan menyebutkan langkah berikutnya; lamaran, pembayaran, alokasi komputasi, dan pendaftaran hanya dibuka ketika tim, ketentuan, dan kapasitas tinjauannya tersedia.
Dokumen hukum.
Peta, data, dan gambar di situs ini ditampilkan untuk konteks dan informasi umum. Semua itu bukan nasihat, prakiraan, atau peringatan; batasan informasinya dijelaskan dalam Penafian dan Pemberitahuan Data.