Skip to content

GRA · Risiko AI dan Model Keuangan

Keuangan spasialTempat modal bertemu bahaya, keterpaparan, dan transisi

Model pihak ketiga

Perusahaan menggunakan skor kredit vendor, model penipuan, model katastrofe, analitik data pasar, dan model fondasi yang tidak mereka bangun dan tidak dapat mereka periksa sepenuhnya. Tanggung jawab atas model tetap berada pada perusahaan. Halaman ini menguraikan bagaimana risiko model pihak ketiga muncul, bagaimana perusahaan memvalidasi apa yang tidak dapat mereka lihat, bukti yang tersedia, dan siapa yang memutuskan.

01Daftar

Third party models on the record.

02Pertanyaannya

Model pihak ketiga: bagaimana risiko berkembang.

Vendor dependencies and due diligence. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

Mekanisme

Limited transparency

Vendors protect their methods as trade secrets. Firms may get documentation and performance reports but not code, data or training details, which limits validation.

Mekanisme

Shared models, shared errors

When many firms use the same vendor model, its errors affect them all at once and can move markets or credit supply together.

Mekanisme

Updates change behaviour

Vendors update models and data on their own schedules. Without notice and change analysis, a firm’s validated model can change silently.

Mekanisme

Validation by outcomes

Jika bagian internal tersembunyi, perusahaan melakukan validasi melalui pembandingan, analisis hasil, dan pengujian pada data mereka sendiri, yang membutuhkan waktu dan data.

03Pantau

Siklus hidup risiko model.

Layar yang akan digunakan sebuah tim untuk mengikuti subjek ini: ukuran, status, dan keputusannya. Nama adalah contoh dan nilai bersifat ilustratif.

Siklus hidup risiko model

Third party models · Model inventory · Committee 8

5 validasi terlambatGRA · Risiko AI dan Model Keuangan

Siklus hidup

  1. Inventaristerdaftar
  2. Kembangkanterdokumentasi
  3. Validasiindependen
  4. Menyetujuikomite
  5. Terapkankontrol
  6. Pantauambang batas
  7. Tinjauantahunan
  8. Pensiunkannonaktifkan

Model

MD-709 PD ritelTingkat 19 bulan1Lewat tenggat
MD-561 LLM complaints triageTingkat 1tidak pernah0Belum divalidasi
MD-601 IFRS 9 stagingTingkat 13 months0Disetujui
MD-088 marketing propensityTingkatan 314 months1Disetujui

Cakupan validasi

Kesahihan konseptual
Sedang berjalan
Analisis hasil
Tertunda
Pembandingan
Tertunda
Batas penggunaan
perlu tinjauan manusia
Model risk lifecycle: the screen’s structure, terms and states for Third party models.Example names and illustrative values; a design, not a record or a live system.
04Indikator

Apa yang diukur, dan seberapa baik.

Setiap indikator membawa satuan, frekuensi, jenis sumber di baliknya, dan label bukti yang akan dibawa suatu nilai. Tidak ada nilai yang ditampilkan: sebuah program menyediakannya berdasarkan wewenangnya sendiri.

IndikatorUnitKadensiJenis sumberLabel
Third-party models in inventoryjumlah menurut tingkattahunanInventaris modelDINYATAKAN
Model vendor dengan dokumentasi lengkappangsatahunanCatatan manajemen vendorDINYATAKAN
Vendor model changes notifiedjumlahper tahunPemberitahuan vendorDILAPORKAN
Third-party models validated on own datapangsatahunanCatatan validasiDINYATAKAN
Konsentrasi penggunaan model vendor di antara firmashare of firms using top vendorsberkalaSurvei pengawasanDILAPORKAN
Contracts with model change notice clausespangsaberkalaTinjauan kontrakDINYATAKAN
05Eksposur, kerugian, dan modal

What third party models means for exposure, loss and capital.

Tampilan eksposur, kerugian, skenario, dan modal yang akan diminta oleh pejabat risiko, otoritas pengawas, atau kementerian keuangan, beserta kerangka pelaporan yang mereka gunakan. Strukturnya mengikuti praktik pengawasan dan aktuaria. Nilai bersifat ilustratif: tidak pernah merupakan harga, peringkat, atau saran.

Saluran transmisi

How a shock in third party models reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
Skenario iklim NGFS · Network for Greening the Financial SystemIFRS S2 Pengungkapan terkait Iklim · ISSBRekomendasi TCFD · Financial Stability Board TCFDPrinsip-prinsip pengelolaan efektif risiko keuangan terkait iklim · Basel Committee on Banking Supervision
06Sumber

Asal bukti.

Set data publik bernama dan catatan kelembagaan, masing-masing dengan kelas lisensinya. Sumber berdasarkan perjanjian hanya digunakan sesuai ketentuannya dan tidak pernah diterbitkan ulang.

SumberApa yang diberikannyaKelas lisensi
SR 11-7 guidance on vendor and third-party modelsExpectations for using external modelsDomain publik
Panduan antarlembaga tentang hubungan dengan pihak ketiga (lembaga perbankan Amerika Serikat)Ekspektasi pengelolaan risiko pihak ketigaDomain publik
FSB report on AI financial stability implicationsThird-party and concentration risks from AIGratis, ketentuan FSB
Kewajiban EU AI Act bagi penyedia dan penerapDivision of duties between AI providers and usersGratis, ketentuan penggunaan ulang UE
Vendor model documentation and performance reportsInformation vendors provide to usersProprietari, ketentuan per vendor
07Keputusan

Siapa yang memutuskan, dan apa yang dilayani bukti.

Risiko AI dan Model menyiapkan bukti. Keputusan di bawah ini diambil oleh otoritas yang disebutkan, berdasarkan aturan mereka sendiri, dan tidak pernah oleh platform.

Siapa yang memutuskanPertanyaannyaBukti yang dilayani halaman ini
Fungsi risiko modelCara memvalidasi dan menyetujui model pihak ketigaDokumentasi, tolok ukur, dan pengujian hasil
Procurement and legalKetentuan transparansi dan perubahan mana yang perlu diwajibkanContract practice and regulatory expectations
PengawasWhether vendor model use is governed adequately and whether concentration mattersSurvei dan temuan tinjauan
VendorWhat documentation and notice to provideCustomer and regulatory requirements

Keluaran yang dihasilkan topik ini

  • Panduan untuk memvalidasi model yang tidak dapat diperiksa oleh perusahaan
  • Brief on concentration in vendor and foundation models
  • Catatan metode tentang analisis perubahan untuk pembaruan vendor
  • Pertanyaan bagi pengadaan mengenai ketentuan transparansi model
08Pertanyaan inti

Apa yang ditanyakan pakar.

The questions concern responsibility for models one did not build.

  • Apakah lembaga memahami cara kerja model vendor cukup baik untuk memvalidasi penggunaannya?
  • What documentation, testing evidence and access does the vendor provide?
  • How are vendor model updates communicated, tested and approved?
  • How many institutions rely on the same vendor, and what happens if it fails or changes?
  • Can the institution exit or replace the model if needed?
09Mekanisme

Mekanisme dan pendorong.

Vendors often protect their models as intellectual property, limiting the transparency available to users. Institutions must still validate the model’s use for their own purposes, typically through outcome testing, benchmarking and contractual rights to documentation. Updates by the vendor can change model behaviour without the institution’s knowledge.

Concentration is a sector-wide concern. When many institutions use the same vendor model or AI provider, a flaw, outage or change affects them together, creating correlated errors and operational dependencies that no single institution can manage alone.

10Metode dan data

Cara hal ini dikaji, dan di mana batas metodenya.

Metode atau dataApa yang ditampilkannyaBatasan
Vendor due diligenceVendor capability, controls and transparencyLimited by vendor disclosure
Outcome and benchmark testingPerformance on the institution’s own dataTidak mengungkap logika internal
Analisis kontrak dan keluarRights to information, notification and exitHak mungkin sulit dilaksanakan
Pemetaan konsentrasiShared dependencies across the sectorMemerlukan informasi agregat
12Pertanyaan

Tanya jawab.

Who is responsible for a vendor model’s risk?
The firm using it. Supervisory guidance expects firms to validate and govern third-party models as they would their own, within the information available.
How can a firm validate a model it cannot see?
Through documentation review, benchmarking against alternatives, outcome analysis, sensitivity testing on its own data and contractual rights to information.
Why does vendor concentration matter?
Because a flaw or change in a widely used model affects many firms at once, which can correlate decisions across the market.
Apakah membeli sebuah model mengalihkan risikonya kepada penyedia?
Tidak. Lembaga yang menggunakan model tetap bertanggung jawab atas penggunaan dan hasilnya.
Why is vendor concentration a stability concern?
Because if many firms rely on the same model or provider, a single failure or change can affect them all at once.
What should an institution be able to obtain from a model vendor?
Typically enough documentation to understand the model’s purpose, design, data and limitations, evidence of the vendor’s own testing, notice of material changes, and rights that allow the institution to validate the model’s use and to exit. What is obtainable in practice varies.
Apakah platform memeringkat vendor?
Tidak. GRA tidak memeringkat, mendukung, atau merekomendasikan vendor.
LaporanBerkontribusi

Kontribusikan bukti dari halaman ini.

Reports adalah publikasi triwulanan Konsorsium. Apa yang Anda ketahui tentang subjek ini dapat menjadi bukti, kasus, atau koreksi dalam edisi berikutnya, dengan kredit atas nama Anda dan dipublikasikan di bawah CC BY 4.0 jika merupakan karya Anda sendiri.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
Risiko AI dan Model Keuangan

Ajukan pertanyaan eksposur atau modal kepada Aliansi.

Informasi dan pertanyaan sudah terbuka hari ini. Sebuah pertanyaan menerima nomor referensi dan menyebutkan langkah berikutnya; lamaran, pembayaran, alokasi komputasi, dan pendaftaran hanya dibuka ketika tim, ketentuan, dan kapasitas tinjauannya tersedia.