Skip to content

GRA · Risiko AI dan Model Keuangan

Keuangan spasialTempat modal bertemu bahaya, keterpaparan, dan transisi

Analisis dan ketidakpastian

Risiko model is managed through inventory, documentation, conceptual soundness review, outcome analysis, benchmarking and ongoing monitoring. This page explains each step, how machine learning changes it, and why generative and agentic AI sit partly outside current guidance.

Ajukan pertanyaan Back to Professional research
01Daftar isi

Analysis and uncertainty in five parts.

Dalam berkas ini5 bagian
  1. 01MetodeThe methods in use
  2. 02MetodeExplainability and fairness methods, with limits
  3. 03KetidakpastianQuantifying what the model does not know
  4. 04KetidakpastianHow uncertainty is reported
  5. 05SumberWhere this page’s references lead
02Metode

Metode yang digunakan.

  1. Kecerdasan buatan dan pembelajaran mesinGradient-boosted credit models · Language models in operations · Anomaly detectionDiterapkan di sini
    Kanonis · STEM Commons
  2. Evaluasi AI dan rekayasa penjaminanValidation of machine learning models · Red-teaming generative AI · Fairness assessmentDiterapkan di sini
    Kanonis · STEM Commons
  3. Kuantifikasi ketidakpastian dan validasi modelPrediction intervals for loss models · Model ensembles · Model risk capital or buffersDiterapkan di sini
    Kanonis · STEM Commons
  4. Probabilitas dan statistikaPengujian kalibrasi · Statistik pergeseran · Perbandingan hasil antarkelompokDiterapkan di sini
    Kanonis · STEM Commons
03Explainability and fairness methods

Explainability and fairness methods, with limits.

MetodeGivesBatas
SHAP and other attribution methodsContribution of each input to a predictionCorrelated inputs blur attribution
Counterfactual explanationsWhat change would alter the decisionMay suggest infeasible changes
Group fairness metricsOutcome differences across groupsMetrics can conflict
Challenger modelsIndependent benchmarkShares data weaknesses
04Proses

Bagaimana proses berjalan.

Process explorer · Process

Analysis and uncertainty: Source to evidence record

10 steps4 tahap2 gerbang

Proses

Analysis and uncertainty: Source to evidence record

Sebuah sumber didaftarkan dan dinilai, catatannya diberi label dan diklasifikasikan, dan Paspor Bukti Digital membawa asal-usul; sebuah koreksi menjangkau setiap catatan yang bergantung.

  1. 01 Penerimaan

    1. 01Identifikasi sumberSumber · Pengelola sumberPenemuan bukanlah penyerapan. Identifikasi sumber mencatat kelas sumber, pengelola, peran kelembagaan, dan yurisdiksi.
    2. 03Daftarkan sumberLangkahPendaftaran menjadikan sumber yang ditemukan sebagai peserta yang diatur dalam siklus hidup bukti. Pendaftaran tidak menyiratkan dukungan resmi atau sertifikasi.

  2. 02 Penilaian

    1. 04Klasifikasi yurisdiksi dan hakGerbangKlasifikasi hak mengidentifikasi lisensi, persetujuan, kerahasiaan, dan batas penggunaan ulang. Hasilnya menentukan akses dan perutean.
    2. 05Penilaian kualitas buktiLangkahPenilaian kualitas memutuskan apakah suatu catatan layak untuk penggunaan tertentu. Kualitas bersifat multidimensi dan tidak pernah berupa skor tunggal.
    3. 06Label buktiLangkahSetiap temuan membawa salah satu dari sembilan label bukti. Data yang tidak ada ditampilkan sebagai tidak ada, tidak pernah sebagai nol.

  3. 03 Catatan

    1. 07Klasifikasi buktiCatatanKlasifikasi memberi catatan status siklus hidup, seperti terverifikasi sumber, aman untuk publik, atau terbatas. Status dapat berlaku bersamaan dan menentukan penggunaan bukti.
    2. 08Rilis sumber dan pengenalCatatan · NXS-GRX (data kanonis, asal-usul, dan risiko)Rilis sumber mencatat hak, cakupan waktu, dan garis keturunan sumber. Sebuah UNI dialokasikan melalui katalog dan tidak pernah diketik secara manual.
    3. 09Paspor Bukti DigitalCatatanPaspor mencatat asal-usul, kualitas, hak, yurisdiksi, penggunaan yang diizinkan, dan riwayat, sehingga bukti tetap membawa konteksnya ketika berpindah.

  4. 04 Penggunaan dan koreksi

    1. 02Koreksi menjangkau catatan yang bergantung padanyaLangkah · NXS-GRX (data kanonik, asal-usul, dan risiko)Koreksi sumber merambat ke potongan dan produk yang bergantung padanya tanpa menulis ulang hasil lama.
    2. 10Tinjauan aman untuk publikGerbangTinjauan keamanan publik memutuskan apakah suatu catatan dapat dibagikan secara publik. Ini adalah tahap tersendiri dan bukan validasi.

Protokol data: siklus hidup bukti · Data protocols: core data objects and evidence records · The Global Risks Index (NXS-GRX)Designed programme process, not a record of operation. No cycle has run and every programme is at service level R0. A gate is a programme decision, never a public-authority approval, certification or deployment authorisation. The data-protocol pages describe a design, not a running system.

05Ketidakpastian

Quantifying what the model does not know.

Prediction intervals and calibration checks show when a model is outside its experience. Methods at GCRI uncertainty quantification; topic depth at explainability and fairness.

06How uncertainty is reported

Cara ketidakpastian dilaporkan.

  1. 01

    Nyatakan asumsi

    Setiap analisis mencantumkan asumsinya dan data yang menjadi tumpuannya.

  2. 02

    Kuantifikasi jika memungkinkan

    Rentang dan tingkat keyakinan dilaporkan di samping estimasi sentral.

  3. 03

    Validasi dan bandingkan

    Model diperiksa terhadap observasi dan, jika memungkinkan, terhadap model lain.

  4. 04

    Terbitkan batasan

    Apa yang tidak dapat ditunjukkan suatu analisis dinyatakan di samping apa yang dapat ditunjukkannya.

07Sumber

Where this page’s references lead.

Badan dan dokumen yang menjadi acuan halaman ini. Status dan edisi berubah; setiap tautan menuju badan penerbitnya.

08Pertanyaan

Tanya jawab.

Apakah metodenya terbuka?
Deskripsi metode bersifat publik di STEM Commons. Kode dan data mengikuti lisensi dan ketentuan aksesnya sendiri, yang tercantum dalam register sumber.
LaporanBerkontribusi

Kontribusikan bukti dari halaman ini.

Laporan is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.

Global Risks AllianceRisiko AI dan Model KeuanganMetode dan TeknisTeknologi Eksponensial

Jangan pernah mengirim data pribadi, rincian infrastruktur sensitif, atau apa pun yang tidak berhak Anda bagikan. Kontribusi ditinjau sebelum digunakan. Mengirimkannya tidak memberikan hak kepenulisan atau editorial, dan sponsor tidak pernah membeli sebuah temuan.

Risiko AI dan Model Keuangan

Ajukan pertanyaan eksposur atau modal kepada Aliansi.

Informasi dan pertanyaan sudah terbuka hari ini. Sebuah pertanyaan menerima nomor referensi dan menyebutkan langkah berikutnya; lamaran, pembayaran, alokasi komputasi, dan pendaftaran hanya dibuka ketika tim, ketentuan, dan kapasitas tinjauannya tersedia.

Usulkan uji coba kesiapan Lihat semua jalur kontak
Hukum

Peta, data, dan gambar di situs ini ditampilkan untuk konteks dan informasi umum. Semua itu bukan nasihat, prakiraan, atau peringatan; batasan informasinya dijelaskan dalam Penafian dan Pemberitahuan Data.