Skip to content

GRA · Risiko AI dan Model Keuangan

Keuangan spasialTempat modal bertemu bahaya, keterpaparan, dan transisi

Kecerdasan buatan dan pembelajaran mesin untuk risiko AI dan model keuangan

Artificial intelligence and machine learning are methods that learn patterns from data to predict, classify or generate. On this platform they are explained as the techniques behind modern credit, pricing, fraud and generative tools, and as sources of model risk with distinctive failure modes.

01Daftar

Kecerdasan artifisial dan pembelajaran mesin untuk risiko model AI dan keuangan dalam catatan.

Catatan metodeMetode STEM
  1. MetodeKecerdasan buatan dan pembelajaran mesin
  2. Diterapkan diRisiko AI dan Model
  3. Canonical pageSTEM Commons
02Permohonan

Apa yang dilakukan kecerdasan buatan dan pembelajaran mesin di sini.

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In artificial intelligence and financial stability, machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on the STEM Commons.

Gradient-boosted credit models

Tree ensembles used in credit scoring are examined for gains in ranking power, sensitivity to data shifts and how their reasons can be explained to applicants.

Model bahasa dalam operasional

Model bahasa besar yang digunakan untuk meringkas dokumen dan menyusun draf tanggapan dinilai akurasi faktual, keterlandasan, dan penanganan datanya sebelum diterapkan.

Deteksi anomali

Unsupervised methods that flag unusual transactions or trades are examined for false positive rates and for how alerts are reviewed by staff.

03Eksposur, kerugian, dan modal

Artinya bagi eksposur, kerugian, dan modal.

Tampilan eksposur, kerugian, skenario, dan modal yang akan diminta oleh pejabat risiko, otoritas pengawas, atau kementerian keuangan, beserta kerangka pelaporan yang mereka gunakan. Strukturnya mengikuti praktik pengawasan dan aktuaria. Nilai bersifat ilustratif: tidak pernah merupakan harga, peringkat, atau saran.

Saluran transmisi

Bagaimana guncangan pada Kecerdasan buatan dan pembelajaran mesin untuk AI dan risiko model keuangan menjalar ke risiko kredit, pasar, penjaminan emisi, likuiditas, dan operasional, lalu berbalik memengaruhi sumbernya.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
Skenario iklim NGFS · Network for Greening the Financial SystemIFRS S2 Pengungkapan terkait Iklim · ISSBRekomendasi TCFD · Financial Stability Board TCFDPrinsip-prinsip pengelolaan efektif risiko keuangan terkait iklim · Basel Committee on Banking Supervision
04Data

Apa yang digunakan metode ini.

Set data dan catatan yang digunakan oleh kecerdasan buatan dan pembelajaran mesin di platform ini, beserta peran masing-masing dan label yang dibawa nilainya. Sumber dicantumkan dalam register sumber.

DataPeranLabel
Labelled historical decisions and outcomesPelatihan dan pengujianDILAPORKAN
Evaluation datasetsPengukuran kinerjaTERAMATI
Dokumentasi modelDesign and limitsDINYATAKAN
05Proses

Bagaimana proses berjalan.

Process explorer · Process

Artificial intelligence and machine learning for AI and financial model risk: AI risk management (NIST)

9 steps5 stages1 gate

Proses

Artificial intelligence and machine learning for AI and financial model risk: AI risk management (NIST)

Inti AI RMF memiliki empat fungsi, yaitu GOVERN, MAP, MEASURE, dan MANAGE, dengan GOVERN bersifat lintas fungsi; urutan yang digambarkan adalah satu cara membaca yang umum, bukan daftar periksa.

  1. 01 Tata kelola

    1. 01GOVERN: kebijakan, peran, dan akuntabilitasLangkah · Komite MRMGOVERN merupakan fungsi lintas bidang. Fungsi ini meresap ke seluruh manajemen risiko AI dan memungkinkan fungsi-fungsi lainnya.
  2. 02 Map

    1. 02MAP: konteks dan penggunaan yang dimaksudkanKumpulan dataFungsi MAP menetapkan konteks untuk membingkai risiko yang terkait dengan sistem AI, termasuk tujuan yang dimaksudkan dan dampaknya terhadap manusia.
  3. 03 Ukur

    1. 03MEASURE: evaluate trustworthy characteristicsModelAI systems are evaluated for trustworthy characteristics. They should be tested before deployment and regularly in operation.
    2. 04MEASURE: track identified risks over timeModelMechanisms for tracking identified AI risks over time are in place, including unanticipated and emergent risks.
  4. 04 Kelola

    1. 05KELOLA: tangani risikoLangkahPenanganan risiko mencakup respons terhadap insiden, pemulihan darinya, dan komunikasi mengenainya. Sumber daya dialokasikan untuk risiko yang telah dipetakan dan diukur.
    2. 06Proceed or not (MANAGE 1.1)Gate · MRM committeeA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07Keputusan penerapanKeputusan · Komite MRMOrganisasi pemilik sistem memutuskan apakah dan dalam kondisi apa sistem akan diterapkan.
    4. 08Post-deployment monitoring and incidentsModelPost-deployment monitoring plans are implemented. Incidents and errors are shared with relevant AI actors, including affected communities.
  5. 05 Catatan

    1. 09Inventaris sistem AIKumpulan dataGOVERN 1.6 meminta adanya mekanisme untuk menginventarisasi sistem AI. Kartu model merupakan praktik yang lazim dan tidak disebutkan dalam kerangka kerja tersebut.

Garis besar netral dari standar atau metode eksternal yang diterbitkan, dari badan penerbitnya. Bukan catatan operasi. Nexus tidak melaksanakan, menyertifikasi, atau menyetujui langkah mana pun yang ditampilkan. Gerbang atau keputusan menjadi milik pihak yang disebutkan oleh sumbernya. Tindakan-tindakan ini tidak harus merupakan rangkaian langkah yang berurutan. EU AI Act tidak digambarkan dalam alur ini.

06Validasi

Cara hasil diperiksa.

Model dievaluasi pada data uji tersisih yang menghormati struktur spasial, temporal, dan kelompok. Ketangguhan, kalibrasi, dan keadilan diuji di samping akurasi.

PemeriksaanCara pelaksanaannya
Out-of-time testingModel diuji pada periode yang lebih baru daripada data pelatihan
Benchmark comparisonComplex models are compared with simpler alternatives
StabilitasKinerja dan penjelasan diperiksa di seluruh proses pelatihan ulang

Kinerja menurun ketika kondisi penerapan berbeda dari data pelatihan. Model dapat menyandikan bias dan gagal tanpa peringatan yang jelas pada kejadian langka.

08Pengelolaan

Siapa yang memelihara metode ini.

Kecerdasan Buatan dan Sistem Otonom mengelola kecerdasan buatan dan pembelajaran mesin untuk Konsorsium dan meninjau cara penerapannya di berbagai platform.

10Pertanyaan

Tanya jawab.

Apa batasan kecerdasan buatan dan pembelajaran mesin di bidang ini?
Kinerja menurun ketika kondisi penerapan berbeda dari data pelatihan. Model dapat menyandikan bias dan gagal tanpa peringatan yang jelas pada kejadian langka.
Bagaimana hasil diperiksa?
Model dievaluasi pada data uji tersisih yang menghormati struktur spasial, temporal, dan kelompok. Ketangguhan, kalibrasi, dan keadilan diuji di samping akurasi.
Apakah nilai di halaman ini nyata?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Di mana lagi metode ini diterapkan?
Observatory Halaman metode kanonis mencantumkan setiap platform yang menerapkannya.
LaporanBerkontribusi

Kontribusikan bukti dari halaman ini.

Reports adalah publikasi triwulanan Konsorsium. Apa yang Anda ketahui tentang subjek ini dapat menjadi bukti, kasus, atau koreksi dalam edisi berikutnya, dengan kredit atas nama Anda dan dipublikasikan di bawah CC BY 4.0 jika merupakan karya Anda sendiri.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
Risiko AI dan Model Keuangan

Ajukan pertanyaan eksposur atau modal kepada Aliansi.

Informasi dan pertanyaan sudah terbuka hari ini. Sebuah pertanyaan menerima nomor referensi dan menyebutkan langkah berikutnya; lamaran, pembayaran, alokasi komputasi, dan pendaftaran hanya dibuka ketika tim, ketentuan, dan kapasitas tinjauannya tersedia.