Skip to content

GRA · Yapay Zekâ ve Finansal Model Riski

Mekânsal finansSermayenin tehlike, maruziyet ve geçişle buluştuğu yer

Yapay zekâ ve finansal model riski için yapay zekâ ve makine öğrenmesi

Artificial intelligence and machine learning are methods that learn patterns from data to predict, classify or generate. On this platform they are explained as the techniques behind modern credit, pricing, fraud and generative tools, and as sources of model risk with distinctive failure modes.

01Sicil

Yapay zekâ ve makine öğrenimi ile yapay zekâ ve finansal model riski kayıt altında.

Yöntem kaydıSTEM yöntemi
  1. YöntemYapay zekâ ve makine öğrenmesi
  2. Uygulandığı yerYapay Zekâ ve Finansal Model Riski
  3. Canonical pageSTEM Commons
02Başvuru

Yapay zekâ ve makine öğreniminin burada yaptıkları.

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In artificial intelligence and financial stability, machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on the STEM Commons.

Gradient-boosted credit models

Kredi puanlamasında kullanılan ağaç topluluğu modelleri, sıralama gücündeki kazanımlar, veri kaymalarına duyarlılık ve gerekçelerinin başvuru sahiplerine nasıl açıklanabileceği bakımından incelenir.

Operasyonlarda dil modelleri

Large language models used to summarise documents and draft responses are assessed for factual accuracy, grounding and data handling before deployment.

Anomali tespiti

Unsupervised methods that flag unusual transactions or trades are examined for false positive rates and for how alerts are reviewed by staff.

03Maruziyet, kayıp ve sermaye

Maruziyet, kayıp ve sermaye için ne anlama geldiği.

Bir risk yöneticisinin, denetim kurumunun veya maliye bakanlığının talep edeceği maruziyet, kayıp, senaryo ve sermaye görünümleri ile raporlama yaptıkları çerçeveler. Yapılar denetim ve aktüerya uygulamalarını izler. Değerler açıklayıcıdır: asla fiyat, derecelendirme veya tavsiye değildir.

Aktarım kanalları

How a shock in Artificial intelligence and machine learning for AI and financial model risk reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
NGFS iklim senaryoları · Network for Greening the Financial SystemIFRS S2 İklimle İlgili Açıklamalar · ISSBTCFD tavsiyeleri · Finansal İstikrar Kurulu TCFDİklimle ilgili finansal risklerin etkin yönetimine ilişkin ilkeler · Basel Bankacılık Denetim Komitesi
04Veri

Yöntemin tükettikleri.

Bu platformda yapay zekâ ve makine öğrenimi tarafından kullanılan veri kümeleri ve kayıtlar; her birinin oynadığı rol ve değerlerinin taşıdığı etiketle birlikte. Kaynaklar kaynak sicilinde.

VeriRolEtiket
Labelled historical decisions and outcomesEğitim ve testBİLDİRİLMİŞ
Evaluation datasetsPerformans ölçümüGÖZLENEN
Model belgelendirmesiDesign and limitsBEYAN EDİLDİ
05Süreç

Sürecin nasıl işlediği.

Process explorer · Process

Yapay zekâ ve finansal model riski için yapay zekâ ve makine öğrenmesi: yapay zekâ risk yönetimi (NIST)

9 steps5 stages1 gate

Süreç

Yapay zekâ ve finansal model riski için yapay zekâ ve makine öğrenmesi: yapay zekâ risk yönetimi (NIST)

AI RMF Core dört işleve sahiptir: GOVERN, MAP, MEASURE ve MANAGE; GOVERN bunların tümünü kesen bir işlevdir. Çizilen sıra yaygın bir okumadır, bir kontrol listesi değildir.

  1. 01 Yönet

    1. 01GOVERN: politikalar, roller ve hesap verebilirlikAdım · MRM komitesiGOVERN kesişen bir işlevdir. Yapay zekâ risk yönetiminin tamamına yayılır ve diğer işlevleri mümkün kılar.
  2. 02 Map

    1. 02MAP: bağlam ve amaçlanan kullanımVeri kümesiMAP işlevi, amaçlanan kullanımlar ve insanlar üzerindeki etkiler dahil olmak üzere bir yapay zekâ sistemiyle ilgili riskleri çerçevelemek için bağlamı belirler.
  3. 03 Ölçme

    1. 03MEASURE: evaluate trustworthy characteristicsModelAI systems are evaluated for trustworthy characteristics. They should be tested before deployment and regularly in operation.
    2. 04MEASURE: track identified risks over timeModelMechanisms for tracking identified AI risks over time are in place, including unanticipated and emergent risks.
  4. 04 Yönet

    1. 05YÖNET: riskleri ele alAdımRisk işleme planları olaylara müdahaleyi, olaylardan toparlanmayı ve olaylara ilişkin iletişimi kapsar. Kaynaklar, haritalanmış ve ölçülmüş risklere yönlendirilir.
    2. 06Proceed or not (MANAGE 1.1)Gate · MRM committeeA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07Devreye alma kararıKarar · MRM komitesiSistemin sahibi olan kuruluş, devreye alıp almayacağına ve hangi koşullarda alacağına karar verir.
    4. 08Post-deployment monitoring and incidentsModelPost-deployment monitoring plans are implemented. Incidents and errors are shared with relevant AI actors, including affected communities.
  5. 05 Kayıt

    1. 09Yapay zekâ sistemleri envanteriVeri kümesiGOVERN 1.6, yapay zekâ sistemlerinin envanterini çıkarmaya yönelik mekanizmalar öngörür. Model kartı yaygın bir uygulamadır ve çerçevede adıyla anılmaz.

Yayımlayan kuruluşundan alınan, yayımlanmış bir dış standardın veya yöntemin tarafsız ana hatları. Bir işletim kaydı değildir. Nexus gösterilen hiçbir adımı gerçekleştirmez, belgelendirmez veya onaylamaz. Bir kapı veya karar, kaynağın belirttiği tarafa aittir. Eylemler mutlaka sıralı bir adımlar kümesi değildir. AB Yapay Zekâ Yasası bu akışta gösterilmemiştir.

06Doğrulama

Sonuçlar nasıl kontrol edilir.

Modeller mekânsal, zamansal ve grup yapısına uyan ayrılmış veriler üzerinde değerlendirilir. Sağlamlık, kalibrasyon ve adillik doğrulukla birlikte test edilir.

Kontrol edinNasıl yapıldığı
Out-of-time testingModels are tested on later periods than training data
Benchmark comparisonComplex models are compared with simpler alternatives
İstikrarPerformance and explanations are checked across retraining runs

Kullanım koşulları eğitim verilerinden farklı olduğunda performans düşer. Modeller önyargıları kodlayabilir ve nadir olaylarda açık bir uyarı vermeden başarısız olabilir.

08Sorumlu yönetim

Yöntemi kimin sürdürdüğü.

Yapay Zekâ ve Otonom Sistemler , Konsorsiyum adına yapay zekâ ve makine öğreniminin sorumlu yönetimini üstlenir ve platformlar genelinde nasıl uygulandığını inceler.

10Sorular

Sorular ve yanıtlar.

Bu alanda yapay zekâ ve makine öğreniminin sınırları nelerdir?
Kullanım koşulları eğitim verilerinden farklı olduğunda performans düşer. Modeller önyargıları kodlayabilir ve nadir olaylarda açık bir uyarı vermeden başarısız olabilir.
Sonuçlar nasıl kontrol edilir?
Modeller mekânsal, zamansal ve grup yapısına uyan ayrılmış veriler üzerinde değerlendirilir. Sağlamlık, kalibrasyon ve adillik doğrulukla birlikte test edilir.
Bu sayfadaki değerler gerçek mi?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Bu yöntem başka nerede uygulanıyor?
Toplumların işleyişini sürdüren Kanonik yöntem sayfası onu uygulayan tüm platformları listeler.
RaporlarKatkıda bulunun

Bu sayfadan kanıt katkısında bulunun.

Reports, Konsorsiyumun üç ayda bir yayımlanan yayınıdır. Bu konu hakkında bildikleriniz bir sonraki sayıda kanıt, vaka veya düzeltme olabilir; size atfedilir ve kendi çalışmanızsa CC BY 4.0 kapsamında yayımlanır.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
Yapay Zekâ ve Finansal Model Riski

Bir maruziyet veya sermaye sorusunu İttifak'a getirin.

Bilgi ve başvurular bugün açıktır. Bir başvuru bir referans numarası alır ve bir sonraki adımı belirtir; başvurular, ödemeler, işlem kapasitesi tahsisleri ve kayıtlar yalnızca ekipleri, koşulları ve inceleme kapasiteleri mevcut olduğunda açılır.