Skip to content

GRA · مخاطر الذكاء الاصطناعي والنماذج المالية

التمويل المكانيحيث يلتقي رأس المال بالخطر والتعرّض والتحول

رصد النماذج والانجراف

A model validated at launch can fail later as customers, products, markets and data pipelines change. Monitoring tracks performance, input distributions and outcomes to detect drift and trigger review. Machine learning models that retrain frequently add their own risks. This page sets out how drift arises, how monitoring detects it, the measures used, and who decides when a model must change or stop.

01سجّل

Model monitoring and drift on the record.

02السؤال

Model monitoring and drift: how the risk develops.

Changes over time and review thresholds. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

الآلية

Data drift

The distribution of inputs shifts as new customer segments arrive, products change or upstream systems alter fields. The model meets data it was not trained on.

الآلية

Concept drift

تتغير العلاقة بين المدخلات والنتائج، كما يحدث مثلاً عندما تغيّر صدمة اقتصادية هوية المتعثرين عن السداد. وتتراجع الدقة حتى لو بدت المدخلات مستقرة.

الآلية

Outcomes arrive late

Defaults and claims emerge months or years after decisions, so true performance is known late. Proxies and early indicators fill the gap with uncertainty.

الآلية

Retraining adds risk

Frequent retraining can absorb drift, and it can also learn from feedback loops or corrupted data. Each retrained version needs controls proportionate to its use.

03التعرّض والخسائر ورأس المال

What model monitoring and drift means for exposure, loss and capital.

عروض التعرّض والخسائر والسيناريوهات ورأس المال التي يطلبها مسؤول المخاطر أو الجهة الرقابية أو وزارة المالية، مع الأطر التي يقدّمون التقارير وفقًا لها. وتتبع الهياكل الممارسات الرقابية والاكتوارية. والقيم توضيحية: وليست أبدًا أسعارًا أو تصنيفات أو مشورة.

قنوات الانتقال

How a shock in model monitoring and drift reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
سيناريوهات ⁨NGFS⁩ المناخية · شبكة تخضير النظام المالي⁨IFRS S2⁩ الإفصاحات المتعلقة بالمناخ · ⁨ISSB⁩توصيات ⁨TCFD⁩ · مجلس الاستقرار المالي ⁨TCFD⁩مبادئ الإدارة الفعالة للمخاطر المالية المرتبطة بالمناخ · لجنة بازل للرقابة المصرفية
04المؤشرات الفرعية

ما الذي يُقاس، ومدى جودة قياسه.

يحمل كل مؤشر وحدته ووتيرته ونوع المصدر الذي يستند إليه ووسم الأدلة الذي ستحمله القيمة. ولا تُعرض أي قيم: فالبرنامج يقدّمها بموجب سلطته الخاصة.

المؤشرالوحدةوتيرة الإصدارنوع المصدرالوسم
Population stability index by inputبلا أبعادشهريالرصدمُقدَّر
Performance against validation baselinechange in discrimination or calibrationشهرية أو ربع سنويةالرصدمُقدَّر
Monitoring alerts breaching thresholdsالعددشهريMonitoring recordsمرصود
Models retrained in periodالعددفصليModel recordsمُعلَن
Data pipeline incidents affecting modelsالعددفصليسجلات الحوادثمُبلَّغ عنه
Time from alert to remediationأيامper alertسجلات الحوكمةمرصود
05المصادر

من أين تأتي الأدلة.

مجموعات بيانات عامة مسمّاة وسجلات مؤسسية، لكلٍّ منها فئة ترخيصها. ولا تُستخدم المصادر المتاحة بموجب اتفاق إلا وفق شروطها، ولا يُعاد نشرها أبدًا.

المصدرما يقدّمهفئة الترخيص
PRA SS1/23 principles on model monitoringExpectations for ongoing performance monitoringمجاني، وفق شروط بنك إنجلترا
SR 11-7 on ongoing monitoring and outcomes analysisUnited States expectationsملك عام
EBA guidelines on loan origination and monitoringMonitoring of automated credit modelsمجاني، وفق شروط إعادة الاستخدام في الاتحاد الأوروبي
Academic research on dataset shiftMethods for detecting and adapting to driftمجاني للقراءة، والشروط بحسب الناشر
Bank Pillar 3 model back-testing disclosuresBack-testing results for capital modelsسجلات عامة، والشروط بحسب كل مصرف
06القرارات

من يقرر، وما الذي تخدمه الأدلة.

تدرس منصة مخاطر الذكاء الاصطناعي و النماذج المالية الأدلة. أما القرارات الواردة أدناه فتتخذها الجهات المسماة وفق قواعدها الخاصة، ولا تتخذها المنصة أبدًا.

من يقررالسؤالالأدلة التي تخدمها هذه الصفحة
مالكو النماذجWhen to recalibrate, redevelop or retire a modelMonitoring results against thresholds
وظائف مخاطر النماذجWhat monitoring standards apply by tierPolicy and monitoring evidence
الجهات الإشرافيةWhether monitoring is adequate for capital and conduct modelsBack-testing and review findings
Data ownersHow upstream changes are controlledPipeline incident records

المخرجات التي يُنتجها هذا الموضوع

  • Guide to data drift and concept drift
  • Method note on monitoring thresholds and alerts
  • Brief on controls for frequently retrained models
  • Questions for model owners on late-arriving outcomes
07الأسئلة الجوهرية

ما يسأل عنه الخبراء.

Monitoring questions ask how soon a problem will be seen.

  • Which performance measures are monitored, and how often?
  • How quickly are outcomes, such as defaults or claims, observed, and what fills the gap meanwhile?
  • Has the input data distribution shifted, and does it matter?
  • What thresholds trigger review, recalibration or withdrawal, and who set them?
  • How are continuously retrained models governed?
08الآليات

الآليات والمحرّكات.

Data drift occurs when the distribution of inputs changes, for example a new customer segment or a change in a data source. Concept drift occurs when the relationship between inputs and outcomes changes, for example when an economic shock alters how income predicts repayment. Concept drift is more dangerous and harder to detect, because outcomes may take months or years to observe.

Feedback loops add complexity: a model’s decisions change who becomes a customer, which changes future data. Retraining can restore performance but can also absorb errors or bias, so retrained models need governance of their own.

09المناهج والبيانات

كيف يُدرس، وأين تتوقف المناهج.

المنهج أو البياناتما يُظهرهالحدود
Performance tracking against outcomesAccuracy and calibration over timeOutcomes arrive with delay
Distribution shift statisticsChanges in input dataShift does not always mean performance loss
Benchmark and challenger modelsRelative performanceChallengers share some data limitations
Threshold and alerting frameworksWhen to escalateThresholds involve judgement
10المناهج

كيف يُدرس، وما لا تستطيع المناهج قوله.

11أسئلة

أسئلة وأجوبة.

What is the difference between data drift and concept drift?
Data drift is a change in the distribution of inputs; concept drift is a change in how inputs relate to outcomes. Either can reduce model accuracy.
What is a population stability index?
A measure comparing the distribution of a variable or score between two periods, used to detect shifts in the population a model scores.
Should models retrain automatically?
Automatic retraining can keep models current but needs controls on data quality, performance checks and approval proportionate to the model’s use.
Why is concept drift hard to detect?
Because it involves changes in the relationship between inputs and outcomes, and outcomes such as defaults may only be known long after decisions are made.
Is automatic retraining a solution?
يمكن أن يفيد لكنه يحتاج إلى الحوكمة: فالنماذج المعاد تدريبها قد تمتص الأخطاء أو التحيز أو ظروفًا مؤقتة، ويجب مع ذلك اختبارها واعتمادها.
Does the platform monitor firms’ models?
No. GRA does not monitor, validate or approve any model.
⁨Reports⁩ساهم

ساهم بأدلة من هذه الصفحة.

Reports هي المطبوعة الفصلية للاتحاد. ويمكن لما تعرفه عن هذا الموضوع أن يصبح دليلًا أو حالة أو تصويبًا في الإصدار التالي، يُنسب إليك ويُنشر بموجب CC BY 4.0 حيثما كان من عملك الخاص.

⁨Global Risks Alliance⁩مخاطر الذكاء الاصطناعي والنماذج الماليةالأساليب والجوانب التقنيةالتقنيات الأسية
مخاطر الذكاء الاصطناعي والنماذج المالية

اعرض على التحالف سؤالًا يتعلق بالتعرّض أو رأس المال.

المعلومات والاستفسارات متاحة اليوم. ويحصل الاستفسار على رقم مرجعي ويحدد الخطوة التالية؛ ولا تُفتح الطلبات والمدفوعات وتخصيصات الحوسبة والتسجيلات إلا حين يتوافر فريقها وشروطها وقدرة المراجعة.