GRA · مخاطر الذكاء الاصطناعي والنماذج المالية
التمويل المكانيحيث يلتقي رأس المال بالخطر والتعرّض والتحول
رصد النماذج والانجراف
A model validated at launch can fail later as customers, products, markets and data pipelines change. Monitoring tracks performance, input distributions and outcomes to detect drift and trigger review. Machine learning models that retrain frequently add their own risks. This page sets out how drift arises, how monitoring detects it, the measures used, and who decides when a model must change or stop.
Model monitoring and drift on the record.
Model monitoring and drift: how the risk develops.
Changes over time and review thresholds. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Data drift
The distribution of inputs shifts as new customer segments arrive, products change or upstream systems alter fields. The model meets data it was not trained on.
Concept drift
تتغير العلاقة بين المدخلات والنتائج، كما يحدث مثلاً عندما تغيّر صدمة اقتصادية هوية المتعثرين عن السداد. وتتراجع الدقة حتى لو بدت المدخلات مستقرة.
Outcomes arrive late
Defaults and claims emerge months or years after decisions, so true performance is known late. Proxies and early indicators fill the gap with uncertainty.
Retraining adds risk
Frequent retraining can absorb drift, and it can also learn from feedback loops or corrupted data. Each retrained version needs controls proportionate to its use.
What model monitoring and drift means for exposure, loss and capital.
عروض التعرّض والخسائر والسيناريوهات ورأس المال التي يطلبها مسؤول المخاطر أو الجهة الرقابية أو وزارة المالية، مع الأطر التي يقدّمون التقارير وفقًا لها. وتتبع الهياكل الممارسات الرقابية والاكتوارية. والقيم توضيحية: وليست أبدًا أسعارًا أو تصنيفات أو مشورة.
قنوات الانتقال
How a shock in model monitoring and drift reaches credit, market, underwriting, liquidity and operational risk, and feeds back.
ما الذي يُقاس، ومدى جودة قياسه.
يحمل كل مؤشر وحدته ووتيرته ونوع المصدر الذي يستند إليه ووسم الأدلة الذي ستحمله القيمة. ولا تُعرض أي قيم: فالبرنامج يقدّمها بموجب سلطته الخاصة.
| المؤشر | الوحدة | وتيرة الإصدار | نوع المصدر | الوسم |
|---|---|---|---|---|
| Population stability index by input | بلا أبعاد | شهري | الرصد | مُقدَّر |
| Performance against validation baseline | change in discrimination or calibration | شهرية أو ربع سنوية | الرصد | مُقدَّر |
| Monitoring alerts breaching thresholds | العدد | شهري | Monitoring records | مرصود |
| Models retrained in period | العدد | فصلي | Model records | مُعلَن |
| Data pipeline incidents affecting models | العدد | فصلي | سجلات الحوادث | مُبلَّغ عنه |
| Time from alert to remediation | أيام | per alert | سجلات الحوكمة | مرصود |
من أين تأتي الأدلة.
مجموعات بيانات عامة مسمّاة وسجلات مؤسسية، لكلٍّ منها فئة ترخيصها. ولا تُستخدم المصادر المتاحة بموجب اتفاق إلا وفق شروطها، ولا يُعاد نشرها أبدًا.
| المصدر | ما يقدّمه | فئة الترخيص |
|---|---|---|
| PRA SS1/23 principles on model monitoring | Expectations for ongoing performance monitoring | مجاني، وفق شروط بنك إنجلترا |
| SR 11-7 on ongoing monitoring and outcomes analysis | United States expectations | ملك عام |
| EBA guidelines on loan origination and monitoring | Monitoring of automated credit models | مجاني، وفق شروط إعادة الاستخدام في الاتحاد الأوروبي |
| Academic research on dataset shift | Methods for detecting and adapting to drift | مجاني للقراءة، والشروط بحسب الناشر |
| Bank Pillar 3 model back-testing disclosures | Back-testing results for capital models | سجلات عامة، والشروط بحسب كل مصرف |
من يقرر، وما الذي تخدمه الأدلة.
تدرس منصة مخاطر الذكاء الاصطناعي و النماذج المالية الأدلة. أما القرارات الواردة أدناه فتتخذها الجهات المسماة وفق قواعدها الخاصة، ولا تتخذها المنصة أبدًا.
| من يقرر | السؤال | الأدلة التي تخدمها هذه الصفحة |
|---|---|---|
| مالكو النماذج | When to recalibrate, redevelop or retire a model | Monitoring results against thresholds |
| وظائف مخاطر النماذج | What monitoring standards apply by tier | Policy and monitoring evidence |
| الجهات الإشرافية | Whether monitoring is adequate for capital and conduct models | Back-testing and review findings |
| Data owners | How upstream changes are controlled | Pipeline incident records |
المخرجات التي يُنتجها هذا الموضوع
- Guide to data drift and concept drift
- Method note on monitoring thresholds and alerts
- Brief on controls for frequently retrained models
- Questions for model owners on late-arriving outcomes
ما يسأل عنه الخبراء.
Monitoring questions ask how soon a problem will be seen.
- Which performance measures are monitored, and how often?
- How quickly are outcomes, such as defaults or claims, observed, and what fills the gap meanwhile?
- Has the input data distribution shifted, and does it matter?
- What thresholds trigger review, recalibration or withdrawal, and who set them?
- How are continuously retrained models governed?
الآليات والمحرّكات.
Data drift occurs when the distribution of inputs changes, for example a new customer segment or a change in a data source. Concept drift occurs when the relationship between inputs and outcomes changes, for example when an economic shock alters how income predicts repayment. Concept drift is more dangerous and harder to detect, because outcomes may take months or years to observe.
Feedback loops add complexity: a model’s decisions change who becomes a customer, which changes future data. Retraining can restore performance but can also absorb errors or bias, so retrained models need governance of their own.
كيف يُدرس، وأين تتوقف المناهج.
| المنهج أو البيانات | ما يُظهره | الحدود |
|---|---|---|
| Performance tracking against outcomes | Accuracy and calibration over time | Outcomes arrive with delay |
| Distribution shift statistics | Changes in input data | Shift does not always mean performance loss |
| Benchmark and challenger models | Relative performance | Challengers share some data limitations |
| Threshold and alerting frameworks | When to escalate | Thresholds involve judgement |
كيف يُدرس، وما لا تستطيع المناهج قوله.
- 01الاحتمالات والإحصاءاختبار المعايرة · إحصاءات الانجراف · مقارنة النتائج بين المجموعاتمُطبَّق هنا
- 02تقدير عدم اليقين والتحقق من صحة النماذجفترات التنبؤ لنماذج الخسائر · مجموعات النماذج · رأس المال أو الهوامش الوقائية لمخاطر النماذجمُطبَّق هنا
- 03الذكاء الاصطناعي وتعلم الآلةنماذج الائتمان المعزّزة بالتدرج · النماذج اللغوية في العمليات · كشف الحالات الشاذةمُطبَّق هنا
- 04هندسة تقييم الذكاء الاصطناعي وضمانهالتحقق من صحة نماذج التعلّم الآلي · اختبار الاختراق التحاكي للذكاء الاصطناعي التوليدي · تقييم الإنصافمُطبَّق هنا
أسئلة وأجوبة.
What is the difference between data drift and concept drift?
What is a population stability index?
Should models retrain automatically?
Why is concept drift hard to detect?
Is automatic retraining a solution?
Does the platform monitor firms’ models?
ساهم بأدلة من هذه الصفحة.
Reports هي المطبوعة الفصلية للاتحاد. ويمكن لما تعرفه عن هذا الموضوع أن يصبح دليلًا أو حالة أو تصويبًا في الإصدار التالي، يُنسب إليك ويُنشر بموجب CC BY 4.0 حيثما كان من عملك الخاص.
- البريد الإلكترونيالبوابة GW-GRAأرسله من هذه الصفحةدليل أو تصحيح أو حالة أو أسلوب أو مراجعة أو ترجمة أو مدخل لملف قُطري. يصل موسومًا بهذه الصفحة، فيتلقاه المحرر المسؤول عنها.
- Zenodoإيداع مفتوحأودِعه وقدّمه إلى المجتمعانشر سجلك الخاص على Zenodo بمعرّف ORCID iD الخاص بك، ثم قدّمه إلى مجتمع Reports هناك. يراجعه القيّمون، ويبقى معرّف DOI ملكًا لك.
- ReportsGlobal Risks Allianceاطّلع على جميع سبل المساهمةأنواع المساهمات، وكيفية مراجعة كل منها، والإسناد الذي تحصل عليه، والترخيص، وما لا يُقبل أبداً.
لا ترسل أبدًا بيانات شخصية أو تفاصيل حساسة عن البنية التحتية أو أي شيء لا يحق لك مشاركته. تُراجَع المساهمة قبل استخدامها؛ ولا يمنح إرسالها أي حقوق تأليف أو تحرير، ولا تشتري الرعاية أي نتيجة أبدًا.
اعرض على التحالف سؤالًا يتعلق بالتعرّض أو رأس المال.
المعلومات والاستفسارات متاحة اليوم. ويحصل الاستفسار على رقم مرجعي ويحدد الخطوة التالية؛ ولا تُفتح الطلبات والمدفوعات وتخصيصات الحوسبة والتسجيلات إلا حين يتوافر فريقها وشروطها وقدرة المراجعة.
الوثائق القانونية.
تُعرض الخرائط والبيانات والأشكال في هذا الموقع للسياق والمعلومات العامة. وهي ليست نصيحة ولا توقعات ولا إنذارات؛ وحدود المعلومات مبيّنة في إخلاءات المسؤولية وإشعارات البيانات.