Skip to content

GRA · مخاطر الذكاء الاصطناعي والنماذج المالية

التمويل المكانيحيث يلتقي رأس المال بالخطر والتعرّض والتحول

الذكاء الاصطناعي والتعلّم الآلي للذكاء الاصطناعي ومخاطر النماذج المالية

Artificial intelligence and machine learning are methods that learn patterns from data to predict, classify or generate. On this platform they are explained as the techniques behind modern credit, pricing, fraud and generative tools, and as sources of model risk with distinctive failure modes.

01سجّل

الذكاء الاصطناعي والتعلّم الآلي لمخاطر الذكاء الاصطناعي والنماذج المالية في السجل.

سجل المنهجمنهج STEM
  1. المنهجالذكاء الاصطناعي وتعلم الآلة
  2. مُطبَّق فيتدرس منصة مخاطر الذكاء الاصطناعي و النماذج
  3. البيانات3 مدخلات
  4. الصفحة المرجعية⁨STEM Commons⁩
02الطلب

ما يفعله الذكاء الاصطناعي وتعلّم الآلة هنا.

Artificial intelligence and machine learning develop algorithms that learn patterns from data to classify, predict or generate outputs. They are increasingly used for hazard detection, forecasting and decision support, and are themselves a source of risk. In artificial intelligence and financial stability, machine learning can scale detection and forecasting across interconnected systems. Its own failure modes must be weighed when automated outputs inform consequential decisions. The canonical description is on the STEM Commons.

Gradient-boosted credit models

Tree ensembles used in credit scoring are examined for gains in ranking power, sensitivity to data shifts and how their reasons can be explained to applicants.

Language models in operations

Large language models used to summarise documents and draft responses are assessed for factual accuracy, grounding and data handling before deployment.

كشف الحالات الشاذة

Unsupervised methods that flag unusual transactions or trades are examined for false positive rates and for how alerts are reviewed by staff.

03التعرّض والخسائر ورأس المال

ما يعنيه ذلك بالنسبة إلى التعرّض والخسائر ورأس المال.

عروض التعرّض والخسائر والسيناريوهات ورأس المال التي يطلبها مسؤول المخاطر أو الجهة الرقابية أو وزارة المالية، مع الأطر التي يقدّمون التقارير وفقًا لها. وتتبع الهياكل الممارسات الرقابية والاكتوارية. والقيم توضيحية: وليست أبدًا أسعارًا أو تصنيفات أو مشورة.

قنوات الانتقال

How a shock in Artificial intelligence and machine learning for AI and financial model risk reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
سيناريوهات ⁨NGFS⁩ المناخية · شبكة تخضير النظام المالي⁨IFRS S2⁩ الإفصاحات المتعلقة بالمناخ · ⁨ISSB⁩توصيات ⁨TCFD⁩ · مجلس الاستقرار المالي ⁨TCFD⁩مبادئ الإدارة الفعالة للمخاطر المالية المرتبطة بالمناخ · لجنة بازل للرقابة المصرفية
04البيانات

ما يستهلكه المنهج.

مجموعات البيانات والسجلات التي يستخدمها الذكاء الاصطناعي وتعلّم الآلة في هذه المنصة، مع دور كلٍّ منها والوسم الذي تحمله قيمها. وتُدرج المصادر في سجل المصادر.

البياناتالدورالوسم
Labelled historical decisions and outcomesالتدريب والاختبارمُبلَّغ عنه
Evaluation datasetsقياس الأداءمرصود
توثيق النموذجDesign and limitsمُعلَن
05العملية

كيف تُسيَّر العملية.

Process explorer · Process

Artificial intelligence and machine learning for AI and financial model risk: AI risk management (NIST)

9 steps5 stages1 gate

العملية

Artificial intelligence and machine learning for AI and financial model risk: AI risk management (NIST)

تتضمن نواة AI RMF أربع وظائف، هي GOVERN وMAP وMEASURE وMANAGE، وتكون GOVERN شاملة لسائر الوظائف؛ والترتيب المرسوم قراءة شائعة واحدة، وليس قائمة تحقق.

  1. 01 الحوكمة

    1. 01GOVERN: السياسات والأدوار والمساءلةالخطوة · لجنة MRMGOVERN وظيفة شاملة. فهي تتخلل إدارة مخاطر الذكاء الاصطناعي بأكملها وتمكّن الوظائف الأخرى.
  2. 02 Map

    1. 02MAP: السياق والاستخدام المقصودمجموعة البياناتتحدد وظيفة MAP السياق اللازم لتأطير المخاطر المتعلقة بنظام ذكاء اصطناعي، بما في ذلك الأغراض المقصودة والآثار على الناس.
  3. 03 القياس

    1. 03MEASURE: تقييم خصائص الجدارة بالثقةالنموذجAI نظم الذكاء الاصطناعي من حيث خصائص الجدارة بالثقة. وينبغي اختبارها قبل النشر وبانتظام أثناء التشغيل.
    2. 04القياس (MEASURE): تتبّع المخاطر المحدَّدة بمرور الوقتالنموذجتوجد آليات لتتبع مخاطر الذكاء الاصطناعي المحددة بمرور الوقت، بما فيها المخاطر غير المتوقعة والناشئة.
  4. 04 الإدارة

    1. 05MANAGE: معالجة المخاطرخطوةمعالجة المخاطر الاستجابة للحوادث والتعافي منها والتواصل بشأنها. وتُوجَّه الموارد إلى المخاطر التي جرى تحديدها وقياسها.
    2. 06Proceed or not (MANAGE 1.1)Gate · MRM committeeA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07قرار النشرالقرار · لجنة MRMتقرر المنظمة التي تملك النظام ما إذا كانت ستنشره وبأي شروط.
    4. 08الرصد بعد النشر والحوادثالنموذجتُنفَّذ خطط الرصد بعد النشر. وتُشارَك الحوادث والأخطاء مع الجهات الفاعلة المعنية في مجال الذكاء الاصطناعي، بما في ذلك المجتمعات المتضررة.
  5. 05 السجل

    1. 09جرد نظم الذكاء الاصطناعيمجموعة البياناتتطلب GOVERN 1.6 وضع آليات لحصر أنظمة الذكاء الاصطناعي. وتُعد بطاقة النموذج ممارسة شائعة ولا يرد ذكرها في الإطار.

عرض محايد لمعيار أو أسلوب خارجي منشور، صادر عن الجهة المُصدِرة له. وليس سجلًا للتشغيل. ولا يقوم Nexus بأي خطوة معروضة ولا يشهد عليها ولا يوافق عليها. والبوابة أو القرار يعودان إلى الطرف الذي يسمّيه المصدر. وليست الإجراءات بالضرورة مجموعة مرتبة من الخطوات. ولا يظهر قانون الاتحاد الأوروبي للذكاء الاصطناعي في هذا المسار.

06التحقق

كيف تُفحص النتائج.

تُقيَّم النماذج على بيانات محجوزة تراعي البنية المكانية والزمانية والفئوية. وتُختبر المتانة والمعايرة والإنصاف إلى جانب الدقة.

التحققكيف يُنفَّذ
Out-of-time testingModels are tested on later periods than training data
Benchmark comparisonComplex models are compared with simpler alternatives
الاستقرارPerformance and explanations are checked across retraining runs

يتراجع الأداء حين تختلف ظروف النشر عن بيانات التدريب. وقد ترمّز النماذج تحيزات وتخفق دون إنذار واضح في الأحداث النادرة.

08الرعاية

من يحتفظ بالمنهج.

الذكاء الاصطناعي والنظم المستقلة الذكاء الاصطناعي وتعلّم الآلة للاتحاد، وتراجع كيفية تطبيقهما عبر المنصات.

10أسئلة

أسئلة وأجوبة.

ما حدود الذكاء الاصطناعي وتعلّم الآلة في هذا المجال؟
يتراجع الأداء حين تختلف ظروف النشر عن بيانات التدريب. وقد ترمّز النماذج تحيزات وتخفق دون إنذار واضح في الأحداث النادرة.
كيف تُفحص النتائج؟
تُقيَّم النماذج على بيانات محجوزة تراعي البنية المكانية والزمانية والفئوية. وتُختبر المتانة والمعايرة والإنصاف إلى جانب الدقة.
هل القيم المعروضة في هذه الصفحة حقيقية؟
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
أين يُطبَّق هذا المنهج أيضًا؟
مرصد صفحة المنهج المرجعية كل منصة تطبّقه.
⁨Reports⁩ساهم

ساهم بأدلة من هذه الصفحة.

Reports هي المطبوعة الفصلية للاتحاد. ويمكن لما تعرفه عن هذا الموضوع أن يصبح دليلًا أو حالة أو تصويبًا في الإصدار التالي، يُنسب إليك ويُنشر بموجب CC BY 4.0 حيثما كان من عملك الخاص.

⁨Global Risks Alliance⁩مخاطر الذكاء الاصطناعي والنماذج الماليةالأساليب والجوانب التقنيةالتقنيات الأسية
مخاطر الذكاء الاصطناعي والنماذج المالية

اعرض على التحالف سؤالًا يتعلق بالتعرّض أو رأس المال.

المعلومات والاستفسارات متاحة اليوم. ويحصل الاستفسار على رقم مرجعي ويحدد الخطوة التالية؛ ولا تُفتح الطلبات والمدفوعات وتخصيصات الحوسبة والتسجيلات إلا حين يتوافر فريقها وشروطها وقدرة المراجعة.