Skip to content

GRA · مخاطر الذكاء الاصطناعي والنماذج المالية

التمويل المكانيحيث يلتقي رأس المال بالخطر والتعرّض والتحول

هندسة تقييم الذكاء الاصطناعي وضمانه لمخاطر الذكاء الاصطناعي والنماذج المالية

AI assurance is the set of practices that give justified confidence in an AI or model system: validation, testing, red-teaming, monitoring, documentation and independent review. On this platform it connects established model risk management with the new evidence AI systems require.

01سجّل

AI evaluation and assurance engineering for AI and financial model risk on the record.

سجل المنهجمنهج STEM
  1. المنهجهندسة تقييم الذكاء الاصطناعي وضمانه
  2. مُطبَّق فيتدرس منصة مخاطر الذكاء الاصطناعي و النماذج
  3. البيانات3 مدخلات
  4. الصفحة المرجعية⁨STEM Commons⁩
02الطلب

What AI evaluation and assurance engineering does here.

AI evaluation and assurance engineering develops methods to test, monitor and provide justified confidence in AI systems. It addresses performance, robustness, safety and societal impact across the system life cycle. In artificial intelligence and financial stability, AI assurance determines whether automated systems can be trusted in high-consequence settings. It helps manage risks when AI is embedded across finance, health and infrastructure. The canonical description is on the STEM Commons.

Validation of machine learning models

Conceptual soundness, data quality, outcome analysis and stability testing are adapted to models whose internal logic is hard to read.

Red-teaming generative AI

Adversarial tests probe language model applications for prompt injection, data leakage and harmful output before and after deployment.

Fairness assessment

Outcome rates and error rates are compared across groups, with the chosen fairness criterion and its legal basis documented for review.

03التعرّض والخسائر ورأس المال

ما يعنيه ذلك بالنسبة إلى التعرّض والخسائر ورأس المال.

عروض التعرّض والخسائر والسيناريوهات ورأس المال التي يطلبها مسؤول المخاطر أو الجهة الرقابية أو وزارة المالية، مع الأطر التي يقدّمون التقارير وفقًا لها. وتتبع الهياكل الممارسات الرقابية والاكتوارية. والقيم توضيحية: وليست أبدًا أسعارًا أو تصنيفات أو مشورة.

قنوات الانتقال

How a shock in AI evaluation and assurance engineering for AI and financial model risk reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
سيناريوهات ⁨NGFS⁩ المناخية · شبكة تخضير النظام المالي⁨IFRS S2⁩ الإفصاحات المتعلقة بالمناخ · ⁨ISSB⁩توصيات ⁨TCFD⁩ · مجلس الاستقرار المالي ⁨TCFD⁩مبادئ الإدارة الفعالة للمخاطر المالية المرتبطة بالمناخ · لجنة بازل للرقابة المصرفية
04البيانات

ما يستهلكه المنهج.

Datasets and records used by AI evaluation and assurance engineering on this platform, with the role each plays and the label its values carry. Sources are listed in the source register.

البياناتالدورالوسم
تقارير التحققأدلة التوكيدمُعلَن
Red-team resultsAdversarial weaknessesمرصود
بيانات النتائجReal-world performanceمرصود
05العملية

كيف تُسيَّر العملية.

Process explorer · Process

AI evaluation and assurance engineering for AI and financial model risk: AI risk management (NIST)

9 steps5 stages1 gate

العملية

AI evaluation and assurance engineering for AI and financial model risk: AI risk management (NIST)

تتضمن نواة AI RMF أربع وظائف، هي GOVERN وMAP وMEASURE وMANAGE، وتكون GOVERN شاملة لسائر الوظائف؛ والترتيب المرسوم قراءة شائعة واحدة، وليس قائمة تحقق.

  1. 01 الحوكمة

    1. 01GOVERN: السياسات والأدوار والمساءلةالخطوة · لجنة MRMGOVERN وظيفة شاملة. فهي تتخلل إدارة مخاطر الذكاء الاصطناعي بأكملها وتمكّن الوظائف الأخرى.
  2. 02 Map

    1. 02MAP: السياق والاستخدام المقصودمجموعة البياناتتحدد وظيفة MAP السياق اللازم لتأطير المخاطر المتعلقة بنظام ذكاء اصطناعي، بما في ذلك الأغراض المقصودة والآثار على الناس.
  3. 03 القياس

    1. 03MEASURE: تقييم خصائص الجدارة بالثقةالنموذجAI نظم الذكاء الاصطناعي من حيث خصائص الجدارة بالثقة. وينبغي اختبارها قبل النشر وبانتظام أثناء التشغيل.
    2. 04القياس (MEASURE): تتبّع المخاطر المحدَّدة بمرور الوقتالنموذجتوجد آليات لتتبع مخاطر الذكاء الاصطناعي المحددة بمرور الوقت، بما فيها المخاطر غير المتوقعة والناشئة.
  4. 04 الإدارة

    1. 05MANAGE: معالجة المخاطرخطوةمعالجة المخاطر الاستجابة للحوادث والتعافي منها والتواصل بشأنها. وتُوجَّه الموارد إلى المخاطر التي جرى تحديدها وقياسها.
    2. 06Proceed or not (MANAGE 1.1)Gate · MRM committeeA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07قرار النشرالقرار · لجنة MRMتقرر المنظمة التي تملك النظام ما إذا كانت ستنشره وبأي شروط.
    4. 08الرصد بعد النشر والحوادثالنموذجتُنفَّذ خطط الرصد بعد النشر. وتُشارَك الحوادث والأخطاء مع الجهات الفاعلة المعنية في مجال الذكاء الاصطناعي، بما في ذلك المجتمعات المتضررة.
  5. 05 السجل

    1. 09جرد نظم الذكاء الاصطناعيمجموعة البياناتتطلب GOVERN 1.6 وضع آليات لحصر أنظمة الذكاء الاصطناعي. وتُعد بطاقة النموذج ممارسة شائعة ولا يرد ذكرها في الإطار.

عرض محايد لمعيار أو أسلوب خارجي منشور، صادر عن الجهة المُصدِرة له. وليس سجلًا للتشغيل. ولا يقوم Nexus بأي خطوة معروضة ولا يشهد عليها ولا يوافق عليها. والبوابة أو القرار يعودان إلى الطرف الذي يسمّيه المصدر. وليست الإجراءات بالضرورة مجموعة مرتبة من الخطوات. ولا يظهر قانون الاتحاد الأوروبي للذكاء الاصطناعي في هذا المسار.

06التحقق

كيف تُفحص النتائج.

Evaluation methods are checked for reliability and relevance to deployment conditions. Independent replication and third-party audits test claims.

التحققكيف يُنفَّذ
الاستقلاليةAssurance is performed by people independent of development
بيان النطاقWhat assurance covered and excluded is recorded
Repeat after changeMaterial model or version changes trigger renewed assurance

Benchmarks may not reflect real-world use or novel capabilities. General-purpose systems have open-ended behaviour that resists complete testing.

08الرعاية

من يحتفظ بالمنهج.

الذكاء الاصطناعي والنظم المستقلة رعاية هندسة تقييم الذكاء الاصطناعي وضمانه لدى الاتحاد، ويراجع كيفية تطبيقها عبر المنصات.

10أسئلة

أسئلة وأجوبة.

What are the limits of AI evaluation and assurance engineering in this field?
Benchmarks may not reflect real-world use or novel capabilities. General-purpose systems have open-ended behaviour that resists complete testing.
كيف تُفحص النتائج؟
Evaluation methods are checked for reliability and relevance to deployment conditions. Independent replication and third-party audits test claims.
هل القيم المعروضة في هذه الصفحة حقيقية؟
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
أين يُطبَّق هذا المنهج أيضًا؟
مرصد صفحة المنهج المرجعية كل منصة تطبّقه.
⁨Reports⁩ساهم

ساهم بأدلة من هذه الصفحة.

Reports هي المطبوعة الفصلية للاتحاد. ويمكن لما تعرفه عن هذا الموضوع أن يصبح دليلًا أو حالة أو تصويبًا في الإصدار التالي، يُنسب إليك ويُنشر بموجب CC BY 4.0 حيثما كان من عملك الخاص.

⁨Global Risks Alliance⁩مخاطر الذكاء الاصطناعي والنماذج الماليةالأساليب والجوانب التقنيةالتقنيات الأسية
مخاطر الذكاء الاصطناعي والنماذج المالية

اعرض على التحالف سؤالًا يتعلق بالتعرّض أو رأس المال.

المعلومات والاستفسارات متاحة اليوم. ويحصل الاستفسار على رقم مرجعي ويحدد الخطوة التالية؛ ولا تُفتح الطلبات والمدفوعات وتخصيصات الحوسبة والتسجيلات إلا حين يتوافر فريقها وشروطها وقدرة المراجعة.