GRA · مخاطر الذكاء الاصطناعي والنماذج المالية
التمويل المكانيحيث يلتقي رأس المال بالخطر والتعرّض والتحول
نماذج الأطراف الثالثة
Firms use vendor credit scores, fraud models, catastrophe models, market data analytics and foundation models they did not build and cannot fully inspect. Responsibility for model risk stays with the firm. This page sets out how third-party model risk arises, how firms validate what they cannot see, the evidence available, and who decides.
Third party models on the record.
Third party models: how the risk develops.
Vendor dependencies and due diligence. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Limited transparency
Vendors protect their methods as trade secrets. Firms may get documentation and performance reports but not code, data or training details, which limits validation.
Shared models, shared errors
When many firms use the same vendor model, its errors affect them all at once and can move markets or credit supply together.
Updates change behaviour
Vendors update models and data on their own schedules. Without notice and change analysis, a firm’s validated model can change silently.
Validation by outcomes
Where internals are hidden, firms validate through benchmarking, outcome analysis and testing on their own data, which needs time and data.
دورة حياة مخاطر النماذج.
الشاشة التي قد يستخدمها فريق لمتابعة هذا الموضوع: مقاييسه وحالاته وقراراته. والأسماء أمثلة والقيم توضيحية.
دورة حياة مخاطر النماذج
Third party models · Model inventory · Committee 8
دورة الحياة
- الجردمسجَّل
- التطويرموثّق
- تحققمستقل
- الموافقةاللجنة
- التنفيذالضوابط
- الرصدالعتبات
- المراجعةسنوي
- الإنهاءالإيقاف النهائي
النماذج
| MD-709 PD retail | المستوى 1 | 9 months | 1 | متأخر عن موعده |
| MD-561 LLM complaints triage | المستوى 1 | أبدًا | 0 | غير مُتحقَّق منه |
| MD-601 IFRS 9 staging | المستوى 1 | 3 months | 0 | معتمد |
| MD-088 marketing propensity | الفئة 3 | 14 months | 1 | معتمد |
نطاق التحقق
- السلامة المفاهيمية
- قيد التنفيذ
- تحليل النتائج
- قيد الانتظار
- المقارنة المرجعية
- قيد الانتظار
- حدود الاستخدام
- المراجعة البشرية مطلوبة
ما الذي يُقاس، ومدى جودة قياسه.
يحمل كل مؤشر وحدته ووتيرته ونوع المصدر الذي يستند إليه ووسم الأدلة الذي ستحمله القيمة. ولا تُعرض أي قيم: فالبرنامج يقدّمها بموجب سلطته الخاصة.
| المؤشر | الوحدة | وتيرة الإصدار | نوع المصدر | الوسم |
|---|---|---|---|---|
| Third-party models in inventory | العدد حسب المستوى | سنوي | جرد النماذج | مُعلَن |
| Vendor models with full documentation | الحصة | سنوي | Vendor management records | مُعلَن |
| Vendor model changes notified | العدد | في السنة | Vendor notices | مُبلَّغ عنه |
| Third-party models validated on own data | الحصة | سنوي | سجلات التحقق | مُعلَن |
| Concentration of vendor model use across firms | share of firms using top vendors | دوري | المسوح الإشرافية | مُبلَّغ عنه |
| Contracts with model change notice clauses | الحصة | دوري | مراجعات العقود | مُعلَن |
What third party models means for exposure, loss and capital.
عروض التعرّض والخسائر والسيناريوهات ورأس المال التي يطلبها مسؤول المخاطر أو الجهة الرقابية أو وزارة المالية، مع الأطر التي يقدّمون التقارير وفقًا لها. وتتبع الهياكل الممارسات الرقابية والاكتوارية. والقيم توضيحية: وليست أبدًا أسعارًا أو تصنيفات أو مشورة.
قنوات الانتقال
How a shock in third party models reaches credit, market, underwriting, liquidity and operational risk, and feeds back.
من أين تأتي الأدلة.
مجموعات بيانات عامة مسمّاة وسجلات مؤسسية، لكلٍّ منها فئة ترخيصها. ولا تُستخدم المصادر المتاحة بموجب اتفاق إلا وفق شروطها، ولا يُعاد نشرها أبدًا.
| المصدر | ما يقدّمه | فئة الترخيص |
|---|---|---|
| SR 11-7 guidance on vendor and third-party models | Expectations for using external models | ملك عام |
| Interagency guidance on third-party relationships (United States banking agencies) | Third-party risk management expectations | ملك عام |
| FSB report on AI financial stability implications | Third-party and concentration risks from AI | مجاني، وفق شروط مجلس الاستقرار المالي |
| EU AI Act obligations for providers and deployers | Division of duties between AI providers and users | مجاني، وفق شروط إعادة الاستخدام في الاتحاد الأوروبي |
| Vendor model documentation and performance reports | Information vendors provide to users | Proprietary, terms per vendor |
من يقرر، وما الذي تخدمه الأدلة.
تدرس منصة مخاطر الذكاء الاصطناعي و النماذج المالية الأدلة. أما القرارات الواردة أدناه فتتخذها الجهات المسماة وفق قواعدها الخاصة، ولا تتخذها المنصة أبدًا.
| من يقرر | السؤال | الأدلة التي تخدمها هذه الصفحة |
|---|---|---|
| وظائف مخاطر النماذج | How to validate and approve third-party models | Documentation, benchmarks and outcome testing |
| Procurement and legal | Which transparency and change terms to require | Contract practice and regulatory expectations |
| الجهات الإشرافية | Whether vendor model use is governed adequately and whether concentration matters | Surveys and review findings |
| الموردون | What documentation and notice to provide | Customer and regulatory requirements |
المخرجات التي يُنتجها هذا الموضوع
- دليل التحقق من صحة النماذج التي لا تستطيع الشركات فحصها
- Brief on concentration in vendor and foundation models
- Method note on change analysis for vendor updates
- Questions for procurement on model transparency terms
ما يسأل عنه الخبراء.
The questions concern responsibility for models one did not build.
- Does the institution understand how a vendor model works well enough to validate its use?
- What documentation, testing evidence and access does the vendor provide?
- How are vendor model updates communicated, tested and approved?
- How many institutions rely on the same vendor, and what happens if it fails or changes?
- Can the institution exit or replace the model if needed?
الآليات والمحرّكات.
Vendors often protect their models as intellectual property, limiting the transparency available to users. Institutions must still validate the model’s use for their own purposes, typically through outcome testing, benchmarking and contractual rights to documentation. Updates by the vendor can change model behaviour without the institution’s knowledge.
Concentration is a sector-wide concern. When many institutions use the same vendor model or AI provider, a flaw, outage or change affects them together, creating correlated errors and operational dependencies that no single institution can manage alone.
كيف يُدرس، وأين تتوقف المناهج.
| المنهج أو البيانات | ما يُظهره | الحدود |
|---|---|---|
| Vendor due diligence | Vendor capability, controls and transparency | Limited by vendor disclosure |
| Outcome and benchmark testing | Performance on the institution’s own data | Does not reveal internal logic |
| Contract and exit analysis | Rights to information, notification and exit | Rights may be hard to exercise |
| Concentration mapping | Shared dependencies across the sector | Requires aggregated information |
كيف يُدرس، وما لا تستطيع المناهج قوله.
- 01هندسة تقييم الذكاء الاصطناعي وضمانهالتحقق من صحة نماذج التعلّم الآلي · اختبار الاختراق التحاكي للذكاء الاصطناعي التوليدي · تقييم الإنصافمُطبَّق هنا
- 02الاحتمالات والإحصاءاختبار المعايرة · إحصاءات الانجراف · مقارنة النتائج بين المجموعاتمُطبَّق هنا
- 03تقدير عدم اليقين والتحقق من صحة النماذجفترات التنبؤ لنماذج الخسائر · مجموعات النماذج · رأس المال أو الهوامش الوقائية لمخاطر النماذجمُطبَّق هنا
- 04الذكاء الاصطناعي وتعلم الآلةنماذج الائتمان المعزّزة بالتدرج · النماذج اللغوية في العمليات · كشف الحالات الشاذةمُطبَّق هنا
أسئلة وأجوبة.
Who is responsible for a vendor model’s risk?
How can a firm validate a model it cannot see?
Why does vendor concentration matter?
Does buying a model transfer its risk to the vendor?
Why is vendor concentration a stability concern?
What should an institution be able to obtain from a model vendor?
Does the platform rate vendors?
ساهم بأدلة من هذه الصفحة.
Reports هي المطبوعة الفصلية للاتحاد. ويمكن لما تعرفه عن هذا الموضوع أن يصبح دليلًا أو حالة أو تصويبًا في الإصدار التالي، يُنسب إليك ويُنشر بموجب CC BY 4.0 حيثما كان من عملك الخاص.
- البريد الإلكترونيالبوابة GW-GRAأرسله من هذه الصفحةدليل أو تصحيح أو حالة أو أسلوب أو مراجعة أو ترجمة أو مدخل لملف قُطري. يصل موسومًا بهذه الصفحة، فيتلقاه المحرر المسؤول عنها.
- Zenodoإيداع مفتوحأودِعه وقدّمه إلى المجتمعانشر سجلك الخاص على Zenodo بمعرّف ORCID iD الخاص بك، ثم قدّمه إلى مجتمع Reports هناك. يراجعه القيّمون، ويبقى معرّف DOI ملكًا لك.
- ReportsGlobal Risks Allianceاطّلع على جميع سبل المساهمةأنواع المساهمات، وكيفية مراجعة كل منها، والإسناد الذي تحصل عليه، والترخيص، وما لا يُقبل أبداً.
لا ترسل أبدًا بيانات شخصية أو تفاصيل حساسة عن البنية التحتية أو أي شيء لا يحق لك مشاركته. تُراجَع المساهمة قبل استخدامها؛ ولا يمنح إرسالها أي حقوق تأليف أو تحرير، ولا تشتري الرعاية أي نتيجة أبدًا.
اعرض على التحالف سؤالًا يتعلق بالتعرّض أو رأس المال.
المعلومات والاستفسارات متاحة اليوم. ويحصل الاستفسار على رقم مرجعي ويحدد الخطوة التالية؛ ولا تُفتح الطلبات والمدفوعات وتخصيصات الحوسبة والتسجيلات إلا حين يتوافر فريقها وشروطها وقدرة المراجعة.
الوثائق القانونية.
تُعرض الخرائط والبيانات والأشكال في هذا الموقع للسياق والمعلومات العامة. وهي ليست نصيحة ولا توقعات ولا إنذارات؛ وحدود المعلومات مبيّنة في إخلاءات المسؤولية وإشعارات البيانات.