GRA · مخاطر الذكاء الاصطناعي والنماذج المالية
التمويل المكانيحيث يلتقي رأس المال بالخطر والتعرّض والتحول
الذكاء الاصطناعي التوليدي في القطاع المالي
Financial firms use large language models to draft documents, answer customers, summarise research, write code and support analysts. Generative AI produces fluent output that can be wrong, can leak data and can be manipulated through its inputs. This page sets out how generative AI risks arise in financial services, how they are measured and controlled, and who decides where it may be used.
كيف يسير العمل.
دورة حياة مخاطر النماذج
Generative AI in finance · Model inventory · Committee 7
دورة الحياة
- الجردمسجَّل
- التطويرموثّق
- تحققمستقل
- الموافقةاللجنة
- التنفيذالضوابط
- الرصدالعتبات
- المراجعةسنوي
- الإنهاءالإيقاف النهائي
النماذج
| MD-264 PD retail | المستوى 1 | 12 شهرًا | 2 | متأخر عن موعده |
| MD-251 LLM complaints triage | المستوى 1 | أبدًا | 0 | غير مُتحقَّق منه |
| MD-297 IFRS 9 staging | المستوى 1 | 5 months | 2 | معتمد |
| MD-784 marketing propensity | الفئة 3 | 6 أشهر | 1 | معتمد |
نطاق التحقق
- السلامة المفاهيمية
- قيد التنفيذ
- تحليل النتائج
- قيد الانتظار
- المقارنة المرجعية
- قيد الانتظار
- حدود الاستخدام
- المراجعة البشرية مطلوبة
الشكلدورة حياة مخاطر النماذج: أسماء أمثلة وقيم توضيحية، وليست سجلاً أو نظاماً فعلياً.
Generative AI in finance: how the risk develops.
Use cases and failure controls. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
عبارات سلسة لكنها خاطئة
Models can generate plausible statements that are false, citations that do not exist or calculations that are wrong. In finance, an error in a disclosure, advice or code change can harm customers or the firm.
Inputs can be weaponised
Prompt injection through documents, emails or web pages can make a model ignore instructions, reveal data or take unintended actions, especially when it is connected to tools.
Data leaks across boundaries
Confidential information entered into external services or retrieved into answers can reach people not entitled to it. Data handling terms and access controls decide the exposure.
Behaviour changes with versions
Provider updates change model behaviour without the firm’s code changing. Validation done on one version may not hold for the next.
What Generative AI in finance means for exposure, loss and capital.
عروض التعرّض والخسائر والسيناريوهات ورأس المال التي يطلبها مسؤول المخاطر أو الجهة الرقابية أو وزارة المالية، مع الأطر التي يقدّمون التقارير وفقًا لها. وتتبع الهياكل الممارسات الرقابية والاكتوارية. والقيم توضيحية: وليست أبدًا أسعارًا أو تصنيفات أو مشورة.
قنوات الانتقال
How a shock in Generative AI in finance reaches credit, market, underwriting, liquidity and operational risk, and feeds back.
ما الذي يُقاس، ومدى جودة قياسه.
يحمل كل مؤشر وحدته ووتيرته ونوع المصدر الذي يستند إليه ووسم الأدلة الذي ستحمله القيمة. ولا تُعرض أي قيم: فالبرنامج يقدّمها بموجب سلطته الخاصة.
| المؤشر | الوحدة | وتيرة الإصدار | نوع المصدر | الوسم |
|---|---|---|---|---|
| Generative AI use cases in production | count by risk tier | فصلي | Use case register | مُعلَن |
| Factual error rate on evaluation sets | share of responses | لكل تقييم | Internal evaluation | مُقدَّر |
| Prompt injection test failures | count per test cycle | لكل اختبار | Red-team results | مرصود |
| Data loss prevention events involving AI tools | العدد | شهري | Security monitoring | مرصود |
| Customer complaints linked to AI-generated content | العدد | فصلي | بيانات الشكاوى | مُبلَّغ عنه |
| Model version changes by providers | العدد | في السنة | Vendor notices | مُبلَّغ عنه |
من أين تأتي الأدلة.
مجموعات بيانات عامة مسمّاة وسجلات مؤسسية، لكلٍّ منها فئة ترخيصها. ولا تُستخدم المصادر المتاحة بموجب اتفاق إلا وفق شروطها، ولا يُعاد نشرها أبدًا.
| المصدر | ما يقدّمه | فئة الترخيص |
|---|---|---|
| FSB report on the financial stability implications of AI | Vulnerabilities from AI adoption in finance | مجاني، وفق شروط مجلس الاستقرار المالي |
| IOSCO report on AI use cases, risks and challenges | AI use in capital markets | مجاني، وفق شروط المنظمة الدولية لهيئات الأوراق المالية |
| NIST AI RMF generative AI profile | Risks and actions specific to generative AI | ملك عام |
| OWASP Top 10 for large language model applications | المخاطر الأمنية الشائعة في تطبيقات نماذج اللغة الكبيرة (LLM) | Free, CC BY-SA |
| Bank of England and FCA AI surveys | Adoption and governance of AI in UK finance | مجاني، بشروط بنك إنجلترا وFCA |
من يقرر، وما الذي تخدمه الأدلة.
تدرس منصة مخاطر الذكاء الاصطناعي و النماذج المالية الأدلة. أما القرارات الواردة أدناه فتتخذها الجهات المسماة وفق قواعدها الخاصة، ولا تتخذها المنصة أبدًا.
| من يقرر | السؤال | الأدلة التي تخدمها هذه الصفحة |
|---|---|---|
| Boards and executive committees | Where generative AI may be used and with what controls | Use case risk tiers and evaluation results |
| Model risk and security functions | How generative AI is validated and secured | Evaluation, red-team and monitoring evidence |
| Conduct supervisors | Whether customer-facing AI meets conduct and disclosure duties | Complaints and outcome evidence |
| Procurement and legal teams | Which providers and data terms are acceptable | Contract terms and data handling evidence |
المخرجات التي يُنتجها هذا الموضوع
- Guide to generative AI failure modes in financial services
- Method note on evaluating factual accuracy and grounding
- Brief on prompt injection and tool-connected assistants
- Questions for boards on generative AI use cases
ما يسأل عنه الخبراء.
Generative AI questions start with the use case and its consequences.
- What is the tool being used for, and what happens if its output is wrong?
- How is the accuracy of output verified before it affects customers or decisions?
- What data is sent to the model, and could confidential information leak?
- How are prompts, versions and outputs logged for accountability?
- How dependent is the institution on a single provider, and what happens if the service changes or fails?
الآليات والمحرّكات.
Large language models generate text by predicting likely continuations. They can produce fluent, plausible output that is false, which matters greatly where accuracy is required. Their behaviour can change when providers update models, and they can be manipulated by crafted inputs. Their outputs are hard to test exhaustively because the space of possible inputs is vast.
Risk depends strongly on the use. Drafting an internal summary that a professional reviews carries different risk from answering customers directly or informing credit decisions. Controls therefore scale with consequence: human review, restricted data, retrieval from approved sources, testing against known cases and monitoring of outputs.
كيف يُدرس، وأين تتوقف المناهج.
| المنهج أو البيانات | ما يُظهره | الحدود |
|---|---|---|
| Use-case risk assessment | Consequences of failure by application | Informal uses may not be captured |
| Evaluation against test sets | Accuracy and failure rates on known cases | Cannot cover all real inputs |
| الاختبار بالفريق الأحمر والاختبار الخصامي | Vulnerability to manipulation | Finds some weaknesses, not all |
| Output monitoring and logging | Errors and incidents in use | Detecting subtle errors is hard |
كيف يُدرس، وما لا تستطيع المناهج قوله.
- 01الذكاء الاصطناعي وتعلم الآلةنماذج الائتمان المعزّزة بالتدرج · النماذج اللغوية في العمليات · كشف الحالات الشاذةمُطبَّق هنا
- 02هندسة تقييم الذكاء الاصطناعي وضمانهالتحقق من صحة نماذج التعلّم الآلي · اختبار الاختراق التحاكي للذكاء الاصطناعي التوليدي · تقييم الإنصافمُطبَّق هنا
- 03تقدير عدم اليقين والتحقق من صحة النماذجفترات التنبؤ لنماذج الخسائر · مجموعات النماذج · رأس المال أو الهوامش الوقائية لمخاطر النماذجمُطبَّق هنا
- 04الاحتمالات والإحصاءاختبار المعايرة · إحصاءات الانجراف · مقارنة النتائج بين المجموعاتمُطبَّق هنا
أسئلة وأجوبة.
Is a large language model a model under model risk rules?
ما المقصود بحقن الأوامر الموجِّهة (prompt injection)؟
What is grounding?
Why do language models produce false information?
Should generative AI make credit or claims decisions?
Does the platform evaluate specific AI products?
ساهم بأدلة من هذه الصفحة.
Reports هي المطبوعة الفصلية للاتحاد. ويمكن لما تعرفه عن هذا الموضوع أن يصبح دليلًا أو حالة أو تصويبًا في الإصدار التالي، يُنسب إليك ويُنشر بموجب CC BY 4.0 حيثما كان من عملك الخاص.
- البريد الإلكترونيالبوابة GW-GRAأرسله من هذه الصفحةدليل أو تصحيح أو حالة أو أسلوب أو مراجعة أو ترجمة أو مدخل لملف قُطري. يصل موسومًا بهذه الصفحة، فيتلقاه المحرر المسؤول عنها.
- Zenodoإيداع مفتوحأودِعه وقدّمه إلى المجتمعانشر سجلك الخاص على Zenodo بمعرّف ORCID iD الخاص بك، ثم قدّمه إلى مجتمع Reports هناك. يراجعه القيّمون، ويبقى معرّف DOI ملكًا لك.
- ReportsGlobal Risks Allianceاطّلع على جميع سبل المساهمةأنواع المساهمات، وكيفية مراجعة كل منها، والإسناد الذي تحصل عليه، والترخيص، وما لا يُقبل أبداً.
لا ترسل أبدًا بيانات شخصية أو تفاصيل حساسة عن البنية التحتية أو أي شيء لا يحق لك مشاركته. تُراجَع المساهمة قبل استخدامها؛ ولا يمنح إرسالها أي حقوق تأليف أو تحرير، ولا تشتري الرعاية أي نتيجة أبدًا.
اعرض على التحالف سؤالًا يتعلق بالتعرّض أو رأس المال.
المعلومات والاستفسارات متاحة اليوم. ويحصل الاستفسار على رقم مرجعي ويحدد الخطوة التالية؛ ولا تُفتح الطلبات والمدفوعات وتخصيصات الحوسبة والتسجيلات إلا حين يتوافر فريقها وشروطها وقدرة المراجعة.
الوثائق القانونية.
تُعرض الخرائط والبيانات والأشكال في هذا الموقع للسياق والمعلومات العامة. وهي ليست نصيحة ولا توقعات ولا إنذارات؛ وحدود المعلومات مبيّنة في إخلاءات المسؤولية وإشعارات البيانات.