Skip to content

GRA · مخاطر الذكاء الاصطناعي والنماذج المالية

التمويل المكانيحيث يلتقي رأس المال بالخطر والتعرّض والتحول

الذكاء الاصطناعي التوليدي في القطاع المالي

Financial firms use large language models to draft documents, answer customers, summarise research, write code and support analysts. Generative AI produces fluent output that can be wrong, can leak data and can be manipulated through its inputs. This page sets out how generative AI risks arise in financial services, how they are measured and controlled, and who decides where it may be used.

01لوحة العرض

كيف يسير العمل.

النظم · حول هذا الموضوعتوضيحي

دورة حياة مخاطر النماذج

Generative AI in finance · Model inventory · Committee 7

3 validations overdueGRA · AI and Financial Model Risk

دورة الحياة

  1. الجردمسجَّل
  2. التطويرموثّق
  3. تحققمستقل
  4. الموافقةاللجنة
  5. التنفيذالضوابط
  6. الرصدالعتبات
  7. المراجعةسنوي
  8. الإنهاءالإيقاف النهائي

النماذج

MD-264 PD retailالمستوى 112 شهرًا2متأخر عن موعده
MD-251 LLM complaints triageالمستوى 1أبدًا0غير مُتحقَّق منه
MD-297 IFRS 9 stagingالمستوى 15 months2معتمد
MD-784 marketing propensityالفئة 36 أشهر1معتمد

نطاق التحقق

السلامة المفاهيمية
قيد التنفيذ
تحليل النتائج
قيد الانتظار
المقارنة المرجعية
قيد الانتظار
حدود الاستخدام
المراجعة البشرية مطلوبة
Model risk lifecycle: the screen’s structure, terms and states for Generative AI in finance.Example names and illustrative values; a design, not a record or a live system.

الشكلدورة حياة مخاطر النماذج: أسماء أمثلة وقيم توضيحية، وليست سجلاً أو نظاماً فعلياً.

02السؤال

Generative AI in finance: how the risk develops.

Use cases and failure controls. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

الآلية

عبارات سلسة لكنها خاطئة

Models can generate plausible statements that are false, citations that do not exist or calculations that are wrong. In finance, an error in a disclosure, advice or code change can harm customers or the firm.

الآلية

Inputs can be weaponised

Prompt injection through documents, emails or web pages can make a model ignore instructions, reveal data or take unintended actions, especially when it is connected to tools.

الآلية

Data leaks across boundaries

Confidential information entered into external services or retrieved into answers can reach people not entitled to it. Data handling terms and access controls decide the exposure.

الآلية

Behaviour changes with versions

Provider updates change model behaviour without the firm’s code changing. Validation done on one version may not hold for the next.

03التعرّض والخسائر ورأس المال

What Generative AI in finance means for exposure, loss and capital.

عروض التعرّض والخسائر والسيناريوهات ورأس المال التي يطلبها مسؤول المخاطر أو الجهة الرقابية أو وزارة المالية، مع الأطر التي يقدّمون التقارير وفقًا لها. وتتبع الهياكل الممارسات الرقابية والاكتوارية. والقيم توضيحية: وليست أبدًا أسعارًا أو تصنيفات أو مشورة.

قنوات الانتقال

How a shock in Generative AI in finance reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
سيناريوهات ⁨NGFS⁩ المناخية · شبكة تخضير النظام المالي⁨IFRS S2⁩ الإفصاحات المتعلقة بالمناخ · ⁨ISSB⁩توصيات ⁨TCFD⁩ · مجلس الاستقرار المالي ⁨TCFD⁩مبادئ الإدارة الفعالة للمخاطر المالية المرتبطة بالمناخ · لجنة بازل للرقابة المصرفية
04المؤشرات الفرعية

ما الذي يُقاس، ومدى جودة قياسه.

يحمل كل مؤشر وحدته ووتيرته ونوع المصدر الذي يستند إليه ووسم الأدلة الذي ستحمله القيمة. ولا تُعرض أي قيم: فالبرنامج يقدّمها بموجب سلطته الخاصة.

المؤشرالوحدةوتيرة الإصدارنوع المصدرالوسم
Generative AI use cases in productioncount by risk tierفصليUse case registerمُعلَن
Factual error rate on evaluation setsshare of responsesلكل تقييمInternal evaluationمُقدَّر
Prompt injection test failurescount per test cycleلكل اختبارRed-team resultsمرصود
Data loss prevention events involving AI toolsالعددشهريSecurity monitoringمرصود
Customer complaints linked to AI-generated contentالعددفصليبيانات الشكاوىمُبلَّغ عنه
Model version changes by providersالعددفي السنةVendor noticesمُبلَّغ عنه
05المصادر

من أين تأتي الأدلة.

مجموعات بيانات عامة مسمّاة وسجلات مؤسسية، لكلٍّ منها فئة ترخيصها. ولا تُستخدم المصادر المتاحة بموجب اتفاق إلا وفق شروطها، ولا يُعاد نشرها أبدًا.

المصدرما يقدّمهفئة الترخيص
FSB report on the financial stability implications of AIVulnerabilities from AI adoption in financeمجاني، وفق شروط مجلس الاستقرار المالي
IOSCO report on AI use cases, risks and challengesAI use in capital marketsمجاني، وفق شروط المنظمة الدولية لهيئات الأوراق المالية
NIST AI RMF generative AI profileRisks and actions specific to generative AIملك عام
OWASP Top 10 for large language model applicationsالمخاطر الأمنية الشائعة في تطبيقات نماذج اللغة الكبيرة (LLM)Free, CC BY-SA
Bank of England and FCA AI surveysAdoption and governance of AI in UK financeمجاني، بشروط بنك إنجلترا وFCA
06القرارات

من يقرر، وما الذي تخدمه الأدلة.

تدرس منصة مخاطر الذكاء الاصطناعي و النماذج المالية الأدلة. أما القرارات الواردة أدناه فتتخذها الجهات المسماة وفق قواعدها الخاصة، ولا تتخذها المنصة أبدًا.

من يقررالسؤالالأدلة التي تخدمها هذه الصفحة
Boards and executive committeesWhere generative AI may be used and with what controlsUse case risk tiers and evaluation results
Model risk and security functionsHow generative AI is validated and securedEvaluation, red-team and monitoring evidence
Conduct supervisorsWhether customer-facing AI meets conduct and disclosure dutiesComplaints and outcome evidence
Procurement and legal teamsWhich providers and data terms are acceptableContract terms and data handling evidence

المخرجات التي يُنتجها هذا الموضوع

  • Guide to generative AI failure modes in financial services
  • Method note on evaluating factual accuracy and grounding
  • Brief on prompt injection and tool-connected assistants
  • Questions for boards on generative AI use cases
07الأسئلة الجوهرية

ما يسأل عنه الخبراء.

Generative AI questions start with the use case and its consequences.

  • What is the tool being used for, and what happens if its output is wrong?
  • How is the accuracy of output verified before it affects customers or decisions?
  • What data is sent to the model, and could confidential information leak?
  • How are prompts, versions and outputs logged for accountability?
  • How dependent is the institution on a single provider, and what happens if the service changes or fails?
08الآليات

الآليات والمحرّكات.

Large language models generate text by predicting likely continuations. They can produce fluent, plausible output that is false, which matters greatly where accuracy is required. Their behaviour can change when providers update models, and they can be manipulated by crafted inputs. Their outputs are hard to test exhaustively because the space of possible inputs is vast.

Risk depends strongly on the use. Drafting an internal summary that a professional reviews carries different risk from answering customers directly or informing credit decisions. Controls therefore scale with consequence: human review, restricted data, retrieval from approved sources, testing against known cases and monitoring of outputs.

09المناهج والبيانات

كيف يُدرس، وأين تتوقف المناهج.

المنهج أو البياناتما يُظهرهالحدود
Use-case risk assessmentConsequences of failure by applicationInformal uses may not be captured
Evaluation against test setsAccuracy and failure rates on known casesCannot cover all real inputs
الاختبار بالفريق الأحمر والاختبار الخصاميVulnerability to manipulationFinds some weaknesses, not all
Output monitoring and loggingErrors and incidents in useDetecting subtle errors is hard
10المناهج

كيف يُدرس، وما لا تستطيع المناهج قوله.

11أسئلة

أسئلة وأجوبة.

Is a large language model a model under model risk rules?
Supervisors increasingly treat AI tools that inform decisions as models or as part of model risk, and expect firms to govern them proportionately to their use.
ما المقصود بحقن الأوامر الموجِّهة (prompt injection)؟
An attack in which instructions hidden in inputs, such as a document or web page, cause a language model to ignore its intended instructions or take unintended actions.
What is grounding?
Constraining a model’s answers to retrieved, authoritative sources and checking that statements are supported by them, to reduce fabricated content.
Why do language models produce false information?
Because they generate statistically likely text rather than retrieving verified facts. Without grounding and checks, they can produce plausible but incorrect output.
Should generative AI make credit or claims decisions?
That is for institutions and regulators to decide. Where the consequences for people are significant, strong human oversight and testing are widely expected.
Does the platform evaluate specific AI products?
No. GRA does not evaluate, rate or endorse products or vendors.
⁨Reports⁩ساهم

ساهم بأدلة من هذه الصفحة.

Reports هي المطبوعة الفصلية للاتحاد. ويمكن لما تعرفه عن هذا الموضوع أن يصبح دليلًا أو حالة أو تصويبًا في الإصدار التالي، يُنسب إليك ويُنشر بموجب CC BY 4.0 حيثما كان من عملك الخاص.

⁨Global Risks Alliance⁩مخاطر الذكاء الاصطناعي والنماذج الماليةالأساليب والجوانب التقنيةالتقنيات الأسية
مخاطر الذكاء الاصطناعي والنماذج المالية

اعرض على التحالف سؤالًا يتعلق بالتعرّض أو رأس المال.

المعلومات والاستفسارات متاحة اليوم. ويحصل الاستفسار على رقم مرجعي ويحدد الخطوة التالية؛ ولا تُفتح الطلبات والمدفوعات وتخصيصات الحوسبة والتسجيلات إلا حين يتوافر فريقها وشروطها وقدرة المراجعة.