Skip to content

GRA · AI और वित्तीय मॉडल जोखिम

स्थानिक वित्तजहाँ पूँजी का सामना संकट, जोखिम-संपर्क और संक्रमण से होता है

वित्त में जनरेटिव AI

Financial firms use large language models to draft documents, answer customers, summarise research, write code and support analysts. Generative AI produces fluent output that can be wrong, can leak data and can be manipulated through its inputs. This page sets out how generative AI risks arise in financial services, how they are measured and controlled, and who decides where it may be used.

01कैनवास

काम कैसे चलता है।

प्रणालियाँ · इस विषय के आसपासउदाहरणात्मक

मॉडल जोखिम जीवन-चक्र

Generative AI in finance · Model inventory · Committee 7

3 सत्यापन विलंबितGRA · AI और वित्तीय मॉडल जोखिम

जीवन-चक्र

  1. सूचीपंजीकृत
  2. विकास करेंप्रलेखित
  3. सत्यापित करेंस्वतंत्र
  4. अनुमोदनसमिति
  5. क्रियान्वित करेंनियंत्रण
  6. निगरानी करेंसीमा-मान
  7. समीक्षावार्षिक
  8. सेवानिवृत्त करेंसेवामुक्त करें

मॉडल

MD-264 PD retailस्तर 112 महीने2लंबित
MD-251 LLM complaints triageस्तर 1कभी नहीं0सत्यापित नहीं
MD-297 IFRS 9 स्टेजिंगस्तर 15 months2अनुमोदित
MD-784 विपणन प्रवृत्तिश्रेणी 36 महीने1अनुमोदित

सत्यापन का दायरा

वैचारिक सुदृढ़ता
प्रगति में
परिणाम विश्लेषण
लंबित
बेंचमार्किंग
लंबित
उपयोग की सीमाएँ
मानव समीक्षा आवश्यक
Model risk lifecycle: the screen’s structure, terms and states for Generative AI in finance.Example names and illustrative values; a design, not a record or a live system.

Fig.Model risk lifecycle: example names and illustrative values, not a record or a live system.

02प्रश्न

Generative AI in finance: how the risk develops.

उपयोग के मामले और विफलता नियंत्रण। नीचे दिया गया अभिलेख बताता है कि जोखिम कैसे विकसित होता है, क्या मापा जाता है, डेटा कहाँ से आता है, उसका मॉडल कैसे बनता है और निर्णय कौन लेता है।

तंत्र

Fluent but wrong

Models can generate plausible statements that are false, citations that do not exist or calculations that are wrong. In finance, an error in a disclosure, advice or code change can harm customers or the firm.

तंत्र

Inputs can be weaponised

दस्तावेज़ों, ईमेल या वेब पेजों के माध्यम से प्रॉम्प्ट इंजेक्शन किसी मॉडल से निर्देशों की अनदेखी करा सकता है, डेटा उजागर करा सकता है या अनपेक्षित कार्रवाइयाँ करा सकता है, विशेषकर तब जब वह उपकरणों से जुड़ा हो।

तंत्र

Data leaks across boundaries

बाहरी सेवाओं में दर्ज की गई या उत्तरों में प्राप्त की गई गोपनीय जानकारी ऐसे लोगों तक पहुँच सकती है जिन्हें उसका अधिकार नहीं है। डेटा प्रबंधन की शर्तें और पहुँच नियंत्रण तय करते हैं कि जोखिम-संपर्क कितना होगा।

तंत्र

संस्करणों के साथ व्यवहार बदलता है

Provider updates change model behaviour without the firm’s code changing. Validation done on one version may not hold for the next.

03जोखिम-संपर्क, हानि और पूँजी

What Generative AI in finance means for exposure, loss and capital.

वे जोखिम-अनावरण, हानि, परिदृश्य और पूँजी दृश्य जो कोई जोखिम अधिकारी, पर्यवेक्षक या वित्त मंत्रालय माँगेगा, उन ढाँचों के साथ जिनके विरुद्ध वे रिपोर्ट करते हैं। संरचनाएँ पर्यवेक्षी और बीमांकिक अभ्यास का अनुसरण करती हैं। मान उदाहरणात्मक हैं: कभी क़ीमतें, रेटिंग या सलाह नहीं।

संचरण चैनल

How a shock in Generative AI in finance reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
NGFS जलवायु परिदृश्य · वित्तीय प्रणाली को हरित बनाने का नेटवर्क (Network for Greening the Financial System)IFRS S2 जलवायु-संबंधी प्रकटीकरण · ISSBTCFD सिफ़ारिशें · वित्तीय स्थिरता बोर्ड TCFDजलवायु-संबंधी वित्तीय जोखिमों के प्रभावी प्रबंधन के सिद्धांत · बैंकिंग पर्यवेक्षण पर बेसल समिति
04संकेतक

क्या मापा जाता है, और कितनी अच्छी तरह।

प्रत्येक संकेतक अपनी इकाई, आवृत्ति, उसके पीछे के स्रोत का प्रकार और वह साक्ष्य लेबल वहन करता है जो किसी मान पर होगा। कोई मान नहीं दिखाए जाते: कोई कार्यक्रम उन्हें अपने अधिकार के तहत प्रदान करता है।

संकेतकइकाईलयस्रोत प्रकारलेबल
Generative AI use cases in productionजोखिम स्तर के अनुसार संख्यात्रैमासिकUse case registerघोषित
Factual error rate on evaluation setsshare of responsesप्रति मूल्यांकनInternal evaluationअनुमानित
Prompt injection test failurescount per test cycleप्रति परीक्षणRed-team resultsप्रेक्षित
AI उपकरणों से जुड़ी डेटा हानि रोकथाम घटनाएँगणनामासिकSecurity monitoringप्रेक्षित
Customer complaints linked to AI-generated contentगणनात्रैमासिकशिकायत डेटारिपोर्ट किया गया
Model version changes by providersगणनाप्रति वर्षविक्रेता सूचनाएँरिपोर्ट किया गया
05स्रोत

साक्ष्य कहाँ से आता है।

नामित सार्वजनिक डेटासेट और संस्थागत अभिलेख, प्रत्येक अपने लाइसेंस वर्ग के साथ। समझौते द्वारा प्राप्त स्रोतों का उपयोग केवल उनकी शर्तों के तहत होता है और कभी पुनः प्रकाशित नहीं किया जाता।

स्रोतयह क्या देता हैलाइसेंस वर्ग
AI के वित्तीय स्थिरता पर प्रभावों पर FSB की रिपोर्टVulnerabilities from AI adoption in financeनिःशुल्क, FSB शर्तें
AI के उपयोग-मामलों, जोखिमों और चुनौतियों पर IOSCO की रिपोर्टAI use in capital marketsनिःशुल्क, IOSCO शर्तें
NIST AI RMF generative AI profileRisks and actions specific to generative AIसार्वजनिक क्षेत्र
OWASP Top 10 for large language model applicationsLLM अनुप्रयोगों में सामान्य सुरक्षा जोखिमFree, CC BY-SA
Bank of England and FCA AI surveysAdoption and governance of AI in UK financeनिःशुल्क, Bank of England और FCA की शर्तें
06निर्णय

कौन निर्णय लेता है, और साक्ष्य किसकी सेवा करता है।

AI और वित्तीय मॉडल जोखिम साक्ष्य तैयार करता है। नीचे दिए गए निर्णय नामित प्राधिकरणों द्वारा उनके अपने नियमों के अंतर्गत लिए जाते हैं, प्लेटफ़ॉर्म द्वारा कभी नहीं।

निर्णय कौन लेता हैप्रश्नयह पृष्ठ जिस साक्ष्य की सेवा करता है
Boards and executive committeesWhere generative AI may be used and with what controlsUse case risk tiers and evaluation results
Model risk and security functionsHow generative AI is validated and securedEvaluation, red-team and monitoring evidence
Conduct supervisorsWhether customer-facing AI meets conduct and disclosure dutiesComplaints and outcome evidence
Procurement and legal teamsWhich providers and data terms are acceptableContract terms and data handling evidence

इस विषय से उत्पन्न आउटपुट

  • Guide to generative AI failure modes in financial services
  • Method note on evaluating factual accuracy and grounding
  • Brief on prompt injection and tool-connected assistants
  • Questions for boards on generative AI use cases
07मूल प्रश्न

विशेषज्ञ क्या पूछते हैं।

जनरेटिव AI के प्रश्न उपयोग के मामले और उसके परिणामों से शुरू होते हैं।

  • What is the tool being used for, and what happens if its output is wrong?
  • How is the accuracy of output verified before it affects customers or decisions?
  • What data is sent to the model, and could confidential information leak?
  • How are prompts, versions and outputs logged for accountability?
  • How dependent is the institution on a single provider, and what happens if the service changes or fails?
08तंत्र

तंत्र और चालक।

Large language models generate text by predicting likely continuations. They can produce fluent, plausible output that is false, which matters greatly where accuracy is required. Their behaviour can change when providers update models, and they can be manipulated by crafted inputs. Their outputs are hard to test exhaustively because the space of possible inputs is vast.

Risk depends strongly on the use. Drafting an internal summary that a professional reviews carries different risk from answering customers directly or informing credit decisions. Controls therefore scale with consequence: human review, restricted data, retrieval from approved sources, testing against known cases and monitoring of outputs.

09पद्धतियाँ और डेटा

इसका अध्ययन कैसे होता है, और पद्धतियाँ कहाँ रुकती हैं।

पद्धति या डेटायह क्या दिखाता हैसीमाएँ
Use-case risk assessmentअनुप्रयोग के अनुसार विफलता के परिणामInformal uses may not be captured
परीक्षण समुच्चयों के विरुद्ध मूल्यांकनAccuracy and failure rates on known casesCannot cover all real inputs
रेड-टीमिंग और प्रतिकूल परीक्षणVulnerability to manipulationFinds some weaknesses, not all
Output monitoring and loggingErrors and incidents in useDetecting subtle errors is hard
10पद्धतियाँ

इसका अध्ययन कैसे होता है, और पद्धतियाँ क्या नहीं बता सकतीं।

  1. कृत्रिम बुद्धिमत्ता और मशीन लर्निंगग्रेडिएंट-बूस्टेड क्रेडिट मॉडल · परिचालन में भाषा मॉडल · विसंगति पहचानयहाँ लागू
  2. AI मूल्यांकन और आश्वासन अभियांत्रिकीमशीन लर्निंग मॉडलों का सत्यापन · सृजनात्मक AI का रेड-टीमिंग · निष्पक्षता आकलनयहाँ लागू
  3. अनिश्चितता परिमाणन और मॉडल सत्यापनहानि मॉडलों के लिए पूर्वानुमान अंतराल · मॉडल समुच्चय · मॉडल जोखिम पूँजी या बफ़रयहाँ लागू
  4. प्रायिकता और सांख्यिकीअंशांकन परीक्षण · विचलन सांख्यिकी · समूह परिणाम तुलनायहाँ लागू
11प्रश्न

प्रश्न और उत्तर।

Is a large language model a model under model risk rules?
Supervisors increasingly treat AI tools that inform decisions as models or as part of model risk, and expect firms to govern them proportionately to their use.
What is prompt injection?
An attack in which instructions hidden in inputs, such as a document or web page, cause a language model to ignore its intended instructions or take unintended actions.
What is grounding?
Constraining a model’s answers to retrieved, authoritative sources and checking that statements are supported by them, to reduce fabricated content.
Why do language models produce false information?
Because they generate statistically likely text rather than retrieving verified facts. Without grounding and checks, they can produce plausible but incorrect output.
Should generative AI make credit or claims decisions?
That is for institutions and regulators to decide. Where the consequences for people are significant, strong human oversight and testing are widely expected.
क्या यह प्लेटफ़ॉर्म विशिष्ट AI उत्पादों का मूल्यांकन करता है?
No. GRA does not evaluate, rate or endorse products or vendors.
रिपोर्टयोगदान दें

इस पृष्ठ से साक्ष्य का योगदान करें।

Reports कंसोर्टियम का त्रैमासिक प्रकाशन है। इस विषय के बारे में आप जो जानते हैं, वह अगले संस्करण में साक्ष्य, एक मामला या एक सुधार बन सकता है, आपको श्रेय देते हुए और जहाँ वह आपका अपना कार्य हो वहाँ CC BY 4.0 के अंतर्गत प्रकाशित।

वैश्विक जोखिम गठबंधन (Global Risks Alliance)AI और वित्तीय मॉडल जोखिमपद्धतियाँ और तकनीकीघातांकीय प्रौद्योगिकी

व्यक्तिगत डेटा, संवेदनशील अवसंरचना का विवरण या ऐसी कोई भी सामग्री कभी न भेजें जिसे साझा करने का आपको अधिकार नहीं है। उपयोग से पहले योगदान की समीक्षा होती है; इसे भेजने से लेखकत्व या संपादकीय अधिकार नहीं मिलते, और प्रायोजन कभी किसी निष्कर्ष को नहीं खरीदता।

AI और वित्तीय मॉडल जोखिम

जोखिम-अनावरण या पूँजी का कोई प्रश्न गठबंधन के पास लाएँ।

जानकारी और पूछताछ आज से खुली हैं। हर पूछताछ को एक संदर्भ मिलता है और अगला कदम बताया जाता है; आवेदन, भुगतान, कंप्यूट आवंटन और पंजीकरण तभी खुलते हैं जब उनकी टीम, शर्तें और समीक्षा क्षमता मौजूद हों।

विधिक

इस साइट पर मानचित्र, डेटा और आँकड़े संदर्भ और सामान्य जानकारी के लिए दिखाए जाते हैं। वे सलाह, पूर्वानुमान या चेतावनियाँ नहीं हैं; जानकारी की सीमाएँ अस्वीकरण और डेटा सूचनाओं में बताई गई हैं।