GRA · AI और वित्तीय मॉडल जोखिम
स्थानिक वित्तजहाँ पूँजी का सामना संकट, जोखिम-संपर्क और संक्रमण से होता है
वित्त में जनरेटिव AI
Financial firms use large language models to draft documents, answer customers, summarise research, write code and support analysts. Generative AI produces fluent output that can be wrong, can leak data and can be manipulated through its inputs. This page sets out how generative AI risks arise in financial services, how they are measured and controlled, and who decides where it may be used.
काम कैसे चलता है।
मॉडल जोखिम जीवन-चक्र
Generative AI in finance · Model inventory · Committee 7
जीवन-चक्र
- सूचीपंजीकृत
- विकास करेंप्रलेखित
- सत्यापित करेंस्वतंत्र
- अनुमोदनसमिति
- क्रियान्वित करेंनियंत्रण
- निगरानी करेंसीमा-मान
- समीक्षावार्षिक
- सेवानिवृत्त करेंसेवामुक्त करें
मॉडल
| MD-264 PD retail | स्तर 1 | 12 महीने | 2 | लंबित |
| MD-251 LLM complaints triage | स्तर 1 | कभी नहीं | 0 | सत्यापित नहीं |
| MD-297 IFRS 9 स्टेजिंग | स्तर 1 | 5 months | 2 | अनुमोदित |
| MD-784 विपणन प्रवृत्ति | श्रेणी 3 | 6 महीने | 1 | अनुमोदित |
सत्यापन का दायरा
- वैचारिक सुदृढ़ता
- प्रगति में
- परिणाम विश्लेषण
- लंबित
- बेंचमार्किंग
- लंबित
- उपयोग की सीमाएँ
- मानव समीक्षा आवश्यक
Fig.Model risk lifecycle: example names and illustrative values, not a record or a live system.
Generative AI in finance: how the risk develops.
उपयोग के मामले और विफलता नियंत्रण। नीचे दिया गया अभिलेख बताता है कि जोखिम कैसे विकसित होता है, क्या मापा जाता है, डेटा कहाँ से आता है, उसका मॉडल कैसे बनता है और निर्णय कौन लेता है।
Fluent but wrong
Models can generate plausible statements that are false, citations that do not exist or calculations that are wrong. In finance, an error in a disclosure, advice or code change can harm customers or the firm.
Inputs can be weaponised
दस्तावेज़ों, ईमेल या वेब पेजों के माध्यम से प्रॉम्प्ट इंजेक्शन किसी मॉडल से निर्देशों की अनदेखी करा सकता है, डेटा उजागर करा सकता है या अनपेक्षित कार्रवाइयाँ करा सकता है, विशेषकर तब जब वह उपकरणों से जुड़ा हो।
Data leaks across boundaries
बाहरी सेवाओं में दर्ज की गई या उत्तरों में प्राप्त की गई गोपनीय जानकारी ऐसे लोगों तक पहुँच सकती है जिन्हें उसका अधिकार नहीं है। डेटा प्रबंधन की शर्तें और पहुँच नियंत्रण तय करते हैं कि जोखिम-संपर्क कितना होगा।
संस्करणों के साथ व्यवहार बदलता है
Provider updates change model behaviour without the firm’s code changing. Validation done on one version may not hold for the next.
What Generative AI in finance means for exposure, loss and capital.
वे जोखिम-अनावरण, हानि, परिदृश्य और पूँजी दृश्य जो कोई जोखिम अधिकारी, पर्यवेक्षक या वित्त मंत्रालय माँगेगा, उन ढाँचों के साथ जिनके विरुद्ध वे रिपोर्ट करते हैं। संरचनाएँ पर्यवेक्षी और बीमांकिक अभ्यास का अनुसरण करती हैं। मान उदाहरणात्मक हैं: कभी क़ीमतें, रेटिंग या सलाह नहीं।
संचरण चैनल
How a shock in Generative AI in finance reaches credit, market, underwriting, liquidity and operational risk, and feeds back.
क्या मापा जाता है, और कितनी अच्छी तरह।
प्रत्येक संकेतक अपनी इकाई, आवृत्ति, उसके पीछे के स्रोत का प्रकार और वह साक्ष्य लेबल वहन करता है जो किसी मान पर होगा। कोई मान नहीं दिखाए जाते: कोई कार्यक्रम उन्हें अपने अधिकार के तहत प्रदान करता है।
| संकेतक | इकाई | लय | स्रोत प्रकार | लेबल |
|---|---|---|---|---|
| Generative AI use cases in production | जोखिम स्तर के अनुसार संख्या | त्रैमासिक | Use case register | घोषित |
| Factual error rate on evaluation sets | share of responses | प्रति मूल्यांकन | Internal evaluation | अनुमानित |
| Prompt injection test failures | count per test cycle | प्रति परीक्षण | Red-team results | प्रेक्षित |
| AI उपकरणों से जुड़ी डेटा हानि रोकथाम घटनाएँ | गणना | मासिक | Security monitoring | प्रेक्षित |
| Customer complaints linked to AI-generated content | गणना | त्रैमासिक | शिकायत डेटा | रिपोर्ट किया गया |
| Model version changes by providers | गणना | प्रति वर्ष | विक्रेता सूचनाएँ | रिपोर्ट किया गया |
साक्ष्य कहाँ से आता है।
नामित सार्वजनिक डेटासेट और संस्थागत अभिलेख, प्रत्येक अपने लाइसेंस वर्ग के साथ। समझौते द्वारा प्राप्त स्रोतों का उपयोग केवल उनकी शर्तों के तहत होता है और कभी पुनः प्रकाशित नहीं किया जाता।
| स्रोत | यह क्या देता है | लाइसेंस वर्ग |
|---|---|---|
| AI के वित्तीय स्थिरता पर प्रभावों पर FSB की रिपोर्ट | Vulnerabilities from AI adoption in finance | निःशुल्क, FSB शर्तें |
| AI के उपयोग-मामलों, जोखिमों और चुनौतियों पर IOSCO की रिपोर्ट | AI use in capital markets | निःशुल्क, IOSCO शर्तें |
| NIST AI RMF generative AI profile | Risks and actions specific to generative AI | सार्वजनिक क्षेत्र |
| OWASP Top 10 for large language model applications | LLM अनुप्रयोगों में सामान्य सुरक्षा जोखिम | Free, CC BY-SA |
| Bank of England and FCA AI surveys | Adoption and governance of AI in UK finance | निःशुल्क, Bank of England और FCA की शर्तें |
कौन निर्णय लेता है, और साक्ष्य किसकी सेवा करता है।
AI और वित्तीय मॉडल जोखिम साक्ष्य तैयार करता है। नीचे दिए गए निर्णय नामित प्राधिकरणों द्वारा उनके अपने नियमों के अंतर्गत लिए जाते हैं, प्लेटफ़ॉर्म द्वारा कभी नहीं।
| निर्णय कौन लेता है | प्रश्न | यह पृष्ठ जिस साक्ष्य की सेवा करता है |
|---|---|---|
| Boards and executive committees | Where generative AI may be used and with what controls | Use case risk tiers and evaluation results |
| Model risk and security functions | How generative AI is validated and secured | Evaluation, red-team and monitoring evidence |
| Conduct supervisors | Whether customer-facing AI meets conduct and disclosure duties | Complaints and outcome evidence |
| Procurement and legal teams | Which providers and data terms are acceptable | Contract terms and data handling evidence |
इस विषय से उत्पन्न आउटपुट
- Guide to generative AI failure modes in financial services
- Method note on evaluating factual accuracy and grounding
- Brief on prompt injection and tool-connected assistants
- Questions for boards on generative AI use cases
विशेषज्ञ क्या पूछते हैं।
जनरेटिव AI के प्रश्न उपयोग के मामले और उसके परिणामों से शुरू होते हैं।
- What is the tool being used for, and what happens if its output is wrong?
- How is the accuracy of output verified before it affects customers or decisions?
- What data is sent to the model, and could confidential information leak?
- How are prompts, versions and outputs logged for accountability?
- How dependent is the institution on a single provider, and what happens if the service changes or fails?
तंत्र और चालक।
Large language models generate text by predicting likely continuations. They can produce fluent, plausible output that is false, which matters greatly where accuracy is required. Their behaviour can change when providers update models, and they can be manipulated by crafted inputs. Their outputs are hard to test exhaustively because the space of possible inputs is vast.
Risk depends strongly on the use. Drafting an internal summary that a professional reviews carries different risk from answering customers directly or informing credit decisions. Controls therefore scale with consequence: human review, restricted data, retrieval from approved sources, testing against known cases and monitoring of outputs.
इसका अध्ययन कैसे होता है, और पद्धतियाँ कहाँ रुकती हैं।
| पद्धति या डेटा | यह क्या दिखाता है | सीमाएँ |
|---|---|---|
| Use-case risk assessment | अनुप्रयोग के अनुसार विफलता के परिणाम | Informal uses may not be captured |
| परीक्षण समुच्चयों के विरुद्ध मूल्यांकन | Accuracy and failure rates on known cases | Cannot cover all real inputs |
| रेड-टीमिंग और प्रतिकूल परीक्षण | Vulnerability to manipulation | Finds some weaknesses, not all |
| Output monitoring and logging | Errors and incidents in use | Detecting subtle errors is hard |
इसका अध्ययन कैसे होता है, और पद्धतियाँ क्या नहीं बता सकतीं।
- 01कृत्रिम बुद्धिमत्ता और मशीन लर्निंगग्रेडिएंट-बूस्टेड क्रेडिट मॉडल · परिचालन में भाषा मॉडल · विसंगति पहचानयहाँ लागू
- 02AI मूल्यांकन और आश्वासन अभियांत्रिकीमशीन लर्निंग मॉडलों का सत्यापन · सृजनात्मक AI का रेड-टीमिंग · निष्पक्षता आकलनयहाँ लागू
- 03अनिश्चितता परिमाणन और मॉडल सत्यापनहानि मॉडलों के लिए पूर्वानुमान अंतराल · मॉडल समुच्चय · मॉडल जोखिम पूँजी या बफ़रयहाँ लागू
- 04प्रायिकता और सांख्यिकीअंशांकन परीक्षण · विचलन सांख्यिकी · समूह परिणाम तुलनायहाँ लागू
प्रश्न और उत्तर।
Is a large language model a model under model risk rules?
What is prompt injection?
What is grounding?
Why do language models produce false information?
Should generative AI make credit or claims decisions?
क्या यह प्लेटफ़ॉर्म विशिष्ट AI उत्पादों का मूल्यांकन करता है?
इस पृष्ठ से साक्ष्य का योगदान करें।
Reports कंसोर्टियम का त्रैमासिक प्रकाशन है। इस विषय के बारे में आप जो जानते हैं, वह अगले संस्करण में साक्ष्य, एक मामला या एक सुधार बन सकता है, आपको श्रेय देते हुए और जहाँ वह आपका अपना कार्य हो वहाँ CC BY 4.0 के अंतर्गत प्रकाशित।
- ईमेलगेटवे GW-GRAइसे इसी पृष्ठ से भेजेंसाक्ष्य, सुधार, मामला, पद्धति, समीक्षा, अनुवाद या प्रोफ़ाइल इनपुट। यह इस पृष्ठ के टैग के साथ पहुँचता है, ताकि इसे सँभालने वाले संपादक को मिल जाए।
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- रिपोर्टवैश्विक जोखिम गठबंधन (Global Risks Alliance)योगदान के सभी तरीके देखेंयोगदान के प्रकार, प्रत्येक की समीक्षा कैसे होती है, आपको क्या श्रेय मिलता है, लाइसेंस और क्या कभी स्वीकार नहीं किया जाता।
व्यक्तिगत डेटा, संवेदनशील अवसंरचना का विवरण या ऐसी कोई भी सामग्री कभी न भेजें जिसे साझा करने का आपको अधिकार नहीं है। उपयोग से पहले योगदान की समीक्षा होती है; इसे भेजने से लेखकत्व या संपादकीय अधिकार नहीं मिलते, और प्रायोजन कभी किसी निष्कर्ष को नहीं खरीदता।
जोखिम-अनावरण या पूँजी का कोई प्रश्न गठबंधन के पास लाएँ।
जानकारी और पूछताछ आज से खुली हैं। हर पूछताछ को एक संदर्भ मिलता है और अगला कदम बताया जाता है; आवेदन, भुगतान, कंप्यूट आवंटन और पंजीकरण तभी खुलते हैं जब उनकी टीम, शर्तें और समीक्षा क्षमता मौजूद हों।
कानूनी दस्तावेज़।
इस साइट पर मानचित्र, डेटा और आँकड़े संदर्भ और सामान्य जानकारी के लिए दिखाए जाते हैं। वे सलाह, पूर्वानुमान या चेतावनियाँ नहीं हैं; जानकारी की सीमाएँ अस्वीकरण और डेटा सूचनाओं में बताई गई हैं।