Skip to content

GRA · AI और वित्तीय मॉडल जोखिम

स्थानिक वित्तजहाँ पूँजी का सामना संकट, जोखिम-संपर्क और संक्रमण से होता है

मानव-हस्तक्षेप नियंत्रण

Human oversight is meant to catch model errors, handle exceptions and keep accountability with people. In practice reviewers can defer to models, lack time or information, or be removed as automation grows. This page sets out how human-in-the-loop controls work and fail in financial services, how their effectiveness is measured, and who decides where human judgement must stay.

01रजिस्टर करें

अभिलेख में मानवीय निगरानी वाले नियंत्रण।

02प्रश्न

मानव-हस्तक्षेप नियंत्रण: जोखिम कैसे विकसित होता है।

Authority and approvals. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

तंत्र

स्वचालन पूर्वाग्रह

Reviewers presented with a model recommendation tend to accept it, especially under time pressure or when the model is usually right. Oversight becomes approval in name only.

तंत्र

Reviewers lack context

Without explanations, confidence scores and access to underlying data, reviewers cannot judge when to override, so they rarely do.

तंत्र

Accountability must stay with people

Regulations and governance assign responsibility to named individuals and boards. Delegating decisions to models does not delegate accountability.

तंत्र

Overrides teach the system

दर्ज किए गए ओवरराइड और उनके परिणाम दिखाते हैं कि मॉडल कहाँ विफल होते हैं। दर्ज न किए गए ओवरराइड वह संकेत खो देते हैं और असंगत मानवीय निर्णय को छिपा देते हैं।

03जोखिम-संपर्क, हानि और पूँजी

What human in the loop controls means for exposure, loss and capital.

वे जोखिम-अनावरण, हानि, परिदृश्य और पूँजी दृश्य जो कोई जोखिम अधिकारी, पर्यवेक्षक या वित्त मंत्रालय माँगेगा, उन ढाँचों के साथ जिनके विरुद्ध वे रिपोर्ट करते हैं। संरचनाएँ पर्यवेक्षी और बीमांकिक अभ्यास का अनुसरण करती हैं। मान उदाहरणात्मक हैं: कभी क़ीमतें, रेटिंग या सलाह नहीं।

संचरण चैनल

How a shock in human in the loop controls reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
NGFS जलवायु परिदृश्य · वित्तीय प्रणाली को हरित बनाने का नेटवर्क (Network for Greening the Financial System)IFRS S2 जलवायु-संबंधी प्रकटीकरण · ISSBTCFD सिफ़ारिशें · वित्तीय स्थिरता बोर्ड TCFDजलवायु-संबंधी वित्तीय जोखिमों के प्रभावी प्रबंधन के सिद्धांत · बैंकिंग पर्यवेक्षण पर बेसल समिति
04संकेतक

क्या मापा जाता है, और कितनी अच्छी तरह।

प्रत्येक संकेतक अपनी इकाई, आवृत्ति, उसके पीछे के स्रोत का प्रकार और वह साक्ष्य लेबल वहन करता है जो किसी मान पर होगा। कोई मान नहीं दिखाए जाते: कोई कार्यक्रम उन्हें अपने अधिकार के तहत प्रदान करता है।

संकेतकइकाईलयस्रोत प्रकारलेबल
ओवरराइड दरमॉडल की उन सिफ़ारिशों का अनुपात जिन्हें पलट दिया गयामासिकनिर्णय अभिलेखप्रेक्षित
Outcome of overridesperformance of overridden against non-overridden decisionsत्रैमासिकनिर्णय और परिणाम अभिलेखअनुमानित
Review time per caseमिनटमासिकWorkflow dataप्रेक्षित
Decisions fully automatedshare of decisionsत्रैमासिकProcess recordsघोषित
Named accountable owner per model useshare of usesवार्षिकशासन अभिलेखघोषित
Customer appeals of automated decisionscount and share upheldत्रैमासिकशिकायत डेटारिपोर्ट किया गया
05स्रोत

साक्ष्य कहाँ से आता है।

नामित सार्वजनिक डेटासेट और संस्थागत अभिलेख, प्रत्येक अपने लाइसेंस वर्ग के साथ। समझौते द्वारा प्राप्त स्रोतों का उपयोग केवल उनकी शर्तों के तहत होता है और कभी पुनः प्रकाशित नहीं किया जाता।

स्रोतयह क्या देता हैलाइसेंस वर्ग
EU AI Act human oversight requirements for high-risk systemsLegal expectations for oversight designनिःशुल्क, EU पुनः उपयोग शर्तें
स्वचालित व्यक्तिगत निर्णय-निर्धारण पर GDPR के प्रावधानRights concerning solely automated decisionsनिःशुल्क, EU पुनः उपयोग शर्तें
UK Senior Managers and Certification Regime documentsIndividual accountability in UK financial firmsFree, FCA and PRA terms
निर्णय सहायता में स्वचालन पूर्वाग्रह पर शोधEvidence on human reliance on automated adviceपढ़ना निःशुल्क, शर्तें प्रकाशक के अनुसार
IAIS Application Paper on the supervision of AIAccountability expectations for insurersनिःशुल्क, IAIS शर्तें
06निर्णय

कौन निर्णय लेता है, और साक्ष्य किसकी सेवा करता है।

AI और वित्तीय मॉडल जोखिम साक्ष्य तैयार करता है। नीचे दिए गए निर्णय नामित प्राधिकरणों द्वारा उनके अपने नियमों के अंतर्गत लिए जाते हैं, प्लेटफ़ॉर्म द्वारा कभी नहीं।

निर्णय कौन लेता हैप्रश्नयह पृष्ठ जिस साक्ष्य की सेवा करता है
Boards and senior managersWhich decisions must keep human judgement and who is accountableUse risk, legal duties and override evidence
Operations leadersHow reviewers are resourced and informedWorkflow, time and override data
नियामकWhether oversight arrangements meet legal requirementsProcess design and outcome evidence
मॉडल जोखिम कार्यHow override data feed model reviewOverride and outcome analysis

इस विषय से उत्पन्न आउटपुट

  • Guide to designing meaningful human review
  • Method note on analysing overrides and their outcomes
  • Brief on accountability when decisions are automated
  • Questions for boards on where judgement must remain human
07मूल प्रश्न

विशेषज्ञ क्या पूछते हैं।

प्रश्न यह पूछते हैं कि मानव निगरानी वास्तविक है या केवल नाममात्र की।

  • At which points in the process does a person review, and with what authority?
  • Do reviewers have the information and time to disagree with the model?
  • How often do reviewers override the model, and are overrides analysed?
  • निर्णय के लिए कौन जवाबदेह है: मॉडल का स्वामी, समीक्षक या संस्था?
  • Can the process be stopped quickly if the model behaves unexpectedly?
08तंत्र

तंत्र और चालक।

Automation bias is the tendency to accept automated recommendations without sufficient scrutiny, especially under time pressure or when the system is usually right. It can turn human review into a formality. Conversely, inconsistent overrides can introduce bias. Effective oversight requires clear decision rights, meaningful information, training, workload that permits judgement and analysis of override patterns.

Oversight must be designed to the risk: fully automated processing may be acceptable for low-consequence decisions, while decisions with significant effects on people, or large financial exposures, call for stronger human involvement. Some legal frameworks give individuals rights in relation to solely automated decisions.

09पद्धतियाँ और डेटा

इसका अध्ययन कैसे होता है, और पद्धतियाँ कहाँ रुकती हैं।

पद्धति या डेटायह क्या दिखाता हैसीमाएँ
Process and decision-rights mappingWhere humans sit and what they can doFormal design may differ from practice
Override analysisHow and why humans disagree with modelsRequires good logging
मानव कारक अनुसंधानAutomation bias and workload effectsLaboratory findings may not transfer
Incident reviewFailures of oversightIncidents are under-reported
10पद्धतियाँ

इसका अध्ययन कैसे होता है, और पद्धतियाँ क्या नहीं बता सकतीं।

11जुड़ा हुआ

यह पृष्ठ पूरे कंसोर्टियम में कहाँ ले जाता है।

12प्रश्न

प्रश्न और उत्तर।

What is automation bias?
The tendency of people to over-rely on automated recommendations, accepting them without sufficient scrutiny even when they are wrong.
Does a human reviewer make a decision lawful?
अपने आप में नहीं। समीक्षा सार्थक होनी चाहिए, जिसमें परिणाम बदलने के लिए समय, जानकारी और अधिकार हो, और फर्म पर कानूनी कर्तव्य फिर भी लागू रहते हैं।
Why analyse overrides?
Because their frequency and outcomes show where models are weak and whether human judgement improves decisions or adds inconsistency.
Is human review always necessary?
Not for every decision. The appropriate level of oversight depends on consequences, model risk and the law.
Does the platform set oversight standards?
No. Standards are set by legislators, regulators and institutions. GRA publishes sector-level research.
रिपोर्टयोगदान दें

इस पृष्ठ से साक्ष्य का योगदान करें।

Reports कंसोर्टियम का त्रैमासिक प्रकाशन है। इस विषय के बारे में आप जो जानते हैं, वह अगले संस्करण में साक्ष्य, एक मामला या एक सुधार बन सकता है, आपको श्रेय देते हुए और जहाँ वह आपका अपना कार्य हो वहाँ CC BY 4.0 के अंतर्गत प्रकाशित।

वैश्विक जोखिम गठबंधन (Global Risks Alliance)AI और वित्तीय मॉडल जोखिमपद्धतियाँ और तकनीकीघातांकीय प्रौद्योगिकी

व्यक्तिगत डेटा, संवेदनशील अवसंरचना का विवरण या ऐसी कोई भी सामग्री कभी न भेजें जिसे साझा करने का आपको अधिकार नहीं है। उपयोग से पहले योगदान की समीक्षा होती है; इसे भेजने से लेखकत्व या संपादकीय अधिकार नहीं मिलते, और प्रायोजन कभी किसी निष्कर्ष को नहीं खरीदता।

AI और वित्तीय मॉडल जोखिम

जोखिम-अनावरण या पूँजी का कोई प्रश्न गठबंधन के पास लाएँ।

जानकारी और पूछताछ आज से खुली हैं। हर पूछताछ को एक संदर्भ मिलता है और अगला कदम बताया जाता है; आवेदन, भुगतान, कंप्यूट आवंटन और पंजीकरण तभी खुलते हैं जब उनकी टीम, शर्तें और समीक्षा क्षमता मौजूद हों।

विधिक

इस साइट पर मानचित्र, डेटा और आँकड़े संदर्भ और सामान्य जानकारी के लिए दिखाए जाते हैं। वे सलाह, पूर्वानुमान या चेतावनियाँ नहीं हैं; जानकारी की सीमाएँ अस्वीकरण और डेटा सूचनाओं में बताई गई हैं।