GRA · هوش مصنوعی و ریسک الگوی مالی
مالی فضاییجایی که سرمایه به مخاطره، مواجهه و گذار برمیخورد
هوش مصنوعی مولد در امور مالی
نهادهای مالی از مدلهای زبانی بزرگ برای تهیهٔ پیشنویس اسناد، پاسخ به مشتریان، خلاصهسازی پژوهش، نوشتن کد و پشتیبانی از تحلیلگران استفاده میکنند. هوش مصنوعی مولد خروجی روان تولید میکند که ممکن است نادرست باشد، دادهها را درز دهد و از طریق ورودیهایش دستکاری شود. این صفحه توضیح میدهد ریسکهای هوش مصنوعی مولد در خدمات مالی چگونه پدید میآیند، چگونه سنجیده و کنترل میشوند و چه کسی دربارهٔ حدود کاربرد آن تصمیم میگیرد.
چگونه کار اجرا میشود.
چرخهٔ عمر ریسک الگو
هوش مصنوعی مولد در امور مالی · فهرست مدلها · کمیتهٔ ۷
چرخهٔ عمر
- سیاههثبتشده
- تدوینمستندشده
- اعتبارسنجیمستقل
- تأییدکمیته
- اجراکنترلها
- پایشآستانهها
- بازبینیسالانه
- بازنشستهسازیکنارگذاری
مدلها
| MD-264 PD retail | ردهٔ 1 | 12 ماه | 2 | معوق |
| MD-251 LLM complaints triage | ردهٔ 1 | هرگز | 0 | اعتبارسنجی نشده |
| MD-297 IFRS 9 staging | ردهٔ 1 | 5 ماه | 2 | تأییدشده |
| MD-784 marketing propensity | ردیف 3 | 6 ماه | 1 | تأییدشده |
دامنهٔ اعتبارسنجی
- استواری مفهومی
- در حال انجام
- تحلیل دستاوردها
- در انتظار
- سنجش تطبیقی
- در انتظار
- حدود استفاده
- بازبینی انسانی لازم است
شکل.چرخهٔ عمر ریسک مدل: نامها و مقادیر نمونه برای توضیح، نه یک سابقهٔ واقعی و نه یک سامانهٔ فعال.
Generative AI in finance: how the risk develops.
Use cases and failure controls. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Fluent but wrong
Models can generate plausible statements that are false, citations that do not exist or calculations that are wrong. In finance, an error in a disclosure, advice or code change can harm customers or the firm.
Inputs can be weaponised
Prompt injection through documents, emails or web pages can make a model ignore instructions, reveal data or take unintended actions, especially when it is connected to tools.
Data leaks across boundaries
Confidential information entered into external services or retrieved into answers can reach people not entitled to it. Data handling terms and access controls decide the exposure.
Behaviour changes with versions
Provider updates change model behaviour without the firm’s code changing. Validation done on one version may not hold for the next.
معنای هوش مصنوعی مولد در امور مالی برای مواجهه، زیان و سرمایه.
نماهای مواجهه، زیان، سناریو و سرمایه که یک مدیر ریسک، ناظر یا وزارت دارایی میپرسد، همراه با چارچوبهایی که بر پایهٔ آنها گزارش میدهد. ساختارها از رویهٔ نظارتی و اکچوئری پیروی میکنند. مقادیر توضیحی است: هرگز قیمت، رتبه یا توصیه نیست.
مجاری انتقال
How a shock in Generative AI in finance reaches credit, market, underwriting, liquidity and operational risk, and feeds back.
چه چیزی اندازهگیری میشود و با چه کیفیتی.
هر نشانگر واحد، بسامد بهروزرسانی، نوع منبع پشت آن و برچسب شواهدی را که یک مقدار میداشت، همراه دارد. هیچ مقداری نشان داده نمیشود: یک برنامه آنها را تحت اختیار خود فراهم میکند.
| نشانگر | واحد | تناوب | نوع منبع | برچسب |
|---|---|---|---|---|
| Generative AI use cases in production | count by risk tier | فصلی | Use case register | DECLARED |
| Factual error rate on evaluation sets | share of responses | برای هر ارزیابی | Internal evaluation | برآوردشده |
| Prompt injection test failures | count per test cycle | به ازای هر آزمون | Red-team results | مشاهدهشده |
| Data loss prevention events involving AI tools | شمارش | ماهانه | Security monitoring | مشاهدهشده |
| شکایتهای مشتریان مرتبط با محتوای تولیدشده با هوش مصنوعی | شمارش | فصلی | دادههای شکایات | گزارششده |
| Model version changes by providers | شمارش | در سال | Vendor notices | گزارششده |
شواهد از کجا میآیند.
مجموعهدادههای عمومی و سوابق نهادی نامبرده، هر یک با ردهٔ پروانهٔ خود. منابع مبتنی بر توافق تنها بر پایهٔ شرایطشان به کار میروند و هرگز بازنشر نمیشوند.
| منبع | آنچه فراهم میکند | رستهٔ پروانه |
|---|---|---|
| FSB report on the financial stability implications of AI | Vulnerabilities from AI adoption in finance | رایگان، شرایط FSB |
| IOSCO report on AI use cases, risks and challenges | AI use in capital markets | رایگان، شرایط IOSCO |
| NIST AI RMF generative AI profile | Risks and actions specific to generative AI | مالکیت عمومی |
| OWASP Top 10 برای کاربردهای مدلهای زبانی بزرگ | ریسکهای امنیتی رایج در کاربردهای مدلهای زبانی بزرگ | Free, CC BY-SA |
| Bank of England and FCA AI surveys | Adoption and governance of AI in UK finance | رایگان، شرایط Bank of England و FCA |
چه کسی تصمیم میگیرد و شواهد در خدمت چیست.
هوش مصنوعی و ریسک الگوی مالی شواهد را آماده میکند. تصمیمهای زیر را مراجع نامبرده بر پایهٔ قواعد خود میگیرند، و هرگز سکو.
| چه کسی تصمیم میگیرد | پرسش | شواهدی که این صفحه به آنها خدمت میکند |
|---|---|---|
| هیئتمدیرهها و کمیتههای اجرایی | Where generative AI may be used and with what controls | Use case risk tiers and evaluation results |
| Model risk and security functions | چگونه هوش مصنوعی مولد اعتبارسنجی و ایمن میشود | Evaluation, red-team and monitoring evidence |
| Conduct supervisors | Whether customer-facing AI meets conduct and disclosure duties | Complaints and outcome evidence |
| Procurement and legal teams | Which providers and data terms are acceptable | Contract terms and data handling evidence |
خروجیهایی که این موضوع تولید میکند
- Guide to generative AI failure modes in financial services
- Method note on evaluating factual accuracy and grounding
- Brief on prompt injection and tool-connected assistants
- Questions for boards on generative AI use cases
آنچه کارشناسان میپرسند.
Generative AI questions start with the use case and its consequences.
- What is the tool being used for, and what happens if its output is wrong?
- How is the accuracy of output verified before it affects customers or decisions?
- What data is sent to the model, and could confidential information leak?
- How are prompts, versions and outputs logged for accountability?
- How dependent is the institution on a single provider, and what happens if the service changes or fails?
سازوکارها و محرکها.
Large language models generate text by predicting likely continuations. They can produce fluent, plausible output that is false, which matters greatly where accuracy is required. Their behaviour can change when providers update models, and they can be manipulated by crafted inputs. Their outputs are hard to test exhaustively because the space of possible inputs is vast.
Risk depends strongly on the use. Drafting an internal summary that a professional reviews carries different risk from answering customers directly or informing credit decisions. Controls therefore scale with consequence: human review, restricted data, retrieval from approved sources, testing against known cases and monitoring of outputs.
چگونه مطالعه میشود و روشها کجا متوقف میشوند.
| روش یا داده | آنچه نشان میدهد | محدودیتها |
|---|---|---|
| Use-case risk assessment | Consequences of failure by application | Informal uses may not be captured |
| Evaluation against test sets | Accuracy and failure rates on known cases | Cannot cover all real inputs |
| Red-teaming and adversarial testing | Vulnerability to manipulation | Finds some weaknesses, not all |
| Output monitoring and logging | Errors and incidents in use | Detecting subtle errors is hard |
چگونه مطالعه میشود و آنچه روشها نمیتوانند بگویند.
- 01هوش مصنوعی و یادگیری ماشینمدلهای اعتباری تقویتشده با گرادیان · مدلهای زبانی در عملیات · تشخیص ناهنجاریکاربرد در اینجا
- 02مهندسی ارزیابی و اطمینانبخشی هوش مصنوعیاعتبارسنجی مدلهای یادگیری ماشین · آزمون تیم قرمز برای هوش مصنوعی مولد · ارزیابی انصافکاربرد در اینجا
- 03کمّیسازی عدم قطعیت و اعتبارسنجی مدلبازههای پیشبینی برای مدلهای خسارت · مجموعههای مدل · سرمایه یا ضربهگیرهای ریسک مدلکاربرد در اینجا
- 04احتمال و آمارآزمون واسنجی · آمار رانش · مقایسهٔ نتایج گروههاکاربرد در اینجا
پرسش و پاسخ.
Is a large language model a model under model risk rules?
تزریق پرامپت چیست؟
What is grounding?
Why do language models produce false information?
Should generative AI make credit or claims decisions?
Does the platform evaluate specific AI products?
از این صفحه شواهد مشارکت دهید.
Reports نشریهٔ فصلی کنسرسیوم است. آنچه دربارهٔ این موضوع میدانید میتواند در ویراست بعدی به شواهد، یک مورد یا یک اصلاح تبدیل شود، به نام شما ثبت شود و در صورتی که کار خود شما باشد تحت CC BY 4.0 منتشر شود.
- ایمیلدروازهٔ GW-GRAاز همین صفحه ارسال کنیدشواهد، یک اصلاحیه، یک مورد، یک روش، یک داوری، یک ترجمه یا ورودی نمایه. با برچسب این صفحه میرسد تا ویراستار مسئول آن را دریافت کند.
- Zenodoسپردهٔ بازآن را واگذار کنید و به جامعه ارائه دهیدسابقهٔ خود را با شناسهٔ ORCID خود در Zenodo منتشر کنید و سپس آن را در همانجا به جامعهٔ Reports ارسال کنید. گزینشگران آن را داوری میکنند؛ DOI از آنِ شما میماند.
- گزارشهاGlobal Risks Allianceهمهٔ راههای مشارکت را ببینیدانواع مشارکت، نحوهٔ بررسی هر یک، اعتباری که دریافت میکنید، مجوز و آنچه هرگز پذیرفته نمیشود.
هرگز داده شخصی، جزئیات حساس زیرساخت یا چیزی را که حق اشتراکش را ندارید نفرستید. هر مشارکت پیش از استفاده داوری میشود؛ ارسال آن حق مؤلفی یا ویرایشی نمیدهد و حمایت مالی هرگز یافتهای را نمیخرد.
یک پرسش دربارهٔ مواجهه یا سرمایه را نزد اتحاد مطرح کنید.
اطلاعات و درخواستها امروز باز است. هر درخواست یک شمارهٔ پیگیری میگیرد و گام بعدی را مشخص میکند؛ درخواستهای عضویت، پرداختها، تخصیص رایانش و ثبتنامها تنها زمانی باز میشوند که تیم، شرایط و ظرفیت داوری آنها فراهم باشد.
اسناد حقوقی.
نقشهها، دادهها و ارقام این سایت برای زمینه و اطلاعات عمومی نشان داده میشوند. توصیه، پیشبینی یا هشدار نیستند؛ حدود این اطلاعات در سلب مسئولیتها و اعلامیههای داده بیان شده است.