Skip to content

GRA · هوش مصنوعی و ریسک الگوی مالی

مالی فضاییجایی که سرمایه به مخاطره، مواجهه و گذار برمی‌خورد

مهندسی ارزیابی و اطمینان‌بخشی هوش مصنوعی برای هوش مصنوعی و ریسک مدل‌های مالی

AI assurance is the set of practices that give justified confidence in an AI or model system: validation, testing, red-teaming, monitoring, documentation and independent review. On this platform it connects established model risk management with the new evidence AI systems require.

01ثبت‌خانه

AI evaluation and assurance engineering for AI and financial model risk on the record.

سابقهٔ روشروش STEM
  1. روشمهندسی ارزیابی و اطمینان‌بخشی هوش مصنوعی
  2. به‌کاررفته درهوش مصنوعی و ریسک الگوی
  3. داده3 ورودی
  4. Canonical pageSTEM Commons
02درخواست

What AI evaluation and assurance engineering does here.

AI evaluation and assurance engineering develops methods to test, monitor and provide justified confidence in AI systems. It addresses performance, robustness, safety and societal impact across the system life cycle. In artificial intelligence and financial stability, AI assurance determines whether automated systems can be trusted in high-consequence settings. It helps manage risks when AI is embedded across finance, health and infrastructure. The canonical description is on the STEM Commons.

Validation of machine learning models

Conceptual soundness, data quality, outcome analysis and stability testing are adapted to models whose internal logic is hard to read.

تیم‌قرمزی هوش مصنوعی مولد

Adversarial tests probe language model applications for prompt injection, data leakage and harmful output before and after deployment.

Fairness assessment

Outcome rates and error rates are compared across groups, with the chosen fairness criterion and its legal basis documented for review.

03مواجهه، زیان و سرمایه

معنای آن برای مواجهه، زیان و سرمایه.

نماهای مواجهه، زیان، سناریو و سرمایه که یک مدیر ریسک، ناظر یا وزارت دارایی می‌پرسد، همراه با چارچوب‌هایی که بر پایهٔ آن‌ها گزارش می‌دهد. ساختارها از رویهٔ نظارتی و اکچوئری پیروی می‌کنند. مقادیر توضیحی است: هرگز قیمت، رتبه یا توصیه نیست.

مجاری انتقال

How a shock in AI evaluation and assurance engineering for AI and financial model risk reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
سناریوهای اقلیمی NGFS · شبکهٔ سبزسازی نظام مالیIFRS S2 افشاهای مرتبط با اقلیم · ISSBتوصیه‌های TCFD · هیئت ثبات مالی TCFDاصول مدیریت مؤثر ریسک‌های مالی مرتبط با اقلیم · کمیتهٔ بازل برای نظارت بانکی
04داده

آنچه روش مصرف می‌کند.

Datasets and records used by AI evaluation and assurance engineering on this platform, with the role each plays and the label its values carry. Sources are listed in the source register.

دادهنقشبرچسب
گزارش‌های اعتبارسنجیشواهد اطمینان‌بخشیDECLARED
Red-team resultsAdversarial weaknessesمشاهده‌شده
Outcome dataReal-world performanceمشاهده‌شده
05فرایند

نحوهٔ اجرای فرایند.

Process explorer · Process

AI evaluation and assurance engineering for AI and financial model risk: AI risk management (NIST)

9 steps5 stages1 gate

فرایند

AI evaluation and assurance engineering for AI and financial model risk: AI risk management (NIST)

هستهٔ AI RMF چهار کارکرد دارد: GOVERN، MAP، MEASURE و MANAGE، که GOVERN فراگیر است؛ ترتیب ترسیم‌شده یک خوانش رایج است، نه فهرست وارسی.

  1. 01 حکمرانی

    1. 01GOVERN: سیاست‌ها، نقش‌ها و پاسخ‌گوییگام · کمیتهٔ مدیریت ریسک مدلGOVERN یک کارکرد فراگیر است. این کارکرد در سراسر مدیریت ریسک هوش مصنوعی نفوذ دارد و سایر کارکردها را امکان‌پذیر می‌سازد.
  2. 02 Map

    1. 02MAP: بافتار و کاربرد مورد نظرمجموعه‌دادهکارکرد MAP بافتاری را برای چارچوب‌بندی ریسک‌های مرتبط با یک سامانهٔ هوش مصنوعی، شامل مقاصد مورد نظر و پیامدها برای مردم، برقرار می‌کند.
  3. 03 اندازه‌گیری

    1. 03سنجش: ارزیابی ویژگی‌های قابل‌اعتمادمدلAI سامانه‌ها هوش مصنوعی از نظر ویژگی‌های اعتمادپذیری ارزیابی می‌شوند. این سامانه‌ها باید پیش از استقرار و به‌طور منظم در طول بهره‌برداری آزموده شوند.
    2. 04MEASURE: ریسک‌های شناسایی‌شده را در طول زمان پیگیری کنیدمدلسازوکارهایی برای پایش ریسک‌های شناسایی‌شدهٔ هوش مصنوعی در طول زمان برقرار است، از جمله ریسک‌های پیش‌بینی‌نشده و نوظهور.
  4. 04 مدیریت

    1. 05MANAGE: رسیدگی به ریسک‌هاگاممواجهه با ریسک واکنش به رخدادها، بازیابی از آن‌ها و اطلاع‌رسانی دربارهٔ آن‌ها را در بر می‌گیرند. منابع به ریسک‌های نگاشت‌شده و اندازه‌گیری‌شده اختصاص می‌یابند.
    2. 06Proceed or not (MANAGE 1.1)Gate · MRM committeeA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07تصمیم استقرارتصمیم · کمیتهٔ مدیریت ریسک مدلسازمانی که مالک سامانه است تصمیم می‌گیرد که آیا و با چه شرایطی آن را مستقر کند.
    4. 08پایش و رخدادهای پس از استقرارمدلطرح‌های پایش پس از استقرار اجرا می‌شوند. رخدادها و خطاها با بازیگران مرتبط هوش مصنوعی، از جمله جوامع متأثر، به اشتراک گذاشته می‌شوند.
  5. 05 سابقه

    1. 09فهرست سامانه‌های هوش مصنوعیمجموعه‌دادهGOVERN 1.6 سازوکارهایی برای سیاهه‌برداری از سامانه‌های هوش مصنوعی می‌طلبد. کارت مدل رویهٔ رایج است و در این چارچوب نام برده نشده است.

طرح کلی بی‌طرفانهٔ یک استاندارد یا روش خارجی منتشرشده، از نهاد صادرکنندهٔ آن. سابقهٔ عملیات نیست. Nexus هیچ‌یک از گام‌های نشان‌داده‌شده را انجام، گواهی یا تأیید نمی‌کند. هر دروازه یا تصمیم متعلق به طرفی است که منبع نام می‌برد. اقدام‌ها لزوماً مجموعه‌ای مرتب از گام‌ها نیستند. قانون هوش مصنوعی اتحادیهٔ اروپا در این جریان ترسیم نشده است.

06اعتبارسنجی

نتایج چگونه بررسی می‌شوند.

Evaluation methods are checked for reliability and relevance to deployment conditions. Independent replication and third-party audits test claims.

بررسیچگونه انجام می‌شود
استقلالAssurance is performed by people independent of development
دامنهٔ بیان‌شدهWhat assurance covered and excluded is recorded
Repeat after changeMaterial model or version changes trigger renewed assurance

Benchmarks may not reflect real-world use or novel capabilities. General-purpose systems have open-ended behaviour that resists complete testing.

08تولیت

چه کسی روش را نگهداری می‌کند.

Artificial Intelligence and Autonomous Systems stewards AI evaluation and assurance engineering for the Consortium and reviews how it is applied across platforms.

10پرسش‌ها

پرسش و پاسخ.

What are the limits of AI evaluation and assurance engineering in this field?
Benchmarks may not reflect real-world use or novel capabilities. General-purpose systems have open-ended behaviour that resists complete testing.
نتایج چگونه بررسی می‌شوند؟
Evaluation methods are checked for reliability and relevance to deployment conditions. Independent replication and third-party audits test claims.
آیا مقادیر این صفحه واقعی‌اند؟
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
این روش در کجاهای دیگر به کار می‌رود؟
رصدخانهٔ صفحهٔ مرجع روش هر سکویی را که آن را به کار می‌گیرد فهرست می‌کند.
گزارش‌هامشارکت

از این صفحه شواهد مشارکت دهید.

Reports نشریهٔ فصلی کنسرسیوم است. آنچه دربارهٔ این موضوع می‌دانید می‌تواند در ویراست بعدی به شواهد، یک مورد یا یک اصلاح تبدیل شود، به نام شما ثبت شود و در صورتی که کار خود شما باشد تحت CC BY 4.0 منتشر شود.

⁨Global Risks Alliance⁩ریسک هوش مصنوعی و مدل‌های مالیروش‌ها و فنیفناوری نمایی
ریسک هوش مصنوعی و مدل‌های مالی

یک پرسش دربارهٔ مواجهه یا سرمایه را نزد اتحاد مطرح کنید.

اطلاعات و درخواست‌ها امروز باز است. هر درخواست یک شمارهٔ پیگیری می‌گیرد و گام بعدی را مشخص می‌کند؛ درخواست‌های عضویت، پرداخت‌ها، تخصیص رایانش و ثبت‌نام‌ها تنها زمانی باز می‌شوند که تیم، شرایط و ظرفیت داوری آن‌ها فراهم باشد.