Skip to content

GRA · Риски ИИ и финансовых моделей

Пространственные финансыГде капитал встречается с опасностями, подверженностью и переходом

Управление риском моделей

Model risk is the potential for loss or harm from decisions based on models that are wrong or misused. Banks, insurers and asset managers manage it through model inventories, risk tiering, independent validation, approval and ongoing monitoring, overseen by boards and senior management. Machine learning and generative AI widen what counts as a model. This page sets out how model risk governance works and fails, the records involved, and who decides.

01Реестр

Управление модельным риском в документированном виде.

02Вопрос

Управление модельным риском: как развивается риск.

Inventory, ownership and validation. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

Механизм

Inventories miss models

Spreadsheets, vendor tools and AI components often sit outside the model inventory. Unlisted models escape validation and monitoring, and their errors surface only when losses or complaints arrive.

Механизм

Challenge weakens

Validation that lacks independence, skill or authority to stop a model becomes a formality. Effective challenge needs validators who understand the method and can block use.

Механизм

Tiering sets attention

Models are tiered by materiality and complexity, which decides validation depth. Underestimating a model’s materiality, or the reach of an AI tool, leaves high-impact models lightly reviewed.

Механизм

Models interact

Outputs of one model feed others: a score feeds pricing, which feeds capital. An error upstream propagates, and aggregate model risk across the chain is rarely measured.

03Мониторинг

Жизненный цикл риска моделей.

Экран, который команда использовала бы для отслеживания этой темы: её показатели, состояния и решения. Названия приведены для примера, а значения иллюстративны.

Жизненный цикл риска моделей

Model risk governance · Model inventory · Committee 9

9 просроченных валидацийGRA · Риски ИИ и финансовых моделей

Жизненный цикл

  1. Инвентаризациязарегистрировано
  2. Разработказадокументировано
  3. Проверитьнезависимый
  4. Утверждениекомитет
  5. Внедритьсредства контроля
  6. Мониторингпороговые значения
  7. Рецензированиеежегодно
  8. Вывести из эксплуатациивывод из эксплуатации

Модели

MD-204 PD (розница)Уровень 114 months3Просрочено
MD-511 LLM complaints triageУровень 1никогда0Не валидировано
MD-164 IFRS 9 stagingУровень 18 месяцев1Утверждено
MD-534 marketing propensityУровень 317 months0Утверждено

Охват валидации

Концептуальная обоснованность
В работе
Анализ результатов
Ожидается
Сравнительный анализ
Ожидается
Ограничения использования
требуется проверка человеком
Model risk lifecycle: the screen’s structure, terms and states for Model risk governance.Example names and illustrative values; a design, not a record or a live system.
04Индикаторы

Что измеряется и насколько хорошо.

Каждый показатель указывает свою единицу, периодичность, тип источника и метку доказательной базы, которую несло бы значение. Значения не показываются: программа предоставляет их под собственную ответственность.

ИндикаторЕдиницаПериодичностьТип источникаМетка
Модели в перечнеколичество по уровнямежеквартальноРеестр моделейЗАДЕКЛАРИРОВАНО
Models validated within policy cycleshare by tierежеквартальноЗаписи о валидацииЗАДЕКЛАРИРОВАНО
Open validation findingsколичество по степени тяжестиежеквартальноЗаписи о валидацииЗАДЕКЛАРИРОВАНО
Модели, используемые с исключениями или ограничениямиколичествоежеквартальноModel governance recordsЗАДЕКЛАРИРОВАНО
AI and machine learning models in inventorycount and shareежегодноInventory and surveysЗАДЕКЛАРИРОВАНО
Supervisory findings on model risk managementколичествоежегодноSupervisory reportsОпубликованная статистика
05Сценарная модель

Варианты политики и их влияние на риск.

Как три семейства инструментов меняют исход риска со временем с учётом задержек внедрения, охвата и соблюдения, то есть политические сценарии, лежащие в основе оценок переходного и физического риска. Сценарий: поименованные допущения о будущем, а не прогноз.

Меры контроля

Базовая траектория результата
2,0% в год
Охват инструмента
70%
Соответствие требованиям
75%
Размер эффекта относительно учебного значения
100%
Лет вперёд
Лет: 20

Показания

Наибольшее снижение на горизонте
Регулирование
Его снижение относительно базового уровня
21%
Числа, методы и источники
ГодБазовый уровеньРегулированиеЭкономический стимулИнформация и потенциал
0100.099.598.899.1
1102.0101.2100.199.8
2104.0102.5101.199.9
3106.1103.5101.6100.0
4108.2103.7101.8100.7
5110.4103.2101.7102.1
6112.6102.0101.6103.9
7114.9100.4101.6105.9
8117.299.2102.1108.0
9119.598.6102.9110.1
10121.998.9104.2112.3
11124.399.7105.7114.5
12126.8101.1107.4116.8
13129.4102.7109.4119.2
14131.9104.5111.4121.6
15134.6106.5113.5124.0
16137.3108.5115.7126.5
17140.0110.7118.0129.0
18142.8112.9120.4131.6
19145.7115.1122.8134.2
20148.6117.4125.2136.9

Методы

  1. Tools of government Hood (1983), The Tools of Government, Macmillan
  2. Carrots, sticks and sermons Bemelmans-Videc, Rist and Vedung (1998), Transaction
  3. Diffusion of innovations Rogers (2003), Diffusion of Innovations, Free Press
  4. Uncertainty fan (parameter Monte Carlo) Spiegelhalter, Pearson and Short (2011), Visualising uncertainty about the future, Science 333
  5. One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley

Данные

The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:

  • Borders Natural Earth
  • Cities Natural Earth
Траектории политики и их влияние на риск. Иллюстративная учебная модель: она работает на значениях, заданных элементами управления, а не на измеренных данных. Методы: инструменты государственного управления (Hood (1983), The Tools of Government, Macmillan); кнуты, пряники и проповеди (Bemelmans-Videc, Rist and Vedung (1998), Transaction); диффузия инноваций (Rogers (2003), Diffusion of Innovations, Free Press).
06Источники

Откуда берётся доказательная база.

Названные публичные наборы данных и институциональные записи, каждый со своим классом лицензии. Источники по соглашению используются только на их условиях и никогда не публикуются повторно.

ИсточникЧто он даётКласс лицензии
Federal Reserve and OCC SR 11-7 guidanceModel risk management expectationsОбщественное достояние
PRA SS1/23 model risk management principlesUK principles for banksБесплатно, на условиях Банка Англии
ECB guide to internal modelsТребования к внутренним моделям, используемым для расчёта капиталаБесплатно, на условиях ЕЦБ
Bank of England and FCA surveys of AI and machine learning in UK financial servicesUse and governance of AI across firmsБесплатно, условия Банка Англии и FCA
Последующие отчёты EBA по машинному обучению в моделях на основе внутренних рейтинговSupervisory views on ML in capital modelsБесплатно, условия повторного использования ЕС
07Подверженность, убытки и капитал

What model risk governance means for exposure, loss and capital.

Представления о подверженности, убытках, сценариях и капитале, которые запросил бы риск-менеджер, надзорный орган или министерство финансов, с указанием систем отчётности, которым они следуют. Структуры соответствуют надзорной и актуарной практике. Значения иллюстративны: это никогда не цены, рейтинги или рекомендации.

Каналы передачи

How a shock in model risk governance reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
Климатические сценарии NGFS · Сеть по экологизации финансовой системыIFRS S2 «Раскрытие информации, связанной с климатом» · ISSBРекомендации TCFD · Совет по финансовой стабильности, TCFDПринципы эффективного управления климатическими финансовыми рисками · Базельский комитет по банковскому надзору
08Решения

Кто принимает решения и чему служит доказательная база.

«Риски ИИ и финансовых моделей » готовит доказательную базу. Перечисленные ниже решения принимаются указанными органами по их собственным правилам, но не платформой.

Кто принимает решениеВопросДоказательная база, которую обслуживает эта страница
Boards and senior managementWhat model risk appetite to set and how to oversee itInventory, tiering, findings and incident evidence
Model risk management functionsWhich models to validate, approve, restrict or retireValidation results and monitoring
Органы пруденциального надзораWhether model risk management meets expectationsSupervisory reviews and firm reporting
Внутренний аудитWhether the model risk framework operates as designedGovernance and validation records

Результаты, которые даёт эта тема

  • Guide to model inventories, tiering and validation
  • Записка о распространении управления модельными рисками на ИИ и генеративный ИИ
  • Method note on effective challenge
  • Questions for boards on aggregate model risk
09Ключевые вопросы

Что спрашивают эксперты.

Governance questions begin with knowing what models exist.

  • What counts as a model, and does the definition capture machine learning, vendor tools and generative AI?
  • Is every model in the inventory, with an accountable owner and a risk tier?
  • Is validation genuinely independent and effective at challenging developers?
  • How are model limitations documented and communicated to users?
  • Does the board understand the institution’s aggregate model risk?
10Механизмы

Механизмы и движущие факторы.

Models fail through flawed design, poor data, implementation errors, or use beyond their intended scope. Governance frameworks address these through development standards, independent validation and ongoing monitoring, scaled to each model’s materiality. Supervisory guidance on model risk management in several jurisdictions sets expectations along these lines.

ИИ создаёт нагрузку на традиционные рамочные подходы. Модели машинного обучения могут быть многочисленными, часто переобучаться и быть встроенными в процессы; инструменты генеративного ИИ могут неформально внедряться сотрудниками; модели поставщиков могут быть непрозрачными. Перечни, не учитывающие такие применения, оставляют риск неуправляемым.

11Методы и данные

Как это изучается и где пределы методов.

Метод или данныеЧто он показываетОграничения
Model inventories and tieringWhich models exist and how material they areInformal and embedded AI uses are easily missed
Независимая валидацияSoundness of design, data and implementationValidation is constrained by time, skills and access to vendor details
Governance benchmarkingHow institutions organise model riskSelf-reported and hard to compare
Issue and finding analysisRecurring weaknessesFindings are confidential within firms
12Методы

Как это изучается и чего методы не могут сказать.

  1. Инженерная оценка ИИ и обеспечение уверенностиВалидация моделей машинного обучения · Тестирование генеративного ИИ «красной командой» · Оценка справедливостиПрименяется здесь
  2. Теория вероятностей и статистикаТестирование калибровки · Статистика дрейфа · Сравнение результатов по группамПрименяется здесь
  3. Количественная оценка неопределённости и валидация моделейИнтервалы прогнозирования для моделей убытков · Ансамбли моделей · Капитал или буферы на модельный рискПрименяется здесь
  4. Искусственный интеллект и машинное обучениеКредитные модели на основе градиентного бустинга · Языковые модели в операциях · Обнаружение аномалийПрименяется здесь
13Вопросы

Вопросы и ответы.

Что такое модельный риск?
The potential for adverse consequences from decisions based on incorrect or misused model outputs, as SR 11-7 describes it, including financial loss, poor decisions and reputational harm.
What is effective challenge?
Critical, independent analysis of a model by people with the competence, influence and incentives to identify limitations and require changes.
Are AI models covered by model risk rules?
Supervisors such as the PRA state that model risk principles apply to AI and machine learning models, with attention to their specific risks.
Do spreadsheets and generative AI tools count as models?
Many frameworks define models by function rather than technology, so tools that produce quantitative estimates or influence decisions can fall within scope. Each institution applies its own definition under its supervisors’ expectations.
Does the platform review firms’ frameworks?
No. GRA does not review, validate or approve firms’ frameworks or models.
ОтчётыВнести вклад

Поделитесь доказательствами с этой страницы.

Reports является ежеквартальным изданием Консорциума. Ваши знания по этой теме могут стать доказательством, кейсом или исправлением в следующем выпуске с указанием вашего авторства и публикацией по лицензии CC BY 4.0, если это ваша собственная работа.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
Риски ИИ и финансовых моделей

Обратитесь в Альянс с вопросом о подверженности или капитале.

Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.

Правовая информация

Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.