GRA · Риски ИИ и финансовых моделей
Пространственные финансыГде капитал встречается с опасностями, подверженностью и переходом
Управление риском моделей
Model risk is the potential for loss or harm from decisions based on models that are wrong or misused. Banks, insurers and asset managers manage it through model inventories, risk tiering, independent validation, approval and ongoing monitoring, overseen by boards and senior management. Machine learning and generative AI widen what counts as a model. This page sets out how model risk governance works and fails, the records involved, and who decides.
Управление модельным риском в документированном виде.
Управление модельным риском: как развивается риск.
Inventory, ownership and validation. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Inventories miss models
Spreadsheets, vendor tools and AI components often sit outside the model inventory. Unlisted models escape validation and monitoring, and their errors surface only when losses or complaints arrive.
Challenge weakens
Validation that lacks independence, skill or authority to stop a model becomes a formality. Effective challenge needs validators who understand the method and can block use.
Tiering sets attention
Models are tiered by materiality and complexity, which decides validation depth. Underestimating a model’s materiality, or the reach of an AI tool, leaves high-impact models lightly reviewed.
Models interact
Outputs of one model feed others: a score feeds pricing, which feeds capital. An error upstream propagates, and aggregate model risk across the chain is rarely measured.
Жизненный цикл риска моделей.
Экран, который команда использовала бы для отслеживания этой темы: её показатели, состояния и решения. Названия приведены для примера, а значения иллюстративны.
Жизненный цикл риска моделей
Model risk governance · Model inventory · Committee 9
Жизненный цикл
- Инвентаризациязарегистрировано
- Разработказадокументировано
- Проверитьнезависимый
- Утверждениекомитет
- Внедритьсредства контроля
- Мониторингпороговые значения
- Рецензированиеежегодно
- Вывести из эксплуатациивывод из эксплуатации
Модели
| MD-204 PD (розница) | Уровень 1 | 14 months | 3 | Просрочено |
| MD-511 LLM complaints triage | Уровень 1 | никогда | 0 | Не валидировано |
| MD-164 IFRS 9 staging | Уровень 1 | 8 месяцев | 1 | Утверждено |
| MD-534 marketing propensity | Уровень 3 | 17 months | 0 | Утверждено |
Охват валидации
- Концептуальная обоснованность
- В работе
- Анализ результатов
- Ожидается
- Сравнительный анализ
- Ожидается
- Ограничения использования
- требуется проверка человеком
Что измеряется и насколько хорошо.
Каждый показатель указывает свою единицу, периодичность, тип источника и метку доказательной базы, которую несло бы значение. Значения не показываются: программа предоставляет их под собственную ответственность.
| Индикатор | Единица | Периодичность | Тип источника | Метка |
|---|---|---|---|---|
| Модели в перечне | количество по уровням | ежеквартально | Реестр моделей | ЗАДЕКЛАРИРОВАНО |
| Models validated within policy cycle | share by tier | ежеквартально | Записи о валидации | ЗАДЕКЛАРИРОВАНО |
| Open validation findings | количество по степени тяжести | ежеквартально | Записи о валидации | ЗАДЕКЛАРИРОВАНО |
| Модели, используемые с исключениями или ограничениями | количество | ежеквартально | Model governance records | ЗАДЕКЛАРИРОВАНО |
| AI and machine learning models in inventory | count and share | ежегодно | Inventory and surveys | ЗАДЕКЛАРИРОВАНО |
| Supervisory findings on model risk management | количество | ежегодно | Supervisory reports | Опубликованная статистика |
Варианты политики и их влияние на риск.
Как три семейства инструментов меняют исход риска со временем с учётом задержек внедрения, охвата и соблюдения, то есть политические сценарии, лежащие в основе оценок переходного и физического риска. Сценарий: поименованные допущения о будущем, а не прогноз.
Меры контроля
- Базовая траектория результата
- 2,0% в год
- Охват инструмента
- 70%
- Соответствие требованиям
- 75%
- Размер эффекта относительно учебного значения
- 100%
- Лет вперёд
- Лет: 20
Показания
- Наибольшее снижение на горизонте
- Регулирование
- Его снижение относительно базового уровня
- 21%
Числа, методы и источники
| Год | Базовый уровень | Регулирование | Экономический стимул | Информация и потенциал |
|---|---|---|---|---|
| 0 | 100.0 | 99.5 | 98.8 | 99.1 |
| 1 | 102.0 | 101.2 | 100.1 | 99.8 |
| 2 | 104.0 | 102.5 | 101.1 | 99.9 |
| 3 | 106.1 | 103.5 | 101.6 | 100.0 |
| 4 | 108.2 | 103.7 | 101.8 | 100.7 |
| 5 | 110.4 | 103.2 | 101.7 | 102.1 |
| 6 | 112.6 | 102.0 | 101.6 | 103.9 |
| 7 | 114.9 | 100.4 | 101.6 | 105.9 |
| 8 | 117.2 | 99.2 | 102.1 | 108.0 |
| 9 | 119.5 | 98.6 | 102.9 | 110.1 |
| 10 | 121.9 | 98.9 | 104.2 | 112.3 |
| 11 | 124.3 | 99.7 | 105.7 | 114.5 |
| 12 | 126.8 | 101.1 | 107.4 | 116.8 |
| 13 | 129.4 | 102.7 | 109.4 | 119.2 |
| 14 | 131.9 | 104.5 | 111.4 | 121.6 |
| 15 | 134.6 | 106.5 | 113.5 | 124.0 |
| 16 | 137.3 | 108.5 | 115.7 | 126.5 |
| 17 | 140.0 | 110.7 | 118.0 | 129.0 |
| 18 | 142.8 | 112.9 | 120.4 | 131.6 |
| 19 | 145.7 | 115.1 | 122.8 | 134.2 |
| 20 | 148.6 | 117.4 | 125.2 | 136.9 |
Методы
- Tools of government Hood (1983), The Tools of Government, Macmillan
- Carrots, sticks and sermons Bemelmans-Videc, Rist and Vedung (1998), Transaction
- Diffusion of innovations Rogers (2003), Diffusion of Innovations, Free Press
- Uncertainty fan (parameter Monte Carlo) Spiegelhalter, Pearson and Short (2011), Visualising uncertainty about the future, Science 333
- One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Данные
The model runs on the teaching values set by the controls. To calibrate it for a place, read it against these admitted layers and series, which this page’s map can draw:
- Borders Natural Earth
- Cities Natural Earth
По шести опорам, под руководством Nexus Consortium
- Эксперименты Лаборатории
- Построено в «Риски ИИ и финансовых моделей» в Foundry
- Проверено в «Риски ИИ и финансовых моделей» в Universe
- Закреплено в Цифровые технологии, кибербезопасность и ИИ в Standards
- Опубликовано в «Риски ИИ и финансовых моделей» в Reports
- Преподаётся в Факультет технологий и цифровых систем в Academy
Откуда берётся доказательная база.
Названные публичные наборы данных и институциональные записи, каждый со своим классом лицензии. Источники по соглашению используются только на их условиях и никогда не публикуются повторно.
| Источник | Что он даёт | Класс лицензии |
|---|---|---|
| Federal Reserve and OCC SR 11-7 guidance | Model risk management expectations | Общественное достояние |
| PRA SS1/23 model risk management principles | UK principles for banks | Бесплатно, на условиях Банка Англии |
| ECB guide to internal models | Требования к внутренним моделям, используемым для расчёта капитала | Бесплатно, на условиях ЕЦБ |
| Bank of England and FCA surveys of AI and machine learning in UK financial services | Use and governance of AI across firms | Бесплатно, условия Банка Англии и FCA |
| Последующие отчёты EBA по машинному обучению в моделях на основе внутренних рейтингов | Supervisory views on ML in capital models | Бесплатно, условия повторного использования ЕС |
What model risk governance means for exposure, loss and capital.
Представления о подверженности, убытках, сценариях и капитале, которые запросил бы риск-менеджер, надзорный орган или министерство финансов, с указанием систем отчётности, которым они следуют. Структуры соответствуют надзорной и актуарной практике. Значения иллюстративны: это никогда не цены, рейтинги или рекомендации.
Каналы передачи
How a shock in model risk governance reaches credit, market, underwriting, liquidity and operational risk, and feeds back.
Кто принимает решения и чему служит доказательная база.
«Риски ИИ и финансовых моделей » готовит доказательную базу. Перечисленные ниже решения принимаются указанными органами по их собственным правилам, но не платформой.
| Кто принимает решение | Вопрос | Доказательная база, которую обслуживает эта страница |
|---|---|---|
| Boards and senior management | What model risk appetite to set and how to oversee it | Inventory, tiering, findings and incident evidence |
| Model risk management functions | Which models to validate, approve, restrict or retire | Validation results and monitoring |
| Органы пруденциального надзора | Whether model risk management meets expectations | Supervisory reviews and firm reporting |
| Внутренний аудит | Whether the model risk framework operates as designed | Governance and validation records |
Результаты, которые даёт эта тема
- Guide to model inventories, tiering and validation
- Записка о распространении управления модельными рисками на ИИ и генеративный ИИ
- Method note on effective challenge
- Questions for boards on aggregate model risk
Что спрашивают эксперты.
Governance questions begin with knowing what models exist.
- What counts as a model, and does the definition capture machine learning, vendor tools and generative AI?
- Is every model in the inventory, with an accountable owner and a risk tier?
- Is validation genuinely independent and effective at challenging developers?
- How are model limitations documented and communicated to users?
- Does the board understand the institution’s aggregate model risk?
Механизмы и движущие факторы.
Models fail through flawed design, poor data, implementation errors, or use beyond their intended scope. Governance frameworks address these through development standards, independent validation and ongoing monitoring, scaled to each model’s materiality. Supervisory guidance on model risk management in several jurisdictions sets expectations along these lines.
ИИ создаёт нагрузку на традиционные рамочные подходы. Модели машинного обучения могут быть многочисленными, часто переобучаться и быть встроенными в процессы; инструменты генеративного ИИ могут неформально внедряться сотрудниками; модели поставщиков могут быть непрозрачными. Перечни, не учитывающие такие применения, оставляют риск неуправляемым.
Как это изучается и где пределы методов.
| Метод или данные | Что он показывает | Ограничения |
|---|---|---|
| Model inventories and tiering | Which models exist and how material they are | Informal and embedded AI uses are easily missed |
| Независимая валидация | Soundness of design, data and implementation | Validation is constrained by time, skills and access to vendor details |
| Governance benchmarking | How institutions organise model risk | Self-reported and hard to compare |
| Issue and finding analysis | Recurring weaknesses | Findings are confidential within firms |
Как это изучается и чего методы не могут сказать.
- 01Инженерная оценка ИИ и обеспечение уверенностиВалидация моделей машинного обучения · Тестирование генеративного ИИ «красной командой» · Оценка справедливостиПрименяется здесь
- 02Теория вероятностей и статистикаТестирование калибровки · Статистика дрейфа · Сравнение результатов по группамПрименяется здесь
- 03Количественная оценка неопределённости и валидация моделейИнтервалы прогнозирования для моделей убытков · Ансамбли моделей · Капитал или буферы на модельный рискПрименяется здесь
- 04Искусственный интеллект и машинное обучениеКредитные модели на основе градиентного бустинга · Языковые модели в операциях · Обнаружение аномалийПрименяется здесь
Вопросы и ответы.
Что такое модельный риск?
What is effective challenge?
Are AI models covered by model risk rules?
Do spreadsheets and generative AI tools count as models?
Does the platform review firms’ frameworks?
Поделитесь доказательствами с этой страницы.
Reports является ежеквартальным изданием Консорциума. Ваши знания по этой теме могут стать доказательством, кейсом или исправлением в следующем выпуске с указанием вашего авторства и публикацией по лицензии CC BY 4.0, если это ваша собственная работа.
- Электронная почтаКонтрольная точка GW-GRAОтправьте с этой страницыДоказательная база, исправление, случай, метод, рецензия, перевод или вклад в профиль. Материал приходит с пометкой этой страницы, поэтому его получает редактор, отвечающий за неё.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks AllianceSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Никогда не отправляйте персональные данные, сведения о чувствительной инфраструктуре или то, чем вы не вправе делиться. Материал проходит рассмотрение перед использованием; его отправка не дает авторских или редакционных прав, а спонсорство никогда не покупает выводы.
Обратитесь в Альянс с вопросом о подверженности или капитале.
Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.
Юридические документы.
Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.