Skip to content

GRA · Риски ИИ и финансовых моделей

Пространственные финансыГде капитал встречается с опасностями, подверженностью и переходом

Модели третьих сторон

Firms use vendor credit scores, fraud models, catastrophe models, market data analytics and foundation models they did not build and cannot fully inspect. Responsibility for model risk stays with the firm. This page sets out how third-party model risk arises, how firms validate what they cannot see, the evidence available, and who decides.

02Вопрос

Third party models: how the risk develops.

Vendor dependencies and due diligence. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

Механизм

Limited transparency

Vendors protect their methods as trade secrets. Firms may get documentation and performance reports but not code, data or training details, which limits validation.

Механизм

Shared models, shared errors

When many firms use the same vendor model, its errors affect them all at once and can move markets or credit supply together.

Механизм

Обновления меняют поведение

Vendors update models and data on their own schedules. Without notice and change analysis, a firm’s validated model can change silently.

Механизм

Validation by outcomes

Where internals are hidden, firms validate through benchmarking, outcome analysis and testing on their own data, which needs time and data.

03Мониторинг

Жизненный цикл риска моделей.

Экран, который команда использовала бы для отслеживания этой темы: её показатели, состояния и решения. Названия приведены для примера, а значения иллюстративны.

Жизненный цикл риска моделей

Third party models · Model inventory · Committee 8

5 validations overdueGRA · AI and Financial Model Risk

Жизненный цикл

  1. Инвентаризациязарегистрировано
  2. Разработказадокументировано
  3. Проверитьнезависимый
  4. Утверждениекомитет
  5. Внедритьсредства контроля
  6. Мониторингпороговые значения
  7. Рецензированиеежегодно
  8. Вывести из эксплуатациивывод из эксплуатации

Модели

MD-709 PD retailУровень 19 месяцев1Просрочено
MD-561 LLM complaints triageУровень 1никогда0Не валидировано
MD-601 IFRS 9 stagingУровень 13 месяца0Утверждено
MD-088 склонность к маркетинговому откликуУровень 314 months1Утверждено

Охват валидации

Концептуальная обоснованность
В работе
Анализ результатов
Ожидается
Сравнительный анализ
Ожидается
Ограничения использования
требуется проверка человеком
Model risk lifecycle: the screen’s structure, terms and states for Third party models.Example names and illustrative values; a design, not a record or a live system.
04Индикаторы

Что измеряется и насколько хорошо.

Каждый показатель указывает свою единицу, периодичность, тип источника и метку доказательной базы, которую несло бы значение. Значения не показываются: программа предоставляет их под собственную ответственность.

ИндикаторЕдиницаПериодичностьТип источникаМетка
Third-party models in inventoryколичество по уровнямежегодноРеестр моделейЗАДЕКЛАРИРОВАНО
Vendor models with full documentationдоляежегодноVendor management recordsЗАДЕКЛАРИРОВАНО
Vendor model changes notifiedколичествов годVendor noticesСООБЩЕНО
Сторонние модели, проверенные на собственных данныхдоляежегодноЗаписи о валидацииЗАДЕКЛАРИРОВАНО
Concentration of vendor model use across firmsshare of firms using top vendorsпериодическиНадзорные обследованияСООБЩЕНО
Contracts with model change notice clausesдоляпериодическиContract reviewsЗАДЕКЛАРИРОВАНО
05Подверженность, убытки и капитал

What third party models means for exposure, loss and capital.

Представления о подверженности, убытках, сценариях и капитале, которые запросил бы риск-менеджер, надзорный орган или министерство финансов, с указанием систем отчётности, которым они следуют. Структуры соответствуют надзорной и актуарной практике. Значения иллюстративны: это никогда не цены, рейтинги или рекомендации.

Каналы передачи

How a shock in third party models reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
Климатические сценарии NGFS · Сеть по экологизации финансовой системыIFRS S2 «Раскрытие информации, связанной с климатом» · ISSBРекомендации TCFD · Совет по финансовой стабильности, TCFDПринципы эффективного управления климатическими финансовыми рисками · Базельский комитет по банковскому надзору
06Источники

Откуда берётся доказательная база.

Названные публичные наборы данных и институциональные записи, каждый со своим классом лицензии. Источники по соглашению используются только на их условиях и никогда не публикуются повторно.

ИсточникЧто он даётКласс лицензии
Руководство SR 11-7 по моделям поставщиков и третьих сторонExpectations for using external modelsОбщественное достояние
Interagency guidance on third-party relationships (United States banking agencies)Требования к управлению рисками third-partyОбщественное достояние
FSB report on AI financial stability implicationsThird-party and concentration risks from AIБесплатно, условия FSB
EU AI Act obligations for providers and deployersDivision of duties between AI providers and usersБесплатно, условия повторного использования ЕС
Vendor model documentation and performance reportsInformation vendors provide to usersProprietary, terms per vendor
07Решения

Кто принимает решения и чему служит доказательная база.

«Риски ИИ и финансовых моделей » готовит доказательную базу. Перечисленные ниже решения принимаются указанными органами по их собственным правилам, но не платформой.

Кто принимает решениеВопросДоказательная база, которую обслуживает эта страница
Функции управления модельным рискомHow to validate and approve third-party modelsДокументация, эталонные тесты и проверка результатов
Procurement and legalWhich transparency and change terms to requireContract practice and regulatory expectations
Надзорные органыАдекватно ли регулируется использование моделей поставщиков и имеет ли значение концентрацияОбследования и результаты рецензирования
ПоставщикиWhat documentation and notice to provideCustomer and regulatory requirements

Результаты, которые даёт эта тема

  • Руководство по валидации моделей, которые фирмы не могут изучить
  • Brief on concentration in vendor and foundation models
  • Методологическая записка об анализе изменений при обновлениях от поставщиков
  • Вопросы для закупок об условиях прозрачности моделей
08Ключевые вопросы

Что спрашивают эксперты.

The questions concern responsibility for models one did not build.

  • Does the institution understand how a vendor model works well enough to validate its use?
  • What documentation, testing evidence and access does the vendor provide?
  • How are vendor model updates communicated, tested and approved?
  • How many institutions rely on the same vendor, and what happens if it fails or changes?
  • Can the institution exit or replace the model if needed?
09Механизмы

Механизмы и движущие факторы.

Vendors often protect their models as intellectual property, limiting the transparency available to users. Institutions must still validate the model’s use for their own purposes, typically through outcome testing, benchmarking and contractual rights to documentation. Updates by the vendor can change model behaviour without the institution’s knowledge.

Concentration is a sector-wide concern. When many institutions use the same vendor model or AI provider, a flaw, outage or change affects them together, creating correlated errors and operational dependencies that no single institution can manage alone.

10Методы и данные

Как это изучается и где пределы методов.

Метод или данныеЧто он показываетОграничения
Vendor due diligenceVendor capability, controls and transparencyLimited by vendor disclosure
Тестирование по результатам и эталонным показателямPerformance on the institution’s own dataDoes not reveal internal logic
Contract and exit analysisRights to information, notification and exitRights may be hard to exercise
Concentration mappingОбщие зависимости в отраслиТребуется агрегированная информация
11Методы

Как это изучается и чего методы не могут сказать.

  1. Инженерная оценка ИИ и обеспечение уверенностиВалидация моделей машинного обучения · Тестирование генеративного ИИ «красной командой» · Оценка справедливостиПрименяется здесь
  2. Теория вероятностей и статистикаТестирование калибровки · Статистика дрейфа · Сравнение результатов по группамПрименяется здесь
  3. Количественная оценка неопределённости и валидация моделейИнтервалы прогнозирования для моделей убытков · Ансамбли моделей · Капитал или буферы на модельный рискПрименяется здесь
  4. Искусственный интеллект и машинное обучениеКредитные модели на основе градиентного бустинга · Языковые модели в операциях · Обнаружение аномалийПрименяется здесь
12Вопросы

Вопросы и ответы.

Who is responsible for a vendor model’s risk?
The firm using it. Supervisory guidance expects firms to validate and govern third-party models as they would their own, within the information available.
Как фирма может проверить модель, которую она не видит?
Through documentation review, benchmarking against alternatives, outcome analysis, sensitivity testing on its own data and contractual rights to information.
Why does vendor concentration matter?
Because a flaw or change in a widely used model affects many firms at once, which can correlate decisions across the market.
Does buying a model transfer its risk to the vendor?
Нет. Учреждение, использующее модель, по-прежнему несёт ответственность за её применение и результаты.
Why is vendor concentration a stability concern?
Потому что если многие фирмы полагаются на одну и ту же модель или одного поставщика, единичный сбой или изменение может затронуть их всех одновременно.
What should an institution be able to obtain from a model vendor?
Typically enough documentation to understand the model’s purpose, design, data and limitations, evidence of the vendor’s own testing, notice of material changes, and rights that allow the institution to validate the model’s use and to exit. What is obtainable in practice varies.
Does the platform rate vendors?
Нет. GRA не оценивает, не одобряет и не рекомендует поставщиков.
ОтчётыВнести вклад

Поделитесь доказательствами с этой страницы.

Reports является ежеквартальным изданием Консорциума. Ваши знания по этой теме могут стать доказательством, кейсом или исправлением в следующем выпуске с указанием вашего авторства и публикацией по лицензии CC BY 4.0, если это ваша собственная работа.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
Риски ИИ и финансовых моделей

Обратитесь в Альянс с вопросом о подверженности или капитале.

Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.

Правовая информация

Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.