GRA · Риски ИИ и финансовых моделей
Пространственные финансыГде капитал встречается с опасностями, подверженностью и переходом
Модели третьих сторон
Firms use vendor credit scores, fraud models, catastrophe models, market data analytics and foundation models they did not build and cannot fully inspect. Responsibility for model risk stays with the firm. This page sets out how third-party model risk arises, how firms validate what they cannot see, the evidence available, and who decides.
Third party models on the record.
Third party models: how the risk develops.
Vendor dependencies and due diligence. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Limited transparency
Vendors protect their methods as trade secrets. Firms may get documentation and performance reports but not code, data or training details, which limits validation.
Shared models, shared errors
When many firms use the same vendor model, its errors affect them all at once and can move markets or credit supply together.
Обновления меняют поведение
Vendors update models and data on their own schedules. Without notice and change analysis, a firm’s validated model can change silently.
Validation by outcomes
Where internals are hidden, firms validate through benchmarking, outcome analysis and testing on their own data, which needs time and data.
Жизненный цикл риска моделей.
Экран, который команда использовала бы для отслеживания этой темы: её показатели, состояния и решения. Названия приведены для примера, а значения иллюстративны.
Жизненный цикл риска моделей
Third party models · Model inventory · Committee 8
Жизненный цикл
- Инвентаризациязарегистрировано
- Разработказадокументировано
- Проверитьнезависимый
- Утверждениекомитет
- Внедритьсредства контроля
- Мониторингпороговые значения
- Рецензированиеежегодно
- Вывести из эксплуатациивывод из эксплуатации
Модели
| MD-709 PD retail | Уровень 1 | 9 месяцев | 1 | Просрочено |
| MD-561 LLM complaints triage | Уровень 1 | никогда | 0 | Не валидировано |
| MD-601 IFRS 9 staging | Уровень 1 | 3 месяца | 0 | Утверждено |
| MD-088 склонность к маркетинговому отклику | Уровень 3 | 14 months | 1 | Утверждено |
Охват валидации
- Концептуальная обоснованность
- В работе
- Анализ результатов
- Ожидается
- Сравнительный анализ
- Ожидается
- Ограничения использования
- требуется проверка человеком
Что измеряется и насколько хорошо.
Каждый показатель указывает свою единицу, периодичность, тип источника и метку доказательной базы, которую несло бы значение. Значения не показываются: программа предоставляет их под собственную ответственность.
| Индикатор | Единица | Периодичность | Тип источника | Метка |
|---|---|---|---|---|
| Third-party models in inventory | количество по уровням | ежегодно | Реестр моделей | ЗАДЕКЛАРИРОВАНО |
| Vendor models with full documentation | доля | ежегодно | Vendor management records | ЗАДЕКЛАРИРОВАНО |
| Vendor model changes notified | количество | в год | Vendor notices | СООБЩЕНО |
| Сторонние модели, проверенные на собственных данных | доля | ежегодно | Записи о валидации | ЗАДЕКЛАРИРОВАНО |
| Concentration of vendor model use across firms | share of firms using top vendors | периодически | Надзорные обследования | СООБЩЕНО |
| Contracts with model change notice clauses | доля | периодически | Contract reviews | ЗАДЕКЛАРИРОВАНО |
What third party models means for exposure, loss and capital.
Представления о подверженности, убытках, сценариях и капитале, которые запросил бы риск-менеджер, надзорный орган или министерство финансов, с указанием систем отчётности, которым они следуют. Структуры соответствуют надзорной и актуарной практике. Значения иллюстративны: это никогда не цены, рейтинги или рекомендации.
Каналы передачи
How a shock in third party models reaches credit, market, underwriting, liquidity and operational risk, and feeds back.
Откуда берётся доказательная база.
Названные публичные наборы данных и институциональные записи, каждый со своим классом лицензии. Источники по соглашению используются только на их условиях и никогда не публикуются повторно.
| Источник | Что он даёт | Класс лицензии |
|---|---|---|
| Руководство SR 11-7 по моделям поставщиков и третьих сторон | Expectations for using external models | Общественное достояние |
| Interagency guidance on third-party relationships (United States banking agencies) | Требования к управлению рисками third-party | Общественное достояние |
| FSB report on AI financial stability implications | Third-party and concentration risks from AI | Бесплатно, условия FSB |
| EU AI Act obligations for providers and deployers | Division of duties between AI providers and users | Бесплатно, условия повторного использования ЕС |
| Vendor model documentation and performance reports | Information vendors provide to users | Proprietary, terms per vendor |
Кто принимает решения и чему служит доказательная база.
«Риски ИИ и финансовых моделей » готовит доказательную базу. Перечисленные ниже решения принимаются указанными органами по их собственным правилам, но не платформой.
| Кто принимает решение | Вопрос | Доказательная база, которую обслуживает эта страница |
|---|---|---|
| Функции управления модельным риском | How to validate and approve third-party models | Документация, эталонные тесты и проверка результатов |
| Procurement and legal | Which transparency and change terms to require | Contract practice and regulatory expectations |
| Надзорные органы | Адекватно ли регулируется использование моделей поставщиков и имеет ли значение концентрация | Обследования и результаты рецензирования |
| Поставщики | What documentation and notice to provide | Customer and regulatory requirements |
Результаты, которые даёт эта тема
- Руководство по валидации моделей, которые фирмы не могут изучить
- Brief on concentration in vendor and foundation models
- Методологическая записка об анализе изменений при обновлениях от поставщиков
- Вопросы для закупок об условиях прозрачности моделей
Что спрашивают эксперты.
The questions concern responsibility for models one did not build.
- Does the institution understand how a vendor model works well enough to validate its use?
- What documentation, testing evidence and access does the vendor provide?
- How are vendor model updates communicated, tested and approved?
- How many institutions rely on the same vendor, and what happens if it fails or changes?
- Can the institution exit or replace the model if needed?
Механизмы и движущие факторы.
Vendors often protect their models as intellectual property, limiting the transparency available to users. Institutions must still validate the model’s use for their own purposes, typically through outcome testing, benchmarking and contractual rights to documentation. Updates by the vendor can change model behaviour without the institution’s knowledge.
Concentration is a sector-wide concern. When many institutions use the same vendor model or AI provider, a flaw, outage or change affects them together, creating correlated errors and operational dependencies that no single institution can manage alone.
Как это изучается и где пределы методов.
| Метод или данные | Что он показывает | Ограничения |
|---|---|---|
| Vendor due diligence | Vendor capability, controls and transparency | Limited by vendor disclosure |
| Тестирование по результатам и эталонным показателям | Performance on the institution’s own data | Does not reveal internal logic |
| Contract and exit analysis | Rights to information, notification and exit | Rights may be hard to exercise |
| Concentration mapping | Общие зависимости в отрасли | Требуется агрегированная информация |
Как это изучается и чего методы не могут сказать.
- 01Инженерная оценка ИИ и обеспечение уверенностиВалидация моделей машинного обучения · Тестирование генеративного ИИ «красной командой» · Оценка справедливостиПрименяется здесь
- 02Теория вероятностей и статистикаТестирование калибровки · Статистика дрейфа · Сравнение результатов по группамПрименяется здесь
- 03Количественная оценка неопределённости и валидация моделейИнтервалы прогнозирования для моделей убытков · Ансамбли моделей · Капитал или буферы на модельный рискПрименяется здесь
- 04Искусственный интеллект и машинное обучениеКредитные модели на основе градиентного бустинга · Языковые модели в операциях · Обнаружение аномалийПрименяется здесь
Вопросы и ответы.
Who is responsible for a vendor model’s risk?
Как фирма может проверить модель, которую она не видит?
Why does vendor concentration matter?
Does buying a model transfer its risk to the vendor?
Why is vendor concentration a stability concern?
What should an institution be able to obtain from a model vendor?
Does the platform rate vendors?
Поделитесь доказательствами с этой страницы.
Reports является ежеквартальным изданием Консорциума. Ваши знания по этой теме могут стать доказательством, кейсом или исправлением в следующем выпуске с указанием вашего авторства и публикацией по лицензии CC BY 4.0, если это ваша собственная работа.
- Электронная почтаКонтрольная точка GW-GRAОтправьте с этой страницыДоказательная база, исправление, случай, метод, рецензия, перевод или вклад в профиль. Материал приходит с пометкой этой страницы, поэтому его получает редактор, отвечающий за неё.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks AllianceSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Никогда не отправляйте персональные данные, сведения о чувствительной инфраструктуре или то, чем вы не вправе делиться. Материал проходит рассмотрение перед использованием; его отправка не дает авторских или редакционных прав, а спонсорство никогда не покупает выводы.
Обратитесь в Альянс с вопросом о подверженности или капитале.
Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.
Юридические документы.
Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.