Skip to content

GRA · Риски ИИ и финансовых моделей

Пространственные финансыГде капитал встречается с опасностями, подверженностью и переходом

Кредитные и ценовые модели

Credit scores, probability of default models and insurance pricing models decide who gets credit or cover and at what price. Machine learning can improve prediction and also introduce opacity, instability and proxy discrimination. These models also feed provisioning and capital. This page sets out how credit and pricing models fail, how their risks are measured, the data they depend on and who decides how they are used.

02Вопрос

Credit and pricing models: how the risk develops.

Finance-specific automated decisions. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

Механизм

Data reflect the past

Models learn from historical lending and claims that reflect past decisions, economic conditions and exclusions. Applicants unlike past borrowers are scored with less reliable evidence.

Механизм

Performance degrades in new conditions

Models fitted in stable periods can misjudge default or claims when rates, inflation or unemployment shift, which is when accurate risk estimates matter most.

Механизм

Прокси-показатели приводят к несправедливым результатам

Переменные, коррелирующие с защищёнными признаками, могут приводить к неравным результатам, даже если эти признаки напрямую не используются. Закон и надзорные органы ограничивают перечень допустимых факторов.

Механизм

Errors reach capital and provisions

Probability of default and loss given default estimates feed expected credit loss provisions and capital. Systematic optimism understates both until losses arrive.

03Подверженность, убытки и капитал

What credit and pricing models means for exposure, loss and capital.

Представления о подверженности, убытках, сценариях и капитале, которые запросил бы риск-менеджер, надзорный орган или министерство финансов, с указанием систем отчётности, которым они следуют. Структуры соответствуют надзорной и актуарной практике. Значения иллюстративны: это никогда не цены, рейтинги или рекомендации.

Показатели капитала, платёжеспособности и бюджета

Показатели, которые специалист по рискам, надзорный орган или министерство финансов читает в первую очередь в моделях кредитования и ценообразования.

ИндикаторЕдиницаКто это читаетСистема
Коэффициент CET1% активов, взвешенных по рискуБанки, надзорные органыБазельская система
Норматив покрытия ликвидности% стрессового оттокаБанки, центральные банкиБазельская система
Коэффициент платёжеспособности% требования к капиталу платёжеспособностиСтраховщики, надзорные органыОсновные принципы страхования IAIS
Комбинированный коэффициент% заработанной премииСтраховщикиАктуарная практика
Разрыв в страховой защитенезастрахованная доля экономического ущербаСтраховщики, министерства финансовОпубликованная статистика убытков
Государственный долг% ВВПМинистерства финансов, МВФСистема оценки приемлемости уровня долга
Валовые потребности в финансировании% ВВП в годМинистерства финансов, инвесторыСистема оценки приемлемости уровня долга
Source: the frameworks named in each row. Indicator names, units and frameworks only; values belong to each institution’s own reporting and are never shown here.
Климатические сценарии NGFS · Сеть по экологизации финансовой системыIFRS S2 «Раскрытие информации, связанной с климатом» · ISSBРекомендации TCFD · Совет по финансовой стабильности, TCFDПринципы эффективного управления климатическими финансовыми рисками · Базельский комитет по банковскому надзору
04Индикаторы

Что измеряется и насколько хорошо.

Каждый показатель указывает свою единицу, периодичность, тип источника и метку доказательной базы, которую несло бы значение. Значения не показываются: программа предоставляет их под собственную ответственность.

ИндикаторЕдиницаПериодичностьТип источникаМетка
Discriminatory power of scorecardsGini coefficient or area under the curveежеквартальноМониторинг моделейОЦЕНЕНО
Калибровка вероятности дефолтаobserved default rate against predicted, ratioежегодноBack-testingОЦЕНЕНО
Population stability indexбезразмерная величинаежемесячноМониторинг моделейОЦЕНЕНО
Различия в доле одобрений между группамиratio of approval ratesпериодическиFair lending analysisОЦЕНЕНО
Overrides of model decisionsshare of decisionsежемесячноПротоколы решенийНАБЛЮДАЕМО
Expected credit loss model adjustmentsактуальность корректировок после моделированияежеквартальноФинансовая отчётностьОпубликованная статистика
05Источники

Откуда берётся доказательная база.

Названные публичные наборы данных и институциональные записи, каждый со своим классом лицензии. Источники по соглашению используются только на их условиях и никогда не публикуются повторно.

ИсточникЧто он даётКласс лицензии
EBA guidelines on loan origination and monitoringExpectations for credit decision models including automated modelsБесплатно, условия повторного использования ЕС
CFPB circulars on adverse action and complex algorithmsUnited States expectations for explaining credit denialsОбщественное достояние
HMDA dataUnited States mortgage application and outcome dataОбщественное достояние
Bank Pillar 3 credit risk disclosuresProbability of default back-testing and model outcomesПубличные записи, условия каждого банка
Actuarial and insurance supervisory publications on pricing modelsPractice and expectations for pricing modelsБесплатно, на условиях издателя
06Решения

Кто принимает решения и чему служит доказательная база.

«Риски ИИ и финансовых моделей » готовит доказательную базу. Перечисленные ниже решения принимаются указанными органами по их собственным правилам, но не платформой.

Кто принимает решениеВопросДоказательная база, которую обслуживает эта страница
Credit risk and pricing committeesWhich models to use and with what overlaysPerformance, calibration and fairness evidence
Специалисты по валидации моделейWhether models are fit for purposeBack-testing and benchmark comparison
Conduct and fair lending supervisorsЗаконны ли и справедливы ли результаты моделиOutcome data and adverse action practice
Комитеты по аудитуWhether provisioning models and overlays are reasonableModel outputs and adjustment rationale

Результаты, которые даёт эта тема

  • Guide to credit and pricing model performance measures
  • Методологическая записка о проверке на дискриминацию через прокси-переменные
  • Brief on post-model adjustments and what they reveal
  • Questions for credit committees on model limits
07Ключевые вопросы

Что спрашивают эксперты.

Credit and pricing questions combine accuracy, fairness and legality.

  • Does the model predict default or loss accurately across all customer groups?
  • Do input variables act as proxies for characteristics that law protects?
  • Can the institution explain to a customer why credit was refused or a price set?
  • Как модель работает на протяжении экономического цикла, а не только в благоприятных условиях?
  • How do alternative data sources affect accuracy, inclusion and privacy?
08Механизмы

Механизмы и движущие факторы.

Credit models estimate the likelihood that a borrower will repay; pricing models estimate expected losses and costs. Both learn from historical data, which reflects past lending practices, economic conditions and social inequalities. A model can be accurate on average while performing poorly for groups underrepresented in the data, or can reproduce historical discrimination through correlated variables.

Credit models are especially exposed to economic regime change: relationships that held in an expansion may break in a downturn. Some jurisdictions classify AI used to assess the creditworthiness of individuals as high-risk, with specific obligations for providers and users.

09Методы и данные

Как это изучается и где пределы методов.

Метод или данныеЧто он показываетОграничения
Discrimination and calibration testingAccuracy and calibration across groupsProtected attributes may not be recorded
Показатели справедливостиДиспропорции в результатах или ошибкахDifferent metrics can conflict
Explanation methodsMain drivers of individual decisionsApproximate explanations of complex models
Through-the-cycle backtestingPerformance across conditionsВ данных мало спадов
10Методы

Как это изучается и чего методы не могут сказать.

  1. Теория вероятностей и статистикаТестирование калибровки · Статистика дрейфа · Сравнение результатов по группамПрименяется здесь
  2. Искусственный интеллект и машинное обучениеКредитные модели на основе градиентного бустинга · Языковые модели в операциях · Обнаружение аномалийПрименяется здесь
  3. Количественная оценка неопределённости и валидация моделейИнтервалы прогнозирования для моделей убытков · Ансамбли моделей · Капитал или буферы на модельный рискПрименяется здесь
  4. Инженерная оценка ИИ и обеспечение уверенностиВалидация моделей машинного обучения · Тестирование генеративного ИИ «красной командой» · Оценка справедливостиПрименяется здесь
11Вопросы

Вопросы и ответы.

What does a Gini coefficient measure for a scorecard?
How well the score ranks borrowers who later default above those who do not; it measures ranking power, not whether predicted default rates are accurate.
What is a post-model adjustment?
A management overlay applied to model output, often for expected credit loss, when the model is judged not to capture current conditions.
Can a model discriminate without using protected characteristics?
Yes. Variables that correlate with protected characteristics can produce disparate outcomes, which is why fairness testing looks at outcomes as well as inputs.
Does alternative data improve inclusion?
Это может помочь людям с неполной кредитной историей, но также поднимает вопросы конфиденциальности, точности и справедливости, требующие проверки.
Does the platform assess lenders’ models?
No. GRA does not assess, validate or approve any model.
ОтчётыВнести вклад

Поделитесь доказательствами с этой страницы.

Reports является ежеквартальным изданием Консорциума. Ваши знания по этой теме могут стать доказательством, кейсом или исправлением в следующем выпуске с указанием вашего авторства и публикацией по лицензии CC BY 4.0, если это ваша собственная работа.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
Риски ИИ и финансовых моделей

Обратитесь в Альянс с вопросом о подверженности или капитале.

Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.

Правовая информация

Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.