GRA · Риски ИИ и финансовых моделей
Пространственные финансыГде капитал встречается с опасностями, подверженностью и переходом
Анализ и неопределённость
Модельный риск is managed through inventory, documentation, conceptual soundness review, outcome analysis, benchmarking and ongoing monitoring. This page explains each step, how machine learning changes it, and why generative and agentic AI sit partly outside current guidance.
Analysis and uncertainty in five parts.
Используемые методы.
- 01Искусственный интеллект и машинное обучениеКредитные модели на основе градиентного бустинга · Языковые модели в операциях · Обнаружение аномалийПрименяется здесь
- 02Инженерная оценка ИИ и обеспечение уверенностиВалидация моделей машинного обучения · Тестирование генеративного ИИ «красной командой» · Оценка справедливостиПрименяется здесь
- 03Количественная оценка неопределённости и валидация моделейИнтервалы прогнозирования для моделей убытков · Ансамбли моделей · Капитал или буферы на модельный рискПрименяется здесь
- 04Теория вероятностей и статистикаТестирование калибровки · Статистика дрейфа · Сравнение результатов по группамПрименяется здесь
Explainability and fairness methods, with limits.
| Метод | Gives | Предел |
|---|---|---|
| SHAP and other attribution methods | Contribution of each input to a prediction | Correlated inputs blur attribution |
| Counterfactual explanations | What change would alter the decision | May suggest infeasible changes |
| Group fairness metrics | Outcome differences across groups | Metrics can conflict |
| Challenger models | Independent benchmark | Shares data weaknesses |
Как устроен процесс.
Process explorer · Process
Analysis and uncertainty: Source to evidence record
10 steps·4 этапа·2 контрольные точки
Процесс
Analysis and uncertainty: Source to evidence record
Источник регистрируется и оценивается, его запись маркируется и классифицируется, а Цифровой паспорт (доказательная база) несёт происхождение; исправление доходит до каждой зависимой записи.
01 Приём
- 01Установить источникИсточник · Распорядитель источникаОбнаружение не является загрузкой. Установление источника фиксирует класс источника, распорядителя, институциональную роль и юрисдикцию.
- 03Зарегистрировать источникШагРегистрация делает обнаруженный источник управляемым участником жизненного цикла, в котором формируется доказательная база. Она не означает одобрения или сертификации.
02 Оценка
- 04Классификация юрисдикций и правКонтрольная точкаКлассификация прав определяет ограничения по лицензии, согласию, конфиденциальности и повторному использованию. Результат определяет доступ и маршрутизацию.
- 05Доказательная база: оценка качестваШагОценка качества определяет, пригодна ли запись для определённого использования. Качество многомерно и никогда не сводится к единой оценке.
- 06Метка: доказательная базаШагКаждый вывод получает одну из девяти меток, указывающих, какова его доказательная база. Отсутствующие данные показываются как отсутствующие, а не как ноль.
03 Запись
- 07Доказательная база: классификацияЗаписьКлассификация присваивает записям состояния жизненного цикла, например «источник проверен», «безопасно для публикации» или «ограниченный доступ». Состояния могут сосуществовать и определяют, как используется доказательная база.
- 08Выпуск источника и идентификаторЗапись · NXS-GRX (канонические данные, происхождение и риск)Выпуск источника фиксирует права, временной охват и происхождение источника. UNI присваивается через каталог и никогда не вводится вручную.
- 09Digital Evidence PassportЗаписьПаспорт фиксирует происхождение, качество, права, юрисдикцию, разрешённое использование и историю, поэтому доказательная база сохраняет свой контекст при передаче.
04 Использование и исправление
- 02Исправление доходит до зависимых записейШаг · NXS-GRX (канонические данные, происхождение и риск)Исправление источника распространяется на зависимые срезы и продукты без перезаписи прежних результатов.
- 10Проверка безопасности для публикацииКонтрольная точкаПроверка на безопасность для публикации решает, можно ли сделать запись общедоступной. Это отдельный этап, и он не является валидацией.
Протоколы данных: доказательная база и её жизненный цикл · Data protocols: core data objects and evidence records · The Global Risks Index (NXS-GRX)Designed programme process, not a record of operation. No cycle has run and every programme is at service level R0. A gate is a programme decision, never a public-authority approval, certification or deployment authorisation. The data-protocol pages describe a design, not a running system.
Quantifying what the model does not know.
Prediction intervals and calibration checks show when a model is outside its experience. Methods at GCRI uncertainty quantification; topic depth at explainability and fairness.
Как сообщается о неопределённости.
- 01
Указывайте допущения
В каждом анализе перечислены его допущения и данные, от которых он зависит.
- 02
По возможности давать количественную оценку
Диапазоны и уровень уверенности приводятся наряду с центральными оценками.
- 03
Валидация и сравнение
Модели проверяются по наблюдениям и, где возможно, по другим моделям.
- 04
Ограничения публикации
То, что анализ не может показать, указывается рядом с тем, что он может показать.
Where this page’s references lead.
Органы и документы, с которыми сопоставляется эта страница. Статусы и редакции меняются; каждая ссылка ведёт к выпускающему органу.
Вопросы и ответы.
Методы открыты?
Поделитесь доказательствами с этой страницы.
Отчёты is the Consortium’s quarterly publication. What you know about this subject can become evidence, a case or a correction in the next edition, credited to you and published under CC BY 4.0 where it is your own work.
- Электронная почтаКонтрольная точка GW-GRAОтправьте с этой страницыДоказательная база, исправление, случай, метод, рецензия, перевод или вклад в профиль. Материал приходит с пометкой этой страницы, поэтому его получает редактор, отвечающий за неё.
- ZenodoОткрытый депозитДепонируйте и подайте в сообществоОпубликуйте собственную запись на Zenodo со своим идентификатором ORCID iD, затем подайте её в сообщество Reports. Кураторы проверяют её; DOI остаётся за вами.
- ОтчётыGlobal Risks AllianceВсе способы внести вкладВиды вклада, порядок рецензирования каждого из них, указание авторства, лицензия и то, что никогда не принимается.
Никогда не отправляйте персональные данные, сведения о чувствительной инфраструктуре или то, чем вы не вправе делиться. Материал проходит рассмотрение перед использованием; его отправка не дает авторских или редакционных прав, а спонсорство никогда не покупает выводы.
Обратитесь в Альянс с вопросом о подверженности или капитале.
Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.
Юридические документы.
Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.