Skip to content

GRA · Риски ИИ и финансовых моделей

Пространственные финансыГде капитал встречается с опасностями, подверженностью и переходом

Инженерия оценки и обеспечения уверенности в ИИ для рисков ИИ и финансовых моделей

AI assurance is the set of practices that give justified confidence in an AI or model system: validation, testing, red-teaming, monitoring, documentation and independent review. On this platform it connects established model risk management with the new evidence AI systems require.

01Реестр

AI evaluation and assurance engineering for AI and financial model risk on the record.

Запись о методеSTEM-метод
  1. МетодИнженерная оценка ИИ и обеспечение уверенности
  2. Применяется в«Риски ИИ и финансовых моделей
  3. Canonical pageSTEM Commons
02Заявка

Что делает здесь инженерия оценки и обеспечения уверенности для систем ИИ.

AI evaluation and assurance engineering develops methods to test, monitor and provide justified confidence in AI systems. It addresses performance, robustness, safety and societal impact across the system life cycle. In artificial intelligence and financial stability, AI assurance determines whether automated systems can be trusted in high-consequence settings. It helps manage risks when AI is embedded across finance, health and infrastructure. The canonical description is on the STEM Commons.

Validation of machine learning models

Conceptual soundness, data quality, outcome analysis and stability testing are adapted to models whose internal logic is hard to read.

Red-teaming generative AI

Состязательные тесты проверяют приложения на основе языковых моделей на уязвимость к инъекции промптов, утечке данных и вредоносным результатам до и после внедрения.

Fairness assessment

Outcome rates and error rates are compared across groups, with the chosen fairness criterion and its legal basis documented for review.

03Подверженность, убытки и капитал

Что это означает для подверженности, потерь и капитала.

Представления о подверженности, убытках, сценариях и капитале, которые запросил бы риск-менеджер, надзорный орган или министерство финансов, с указанием систем отчётности, которым они следуют. Структуры соответствуют надзорной и актуарной практике. Значения иллюстративны: это никогда не цены, рейтинги или рекомендации.

Каналы передачи

How a shock in AI evaluation and assurance engineering for AI and financial model risk reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
Климатические сценарии NGFS · Сеть по экологизации финансовой системыIFRS S2 «Раскрытие информации, связанной с климатом» · ISSBРекомендации TCFD · Совет по финансовой стабильности, TCFDПринципы эффективного управления климатическими финансовыми рисками · Базельский комитет по банковскому надзору
04Данные

Что потребляет метод.

Datasets and records used by AI evaluation and assurance engineering on this platform, with the role each plays and the label its values carry. Sources are listed in the source register.

ДанныеРольМетка
Отчёты о валидацииДоказательства для обеспечения уверенностиЗАДЕКЛАРИРОВАНО
Red-team resultsAdversarial weaknessesНАБЛЮДАЕМО
Данные о результатахЭффективность в реальных условияхНАБЛЮДАЕМО
05Процесс

Как устроен процесс.

Process explorer · Process

AI evaluation and assurance engineering for AI and financial model risk: AI risk management (NIST)

9 steps5 stages1 gate

Процесс

AI evaluation and assurance engineering for AI and financial model risk: AI risk management (NIST)

Ядро AI RMF содержит четыре функции: GOVERN, MAP, MEASURE и MANAGE, причём GOVERN является сквозной; показанный порядок представляет собой одно из распространённых прочтений, а не контрольный перечень.

  1. 01 Управление

    1. 01GOVERN: политики, роли и подотчётностьШаг · Комитет MRMGOVERN является сквозной функцией. Она пронизывает всё управление рисками ИИ и обеспечивает работу остальных функций.
  2. 02 Map

    1. 02MAP: контекст и предполагаемое использованиеНабор данныхФункция MAP устанавливает контекст для определения рисков, связанных с системой ИИ, включая предполагаемые цели и воздействие на людей.
  3. 03 Измерение

    1. 03MEASURE: оценка характеристик, обеспечивающих довериеМодельAI Системы ИИ оцениваются на соответствие характеристикам надёжности. Их следует тестировать перед внедрением и регулярно в ходе эксплуатации.
    2. 04MEASURE: отслеживание выявленных рисков во времениМодельДействуют механизмы отслеживания выявленных рисков ИИ во времени, включая непредвиденные и возникающие риски.
  4. 04 Управление

    1. 05MANAGE: обработка рисковШагОбработка риска охватывают реагирование на инциденты, восстановление после них и информирование о них. Ресурсы направляются на выявленные и измеренные риски.
    2. 06Proceed or not (MANAGE 1.1)Gate · MRM committeeA determination is made whether the system meets its purposes and objectives, and whether to proceed. The framework sets no thresholds.
    3. 07Решение о внедренииРешение · Комитет MRMОрганизация, которой принадлежит система, решает, развёртывать ли её и на каких условиях.
    4. 08Мониторинг после внедрения и инцидентыМодельПланы мониторинга после внедрения реализуются. Информация об инцидентах и ошибках передаётся соответствующим участникам сферы ИИ, включая затронутые сообщества.
  5. 05 Запись

    1. 09Инвентаризация систем ИИНабор данныхGOVERN 1.6 требует механизмов инвентаризации систем ИИ. Карточка модели является распространённой практикой и в рамочном документе не названа.

Нейтральное описание опубликованного внешнего стандарта или метода, составленное по материалам выпустившей его организации. Не является записью об эксплуатации. Nexus не выполняет, не сертифицирует и не утверждает ни один из показанных шагов. Контрольная точка или решение относятся к стороне, названной в источнике. Действия не обязательно образуют упорядоченный набор шагов. Закон ЕС об ИИ (EU AI Act) в этой схеме не отражён.

06Валидация

Как проверяются результаты.

Evaluation methods are checked for reliability and relevance to deployment conditions. Independent replication and third-party audits test claims.

ПроверкаКак это делается
НезависимостьAssurance is performed by people independent of development
Указана сфера охватаWhat assurance covered and excluded is recorded
Repeat after changeMaterial model or version changes trigger renewed assurance

Benchmarks may not reflect real-world use or novel capabilities. General-purpose systems have open-ended behaviour that resists complete testing.

08Ведение и сопровождение

Кто ведёт метод.

«Искусственный интеллект и автономные системы» ведут и сопровождают оценку ИИ и инженерию обеспечения уверенности для Консорциума и рассматривают, как они применяются на всех платформах.

10Вопросы

Вопросы и ответы.

What are the limits of AI evaluation and assurance engineering in this field?
Benchmarks may not reflect real-world use or novel capabilities. General-purpose systems have open-ended behaviour that resists complete testing.
Как проверяются результаты?
Evaluation methods are checked for reliability and relevance to deployment conditions. Independent replication and third-party audits test claims.
Значения на этой странице реальные?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
Где ещё применяется этот метод?
Observatory Каноническая страница метода перечисляет все применяющие его платформы.
ОтчётыВнести вклад

Поделитесь доказательствами с этой страницы.

Reports является ежеквартальным изданием Консорциума. Ваши знания по этой теме могут стать доказательством, кейсом или исправлением в следующем выпуске с указанием вашего авторства и публикацией по лицензии CC BY 4.0, если это ваша собственная работа.

Global Risks AllianceAI and Financial Model RiskMethods and TechnicalExponential Technology
Риски ИИ и финансовых моделей

Обратитесь в Альянс с вопросом о подверженности или капитале.

Информация и запросы открыты уже сегодня. Запрос получает номер и указывает следующий шаг; заявки, платежи, выделение вычислительных ресурсов и регистрации открываются только тогда, когда существуют их команда, условия и возможности для проверки.

Правовая информация

Карты, данные и рисунки на этом сайте приводятся для контекста и общей информации. Они не являются советом, прогнозом или предупреждением; ограничения информации изложены в Оговорках и уведомлениях о данных.