Skip to content

GRA · AIと金融モデル・リスク

空間金融資本がハザード、エクスポージャー、移行と出会う場所

AI と金融モデル・リスクのための AI 評価・保証エンジニアリング

AI アシュアランスとは、AI またはモデルのシステムに対して正当な確信を与える一連の実務であり、検証、テスト、レッドチーミング、モニタリング、文書化、独立したレビューを含みます。このプラットフォームでは、確立された モデルリスク 管理と、AI システム が必要とする新たなエビデンスとを結び付けます。

01登録

AI evaluation and assurance engineering for AI and financial model risk on the record.

手法の記録STEM の手法
  1. 手法AI 評価・保証工学
  2. 適用先AI と金融 モデルリスク
  3. データ入力 3 件
  4. 正式なページSTEM コモンズ
02申請

AI の評価・保証エンジニアリングがここで果たす役割。

AI の評価・保証工学は、AI システムを試験・監視し、正当化された信頼を与える方法を開発する。システムのライフサイクル全体にわたる性能、頑健性、安全性、社会的影響を扱う。人工知能と金融安定の分野では、AI の保証が、自動化されたシステムを重大な結果を伴う場面で信頼できるかどうかを決める。金融、保健、インフラに AI が組み込まれる中でのリスク管理に資する。正式な説明は STEM Commons.

Validation of machine learning models

概念的な健全性、 データ品質、結果分析、安定性テストを、内部ロジックが読み取りにくいモデル向けに適応させています。

生成AIのレッドチーミング

Adversarial tests probe language model applications for prompt injection, data leakage and harmful output before and after deployment.

Fairness assessment

Outcome rates and error rates are compared across groups, with the chosen fairness criterion and its legal basis documented for review.

03エクスポージャー、損失、資本

エクスポージャー、損失、資本にとっての意味。

リスク責任者、監督当局、財務省が求めるエクスポージャー、損失、シナリオ、資本のビューと、それらが報告の根拠とする枠組み。構造は監督実務とアクチュアリー実務に従います。値は例示であり、価格、格付け、助言では決してありません。

波及経路

How a shock in AI evaluation and assurance engineering for AI and financial model risk reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
NGFS 気候シナリオ · 気候変動リスク等に係る金融当局ネットワークIFRS S2 気候関連開示 · ISSBTCFD 提言 · 金融安定理事会 TCFD気候関連金融リスクの実効的な管理のための諸原則 · バーゼル銀行監督委員会
04データ

手法が使用するもの。

Datasets and records used by AI evaluation and assurance engineering on this platform, with the role each plays and the label its values carry. Sources are listed in the source register.

データ役割ラベル
検証報告書保証エビデンス申告済み
レッドチーム演習の結果Adversarial weaknesses観測
成果データ実環境での性能観測
05プロセス

プロセスの進め方。

Process explorer · Process

AI evaluation and assurance engineering for AI and financial model risk: AI risk management (NIST)

9 steps5 stages1 gate

プロセス

AI evaluation and assurance engineering for AI and financial model risk: AI risk management (NIST)

AI RMF コアには、GOVERN、MAP、MEASURE、MANAGE の 4 つの機能があり、GOVERN は横断的である。図に示した順序は一般的な読み方の一例であり、チェックリストではない。

  1. 01 ガバナンス

    1. 01GOVERN: 方針、役割、説明責任ステップ · MRM 委員会GOVERN は分野横断的な機能である。AI リスク管理の全体に浸透し、他の機能を可能にする。
  2. 02 Map

    1. 02MAP:文脈と意図された用途データセットMAP 機能は、意図された目的や人々への影響を含め、AI システムに関連するリスクを捉えるための文脈を確立する。
  3. 03 測定

    1. 03MEASURE:信頼性に関わる特性を評価するモデル化するAI システム は、信頼性に関わる特性について評価されます。展開前に、また運用中も定期的にテストされるべきです。
    2. 04MEASURE: 特定されたリスクを経時的に追跡するモデル化する特定済みの AI リスクを、想定外のリスクや創発的なリスクも含めて、時間の経過に沿って追跡する仕組みが整備されています。
  4. 04 管理

    1. 05MANAGE: リスクを処理するステップリスク対応 計画は、インシデントへの対応、インシデントからの復旧、インシデントに関するコミュニケーションを対象とします。リソースは、特定され測定されたリスクに配分されます。
    2. 06進めるか否か (MANAGE 1.1)ゲート · MRM 委員会システムが目的と目標を満たしているか、また先に進むかどうかを判断する。この枠組みはしきい値を定めていない。
    3. 07展開の判断決定 · MRM 委員会システムを所有する組織が、展開するかどうか、またどのような条件で展開するかを決定します。
    4. 08展開後のモニタリングとインシデントモデル化する展開後モニタリング計画が実施されます。インシデントとエラーは、影響を受けるコミュニティを含む関係する AI アクターと共有されます。
  5. 05 記録

    1. 09AI システムの一覧データセットGOVERN 1.6 は、AI システムの一覧を作成する仕組みを求めている。モデルカードは一般的な慣行であるが、同フレームワークには明記されていない。

発行機関が公表した外部の標準または手法の中立的な概要です。運用の記録ではありません。Nexus は、示された手順のいずれも実施、認証、承認しません。ゲートや決定は、出典に記載された当事者に属します。これらの行動は、必ずしも順序立った手順ではありません。EU AI Act は、このフローには含まれていません。

06検証

結果の確認方法。

評価方法は、信頼性と、展開条件への関連性について確認されます。独立した再現と第三者監査によって、主張が検証されます。

確認実施方法
独立性保証は、開発から独立した者によって行われます
範囲の明示保証が対象とした範囲と除外した範囲が記録される
変更後に繰り返すモデルまたはバージョンの重要な変更は、保証の再実施を要する

ベンチマークは、実際の利用や新たな能力を反映していない場合があります。汎用システムは挙動が限定されず、完全なテストが困難です。

08スチュワードシップ

手法を維持する者。

人工知能と自律システム は、コンソーシアムの AI 評価・保証エンジニアリングのスチュワードを務め、各プラットフォームでの適用方法をレビューする。

10質問

質問と回答。

この分野における AI の評価と保証エンジニアリングには、どのような限界がありますか。
ベンチマークは、実際の利用や新たな能力を反映していない場合があります。汎用システムは挙動が限定されず、完全なテストが困難です。
結果はどのように確認されますか?
評価方法は、信頼性と、展開条件への関連性について確認されます。独立した再現と第三者監査によって、主張が検証されます。
このページの値は実際のものですか?
The data names, roles and checks are real descriptions of practice. The canvas shows a design of the method’s use, not a run; no result is reported here.
この手法は他にどこで適用されていますか?
認められない利用の全容は 正式な手法のページ には、それを適用するすべてのプラットフォームが掲載されています。
報告書貢献する

このページからエビデンスを提供する。

Reports はコンソーシアムの季刊刊行物です。このテーマについてあなたが知っていることは、次号でエビデンス、事例、または訂正となり得ます。あなたの名前を記し、あなた自身の著作物である場合は CC BY 4.0 で公表されます。

グローバル・リスク・アライアンス(Global Risks Alliance)AIと金融モデル・リスク手法と技術指数関数的テクノロジー
AIと金融モデル・リスク

エクスポージャーまたは資本に関する問いをアライアンスに持ち込む。

情報提供と問い合わせは本日から受け付けています。問い合わせには参照番号が付き、次の手順が示されます。申請、支払い、計算資源の割り当て、登録は、担当チーム、規約、審査体制が整ってから開始します。