Skip to content

GRA · AI와 금융 모델 리스크

공간 금융자본이 재해, 노출, 전환과 만나는 곳

금융 분야의 생성형 AI

Financial firms use large language models to draft documents, answer customers, summarise research, write code and support analysts. Generative AI produces fluent output that can be wrong, can leak data and can be manipulated through its inputs. This page sets out how generative AI risks arise in financial services, how they are measured and controlled, and who decides where it may be used.

01캔버스

일이 진행되는 방식.

시스템 · 이 주제 주변예시

모형 리스크 수명주기

Generative AI in finance · Model inventory · Committee 7

3 validations overdueGRA · AI and Financial Model Risk

수명주기

  1. 목록등록됨
  2. 개발문서화됨
  3. 검증독립
  4. 승인위원회
  5. 이행통제
  6. 모니터링임계값
  7. 검토연간
  8. 폐기폐기

모델

MD-264 PD retail1단계12개월2기한 경과
MD-251 LLM complaints triage1단계절대 안 함0미검증
MD-297 IFRS 9 staging1단계5개월2승인됨
MD-784 marketing propensity등급 36개월1승인됨

검증 범위

개념적 건전성
진행 중
결과 분석
대기 중
벤치마킹
대기 중
사용 제한
사람의 검토 필요
Model risk lifecycle: the screen’s structure, terms and states for Generative AI in finance.Example names and illustrative values; a design, not a record or a live system.

Fig.Model risk lifecycle: example names and illustrative values, not a record or a live system.

02질문

Generative AI in finance: how the risk develops.

사용 사례와 실패 통제. 아래 문서는 리스크가 어떻게 전개되는지, 무엇을 측정하는지, 데이터가 어디에서 오는지, 어떻게 모델링되는지, 누가 결정하는지를 설명합니다.

메커니즘

Fluent but wrong

Models can generate plausible statements that are false, citations that do not exist or calculations that are wrong. In finance, an error in a disclosure, advice or code change can harm customers or the firm.

메커니즘

입력값은 악용될 수 있습니다

문서, 이메일, 웹 페이지를 통한 프롬프트 인젝션은 모델이 지시를 무시하거나 데이터를 노출하거나 의도하지 않은 동작을 하게 만들 수 있으며, 특히 모델이 도구와 연결되어 있을 때 그러합니다.

메커니즘

Data leaks across boundaries

Confidential information entered into external services or retrieved into answers can reach people not entitled to it. Data handling terms and access controls decide the exposure.

메커니즘

버전에 따라 달라지는 동작

Provider updates change model behaviour without the firm’s code changing. Validation done on one version may not hold for the next.

03노출, 손실 및 자본

What Generative AI in finance means for exposure, loss and capital.

리스크 책임자, 감독 당국이나 재무부가 요구할 익스포저, 손실, 시나리오와 자본 보기와 이들이 보고의 기준으로 삼는 체계. 구조는 감독과 보험계리 실무를 따릅니다. 값은 예시이며 가격, 등급이나 조언이 결코 아닙니다.

전이 경로

How a shock in Generative AI in finance reaches credit, market, underwriting, liquidity and operational risk, and feeds back.

Channel structure after the Basel Committee’s work on climate-related risk drivers and transmission channels; links shown are typical paths, not estimated exposures.
NGFS 기후 시나리오 · 녹색금융협의체IFRS S2 기후 관련 공시 · ISSBTCFD 권고안 · 금융안정위원회 TCFD기후 관련 금융 리스크의 효과적 관리 원칙 · 바젤은행감독위원회
04지표

측정되는 것과 그 정확도.

각 지표에는 단위, 주기, 그 뒤의 출처 종류, 값에 붙을 근거 표시가 있습니다. 값은 표시하지 않습니다. 값은 프로그램이 자체 권한으로 제공합니다.

지표단위주기출처 유형라벨
Generative AI use cases in production리스크 등급별 건수분기별Use case register신고됨
Factual error rate on evaluation setsshare of responses평가당Internal evaluation추정
Prompt injection test failurescount per test cycle시험당Red-team results관측
Data loss prevention events involving AI tools건수월별Security monitoring관측
Customer complaints linked to AI-generated content건수분기별민원 데이터보고됨
Model version changes by providers건수연간Vendor notices보고됨
05출처

근거의 출처.

이름이 명시된 공개 데이터셋과 기관 기록으로, 각각 라이선스 등급이 있습니다. 협약에 따른 출처는 그 조건에 따라서만 사용하며 결코 재게시하지 않습니다.

출처제공하는 것라이선스 등급
AI의 금융안정 영향에 관한 FSB 보고서Vulnerabilities from AI adoption in finance무료, FSB 조건
IOSCO report on AI use cases, risks and challengesAI use in capital markets무료, IOSCO 약관
NIST AI RMF generative AI profileRisks and actions specific to generative AI퍼블릭 도메인
OWASP Top 10 for large language model applicationsLLM 애플리케이션의 일반적인 보안 리스크Free, CC BY-SA
Bank of England and FCA AI surveysAdoption and governance of AI in UK finance무료, Bank of England 및 FCA 약관
06결정

누가 결정하며 근거는 무엇에 쓰이는지.

AI와 금융 모델 리스크 는 근거를 준비합니다. 아래의 결정은 명시된 당국이 각자의 규칙에 따라 내리며, 플랫폼이 내리지 않습니다.

결정 주체질문이 페이지가 제공하는 근거
이사회 및 경영위원회Where generative AI may be used and with what controlsUse case risk tiers and evaluation results
모델 리스크 및 보안 기능How generative AI is validated and securedEvaluation, red-team and monitoring evidence
Conduct supervisorsWhether customer-facing AI meets conduct and disclosure dutiesComplaints and outcome evidence
조달 및 법무 팀Which providers and data terms are acceptable계약 조건 및 데이터 처리 증빙

이 주제가 생산하는 산출물

  • Guide to generative AI failure modes in financial services
  • Method note on evaluating factual accuracy and grounding
  • 프롬프트 주입과 도구 연동 어시스턴트에 관한 브리프
  • Questions for boards on generative AI use cases
07핵심 질문

전문가가 묻는 것.

생성형 AI 관련 질문은 사용 사례와 그 결과에서 출발합니다.

  • What is the tool being used for, and what happens if its output is wrong?
  • How is the accuracy of output verified before it affects customers or decisions?
  • What data is sent to the model, and could confidential information leak?
  • How are prompts, versions and outputs logged for accountability?
  • How dependent is the institution on a single provider, and what happens if the service changes or fails?
08메커니즘

메커니즘과 동인.

Large language models generate text by predicting likely continuations. They can produce fluent, plausible output that is false, which matters greatly where accuracy is required. Their behaviour can change when providers update models, and they can be manipulated by crafted inputs. Their outputs are hard to test exhaustively because the space of possible inputs is vast.

Risk depends strongly on the use. Drafting an internal summary that a professional reviews carries different risk from answering customers directly or informing credit decisions. Controls therefore scale with consequence: human review, restricted data, retrieval from approved sources, testing against known cases and monitoring of outputs.

09방법과 데이터

연구되는 방식과 방법의 한계.

방법 또는 데이터표시 내용한계
Use-case risk assessmentConsequences of failure by applicationInformal uses may not be captured
Evaluation against test setsAccuracy and failure rates on known casesCannot cover all real inputs
레드팀 운영 및 적대적 시험Vulnerability to manipulationFinds some weaknesses, not all
Output monitoring and loggingErrors and incidents in use미묘한 오류는 찾아내기 어렵습니다
10방법

연구되는 방식과 방법이 말할 수 없는 것.

  1. 인공지능과 머신러닝그래디언트 부스팅 신용 모델 · 운영에서의 언어 모델 · 이상 탐지이곳에서의 적용
  2. AI 평가 및 보증 공학머신러닝 모델 검증 · 생성형 AI 레드 티밍 · 공정성 평가이곳에서의 적용
  3. 불확실성 정량화와 모델 검증손실 모델의 예측 구간 · 모델 앙상블 · 모델 리스크 자본 또는 완충이곳에서의 적용
  4. 확률과 통계보정 시험 · 드리프트 통계 · 집단별 결과 비교이곳에서의 적용
11질문

질문과 답변.

Is a large language model a model under model risk rules?
Supervisors increasingly treat AI tools that inform decisions as models or as part of model risk, and expect firms to govern them proportionately to their use.
프롬프트 인젝션이란 무엇인가요?
An attack in which instructions hidden in inputs, such as a document or web page, cause a language model to ignore its intended instructions or take unintended actions.
What is grounding?
Constraining a model’s answers to retrieved, authoritative sources and checking that statements are supported by them, to reduce fabricated content.
Why do language models produce false information?
Because they generate statistically likely text rather than retrieving verified facts. Without grounding and checks, they can produce plausible but incorrect output.
Should generative AI make credit or claims decisions?
That is for institutions and regulators to decide. Where the consequences for people are significant, strong human oversight and testing are widely expected.
이 플랫폼은 특정 AI 제품을 평가합니까?
No. GRA does not evaluate, rate or endorse products or vendors.
보고서기여하기

이 페이지에서 증거를 기여하십시오.

Reports는 컨소시엄의 분기별 간행물입니다. 이 주제에 관해 귀하가 아는 것은 다음 호에서 근거, 사례 또는 정정이 될 수 있으며, 귀하의 이름으로 표시되고, 귀하 자신의 저작인 경우 CC BY 4.0으로 발행됩니다.

글로벌 리스크 얼라이언스(Global Risks Alliance)AI와 금융 모델 리스크방법 및 기술기하급수 기술
AI와 금융 모델 리스크

익스포저나 자본에 관한 질문을 얼라이언스에 가져오십시오.

정보와 문의는 오늘부터 열려 있습니다. 문의에는 참조 번호가 부여되고 다음 단계가 안내됩니다. 신청, 결제, 컴퓨팅 할당, 등록은 해당 팀, 약관, 심사 역량이 갖추어졌을 때만 열립니다.