GRA · AI와 금융 모델 리스크
공간 금융자본이 재해, 노출, 전환과 만나는 곳
금융 분야의 생성형 AI
Financial firms use large language models to draft documents, answer customers, summarise research, write code and support analysts. Generative AI produces fluent output that can be wrong, can leak data and can be manipulated through its inputs. This page sets out how generative AI risks arise in financial services, how they are measured and controlled, and who decides where it may be used.
일이 진행되는 방식.
모형 리스크 수명주기
Generative AI in finance · Model inventory · Committee 7
수명주기
- 목록등록됨
- 개발문서화됨
- 검증독립
- 승인위원회
- 이행통제
- 모니터링임계값
- 검토연간
- 폐기폐기
모델
| MD-264 PD retail | 1단계 | 12개월 | 2 | 기한 경과 |
| MD-251 LLM complaints triage | 1단계 | 절대 안 함 | 0 | 미검증 |
| MD-297 IFRS 9 staging | 1단계 | 5개월 | 2 | 승인됨 |
| MD-784 marketing propensity | 등급 3 | 6개월 | 1 | 승인됨 |
검증 범위
- 개념적 건전성
- 진행 중
- 결과 분석
- 대기 중
- 벤치마킹
- 대기 중
- 사용 제한
- 사람의 검토 필요
Fig.Model risk lifecycle: example names and illustrative values, not a record or a live system.
Generative AI in finance: how the risk develops.
사용 사례와 실패 통제. 아래 문서는 리스크가 어떻게 전개되는지, 무엇을 측정하는지, 데이터가 어디에서 오는지, 어떻게 모델링되는지, 누가 결정하는지를 설명합니다.
Fluent but wrong
Models can generate plausible statements that are false, citations that do not exist or calculations that are wrong. In finance, an error in a disclosure, advice or code change can harm customers or the firm.
입력값은 악용될 수 있습니다
문서, 이메일, 웹 페이지를 통한 프롬프트 인젝션은 모델이 지시를 무시하거나 데이터를 노출하거나 의도하지 않은 동작을 하게 만들 수 있으며, 특히 모델이 도구와 연결되어 있을 때 그러합니다.
Data leaks across boundaries
Confidential information entered into external services or retrieved into answers can reach people not entitled to it. Data handling terms and access controls decide the exposure.
버전에 따라 달라지는 동작
Provider updates change model behaviour without the firm’s code changing. Validation done on one version may not hold for the next.
What Generative AI in finance means for exposure, loss and capital.
리스크 책임자, 감독 당국이나 재무부가 요구할 익스포저, 손실, 시나리오와 자본 보기와 이들이 보고의 기준으로 삼는 체계. 구조는 감독과 보험계리 실무를 따릅니다. 값은 예시이며 가격, 등급이나 조언이 결코 아닙니다.
전이 경로
How a shock in Generative AI in finance reaches credit, market, underwriting, liquidity and operational risk, and feeds back.
측정되는 것과 그 정확도.
각 지표에는 단위, 주기, 그 뒤의 출처 종류, 값에 붙을 근거 표시가 있습니다. 값은 표시하지 않습니다. 값은 프로그램이 자체 권한으로 제공합니다.
| 지표 | 단위 | 주기 | 출처 유형 | 라벨 |
|---|---|---|---|---|
| Generative AI use cases in production | 리스크 등급별 건수 | 분기별 | Use case register | 신고됨 |
| Factual error rate on evaluation sets | share of responses | 평가당 | Internal evaluation | 추정 |
| Prompt injection test failures | count per test cycle | 시험당 | Red-team results | 관측 |
| Data loss prevention events involving AI tools | 건수 | 월별 | Security monitoring | 관측 |
| Customer complaints linked to AI-generated content | 건수 | 분기별 | 민원 데이터 | 보고됨 |
| Model version changes by providers | 건수 | 연간 | Vendor notices | 보고됨 |
근거의 출처.
이름이 명시된 공개 데이터셋과 기관 기록으로, 각각 라이선스 등급이 있습니다. 협약에 따른 출처는 그 조건에 따라서만 사용하며 결코 재게시하지 않습니다.
| 출처 | 제공하는 것 | 라이선스 등급 |
|---|---|---|
| AI의 금융안정 영향에 관한 FSB 보고서 | Vulnerabilities from AI adoption in finance | 무료, FSB 조건 |
| IOSCO report on AI use cases, risks and challenges | AI use in capital markets | 무료, IOSCO 약관 |
| NIST AI RMF generative AI profile | Risks and actions specific to generative AI | 퍼블릭 도메인 |
| OWASP Top 10 for large language model applications | LLM 애플리케이션의 일반적인 보안 리스크 | Free, CC BY-SA |
| Bank of England and FCA AI surveys | Adoption and governance of AI in UK finance | 무료, Bank of England 및 FCA 약관 |
| 결정 주체 | 질문 | 이 페이지가 제공하는 근거 |
|---|---|---|
| 이사회 및 경영위원회 | Where generative AI may be used and with what controls | Use case risk tiers and evaluation results |
| 모델 리스크 및 보안 기능 | How generative AI is validated and secured | Evaluation, red-team and monitoring evidence |
| Conduct supervisors | Whether customer-facing AI meets conduct and disclosure duties | Complaints and outcome evidence |
| 조달 및 법무 팀 | Which providers and data terms are acceptable | 계약 조건 및 데이터 처리 증빙 |
이 주제가 생산하는 산출물
- Guide to generative AI failure modes in financial services
- Method note on evaluating factual accuracy and grounding
- 프롬프트 주입과 도구 연동 어시스턴트에 관한 브리프
- Questions for boards on generative AI use cases
전문가가 묻는 것.
생성형 AI 관련 질문은 사용 사례와 그 결과에서 출발합니다.
- What is the tool being used for, and what happens if its output is wrong?
- How is the accuracy of output verified before it affects customers or decisions?
- What data is sent to the model, and could confidential information leak?
- How are prompts, versions and outputs logged for accountability?
- How dependent is the institution on a single provider, and what happens if the service changes or fails?
메커니즘과 동인.
Large language models generate text by predicting likely continuations. They can produce fluent, plausible output that is false, which matters greatly where accuracy is required. Their behaviour can change when providers update models, and they can be manipulated by crafted inputs. Their outputs are hard to test exhaustively because the space of possible inputs is vast.
Risk depends strongly on the use. Drafting an internal summary that a professional reviews carries different risk from answering customers directly or informing credit decisions. Controls therefore scale with consequence: human review, restricted data, retrieval from approved sources, testing against known cases and monitoring of outputs.
연구되는 방식과 방법의 한계.
| 방법 또는 데이터 | 표시 내용 | 한계 |
|---|---|---|
| Use-case risk assessment | Consequences of failure by application | Informal uses may not be captured |
| Evaluation against test sets | Accuracy and failure rates on known cases | Cannot cover all real inputs |
| 레드팀 운영 및 적대적 시험 | Vulnerability to manipulation | Finds some weaknesses, not all |
| Output monitoring and logging | Errors and incidents in use | 미묘한 오류는 찾아내기 어렵습니다 |
연구되는 방식과 방법이 말할 수 없는 것.
질문과 답변.
Is a large language model a model under model risk rules?
프롬프트 인젝션이란 무엇인가요?
What is grounding?
Why do language models produce false information?
Should generative AI make credit or claims decisions?
이 플랫폼은 특정 AI 제품을 평가합니까?
이 페이지에서 증거를 기여하십시오.
Reports는 컨소시엄의 분기별 간행물입니다. 이 주제에 관해 귀하가 아는 것은 다음 호에서 근거, 사례 또는 정정이 될 수 있으며, 귀하의 이름으로 표시되고, 귀하 자신의 저작인 경우 CC BY 4.0으로 발행됩니다.
- 이메일게이트웨이 GW-GRA이 페이지에서 보내기증거, 정정, 사례, 방법, 검토, 번역 또는 프로필 입력 자료. 이 페이지의 태그가 붙어 도착하므로, 이를 담당하는 편집자가 받게 됩니다.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- 보고서글로벌 리스크 얼라이언스(Global Risks Alliance)모든 기여 방법 보기기여 유형, 각각의 검토 방식, 받게 되는 크레디트, 라이선스, 그리고 절대 받지 않는 것.
개인정보, 민감한 인프라 세부 정보, 공유할 권리가 없는 자료는 절대 보내지 마십시오. 기여물은 사용 전에 검토됩니다. 기여물을 보낸다고 해서 저작자 지위나 편집 권한이 부여되지 않으며, 후원으로 조사 결과를 얻을 수 없습니다.
익스포저나 자본에 관한 질문을 얼라이언스에 가져오십시오.
정보와 문의는 오늘부터 열려 있습니다. 문의에는 참조 번호가 부여되고 다음 단계가 안내됩니다. 신청, 결제, 컴퓨팅 할당, 등록은 해당 팀, 약관, 심사 역량이 갖추어졌을 때만 열립니다.
법률 문서.
이 사이트의 지도, 데이터와 그림은 맥락과 일반 정보로 제시됩니다. 조언, 예보 또는 경보가 아니며, 정보의 한계는 면책 고지와 데이터 고지에 나와 있습니다.