GRA · IA e Risco de Modelos Financeiros
Finanças espaciaisOnde o capital encontra ameaça, exposição e transição
Modelos de terceiros
As empresas usam pontuações de crédito de fornecedores, modelos de fraude, modelos de catástrofe, análises de dados de mercado e modelos de base que não construíram e não podem inspecionar integralmente. A responsabilidade pelo modelos financeiros permanece com a empresa. Esta página expõe como surge o risco de modelo de terceiros, como as empresas validam o que não conseguem ver, as evidências disponíveis e quem decide.
Third party models on the record.
Modelos de terceiros: como o risco se desenvolve.
Vendor dependencies and due diligence. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Transparência limitada
Os fornecedores protegem seus métodos como segredos comerciais. As empresas podem obter documentação e relatórios de desempenho, mas não código, dados ou detalhes de treinamento, o que limita a validação.
Shared models, shared errors
Quando muitas empresas usam o mesmo modelo de um fornecedor, seus erros afetam todas ao mesmo tempo e podem mover mercados ou a oferta de crédito de forma conjunta.
Atualizações mudam o comportamento
Vendors update models and data on their own schedules. Without notice and change analysis, a firm’s validated model can change silently.
Validation by outcomes
Where internals are hidden, firms validate through benchmarking, outcome analysis and testing on their own data, which needs time and data.
Ciclo de vida do risco de modelo.
A tela que uma equipe usaria para acompanhar esta matéria: suas medidas, estados e decisões. Os nomes são exemplos e os valores são ilustrativos.
Ciclo de vida do risco de modelo
Third party models · Model inventory · Committee 8
Ciclo de vida
- Inventárioregistrado
- Desenvolverdocumentado
- Validarindependente
- Aprovarcomitê
- Implementarcontroles
- Monitoramentolimiares
- Análiseanual
- Desativardesativação
Modelos
| MD-709 PD varejo | Nível 1 | 9 meses | 1 | Em atraso |
| MD-561 LLM complaints triage | Nível 1 | nunca | 0 | Não validado |
| MD-601 IFRS 9 staging | Nível 1 | 3 months | 0 | Aprovado |
| MD-088 marketing propensity | Nível 3 | 14 meses | 1 | Aprovado |
Escopo da validação
- Solidez conceitual
- Em andamento
- Análise de resultados
- Pendente
- Comparação de desempenho
- Pendente
- Limites de uso
- revisão humana obrigatória
O que é medido e com que qualidade.
Cada indicador leva sua unidade, sua periodicidade, o tipo de fonte por trás dele e a etiqueta de evidência que um valor levaria. Nenhum valor é mostrado: um programa os fornece sob sua própria autoridade.
| Indicador | Unidade | Cadência | Tipo de fonte | Rótulo |
|---|---|---|---|---|
| Modelos de terceiros no inventário | contagem por nível | anual | Inventário de modelos | DECLARADO |
| Vendor models with full documentation | participação | anual | Registros de gestão de fornecedores | DECLARADO |
| Vendor model changes notified | contagem | por ano | Avisos de fornecedores | REPORTADO |
| Third-party models validated on own data | participação | anual | Registros de validação | DECLARADO |
| Concentration of vendor model use across firms | participação das empresas que usam os principais fornecedores | periódico | Pesquisas de supervisão | REPORTADO |
| Contracts with model change notice clauses | participação | periódico | Revisões de contratos | DECLARADO |
What third party models means for exposure, loss and capital.
As vistas de exposição, perda, cenários e capital que um responsável pelo risco, um supervisor ou um ministério das finanças pediria, com os quadros de referência perante os quais reportam. As estruturas seguem a prática de supervisão e atuarial. Os valores são ilustrativos: nunca preços, notações ou aconselhamento.
Canais de transmissão
Como um choque em modelos de terceiros chega aos riscos de crédito, de mercado, de subscrição, de liquidez e operacional, e retroalimenta o sistema.
De onde vêm as evidências.
Conjuntos de dados públicos nomeados e registros institucionais, cada um com sua classe de licença. As fontes obtidas por acordo só são usadas nos seus termos e nunca são republicadas.
| Fonte | O que oferece | Classe de licença |
|---|---|---|
| SR 11-7 guidance on vendor and third-party models | Expectativas para o uso de modelos externos | Domínio público |
| Interagency guidance on third-party relationships (United States banking agencies) | Third-party risk management expectations | Domínio público |
| Relatório do FSB sobre as implicações da IA para a estabilidade financeira | Third-party and concentration risks from AI | Gratuito, termos do FSB |
| EU AI Act obligations for providers and deployers | Divisão de deveres entre provedores e usuários de IA | Gratuito, termos de reutilização da UE |
| Vendor model documentation and performance reports | Informações que os fornecedores prestam aos usuários | Proprietário, condições por fornecedor |
Quem decide, e a que servem as evidências.
O AI and Financial risco de modelo Financeiro prepara evidências. As decisões abaixo são tomadas pelas autoridades indicadas, segundo suas próprias regras, e nunca pela plataforma.
| Quem decide | A pergunta | Evidências a que esta página serve |
|---|---|---|
| Funções de risco de modelos | Como validar e aprovar modelos de terceiros | Documentação, benchmarks e testes de resultados |
| Aquisições e jurídico | Which transparency and change terms to require | Prática contratual e expectativas regulatórias |
| Supervisores | Se o uso de modelos de fornecedores é governado adequadamente e se a concentração importa | Pesquisas e conclusões de revisão |
| Fornecedores | Que documentação e aviso fornecer | Requisitos de clientes e regulatórios |
Produtos que este tema gera
- Guia para validar modelos que as empresas não podem inspecionar
- Brief on concentration in vendor and foundation models
- Method note on change analysis for vendor updates
- Questions for procurement on model transparency terms
O que os especialistas perguntam.
The questions concern responsibility for models one did not build.
- A instituição entende como funciona o modelo de um fornecedor o suficiente para validar seu uso?
- Que documentação, evidências de testes e acesso o fornecedor oferece?
- How are vendor model updates communicated, tested and approved?
- How many institutions rely on the same vendor, and what happens if it fails or changes?
- A instituição pode abandonar ou substituir o modelo, se necessário?
Mecanismos e fatores.
Vendors often protect their models as intellectual property, limiting the transparency available to users. Institutions must still validate the model’s use for their own purposes, typically through outcome testing, benchmarking and contractual rights to documentation. Updates by the vendor can change model behaviour without the institution’s knowledge.
A concentração é uma preocupação de todo o setor. Quando muitas instituições usam o mesmo modelo de fornecedor ou o mesmo provedor de IA, uma falha, uma interrupção ou uma mudança as afeta em conjunto, gerando erros correlacionados e dependências operacionais que nenhuma instituição consegue gerenciar sozinha.
Como é estudado e onde param os métodos.
| Método ou dados | O que mostra | Limites |
|---|---|---|
| Vendor due diligence | Vendor capability, controls and transparency | Limited by vendor disclosure |
| Testes de resultados e de referência | Performance on the institution’s own data | Does not reveal internal logic |
| Análise de contratos e de saída | Rights to information, notification and exit | Rights may be hard to exercise |
| Mapeamento de concentração | Dependências compartilhadas em todo o setor | Requires aggregated information |
Como é estudado e o que os métodos não podem dizer.
- 01Engenharia de avaliação e garantia de IAValidação de modelos de aprendizado de máquina · Red teaming da IA generativa · Avaliação da equidadeAplicado aqui
- 02Probabilidade e estatísticaTestes de calibração · Estatísticas de deriva · Comparação de resultados entre gruposAplicado aqui
- 03Quantificação da incerteza e validação de modelosIntervalos de previsão para modelos de perdas · Conjuntos de modelos · Capital ou colchões para o risco de modeloAplicado aqui
- 04Inteligência artificial e aprendizado de máquinaModelos de crédito com gradient boosting · Modelos de linguagem nas operações · Detecção de anomaliasAplicado aqui
Perguntas e respostas.
Who is responsible for a vendor model’s risk?
Como uma empresa pode validar um modelo que não consegue ver?
Why does vendor concentration matter?
Does buying a model transfer its risk to the vendor?
Why is vendor concentration a stability concern?
What should an institution be able to obtain from a model vendor?
Does the platform rate vendors?
Contribua com evidências a partir desta página.
Reports é a publicação trimestral do Consortium. O que você sabe sobre este tema pode se tornar evidência, um caso ou uma correção na próxima edição, com crédito a você e publicado sob CC BY 4.0 quando for obra sua.
- E-mailPortal GW-GRAEnvie desta páginaEvidência, uma correção, um caso, um método, uma revisão, uma tradução ou uma contribuição ao perfil. Chega marcada com esta página, de modo que o editor responsável a receba.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- ReportsGlobal Risks AllianceSee every way to contributeThe contribution types, how each is reviewed, what credit you receive, the licence and what is never accepted.
Nunca envie dados pessoais, detalhes sensíveis de infraestrutura nem nada que você não tenha o direito de compartilhar. Uma contribuição é revisada antes do uso. Enviá-la não confere autoria nem direitos editoriais, e o patrocínio nunca compra uma constatação.
Apresente à Alliance uma questão de exposição ou de capital.
A informação e os pedidos estão abertos hoje. Um pedido recebe uma referência e indica o próximo passo; candidaturas, pagamentos, alocações de computação e registros só abrem quando existem a equipa, os termos e a capacidade de revisão.
Documentos jurídicos.
Os mapas, dados e números deste site são apresentados como contexto e informação geral. Não são aconselhamento, previsões nem avisos; os limites da informação estão expostos nos Avisos legais e nos Avisos sobre dados.