Boletim informativo sobre inteligência artificial e aprendizagem automática

Os bancos estão a explorar cada vez mais oportunidades de utilização de inteligência artificial (IA), incluindo a aprendizagem automática (ML).

A utilização de IA/ML pelos bancos apresenta oportunidades significativas, mas também pode aumentar certos riscos e desafios.

O Comité pretende continuar a explorar a utilização da IA/ML pelos bancos, especialmente nas áreas da explicabilidade, governação, resiliência e estabilidade financeira.

Os bancos estão a explorar cada vez mais oportunidades de utilização de IA/ML. Espera-se que a tecnologia de IA/ML aumente a eficiência operacional dos bancos e também facilite melhorias na gestão de riscos. Embora estejam a surgir oportunidades significativas com a crescente utilização da IA/ML em muitas áreas do setor bancário, também existem riscos e desafios associados a estas técnicas. Os bancos ainda estão em processo de desenvolvimento de melhores práticas para a gestão de riscos. Dada a crescente adopção desta tecnologia, bem como os potenciais riscos, o Comité está a analisar a utilização de IA/ML pelos bancos e as suas potenciais implicações para a supervisão bancária.

Nas suas discussões até à data, o Comité identificou diversas áreas para análise contínua pelos supervisores. Em alguns casos, os modelos de IA/ML podem ser mais difíceis de gerir do que os modelos tradicionais, uma vez que podem ser mais complexos. De um modo geral, os bancos procuram manter um nível de transparência no desenho, na operação e na interpretabilidade dos resultados dos modelos, compatível com o risco da atividade bancária suportada. Desafios semelhantes existem quando o desenvolvimento de modelos de IA/ML é externalizado, dado que os bancos ainda mantêm a responsabilidade pela devida diligência e supervisão adequadas. Uma vez que a implementação de IA/ML envolve frequentemente a utilização de grandes conjuntos de dados, a interconectividade com terceiros e a utilização de tecnologias na nuvem, também pode criar múltiplos pontos possíveis de risco cibernético. Além disso, dado o volume e a complexidade das fontes de dados comummente utilizadas para suportar os modelos de IA/ML, estas podem apresentar maiores desafios de governação de dados para garantir a qualidade, a relevância, a segurança e a confidencialidade dos dados. Ademais, os modelos de IA/ML (bem como os modelos tradicionais) podem refletir enviesamentos e imprecisões nos dados com que são treinados e, potencialmente, resultar em resultados pouco éticos se não forem geridos adequadamente.

Face aos desafios associados à IA/ML, tanto os supervisores como os bancos estão a avaliar as práticas existentes de gestão de riscos e de governação para determinar se as funções e responsabilidades para identificar e gerir os riscos continuam a ser suficientes. Tal como acontece com outras operações e tecnologias complexas, é importante que os bancos disponham de pessoal devidamente qualificado, que pode incluir os desenvolvedores, validadores e utilizadores de modelos e auditores independentes.

Com base nas discussões sobre as implicações da utilização de IA/ML para a supervisão até à data, o Comité está a trabalhar para desenvolver novos conhecimentos sobre este tema. As discussões contínuas irão focar-se em três áreas:

Em primeiro lugar, a extensão e o grau em que os resultados dos modelos podem ser compreendidos e explicados.

Em segundo lugar, as estruturas de governação dos modelos de IA/ML, incluindo as responsabilidades e a prestação de contas pelas decisões baseadas em IA/ML.

Em terceiro lugar, as potenciais implicações da utilização mais ampla de modelos de IA/ML para a resiliência dos bancos individuais e, de forma mais ampla, para a estabilidade financeira.

O Comité acredita que a rápida evolução e utilização de IA/ML pelos bancos justificam mais discussões sobre as implicações para a supervisão, o que será facilitado pela partilha contínua de experiências entre supervisores, especialistas do setor e especialistas no assunto.