Newsletter sur l'intelligence artificielle et l'apprentissage automatique

Les banques explorent de plus en plus les possibilités d'utilisation de l'intelligence artificielle (IA), notamment l'apprentissage automatique (AA).

L'utilisation de l'IA/AA par les banques présente des opportunités importantes, mais peut également accroître certains risques et défis.

Le Comité entend poursuivre l'exploration de l'utilisation de l'IA/AA par les banques, notamment dans les domaines de l'explicabilité, de la gouvernance, de la résilience et de la stabilité financière.

Les banques explorent de plus en plus les possibilités d'utilisation de l'IA/AA. Cette technologie devrait accroître leur efficacité opérationnelle et faciliter l'amélioration de la gestion des risques. Si l'utilisation croissante de l'IA/AA dans de nombreux secteurs bancaires offre des opportunités importantes, ces techniques comportent également des risques et des défis. Les banques sont encore en train d'élaborer des pratiques exemplaires en matière de gestion des risques. Compte tenu de l'adoption croissante de cette technologie et des risques potentiels, le Comité analyse actuellement l'utilisation de l'IA/AA par les banques et ses implications potentielles pour la supervision bancaire.

Lors de ses discussions à ce jour, le Comité a identifié plusieurs domaines nécessitant une analyse continue de la part des autorités de surveillance. Dans certains cas, les modèles d'IA/AA peuvent être plus difficiles à gérer que les modèles traditionnels, car ils peuvent être plus complexes. En règle générale, les banques cherchent à maintenir un niveau de transparence dans la conception, le fonctionnement et l'interprétabilité des modèles, proportionnel au risque de l'activité bancaire prise en charge. Des défis similaires se posent lorsque le développement de modèles d'IA/ML est externalisé, car les banques conservent la responsabilité de la diligence raisonnable et de la surveillance appropriées. Le déploiement de l'IA/ML impliquant souvent l'utilisation de vastes ensembles de données, l'interconnectivité avec des tiers et le recours aux technologies cloud, il peut également créer de multiples points de cyber-risque potentiels. De plus, compte tenu du volume et de la complexité des sources de données couramment utilisées pour soutenir les modèles d'IA/ML, celles-ci peuvent présenter des défis accrus en matière de gouvernance des données, notamment en termes de qualité, de pertinence, de sécurité et de confidentialité. De plus, les modèles d'IA/ML (comme les modèles traditionnels) peuvent refléter des biais et des inexactitudes dans les données sur lesquelles ils sont entraînés, et potentiellement entraîner des résultats contraires à l'éthique s'ils ne sont pas gérés correctement.

Compte tenu des défis liés à l'IA/ML, les autorités de contrôle et les banques évaluent les pratiques existantes de gestion des risques et de gouvernance afin de déterminer si les rôles et responsabilités en matière d'identification et de gestion des risques restent suffisants. Comme pour d'autres opérations et technologies complexes, il est important que les banques disposent d'un personnel qualifié, pouvant inclure des développeurs, des validateurs et des utilisateurs de modèles, ainsi que des auditeurs indépendants.

S'appuyant sur les discussions menées jusqu'à présent sur les implications de l'utilisation de l'IA/ML pour la supervision, le Comité s'efforce d'approfondir ses connaissances sur ce sujet. Les discussions se concentreront sur trois axes :

Premièrement, la mesure dans laquelle les résultats des modèles peuvent être compris et expliqués ;

Deuxièmement, les structures de gouvernance des modèles d'IA/ML, y compris les responsabilités et l'obligation de rendre compte des décisions prises grâce à l'IA/ML ;

Troisièmement, les implications potentielles d'une utilisation plus large des modèles d'IA/ML pour la résilience des banques et, plus généralement, pour la stabilité financière.

Le Comité estime que l'évolution et l'utilisation rapides de l'IA/ML par les banques justifient des discussions plus approfondies sur les implications de l'IA/ML pour la supervision, qui seront facilitées par un partage continu d'expériences entre les superviseurs, le secteur et les experts.