Newsletter sull'intelligenza artificiale e l'apprendimento automatico

Le banche stanno esplorando sempre più le opportunità di utilizzo dell'intelligenza artificiale (IA), incluso l'apprendimento automatico (ML).

L'utilizzo di IA/ML da parte delle banche presenta opportunità significative, ma può anche accrescere determinati rischi e sfide.

Il Comitato intende continuare a esplorare l'utilizzo di IA/ML da parte delle banche, in particolare nelle aree di spiegabilità, governance, resilienza e stabilità finanziaria.

Le banche stanno esplorando sempre più le opportunità di utilizzo di IA/ML. Si prevede che la tecnologia IA/ML aumenterà l'efficienza operativa delle banche e faciliterà anche miglioramenti nella gestione del rischio. Sebbene emergano significative opportunità dal crescente utilizzo di IA/ML in molti settori bancari, queste tecniche presentano anche rischi e sfide. Le banche sono ancora in fase di sviluppo di best practice per la gestione del rischio. Data la crescente adozione di questa tecnologia e i potenziali rischi, il Comitato sta analizzando l'utilizzo di IA/ML da parte delle banche e le potenziali implicazioni per la vigilanza bancaria.

Nelle discussioni svoltesi finora, il Comitato ha individuato diverse aree che richiedono un'analisi continua da parte delle autorità di vigilanza. In alcuni casi, i modelli di IA/ML potrebbero essere più difficili da gestire rispetto ai modelli tradizionali, in quanto possono essere più complessi. In generale, le banche cercano di mantenere un livello di trasparenza nella progettazione, nel funzionamento e nell'interpretabilità dei risultati dei modelli commisurato al rischio dell'attività bancaria supportata. Sfide simili si presentano quando lo sviluppo di modelli di IA/ML viene esternalizzato, poiché le banche mantengono comunque la responsabilità e l'obbligo di due diligence e supervisione. Poiché l'implementazione di IA/ML comporta spesso l'utilizzo di grandi set di dati, l'interconnettività con terze parti e l'impiego di tecnologie cloud, può anche creare molteplici possibili punti di rischio informatico. Inoltre, dato il volume e la complessità delle fonti dati comunemente utilizzate per supportare i modelli di IA/ML, queste possono presentare maggiori sfide di governance dei dati nel garantire la qualità, la pertinenza, la sicurezza e la riservatezza dei dati. Inoltre, i modelli di IA/ML (come i modelli tradizionali) possono riflettere distorsioni e inesattezze nei dati su cui vengono addestrati e potenzialmente portare a risultati non etici se non gestiti correttamente.

Date le sfide associate all'IA/ML, sia le autorità di vigilanza che le banche stanno valutando le pratiche di gestione del rischio e di governance esistenti per determinare se i ruoli e le responsabilità per l'identificazione e la gestione dei rischi siano ancora sufficienti. Come per altre operazioni e tecnologie complesse, è importante che le banche dispongano di personale adeguatamente qualificato, che può includere sviluppatori di modelli, validatori di modelli, utilizzatori di modelli e revisori indipendenti.

A partire dalle discussioni finora svolte sulle implicazioni di vigilanza dell'uso di IA/ML, il Comitato sta lavorando per sviluppare ulteriori approfondimenti su questo argomento. Le discussioni future si concentreranno su tre aree:

In primo luogo, la misura in cui i risultati dei modelli possono essere compresi e spiegati.

In secondo luogo, le strutture di governance dei modelli di IA/ML, comprese le responsabilità e la rendicontazione delle decisioni basate su IA/ML.

In terzo luogo, le potenziali implicazioni di un utilizzo più ampio dei modelli di IA/ML per la resilienza delle singole banche e, più in generale, per la stabilità finanziaria.

Il Comitato ritiene che la rapida evoluzione e l'utilizzo di IA/ML da parte delle banche giustifichino ulteriori discussioni sulle implicazioni di vigilanza, che saranno facilitate dalla continua condivisione di esperienze tra supervisori, esperti del settore e della materia.