Nieuwsbrief over kunstmatige intelligentie en machinaal leren

Banken onderzoeken in toenemende mate de mogelijkheden om kunstmatige intelligentie (AI), waaronder machine learning (ML), te gebruiken.

Hoewel het gebruik van AI/ML door banken aanzienlijke kansen biedt, kan het ook bepaalde risico's en uitdagingen vergroten.

De commissie zal het gebruik van AI/ML door banken blijven onderzoeken, met name op het gebied van uitlegbaarheid, governance, veerkracht en financiële stabiliteit.

Banken onderzoeken in toenemende mate de mogelijkheden om AI/ML te gebruiken. Verwacht wordt dat AI/ML-technologieën de operationele efficiëntie van banken zullen verbeteren en een beter risicomanagement zullen faciliteren. Het toenemende gebruik van AI/ML op veel gebieden van de bankactiviteiten biedt aanzienlijke kansen, maar deze technologieën brengen ook risico's en uitdagingen met zich mee. Banken zijn nog steeds bezig met het ontwikkelen van best practices voor risicomanagement. Gezien de groeiende acceptatie van deze technologie en de potentiële risico's analyseert de commissie het gebruik van AI/ML door banken en de mogelijke gevolgen voor het bankentoezicht.

In haar besprekingen tot nu toe heeft de commissie verschillende gebieden geïdentificeerd die voortdurende analyse door toezichthouders vereisen. AI/ML-modellen kunnen complexer zijn dan traditionele modellen en kunnen moeilijk te beheren zijn. Over het algemeen streven banken ernaar een niveau van transparantie te handhaven in modelontwerp, -uitvoering en -interpreteerbaarheid van modelresultaten dat in verhouding staat tot het risico van de bankactiviteiten die ze ondersteunen. Soortgelijke uitdagingen doen zich voor bij het uitbesteden van de ontwikkeling van AI/ML-modellen, aangezien banken verantwoordelijk en aansprakelijk blijven voor passende due diligence en toezicht. AI/ML-implementaties gaan vaak gepaard met het gebruik van grote datasets, interconnecties met derde partijen en cloudtechnologieën, wat kan leiden tot meerdere potentiële cyberrisico's. Gezien de omvang en complexiteit van de databronnen die doorgaans worden gebruikt ter ondersteuning van AI/ML-modellen, kunnen data governance-uitdagingen bovendien aanzienlijk zijn om de datakwaliteit, relevantie, beveiliging en vertrouwelijkheid te waarborgen. Bovendien kunnen AI/ML-modellen (net als traditionele modellen) vooroordelen en onnauwkeurigheden vertonen in de data die wordt gebruikt om ze te trainen, wat kan leiden tot onethische resultaten als het niet goed wordt beheerd.

Gezien de uitdagingen die gepaard gaan met AI/ML evalueren zowel toezichthouders als banken bestaande risicomanagement- en governancepraktijken om te bepalen of de rollen en verantwoordelijkheden voor het identificeren en beheren van risico's voldoende zijn. Zoals bij elke complexe activiteit of technologie is het cruciaal dat banken over personeel met de juiste vaardigheden beschikken. Dit omvat modelontwikkelaars, modelvalidatoren, modelgebruikers en onafhankelijke accountants.

Voortbouwend op eerdere discussies over de toezichtimplicaties van het gebruik van AI/ML, zet de commissie zich in voor verdere kennisontwikkeling over dit onderwerp. Toekomstige discussies zullen zich richten op drie gebieden:

Ten eerste, de mate waarin modelresultaten kunnen worden begrepen en verklaard;

Ten tweede, governancestructuren voor AI/ML-modellen (inclusief verantwoordelijkheid en verantwoording voor op AI/ML gebaseerde beslissingen);

Ten derde, de potentiële impact van een breder gebruik van AI/ML-modellen op de veerkracht van individuele banken en uiteindelijk op de financiële stabiliteit.

De commissie is van mening dat de snelle evolutie en het gebruik van AI/ML door banken verdere discussie over de toezichtimplicaties vereist. Dit zou worden vergemakkelijkt door voortdurende uitwisseling van ervaringen tussen toezichthouders, deelnemers uit de sector en experts.