Newsletter zu Künstlicher Intelligenz und Maschinellem Lernen

Banken prüfen zunehmend Möglichkeiten für den Einsatz künstlicher Intelligenz (KI), einschließlich maschinellem Lernen (ML).

Der Einsatz von KI/ML durch Banken bietet erhebliche Chancen, kann aber auch bestimmte Risiken und Herausforderungen erhöhen.

Der Ausschuss beabsichtigt, den Einsatz von KI/ML durch Banken weiter zu untersuchen, insbesondere in den Bereichen Erklärbarkeit, Governance, Resilienz und Finanzstabilität.

Banken prüfen zunehmend Möglichkeiten für den Einsatz von KI/ML. KI/ML-Technologie soll die operative Effizienz der Banken steigern und Verbesserungen im Risikomanagement ermöglichen. Während sich aus dem zunehmenden Einsatz von KI/ML in vielen Bereichen des Bankwesens erhebliche Chancen ergeben, sind mit diesen Techniken auch Risiken und Herausforderungen verbunden. Banken entwickeln derzeit Best Practices für das Risikomanagement. Angesichts der zunehmenden Verbreitung dieser Technologie und der potenziellen Risiken analysiert der Ausschuss den Einsatz von KI/ML durch Banken und die möglichen Auswirkungen auf die Bankenaufsicht.

In seinen bisherigen Diskussionen hat der Ausschuss mehrere Bereiche identifiziert, die von den Aufsichtsbehörden weiter analysiert werden müssen. In einigen Fällen können KI/ML-Modelle aufgrund ihrer höheren Komplexität schwieriger zu handhaben sein als herkömmliche Modelle. Banken streben grundsätzlich ein Maß an Transparenz bei Modelldesign, -betrieb und Interpretierbarkeit der Modellergebnisse an, das dem Risiko der unterstützten Banktätigkeit angemessen ist. Ähnliche Herausforderungen ergeben sich bei der Auslagerung der KI/ML-Modellentwicklung, da die Banken weiterhin die Verantwortung für die angemessene Sorgfaltspflicht und Aufsicht tragen. Da der KI/ML-Einsatz häufig die Nutzung großer Datensätze, die Vernetzung mit Drittanbietern und die Nutzung von Cloud-Technologien erfordert, können auch zahlreiche potenzielle Cyberrisiken entstehen. Angesichts des Volumens und der Komplexität der üblicherweise zur Unterstützung von KI/ML-Modellen verwendeten Datenquellen können diese zudem größere Herausforderungen an die Datenverwaltung hinsichtlich der Gewährleistung von Datenqualität, -relevanz, -sicherheit und -vertraulichkeit mit sich bringen. Darüber hinaus können KI/ML-Modelle (wie auch traditionelle Modelle) Verzerrungen und Ungenauigkeiten in den Daten widerspiegeln, mit denen sie trainiert werden, und bei unsachgemäßer Verwaltung potenziell zu unethischen Ergebnissen führen.

Angesichts der mit KI/ML verbundenen Herausforderungen bewerten sowohl Aufsichtsbehörden als auch Banken bestehende Risikomanagement- und Governance-Praktiken, um festzustellen, ob die Rollen und Verantwortlichkeiten für die Identifizierung und das Management von Risiken weiterhin ausreichend sind. Wie bei anderen komplexen Vorgängen und Technologien ist es wichtig, dass Banken über entsprechend qualifiziertes Personal verfügen, darunter Modellentwickler, Modellvalidatoren, Modellnutzer und unabhängige Prüfer.

Aufbauend auf den bisherigen Diskussionen über die aufsichtsrechtlichen Auswirkungen des Einsatzes von KI/ML arbeitet der Ausschuss daran, weitere Erkenntnisse zu diesem Thema zu gewinnen. Die weiteren Diskussionen werden sich auf drei Bereiche konzentrieren:

Erstens: Umfang und Grad der Verständlichkeit und Erklärung der Ergebnisse von Modellen.

Zweitens: Governance-Strukturen für KI/ML-Modelle, einschließlich Verantwortlichkeiten und Rechenschaftspflicht für KI/ML-gesteuerte Entscheidungen.

Drittens: Die potenziellen Auswirkungen einer breiteren Nutzung von KI/ML-Modellen auf die Widerstandsfähigkeit einzelner Banken und allgemeiner auf die Finanzstabilität.

Der Ausschuss ist der Ansicht, dass die rasante Entwicklung und Nutzung von KI/ML durch Banken weitere Diskussionen über die aufsichtsrechtlichen Auswirkungen rechtfertigen. Diese werden durch den kontinuierlichen Erfahrungsaustausch zwischen Aufsichtsbehörden, Branchen- und Fachexperten erleichtert.