Boletín informativo sobre inteligencia artificial y aprendizaje automático

Los bancos exploran cada vez más las oportunidades para el uso de la inteligencia artificial (IA), incluido el aprendizaje automático (AA).

El uso de la IA/AA por parte de los bancos presenta importantes oportunidades, pero también puede aumentar ciertos riesgos y desafíos.

El Comité tiene la intención de seguir explorando el uso de la IA/AA por parte de los bancos, especialmente en las áreas de explicabilidad, gobernanza, resiliencia y estabilidad financiera.

Los bancos exploran cada vez más las oportunidades para el uso de la IA/AA. Se espera que la tecnología de IA/AA aumente la eficiencia operativa de los bancos y facilite mejoras en la gestión de riesgos. Si bien están surgiendo importantes oportunidades gracias al creciente uso de la IA/AA en muchas áreas de la banca, también existen riesgos y desafíos asociados a estas técnicas. Los bancos aún están desarrollando las mejores prácticas para la gestión de riesgos. Dada la creciente adopción de esta tecnología, así como los riesgos potenciales, el Comité está analizando el uso de la IA/AA por parte de los bancos y sus posibles implicaciones para la supervisión bancaria.

En sus debates hasta la fecha, el Comité ha identificado varias áreas que requieren un análisis continuo por parte de los supervisores. En algunos casos, los modelos de IA/AA pueden ser más difíciles de gestionar que los modelos tradicionales, ya que pueden ser más complejos. En general, los bancos buscan mantener un nivel de transparencia en el diseño, la operación y la interpretabilidad de los resultados de los modelos acorde con el riesgo de la actividad bancaria que respaldan. Existen desafíos similares cuando se externaliza el desarrollo de modelos de IA/ML, ya que los bancos aún mantienen la responsabilidad de la debida diligencia y la supervisión adecuadas. Dado que la implementación de IA/ML a menudo implica el uso de grandes conjuntos de datos, la interconectividad con terceros y el uso de tecnologías en la nube, también puede generar múltiples posibles riesgos cibernéticos. Además, dado el volumen y la complejidad de las fuentes de datos que se utilizan comúnmente para respaldar los modelos de IA/ML, estos pueden presentar mayores desafíos de gobernanza de datos a la hora de garantizar la calidad, la relevancia, la seguridad y la confidencialidad de los mismos. Asimismo, los modelos de IA/ML (al igual que los modelos tradicionales) pueden reflejar sesgos e imprecisiones en los datos con los que se entrenan y, potencialmente, generar resultados poco éticos si no se gestionan adecuadamente.

Dados los desafíos asociados con la IA/ML, tanto los supervisores como los bancos están evaluando las prácticas existentes de gestión de riesgos y gobernanza para determinar si las funciones y responsabilidades para identificar y gestionar los riesgos siguen siendo suficientes. Al igual que con otras operaciones y tecnologías complejas, es importante que los bancos cuenten con personal debidamente cualificado, que puede incluir desarrolladores, validadores y usuarios de modelos, así como auditores independientes.

A partir de los debates sobre las implicaciones supervisoras del uso de IA/ML, el Comité está trabajando para profundizar en este tema. Los debates se centrarán en tres áreas:

En primer lugar, el grado en que se pueden comprender y explicar los resultados de los modelos.

En segundo lugar, las estructuras de gobernanza de los modelos de IA/ML, incluidas las responsabilidades y la rendición de cuentas por las decisiones basadas en IA/ML.

En tercer lugar, las posibles implicaciones de un uso más amplio de los modelos de IA/ML para la resiliencia de los bancos y, en general, para la estabilidad financiera.

El Comité considera que la rápida evolución y el uso de IA/ML por parte de los bancos justifican un mayor debate sobre las implicaciones supervisoras, lo que se verá facilitado por el continuo intercambio de experiencias entre supervisores, expertos del sector y expertos en la materia.