La explicabilidad de la Inteligencia Artificial en la banca
ODF – Funcas 7 / 2024
Fecha: 6 febrero 2024
| EL DATO El 77,6% de los bancos europeos utiliza la IA con diferentes finalidades. Más de la mitad de los bancos europeos (58%) emplean modelos de aprendizaje automático en la toma de decisiones para la concesión de crédito[i]. |
El uso de la inteligencia artificial en la banca europea
La inteligencia artificial (IA) se ha convertido en una tecnología clave en la actual industria bancaria. Según los datos más recientes de la Autoridad Bancaria Europeai, el porcentaje de bancos europeos que usan dicha tecnología ha crecido ininterrumpidamente desde 2018. En 2023, el 77,6% de los bancos europeos utilizaba la IA con diferentes finalidades. El porcentaje llega al 84% si también se consideran los bancos europeos que están inmersos en diferentes fases de implementación – pruebas piloto, desarrollo efectivo o discusión. En 2018, tan solo el 50,9% de los bancos europeos la usaban. Se trata de la tecnología más implementada por las entidades bancarias europeas por detrás de la computación en la nube.
La obligatoriedad de la explicabilidad al usar la IA
El uso de la IA en la actividad bancaria empieza a encontrarse con el reto de su explicabilidad, un término que se emplea para describir la capacidad de que un modelo de IA sea entendido por los humanos. Muchos de los modelos o algoritmos en los que se basa esta tecnología son, en cierto modo, cajas negras. Son capaces de predecir un resultado con un elevado grado de acierto, pero es muy complejo explicar qué los ha llevado a dicha predicción. Los reguladores han dejado muy claro que una entidad financiera debe poder proporcionar una explicación clara de por qué a un determinado consumidor se le denegó un crédito o un préstamo. Así lo exige el Reglamento General de Protección de Datos de la Unión Europea[ii] (GDPR, por sus siglas en inglés) y la Oficina de Protección Financiera del Consumidor de Estados Unidos[iii] (CFPB, por sus siglas en inglés). Esta obligación legal se ha convertido en un desafío particular en la era de la inteligencia artificial.
¿Cómo hacer la IA más explicable en el ámbito financiero?
Lo que parece irrenunciable, porque terminaría afectando a su competitividad, es que las entidades bancarias dejen de usar la inteligencia artificial. Por tanto, la clave está en adoptar medidas para hacer el uso de la inteligencia artificial más transparente. Por un lado, se recomienda utilizar modelos que sean lo más transparente posibles. Ha surgido una rama conocida como la IA “explicable” que debería ayudar al banco a comprender mejor cómo se toman las decisiones de IA y con qué criterios. También es clave, el seguimiento y la actualización periódica de los modelos y las estrategias de toma de decisiones. No basta con desarrollar un modelo, sino que este debe de estar constantemente en fase de mejora. Además, es necesario que las entidades incorporen un equipo de científicos de datos necesario para manejar la complejidad de estos problemas.
[i] Risk Assessment Report. EBA. Diciembre 2023
https://www.eba.europa.eu/sites/default/files/2023-12/ed14314d-3194-4808-935b-afc564f748ad/Risk%20Assessment%20Report%20December%202023.pdf
[ii] The impact of the General Data Protection Regulation (GDPR) on artificial intelligence. Parlamento Europeo. Junio 2020. https://www.europarl.europa.eu/RegData/etudes/STUD/2020/641530/EPRS_STU(2020)641530_EN.pdf
[iii] CFPB Issues Guidance on Credit Denials by Lenders Using Artificial Intelligence. CFPB. 19 septiembre 2023.
https://www.consumerfinance.gov/about-us/newsroom/cfpb-issues-guidance-on-credit-denials-by-lenders-using-artificial-intelligence/