Transparencia algorítmica y servicios financieros

Abstract

Este trabajo, incluido en una obra resultante del Proyecto I+D del Ministerio DER2016-80035-P (“La modernización del contrato de servicios en el Derecho Privado: del Código Civil a los nuevos instrumentos jurídicos del Derecho contractual europeo y las directivas”), examina la exigencia de transparencia y explicabilidad de los sistemas algorítmicos aplicados a los servicios financieros, atendiendo tanto a las fases de diseño y despliegue como a su impacto en decisiones y resultados, con especial atención a la concesión automatizada de crédito. A partir de ese punto, se propone un marco para delimitar qué puede exigirse razonablemente en términos de transparencia algorítmica, identificando límites técnicos y tensiones con intereses legítimos (en particular, la protección del secreto empresarial), y articulando una respuesta jurídica proporcional a través del RGPD, con un foco aplicado en la decisión crediticia. El estudio distingue dos planos: i) en el plano del desarrollo e implementación, se pone de relieve la frecuente falta de publicidad sobre datos, modelos y resultados por incentivos económicos y estratégicos, lo que reduce el escrutinio y dificulta el control; ii) en el plano decisional, se aborda la opacidad de determinados sistemas (black-box), que impide reconstruir de forma comprensible el proceso que conduce a un resultado, complicando la detección de errores y sesgos, así como la rendición de cuentas. En el contexto financiero se contraponen ventajas y riesgos: mejora del análisis de riesgo y del credit scoring, rapidez y automatización, frente a impactos en privacidad y seguridad así como la posibilidad de discriminación directa o indirecta derivada de sesgos en los datos o de inferencias que operan como sustitutos de categorías protegidas. Desde el punto de vista jurídico, el trabajo pone el acento en la tensión entre, de un lado, las exigencias de información y control asociadas a la tutela de derechos cuando intervienen decisiones automatizadas y, de otro, los límites que derivan de la complejidad técnica y de la protección de intereses legítimos (incluido el secreto empresarial), operando el RGPD como eje de referencia para traducir esa tensión en garantías exigibles y en estándares de rendición de cuentas que permitan un control real de la decisión y de sus efectos. La principal conclusión es que la transparencia no puede plantearse como un requisito uniforme y absoluto: en determinados sistemas, una explicación completa puede ser materialmente inalcanzable o incompatible con soluciones altamente eficaces; frente a ello, se defiende una aproximación proporcional y basada en el riesgo, que combine deberes de información útiles con auditoría, trazabilidad y herramientas de explicabilidad, de modo que la protección del usuario y la prevención de sesgos no queden reducidas a un cumplimiento meramente formal, ofreciendo criterios para equilibrar innovación tecnológica y tutela efectiva de derechos.