RT Book, Section
T1 Transparencia algorítmica y servicios financieros
A1 Domínguez Romero, Javier
K1 Acceso solo a metadatos
K1 Transparencia algorítmica
K1 Explicabilidad
K1 Inteligencia artificial
K1 Servicios financieros
K1 Decisiones automatizadas
K1 Concesión de crédito
K1 RGPD
K1 Sesgos algorítmicos
K1 Discriminación
K1 Auditoría algorítmica
K1 Enfoque basado en el riesgo
AB Este trabajo, incluido en una obra resultante del Proyecto I+D del Ministerio DER2016-80035-P (“La modernización del contrato de servicios en el Derecho Privado: del Código Civil a los nuevos instrumentos jurídicos del Derecho contractual europeo y las directivas”), examina la exigencia de transparencia y explicabilidad de los sistemas algorítmicos aplicados a los servicios financieros, atendiendo tanto a las fases de diseño y despliegue como a su impacto en decisiones y resultados, con especial atención a la concesión automatizada de crédito. A partir de ese punto, se propone un marco para delimitar qué puede exigirse razonablemente en términos de transparencia algorítmica, identificando límites técnicos y tensiones con intereses legítimos (en particular, la protección del secreto empresarial), y articulando una respuesta jurídica proporcional a través del RGPD, con un foco aplicado en la decisión crediticia. El estudio distingue dos planos: i) en el plano del desarrollo e implementación, se pone de relieve la frecuente falta de publicidad sobre datos, modelos y resultados por incentivos económicos y estratégicos, lo que reduce el escrutinio y dificulta el control; ii) en el plano decisional, se aborda la opacidad de determinados sistemas (black-box), que impide reconstruir de forma comprensible el proceso que conduce a un resultado, complicando la detección de errores y sesgos, así como la rendición de cuentas. En el contexto financiero se contraponen ventajas y riesgos: mejora del análisis de riesgo y del credit scoring, rapidez y automatización, frente a impactos en privacidad y seguridad así como la posibilidad de discriminación directa o indirecta derivada de sesgos en los datos o de inferencias que operan como sustitutos de categorías protegidas. Desde el punto de vista jurídico, el trabajo pone el acento en la tensión entre, de un lado, las exigencias de información y control asociadas a la tutela de derechos cuando intervienen decisiones automatizadas y, de otro, los límites que derivan de la complejidad técnica y de la protección de intereses legítimos (incluido el secreto empresarial), operando el RGPD como eje de referencia para traducir esa tensión en garantías exigibles y en estándares de rendición de cuentas que permitan un control real de la decisión y de sus efectos. La principal conclusión es que la transparencia no puede plantearse como un requisito uniforme y absoluto: en determinados sistemas, una explicación completa puede ser materialmente inalcanzable o incompatible con soluciones altamente eficaces; frente a ello, se defiende una aproximación proporcional y basada en el riesgo, que combine deberes de información útiles con auditoría, trazabilidad y herramientas de explicabilidad, de modo que la protección del usuario y la prevención de sesgos no queden reducidas a un cumplimiento meramente formal, ofreciendo criterios para equilibrar innovación tecnológica y tutela efectiva de derechos.
PB Tirant lo Blanch
SN 978-84-1397-209-1
YR 2022
FD 2022-11-28
LK https://hdl.handle.net/10433/25713
UL https://hdl.handle.net/10433/25713
LA es
NO INFANTE RUIZ, F./OLIVA BLÁZQUEZ, F. (dirs.), La Modernización del Contrato de Servicios, pp. 437-456
NO Universidad Pablo de Olavide. Departamento de Derecho Privado
DS RIO
RD May 9, 2026