Inteligencia artificial en decisiones judiciales: herramienta o riesgo para el debido proceso? Análisis desde la transparencia algorítmica y los derechos fundamentales

Abstract

El presente artículo analiza los principales desafíos jurídicos y éticos asociados al uso de sistemas de inteligencia artificial en la función jurisdiccional, con especial énfasis en la transparencia algorítmica, la igualdad, la no discriminación y la dignidad humana. Mediante una metodología cualitativa de carácter documental y dogmático-jurídico, se examinan experiencias internacionales, desarrollos normativos y estándares emergentes en materia de gobernanza de la inteligencia artificial, incluyendo el Reglamento Europeo de Inteligencia Artificial (AI Act). Se sostiene que la inteligencia artificial debe operar como una herramienta complementaria al razonamiento judicial y no como un sustituto de la valoración humana. Finalmente, se concluye que la legitimidad de su implementación en la administración de justicia depende de la existencia de mecanismos efectivos de supervisión humana, transparencia, rendición de cuentas y protección integral de los derechos fundamentales.

This article analyses the main legal and ethical challenges associated with the use of artificial intelligence systems in the judicial process, with a particular focus on algorithmic transparency, equality, non-discrimination and human dignity. Using a qualitative methodology of a documentary and legal-dogmatic nature, the article examines international experiences, regulatory developments and emerging standards regarding the governance of artificial intelligence, including the European Artificial Intelligence Act (AI Act). It argues that artificial intelligence should operate as a tool complementary to judicial reasoning and not as a substitute for human judgement. Finally, it is concluded that the legitimacy of its implementation in the administration of justice depends on the existence of effective mechanisms for human oversight, transparency, accountability and the comprehensive protection of fundamental rights.