Del riesgo algorítmico al daño irreversible. Inteligencia artificial de alto riesgo, posición de garante y conflictos armados

Abstract

El presente artículo analiza los desafíos jurídicos derivados del empleo de sistemas de inteligencia artificial de alto riesgo en contextos de conflicto armado, a partir de la teoría jurídica del riesgo, la posición de garante, el Derecho Internacional Humanitario y el Derecho Internacional de los Derechos Humanos. El estudio sostiene que la identificación de riesgos algorítmicos previsibles genera deberes jurídicos de prevención orientados a evitar su transformación en daños incompatibles con los principios de humanidad, distinción, proporcionalidad y precaución. Asimismo, se analiza la relevancia de la dignidad humana, el control humano significativo y la posición de garante como categorías jurídicas aplicables a tecnologías emergentes. Se concluye que los marcos normativos vigentes proporcionan herramientas suficientes para abordar los desafíos derivados de la inteligencia artificial en los conflictos armados y que los Estados tienen la responsabilidad de adoptar medidas regulatorias orientadas a prevenir riesgos y proteger los derechos fundamentales.This article examines the legal challenges arising from the use of high-risk artificial intelligence systems in armed conflict scenarios through the lens of legal risk theory, the guarantor position doctrine, International Humanitarian Law and International Human Rights Law. Using a qualitative, documentary and doctrinal methodology, the study analyses the concepts of risk, threat, danger and harm, as well as their implications for military decision-making supported by algorithmic systems. The article argues that the identification of foreseeable algorithmic risks generates legal duties of prevention aimed at avoiding their transformation into harms incompatible with the principles of humanity, distinction, proportionality and precaution. It further explores the relevance of human dignity, meaningful human control and the guarantor position as legal categories applicable to emerging technologies. The study concludes that existing legal frameworks provide sufficient tools to address the challenges posed by artificial intelligence in armed conflicts and that States have a responsibility to adopt regulatory measures aimed at preventing risks and protecting fundamental rights.