Valoración del riesgo e inteligencia artificial en la ejecución penal: el caso del RisCanvi. Análisis crítico y propuestas de reforma desde el derecho constitucional español y el Reglamento (UE) 2024/1689

Abstract

[Resumen]: El presente trabajo analiza la compatibilidad del uso de instrumentos de valoración y gestión del riesgo (IVGR) en la ejecución penal española (con especial atención al protocolo RisCanvi) con las exigencias del Reglamento (UE) 2024/1689 de Inteligencia Artificial y con las garantías constitucionales aplicables a la pena privativa de libertad. El estudio parte de la caracterización teórica del modelo gerencial-actuarial de penalidad y examina el marco jurídico penitenciario español, identificando la laguna normativa que la ausencia de regulación específica genera. A continuación analiza el funcionamiento real del RisCanvi, sus sesgos documentados y las problemáticas que su uso no regulado produce. Sobre esa base, el trabajo defiende que el RisCanvi constituye un sistema de IA de alto riesgo a efectos del Reglamento, al quedar comprendido en los supuestos del Anexo III, y examina su afectación a principios constitucionales y convencionales, como la prohibición de predicción conductual arbitraria, la transparencia y explicabilidad algorítmica, la no discriminación, la seguridad jurídica y la tutela judicial efectiva, el derecho a la reinserción social y el principio de proporcionalidad y la exigencia de supervisión humana significativa. El trabajo concluye con propuestas de reforma legislativa y buenas prácticas orientadas a hacer del RisCanvi un instrumento que opere con cobertura jurídica suficiente, sea comprensible para quienes lo aplican y para quienes lo padecen, y esté sometido a control externo continuo.

[Resumo]: O presente traballo analiza a compatibilidade do uso de instrumentos de valoración e xestión do risco (IVGR) na execución penal española (con especial atención ao protocolo RisCanvi) coas esixencias do Regulamento (UE) 2024/1689 de Intelixencia Artificial e coas garantías constitucionais aplicables á pena privativa de liberdade. O estudo parte da caracterización teórica do modelo gerencial-actuarial de penalidade e examina o marco xurídico penal español, identificando a lagoa normativa que a ausencia de regulación específica xera. A continuación analiza o funcionamento real do RisCanvi, os seus rumbos documentados e as problemáticas que o seu uso non regulado produce. Sobre esa base, o traballo defende que o RisCanvi constitúe un sistema de IA de alto risco para efectos do Regulamento, ao quedar comprendido nos supostos do Anexo III, e examina a súa afectación a principios constitucionais e convencionais como a prohibición de predición condutual arbitraria, a transparencia e explicabilidade algorítmica, a non discriminación, a seguridade xurídica e a tutela xudicial efectiva, o dereito á reinserción social e o principio de proporcionalidade e a esixencia de supervisión humana significativa. O traballo conclúe con propostas de reforma lexislativa e boas prácticas orientadas a facer do RisCanvi un instrumento que opere con cobertura xurídica suficiente, sexa comprensible para quen o aplica e para quen o padece, e estea sometido a control externo continuo.

[Abstract]: This paper analyses the compatibility of the use of risk assessment and management tools (RAMTs) in the Spanish criminal justice system (with particular focus on the RisCanvi protocol) with the requirements of Regulation (EU) 2024/1689 on Artificial Intelligence and with the constitutional safeguards applicable to custodial sentences. The study begins with a theoretical characterisation of the managerial-actuarial model of punishment and examines Spanish prison law, identifying the regulatory gap created by the absence of specific regulations. It then analyses the actual operation of RisCanvi, as well as documented biases, and the problems arising from its unregulated use. On this basis, the study argues that RisCanvi constitutes a high-risk AI system for the purposes of the AI Act, as it falls within the scope of Annex III. It also examines RisCanvi’s impact on constitutional and international law requirements such as the prohibition of arbitrary behavioural prediction, algorithmic transparency and explainability, non-discrimination, legal certainty and effective judicial protection, the right to social reintegration, and the principle of proportionality and the requirement for meaningful human supervision. The paper concludes with proposals for legislative reform and best practices aimed at making RisCanvi a tool that operates with sufficient legal safeguards, but also to make it understandable for those who use it to make decisions and those who are affected by such decisions, and, finally, it seeks to advocate for the continuous external oversight of RisCanvi.