La singularidad jurídica y el retorno del filósofo-rey: potenciales consecuencias para el imperio de la ley y la democracia

Abstract

[Resumen]: La aplicación del machine learning al derecho transformaría los actuales ordenamientos jurídicos basados en el imperio de la ley. El resultado sería la ≪singularidad jurídica≫: un orden basado en normas ≪adaptadas con precisión, especificando el comportamiento exacto que se permite en cada situación≫. Según sus proponentes, esto promovería la justicia material y la certeza jurídica. A través de la comparación con la propuesta del filósofo-rey desarrollada por Platón, el presente trabajo trata de defender que, incluso aunque se promoviesen los valores indicados, la opacidad inherente a los sistemas de machine learning dificultaría el escrutinio público del orden normativo resultante, afectando a su legitimidad. Por tanto, las comunidades políticas actuales deben deliberar sobre los beneficios e inconvenientes de la singularidad jurídica y reflexionar acerca de la aplicación de la inteligencia artificial en el ámbito jurídico.

[Abstract]: Implementing machine learning in law would transform current legal orders, based on the rule of law. The result would be «legal singularity»: an order based on «precisely tailored laws, specifying the exact behavior that is permitted in every situation». According to its pro-ponents, this would promote justice and legal certainty. Through a comparison with the Platonic proposal of the philosopher-king, this article defends that, even if the aforementioned values were to be promoted, the inher-ent opacity of machine learning systems would hamper the public scrutiny of the resulting normative order, af-fecting its legitimacy. Thus, current political communities must deliberate about the benefits and drawbacks of legal singularity and must reflect on the use of artificial intelli-gence in law.