Inteligencia artificial y sesgos discriminatorios: ¿es necesario un nuevo concepto de discriminación algorítmica?

Abstract

[Resumen] Los sistemas de IA incurren en sesgos discriminatorios y, en particular, en sesgos de género, que presentan diferencias respecto a los sesgos existentes con carácter general en las personas y en la sociedad. Los sesgos en la IA tienden a incrementar los sesgos generales y, en todo caso, presentan manifestaciones específicas. La cuestión que se aborda en el presente estudio es si los conceptos jurídicos vigentes sobre discriminación son suficientes para dar protección frente a tales sesgos o no, y en ese caso si se haría necesaria la creación de un nuevo concepto de discriminación algorítmica. La respuesta a la cuestión exige analizar las causas de los sesgos discriminatorios en los sistemas de IA, sus manifestaciones y las dificultades de calificación jurídica. Después se analizará lo que aporta a la cuestión el reglamento europeo de inteligencia artificial. Finalizamos con unas consideraciones que no pretenden ser conclusiones cerradas, sino propuestas para el debate.

[Resumo] Os sistemas de IA incorren en sesgos discriminatorios e, en particular, en sesgos de xénero, que difiren dos sesgos que se atopan xeralmente nos individuos e na sociedade. Os sesgos na IA tenden a aumentar os sesgos xerais e, en calquera caso, presentan manifestacións específicas. A cuestión que se aborda neste estudo é se os conceptos legais actuais de discriminación son suficientes para proporcionar protección contra tales sesgos e, de ser así, se sería necesaria a creación dun novo concepto de discriminación algorítmica. Responder a esta pregunta require analizar as causas dos sesgos discriminatorios nos sistemas de IA, as súas manifestacións e as dificultades para clasificalos legalmente. A continuación, analizaremos as achegas do regulamento europeo sobre intelixencia artificial a esta cuestión. Concluímos con algunhas consideracións que non pretenden ser conclusións definitivas, senón propostas para o debate.

[Abstract] AI systems incur discriminatory biases and, in particular, gender biases, which present differences with respect to the biases that generally exist in people and in society. Biases in AI tend to increase general biases and, in any case, present specific manifestations. The question to be addressed in this study is whether the current legal concepts on discrimination are sufficient to provide protection against such biases, or not, and in that case whether the creation of a new concept of algorithmic discrimi-nation would be necessary. The answer to the question requires analyzing the causes of discriminatory biases in AI systems, their manifestations and the difficulties of legal qualification. Afterwards, what the European Artificial Intelligence Act contributes at the issue. Finally, some considerations that are not intended to be closed, but rather proposals for debate.