Entre datos y prejuicios: el impacto del sesgo de genero en el aprendizaje automático

Abstract

[Resumen] Gran parte de la sociedad considera la tecnología una fuente totalmente fiable, asumiendo que es neutral y que sus resultados dan lugar a realidades irrefutables. Sin embargo, la tecnología presenta sesgos capaces de amplificar y perpetuar los prejuicios sociales. En 2014, Londa Schiebinger sugirió que la investigación científica no tiene en cuenta las cuestiones de género y muchas aplicaciones, como el diagnóstico médico, los sistemas de reconocimiento facial o los asistentes de voz, discriminan sistemáticamente. A pesar de que la Unión Europea cuenta con un marco normativo para incluir la perspectiva de género en la enseñanza universitaria y que las legislaciones nacionales incluyen objetivos de igualdad de género, la introducción de la perspectiva de género en las universidades españolas es lenta. En este trabajo se presenta una experiencia implantada en la asignatura de Inteligencia Computacional para Bioinformática en el Máster en Bioinformática para Ciencias de la Salud donde se muestra que la tecnología puede llevar asociada un efecto pernicioso, el sesgo algorítmico. Esta iniciativa permitió que el alumnado reflexionase y tomase conciencia sobre cuestiones éticas relevantes para su ejercicio profesional. Cabe destacar los relevantes escenarios de discusión propuestos por las personas implicadas, así como la valoración positiva recibida.

[Abstract] A large part of society considers technology a completely reliable source, assuming it is neutral and its results lead to irrefutable realities. However, technology exhibits biases that can amplify and perpetuate social prejudices. In 2014, Londa Schiebinger suggested that scientific research does not take gender issues into account, and many applications, such as medical diagnosis, facial recognition systems, or voice assistants, systematically discriminate. Despite the European Union having a regulatory framework to incorporate a gender perspective in university education and national legislations including gender equality objectives, the introduction of the gender perspective in Spanish universities has been slow. This paper presents an initiative implemented in a Inteligencia Computacional para Bioinformática course within Bioinformática para Ciencias de la Salud master's program, demonstrating that technology can have a harmful effect—algorithmic bias. This initiative allowed students to reflect on and become aware of ethical issues relevant to their professional practice. It is worth highlighting the significant discussion scenarios proposed by those involved, as well as the positive feedback received.