Inteligencia Artificial y sesgos de género

Abstract

[Resumen]: Estamos inmersos en una nueva revolución, una era de transformación impulsada por la Inteligencia Artificial (IA), que afecta significativamente al equilibrio geopolítico, la sociedad, la economía, el empleo y la educación, generando cambios constantes en estos ámbitos. La IA es una disciplina transversal que está presente en prácticamente cualquier campo, desde la Industria, la Salud o el Medioambiente hasta áreas relacionadas con las Ciencias Sociales y las Humanidades. Esta omnipresencia trae consigo innumerables oportunidades y abre nuevas perspectivas, pero también trae retos, algunos relacionados con ciertos desafíos éticos que pueden aparecer por el tratamiento de datos a gran escala que hace la tecnología. Uno de ellos es la posible aparición de sesgos de género, que pueden deberse a que el funcionamiento de los algoritmos no ha sido suficientemente examinado en este sentido, o a que el entrenamiento de los modelos se ha realizado con datos históricos cuya calidad no es la adecuada, entre otros. Además, es fundamental tener en cuenta que los sesgos no sólo están en los algoritmos, también pueden derivar de desigualdades en el acceso a la tecnología, o de falta de diversidad en los equipos de diseño, entre otros. Estos factores pueden limitar la perspectiva y comprensión holística de los problemas, perpetuando así prejuicios y desigualdades en la IA. Es imprescindible abordar con responsabilidad estos sesgos si queremos garantizar una IA ética, confiable y justa. No es menos importante fomentar la diversidad en los equipos de desarrollo y diseño de tecnologías de IA, para que se reflejen diferentes perspectivas que puedan conducir a soluciones más inclusivas y equitativas.

[Abstract]: We are immersed in a new revolution, an era of transformation driven by Artificial Intelligence (AI), which significantly affects the geopolitical balance, societal norms and behaviour, the economy, employment, and education, generating constant changes in these areas. AI is a transversal discipline that is present in practically any field, from Industry, Health, or the Environment to areas related to the Social Sciences and Humanities. This omnipresence brings with it innumerable opportunities and opens new perspectives, but it also brings challenges, some related to certain ethical issues that can arise from the large-scale processing of data of AI algorithms. One of them is the possible appearance of gender biases, which may be because the operation of the algorithms has not been sufficiently examined in this sense, or that the training of the models has been carried out with historical data whose quality is not adequate, among other things. In addition, it is essential to consider that biases can also derive from inequalities in access to technology, or from a lack of diversity in design teams. These factors can limit the holistic perspective and understanding of the problems, thus perpetuating prejudices and inequities in AI. It is essential to responsibly address these biases to guarantee ethical, trustworthy and fair AI. It is no less important to encourage diversity in the development and design teams of AI technologies so that different perspectives are reflected which can lead to more inclusive and equitable solutions.