Responsible Machine Learning in Resource-Constrained Environments

Abstract

[Resumo]: A rápida adopción da Intelixencia Artificial (IA) e da Aprendizaxe Automática (ML) en dominios críticos intensificou a necesidade de sistemas que non só sexan precisos, senón tamén que estean aliñados con requisitos éticos, sociais e operativos. Esta tese aborda este desafío desde a perspectiva da Aprendizaxe Automática Responsable, centrándose no desenvolvemento de métodos que teñen en conta simultaneamente a explicabilidade, a equidade, a robustez e a sustentabilidade en contornas realistas con restricións de recursos. En lugar de tratar estas propiedades como consideración independentes ou posteriores ao desenvolvemento (post hoc), a tese adopta unha perspectiva unificada na que a responsabilidade emerxe da interacción entre os datos, os modelos, as metodoloxías de avaliación e as limitacións naturais dos casos de uso reais da IA, moitas veces non consideradas nos contextos de investigación. As contribucións deste traballo estrutúranse en dous eixos complementarios. A Parte I da tese céntrase en mellorar a responsabilidade mediante o deseño de modelos e enfoques centrados nos datos. Neste contexto, propoñemos novas metodoloxías para a aprendizaxe a partir de datos dispersos, ruidosos e parcialmente etiquetados, con especial énfase en datos diádicos e na aprendizaxe Positive-Unlabelled (PU). Estas técnicas aplícanse a dous dominios representativos: os sistemas de recomendación e a priorización de xenes. Nos Sistemas de Recomendación (RS), con foco na transparencia personalizada, o noso marco BRIE emprega mostraxe intelixente de datos de adestramento e optimización do ranking por pares para mellorar a calidade das explicacións baseadas en imaxes, aumentando ao mesmo tempo a eficiencia computacional na súa xeración; con BRIE demostramos que os modelos interpretables poden ser tanto efectivos como eficientes en recursos mesmo baixo a complexidade multidimensional dos datos diádicos. No dominio da bioinformática, en particular na priorización de novos xenes relacionados coa Restrición Dietética, os nosos novos métodos rbaseados en aprendizaxe PU e selección de características melloran a calidade dos rankings de xenes mantendo a interpretabilidade para os expertos, demostrando que as propiedades de responsabilidade tamén poden introducirse en escenarios con coñecemento altamente especializado. A segunda parte da tese aborda a avaliación como un compoñente central pero pouco explorado da Aprendizaxe Automática Responsable. Introdúcese un marco de avaliación multiobxectivo e guiado por requisitos que enfatiza a necesidade de definir criterios de responsabilidade antes do desenvolvemento do modelo. Ademais, proponse un protocolo para avaliar a sustentabilidade a longo prazo dos sistemas de ML, capturando a relación dinámica entre rendemento e consumo de recursos a medida que escala o volume de datos. Finalmente, a tese identifica unha fonte de sesgo previamente non considerada en tarefas de regresión diádica, denominada sesgo de excentricidade, e introduce unha nova métrica (EAUC) para cuantificalo. Con esta tese doutoral, demostramos que a Aprendizaxe Automática Responsable non está inherentemente en conflito coa eficiencia ou o rendemento. Pola contra, cando se incorpora explicitamente no deseño e na avaliación do sistema, os obxectivos de responsabilidade poden guiar o desenvolvemento de modelos máis robustos, interpretables e sostibles. En última instancia, con este traballo ábrese o camino desde os principios abstractos da IA Responsable cara a solucións concretas e viables en contornas reais.

[Resumen]: La rápida adopción de la Inteligencia Artificial (IA) y el Aprendizaje Automático (ML) en dominios críticos ha intensificado la necesidad de sistemas que no solo sean precisos, sino que también estén alineados con requisitos éticos, sociales y operativos. Esta tesis aborda este desafío desde la perspectiva del Aprendizaje Automático Responsable, centrándose en el desarrollo de métodos que consideran simultáneamente la explicabilidad, la equidad, la robustez y la sostenibilidad en entornos realistas con restricciones de recursos. En lugar de tratar estas propiedades como consideraciones independientes o posteriores al desarrollo (post hoc), la tesis adopta una perspectiva unificada en la que la responsabilidad emerge de la interacción entre los datos, los modelos, las metodologías de evaluación y las limitaciones naturales de los casos de uso reales de la IA, a menudo no consideradas en los entornos de investigación. Las contribuciones de este trabajo se estructuran en dos ejes complementarios. La Parte I de la tesis se centra en mejorar la responsabilidad mediante el diseño de modelos y enfoques centrados en los datos. En este contexto, proponemos nuevas metodologías para el aprendizaje a partir de datos dispersos, ruidosos y parcialmente etiquetados, con especial énfasis en datos diádicos y el aprendizaje Positive-Unlabelled (PU). Estas técnicas se aplican a dos dominios representativos: los sistemas de recomendación y la priorización de genes. En Sistemas de Recomendación (RS), con foco en la transparencia personalizada, nuestro marco BRIE emplea muestreo inteligente de datos de entrenamiento y optimización del ranking por pares para mejorar la calidad de las explicaciones basadas en imágenes, aumentando al mismo tiempo la eficiencia computacional en su generación; con BRIE demostramos que los modelos interpretables pueden ser tanto efectivos como eficientes en recursos incluso bajo la complejidad multidimensional de los datos diádicos. En el dominio de la bioinformática, en particular en la priorización de nuevos genes relacionados con la Restricción Dietética, nuestros nuevos métodos basados en aprendizaje PU y selección de características mejoran la calidad de los rankings de genes manteniendo la interpretabilidad para los expertos, demostrando que las propiedades de responsabilidad también pueden introducirse en escenarios con conocimiento altamente especializado. La segunda parte de la tesis aborda la evaluación como un componente central pero poco explorado del Aprendizaje Automático Responsable. Se introduce un marco de evaluación multiobjetivo y guiado por requisitos que enfatiza la necesidad de definir criterios de responsabilidad antes del desarrollo del modelo. Además, se propone un protocolo para evaluar la sostenibilidad a largo plazo de los sistemas de ML, capturando la relación dinámica entre rendimiento y consumo de recursos a medida que escala el volumen de datos. Finalmente, la tesis identifica una fuente de sesgo previamente no considerada en tareas de regresión diádica, denominada sesgo de excentricidad, e introduce una nueva métrica (EAUC) para cuantificarlo. Con esta tesis doctoral, demostramos que el Aprendizaje Automático Responsable no está inherentemente en conflicto con la eficiencia o el rendimiento. Por el contrario, cuando se incorpora explícitamente en el diseño y la evaluación del sistema, los objetivos de responsabilidad pueden guiar el desarrollo de modelos más robustos, interpretables y sostenibles. En última instancia, con este trabajo se abre el camino desde los principios abstractos de la IA Responsable hacia soluciones concretas y viables en entornos reales.

[Abstract]: The rapid adoption of Artificial Intelligence (AI) and Machine Learning (ML) across critical domains has intensified the need for systems that are not only accurate but also aligned with ethical, societal, and operational requirements. This tesis addresses this challenge through the lens of Responsible Machine Learning, focusing on developing methods that simultaneously account for explainability, fairness,robustness, and sustainability in realistic resource-constrained environments. Rather than treating these properties as independent or post hoc considerations, the tesis adopts a unified perspective in which responsibility emerges from the interaction among data, models, evaluation methodologies, and the natural limitations of realworld AI use cases, often unaccounted for in research settings. The contributions of this work are structured along two complementary axes. Part I of this thesis focuses on enhancing responsibility through model design and data-centric approaches. In this context, we propose novel methodologies for learning from sparse, noisy, and partially labelled data, with particular emphasis on dyadic data and Positive-Unlabelled (PU) Learning. These techniques are applied to two representative domains: recommender systems and gene prioritization. In Recommender Systems (RS), focusing on personalized transparency, our framework BRIE employs smart training data sampling and pairwise ranking optimizations to improve image-based explanation rankings while increasing the computational efficiency of serving explanations; with BRIE, we prove that interpretable models can be both effective and resource-efficient even under the multi-dimensional complexity of dyadic data. In the bioinformatics domain, particularly on the prioritization of novel genes related with Dietary Restriction, our novel PU Learning and Feature Selectionbased methods improve the quality of gene rankings while maintaining interpretability for experts, proving that responsibility properties can also be introduced in scenarios with highly specialized knowledge. The second part of the thesis addresses evaluation as a central yet underexplored component of Responsible ML. It introduces a multi-objective, requirement-driven evaluation framework that emphasizes the need to define responsibility criterio prior to model development. Additionally, a protocol for assessing the long-term sustainability of ML systems is proposed, capturing the dynamic relationship between performance and resource consumption as data scales. Finally, the thesis identifies a previously overlooked source of unfairness in dyadic regression tasks, termed eccentricity bias, and introduces a novel metric (EAUC) to quantify it. With this Doctoral Thesis, we prove that Responsible ML is not inherently in conflict with efficiency or performance. On the contrary, when explicitly incorporated into the system’s design and evaluation, responsibility objectives can guide the development of models that are more robust, interpretable, and sustainable. Ultimately, with this work, we pave the way from abstract principles of Responsible AI to concrete, feasible solutions for real-world environments.