Human-Centered Machine Learning Applied to Pancreatic Cancer Treatment Selection

Abstract

[Abstract] Artificial intelligence (AI) faces challenges related to data quality, model interpretability and the need for transparency, especially in critical areas such as medicine. The Human-in-the-loop machine learning (HITL-ML) approach seeks to mitigate these limitations through expert intervention in the different phases of the learning process. This research presents several key contributions. Firstly, it provides a publication comprising an updated review of the state of the art in HITL, offering definitions, classifications and analysis of existing techniques. Secondly, it evidences that human- AI interaction, through methods such as active learning, improves the efficiency of classification models. Thirdly, it proposes strategies for building effective models in contexts with scarce data, highlighting the value of expert knowledge in the training and validation of models. Finally, it evaluates techniques that improve the transparency and explainability of AI in decision making, a crucial aspect in fields such as medicine. Some of these techniques are applied to the prescription of treatment for pancreatic cancer, where the intervention of specialists made it possible to improve accuracy and reliability, highlighting the positive impact of HITL on the development of AI systems.

[Resumen] La inteligencia artificial (IA) se enfrenta a desafíos relacionados con la calidad de los datos, la interpretabilidad de los modelos y la necesidad de transparencia, especialmente en ámbitos críticos como la medicina. El enfoque de aprendizaje automático con intervención humana (HITL-ML) busca mitigar estas limitaciones mediante la intervención de humanos en las distintas fases del proceso de aprendizaje. Esta investigación presenta varias contribuciones clave. En primer lugar, proporciona una publicación que comprende una revisión actualizada del estado del arte en HITL, ofreciendo definiciones, clasificaciones y análisis de técnicas existentes. En segundo lugar, evidencia que la interacción humano-IA, a través de métodos como el aprendizaje activo, mejora la eficiencia de los modelos de clasificación. En tercer lugar, propone estrategias para construir modelos efectivos en contextos con escasez de datos, destacando el valor del conocimiento experto en la formación y validación de los modelos. Finalmente, evalúa técnicas que mejoran la transparencia y explicabilidad de la IA en la toma de decisiones, aspecto crucial en ámbitos como la medicina. Se aplican algunas de estas técnicas a la prescripción de tratamiento en cáncer pancreático, donde la intervención de especialistas permitió mejorar la precisión y confiabilidad, resaltando el impacto positivo de HITL en el desarrollo de sistemas de IA.

[Resumo] A intelixencia artificial (IA) enfróntase a desafíos relacionados coa calidade dos datos, a interpretabilidad dos modelos e a necesidade de transparencia, especialmente en ámbitos críticos como a medicina. O enfoque de aprendizaxe automática (ML) con intervención humana (HITL) busca mitigar estas limitacións mediante a intervención experta nas distintas fases do proceso de aprendizaxe. Esta investigación presenta varias contribucións crave. En primeiro lugar, proporciona unha revisión actualizada da estado da arte en HITL, ofrecendo definicións, clasificacións e análises de técnicas existentes. En segundo lugar, demostra que a interacción humano-IA, a través de métodos como a aprendizaxe activa, mellora a eficiencia dos modelos de clasificación. En terceiro lugar, propón estratexias para construír modelos efectivos en contextos con escaseza de datos, destacando o valor do coñecemento experto na formación e validación dos modelos. Finalmente, avalía técnicas que melloran a transparencia e explicabilidad da IA na toma de decisións, aspecto crucial en ámbitos como a medicina. Aplícanse algunhas destas técnicas á prescrición de tratamento en cancro pancreático, onde a intervención de especialistas permitiu mellorar a precisión e confiabilidad, resaltando o impacto positivo de HITL no desenvolvemento de sistemas de IA.