Desarrollo y evaluación de tecnologías de IA para combatir el discurso de odio y la discriminación en redes sociales

Abstract

[Resumen]: El aumento exponencial del discurso de odio en redes sociales representa un desafío social y tecnológico de primer orden. Su detección automática mediante inteligencia artificial es fundamental para fomentar entornos digitales más seguros, pero se enfrenta a la complejidad inherente al lenguaje, donde el contexto y la calidad de los datos son cruciales. Este trabajo aborda dicha problemática a través de una exhaustiva experimentación con diversas arquitecturas de aprendizaje automático, desde modelos clásicos hasta redes neuronales profundas y estrategias de transfer learning. Sin embargo, ante la dificultad de obtener resultados satisfactorios, la investigación se reorienta desde una mera comparación de algoritmos hacia un análisis diagnóstico, utilizando un corpus de validación externo para discernir si las limitaciones de rendimiento residen en la eficacia de los modelos o en la calidad intrínseca de los datos. El proyecto se convierte así en una reflexión crítica que demuestra cómo un análisis riguroso de los datos es un pilar fundamental para el éxito en los proyectos de procesamiento del lenguaje natural, a menudo más determinante que la propia complejidad de los modelos empleados.

[Abstract]: The exponential rise of hate speech on social media represents a major social and technological challenge. Its automatic detection using artificial intelligence is essential for fostering safer digital environments, but it faces the inherent complexity of language, where context and data quality are crucial. This project addresses this issue through exhaustive experimentation with diverse machine learning architectures, from classic models to deep neural networks and transfer learning strategies. However, faced with the difficulty of obtaining satisfactory results, the research shifts from a mere comparison of algorithms to a diagnostic analysis, using an external validation corpus to discern whether performance limitations lie in the effectiveness of the models or in the intrinsic quality of the data. The project thus becomes a critical reflection that demonstrates how a rigorous analysis of the data is a fundamental pillar for success in natural language processing projects, often being more decisive than the complexity of the models employed.