Análisis sintáctico totalmente incremental basado en redes neuronales

Abstract

[Resumen] El análisis sintáctico es una de las tareas centrales del Procesamiento del Lenguaje Natural en la que un analizador, a partir de una oración dada, produce de forma automática una representación de su estructura sintáctica. Con la popularización de los modelos Deep Learning, los analizadores del estado del arte han alcanzado un alto rendimiento sobre los principales formalismos de esta rama de estudio: el análisis de dependencias y el de constituyentes. En la actualidad, la integración de los modelos neuronales en esta tarea ha provocado que los analizadores sustenten su alto rendimiento en un procesamiento no incremental de las palabras, alejándose de comprensión humana del lenguaje que, desde la psicolingüística, siempre se ha considerado como incremental. Este trabajo explora la viabilidad del análisis sintáctico totalmente incremental basado en redes neuronales, enfrentándolo a los analizadores no incrementales del estado del arte, y profundiza en los retos de las arquitecturas neuronales modernas para asemejarse a la comprensión humana del lenguaje natural.

[Abstract] Parsing is a core task in Natural Language Processing where a parser, given a raw sentence, automatically produces a representation of its syntactic structure. Since the popularization of Deep Learning models, state-of-the-art parsers have achieved a high performance over the two most common formalisms of this field: dependency and constituency parsing. The training of neural models for this task has led the current approaches to depend on a non-incremental parsing of the sentence to maintain their high performance, deviating from human language comprehension, which has always been considered as incremental. This work explores the viability of fully incremental neural parsing towards the state-of-the-art nonincremental parsers and addresses the challenges of modern neural architectures to resemble human comprehension of natural language processing.