Generating Commonsense Explanations with Answer Set Programming

Abstract

[Abstract] In this thesis, we explore the notion of commonsense explanation in the context of Artificial Intelligence by extending the formalism of Answer Set Programming (ASP) with formal annotations. To this aim, we define the concept of support graphs to account for the multiple explanations for each model of a logic program, andwe provide different operations to filter irrelevant information from the graphs. These definitions are implemented in a tool called xclingo that additionally allows the specification of natural language, commonsense explanations. xclingo obtains the support graphs via an ASP meta-encoding that is proved to be correct. We study different examples in the context of ASP such as planning, problem-solving, or diagnosis, among others, and we analyze the effect of alternative annotations for the same scenario, illustrating the need for explanation design. Additionally, we address the generation of non-technical explanations of Machine Learning models for real users in a pair of problems from other disciplines (Medicine and Pharmacy), covering both symbolic and sub-symbolic learning algorithms.

[Resumen] En esta tesis, exploramos la noción de “commonsense explanation” en el contexto de la Inteligencia Artificial mediante la extensión del formalismo Answer Set Programming (ASP) con anotaciones formales. Con este objetivo, definimos el concepto de “support graphs” para obtener múltiples explicaciones de cada modelo de un programa lógico, y proporcionamos diferentes operaciones para filtrar la información irrelevante de estos grafos. Dichas definiciones son implementadas por una herramienta llamada xclingo que adicionalmente permite la especificación de explicaciones “commonsense” en lenguaje natural. xclingo obtiene los “support graphs” empleando un meta-programa ASP, cuya corrección es demostrada. Estudiamos los diferentes ejemplos en el contexto de ASP tales como planificación, resolución de problemas o diagnóstico, entre otros, y analizamos el efecto de diferentes anotaciones para el mismo escenario, ilustrando la necesidad de diseñar las explicaciones. Adicionalmente, abordamos la generación de explicaciones no técnicas de modelos de Aprendizaje Automático con usuarios reales en dos problemas de otras disciplinas (Medicina y Farmacia), cubriendo tanto algoritmos de aprendizaje simbólico como subsimbólico.

[Resumo] Nesta tese, exploramos a noción de “commonsense explanation” no contexto da Intelixencia Artificial mediante a extensión do formalismo Answer Set Programming (ASP) con anotacións formais. Con este obxectivo, definimos o concepto de “support graphs” para obter múltiples explicacións de cada modelo dun programa lóxico, e proporcionamos diferentes operacións para filtrar a información irrelevante de destes grafos. Ditas definicións son implementadas por unha ferramenta chamada xclingo que adicionalmente permite a especificación de explicacións “commonsense” en linguaxe natural. xclingo obtén Os “support graphs” empregando un meta-programa ASP, cuxa corrección é demostrada. Estudamos os diferentes exemplos no contexto de ASP tales como planificación, resolución de problemas ou diagnóstico, entre outros, e analizamos o efecto de diferentes anotacións para o mesmo escenario, ilustrando a necesidade de deseñar as explicacións. Adicionalmente, abordamos a xeración de explicación non técnicas de modelos de Aprendizaxe Automático con usuarios reais en dous problemas de outras disciplinas (Medicina e Farmacia), cubrindo tanto algoritmos de aprendizaxe simbólico como subsimbólico.