Foundations of ontology-based explainable robots

Abstract

(English) A critical challenge in the design of robots that operate while interacting with humans is to ensure mutual understanding, which contributes to build reliable human-robot interactions. It is an arduous task since interactive scenarios are often uncertain, exposing robots to exogenous situations that affect their ongoing activities. In those cases, robots shall perceive and recognize unexpected changes in the environment, represent and reason about them, and decide how to adapt to them. This will certainly modify robots' internal knowledge, and it is fair to assume that part of the new robot beliefs might be hidden from other agents such as humans. Hence, robots shall also be capable of communicating or explaining the relevant knowledge about those beliefs updates. In this context, this thesis investigates the use of ontologies as an integrative framework for the construction of robot explanations, particularly within interactive settings involving humans. To this end, the thesis starts formulating the scope of the relevant domain knowledge to conceptualize, and it continues proposing novel ontological models and methods for ontology-based robot explanation generation. The first part of the thesis discusses two main contributions: a systematic review and classification of the state-of-the-art that narrows down the target set of reality phenomena to be conceptualized, and the investigation and development of novel robot perception methods to extract from realistic robot experiences the common patterns of the target conceptualization. The second part discusses the two remaining contributions: ontological analysis and modeling of the target domain knowledge, and the design and development of algorithms to construct ontology-based robot explanations. Note that the different ontological models and algorithms were mainly validated in collaborative and adaptive robotic scenarios. However, they were conceived from a foundational perspective, and we think that their scientific value extrapolates to other application domains (e.g. assistive robotics). Overall, the scientific contributions of this thesis set a solid foundational basis for the ontology-based explainable robots domain, boosting the design of trustworthy interactive robots.

(Català) Un desafiament crític en el disseny de robots que operen mentre interactuen amb humans és garantir l'entesa mutu, fet que contribueix a construir interaccions fiables entre humans i robots. És una tasca àrdua ja que els escenaris interactius solen ser incerts, cosa que exposa els robots a situacions exògenes que afecten les seves activitats en curs. En aquests casos, els robots han de percebre i reconèixer canvis inesperats a l'entorn, representar-los, raonar sobre ells i decidir com adaptar-s'hi. Sens dubte això modificarà el coneixement intern dels robots, i és just suposar que part de les noves creences dels robots podrien estar ocultes a altres agents com els humans. Per tant, els robots també han de ser capaços de comunicar o d'explicar el coneixement rellevant sobre les actualitzacions d'aquestes creences. En aquest context, aquesta tesi investiga l'ús d'ontologies com un marc integrador per a la construcció d'explicacions de robots, particularment dins d'entorns interactius que involucren a humans. A aquest efecte, la tesi comença formulant l'abast del coneixement del domini rellevant a conceptualitzar i continua proposant nous models i mètodes ontològics per a la generació d'explicacions robòtiques basades en ontologies. La primera part de la tesi analitza dues contribucions principals: una revisió i una classificació sistemàtica de l'estat de l'art que redueix el possible conjunt de fenòmens de la realitat a conceptualitzar, i la investigació i el desenvolupament de nous mètodes de percepció de robots per extreure'n a partir dexperiències realistes dun robot els patrons comuns de la conceptualització objectiu. La segona part analitza les dues contribucions restants: l'anàlisi ontològica i el modelatge del coneixement del domini objectiu, i el disseny i el desenvolupament d'algorismes per construir explicacions de robots basades en ontologies. Cal assenyalar que els diferents models i algorismes ontològics es van validar principalment en escenaris robòtics col·laboratius i adaptatius. Tot i això, van ser concebuts des d'una perspectiva fonamental i creiem que el seu valor científic s'extrapola a altres dominis d'aplicació (per exemple, la robòtica assistencial). En general, les contribucions científiques daquesta tesi estableixen una base sòlida per al domini dels robots explicables basats en ontologies, impulsant el disseny de robots interactius fiables.

(Español) Un desafío crítico en el diseño de robots que operan mientras interactúan con humanos es garantizar el entendimiento mutuo, lo que contribuye a construir interacciones confiables entre humanos y robots. Es una tarea ardua ya que los escenarios interactivos suelen ser inciertos, lo que expone a los robots a situaciones exógenas que afectan sus actividades en curso. En esos casos, los robots deben percibir y reconocer cambios inesperados en el entorno, representarlos, razonar sobre ellos y decidir cómo adaptarse a ellos. Sin duda, esto modificará el conocimiento interno de los robots, y es justo suponer que parte de las nuevas creencias de los robots podrían estar ocultas a otros agentes como los humanos. Por tanto, los robots también deben ser capaces de comunicar o explicar el conocimiento relevante sobre las actualizaciones de esas creencias. En este contexto, esta tesis investiga el uso de ontologías como un marco integrador para la construcción de explicaciones de robots, particularmente dentro de entornos interactivos que involucran a humanos. Con este fin, la tesis comienza formulando el alcance del conocimiento del dominio relevante a conceptualizar y continúa proponiendo nuevos modelos y métodos ontológicos para la generación de explicaciones robóticas basadas en ontologías. La primera parte de la tesis analiza dos contribuciones principales: una revisión y clasificación sistemática del estado del arte que reduce el posible conjunto de fenómenos de la realidad a conceptualizar, y la investigación y el desarrollo de nuevos métodos de percepción de robots para extraer a partir de experiencias realistas de un robot los patrones comunes de la conceptualización objetivo. La segunda parte analiza las dos contribuciones restantes: el análisis ontológico y el modelado del conocimiento del dominio objetivo, y el diseño y desarrollo de algoritmos para construir explicaciones de robots basadas en ontologías. Cabe señalar que los diferentes modelos y algoritmos ontológicos se validaron principalmente en escenarios robóticos colaborativos y adaptativos. Sin embargo, fueron concebidos desde una perspectiva fundamental y creemos que su valor científico se extrapola a otros dominios de aplicación (por ejemplo, la robótica asistencial). En general, las contribuciones científicas de esta tesis establecen una base sólida para el dominio de los robots explicables basados ​​en ontologías, impulsando el diseño de robots interactivos confiables.