Explaining the Behavior of Remote Robots to Humans : An Agent-based Approach

Abstract

Avec l’emergence et la generalisation des systemes d'intelligence artificielle, comprendre le comportement des agents artificiels, ou robots intelligents, devient essentiel pour garantir une collaboration fluide entre l'homme et ces agents. En effet, il n'est pas simple pour les humains de comprendre les processus qui ont amenes aux decisions des agents. De recentes etudes dans le domaine l’intelligence artificielle explicable, particulierement sur les modeles utilisant des objectifs, ont confirme qu'expliquer le comportement d’un agent a un humain favorise la comprehensibilite de l'agent par ce dernier et augmente son acceptabilite. Cependant, fournir des informations trop nombreuses ou inutiles peut egalement semer la confusion chez les utilisateurs humains et provoquer des malentendus. Pour ces raisons, la parcimonie des explications a ete presentee comme l'une des principales caracteristiques facilitant une interaction reussie entre l’homme et l’agent. Une explication parcimonieuse est definie comme l'explication la plus simple et decrivant la situation de maniere adequate. Si la parcimonie des explications fait l'objet d'une attention croissante dans la litterature, la plupart des travaux ne sont realises que de maniere conceptuelle.Dans le cadre d'une methodologie de recherche rigoureuse, cette these propose un mecanisme permettant d’expliquer le comportement d’une intelligence artificielle de maniere parcimonieuse afin de trouver un equilibre entre simplicite et adequation. En particulier, il introduit un processus de formulation des explications, sensible au contexte et adaptatif, et propose une architecture permettant d’expliquer les comportements des agents a des humains (HAExA). Cette architecture permet de rendre ce processus operationnel pour des robots distants representes comme des agents utilisant une architecture de type Croyance-Desir-Intention.Pour fournir des explications parcimonieuses, HAExA s'appuie d'abord sur la generation d'explications normales et contrastees, et ensuite sur leur mise a jour et leur filtrage avant de les communiquer a l'humain. Nous validons nos propositions en concevant et menant des etudes empiriques d'interaction homme-machine utilisant la simulation orientee-agent. Nos etudes reposent sur des mesures bien etablies pour estimer la comprehension et la satisfaction des explications fournies par HAExA. Les resultats sont analyses et valides a l'aide de tests statistiques parametriques et non parametriques.