Deontic Description Logic for Explanations in AI

Abstract

Le spiegazioni deontiche sono un campo di ricerca recente, dovuto all'impatto dell'intelligenza artificiale nella vita quotidiana in contesti sensibili, in cui è richiesta una decisione etica. Le macchine artificiali, nella maggior parte dei casi, funzionano come scatole nere, per cui è ragionevole chiedere un perché rispetto i possibili output. L'obiettivo di questo lavoro è mostrare come rappresentare logicamente spiegazioni deontiche che traggano vantaggio dalle ontologie. In effetti, le ontologie possono essere utili per le spiegazioni e sono tipicamente basate sul linguaggio della logica descrittiva. Ma, in un contesto deontico, è necessario integrare la logica descrittiva con la logica deontica per avere una buona logica per scrivere ontologie capaci di esprimere spiegazioni deontiche. Nel capitolo introduttivo sulla spiegazione in filosofia della scienza e nell'intelligenza artificiale (xAI), verrà definita la spiegazione deontica. Il lavoro si concentrerà poi sulla relazione tra spiegazioni e ontologie, al fine di comprendere il rapporto tra queste e xAI, con particolare riferimento e attenzione alle spiegazioni deontiche. Seguirà una parte tecnica in cui la logica deontica e la logica di descrittiva saranno integrate per avere una logica descrittiva deontica. Verrà inoltre mostrato come ottenere una logica deontica descrittiva più debole aggiungendo una modalità non normale, che può essere utile per descrivere situazioni reali.

Deontic explanations are a recent field of research thanks to the impact of Artificial Intelligence in the everyday lives in sensitive contexts, where an ethic decision is requested. Artificial machines most of the time work as black boxes, so it is sensible asking for a reason for the possible outcomes. The aim of this work is showing how to logically represent deontic explanations that benefit from ontologies. Indeed, ontologies can be useful for explanations and they are typically based on the Description Logic language. But, in a deontic field, it is necessary to integrate Description Logic with Deontic Logic in order to have a good logic for writing ontologies capable of expressing deontic explanations. In the introductory chapter about explanation in Philosophy of Science and in Artificial Intelligence (xAI), deontic explanation will be defined. The work will then focus on the relation between explanations and ontologies, in order to understand the relation between them and xAI, with particular mention and attention to deontic explanations. It will follow a technical part where Deontic Logic and Description Logic will be integrated to have a Deontic Description Logic. It will be also shown how to obtain a weaker Deontic Description Logic by adding a non-normal modality, which can be useful to describe real situations.