Enhancing the decision-support capabilities of interactive multiobjective optimization with explainability

Abstract

Monet päätöksenteko-ongelmat edellyttävät usein ristiriitaisten kriteerien tasapainottelua. Nämä ongelmat voidaan mallintaa monitavoiteoptimointiongelmina, joissa tavoitefunktiot kuvaavat kriteerejä. Näissä ongelmassa on useita optimaalisia ratkaisuehdokkaita, joita ei voida järjestää paremmuusjärjestykseen ilman asiantuntijan, eli päätöksentekijän, panosta. Erilaisia monitavoiteoptimointimenetelmiä, jotka hyödyntävät päätöksentekijän mieltymyksiä, voidaan käyttää paatoksenteontukena lupaavien ratkaisuehdokkaiden tunnistamisessa. Interaktiiviset monitavoiteoptimointimenetelmät ovat erityisen hyödyllisiä, silla niissä päätöksentekijä on osa ratkaisuprosessia, mikä sallii heidän ilmaista iteratiivisesti mieltymyksiään ja tarkastella ratkaisuja, kunnes tyydyttävä ratkaisu on löytynyt. Interaktiiviset menetelmät tukevat kuitenkin harvoin päätöksentekijää mieltymysten ilmaisemisessa ja optimaalisten ratkaisujen ymmärtämisessä. Tässä väitöskirjassa tutkitaan miten selitettävyys, joka on konsepti tekoälyn alalta, voisi vastata tähän tuen puutteeseen ja parantaa interaktiivisten menetelmien tarjoamaa tukea. Selitettävyys voi tehdä monimutkaisista järjestelmistä ymmärrettävämpiä. Väitöskirjassa tutkitaan miten selitettävyys voi parantaa interaktiivisia menetelmiä tekemällä niistä helpommin sovellettavia ja ymmärrettäviä päätöksentekijöille. Väitöskirjassa esitellään kolme uutta interaktiivista menetelmää, jotka hyödyntävät selitettävyyttä. R-XIMO-menetelmä tukee päätöksentekijöitä mieltymysten ilmaisemisessa ja ymmärtämään miten ne ovat vaikuttaneet laskettuihin ratkaisuihin. INFRINGER-menetelmä käyttää selitettäviä saantopohjaisia malleja päätöksentekijän mieltymysten selvittämiseen ja mallintamiseen. XLEMOO-menetelmä käyttää saantopohjaisia malleja selittämään niiden ratkaisuehdokkaiden ominaisuuksia, jotka vastaavat päätöksentekijän mieltymyksiä. Myös väitöskirjan aikana kehitettyä avoimen lähdekoodin DESDEO-ohjelmistokehystä käsitellään, silla se on mahdollistanut esiteltyjen menetelmien kehittämisen. Tämä väitöskirja luo perustan uudelle selitettävän interaktiivisen monitavoiteoptimoinnin tutkimusalalle. Esitellyt menetelmät ovat vapaasti saatavilla jatkotutkimusta ja käytännön sovelluksia varten. Tehostamalla interaktiivisia menetelmiä selitettävyydellä, tämä uusi tutkimusala voi johtaa läpinäkyvämpiin ja perustellumpiin paatoksenteon tukityokaluihin monissa erilaisissa päätöksenteko-ongelmissa, joissa tuetaan päätöksentekijää ristiriitaisten tavoitefunktioiden tasapainottelussa heidän mieltymyksiään hyödyntäen.

Real-life decisions often involve balancing conflicting criteria, which are modeled as objective functions in multiobjective optimization problems. These problems have multiple optimal solutions that cannot be ordered from worst to best without input from a domain expert—a decision maker. To help a decision maker choose their most preferred solution, many multiobjective optimization methods use preferences expressed by the decision maker to identify promising solution candidates. Interactive multiobjective optimization methods are particularly useful as they involve the decision maker in the solution process by allowing them to iteratively provide preferences and review solutions until a satisfactory one is found. However, when utilizing interactive methods, decision makers often lack in the support they get for providing preferences and understanding the optimal solutions. This thesis explores how explainability, a concept from the field of artificial intelligence, can tackle these issues and enhance the support provided by interactive methods. Explainability can help make complex systems more intelligible, and we demonstrate how the concept can improve interactive methods by making them easier for decision makers to apply and understand. We introduce three new interactive methods that utilize explainability. The first, R-XIMO, helps decision makers give preferences and understand their impact on the computed solution candidates. The second, INFRINGER, uses explainable rule-based models to effectively capture and model a decision maker’s preferences. The third, XLEMOO, uses rule-based models to explain solution candidate characteristics that align with the decision maker’s preferences. Lastly, the open source DESDEO software framework supports these methods by enabling their implementation and development, and it is therefore discussed as well. This thesis lays the groundwork for the new field of explainable interactive multiobjective optimization, offering methods that are openly available for further research and practical use. By enhancing interactive methods with explainability, this novel line of research can lead to more transparent and justifiable decisionsupport tools in diverse real-life decision-making problems involving decision makers, preferences, and multiple conflicting objective functions.