Suosittelujärjestelmien eettiset haasteet

Abstract

Suosittelujärjestelmät ovat laajasti käytettyjä työkaluja suurien tietomäärien hallintaan ja merkittävässä roolissa monissa digitaalisissa palveluissa, kuten Netflixissä ja Amazonissa. Tämä systemaattisena kirjallisuuskatsauksena toteutettu kandidaatintutkielma toimii hyvänä aloituskohtana suosittelujärjestelmien eettisten haasteiden kirjavaan ja suhteellisen tuoreeseen tutkimukseen. Aiheen tutkimuksesta havaittiin, että niiden toiminnassa ja käytössä on eettisiä haasteita, jotka liittyvät yksityisyyteen, suosittelujen perustelemattomuuteen, algoritmien sulkeutuneisuuteen, suosittelujen eettisyyteen, sosiaalisiin vaikutuksiin, käyttäjän autonomiaan ja reiluuteen. Näillä haasteilla todettiin kirjallisuudessa erilaisia vaikutuksia suosittelujärjestelmien eri sidosryhmille. Lisäksi tutkielmassa esitellään havaittuja ratkaisuehdotuksia kyseisiin haasteisiin.

Recommender systems are widely adopted tools for efficient information retrieval. They have gained a notable role in many digital services such as Netflix and Amazon. This Bachelor’s thesis was carried out as a systematic literature review and it serves as a great starting point for the diverse and relatively new stream of research focused on different ethical challenges of recommender systems. Observed ethical challenges were related to privacy, opaqueness of algorithms, social effects, fairness, user autonomy, and explainability and ethicalness of recommendations. In the literature these challenges were noted to have different kinds of effects for the different stakeholders involved. In addition, some observed solutions proposed in the literature are showcased.