Algoritmisen päätöksenteon oikeudenmukaisuus ja turvallisuus

Abstract

Algoritmeihin perustuvat päätökset vaikuttavat yhä enenevissä määrin yhteiskuntaan ja yksittäisiin ihmisiin. Näiden päätösten tutkiminen voidaan nähdä hyvin merkittävänä yhteiskunnalle, sillä algoritmisen päätöksenteon käytön laajenemisen myötä on tärkeää löytää sopivia toimintatapoja niiden oikeudenmukaisen sekä turvallisen käytön varmistamiseksi. Kysymykset, joihin tässä tutkielmassa pyrittiin kirjallisuuskatsauksen metodein löytämään vastauksia, liittyivät oikeudenmukaisuuden ja turvallisuuden toteutumiseen algoritmisten päätöksentekojärjestelmien käytössä. Oikeudenmukaisuuden käsitettä tutkittiin yleisten säädösten sekä eettisten pohdintojen näkökulmasta. Keskeiset löydökset viittasivat tiiviin yhteistyön tärkeyteen algoritmien rakentamisen yhteydessä oikeudenmukaisuuden toteutumiseksi. Lisäksi sääntelyn tärkeys teknologian nopean kehityksen seurauksesta nähtiin merkittävänä. Turvallisuutta taas käsiteltiin suurelta osin itseohjautuvien ajoneuvojen kautta tarkastellen. Itseohjautuvien ajoneuvojen käyttö voidaan nähdä sujuvoittavan liikennettä merkittävästi, mutta päätöksenteon taustoihin liittyviä ongelmia voi kuitenkin ilmetä. Varsinkin kolaritilanteissa tapahtuvan päätöksenteon taustat ovat usein pohdinnan ja tutkimuksen kohteena. Näiden ajoneuvojen päätöksenteon eettisyys nähtiin monimutkaisempana kuin usein vertauskuvana pidetty vaunuongelma kuvastaa. Automaattisten päätösten käytön sopivuus eri käyttötarkoituksissa riippuu paljolti päätöksen turvallisuuskriittisestä riskistä, tai riskistä aiheuttaa suuria menetyksiä vääränlaisen päätöksen seurauksesta. Yhteistyötä ihmisen ja algoritmin välillä pidettiin turvallisuuden takaamisessa myös keskeisenä tekijänä. Vaikka oikeudenmukaisuuden ja turvallisuuden käsitteitä voidaan käsitellä erillisinä käsitteinään, kuuluu niihin kuitenkin paljon samankaltaisuuksia. Ongelmat vastuun kannossa, liittyen automaattisten päätösten seurauksiin, koskee vahvasti useampaa osa-aluetta oikeudenmukaisuudessa sekä turvallisuudessa. Algoritmien rakentamisen ongelmia pystytään nykyisen tietämyksen valossa pääpiirteittäin ratkaisemaan eri sidosryhmien asiantuntijoiden tiiviin yhteistyön avulla, jossa otetaan huomioon yhteiset edut ja menetysten minimointi.

Algorithm-based decisions are influencing society and individuals in an expanding amount. Examining these decisions can be seen as important for society, because as the use of algorithm-based decision expands, it is important to find suitable ways to ensure their fair and safe use. The questions, to which answers were sought in this thesis using the methods of literature review, were related to the realization of fairness and security in the use of these automated decision-making systems. The topic of fairness was examined through a viewpoint of general regulations and ethical considerations. The main findings suggest that the close cooperation of different parties is essential to ensure the fairness in algorithmic decision-making. In addition, the importance of regulation as a result of rapid technological development was seen as significant. The security aspect was investigated mainly through the viewpoint of autonomous vehicles. The use of autonomous vehicles can be seen to significantly enhance traffic flow, but there may be problems with the decision making process. In particular, the backgrounds of the decisions behind collisions are usually the subject of contemplation and research. The ethics of these vehicles were seen as more complex than the famous metaphor of a trolley problem usually reflects them to be. The suitability of automated decisions-making in different scenarios often depends on how large of a safety risk is associated with the decision or how much harm it can cause in an error. The collaboration between human and algorithm was seen as one of the key elements in ensuring security. Although fairness and security can be considered as two different concepts, they share many similarities. The problems surrounding accountability were highly present in many ways within both fairness and security. Based on current knowledge, many problems surrounding automated decision-making can be solved through close collaboration among various stakeholders, while taking into account shared benefits and minimizing losses.