Algoritmer används bland annat inom sociala medier och journalistiken samt av myndigheter, banker och försäkringsbolag. En algoritm kan till exempel avgöra vem som får låna pengar eller teckna en försäkring.

Algoritmerna som styr vår vardag

2018-03-20

Algoritmer får allt större betydelse för både samhället och individen. De styr vad vi ser på sociala medier och kan ta beslut som påverkar vår vardag – utan att vi får insyn i hur de skrivs. Curie har pratat med två forskare om riskerna.

En algoritm är ett slags instruktion som man följer för att lösa en uppgift. De ingår ofta i datorprogram och de styr vad du hittar vid en Google-sökning och ser i flödet på Facebook. Algoritmer används av myndigheter, banker och försäkringsbolag, inom journalistiken, vid streaming av musik och film och mycket mer.

De kan användas för att fatta beslut. En algoritm kan avgöra vem som exempelvis får låna pengar eller teckna en försäkring. Trelleborgs kommun var i fjol först i Sverige att börja använda algoritmer inom socialtjänsten. De räknar ut vem som har rätt till försörjningsstöd, utifrån samma data som används om bedömningen görs av en socialsekreterare.

I USA används de i rättssystemet för att beräkna risken för att en individ ska återfalla i brott, vilket kan ha betydelse för vad straffet blir.

– Det stora problemet med algoritmer är att de ligger bakom beslut som kan ha stor betydelse för en individ, samtidigt som de baseras på subjektiva indata, säger den amerikanska matematikern och datavetaren Cathy O´Neil.

Hon har tidigare forskat vid Harvard och MIT och är idag verksam som författare, bloggare och föreläsare. Ämnet är ofta just algoritmer.

Bygger in fördomar

Amerikanska journalister har exempelvis kunnat visa att svarta bedöms ha högre risk att återfalla i brott än vita, när en algoritm används för att beräkna risken. Varför det blir så vet man inte, eftersom algoritmen är hemlig. Men det kan bero på att den bygger på data om exempelvis bostadsadress, och att svarta i högre utsträckning bor i områden med hög brottslighet.

Enligt Cathy O´Neil bygger man in fördomar när man väljer vilka data som ska användas.

– Vi gör subjektiva bedömningar när vi skriver algoritmer. Vi utgår från oss själva och funderar inte över vem algoritmen missgynnar. Är det fattiga mer än rika? Kvinnor mer än män? Vi glömmer detta och det är riktigt allvarligt. Det är viktigt när algoritmer används att de fungerar bättre för alla, säger hon.

Ett problem är att det är svårt att få veta vad som ligger bakom ett beslut baserat på algoritmer, som bedömningen av risken att återfalla i brott.

– Den som missgynnas av ett beslut kan inte få veta vad det bygger på. Koderna är nästan alltid hemliga. Man kan inte fråga algoritmen. Det finns inte längre någon ansvarig, säger Cathy O´Neil.

Krav på insyn och rättvisa

I EU införs i maj en ny dataskyddslagstiftning som innehåller bestämmelser för att hantera risker med så kallat automatiserat beslutsfattande, exempelvis krav på insyn och rättvisa. Lagen (General Data Protection Regulation) är beslutad men under så kallad konsultation och det är inte helt klart hur den slutgiltigt kommer att se ut.

– Individen måste få en vettig förklaring till beslut, säger Olof Sundin som är forskare i biblioteks- och informationsvetenskap vid Lunds universitet.

Han använder begreppet ”algoritmisk skada”. Exempelvis kan en individ drabbas på oväntat sätt av mönster och samband som kan hittas av någon som sammanställer vad individen gör på internet. Om den totala bilden gör att personen uppfattas som en risktagare kan det påverka exempelvis kreditvärdighet eller försäkringskostnaderna.

– Det kan leda till konsekvenser man aldrig tänker på. Samtidigt är det svårt för en individ att stå vid sidan av internet.

Delat ansvar

Vem är då ansvarig för hur algoritmer används och byggs upp?

– Lagstiftaren måste vara tydlig. Men det är också företagens ansvar. Facebook och Google fungerar på ett sätt som får stora konsekvenser när det handlar om vad som blir synligt. Det gäller även i mindre demokratiska länder. Mycket ansvar hamnar på individen som förväntas vara källkritisk.

Genom att exempelvis dela en sida eller länka till den kan organisationer, grupper eller enskilda lyfta sidor som svartmålar en politisk motståndare eller skönmålar den egna organisationen. Sidorna rangordnas automatiskt efter de faktorer som algoritmerna tar hänsyn till. I USA pågår en utredning om den sortens agerande påverkade den senaste presidentvalskampanjen.

– Olika aktörer kan agera utifrån kunskap om hur algoritmer fungerar. På så sätt kan en liten grupp få stor uppmärksamhet.

Citerad syns mer

En sida som många länkar till rankas högre och hittas lätt vid en sökning på Google. På liknande sätt fungerar citeringsdatabaser, till exempel Google Scholar som används för att söka akademiska publikationer – publikationer som fler refererar till hamnar i regel högst.

För en forskare kan det få stor betydelse. Bibliometriska indikatorer som antal publicerade artiklar eller hur ofta en artikel citeras av andra forskare används vid exempelvis tilldelning av forskningsmedel.

– Är du synlig påverkar det bibliometriska indikatorer i någon utsträckning. Om en artikel är synlig blir den refererad till. Forskare vill bli lästa. Du har något att säga som du vill att någon ska ta del av.

Hans egen forskning handlar bland annat om källkritik. I sommar drar han tillsammans med kollegan Jutta Haider i gång ett projekt om algoritmer och källkritik, där de exempelvis ska undersöka ungas förståelse av algoritmer. Projektet finansieras av Vetenskapsrådet.

Text: Siv Engelmark

Ta del av information om behandlingen av dina personuppgifter