AI – bov eller hjälte i arbetet för jämställdhet?

Idag går det knappt att prata om framtiden utan att nämna AI. Jag har läst otaliga artiklar och forskningsrapporter om AI:s inverkan på vårt samhälle i form av effektivisering och digitalisering. Och jag har lyssnat till en rad talare som problematiserat utmaningarna, men också lyft möjligheter med AI och vad det kan komma att betyda i framtiden – inte minst inom utbildning och arbete.

Stort fokus har lagts på frågor om hur AI kan användas för att ersätta allt från praktiska och administrativa arbetsuppgifter till mer komplexa och kreativa uppgifter. Det jag har saknat i denna debatt, men som börjat få mer plats på agendan, är AI:s potentiella appliceringsområden på tvärgående perspektiv. Jag tänker på perspektiv som genomsyrar allt i våra liv och som är avgörande för att främja ett hållbart och resilient samhälle för alla; jämställdhet och jämlikhet.

Häromdagen läste jag två artiklar som berörde olika aspekter av samma sak; hur olika AI-lösningar bidrar till ökad ojämställdhet och ojämlikhet i vårt samhälle. Den ena artikeln berörde trenden kring så kallade ”AI-flickvänner”, bland framför allt yngre heterosexuella män i USA. AI-lösningen går ut på att användaren skapar sig en perfekt partner genererad av AI; en trend många befarar kommer att påverka hur dessa män ser på kvinnor, kärlek samt relationer.

Den andra artikeln handlade om hur en asiatisk kvinna tagit hjälp av en AI-tjänst för att förvandla ett foto av henne till en mer professionell bild som hon kunde använda som profilbild på LinkedIn. Tjänsten gjorde hennes hud ljusare och ändrade hennes ögonfärg från brun till blå.

Tjänsten gjorde hennes hud ljusare och ändrade hennes ögonfärg från brun till blå.

Bägge artiklarna ger upphov till stor oro för den utveckling vi ser. Och det finns mängder av liknande exempel där vi tvingas fråga oss hur vi ser till att olika AI-verktyg inte fortsätter att reproducera och förstärka befintliga köns- och etnicitetsbaserade fördomar och diskriminering. Och vad kommer den här utvecklingen att få för konsekvenser om vi inte gör något åt den idag?

Samtidigt finns det många tillämpningar där AI kan hjälpa oss att skapa bättre och mer inkluderande tjänster. Appliceringsområden där AI faktiskt kan bidra till ökad jämställdhet och jämlikhet. Något vi behöver belysa och arbeta mer med.

AI kan till exempel användas för att upptäcka en sned könsfördelning bland forskare eller att det saknas ett jämställdhetsperspektiv i själva forskningen. Det kan också vara ett verktyg för att säkerställa rättvis och transparant lönesättning, genom att analysera lönedata och jämföra löner för anställda med liknande kompetens och erfarenheter.

AI kan till exempel användas för att upptäcka en sned könsfördelning bland forskare eller att det saknas ett jämställdhetsperspektiv i själva forskningen.

AI kan även minska diskriminering i rekrytering. Det kan ske genom att screena cv:n och identifiera potentiella kandidater baserat på färdigheter och erfarenheter istället för exempelvis kön. Listan kan göras betydligt längre och många användningsområden är ännu inte upptäckta.

På Sveriges innovationsmyndighet Vinnova har vi därför i tre omgångar arrangerat ett globalt hackaton. Hit bjuds individer och lag in för att skapa nya AI-lösningar som bidrar till att främja jämställdhet i enlighet med Sveriges jämställdhetspolitiska mål (nästa hackaton går av stapeln 3-5 november 2023). Det är ett av många sätt att få fler att ge sig in i arbetet med att skapa en positiv samhällsförändring med hjälp av datadrivet jämställdhets- och inkluderingsarbete.

Så frågan jag ställer mig är om AI är en bov eller hjälte för jämställdhet och jämlikhet? Det finns inget tydligt svar utan det handlar i slutändan om hur vi väljer att utveckla och använda tekniken. Det är lätt att glömma bort att det fortfarande är vi som skapar spelreglerna för hur olika tekniska tjänster och produkter ska och får fungera. Och det är viktigt att vi tar det ansvaret på stort allvar och utmanar existerande idéer om vad AI kan användas till.

Vi måste uppmärksamma möjliga konsekvenser, tillgång till representativa data, vikten av rätt typ av regleringar, policys och en mångfald av kompetenser bland dem som arbetar och tar fram dessa verktyg. Men lika viktigt är att vända på perspektivet och fråga oss hur vi kan ta hjälp av tekniken för att skapa ett bättre och mer inkluderande samhälle idag och i framtiden.

Eller som den AI-genererade chatboten ChatGTP svarade när jag frågade hur AI kan bidra till ett mer inkluderande samhälle:

”För att säkerställa att AI effektivt främjar inkludering är det viktigt att sätta rätt förutsättningar för detta vid utveckling och implementering. Det är också nödvändigt att involvera olika samhällsgrupper och intressenter i utvecklingsprocessen för att säkerställa att tekniken är anpassad till olika behov och perspektiv. Genom att använda AI på ett ansvarsfullt sätt kan samhället arbeta mot ett mer inkluderande och rättvist samhälle.”

Läs mer:

Hackaton: AI för ökad jämställdhet Länk till annan webbplats, öppnas i nytt fönster.

Futurism: Men Are Creating AI Girlfriends and Then Verbally Abusing Them (English) Länk till annan webbplats, öppnas i nytt fönster.

Insider: An Asian MIT student asked AI to turn an image of her into a professional headshot. It made her white, with lighter skin and blue eyes (English) Länk till annan webbplats.

Läs också i Curie:

Stort sug efter riktlinjer för ChatGPT (Curie)

AI-forskaren ger läkarna verktyg (Curie)