Etiskt AI kräver mer än datavetenskap

Virginia Dignum är professor i datavetenskap vid Umeå universitet, och en internationellt erkänd AI-forskare. Hon var en av de första forskare som rekryterades till Sverige inom Wallenbergstiftelsens stora satsning på grundforskning inom artificiell intelligens.

Hennes arbete handlar om sociala och etiska aspekter av artificiell intelligens, och teknikens påverkan på samhället. Redan idag påverkar den oss mycket.

AI-system styr sökmotorer, som Google, och vad vi får för svar. De avgör om vi får lån, jobb eller utbildningsplats – och vi kan räkna med att allt fler beslut framöver kommer att tas av AI. Därtill interagerar vi med AI-system eftersom tekniken byggs in i många produkter och tjänster.

– Det är därför det är så viktigt att designa systemen så att vi förstår vad de gör. Och eftersom de också fattar beslut som har stor betydelse för oss är det viktigt att de är rättvisa och inte diskriminerande, säger Virginia Dignum.

Matematisk rättvisa

Problemet är hur vi ska få systemen att förstå vad vi menar med mänskliga värderingar som rättvisa, eller hur vi ska kunna verifiera att de inte diskriminerar, inkräktar på privatlivet, eller gör något annat som vi inte vill.

Det är här Virginia Dignums forskning kommer in.

– Vi vill ta reda på hur vi ska integrera ”rättvisa” när vi utvecklar artificiell intelligens, och hur vi designar ett matematiskt system för att mäta det med avseende på etik och påverkan.

Få med andra discipliner

Området är så komplicerat att det krävs samarbeten mellan många olika discipliner för att säkra att systemen fungerar på ett sätt som överensstämmer med våra etiska värderingar. Därför måste vi radikalt förändra hur vi närmar oss AI, tycker hon.

– Det kan inte bara lösas av min grupp. Vi måste integrera människor med annan ämnesbakgrund: Samhällsvetare, ekonomer, datavetare, jurister, filosofer, och så vidare. Vi har ett etiskt ansvar att säkra att systemen överensstämmer med våra värderingar och moraliska principer, och lösningarna kräver ett multidisciplinärt perspektiv.

Ett skäl är att AI påverkar samhället på många nivåer.

– Verktyg och metoder som datavetenskapen använder är inte anpassade för att analysera och förstå teknikens påverkan. Vi behöver få med teorier från andra discipliner.

Nytt forskningsprogram

I juni sjösattes ett nytt forskningsprogram som är inriktat just på det, WASP-HS. Uppdraget är att undersöka hur utvecklingen av den nya tekniken påverkar vårt samhälle.

Programmet finansieras av Wallenbergstiftelserna och placeras vid Umeå universitet där Virginia Dignum blir dess vetenskapliga ledare. Ansatsen är bred.

Inom det tioåriga programmet ska upp till 70 doktorander utbildas. Minst tio nya forskargrupper och tolv gästprofessorer ska rekryteras, från områden som psykologi, samhällsvetenskap, ekonomi och filosofi.

Programmet har utlysts och projektansökningar granskas nu av internationella experter. I januari 2020 är det tänkt att allt ska dra igång.

Hantera AI på EU-nivå

Under tiden fortsätter arbetet med att hantera AI också på EU-nivå. Virginia Dignum är en av 52 experter som samarbetar inom Europa för att ta fram en AI-strategi för EU. I juni presenterade gruppen sina rekommendationer, bland annat vilka riktlinjer och lagar som behöver tas fram.

Virginia Dignum tycker att området måste kontrolleras mer organiserat, för att säkerställa att artificiell intelligens verkligen bidrar till samhällets och människors välbefinnande.

– Vi skulle behöva en myndighet som certifierar AI, som vi har för läkemedel och livsmedel. Det är något vi diskuterar på både nationell nivå och EU-nivå.

Läs också i Curie: AI sprider sig till allt fler forskningsfält