Forskning på gott och ont

Diskussionen om etiska frågor inom forskningen brister ofta. Det finns ett fokus på vissa etiska frågor i forskningsansökningarna, men man tittar inte lika mycket på avsikten, konsekvenserna och osäkerheten runt ett forskningsprojekt.

Det anser både Jessica Nihlén Fahlquist, filosof och universitetslektor vid Uppsala universitet, och Olle Häggström, professor i matematisk statistik vid Chalmers.

– Vi tittar ofta på metoderna och diskuterar hur vi använder människor, söker etiska tillstånd och får informerat samtycke. Vi skickar in ansökningar till etiska kommittéer och ser allt som legitimt om vi får godkänt där, men ansvaret sträcker sig längre än så, säger Jessica Nihlén Fahlquist.

Olle Häggström har suttit som observatör i flera beredningsgrupper och sett att inte heller forskningsfinansiärer väger in etiska aspekter och tar hänsyn till forskningsresultatens potentiella effekter i samhället när de prioriterar bland ansökningar.

– Då och då kom ansökningar där det var väldigt tydligt att det fanns svåra avvägningar att göra, men där man inte nämnt något om eventuella risker. Inte heller beredningsgrupperna var intresserade av att fundera över ansökningarna ur det perspektivet.

Övertro på att forskningen är god

Jessica Nihlén Fahlquist ser en risk med att det finns en övertro på att forskningen är god och att utvecklingen går så snabbt idag.

– Vi problematiserar inte forskningen och när vi väljer projekt är det inte alltid etiska aspekter som blir avgörande eller spelar så särskilt stor roll. Men vi måste stanna upp och titta på de här aspekterna.

Hon menar att det finns många forskningsetiska aspekter som är värda att diskutera i större utsträckning.

– Det finns forskning som rakt igenom är etiskt förkastlig och som vi alla kan vara överens om inte är okej. Men det mesta ligger i en gråzon.

Ett exempel på etiskt tvivelaktig forskning som fått positiva konsekvenser är de livskraftiga HeLa-cellerna. De här cellerna isolerades från en livmoderhalscancer och har använts inom medicinsk forskning sedan 1950-talet, trots att donatorn inte gav sitt informerade samtycke.

Jessica Nihlén Fahlquist ger också exempel på forskning med goda avsikter som kan riskera att få negativa konsekvenser. Som när man rekonstruerade spanska sjukan för att motverka en pandemi, men där forskningsresultaten även skulle kunna användas för onda syften som bioterrorism.

– Sen finns det också forskning där vi har väldigt mycket osäkerhet kring hur det kommer påverka till exempel samhället och miljön, säger hon.

Vissa fält har kommit längre

Vissa forskningsfält har kommit längre än andra när det gäller forskningsetik, anser Olle Häggström och nämner bioetik och medicinsk etik, som idag är väletablerade ämnen. Andra områden ligger långt efter.

– Artificiell intelligens (AI) är ett exempel. Utvecklingen av den här tekniken för autonoma massförstörelsevapen behöver tas på ofantligt mycket större allvar än vad som är fallet idag.

Även i icke-militära sammanhang kan AI-forskningen, om den blir tillräckligt framgångsrik, resultera i att vi får maskiner som har högre intelligens än människan, menar han.

– Då finns det mycket som tyder på att vi inte kommer att kunna behålla kontrollen. Går det fel då kan det gå hur fel som helst.

Forskare bör följa en moralregel

Olle Häggström lyfter fram två olika sätt att se på forskning. Det första är det så kallade akademisk-romantiska synsättet.

– Det är något som jag haft nära till själv, men på senare tid börjat ifrågasätta. Det går ut på att själva sanningen och sanningssökandet är något nästan heligt. Inget får komma i vägen för den nyfikenhetsdrivna forskaren.

Han kontrasterar det mot det ekonomistisk-vulgära synsättet där forskningen ses som ett redskap för att skapa innovationer i industrin och stärka ekonomi och konkurrenskraft.

– Jag vill utmana båda synsätten och driver en tredje linje som handlar om ”klokskap och framsynthet” som för in risktänkande. Inom vissa ämnen syns det allt tydligare att forskningsresultat kan göra världen sämre snarare än bättre. Forskningen måste ta hänsyn till det här.

Inom ramen för det här synsättet har han formulerat en moralregel som lyder:
”Det kan aldrig vara acceptabelt att bedriva forskning vars risk att störta mänskligheten i fördärv och utplåning inte uppvägs av dess potential att skapa mänsklig blomstring och välfärd. Ej heller går det an att inleda ett forskningsprojekt utan att noggrant och uppriktigt ha övervägt denna aspekt.”

Men hur avgör man vilka konsekvenser forskningen kan få och vem ska göra den bedömningen?

– Konsekvensanalyser är svåra att göra, men det är inte en ursäkt för att strunta i det. Forskare behöver så gott de kan systematiskt tänka kring olika effekter, scenarier och göra rimlighetsanalyser. Man ska inte ge sig in på forskning utan att ha gjort det här.

Många parter kan göra en insats

Olle Häggström anser att det också behövs strukturer i samhället som slår vakt om att forskarna efterlever principen.

– Det finns många parter som kan göra en insats. Forskningsråd, forskningsstiftelser, universitet och företag med forskningsavdelningar liksom politiker.

Jessica Nihlén Fahlquist och Olle Häggström menar båda att samtalet kring forskningsetik också behöver breddas så att även allmänheten blir delaktig i större utsträckning.

– Vi väljer väg när det gäller vetenskaplig och teknisk utveckling och valet har en avgörande påverkan på hur samhället blir, säger Olle Häggström.

Hur kan vi minska risken för etiska övertramp, som i Macchiarini-fallet?

Jessica Nihlén Fahlquist anser att man måste börja utveckla den forskningsetiska diskussionen redan i grundutbildningen och skapa en tillåtande miljö där man får kritisera, reflektera och diskutera.

– Macchiarini-fallet var en sorts ”Kejsarens nya kläder”-situation, där ingen vågade ifrågasätta. Vi behöver ha en tillåtande forskningskultur där nya forskare får med sig ett kritiskt tänkande och vågar ifrågasätta seniora forskare.

Diskutera etiska aspekter

Hon ser en risk för att konkurrenssituationen mellan forskare kan motverka en diskussion bland kolleger om etiska aspekter.

– Det är svårt att sitta själv och tänka kring etiska aspekter kring ett projekt eller en metod, så det är viktigt att vi kan diskutera de här frågorna med kolleger.

Olle Häggström föreslår en nationell, eller ännu hellre internationell instans, med uppgift att kartlägga forskningens risker och möjligheter. En förebild är FN:s klimatpanel Intergovernmental Panel on Climate Change (IPCC).

– IPCC bestämmer inte vilken klimatpolitik vi ska föra i världen, men panelen ger ett faktaunderlag. Det vore bra med en liknande funktion, i till exempel FN-regi, som arbetar med att ta fram så bra faktaunderlag som möjligt när det gäller konsekvenser av vetenskaplig och teknisk utveckling.

Formas frukostseminarium om forskning på gott och ont Länk till annan webbplats.