Ny AI-modell bättre än experter – men läkarna får inte lita helt på tekniken

Han har ägnat de fem senaste åren åt att ta reda på vad AI betyder för forskning och forskarvärlden. Thomas Schön är Beijerprofessor i artificiell intelligens vid Uppsala universitet och vetenskaplig ledare för det femåriga projektet AI4Research.

– Den absolut viktigaste insikten är att potentialen för AI inom vetenskaperna är enorm och så även utmaningarna. Det blir en spännande och viktig balansgång för oss människor att lära oss att handskas med teknologin, säger han.

Sedan 2020 har ett 20-tal forskare om året drivit sina projekt inom AI4Research på universitetsbiblioteket Carolina Rediviva. Varje år byts forskarna ut för att skapa förnyelse, både inom forskning och utbildning.

– En spännande grej med AI är att jag får leka med vem jag vill. När AI används inom forskning behövs många olika kompetenser. Det kan vara allt från läkare till forskare med kunskaper inom etik, säger Thomas Schön.

Både grundforskning och tillämpad forskning

Han menar också att det är kombinationen av tillämpad forskning och grundforskning som leder vetenskapen – och i det här fallet AI-utvecklingen – framåt.

När AI används inom forskning behövs många olika kompetenser. Det kan vara allt från läkare till forskare med kunskaper inom etik.

– Vi har inte haft tillräckligt med grundforskning i Sverige och har halkat efter andra länder i AI-utvecklingen. Tack vare Knut och Alice Wallenbergs stiftelse finns nu medel genom programmet WASP, vilket är en fantastisk start. En fördel som Sverige har gentemot andra länder är att vi är vana vid samarbeten mellan akademi och industri.

Läs också i Curie: Dags att sätta fart om Sverige ska bli ledande inom AI

Han ser ingen större skillnad mellan samarbeten inom akademin eller mellan akademin och industrin. Allt handlar om att ha ett gemensamt mål.

– Det måste finnas en tillräcklig samsyn om vägen framåt för att vi ska kunna samexistera utifrån samma mål, då är det inget som skiljer ett projekt tillsammans med ABB Robotics från en akademisk forskargrupp.

Stor potential för AI inom de flesta ämnen

Vilka blir då de viktigaste tillämpningarna av AI-forskningen – industrirobotar eller cancerdiagnostik? Thomas Schön ser en stor potential inom de flesta ämnen och forskningsområden.

– AI kan hjälpa oss att navigera stora datamängder. Det kan också handla om att gå igenom stora textmängder eller att kunna tolka utdöda språk. Sedan finns tillämpningar inom industrin, som självkörande labb inom läkemedelsutveckling eller att använda AI för att optimera batterier inom industrin.

Inom sjukvården skulle AI till exempel kunna användas som stöd för att fatta beslut på en akutmottagning eller hjälpa läkare med diagnosticering och behandling.

– Medicinska AI-modeller måste svara upp på höga krav och allt måste göras på rätt sätt med etiska prövningar och tillstånd. Samtidigt är vi i ett läge där vi människor blir fler och fler och äldre och äldre, då behöver sjukvården ett bättre stöd än vad som finns idag.

Vi måste komma ihåg att den här teknologin inte tänker, utan den räknar. Då måste vi se till att data används på rätt sätt ...

Thomas Schön menar att en viktig pusselbit i all AI-forskning är att visa vad tekniken gör med oss människor och samhället i stort.

–Vi måste komma ihåg att den här teknologin inte tänker, utan den räknar. Då måste vi se till att data används på rätt sätt och att teknologin byggs enligt våra mänskliga värderingar. Den stora risken är om tekniken hamnar i fel händer, eftersom den är så kraftfull och till exempel kan användas för påverkan på individnivå.

Kan skilja godartade tumörer från cancer

En forskare som redan har börjat tillämpa sin AI-modell är Elisabeth Epstein, professor vid Karolinska institutet (KI) och överläkare på kvinnokliniken vid Södersjukhuset i Stockholm. Tillsammans med sitt forskarteam har hon tagit fram en AI-modell som utifrån ultraljudsbilder kan skilja godartade tumörer från cancer.

– Äggstockscancer är svår att diagnosticera. Det leder till onödiga remisser, onödiga operationer och oro hos patienterna. Den största vinsten med vår modell både för patienter och sjukvården är en stor potentiell minskning av onödiga remisser och operationer, säger hon.

Läs också i Curie: AI-forskaren ger läkarna verktyg

När Elisabeth Epstein omkring 2018 började tänka i termer av att automatisera bedömningen av ultraljudsbilder visste hon inte hur hon skulle gå vidare.

– Filip Christiansen, som idag är min högra hand, läste då teknisk fysik på KTH och hjälpte mig att hitta samarbetspartner. Idag har vi byggt upp en forskargrupp som består av både läkare och ingenjörer som håller på med maskininlärning. Det behövs många olika kompetenser för att ta fram en trygg och säker AI-modell.

Måste få träna på stora mängder data

Det krävs också att AI-modellen får träna på stora mängder data. Epsteins forskargrupp började med några hundra ultraljudsbilder från Karolinska universitetssjukhuset och Södersjukhuset. Men för att ta fram en modell som kunde göra träffsäkra bedömningar av äggstockscancer behövdes många fler bilder.

Det ledde till en stor internationell studie med över 17 000 ultraljudsbilder från 20 olika sjukhus i 8 länder. Den studien har nu publicerats i Nature Medicine.

... diagnostiska bedömningar bör aldrig helt överlåtas på en modell. Därför måste vi hitta bra sätt att samarbeta med tekniken.

Till sist uppnåddes en träffsäkerhet på drygt 86 procent, jämfört med drygt 82 procent hos erfarna experter och knappt 78 procent hos mindre erfarna läkare.

– Jag har jobbat med den här diagnosen i 25 år. I början var jag den enda som AI-modellen inte kunde överträffa, men i slutändan var även jag ”ute i kylan”. Vår AI är överlag ”bättre” än mänskliga experter, men diagnostiska bedömningar bör aldrig helt överlåtas på en modell. Därför måste vi hitta bra sätt att samarbeta med tekniken. Annars finns risken att vi gör läkarna mindre kritiska om de helt litar på vår modell, säger Elisabeth Epstein.

Testa AI-modellen i verkligheten

Nästa steg är att testa AI-modellen i verkligheten på Södersjukhusets kvinnoklinik för att ta reda på vad läkare och patienter tycker.

– Det räcker inte med att vår modell är mer träffsäker än erfarna läkare. Den måste också vara enkel att använda för läkarna och kännas trygg för patienterna, säger Filip Christiansen, som är anställd på Södersjukhuset som en del i sin doktorandutbildning vid Karolinska institutet.

Han tycker också att många av dagens vetenskapliga studier om tillämpningar av AI inom sjukvården inte håller tillräckligt hög kvalitet.

Det räcker inte med att vår modell är mer träffsäker än erfarna läkare. Den måste också vara enkel att använda för läkarna och kännas trygg för patienterna.

– Jag har granskat omkring 25 artiklar för en vetenskaplig tidskrift, men få håller måttet. Ofta är metodologin bristfällig eller så saknas klinisk relevans. Det behövs bättre tvärvetenskaplig samverkan mellan experter inom maskininlärning och forskare inom andra discipliner, till exempel mellan KTH och Karolinska institutet.

Startat företag och sökt patent

Parallellt med forskningen har Elisabeth Epstein och Filip Christiansen grundat företaget Intelligyn och sökt patent för sin AI-modell. Patentansökan innebar att publiceringen av deras forskningsresultat fördröjdes något.

– Vi fick vänta med att skicka in vår artikel i några veckor tills dess att vi hade fått in patentansökan för vår AI-teknik, säger hon.

En annan utmaning är att det tar mycket tid och resurser att utveckla AI-modeller.

– Huvudspåret är att forska men vi är också angelägna om att resultaten når ut till klinikerna. Jag känner ett visst ansvar för att göra det själv eftersom jag vet att vi gör högkvalitativa modeller. Det är dock mycket mer komplicerat att kommersialisera forskningsresultat än jag trodde. I slutändan handlar det om pengar, men jag hoppas det blir lite lättare att hitta finansiärer efter artikeln i Nature Medicine säger Elisabeth Epstein.

Fotnot: Beijerprofessuren i AI inrättades genom en donation från Beijerstiftelsen.