Replik: Risken är att AI upphöjer brus till orakelsvar

Vilken roll ska AI spela i ansökningsprocessen? Debatten i Tidningen Curie började med ett par inlägg som argumenterade kraftigt för att använda AI vid granskningen av ansökningar. Debattörerna önskade dessutom en rejäl tekniksatsning för att stödja detta.

I mina ögon är den entusiasmen snarast ett tecken på att nu rådande system för forskningsfinansiering har urartat.

AI, vilket här måste förstås som synonymt med stora språkmodeller, är inget orakel. Att ge en uppgift till en chatrobot är ungefär som att hyra in en reklambyrå, fast roboten är billigare, snabbare och förtrogen med fler och mer specifika genrer än traditionella hyrpennor.

Skulle det vara okej för en expert i en bedömningspanel att hyra in en byrå för att sammanfatta de ansökningar vederbörande ska granska, så att hen inte behöver läsa så mycket text? Skulle det vara okej ens att be en disputerad kollega göra sammanfattningen? Förmodligen inte, så varför vore det då plötsligt okej att en maskin gör samma arbete istället? Experten är ju inbjuden för att använda sin egen kunskap till att ta ett beslut, inte för att låna ut sitt namn och renommé till en konsult.

Att ge en uppgift till en chatrobot är ungefär som att hyra in en reklambyrå.

Analogin att det minsann är okej att ta hjälp av AI för att skriva ansökningar är falsk. Det har alltid varit accepterat att någon annan hjälper till att skriva ansökan, förmodligen har det också funnits de som systematiskt lagt ut hela jobbet på, kanske inte en extern byrå, men väl en stab av medhjälpare. Här ser vi bara ännu ett exempel på hur teknikutveckling har ändrat ekonomiska förhållanden och därmed gjort etablerade mönster ohållbara genom att deras avarter kan bli allmänt förekommande. Förmodligen borde vi redan tidigare ha ifrågasatt de mönstren, men nu tvingas vi till det.

Ett problem som akademin stöter på i förhållande till AI är att man tidigare vid bedömningar ofta tagit stor hänsyn till form: Om något såg proffsigt ut, då var det förmodligen skrivet av någon som kunde sin sak och hade något vettigt att säga. Vad emellertid många nu upptäckt – om inte annat, så vid rättning av studentarbeten – är att AI utmärkt väl kan matcha den vetenskapliga formen men däremot har problem med innehållet och i synnerhet logiken. Det kan dock ta emot att erkänna detta, då det går emot inarbetade romantiska föreställningar om vad Artificiell Intelligens ska vara bra respektive dålig på. Verklig AI kan uppvisa god stilkänsla, men den har svårare för saklig argumentation.

Det vore då bättre att låta lotten bestämma, för den gör inte systematiska fel.

Arne Flåøyen är i sitt inlägg snarast nyktert kritisk och gör flera skarpa iakttagelser. Ytterst är frågan hur forskningsmedel ska fördelas. AI-putsning av texten innebär att ansökningarna blir mer likvärdiga vad det gäller form. Samtidigt råder det ett starkt tryck från policymakare att man ska sortera fram de allra bästa, eftersom den rådande dogmen är att forskningsmedel bör koncentreras till spetsen. Om det då finns en ganska stor tätgrupp vars ansökningar alla är utmärkta, men som ändå måste bantas ned till några få, är faran betydande att bedömarna låter omständigheter utan bäring i sak fälla avgörandet. (Det vore då bättre att låta lotten bestämma, för den gör inte systematiska fel.)

Hoppet hos många AI-entusiaster är att AI ska lyckas fånga upp en kvalitetssignal som människor inte uppfattar, men risken är betydande att AI bara råkar förstärka ett brus. Eftersom AI i praktiken är en svart låda så är det ingen som kan säga vad den reagerar på, i synnerhet inte i tillämpningar där användaren heller inte kan förklara vad som skulle vara rätt svar. Proklamationer om att man ska ha ”säker” AI kan låta betryggande, men det är sällan tydligt vad detta betyder, eller om talaren ens själv vet vad hen menar.

Om något såg proffsigt ut, då var det förmodligen skrivet av någon som kunde sin sak och hade något vettigt att säga.

Motsatsen till att satsa stort på en undflyende ”spets” eller ”excellens” är att satsa mindre på flera olika saker. Ser man bakåt är det inte ovanligt att de stora genombrotten, som blev exempelvis Nobelpris, inte gjordes av dem som enligt samtidens bedömning hörde till spetsen. Hur många av dessa skulle alls ha haft forskningsmedel, om dagens system för medelstilldelning rått där och då?

En annan faktor är balansen mellan forskning och utbildning. Det råder total enighet om att högre utbildning ska vara forskningsanknuten, men samtidigt finns på många ställen en polarisering mellan lektorer som (överdrivet) har 100 procent forskning och lektorer som har 100 procent undervisning. Så fort någon har fått forskningsmedel kräver finansiären att forskaren sätter full fart på forskningen, så undervisningen landar på kollegor utan forskningsbidrag.

En forskande lektor kan knappt ens vikariera för en kollega som blivit sjuk, för bidragsgivaren kräver att forskningsmedlen ska förbrukas i planerad takt. Ett projekt är sällan så långt som en normal doktorsutbildning, så ska man ha en doktorand vill det till att man kan säkra kompletterande medel för avslutningen. Och råka för allt i världen inte ut för att Migrationsverket trasslar med doktorandens visumansökan, för då spricker tidplanen helt.

Verklig AI kan uppvisa god stilkänsla, men den har svårare för saklig argumentation.

Varför det ska vara så bråttom är oklart. Det finns en känsla av att forskning måste utföras nu, nu, nu – annars kommer någon annan före! Men forskning som ändå skulle bli gjord är kanske inte den mest angelägna att finansiera? Sådant som är nästa naturliga steg i en upptrampad huvudfåra, det kan man förstå om många är beredda att ge sig i kast med, men det är sällan där vi ser de stora genombrotten. Framsteg kräver ofta att man gör något annorlunda, även om enbart det knappast är tillräckligt.

Att överväga andra former för ansökningar kan vara en god idé, men att (som Flåøyen framkastar) göra korta videoklipp till en viktig komponent i ansökan torde endast glädja bidragsgivarnas PR-avdelningar, som serveras färdigt ”content”. En idé som väl låter sig förklaras i ett kort videoklipp, den är sannolikt till största delen välbekant för den tänkta publiken och således en smärre variation på redan kända förslag. Vidare så lär det bara vara en tidsfråga innan allmänt tillgängliga AI-tjänster kan producera minutlånga deepfejkar av den sökande. Då blir video bara ytterligare ett medium där AI kan ha gjort hela jobbet.

Jag skulle istället föreslå en mindre variation på den klassiska muntan som alternativ utvärdering.

Jag skulle istället föreslå en mindre variation på den klassiska muntan som alternativ utvärdering: Den sökande har att förklara sitt förslag för en (eller flera) granskare, som interaktivt ställer frågor. Parterna bör i förväg ha kommit överens om vad de ska ta som allmänt känt; en granskare kan behöva fräscha upp sin bekantskap med ett specialområde, eller omvänt säga ifrån att den punkt den sökande tänkt utgå från i presentationen är alltför esoterisk. Den sökande kan ges tillfälle att efter presentationen återkomma med förtydliganden på punkter där granskarna under genomgången haft anmärkningar.

Ännu för ett decennium sedan skulle detta ha varit praktiskt svårt, om sökande och granskare arbetar på olika orter, men idag är videomöten en vardagssak. Mervärdet ligger i interaktionen. Frågetecken kan rätas ut, istället för att få ligga och skava. Den sökande kan utmanas, och på det viset prövas. Om detta också skulle försvåra för en liten grupp av storfräsare som tidigare plägat leja ut sitt ansökande, så är jag inte ledsen för det.

Lars Hellström, universitetslektor, institutionen för ekonomi och matematikMälardalens universitet