Logotyp Curie - samtal om forskningens villkor
En hand pekar med pekfingret på en datorskärm med chattkonversation med ChatGPT.

"Förbjud användning av AI-modeller i utvärderingar." Det är ett av ChatGPT:s egna förslag när redaktionen frågor om riktlinjer för universitetslärare. Foto: Eva Barkeman

NYHET

Stort sug efter riktlinjer för ChatGPT

Fusk eller hjälp? Möjligheterna med AI-verktyg som ChatGPT har tagit universiteten på sängen. Några universitet håller på att ta fram riktlinjer, andra låter det vara upp till enskilda lärare att hantera. Curie har även frågat chatten själv.

Det började i slutet av 2022. Lärare hörde av sig och var oroliga över chatboten ChatGPT som hade släppts under hösten och nu spred sig bland studenterna. Hur stor var risken för fusk? Skulle det ens gå att använda sig av hemtentor längre?

Mattias von Feilitzen, pedagogisk utvecklare vid institutionen för tillämpad IT vid Göteborgs universitet, var den som fick ta hand om lärarnas oro. Han är knuten till PIL-enheten (Pedagogisk utveckling och interaktivt lärande) som ska ge stöd till lärare som vill utveckla sin undervisning med digitala verktyg.

Studenter fuskar med hjälp av ChatGPT

Fyra månader senare säger han att de fortfarande befinner sig i något som kan kallas akutläge. Oron har inte minskat, snarare tvärtom. Göteborgs universitet är bara ett av många lärosäten där disciplinnämnden har anmält studenter för misstänkt fusk med hjälp av ChatGPT. I Göteborg handlar det om två lärarstudenter vars hemtentor väckte lärarnas misstankar i april, bland annat för att texten innehöll helt påhittade citat och ett språk som läraren bedömde var orimligt.

Göteborgs universitet tillhör inte de lärosäten som har tagit fram en central vägledning.

Man med bakåtkammat hår och kort skägg.

Mattias von Feilitzen.

– Universiteten är kända för att jobba långsamt och vi försöker möta de behov som finns just nu för att på sikt bygga resurser som är mer öppet tillgängliga, säger Mattias von Feilitzen.

Han tror att det kommer att ske en självreglering.

– Jag har svårt att se att det kan formuleras en övergripande policy eller ett nytt regelverk, utan enskilda lärare och lärarlag kan behöva hantera det här på egen hand. Det skulle bli för svårt att formulera på en generell nivå. Det handlar snarare om att upplysa om vilka problem som finns och vilka examinationsformer som är påverkade.

Avråder från ChatGPT för forskningsfrågor

Hittills har han varit inblandad i ett tjugotal seminarier om ChatGPT på institutioner och enskilda program, och han beskriver behovet som enormt. Lärare hör av sig nästan dagligen, för att få stöd och för att få svar på specifika frågor.

Ett par timmar före vår intervju fick han ett samtal från en handledare om en doktorand som undrade om hen kunde använda ChatGPT för att arbeta fram forskningsfrågor.

– Jag avrådde från det. Att ta fram en forskningsfråga är en kompetens som man ska ha själv och inte använda en AI-tjänst för att lösa. Det visar att vi redan nu är på väg in i gråzonerna.

Också lärarna vid Stockholms universitet visade en tydlig oro efter lanseringen av ChatGPT den 30 november 2022. Det säger Clas Hättestrand, prorektor vid Stockholms universitet.

Man med bakåtkammat hår, ljus skjorta och mörk kavaj.

Clas Hättestrand. Foto: Sören Andersson

– Det dröjde inte många dagar efter att ChatGPT hade släppts innan det började bli ganska mycket diskussion och vi anade att det skulle komma en hel del frågor från medarbetarna.

Snart tillsatte rektor en arbetsgrupp som fick två uppgifter. Dels att skyndsamt ta fram en vägledning, dels att ta fram förslag på vilka åtgärder universitetet kan behöva vidta i ett längre perspektiv. I arbetsgruppen finns representanter från fakulteterna för att få med alla ämnen. För att få med olika perspektiv består gruppen av studenter, forskare och representanter från ledningen.

Tog fram riktlinjer för AI-drivna chattbotar

Vägledningen togs fram på en månad och publicerades i början av mars. Innan vårterminens slut ska arbetsgruppen komma med förslag på åtgärder i ett längre perspektiv.

Cormac McGrath, lektor vid institutionen för pedagogik och didaktik vid Stockholms universitet, ingick i arbetsgruppen. Han är också en av forskarna i ett forskningsprojekt om användningen av AI i den högre utbildningen. Nyligen genomförde de ett experiment med lärare från fyra institutioner. Lärarna fick läsa texter utan att veta om de var genererade av en chattbot eller skrivna av studenter och snabbt bedöma huruvida de skulle få godkänt.

Mörkhårig man med svarta glasögonbågar.

Cormac McGrath.

– Vi kunde se att i ganska stor utsträckning så kunde en text från chattboten få godkänt, säger Cormac McGrath.

Han tror att chattbotarnas intåg kommer att påverka lärarnas inställning till texterna.

– Vi har anledning att tro att lärare som misstänker chatbotpåverkan kommer att läsa texter skrivna av studenter ännu mer kritiskt.

Efter publiceringen av vägledningen har innehållet kommunicerats till personal och studenter, bland annat under en temadag. Universitetet har också haft flera workshops och den egna webbsändningen Panorama har ägnat ett program åt ChatGPT.

Ett av de råd som ges i vägledningen är att undvika oövervakade hemtentor. Ifall det inte går kan hemtentan kompletteras med till exempel muntliga förhör eller salsskrivningar.

Curie är en tidning för dig som jobbar med forskning. Prenumerera här!

Det konkreta arbetet med att anpassa undervisningen och examinationerna efter de nya verktygen pågår just nu ute på institutionerna.

Det är inte så att man har infört nya examinationsformer utan det handlar till exempel om hur man utformar hemtentamen.

– Framför allt tror jag att diskussionen om det här har tagit fart ordentligt, men kursplaner tar tid att ändra. Det är inte så att man har infört nya examinationsformer utan det handlar till exempel om hur man utformar hemtentamen, säger Clas Hättestrand.

Lunds universitet har liksom kollegorna i Stockholm tillsatt en arbetsgrupp. Uppgiften är att se över examinationsformerna och ge stöd åt lärarna. Gruppen har tagit fram allmänna rekommendationer och ett stöd i form av artiklar och filmer under samlingsrubriken Stöd för digital undervisning. Där finns också en sammanställning av frågor och svar om AI-verktyg.

ChatGPT:n föreslår själv riktlinjer

När Curie frågar ChatGPT själv vilka riktlinjer lärosätena bör sätta upp för att undvika fusk genom att använda den, svarar den diplomatiskt: ”Det är viktigt att notera att jag inte är en pålitlig källa för fakta i sig själv, utan snarare en hjälpreda för att stödja inlärning och produktivitet. Med det sagt är det viktigt för lärosätena att sätta upp tydliga riktlinjer och policyer för att undvika fusk genom att använda mig.”

I faktarutan nedan ger GPT:n sina förslag på riktlinjer.

Rachel Forsyth, projektledare vid Lunds universitet, ser både utmaningar och möjligheter med de nya AI-verktygen. En möjlighet är att öka svårighetsgraden på studenternas uppgifter och på så sätt höja nivån på utbildningen.

Etiska problem med chattbotar

Rachel Forsyth ser också stora etiska problem med verktygen.

– Det finns stora utmaningar med den data som verktygen använder. Vi vet inte hur datan används, vad den innehåller eller om den data som matas in är skyddad.

I slutet av mars stängdes ChatGPT ner i Italien, som svar på den italienska dataskyddsmyndighetens integritetsproblem – detta problem har sedan dess lösts. Det har också funnits användarproblem efter att företaget som utvecklade den, Open AI, upptäckte en bugg som orsakade en läcka av information om användares konversationer och även kontouppgifter.

Vi vet inte hur datan används, vad den innehåller eller om den data som matas in är skyddad.

En annan fråga är vem som ska bestämma innehållet i den data som verktygen använder för att lära sig.

– Kommer det att bli möjligt för stater att påverka den här informationen? Vi måste ha en öppen diskussion om hur vi hanterar den här processen, säger Rachel Forsyth.

AI-verktygen kan höja nivån på utbildningen

Fredrik Heintz, professor vid institutionen för datavetenskap vid Linköpings universitet, är inne på samma linje som Rachel Forsyth: att ai-verktygen kan användas för att höja nivån på utbildningen.

Man med sidbena, rosa skjorta och mörk kavaj.

Fredrik Heintz.

– Vi har en möjlighet och kanske en skyldighet att se till så att nivån på utbildningen är så hög att den genomsnittliga studenten ligger över eller i nivå med vad verktygen kan prestera, säger Fredrik Heintz.

AI-verktygen för också med sig nya färdigheter som studenterna kan träna upp, som att förfina användandet av dialogen med chatverktyget och lära sig hur man använder olika ord för att styra svaren i en viss riktning.

– Det här med att skriva själva texten blir mindre intressant och det blir viktigare att kritiskt granska och verifiera att texten är korrekt, och ta fram argument för att styrka att det som står är sant. Det är sådana saker som verktygen är dåliga på idag.

Lanseringen av ChatGPT gav upphov till en febril aktivitet och en mängd frågor. Många i universitetsvärlden tycks ha blivit tagna på sängen.

– Det är svårt att föreställa sig saker som kan hända och jag tror att de flesta trodde att det här skulle ligga längre bort i tiden, säger Fredrik Heintz.

Läs mer:

Vägledning om användning av AI-drivna chattbotar vid utbildning och forskning (Stockholms universitets webbplats) Länk till annan webbplats.

Webbsändningen Panorama ägnar ett program åt ChatGPT (Stockholms universitets webbplats) Länk till annan webbplats..

Generativa AI-verktyg | För lärande i en digital värld (Lunds universitets webbplats) Länk till annan webbplats.

Chatbotar och annan AI för lärande: En undersökning om användning och åsikter bland universitetsstudenter i Sverige (Chalmers), (Engelska) Länk till annan webbplats.

Läs också i Curie:

AI-forskaren ger läkarna verktyg (Curie)

Så svarar ChatGPT på Curies frågor

Curie: Hej! Hur tycker du att svenska studenter och universitetslärare ska använda sig av dig?

Svar: Hej! Som en språkmodell kan jag vara till hjälp för svenska studenter och universitetslärare på flera sätt. Till exempel hjälpa till att skriva akademiska texter, svara på frågor, översätta texter och hjälpa till med språkinlärning.

 

Curie: Med tanke på att det är svårt att veta dina källor, vilka riktlinjer bör lärosätena sätta upp för att undvika fusk genom att använda dig?

Svar: Som en AI-språkmodell är jag en digital resurs som inte har egna källor, utan jag använder en enorm mängd textdata för att generera svar. Det är viktigt att notera att jag inte är en pålitlig källa för fakta i sig själv, utan snarare en hjälpreda för att stödja inlärning och produktivitet.

Med det sagt är det viktigt för lärosätena att sätta upp tydliga riktlinjer och policyer för att undvika fusk genom att använda mig. Här är några förslag på riktlinjer:

  1. Förbjud användning av AI-modeller i utvärderingar: Lärosäten kan ha en strikt policy om att inte tillåta användning av AI-språkmodeller i samband med utvärderingar som t.ex. prov och tentor.
  2. Utbilda studenter om användning av AI: Det kan vara fördelaktigt för lärosäten att ge en kort utbildning till studenter om hur man använder AI-språkmodeller på ett lämpligt sätt för att undvika fusk.
  3. Förbättra instruktioner och riktlinjer: Lärosäten kan också förbättra instruktionerna och riktlinjerna för inlämningsuppgifter för att förtydliga vad som är tillåtet och inte tillåtet att använda, inklusive AI-språkmodeller.
  4. Använd verktyg för att upptäcka fusk: Lärosäten kan använda tekniska verktyg för att upptäcka fusk, såsom anti-plagiatprogram eller verktyg som upptäcker mönster i svar som kan tyda på användning av AI-språkmodeller.

Källa: New chat (openai.com) Länk till annan webbplats.

Så reagerar universiteten på ChatGPT

När ChatGPT lanserades i slutet av november 2022 blev många överraskade över hur kraftfullt verktyget var. Lärare vid universitet över hela världen frågade sig hur ai skulle påverka utbildningen och framför allt examinationen.

Här är några exempel på hur svenska universitet reagerade.

  • Stockholms universitet. Ledningen tillsatte snabbt en arbetsgrupp som dels tog fram en vägledning som publicerades i början av mars 2023, dels ska lämna förslag på hur regelverket kan anpassas.
  • Göteborgs universitet. Lärarnas frågor dirigerades till Mattias von Feilitzen och de andra pedagogiska utvecklarna vid PIL-enheten (Pedagogisk utveckling och interaktivt lärande) som ska ge stöd till lärare som vill utveckla sin undervisning med digitala verktyg.
  • Lunds universitet. Ledningen tillsatte en arbetsgrupp som fick i uppgift att se över examinationsformerna och ge stöd åt lärarna. Stödet finns i form av artiklar och filmer under samlingsrubriken Stöd för digital undervisning. Där finns också en sammanställning av frågor och svar om AI-verktyg.

Relaterat innehåll

Nyhet 20 mars 2024

Johan Frisk

Nämnden för prövning av oredlighet i forskning har avlastat lärosätena i arbetet kring anklagelser om forskningsfusk. Men både nämnden och de anmälda forskarna efterlyser mer stöd ...

Nyhet 20 mars 2024

Johan Frisk

Ett hundratal anmälningar om oredlighet har utretts de fyra senaste åren. Vad blir konsekvenserna av en fällning? Och vilket ansvar har en medförfattare för innehållet i en vetensk...

Nyhet 18 mars 2024

Charlie Olofsson

Som litet land är det svårt att konkurrera internationellt inom AI. De som driver på utvecklingen i Sverige ser ändå nischer där vi kan bli världsledande. − Jag tror att vi ska ha...