Stort sug efter riktlinjer för ChatGPT

– Universiteten är kända för att jobba långsamt och vi försöker möta de behov som finns just nu för att på sikt bygga resurser som är mer öppet tillgängliga, säger Mattias von Feilitzen.

Han tror att det kommer att ske en självreglering.

– Jag har svårt att se att det kan formuleras en övergripande policy eller ett nytt regelverk, utan enskilda lärare och lärarlag kan behöva hantera det här på egen hand. Det skulle bli för svårt att formulera på en generell nivå. Det handlar snarare om att upplysa om vilka problem som finns och vilka examinationsformer som är påverkade.

Avråder från ChatGPT för forskningsfrågor

Hittills har han varit inblandad i ett tjugotal seminarier om ChatGPT på institutioner och enskilda program, och han beskriver behovet som enormt. Lärare hör av sig nästan dagligen, för att få stöd och för att få svar på specifika frågor.

Ett par timmar före vår intervju fick han ett samtal från en handledare om en doktorand som undrade om hen kunde använda ChatGPT för att arbeta fram forskningsfrågor.

– Jag avrådde från det. Att ta fram en forskningsfråga är en kompetens som man ska ha själv och inte använda en AI-tjänst för att lösa. Det visar att vi redan nu är på väg in i gråzonerna.

Också lärarna vid Stockholms universitet visade en tydlig oro efter lanseringen av ChatGPT den 30 november 2022. Det säger Clas Hättestrand, prorektor vid Stockholms universitet.

– Det dröjde inte många dagar efter att ChatGPT hade släppts innan det började bli ganska mycket diskussion och vi anade att det skulle komma en hel del frågor från medarbetarna.

Snart tillsatte rektor en arbetsgrupp som fick två uppgifter. Dels att skyndsamt ta fram en vägledning, dels att ta fram förslag på vilka åtgärder universitetet kan behöva vidta i ett längre perspektiv. I arbetsgruppen finns representanter från fakulteterna för att få med alla ämnen. För att få med olika perspektiv består gruppen av studenter, forskare och representanter från ledningen.

Tog fram riktlinjer för AI-drivna chattbotar

Vägledningen togs fram på en månad och publicerades i början av mars. Innan vårterminens slut ska arbetsgruppen komma med förslag på åtgärder i ett längre perspektiv.

Cormac McGrath, lektor vid institutionen för pedagogik och didaktik vid Stockholms universitet, ingick i arbetsgruppen. Han är också en av forskarna i ett forskningsprojekt om användningen av AI i den högre utbildningen. Nyligen genomförde de ett experiment med lärare från fyra institutioner. Lärarna fick läsa texter utan att veta om de var genererade av en chattbot eller skrivna av studenter och snabbt bedöma huruvida de skulle få godkänt.

– Vi kunde se att i ganska stor utsträckning så kunde en text från chattboten få godkänt, säger Cormac McGrath.

Han tror att chattbotarnas intåg kommer att påverka lärarnas inställning till texterna.

– Vi har anledning att tro att lärare som misstänker chatbotpåverkan kommer att läsa texter skrivna av studenter ännu mer kritiskt.

Efter publiceringen av vägledningen har innehållet kommunicerats till personal och studenter, bland annat under en temadag. Universitetet har också haft flera workshops och den egna webbsändningen Panorama har ägnat ett program åt ChatGPT.

Ett av de råd som ges i vägledningen är att undvika oövervakade hemtentor. Ifall det inte går kan hemtentan kompletteras med till exempel muntliga förhör eller salsskrivningar.

Curie är en tidning för dig som jobbar med forskning. Prenumerera här!

Det konkreta arbetet med att anpassa undervisningen och examinationerna efter de nya verktygen pågår just nu ute på institutionerna.

Det är inte så att man har infört nya examinationsformer utan det handlar till exempel om hur man utformar hemtentamen.

– Framför allt tror jag att diskussionen om det här har tagit fart ordentligt, men kursplaner tar tid att ändra. Det är inte så att man har infört nya examinationsformer utan det handlar till exempel om hur man utformar hemtentamen, säger Clas Hättestrand.

Lunds universitet har liksom kollegorna i Stockholm tillsatt en arbetsgrupp. Uppgiften är att se över examinationsformerna och ge stöd åt lärarna. Gruppen har tagit fram allmänna rekommendationer och ett stöd i form av artiklar och filmer under samlingsrubriken Stöd för digital undervisning. Där finns också en sammanställning av frågor och svar om AI-verktyg.

ChatGPT:n föreslår själv riktlinjer

När Curie frågar ChatGPT själv vilka riktlinjer lärosätena bör sätta upp för att undvika fusk genom att använda den, svarar den diplomatiskt: ”Det är viktigt att notera att jag inte är en pålitlig källa för fakta i sig själv, utan snarare en hjälpreda för att stödja inlärning och produktivitet. Med det sagt är det viktigt för lärosätena att sätta upp tydliga riktlinjer och policyer för att undvika fusk genom att använda mig.”

I faktarutan nedan ger GPT:n sina förslag på riktlinjer.

Rachel Forsyth, projektledare vid Lunds universitet, ser både utmaningar och möjligheter med de nya AI-verktygen. En möjlighet är att öka svårighetsgraden på studenternas uppgifter och på så sätt höja nivån på utbildningen.

Etiska problem med chattbotar

Rachel Forsyth ser också stora etiska problem med verktygen.

– Det finns stora utmaningar med den data som verktygen använder. Vi vet inte hur datan används, vad den innehåller eller om den data som matas in är skyddad.

I slutet av mars stängdes ChatGPT ner i Italien, som svar på den italienska dataskyddsmyndighetens integritetsproblem – detta problem har sedan dess lösts. Det har också funnits användarproblem efter att företaget som utvecklade den, Open AI, upptäckte en bugg som orsakade en läcka av information om användares konversationer och även kontouppgifter.

Vi vet inte hur datan används, vad den innehåller eller om den data som matas in är skyddad.

En annan fråga är vem som ska bestämma innehållet i den data som verktygen använder för att lära sig.

– Kommer det att bli möjligt för stater att påverka den här informationen? Vi måste ha en öppen diskussion om hur vi hanterar den här processen, säger Rachel Forsyth.

AI-verktygen kan höja nivån på utbildningen

Fredrik Heintz, professor vid institutionen för datavetenskap vid Linköpings universitet, är inne på samma linje som Rachel Forsyth: att ai-verktygen kan användas för att höja nivån på utbildningen.

– Vi har en möjlighet och kanske en skyldighet att se till så att nivån på utbildningen är så hög att den genomsnittliga studenten ligger över eller i nivå med vad verktygen kan prestera, säger Fredrik Heintz.

AI-verktygen för också med sig nya färdigheter som studenterna kan träna upp, som att förfina användandet av dialogen med chatverktyget och lära sig hur man använder olika ord för att styra svaren i en viss riktning.

– Det här med att skriva själva texten blir mindre intressant och det blir viktigare att kritiskt granska och verifiera att texten är korrekt, och ta fram argument för att styrka att det som står är sant. Det är sådana saker som verktygen är dåliga på idag.

Lanseringen av ChatGPT gav upphov till en febril aktivitet och en mängd frågor. Många i universitetsvärlden tycks ha blivit tagna på sängen.

– Det är svårt att föreställa sig saker som kan hända och jag tror att de flesta trodde att det här skulle ligga längre bort i tiden, säger Fredrik Heintz.

Läs mer:

Vägledning om användning av AI-drivna chattbotar vid utbildning och forskning (Stockholms universitets webbplats) Länk till annan webbplats.

Webbsändningen Panorama ägnar ett program åt ChatGPT (Stockholms universitets webbplats) Länk till annan webbplats..

Generativa AI-verktyg | För lärande i en digital värld (Lunds universitets webbplats) Länk till annan webbplats.

Chatbotar och annan AI för lärande: En undersökning om användning och åsikter bland universitetsstudenter i Sverige (Chalmers), (Engelska) Länk till annan webbplats.

Läs också i Curie:

AI-forskaren ger läkarna verktyg (Curie)