ChatGPT kommer att revolutionera mänskligt arbete – så påverkas skolans värld

Att använda ChatGPT i skolan har potential att revolutionera undervisningen och ge eleverna nya möjligheter till lärande. Samtidigt finns det också utmaningar med att använda denna teknik i skolmiljön, som exempelvis att säkerställa bedömningen av elevernas kunskapsnivåer och att upprätthålla undervisningens kvalitet. I denna analys kommer JP Infonets expert Charlotta Kronblad att utforska förutsättningarna för den artificiella intelligensens intåg i skolans värld och hur vi bäst kan förbereda oss inför detta. För övrigt är hela denna ingress skriven av ChatGPT, hade du märkt det själv?

VAD ÄR CHATGPT?

Ingen har väl missat ChatGPTs genomslag den senaste tiden. I vart fall har mitt flöde på LinkedIn och andra sociala medier fyllts av notiser, nyheter och förundran över detta digitala verktyg som väntas förändra sättet vi arbetar på. ChatGPT är ett verktyg för autogenerering av text, baserad på en stor språkmodell (Large Language Model / LLM). Verktyget lanserades av Open AI under senhösten 2022 och fick stor uppmärksamhet, och direkt över 100 miljoner användare. Om man jämför ChatGPT med en sökmotor, som exempelvis Google, ligger skillnaden i att ChatGPT ger dig ett färdigt svar. Om du ”googlar” på en fråga så kommer du få en lista med förslag på sidor där du själv får gå in och läsa dig fram till svaret. Då gör du jobbet, medan Google ger dig tillgång till källorna. ChatGPT innebär en klar effektivisering av detta. Istället för att du ska behöva gå in, läsa, utvärdera, analysera, sammanfatta och dra slutsatserna gör ChatGPT jobbet åt dig. Det låter den artificiella intelligensen verka i stället för den mänskliga, och skriver fram svaret i realtid.

Verktyget förutspås revolutionera hur vi arbetar, och hur vi skapar värde, i en mängd branscher. Och detta har vi inom utbildningssektorn redan fått känna på, bland annat genom att vi har behövt ställa om examinationssätt, exempelvis från hemtentor till salstentor, då vi kan förvänta oss att våra studenter är bland dem som använder verktyget, och att somliga av dem skulle kunna använda chatbotten för att svara på just hemtentafrågor (https://www.aftonbladet.se/nyheter/a/rl51pm/textrobotfusk-kan-motas-med-farre-hemuppgifter-i-skolan). Tester från USA visar att ChatGPT är rätt så bra på just det, så pass att den klarar allt från MBA-examen vid prestigefyllda Wharton till juridisk ”bar exam” i New York (https://www.businessinsider.com/list-here-are-the-exams-chatgpt-has-passed-so-far-2023-1?r=US&IR=T#the-uniform-bar-exam-2). Men innebär det att vi kan lita på resultaten, och att vi kan använda ChatGPT i vårt arbete, och i vår undervisning? Vem är det som tar ansvar om vi använder ett svar som ChatGPT har genererat och det svaret är fel? Detta är superintressanta frågor, som jag tänkte använda resterande del av denna text för att diskutera.

HUR KAN CHATGPT IMPLEMENTERAS I UNDERVISNING?

Det var i mitten av januari som JP Infonet hörde av sig till mig med förfrågan om jag kunde tänka mig att skriva något om ChatGPT. De skickade med ett förslag på frågeställning för analysen: Vilka rättsliga förutsättningar finns för att använda verktyg som t.ex. ChatGPT i undervisning, strider det mot några regelverk inom skolans område? Jag tänkte direkt: Vad intressant, så klart jag vill, och strax därefter: jag testar, jag låter ChatGPT skriva svaret. Fem minuter senare har jag skapat en användare på Open AI, och har följande svar i handen:

”Det kan finnas olika rättsliga förutsättningar för att använda verktyg som ChatGPT i undervisning, beroende på var i världen man befinner sig och vilken typ av undervisning det handlar om. I allmänhet kan det vara viktigt att överväga frågor som dataskydd och immateriella rättigheter.

Inom EU finns det exempelvis Dataskyddsförordningen (GDPR) som reglerar hur personuppgifter får behandlas. Detta kan innebära att det krävs samtycke från eleverna eller föräldrarna för att använda verktyg som ChatGPT i undervisningen.

Immateriella rättigheter som upphovsrätt och varumärkesrätt kan också vara relevanta att överväga. Det kan till exempel vara viktigt att säkerställa att man har rätt att använda eventuellt innehåll som används i samband med verktyget.

Det är viktigt att konsultera med en rättslig expert för att få råd om hur man ska hantera dessa frågor i det specifika fallet.”

Min bedömning är att detta autogenererade svar är helt ok. Jag noterar att tonen liknar den klassiska juristen som inte tar egentlig ställning utan anger att något ”kan vara” relevant. Även om jag inte får några explicita hänvisningar till lagrum så pekar ChatGPT mig i olika riktningar och pekar ut vilka rättsområden som realiseras. Immaterialrätt kan vara intressant, liksom GDPR. Men det viktigaste här är kanske rådet att konsultera en expert.

Nu, i mars 2023 har jag återvänt till uppdraget att skriva klart denna text om ChatGPT, för att faktiskt ta fram det där expertsvaret som chatbotten föreslog. I detta läge kommer jag dock på att ChatGPT just släppt en ny version (version 4) som ska vara mycket mer träffsäker och inneha exponentiellt större kraft än den tidigare versioner. Så återigen bestämmer jag mig för att testa verktyget. Nu med en vässad fråga. Och svaret kommer återigen blixtsnabbt.

Vilka rättsliga förutsättningar, risker och möjligheter, finns för att använda verktyg som t.ex. ChatGPT i undervisning?

”Användningen av verktyg som ChatGPT i undervisning är en relativt ny företeelse och det finns olika rättsliga förutsättningar, risker och möjligheter som måste beaktas.

Rättsliga förutsättningar:

1. Upphovsrätt: Det är viktigt att se till att verktyget inte bryter mot upphovsrätten genom att använda skyddat material utan tillstånd från upphovsmannen.
2. Personuppgiftslagen (GDPR): Eftersom verktyget bearbetar personuppgifter, som kan vara känsliga, är det viktigt att säkerställa att det inte finns någon risk för integritetskränkningar.
3. Utbildningslagen: Användningen av verktyget måste vara förenligt med utbildningslagen, som fastställer krav på undervisningens kvalitet och innehåll.

Riskerna:

1. Bias och felaktig information: Eftersom verktyget bygger på artificiell intelligens kan det innehålla bias och felaktig information, vilket kan påverka elevernas lärande negativt.
2. Beroende av teknik: Användningen av verktyget kan leda till att eleverna blir för beroende av teknik och förlorar förmågan att tänka själva och lösa problem på egen hand.
3. Tekniska problem: Tekniska problem kan uppstå under användningen av verktyget, vilket kan påverka undervisningens kvalitet och innehåll.

Möjligheterna:

1. Förbättrad lärande: Verktyget kan bidra till förbättrad lärande genom att tillhandahålla snabb och enkel åtkomst till information och genom att stödja elevernas lärande genom att tillhandahålla feedback och anpassade övningar.
2. Ökad tillgänglighet: Användningen av verktyget kan öka tillgängligheten till undervisning för elever med särskilda behov, till exempel genom att tillhandahålla text-till-tal och andra anpassade funktioner.
3. Förbättrad undervisningseffektivitet: Verktyget kan hjälpa lärare att effektivisera sin undervisning och att anpassa undervisningen till varje elevs behov.

Sammanfattningsvis är användningen av verktyg som ChatGPT i undervisning både förenat med rättsliga förutsättningar, risker och möjligheter. För att säkerställa att användningen av verktyget är effektiv och säker bör lärare och skolor undersöka och utvärdera verktyget noggrant innan det används i undervisningen.”

Detta är ett mer utförligt svar, absolut. Det ger en bättre översikt i förhållande till frågan. Problemet är bara att svaret innehåller fel. I Sverige har vi exempelvis inte den ”utbildningslag” som chatroboten så säkert hänvisar till. En av mina vänner kallar ChatGPT för ”killgissning 2.0” och det är faktiskt en ganska bra beskrivning. Svaret du får kan vara rätt, eller fel, men oavsett så uttrycks det med samma säkerhet. Texten kan innehålla rena faktafel, men också både överdrivna eller alltför generiska påståenden. Alltså måste du själv kolla upp svaret, både för att säkerställa att det är rätt, och för att se om det överensstämmer med det sätt som just du vill uttrycka dig på. Du bör också vara medveten om att verktyget kan sätta samman olika i sig korrekta delar till en felande helhet – som när tillfrågad att lista 10 svenska litteraturklassiker plötsligt kopplar ihop klassiska titlar med fel författare och publikationsår.

Men om du är medveten om dessa risker och hanterar dem, så kan ChatGPT fungera fantastiskt bra i en undervisningskontext. I version 4 kan ChatGPT exempelvis hantera längre texter, tillgodose komplexa instruktioner, och har blivit bättre på tillämpning. Den kan visa hur beräkningar utförs, hänvisa till källor och hitta exempel, exempelvis prejudikat och undantag. Träffsäkerheten är dock betydligt bättre på engelska än på svenska. Du kan använda ChatGPT för att komma igång på ett visst område, för att skapa en struktur för din kursplan eller undervisning, för att dubbelkolla att du inte glömt något inom ett visst fält, för att översätta viss text eller för att sammanfatta vissa uppgifter. Verktyget genererar inte bara svar på frågor utan är också bra på att följa instruktioner såsom: översätt eller sammanfatta nedan text, skriv om texten från presens till imperfekt eller sätt alla källor som nu är i parentes i fotnot istället. Man kan också ändra avsändaren på viss text – och instruera ChatGPT att uttrycka sig som en professor, som ett barn, eller som Donald Trump (https://towardsdatascience.com/election-special-train-a-gpt-2-to-generate-donald-trump-speeches-b66fc3aa92b9). En kompis till mig som är programmerare bad ChatGPT att förenkla kod utan att förlora funktionalitet – och fick en ny version som var 80% kortare med bibehållen funktion. Han är lyrisk över hur bra resultatet är och tror att programmeringsbranschen kommer revolutioneras. Också inom juridiken, som till stora delar är textberoende, förutspås stor påverkan (https://jordanfurlong.substack.com/p/law-has-a-magic-wand-now). Den funkar alltså olika bra på olika områden och språk, beroende på mängden tillgänglig information och träning. Det är bara genom att själv testa och leka med verktyget som du kan förstå dess potential, och hur verktyget går att använda i den specifika bransch som du är i, och till det specifika ändamålet som du har tänkt.

Så vad är då svaret? Vilka rättsliga hinder eller möjligheter finns det att använda verktyg som ChatGPT (för det finns konkurrenter, exempelvis Microsofts chatrobot Bing). Mitt expertsvar är att jag inte kan se att det finns några särskilda rättsliga hinder – men användaren måste förstå vad det är som produceras av dessa verktyg: autogenererad text baserad på tillgänglig information. Och tillgänglig information kan vara både rätt och fel, och den kan sättas ihop och tolkas av den artificiella intelligensen på felaktigt sätt. ChatGPT är ett verktyg som genererar text – inte fakta eller kunskap – så den som använder verktyget måste alltid kontrollera innehållet. Det är alltså alltid personen som använder verktyget som är ansvarig för hur texten som genereras och hur den används. Även om personen inte själv har skrivit den, så är den skriven på personens uppmaning, och det blir därför också denna person som eventuella upphovsrätter landar på. Likaså gäller om du ber verktyget om information (eller att hantera information) som kan ha konsekvenser för behandling av personuppgifter, så är det du som måste kontrollera och hantera detta. Men ser du bara verktyget för vad det är och hanterar de inbyggda riskerna så ser jag egentligen inga hinder, bara möjligheter.

CHATGPT ÄR EN DEL AV VÅR FRAMTID

Vare sig vi vill det, eller inte, så är ChatGPT en del av framtiden, och en växande del av den dessutom. Versioner som är exponentiellt bättre är att vänta, och dessa kommer också att bli bättre och mer träffsäkra på svenska genom att få mer material att tränas på, och genom att verktyget används alltmer. Och även om du själv är tveksam till användningen så bör du vara medveten om att dina medarbetare, och elever, lär sig att hantera det. Därför måste du som är lärare exempelvis tänka över examinationsformer – och kanske ställa frågor som är mer reflekterande till kursinnehåll (utan att i frågan specificera vilket innehåll som avses). Då måste i vart fall elever som tar hjälp av ChatGPT ta ett grepp om frågeställningen, ställa en originell och specifik fråga, samt skriva om svaret så det blir reflekterande. Alternativt kan man utgå ifrån verktyget i en diskussion kring källkritik och faktiskt instruera eleverna att använda ChatGPT – detta kan också hjälpa dem att utveckla och testa olika frågeställningar, att ta fram en struktur för svaret och ett utkast på text, där de sedan måste dubbelkolla fakta. Dessutom är det bra att berätta för dem att de måste skriva om svaret för att uppnå sådan originalitet att texten inte fastnar i någon plagiatkontroll. Huruvida detta arbetssätt skulle medföra någon tidsbesparing är oklart, men det kan innebära nya lärandemöjligheter, och ett sätt att lära elever att behandla texten som chatrobotar genererar på ett källkritiskt sätt. Och eftersom dessa verktyg har en stor påverkan på omvärlden så måste vi kanske lära eleverna detta – speciellt om vi har en ambition att förbereda dem för den digitala samtiden.

Sammanfattningsvis så finns det inte några hinder för dig att testa ChatGPT i din yrkesroll, så länge du är medveten om att verktyget genererar text och inte kunskap. Kontrollera därför alltid svaret – eftersom ChatGPT uttrycker sig tvärsäkert även när den har fel. Mitt råd till alla som vill lära sig mer om detta verktyg är att helt enkelt öppna ett gratiskonto på openai.com och börja testa – om du inte finner att det hjälper dig i din yrkesroll har du i vart fall underlag för en intressant diskussion vid nästa middagsbjudning eller fikarast.

Av Charlotta Kronblad, jurist, civilekonom och doktor i digital transformation.
Ursprungligen publicerad i JP ITnet.

Ny praxis och lagändringar kan ha tillkommit sedan texten skrevs. De senaste uppdateringarna och hur dessa påverkat rättsområdet hittar du alltid i relevant informationstjänst.

Publicerad 24 apr 2023

Charlotta Kronblad

Postdoktor, tillämpad IT, Göteborgs Universitet