Hur kan skolledare säkerställa att användningen av AI i undervisningen sker på ett etiskt och rättssäkert sätt?

Fråga

Många AI-verktyg kan erbjuda fördelar för lärande och administration, men det finns också risker. Vad bör skolledare tänka på för att säkerställa att AI används med respekt för både elevernas integritet och utbildningens kvalitet?

Juristens svar

AI har alla förutsättningar att vara ett användbart verktyg i undervisningen. Även delar av detta svar har jag skapat genom generativ AI för att illustrera dess styrka i kombination med min juridiska kompetens. AI-verktyg kan skapa interaktiva läromedel anpassade efter elevers olika behov och förutsättningar och samtidigt underminera den traditionella lärarrollen om de används på ett sätt som hämmar elevernas egna problemlösningsförmågor. Det finns också rättsliga aspekter att beakta, särskilt personuppgiftsbehandling i AI-verktyg. Här ger jag fem tips för att undvika juridiska fallgropar:

1. Involvera berörda parter: Skolledare och lärare bör tillsammans diskutera hur AI kan användas i undervisningen. Här är etiska aspekter givna diskussionspunkter. De med AI-kompetens bör stötta de som inte har kommit lika långt. Frågor om AI kan anses vara viktiga för skolans verksamhet och ha betydelse för eleverna och vårdnadshavare. Då aktualiseras regler om inflytande och samråd i 4 kap. 9-14 §§ skollagen vilket innebär att även elever och vårdnadshavare ska involveras i diskussionerna.
   
   
2. Genomför konsekvensbedömningar: Innan införande av AI-verktyg behöver skolledare bedöma om det rör sig om en personuppgiftsbehandling. Av artikel 35 i GDPR framgår att den personuppgiftsansvarige ska göra en konsekvensbedömning om behandlingen sannolikt leder till en hög risk för fysiska personers rättigheter och friheter. Det kan till exempel bli aktuellt om barns personuppgifter matas in i en generativ AI-tjänst eller om personuppgifter används för att träna en AI-modell. Skolhuvudmän har ett ansvar att välja leverantörer av AI-verktyg med omsorg. Utvärdera deras åtaganden kring etik och dataskydd och välj ansvarsfulla samarbetspartners. Involvera ditt dataskyddsombud.
   
   
3. Ta fram riktlinjer: Skolledningen bör ta fram riktlinjer om AI i undervisningen. Beakta integritet och dataskydd men också upphovsrätt. Att skriva prompt i ett generativt AI-verktyg kan innebära att den som skriver prompten får upphovsrätt till den text som genereras. Här behöver skolledare, lärare och elever kunskap om upphovsrätt. En annan aspekt är tillgänglighet. Sådana AI-verktyg som skolan har bedömt att eleverna ska använda är lärverktyg i skollagens mening och ska tillhandahållas kostnadsfritt.
   
   
4. Utvärdera användningens påverkan: Analysera hur AI påverkar utbildningen, lärare och elever. Av 1 kap. 5 § skollagen framgår att utbildningen ska vila på vetenskaplig grund och beprövad erfarenhet, vilket innebär ett ansvar för källkritik och en förståelse för när generativ AI skapar desinformation. Om lärare förväntas integrera AI i sin undervisning behöver de stöd och kompetens att göra det i linje med skolans mål så att de är trygga med att ansvara för sin undervisning enligt 2 kap. 15 § skollagen.
   
   
5. AI-förordningen: Från och med den 2 augusti 2026 ska AI-förordningen börja tillämpas. Som skolledare är det viktigt att hålla sig informerad om den. Även IMY:s nya vägledning för att säkra en integritetsvänlig AI-användning kan vara till hjälp.

Ursprungligen publicerad i JP Skolnet.

Ny praxis och lagändringar kan ha tillkommit sedan texten skrevs. De senaste uppdateringarna och hur dessa påverkat rättsområdet hittar du alltid i relevant informationstjänst.

Publicerad 22 nov 2024

Maria Bjurholm

Rådgivare, jurist