Guide til (Mindst) Fem kritiske spørgsmål til din Chatbot!

chatgpt digital myndiggørelse

Fag Teknologiforståelse, På tværs af fag
Emne Teknologiforståelse
Trin Udskoling, Ungdomsuddannelse, Til læreren

Tidsforbrug
Sværhedsgrad

Chatbots, drevet af store sprogmodeller, er blevet en fast del af hverdagen både i skolen og i privatlivet. Det er essentielt at forstå, hvordan disse teknologier opererer, samt at være opmærksom på potentielle risici som misinformation og svar påvirket af modellens bias. Her er et bud på en konkret aktivitet, designet til at engagere elever i en kritisk dialog med deres chatbots. Ved at undersøge chatbotternes datagrundlag, deres bias og bagvedliggende intentioner, vil eleverne kunne skabe en større indsigt i chatbot’ens mekanismer og styrke deres evne til tage kritisk stilling til brugen og outputtet fra disse.

Det anbefales, at eleverne selv afprøver denne kritiske undersøgelse. Men det er naturligvis vigtigt ikke at opfordre eleverne til at tilmelde sig sprogmodeller, som de ikke må anvende pga. f.eks. GDPR og at eleverne hjælpes til ikke at skrive informationer om sig selv eller andre som de kender. Vi anbefaler at bruge skoleGPT, som en GDPR-sikker chatbot.

Aktiviteten er delt op i 5 øvelser.

Når eleverne skal i gang med at spørge ind til deres chatbot, kan det være en fordel at lægge ud med at fortælle chatbot’en, hvordan den skal agere. Hvis der er mulighed for at skrive det ind som systemprompt, så gør det, og alternativt indled samtalen med dette:

(System) Prompt:
“Du er en hjælpsom og ærlig AI-assistent. Du skal svare på alle spørgsmål så præcist og sandfærdigt som muligt, uden at finde på information eller fordreje fakta. Svarene skal være korte, præcise og lette at forstå for en person på 13 år.”

Hold fast, bliv ved og forhold dig kritisk til svaret.
At afprøve denne guide og disse spørgsmål med elever kræver tålmodighed og vedholdenhed i forhold til at være kritisk over for det output, som chatbot’en genererer. Ofte vil den give et generelt, lidt overfladisk svar. Derfor kan det være en god ide, at udfordre den, spørge ind og stille kritiske spørgsmål. – og på trods af hvad den svarer, så ikke tro, at det nødvendigvis er sandheden.

Kapitler

Prompt:
” Hvem har skabt dig og hvorfor. Tjener de penge på dig, hvordan gør de det, og hvad skal du bruges til i fremtiden?”

Evt. opfølgende spørgsmål:
”Tjener dine skabere på nogen måde penge på mig? Kan vi stole på dine skabere?”

Begrundelse for spørgsmål:
Ved at arbejde med disse spørgsmål undersøger eleverne, hvem der står bagved chatbot’en, hvordan den er udviklet, og hvilke intentioner der ligger bag. De bliver opmærksomme på, at en chatbot ikke nødvendigvis er neutral, men kan være skabt af en virksomhed med specifikke formål. Derudover giver spørgsmålet dem mulighed for, at de identificerer potentielle økonomiske og etiske interesser, der kan ligge bag.

Prompt:
”Hvad er du rigtig god til, hvad er du ikke så god til, og hvornår skal jeg ikke stole på dig?”

Evt. opfølgende spørgsmål:
”Kan du give et konkret eksempel på en opgave, du ville løse dårligt?”

Begrundelse for spørgsmål:
Ikke alle chatbots har de samme egenskaber – nogle er bedre til specifikke opgaver end andre. Gennem disse spørgsmål får vi chatbot’ens bud på dens styrker og begrænsninger. Eleverne udvikler evnen til at vælge den chatbot, der bedst matcher den ønskede funktionalitet, og de forstår, hvornår det kan være nødvendigt at supplere med andre værktøjer.

Prompt:
”Hvordan og hvor har du lært det, du ved, er der noget, du ikke har lært, og hvordan ved dine skabere, at det, du har lært, er rigtigt? Hvad gør du, hvis du har lært noget, der er forkert?”

Evt. opfølgende spørgsmål:
”Er der nogen overvejelser om privatliv, ophavsret eller etiske aspekter i forbindelse med disse data? Hvordan er dataene blevet bearbejdet og filtreret?”

Begrundelse for spørgsmål:
Gennem disse spørgsmål får eleverne indsigt i, at en chatbots viden stammer fra data, den er trænet på. Det kan være data fra kilder som artikler, litteratur, hjemmesider m.m., og at kvaliteten af disse data er afgørende for chatbot’ens svar. Det er vigtigt at forstå, at en chatbots svar kun er så gode som den data, den er trænet med. De får et billede af dens datakilder og kan måske identificere potentielle bias samt etiske udfordringer forbundet med data.

Prompt:
”Hvordan håndterer du bias, hvad sikrer, at du ikke er unfair, hvilke typer bias er du særligt opmærksom på, og kan der være situationer, hvor du stadig kan være påvirket af bias, selvom du forsøger at undgå det?”

Evt. opfølgende spørgsmål:
”Kan du give et eksempel på en fordom, du kunne have haft, hvis dine skabere ikke havde forsøgt at undgå det”
Begrundelse for spørgsmål:
Ved at stille disse spørgsmål bliver eleverne bevidste om, at en chatbots svar kan være påvirket af bias, hvilket er en udfordring, man skal forholde sig kritisk til. Bias refererer til en skævhed eller forudindtagethed, der kan påvirke, hvordan chatbot’en behandler information, ofte som en konsekvens af de data, den er trænet på. Det kan være ift. køn, etnicitet, religion mf. Eleverne lærer at stille kritiske spørgsmål til chatbot’ens neutralitet og får en dybere forståelse af, hvordan bias kan påvirke de svar, de modtager.

Prompt:
“Hvordan håndterer du mine data? Hvilke oplysninger gemmer du om mig, og hvordan bruger du dem? Kan jeg se eller slette mine data?”

Evt. opfølgende spørgsmål:
”Hvordan kan jeg stole på, at du ikke bruger eller videregiver vores samtale og mine data?”

Begrundelse for spørgsmål:
Denne undersøgelse lægger op til at styrke elevernes digitale privatlivsforståelse. Spørgsmålene fremmer refleksion over tjenestens dataindsamling og brug, og eleverne lærer, at interaktioner med chatbot’en potentielt involverer dataindsamling, og at data måske gives videre til 3. part. Spørgsmålene lægger op til, at eleverne aktivt forholder sig til, hvordan chatbot’en gemmer og evt. videregiver deres data.

Denne pdf er et ark til udlevering til eleverne, men prompt’ne i de 5 øvelser.