Den sprogligt-statistiske model bag chatbots er ikke matematisk stringent, da output bygger på sandsynlige ordrækkefølger og ikke logiske slutninger. Udforsk det ved at lade eleverne udfordre chatbots med prompts og efterfølgende gå kritisk til output. Formålet er at øge elevernes egen kritiske sans og give dem et indblik i chatbots styrker og svagheder.
Aktiviteten er på 1-1½ time og kan bruges fra udskoling til 3. g, så længe emnerne, der danner baggrund for øvelsen, er velkendte af eleverne.
Afgræns opgaver, der matcher holdets niveau og kan være udfordrende for en chatbot. Varier dem, så de tilsammen dækker forskellige aspekter som matematisk ræsonnement, opgaveforståelse og præcision. Et bud på tre opgaver, der tester forskellige aspekter er:
Find hypotenusen i en retvinklet trekant, hvor den ene katete er 3,451 cm og den anden er 4,343 cm.
Vi er på vandretur og jeg har 6 liter vand og vil dele det med mine 5 venner. Hvor meget kan vi få hver?
Linjerne a og b er givet ved ligningerne a: y=3x-3 b: y=x*0. Bestem koordinaterne til skæringspunktet mellem a og b.
Typisk får man gode svar på gængse opgaver og værdier, for de er en del af træningssættet og dermed modellen. F.eks. kan alle chatbots bestemme hypotenusen i en retvinklet trekant med en katete på 3 cm og en på 4 cm, men kan fejle med decimaler på, hvis de ikke også har en indbygget matematisk model. Alle de valgte opgaver skal dog ikke nødvendigvis få systemet til at fejle. Aktiviteten primære pointe er, at få eleverne til at kritisk til output fra chatbots, men de må også gerne få et billede af at teknologien kan komme med "rigtige" svar.
Øvelsen kan afvikles i skoleGPT eller man kan supplere med duck.ai, hvor der kan afprøves flere modeller uden, at der afgives data.
Giv en basal introduktion til chatbots og de bagvedliggende sprogmodeller med fokus på, hvordan de modellernes svar afspejler frekvente ordrækkefølger. Diskuter herefter sammen med eleverne, hvordan denne viden kan bruges til at udfordre modellerne inden for matematikken.
Del eleverne op i grupper af 3, og sæt dem til selv at skrive ét bud på en prompt, de tror chatbots vil have svært at svare på. Dette gøres uden computer.
Vis/uddel opgaver, som alle grupper skal teste en chatbot med. Bed dem om at prompte med de uddelte bud og derefter eget bud.
Giv eleverne en halv times tid til at finde fejl i svarene og rette eller omformulere det til et matematisk set mere korrekt svar. Bed dem også om at skrive en note, hvor de forklarer, hvad fejlene består i, og hvad der kan tænkes at udløse dem.
Evaluering og perspektivering
Sæt eleverne i matrixgrupper, hvor de først sammenligner deres svar fra chatbots til de udleverede opgaver og deres egne tilrettede versioner. Derefter skal de vælge det mest interessante bud på egen prompt, der kan være en udfordring for chatbots. Afslut med at hver matrix-gruppe præsenterer den prompt, de har valg, og diskuter sammen, hvorfor den er en udfordring for en chatbot.
Peter Christiansen, Niels Brock Innovationsgymnasium, i samarbejde med CFU