Kontekstvinduet er den mængde tekst, en sprogmodel kan tage med i betragtning på én gang. Det omfatter instruktioner, dokumenter, samtalens tidligere beskeder og selve svaret og måles i tokens.
Alt, hvad der ligger uden for vinduet, kan modellen ikke se. I en lang samtale kan de første beskeder derfor glide ud, og modellen glemmer det, I aftalte i starten. Nyere modeller har meget store kontekstvinduer. Men selv når et helt dokument kan være der, er modellen ikke lige opmærksom på alle dele af det.
I praksis
Start en ny samtale, når opgaven skifter, og gentag de vigtigste rammer, hvis samtalen bliver lang. Giv modellen de dele af et dokument, der betyder noget for opgaven, frem for hele arkivet. Det er samme pointe som i konteksttrappen: Den rigtige kontekst betyder mere end mængden.
Begreberne i ordlisten går igen i mine AI-kurser og workshops, hvor vi arbejder med dem i jeres egne opgaver.