Contextvenster, wat is het?

Contextvenster, Het contextvenster is de maximale hoeveelheid tekst die een taalmodel tegelijk kan zien en onthouden tijdens één gesprek.

Stel je voor dat een model een werkgeheugen heeft met een vaste grootte: alles wat buiten dat venster valt, is voor het model simpelweg onzichtbaar. Hoe groter het contextvenster, hoe langer een document of gesprek het model kan verwerken. Zodra je dat venster overschrijdt, "vergeet" het model de oudste informatie. Dat is waarom lange gesprekken soms beginnen te glijden.