Parameters — wat is het?

Parameters — Parameters zijn alle afgestelde getallen in een neuraal netwerk — gewichten en biases — die samen het geleerde 'geheugen' van het model vormen.

Het aantal parameters geeft een ruwe maat voor de capaciteit van een model: meer parameters betekent in theorie meer nuance en kennis. Modellen variëren van miljoenen tot honderden miljarden parameters. Meer parameters vragen ook meer rekenkracht om te trainen en te draaien. Parametergrootte is een veelgebruikte maar onvolledige maatstaf: architectuur en trainingsdata tellen minstens zo zwaar.