Overfitting, wat is het?

Overfitting, Overfitting treedt op wanneer een model de trainingsdata zo goed heeft onthouden dat het slecht presteert op nieuwe, ongeziene voorbeelden.

Vergelijk het met een student die antwoorden uit het hoofd leert in plaats van de stof te begrijpen: op het proefwerk gaat het goed, maar bij een andere formulering faalt die student. Een overfit model herkent ruis en toevallige patronen in de trainingsdata als echte regels. Regularisatie, meer diverse trainingsdata en vroeg stoppen met trainen zijn manieren om overfitting te beperken.