Model drift — wat is het?

Model drift — Model drift treedt op wanneer de prestaties van een AI-model in productie verslechteren doordat de werkelijkheid verandert terwijl het model gelijk blijft.

Een fraudedetectiemodel dat getraind is op oude aanvalspatronen, zal minder goed werken zodra fraudeurs hun methoden aanpassen. De data waarop het model draait, verschuift langzaam weg van de distributie waarop het getraind werd. Dit fenomeen heet concept drift of data drift. Reguliere monitoring, evaluatie en hertraining zijn noodzakelijk om modellen in productie betrouwbaar te houden.