Contentmoderatie — wat is het?

Contentmoderatie — Contentmoderatie is het proces van beoordelen en filteren van door AI of gebruikers gegenereerde inhoud om schadelijke of verboden content te verwijderen.

Platforms en AI-aanbieders gebruiken een combinatie van automatische classificatiemodellen en menselijke beoordelaars om ongewenste content te detecteren. AI versnelt de schaal waarop moderatie kan werken, maar vergroot tegelijk de hoeveelheid te modereren content. Menselijke moderators die dagelijks traumatisch materiaal beoordelen vormen een ethisch aandachtspunt in de sector. Contentmoderatie raakt aan vrijheid van meningsuiting, veiligheid en platformverantwoordelijkheid.