Interpreteerbaarheid (explainability) — wat is het?

Interpreteerbaarheid (explainability) — Interpreteerbaarheid is de mate waarin mensen kunnen begrijpen waarom een AI-model een bepaalde uitkomst produceert.

Moderne neurale netwerken zijn zo complex dat zelfs hun makers niet precies kunnen zeggen waarom een model een specifiek antwoord geeft. Interpreteerbaarheidsonderzoek ontwikkelt methoden om toch inzicht te krijgen: welke invoerelementen waren doorslaggevend, welke neuronen activeren bij welk concept. Dit is cruciaal in toepassingen met hoge stakes, zoals medische diagnose of kredietbeoordeling, waar een uitleg wettelijk verplicht kan zijn.