Black box, wat is het?

Black box, Een black box is een AI-systeem waarvan de interne werking niet inzichtelijk is: invoer gaat erin en uitvoer komt eruit, maar het 'waarom' blijft verborgen.

Diepe neurale netwerken zijn typische black boxes: de uitvoer is te verklaren vanuit de invoer, maar de weg daartussen, honderden lagen met miljarden parameters, is niet direct te doorgronden. Dit staat in contrast met beslisbomen of lineaire modellen die per stap leesbaar zijn. De black-box-aard van grote modellen maakt auditing, debugging en regelgeving lastiger.