Black box — wat is het?

Black box — Een black box is een AI-systeem waarvan de interne werking niet inzichtelijk is: invoer gaat erin en uitvoer komt eruit, maar het 'waarom' blijft verborgen.

Diepe neurale netwerken zijn typische black boxes: de uitvoer is te verklaren vanuit de invoer, maar de weg daartussen — honderden lagen met miljarden parameters — is niet direct te doorgronden. Dit staat in contrast met beslisbomen of lineaire modellen die per stap leesbaar zijn. De black-box-aard van grote modellen maakt auditing, debugging en regelgeving lastiger.