Superintelligentie — wat is het?

Superintelligentie — Superintelligentie is een hypothetisch AI-systeem dat op elk intellectueel terrein de beste menselijke experts ver overtreft.

Het concept gaat verder dan AGI: een superintelligente AI zou niet alleen alles kunnen wat mensen kunnen, maar ook razendsnel nieuwe kennis genereren, zichzelf verbeteren en problemen oplossen die voor mensen onbegrijpelijk zijn. Of en wanneer zoiets bereikbaar is, is diep omstreden. Filosoof Nick Bostrom en anderen stellen dat superintelligentie existentiële risico's meebrengt als alignment niet eerst is opgelost.