Emergent gedrag — wat is het?

Emergent gedrag — Emergent gedrag zijn vaardigheden die plotseling opduiken in grote AI-modellen zonder dat ze expliciet zijn aangeleerd of geprogrammeerd.

Kleine modellen kunnen een bepaalde taak helemaal niet; grotere versies van dezelfde architectuur opeens wel — alsof een drempel is overschreden. Of die drempel echt is of deels een meetartefact, is wetenschappelijk omstreden. Voorbeelden zijn meertalig redeneren, rekenen of het volgen van complexe instructies. Emergentie maakt AI-ontwikkeling deels onvoorspelbaar: niemand weet precies welke capaciteiten het volgende grote model zal hebben. Het is ook een reden waarom veiligheidsonderzoekers vroegtijdig willen testen.