De EU AI Act: wat merk jij er als gewone gebruiker van?

De EU AI Act haalt vooral het nieuws als iets voor techbedrijven en juristen: boetes, verplichtingen, overgangstermijnen. Maar de wet is uiteindelijk geschreven voor de mensen aan de andere kant van het scherm. Wat regelt hij eigenlijk voor jou, als je gewoon een chatbot gebruikt, solliciteert, of door een stad loopt waar camera's hangen?

Het idee achter de wet: regels naar risico

De AI Act, sinds augustus 2024 van kracht en sindsdien stap voor stap in werking getreden, regelt niet "AI" als geheel. Hij kijkt naar wat een systeem doet en hangt daar een risiconiveau aan. Een spamfilter of een AI die foto's opvrolijkt valt in de laagste categorie en merkt weinig van de wet. Een systeem dat meebeslist over sollicitaties, kredieten, uitkeringen of onderwijs valt onder "hoog risico" en moet aan strenge eisen voldoen. En een kleine categorie toepassingen is simpelweg verboden.

Wat is er verboden?

Een paar praktijken mogen in de EU helemaal niet, ongeacht wie ze bouwt:

• Social scoring: burgers een algemene score geven op basis van gedrag, met gevolgen in situaties die daar niets mee te maken hebben.
• Manipulatieve AI die kwetsbaarheden van mensen uitbuit om ze schade te berokkenen.
• Emotieherkenning op school en werk: systemen die bij leerlingen of werknemers emoties claimen af te lezen, op enkele uitzonderingen na (zoals veiligheid en medische toepassingen).
• Ongericht gezichten verzamelen van internet of camerabeelden om herkenningsdatabases te vullen.

Dit is het deel van de wet dat het meest direct over burgers gaat: het trekt grenzen die er vóór de wet niet waren.

Wat merk je in de praktijk?

Je mag weten dat je met AI praat. Zet een bedrijf een chatbot in, dan moet duidelijk zijn dat je niet met een mens praat, tenzij dat al overduidelijk is. Stiekem een bot voor een mens laten doorgaan mag niet.

AI-beelden en deepfakes moeten herkenbaar zijn. Wie AI-gegenereerde of gemanipuleerde beelden, audio of video publiceert die echt lijken, moet dat kenbaar maken. Daarnaast moeten aanbieders eraan werken dat AI-content technisch als zodanig herkenbaar is. Dit lost desinformatie niet op, kwaadwillenden houden zich niet aan etiketten, maar het schept wel een norm en een juridisch handvat.

Bij belangrijke beslissingen: menselijk toezicht. Hoog-risicosystemen, zoals AI die cv's voorselecteert of kredietwaardigheid inschat, moeten onder menselijk toezicht staan, deugdelijk getest zijn en uitlegbaar genoeg om besluiten te kunnen verantwoorden. Als burger heb je bij zulke ingrijpende besluiten recht op uitleg en kun je klagen bij de toezichthouder; volledig geautomatiseerde afwijzingen zonder mens erachter waren onder de AVG al problematisch, en de AI Act scherpt de eisen aan de systemen zelf aan.

Wat de wet niet doet

Eerlijkheid verplicht: de AI Act maakt AI niet ineens betrouwbaar. Hallucinaties worden niet verboden, een chatbot mag nog steeds fouten maken, en de wet beschermt je niet tegen klakkeloos vertrouwen op AI-output. De wet ordent de markt en verbiedt de scherpste randen; kritisch blijven denken staat er niet in en blijft je eigen werk.

Wil je precies weten hoe de risiconiveaus in elkaar zitten en wat er voor bedrijven en gebruikers verandert? De les De EU AI Act uitgelegd behandelt de wet rustig en zonder juridisch jargon.