AI Act: Anatomie van een regelgevend misverstand — Wat u echt moet weten en hoe het werkt
Proloog: De geboorte van een juridische mythe
Weinig Europese wetgevende teksten hebben vóór hun inwerkingtreding zoveel misvattingen opgeroepen als Verordening (EU) 2024/1689 inzake artificiële intelligentie (beter bekend als de AI Act). Door critici afgeschilderd als de "grafsteen van Europese innovatie," en door politieke verklaringen bejubeld als "het eerste wereldwijde ethische wetboek voor algoritmen," is de werkelijke tekst fundamenteel iets anders.
Voor de positiefrechtelijke jurist is de AI Act noch een filosofisch manifest noch een beroepscode voor softwareontwikkelaars: het is een klassieke interne-marktharmonisatiewetgeving gebaseerd op het Europese productveiligheidskader (in directe lijn met de CE-markering voor medische hulpmiddelen, liften en industriële machines). Het primaire doel is niet het toekennen van nieuwe subjectieve individuele rechten aan burgers — een taak die structureel is voorbehouden aan de AVG —, maar het opleggen van strikte technische conformiteitseisen aan aanbieders en gebruikers vóór het op de markt brengen.
Wie de werking van de AI Act wil begrijpen, moet voorbij de intentieverklaringen kijken naar de operationele architectuur: de wettelijke definitie van een AI-systeem, de werking van de vier risiconiveaus, het uitzonderingsregime voor GPAI-modellen (General Purpose AI) en vooral de permanente wrijvingszone met de AVG.
1. Het toepassingsgebied: Wat is een "AI-systeem" volgens Artikel 3?
De eerste operationele uitdaging van een technologiespecifieke verordening is het risico op snelle veroudering van definities. De opstellers van de AI Act hebben hun kwalificatie bewust gemodelleerd naar de herziene OESO-definitie (december 2023) om internationale consistentie te waarborgen.
Krachtens Artikel 3, punt 1 van de Verordening wordt een "AI-systeem" gedefinieerd als:
"een machinaal systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na invoering adaptiviteit kan vertonen, en dat voor expliciete of impliciete doelstellingen uit de ontvangen invoer afleidt hoe uitvoer zoals voorspellingen, inhoud, aanbevelingen of besluiten moet worden gegenereerd die fysieke of virtuele omgevingen kunnen beïnvloeden."
Deze formulering sluit louter "deterministische" softwaretoepassingen op basis van klassieke logische regels (de traditionele menselijk geprogrammeerde if-then-else voorwaarden) uitdrukkelijk uit. Het kardinale criterium ligt in het vermogen tot inferentie (machine learning, statistische inferentie, inductieve logica) dat operationele autonomie en adaptiviteit verleent bij onvoorziene invoer.
2. De risicopiramide: De dragende structuur
De AI Act is gebaseerd op een proportionele risicogebaseerde benadering waarbij de wettelijke verplichtingen evenredig stijgen met het potentiële gevaar voor gezondheid, veiligheid en grondrechten. Vier afgebakende categorieën vormen dit raamwerk:
🚫 Niveau 1: Verboden Praktijken (Artikel 5)
Van kracht vanaf 2 februari 2025. Deze systemen zijn onverenigbaar met de waarden van de Unie en integraal verboden op de interne markt:
- Subliminale of doelbewust manipulatieve technieken die het gedrag van een persoon wezenlijk verstoren en aanzienlijke schade toebrengen;
- Uitbuiting van kwetsbaarheden op grond van leeftijd, handicap of sociaaleconomische status;
- Sociale scoring (social scoring) door overheden of particuliere partijen leidend tot nadelige behandeling los van de oorspronkelijke context;
- Politiële beoordeling van individueel recidiverisico uitsluitend gebaseerd op profilering van persoonlijkheidskenmerken;
- Ongericht scrapen van gezichtsafbeeldingen van internet of CCTV-beelden voor het opbouwen van herkenningsdatabases (zoals het Clearview AI-model);
- Emotieherkenning op de werkplek of in onderwijsinstellingen (behalve om strikt medische/veiligheidsredenen);
- Realtime biometrische identificatie op afstand in openbaar toegankelijke ruimten voor rechtshandhaving (behoudens zeer enge gerechtelijke uitzonderingen: terrorisme, opsporing van ontvoerde slachtoffers).
⚠️ Niveau 2: Hoogrisico AI-systemen (Artikelen 6 tot 49, Bijlagen I & III)
De kern van de wetgeving. Twee hoofdcategorieën vallen onder dit regime:
- AI-systemen ingezet als veiligheidscomponent in producten die reeds aan CE-certificering onderworpen zijn (medische hulpmiddelen, luchtvaart, motorvoertuigen, industriële machines);
- Autonome systemen expliciet opgesomd in Bijlage III (biometrie, kritieke infrastructuur, toelating tot onderwijs, personeelswerving en HR-beheer, toegang tot essentiële particuliere/publieke diensten zoals kredietverlening, rechtshandhaving, migratie en grenscontrole, rechtsbedeling).
Zwaar nalevingsregime: continu risicobeheersysteem (Art. 9), datagovernance van trainingssets (Art. 10), gedetailleerde technische documentatie (Art. 11), automatische logregistratie (Art. 12), transparantie en gebruikershandleiding (Art. 13), effectief menselijk toezicht (Art. 14), robuustheid en cyberbeveiliging (Art. 15).
ℹ️ Niveau 3: Specifiek Transparantierisico (Artikel 50)
Systemen in directe interactie met natuurlijke personen (chatbots, virtuele assistenten) die verplicht moeten melden dat men met AI communiceert, en systemen die synthetische media genereren (deepfakes, generatieve teksten) die voorzien moeten zijn van machinaal leesbare watermerken.
✅ Niveau 4: Minimaal of Geen Risico
Alle overige systemen (spamfilters, AI in videogames, voorraadbeheer, netwerkoptimalisatie). Geen wettelijke verplichtingen onder de AI Act; vrijwillige gedragscodes zijn mogelijk. Betreft de overgrote meerderheid van toepassingen.
3. Modellen voor AI voor algemene doeleinden (GPAI)
Het oorspronkelijke voorstel van de Commissie uit 2021 hield geen rekening met de plotselinge doorbraak van multimodale funderingsmodellen (LLM's). Tijdens de trialogen eind 2023 is met spoed een specifiek kader voor General Purpose AI (GPAI)-modellen ingevoegd in de Artikelen 51 tot en met 56.
Er gelden twee onderscheiden niveaus voor aanbieders van GPAI-modellen:
- Basisregime (alle GPAI-modellen): Levering van technische documentatie aan downstream-integrators, publicatie van een gedetailleerde samenvatting van trainingsdata, naleving van het auteursrechtelijk voorbehoud (Richtlijn (EU) 2019/790 Art. 4) en een intern beleid inzake intellectuele eigendom.
- Modellen met systeemrisico: Modellen waarbij de cumulatieve rekenkracht voor training meer dan 1025 FLOPs bedraagt of die door de Commissie als zodanig zijn aangewezen. Extra stringente eisen: modelbeoordelingen (red-teaming), mitigatie van systeemrisico's op Unieniveau, melding van ernstige incidenten aan het European AI Office en versterkte cyberbeveiliging van de infrastructuur.
4. AI Act en AVG: De illusie van subsidiariteit
Hier bevindt zich de gevaarlijkste valkuil voor organisaties: veronderstellen dat conformiteit met de AI Act de naleving van de AVG vervangt of opheft.
Artikel 2, lid 7 van de AI Act stelt ondubbelzinnig vast: "Deze verordening laat de toepassing van het Unierecht inzake de bescherming van persoonsgegevens, met name Verordening (EU) 2016/679 en Richtlijn 2002/58/EG, onverlet."
Juridisch is er sprake van cumulatieve toepassing zonder afwijking. Een AI-toepassing kan vlekkeloos CE-gemarkeerd zijn onder de AI Act en tegelijk volstrekt onrechtmatig zijn onder de AVG. Belangrijke frictiepunten zijn structureel:
Vergelijkende Matrix: Botsingen tussen AI Act en AVG
| Juridisch vraagstuk | Eis AI Act (EU 2024/1689) | Eis AVG (EU 2016/679) |
|---|---|---|
| Datakwaliteit vs. Minimalisatie | Art. 10 eist trainingsdatasets die "statistisch representatief, volledig en foutloos" zijn om bias te voorkomen. | Art. 5.1(c) eist strikte minimale gegevensverwerking: toereikend, terzake dienend en beperkt tot wat noodzakelijk is. Massale dataverzameling is a priori verdacht. |
| Recht op gegevenswissing (Art. 17) | Regelt geen algoritmisch 'vergeten'; legt traceerbaarheid en reproduceerbaarheid van modellen op. | De betrokkene heeft het recht op gegevenswissing. Het verwijderen van individuele parameters uit de gewichten van een neuraal netwerk zonder volledige hertraining blijft een technisch knelpunt. |
| Bijzondere categorieën (Art. 9) | Art. 10(5) creëert een uitzondering die verwerking van gevoelige gegevens toestaat uitsluitend voor biasdetectie en -correctie. | Principieel verbod behoudens 10 limitatieve uitzonderingen (Art. 9.2). Toezichthouders (GBA, AP, EDPB) toetsen deze doorgang uiterst terughoudend. |
| Geautomatiseerde besluitvorming | Staat hoogrisicosystemen toe mits voorzien van menselijk toezicht (Art. 14). | Art. 22 geeft het recht niet te worden onderworpen aan uitsluitend geautomatiseerde besluiten met rechtsgevolgen. Menselijke inmenging moet wezenlijk zijn en geen formaliteit. |
5. Implementatietijdpad en Sancties: De Gefaseerde Realiteit
Gepubliceerd in het Publicatieblad op 12 juli 2024 en in werking getreden op 2 augustus 2024, treedt de AI Act gefaseerd in werking:
- 2 februari 2025 (M+6): Onmiddellijk verbod op onaanvaardbare risicopraktijken (Artikel 5) en verplichtingen inzake AI-geletterdheid (Art. 4);
- 2 augustus 2025 (M+12): Inwerkingtreding van de regels voor GPAI-modellen, aanwijzing van nationale bevoegde autoriteiten en toezichtstructuren;
- 2 augustus 2026 (M+24): Algemene toepassing van de verordening, inclusief het volledige regime voor hoogrisicosystemen van Bijlage III;
- 2 augustus 2027 (M+36): Uitgestelde toepassing voor hoogrisicosystemen die zijn ingebouwd in producten gereguleerd door bestaande wetgeving van Bijlage I (medische hulpmiddelen, machines).
Boetesysteem (Artikel 99)
De AI Act hanteert sancties die de AVG-maxima overtreffen: tot €35 miljoen of 7% van de wereldwijde jaaromzet voor inbreuken op verboden praktijken; tot €15 miljoen of 3% voor schending van hoogrisicoverplichtingen; en tot €7,5 miljoen of 1,5% voor het verstrekken van onjuiste inlichtingen aan autoriteiten. Voor kmo's en start-ups gelden aangepaste plafonds.
6. Operationeel stappenplan: Naleving in 5 fasen
Geconfronteerd met de dubbele vereisten van AI Act en AVG doen juridische en technische diensten er goed aan een pragmatisch 5-stappenplan te volgen:
- AI-inventarisatie: Breng alle AI-toepassingen in kaart die binnen de organisatie worden gebruikt (inclusief "Shadow AI" — externe SaaS-tools ingezet door medewerkers).
- Toetsing aan Artikel 5: Sluit direct uit dat projecten raken aan verboden praktijken (emotieherkenning bij personeel, sociale scoring, ongericht gezichtsscraping).
- Risiconiveau-kwalificatie: Deel overige systemen in onder Bijlage III (hoog risico), Artikel 50 (transparantie/chatbots) of minimaal risico.
- Afstemming met de AVG: Formaliseer voor elk systeem dat persoonsgegevens verwerkt de rechtmatige grondslag (gerechtvaardigd belang Art. 6.1.f vereist een LIA-toets bij webscraping), voer zo nodig een DPIA/GEB uit (Art. 35 AVG) en sluit een geldige verwerkersovereenkomst (Art. 28 AVG) met de AI-leverancier.
- Menselijk toezicht en audittrails: Richt gestructureerde "Human-in-the-loop"-procedures in waarmee medewerkers AI-adviezen kunnen overrulen, en bewaar automatische systeemlogs gedurende ten minste 6 maanden conform Artikel 12.
Gecontroleerde officiële bronnen en referenties
Beginselen, rechtsgronden, rechten, gegevensbescherming door ontwerp, beveiliging en GEB.
Officiële bron raadplegen →Europees productveiligheidskader voor AI, risicoclassificatie en conformiteitsverplichtingen.
Officiële bron raadplegen →Anonimiteit, gerechtvaardigd belang, memorisatie, extractie en gevolgen van onrechtmatige verwerking.
Officiële bron raadplegen →Zie ook in het referentiekader
Artikel 22, Geautomatiseerde besluitvorming
Menselijke waarborgen en toezicht op algoritmische besluitvorming.
Artikel 25, Gegevensbescherming door ontwerp
Beginselen omzetten in controleerbare systeemarchitecturen.
Artikel 35, Gegevensbeschermingseffectbeoordeling
Systematische evaluatie van risico's voor rechten en vrijheden.