AI Act : Anatomie d'un malentendu réglementaire — Ce qu'il faut vraiment savoir et comment il fonctionne
Prologue : La naissance d'un mythe juridique
Peu de textes législatifs européens auront suscité autant de contre-vérités avant même leur entrée en vigueur que le Règlement (UE) 2024/1689 sur l'intelligence artificielle (communément désigné sous l'acronyme AI Act). Présenté tantôt par ses détracteurs comme « le tombeau de l'innovation européenne », tantôt célébré par une communication politique enthousiaste comme « le premier code mondial de l'éthique algorithmique », le texte est en réalité tout autre chose.
Pour le juriste de droit positif, l'AI Act n'est ni un manifeste philosophique, ni un code de déontologie des informaticiens : c'est un règlement classique d'harmonisation du marché intérieur fondé sur la législation européenne sur la sécurité des produits (dans la droite lignée du marquage CE des dispositifs médicaux, des jouets ou des ascenseurs). Son objet premier n'est pas de conférer de nouveaux droits subjectifs individuels aux citoyens — rôle historiquement et structurellement dévolu au RGPD —, mais d'instituer des obligations strictes de conformité technique pesant sur les concepteurs et déployeurs avant la mise sur le marché.
Comprendre le fonctionnement intime de l'AI Act exige d'abandonner les déclarations d'intention pour analyser son architecture opérationnelle : la définition légale d'un système d'IA, la mécanique des quatre niveaux de risque, le régime d'exception des modèles à usage général (GPAI), et surtout, la zone de friction permanente qu'il entretient avec le RGPD.
1. Le périmètre : Qu'est-ce qu'une « IA » au sens de l'Article 3 ?
La première difficulté opérationnelle d'un règlement technologique réside dans le risque d'obsolescence immédiate de sa définition. Les rédacteurs de l'AI Act ont sciemment calqué leur qualification sur celle révisée de l'OCDE (décembre 2023) afin de garantir une cohérence internationale.
Aux termes de l'Article 3, point 1 du Règlement, un « système d'IA » est défini comme :
« un système automatisé conçu pour fonctionner avec différents niveaux d'autonomie et qui peut présenter une adaptabilité après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu'il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer des environnements physiques ou virtuels. »
Cette formulation écarte délibérément les simples systèmes logiciels dits « déterministes » ou fondés sur des règles logiques classiques (les arbres conditionnels de type if-then-else préprogrammés par un être humain). Le critère cardinal réside dans la capacité d'inférence (apprentissage machine, inférence statistique, logique inductive) conférant une autonomie opérationnelle et une adaptabilité face à des entrées imprévues.
2. La pyramide des risques : L'architecture maîtresse
L'AI Act repose sur une approche proportionnée graduant les contraintes réglementaires en fonction du danger potentiel pour la santé, la sécurité et les droits fondamentaux. Quatre strates étanches composent cette architecture :
🚫 Niveau 1 : Les Pratiques Interdites (Article 5)
Applicables dès le 2 février 2025, ces systèmes sont jugés contraires aux valeurs de l'Union et bannis du marché :
- Techniques subliminales ou manipulatrices altérant substantiellement le comportement d'un individu avec un préjudice à la clé ;
- Exploitation des vulnérabilités liées à l'âge, au handicap ou à une situation socio-économique défavorisée ;
- Notation sociale (social scoring) par des entités publiques ou privées menant à un traitement défavorable déconnecté du contexte d'origine ;
- Évaluation policière du risque individuel de récidive fondée uniquement sur le profilage de traits de personnalité ;
- Scraping non ciblé d'images faciales sur internet ou via des caméras de vidéosurveillance pour alimenter des bases de données de reconnaissance (style Clearview AI) ;
- Inférence des émotions sur le lieu de travail ou dans les établissements d'enseignement (sauf impératif médical/sécurité strict) ;
- Identification biométrique à distance en temps réel dans les espaces accessibles au public à des fins répressives (sauf exceptions judiciaires très étroitement encadrées : terrorisme, recherche ciblée de victimes d'enlèvement).
⚠️ Niveau 2 : Les Systèmes à Haut Risque (Articles 6 à 49, Annexes I & III)
Cœur du texte. Deux catégories de systèmes entrent dans ce champ :
- Ceux intégrés comme composants de sécurité dans des produits déjà soumis à homologation CE (dispositifs médicaux, aéronautique, véhicules, machines-outils) ;
- Ceux expressément énumérés à l'Annexe III (biométrie, infrastructures critiques, éducation et admission scolaire, recrutement et gestion RH, accès aux services essentiels publics/privés comme le crédit bancaire, maintien de l'ordre, gestion de l'asile et contrôle des frontières, administration de la justice).
Régime d'obligations lourdes : système de gestion des risques continu (Art. 9), gouvernance rigoureuse des données d'entraînement (Art. 10), documentation technique exhaustive (Art. 11), journalisation automatique des événements (Art. 12), transparence et notice d'instructions (Art. 13), contrôle humain effectif (Art. 14), robustesse, cybersécurité et précision (Art. 15).
ℹ️ Niveau 3 : Risque Spécifique de Transparence (Article 50)
Systèmes en interaction directe avec des personnes physiques (chatbots, agents conversationnels) qui doivent notifier explicitement leur nature artificielle, ou systèmes générateurs de médias synthétiques (deepfakes, génération de textes d'intérêt public) qui doivent comporter un marquage lisible par machine (watermarking) attestant de leur nature artificielle.
✅ Niveau 4 : Risque Minimal ou Nul
Tous les autres systèmes (filtres antispam, jeux vidéo, systèmes de recommandation d'inventaire, optimisation de trafic réseau). Ils ne font l'objet d'aucune contrainte juridique obligatoire sous l'AI Act, mais peuvent adhérer à des codes de conduite volontaires. Représente la vaste majorité des applications numériques.
3. Le cas d'école des modèles GPAI (General Purpose AI)
Le projet initial de la Commission de 2021 ne prévoyait pas l'irruption fracassante des grands modèles de fondation multimodaux (LLMs). L'AI Act a dû intégrer en urgence, lors des trilogues de fin 2023, un cadre ad hoc pour les modèles d'IA à usage général (GPAI) aux Articles 51 à 56.
Le texte distingue deux paliers de fournisseurs de modèles GPAI :
- Régime socle (tous les modèles GPAI) : Fourniture d'une documentation technique aux déployeurs intégrateurs, publication d'un résumé détaillé des contenus utilisés pour l'entraînement, respect des réserves de droits d'auteur (Directive 2019/790 Art. 4) et politique de conformité à la propriété intellectuelle.
- Régime des modèles à risque systémique : Modèles dont la capacité cumulée de calcul utilisée pour l'entraînement excède 1025 FLOPs (opérations en virgule flottante) ou désignés d'office par la Commission. Obligations additionnelles draconiennes : évaluation contradictoire de modèles (red-teaming), atténuation des risques systémiques à l'échelle de l'UE, suivi et signalement des incidents graves auprès de l'Office européen de l'IA (AI Office), cybersécurité renforcée de l'infrastructure d'hébergement.
4. AI Act et RGPD : L'illusion de la subsidiarité
C'est ici que réside le malentendu le plus dangereux pour les organisations : croire que la conformité à l'AI Act absorberait ou exonérerait du respect du RGPD.
L'Article 2, paragraphe 7 de l'AI Act pose une règle sans la moindre ambiguïté : « Le présent règlement ne porte pas atteinte à l'application du droit de l'Union en matière de protection des données à caractère personnel, notamment le règlement (UE) 2016/679 et la directive 2002/58/CE. »
En droit, il s'agit d'une application cumulative sans dérogation. Une solution d'IA peut être impeccablement certifiée CE au titre de l'AI Act et demeurer formellement illicite sous l'angle du RGPD. Les points de friction majeurs sont structurels :
Tableau comparatif des collisions doctrinales AI Act / RGPD
| Enjeu juridique | Ce qu'exige l'AI Act (UE 2024/1689) | Ce qu'impose le RGPD (UE 2016/679) |
|---|---|---|
| Qualité des données vs Minimisation | L'Art. 10 impose des jeux de données d'entraînement « statistiquement représentatifs, complets et exempts d'erreurs » pour éviter les biais. | L'Art. 5.1(c) impose la stricte minimisation : ne traiter que les données adéquates et strictement nécessaires. L'accumulation massive de données personnelles est a priori suspecte. |
| Droit à l'effacement (Art. 17) | Ne régit pas l'oubli algorithmique ; impose la traçabilité et la reproductibilité des modèles. | La personne concernée peut exiger la suppression de sa donnée. Or, désapprendre un paramètre au sein des poids d'un réseau de neurones sans ré-entraîner l'intégralité du modèle demeure une aporie technique. |
| Données sensibles (Art. 9) | L'Art. 10(5) crée une dérogation inédite autorisant le traitement exceptionnel de données sensibles pour détecter et corriger les biais algorithmiques. | Interdiction absolue de principe sauf 10 exceptions limitatives (Art. 9.2). Les autorités (CEPD, CNIL, APD) surveillent très étroitement l'usage effectif de cette passerelle de l'AI Act. |
| Décision automatisée & Profilage | Autorise les systèmes à haut risque sous réserve de mesures de contrôle humain (Art. 14). | L'Art. 22 confère un droit de ne pas faire l'objet d'une décision exclusivement automatisée produisant des effets juridiques. La présence humaine doit être substantielle et non un simple simulacre de validation. |
5. Calendrier d'application et sanctions : La chronologie réelle
Publié au Journal officiel de l'Union européenne le 12 juillet 2024 et entré en vigueur le 2 août 2024, l'AI Act ne devient pas applicable en un seul bloc, mais selon le calendrier échelonné fixé par l'Article 113 :
- 2 février 2025 (M+6) : Application des Chapitres I (dispositions générales) et II (pratiques prohibées de l'Article 5), ainsi que de l'obligation de culture générale de l'IA (Art. 4) ;
- 2 août 2025 (M+12) : Entrée en vigueur des règles encadrant les modèles d'IA à usage général (GPAI, Chapitre V), désignation des autorités nationales compétentes, gouvernance (Chapitre VII) et sanctions afférentes (Article 111) ;
- 2 août 2026 (M+24) : Application générale de l'ensemble du règlement (Art. 113(c)), notamment le régime complet des systèmes à haut risque listés à l'Annexe III et les obligations des fournisseurs (Art. 16) comme des déployeurs (Art. 26) ;
- 2 août 2027 (M+36) : Application différée pour les systèmes à haut risque relevant de l'Annexe I (dispositifs médicaux, machines industrielles, aviation civile, soumis à des législations sectorielles d'harmonisation de l'Union).
Régime des sanctions financières (Article 99)
L'AI Act a repris le mécanisme dissuasif du RGPD en augmentant encore les plafonds : jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires mondial pour violation des pratiques interdites (Art. 5) ; jusqu'à 15 millions d'euros ou 3 % pour manquement aux obligations relatives aux systèmes à haut risque ; et jusqu'à 7,5 millions d'euros ou 1,5 % pour fourniture d'informations inexactes ou trompeuses aux autorités notifiées ou à l'Office de l'IA. Des plafonds proportionnellement réduits sont prévus pour les PME et startups.
6. Méthodologie : La feuille de route opérationnelle en 5 étapes
Face à cette double contrainte AI Act / RGPD, quelle méthodologie pragmatique les directions juridiques et techniques doivent-elles déployer dès aujourd'hui ?
- Cartographie des cas d'usage : Recenser l'ensemble des outils algorithmiques employés en interne (y compris le Shadow AI, c'est-à-dire les comptes personnels d'outils SaaS utilisés par les collaborateurs).
- Test d'exclusion de l'Article 5 : Vérifier immédiatement qu'aucun projet ne flirte avec les pratiques prohibées (scoring de collaborateurs, analyse des émotions en réunion, reconnaissance faciale sauvage).
- Audit de qualification des risques : Pour chaque cas d'usage résiduel, qualifier son rang : Annexe III (haut risque), simple obligation de transparence (chatbot), ou risque minimal.
- Alignement systématique avec le RGPD : Pour tout système traitant des données personnelles, formaliser la base légale (l'intérêt légitime de l'Art. 6.1.f exigeant un rigoureux test LIA face au scraping), réaliser ou actualiser l'AIPD (Art. 35 RGPD) et vérifier la validité contractuelle du contrat DPA (Art. 28 RGPD) avec l'éditeur d'IA.
- Gouvernance humaine et traçabilité : Mettre en place un protocole d'habilitation des intervenants humains habilités à superviser les prédictions (Human-in-the-loop) et configurer la rétention technique des journaux d'événements (logs) pour une durée minimale de 6 mois conformément à l'Article 12.
Sources officielles contrôlées et références
Principes, bases légales, droits, protection dès la conception, sécurité et AIPD.
Consulter la source officielle →Cadre européen de sécurité des produits d'IA, classification des risques et obligations de conformité.
Consulter la source officielle →Anonymat, intérêt légitime, mémorisation, extraction et conséquences d’un traitement illicite.
Consulter la source officielle →Voir aussi dans le référentiel
Article 22, décision automatisée et profilage
Garanties humaines et encadrement des algorithmes décisionnels.
Article 25, protection dès la conception
Transformer les principes en choix d’architecture vérifiables.
Article 35, analyse d’impact (AIPD)
Évaluation systématique des risques pour les droits et libertés.