Les pratiques d'IA interdites (Article 5) : liste complète et cas concrets
L'article 5 de l'AI Act interdit purement et simplement huit catégories de pratiques d'IA — sans exemptions, sans voie de conformité. Découvrez la liste complète avec des exemples concrets et les exceptions clés.
L'article 5 de l'AI Act européen est unique en son genre dans le règlement. Tandis que la plupart de l'AI Act crée des exigences de conformité — des documents à préparer, des évaluations à réaliser, des processus à mettre en place — l'article 5 trace une ligne rouge. Les pratiques d'IA qu'il liste sont tout simplement interdites. Il n'existe aucune voie de conformité, aucune évaluation de conformité, aucune documentation qui les rende légales. Elles sont interdites dans l'UE depuis le 2 février 2025.
La structure de l'article 5
L'article 5 interdit huit catégories de systèmes et pratiques d'IA, organisées en trois grands thèmes :
- Manipulation et exploitation — IA qui subvertit l'autonomie humaine
- Contrôle social — IA qui classe ou note les personnes à des fins sociales
- Surveillance biométrique — IA qui identifie ou catégorise les personnes sur la base de caractéristiques biologiques ou comportementales
Les amendes pour développement, mise sur le marché ou utilisation de systèmes d'IA interdits sont les plus élevées de l'AI Act : jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial.
Interdiction 1 : Manipulation subliminale
Ce qu'interdit l'article 5(1)(a) : Les systèmes d'IA qui déploient des techniques subliminales échappant à la conscience d'une personne pour distordre matériellement son comportement d'une manière qui cause ou est susceptible de causer un préjudice significatif.
Exemples concrets : Un système de recommandation IA qui utilise des fréquences psychoacoustiques inaudibles pour induire des impulsions d'achat. Une plateforme de contenu IA qui présente des images à des vitesses inférieures au seuil de traitement conscient pour créer des associations émotionnelles que l'utilisateur ne peut pas détecter.
Interdiction 2 : Exploitation des vulnérabilités
Ce qu'interdit l'article 5(1)(b) : Les systèmes d'IA qui exploitent les vulnérabilités spécifiques de personnes en raison de leur âge, de leur handicap ou de leur situation socioéconomique, pour distordre matériellement leur comportement.
Exemples concrets : Une plateforme IA de traitement de l'addiction qui identifie les vulnérabilités psychologiques des patients à partir des données de sessions thérapeutiques et utilise ces informations pour maximiser l'engagement avec des fonctionnalités premium. Une plateforme de prêt IA qui cible des utilisateurs âgés présentant un déclin cognitif.
Interdiction 3 : Notation sociale par les autorités publiques
Ce qu'interdit l'article 5(1)(c) : Les systèmes d'IA utilisés par les autorités publiques pour évaluer ou classer les personnes physiques sur la base de leur comportement social, entraînant un traitement préjudiciable dans des contextes sociaux sans rapport avec les données d'origine.
Exemples concrets : Un système gouvernemental qui agrège des données fiscales, d'infractions de transport, d'emprunts en bibliothèque et d'activité sur les réseaux sociaux pour attribuer aux citoyens un score social affectant les demandes de logement ou de licences commerciales.
Interdiction 4 : Évaluation du risque criminel basée sur le profilage
Ce qu'interdit l'article 5(1)(d) : Les systèmes d'IA utilisés par les forces de l'ordre pour évaluer le risque qu'une personne commette une infraction pénale, basés uniquement sur le profilage ou l'évaluation de traits et caractéristiques de personnalité, sans lien avec des faits objectifs et vérifiables.
Exemples concrets : Un système de police prédictive qui attribue aux résidents un score de probabilité criminelle basé sur des caractéristiques démographiques ou des connexions dans les réseaux sociaux, sans lien factuel objectif avec l'activité criminelle de cet individu spécifique.
Interdiction 5 : Collecte non ciblée pour les bases de données de reconnaissance faciale
Ce qu'interdit l'article 5(1)(e) : Les systèmes d'IA qui créent ou développent des bases de données de reconnaissance faciale par collecte non ciblée d'images de visages sur internet ou de séquences CCTV.
Exemples concrets : Une entreprise qui déploie un robot d'indexation pour télécharger et traiter toutes les images contenant des visages sur des sites web accessibles au public.
Interdiction 6 : Reconnaissance des émotions sur les lieux de travail et dans les établissements d'enseignement
Ce qu'interdit l'article 5(1)(f) : Les systèmes d'IA utilisés pour inférer les émotions de personnes physiques dans le contexte du lieu de travail et des établissements d'enseignement, sauf pour des raisons médicales ou de sécurité.
Exemples concrets : Un employeur déployant un système d'IA qui analyse les expressions faciales des employés pendant les réunions pour évaluer leur engagement ou leur niveau de stress, et utilise ces données pour les évaluations de performance. Une plateforme d'apprentissage en ligne qui analyse les expressions faciales des étudiants pour évaluer leur engagement émotionnel.
Interdiction 7 : Catégorisation biométrique pour déduire des caractéristiques sensibles
Ce qu'interdit l'article 5(1)(g) : Les systèmes d'IA qui catégorisent les personnes physiques individuellement sur la base de leurs données biométriques pour déduire leur race, opinions politiques, appartenance syndicale, convictions religieuses ou philosophiques, vie sexuelle ou orientation sexuelle.
Exemples concrets : Un système qui analyse les traits du visage pour inférer l'appartenance ethnique ou l'orientation sexuelle à des fins de ciblage marketing.
Interdiction 8 : Identification biométrique à distance en temps réel dans les espaces publics
Ce qu'interdit l'article 5(1)(h) : L'utilisation de systèmes d'identification biométrique à distance (IBD) en temps réel dans des espaces accessibles au public à des fins répressives.
Les exceptions étroites (article 5(2)) :
Les États membres peuvent autoriser l'IBD en temps réel par les forces de l'ordre dans des espaces publics, au cas par cas, pour trois finalités spécifiques :
- Recherches ciblées de victimes spécifiques de traite ou d'exploitation sexuelle, ou de personnes disparues
- Prévention d'une menace terroriste spécifique, substantielle et imminente
- Identification de personnes soupçonnées d'avoir commis certains crimes graves
Chaque utilisation doit être autorisée par une autorité judiciaire ou administrative indépendante.
Ce que l'article 5 signifie pour votre organisation
Pour la plupart des organisations commerciales, l'interdiction de l'identification biométrique en temps réel et de la notation sociale sont les plus pertinentes.
- Si vous construisez un système qui observe ou analyse des personnes sur des lieux de travail ou dans des établissements d'enseignement : l'inférence d'émotions est interdite.
- Si vous collectez des données publiques pour construire une base de données biométrique : l'interdiction de collecte non ciblée s'applique.
Comment Dilaig vous aide
L'audit de conformité de Dilaig inclut un ensemble de questions de filtrage de l'article 5 dans la phase initiale de classification. Toute réponse affirmative à une question sur les pratiques interdites déclenche une alerte immédiate.
FAQ : Pratiques d'IA interdites par l'article 5
Q : Si nous utilisons aujourd'hui une pratique d'IA interdite, que devons-nous faire ? Arrêtez immédiatement et consultez un conseiller juridique. Les interdictions sont en vigueur depuis février 2025. La poursuite de l'utilisation d'un système interdit constitue une violation continue.
Q : L'article 5 s'applique-t-il aux systèmes d'IA utilisés en dehors de l'UE ? La portée territoriale de l'AI Act suit les utilisateurs de l'UE et la mise sur le marché de l'UE, pas la localisation des serveurs.
Q : Un système d'IA interdit peut-il devenir conforme avec des modifications ? Dans certains cas, oui. Un système de reconnaissance des émotions utilisé sur un lieu de travail pourrait être modifié pour supprimer la composante d'inférence des émotions.
Points clés à retenir
- L'article 5 interdit purement et simplement huit pratiques d'IA depuis le 2 février 2025.
- Il n'existe aucune voie de conformité pour les IA interdites. La seule réponse conforme est la cessation de la pratique interdite.
- Les amendes pour IA interdites sont les plus élevées du règlement : 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial.