AI Act et IA dans l'éducation : apprentissage adaptatif, proctoring, admissions
L'AI Act classe plusieurs applications d'IA éducative comme à haut risque et interdit la reconnaissance des émotions dans les écoles. Ce guide explique la classification, les obligations et les étapes de conformité.
L'intelligence artificielle transforme l'éducation à tous les niveaux — les plateformes d'apprentissage personnalisé s'adaptent aux élèves individuels, les systèmes de surveillance automatisée des examens contrôlent les examens à distance, et les outils algorithmiques assistent les admissions universitaires. Chacune de ces applications soulève des questions distinctes en vertu de l'AI Act européen.
La classification centrale : quelle IA éducative est à haut risque ?
L'article 6(2) et l'annexe III §3 de l'AI Act classifient comme à haut risque :
Les systèmes d'IA destinés à être utilisés pour déterminer l'accès ou l'admission aux établissements d'enseignement, pour évaluer les résultats d'apprentissage, pour évaluer le niveau d'enseignement approprié pour une personne et influencer matériellement le niveau d'enseignement que cette personne recevra, ou pour surveiller et détecter les comportements interdits des étudiants pendant les tests.
Cette disposition couvre :
- IA d'admission : Systèmes qui évaluent, classent ou sélectionnent les candidats
- IA d'évaluation : Systèmes qui évaluent les performances des étudiants — notation, correction de dissertations
- IA d'apprentissage adaptatif : Systèmes qui évaluent le niveau d'apprentissage d'un étudiant et recommandent une voie curriculaire spécifique — lorsque ces recommandations « influencent matériellement » la trajectoire éducative
- IA de proctoring : Systèmes qui surveillent les étudiants pendant les examens
Outils d'apprentissage adaptatif : le test de l'influence matérielle
Tout apprentissage adaptatif ne relève pas de la catégorie à haut risque. L'AI Act exige que le système « influence matériellement » le niveau d'enseignement que la personne recevra.
Un système d'IA qui ajuste la difficulté des exercices dans une seule session — sans générer d'enregistrements permanents affectant le placement curriculaire d'un étudiant — n'est probablement pas à haut risque.
Un système qui génère un rapport de placement qu'un établissement utilise pour affecter l'étudiant à un niveau de classe spécifique, à un groupe de capacités ou à un programme éducatif exerce une influence matérielle. Ce système est à haut risque.
IA de proctoring : le cas à haut risque avec une interdiction absolue
Le proctoring IA est explicitement listé comme à haut risque dans l'annexe III §3. Il est l'un des cas d'usage d'IA les plus controversés dans l'éducation.
L'interdiction absolue : aucune reconnaissance des émotions dans les établissements d'enseignement
L'article 5(1)(f) de l'AI Act interdit les systèmes d'IA utilisés pour inférer les émotions de personnes physiques dans les établissements d'enseignement, avec seulement des exceptions médicales et de sécurité.
Cette interdiction affecte les produits de proctoring qui vont au-delà de la détection de comportements spécifiques interdits et tentent d'inférer des états émotionnels (stress, anxiété). Elle affecte également les produits d'apprentissage adaptatif qui utilisent l'inférence d'émotions.
Si votre produit EdTech utilise la reconnaissance des émotions sous quelque forme que ce soit dans un contexte éducatif, cette capacité doit être supprimée. Il n'existe aucune voie de conformité.
Dimension protection des données
Le proctoring IA traite des données biométriques très sensibles. C'est une donnée biométrique de catégorie spéciale en vertu de l'article 9 du RGPD. Le traitement nécessite un consentement explicite ou une base légale spécifique.
En pratique : les étudiants ne peuvent pas fournir un consentement genuinement libre lorsque le refus signifie ne pas pouvoir passer un examen. Les autorités de contrôle RGPD dans plusieurs États membres de l'UE ont pris position que le consentement obligatoire dans les contextes d'examen éducatif n'est pas librement donné.
IA d'admission
Classification
L'IA utilisée dans les admissions éducatives est explicitement à haut risque en vertu de l'annexe III §3.
Obligations critiques pour l'IA d'admission
Article 10 — Tests de biais : L'IA d'admission doit être testée pour les performances différentielles par race, genre, origine socioéconomique, handicap et langue maternelle. Les données d'admission historiques reflètent des schémas historiques de privilège et de désavantage.
Article 14 — Supervision humaine : L'IA d'admission ne peut pas remplacer les comités d'admission humains.
FRIA (article 27) pour les universités publiques : Les universités publiques qui déploient une IA d'admission doivent réaliser une FRIA avant le déploiement.
Guidance pratique pour les entreprises EdTech et les établissements d'enseignement
Pour les entreprises EdTech fournissant de l'IA éducative à haut risque :
- Classifiez chaque produit selon l'annexe III §3 avec un raisonnement documenté
- Supprimez tout composant de reconnaissance des émotions des produits utilisés dans des contextes éducatifs
- Préparez la documentation technique de l'annexe IV incluant la ventilation des performances par données démographiques
- Fournissez aux écoles une documentation suffisante pour leur propre conformité
Pour les écoles, universités et établissements d'enseignement publics :
- Vérifiez que tout système d'IA que vous déployez possède une Déclaration de Conformité UE valide
- Réalisez une FRIA avant de déployer tout système d'IA à haut risque
- Informez les étudiants et les parents que l'IA est utilisée dans les processus éducatifs les concernant
Comment Dilaig vous aide
Dilaig génère les quatre documents obligatoires pour les fournisseurs EdTech de systèmes d'IA éducative à haut risque — Documentation Technique, Déclaration de Conformité, FRIA et Notice de Transparence — à partir d'un seul audit en 50 questions.
FAQ : AI Act et IA dans l'éducation
Q : Un système de gestion de l'apprentissage (LMS) qui utilise des recommandations IA se qualifie-t-il comme à haut risque ? Cela dépend de ce que font les recommandations. Un LMS qui suggère des ressources d'étude n'est probablement pas à haut risque. Un LMS qui affecte les étudiants à différents niveaux de classe ou génère des rapports de placement est probablement à haut risque.
Q : L'interdiction de la reconnaissance des émotions s'applique-t-elle aux projets de recherche universitaires ? L'interdiction de l'article 5(1)(f) s'applique aux utilisations « dans le contexte des établissements d'enseignement ». L'utilisation de la reconnaissance des émotions dans une salle de classe ou un contexte d'examen pour la recherche est probablement toujours interdite.
Q : Qui est responsable lorsqu'une IA d'admission prend une décision biaisée ? Le fournisseur EdTech et le déployeur (université) supportent tous deux des responsabilités pour leurs obligations respectives. Les décisions d'admission automatisées biaisées peuvent également déclencher des demandes au titre du droit européen anti-discrimination directement contre l'université.
Points clés à retenir
- L'IA d'admission, l'IA d'évaluation et l'IA de proctoring sont explicitement à haut risque en vertu de l'annexe III §3.
- La reconnaissance des émotions dans les établissements d'enseignement est absolument interdite en vertu de l'article 5(1)(f).
- Les établissements d'enseignement publics déployant de l'IA à haut risque doivent réaliser une FRIA avant le déploiement.
- L'IA d'admission doit être testée pour les biais démographiques et conçue avec une supervision humaine.