Voix off : Ce podcast vous est proposé par l'Institut des hautes études de l'éducation et de la formation. Dans cet épisode, Raphaël Mata-Duvignau, chargé de mission auprès de la médiatrice de l'éducation nationale, apporte son éclairage sur les aspects juridiques de cette thématique.

Raphaël Mata-Duvignau : Souveraineté numérique, intelligence artificielle et éducation nationale : quelle garantie juridique pour un service public à l'heure des algorithmes ?

La transition numérique du service public, et particulièrement de l'éducation nationale, soulève des défis majeurs concernant la souveraineté technologique, la gestion de l'intelligence artificielle et la sécurité des données. À l'heure des algorithmes et des services cloud, la maîtrise étatique de l'infrastructure et des flux d'informations ne relève plus seulement d'une ambition politique, mais d'une nécessité juridique et stratégique reconnue par le législateur, les rapports parlementaires et les juridictions administratives.

Dans un premier temps, nous verrons les définitions et le cadre juridique de la souveraineté numérique.

La souveraineté numérique désigne la capacité de l'État à contrôler ses réseaux, ses données et ses technologies, condition indispensable pour exercer effectivement ses missions régaliennes. Selon le rapport du Sénat de 2019, je cite : la maîtrise de nos réseaux, de nos communications électroniques et de nos données publiques est le socle de la souveraineté à l'ère numérique.
La notion, d'abord perçue comme technique, s'est élargie à la politique, puis à la sphère juridique, et est aujourd'hui portée par plusieurs normes. La souveraineté numérique s'inscrit dans un cadre juridique à la fois national et européen, qui encadre strictement la maîtrise des technologies, des données et des infrastructures numériques utilisées par les services publics.
Au niveau français, la loi pour une République numérique du 7 octobre 2016 constitue la pierre angulaire. Elle souligne notamment l'importance de la portabilité des données, de l'ouverture des données publiques, c'est-à-dire l'open data, et du principe de neutralité du net.
En complément, la doctrine dite cloud au centre, officialisée en 2021 puis confirmée dans la loi du 21 mai 2024, impose aux administrations d'héberger en priorité leurs données sensibles sur des infrastructures souveraines, certifiées et situées sur le territoire européen. Cette exigence vise à garantir la protection des données stratégiques contre les risques liés aux législations extraterritoriales, comme le Cloud Act américain, qui peuvent compromettre la souveraineté française.
Sur le plan européen, le Règlement général sur la protection des données, le fameux RGPD, entré en vigueur en 2018, établit un cadre rigoureux pour le traitement des données personnelles, avec une attention renforcée pour la protection des mineurs. Plus récemment, le règlement dit IA Act est en cours de déploiement. Ce texte constitue la première tentative d'encadrer juridiquement l'utilisation des systèmes d'intelligence artificielle dans l'Union européenne, posant des exigences strictes en matière de transparence, de traçabilité, d'auditabilité et de contrôle humain, en particulier pour les applications déployées dans le secteur public.
Enfin, les autorités administratives indépendantes, telles que la CNIL, puis le Conseil d'État, juridiction administrative, apportent des recommandations précises. La CNIL met l'accent sur la nécessité d'informations transparentes des usagers et sur la responsabilité des responsables de traitement face aux algorithmes, tandis que le Conseil d'État souligne l'urgence d'instaurer des comités de suivi et de garantir la supervision humaine des décisions automatisées. Ces préconisations ponctuent le cadre juridique en rappelant que la souveraineté numérique ne se limite pas à la maîtrise technologique, mais implique aussi un contrôle normatif et éthique garantissant les droits fondamentaux des citoyens.

Dans un deuxième temps, nous verrons que l'éducation nationale constitue un terrain critique pour la souveraineté numérique.

En effet, l'éducation nationale constitue un domaine particulièrement sensible en matière de souveraineté numérique du fait du volume considérable des données personnelles qu'elle traite, notamment celles des élèves, des familles et des personnels éducatifs. Ces données, souvent qualifiées de sensibles, nécessitent une protection renforcée conformément au RGPD, en particulier pour la catégorie des mineurs, selon l'article 8 du RGPD.
Le recours accru à l'intelligence artificielle dans les processus éducatifs, que ce soit pour l'évaluation, l'orientation ou la personnalisation pédagogique, soulève d'importantes questions juridiques, techniques, mais également éthiques. Si l'IA permet une amélioration potentielle de l'efficacité et de la qualité du service public, elle expose également des risques de dépendance vis-à-vis des éditeurs privés, souvent extra-européens, qui fournissent les outils et plateformes nécessaires.
L'exemple emblématique est celui du contrat signé avec Microsoft pour la fourniture de services cloud à l'éducation nationale. Ce partenariat illustre la tension persistante entre la doctrine officielle de souveraineté, cloud au centre, qui prescrit l'hébergement souverain et européen des données, et la réalité pratique, qui continue parfois à faire confiance à des prestataires américains soumis à des législations extraterritoriales telles que le Cloud Act. Cette situation crée un risque juridique, notamment en termes de respect du RGPD, et stratégique également, en accentuant la dépendance technologique de l'État aux géants du numérique étrangers.
Face à ces enjeux, plusieurs principes juridiques essentiels doivent encadrer le développement et l'intégration de l'IA dans le service public éducatif.
Première idée : la protection renforcée des mineurs. La réglementation européenne, notamment le RGPD, impose une protection accrue des données personnelles des mineurs. L'article 8, que j'ai cité, du RGPD établit que tout traitement des données sur les enfants requiert le consentement de l'autorité parentale et une information claire et adaptée. Dans le contexte éducatif, cette exigence doit se traduire par une transparence forte à destination des familles et un respect strict des droits des élèves en matière de vie privée.
Le maintien d'un arbitrage humain et le droit du recours effectif doivent aussi être surveillés. En effet, conformément aux recommandations du Conseil d'État dans son rapport de 2022, et conformément également à l'IA Act européen, toute décision prise à l'aide d'un algorithme et produisant un effet significatif sur la situation juridique ou pédagogique d'un usager doit pouvoir être revue par un agent humain compétent. Ce principe garantit le droit à un recours effectif devant la juridiction administrative, ainsi qu'un contrôle exercé par des autorités indépendantes comme la CNIL ou la Commission d'accès aux documents administratifs. Il s'appuie aussi, ce droit au recours, sur l'article 47 de la Charte des droits fondamentaux de l'Union européenne, protégeant le droit à un recours effectif.
Ainsi, les algorithmes utilisés doivent être explicables et auditables, c'est-à-dire que les établissements et utilisateurs doivent avoir accès aux critères et règles qui sous-tendent le fonctionnement des outils d'IA. Ces exigences, soulignées dans les recommandations de la CNIL et du Conseil d'État, visent à prévenir les discriminations, les biais algorithmiques et à assurer la confiance des usagers vis-à-vis des systèmes automatisés.
Ainsi, dans le cadre des contrats publics, il est indispensable d'imposer des clauses précises, notamment de réversibilité, d'interopérabilité, d'audit, ainsi que de localisation des données dans des infrastructures certifiées souveraines. Ces mesures visent à protéger les données contre les accès non autorisés, notamment ceux issus de l'application extraterritoriale de lois étrangères, et également vise à assurer la maîtrise complète des données par l'administration.

Dans un troisième temps, la souveraineté numérique apparaît comme une mission fondamentale du service public éducatif.

En effet, la souveraineté numérique ne se limite pas à une exigence technique ou contractuelle. Elle doit être intégrée dans la mission même de l'éducation nationale. En effet, le numérique éducatif ne peut être une simple couche technologique ajoutée au service public traditionnel, mais engage une transformation profonde de la relation au savoir, à l'autorité, à la responsabilité et à l'autonomie des élèves et des personnels. C'est d'ailleurs ce que démontre le rapport du cycle des auditeurs de l'Institut, publié en 2023.
L'éducation nationale a ainsi la responsabilité première de former des citoyens capables de maîtriser les outils numériques et l'intelligence artificielle en développant chez eux une culture critique, une compréhension des algorithmes et une réflexivité sur ces technologies. Cette éducation à la souveraineté numérique est une condition indispensable pour préserver la liberté, l'égalité et la démocratie à l'ère du numérique. Former à la maîtrise technique et à l'éthique de l'IA contribue à l'émancipation des élèves, au renforcement de leur autonomie, mais aussi à la légitimité citoyenne du service public.
Afin de garantir la souveraineté numérique éducative, plusieurs mesures clés doivent être adoptées à la fois sur le plan juridique, organisationnel et éthique.
Quelques idées en vrac peuvent être proposées.
Par exemple, l'institutionnalisation de chartes nationales et locales de l'IA éducative, garantissant la protection des droits fondamentaux, la transparence des algorithmes et la non-discrimination.
Autre exemple, la création de cellules juridiques et éthiques dans chaque rectorat et DSDEN, chargées d'évaluer en amont, et parfois même en continu, l'introduction de nouveaux outils numériques et leurs implications. Ce dispositif s'appuie sur les recommandations des autorités comme le Conseil d'État et la CNIL.
Troisième exemple de dispositif potentiel, la promotion de partenariats public-public et de l'innovation interne, notamment avec des organismes comme l'INRIA, le CNED ou les incubateurs EdTech publics. Ce choix favorise le développement de solutions souveraines françaises et européennes, limitant ainsi la dépendance aux offres clés en main de multinationales étrangères.
Dernier exemple potentiel, le développement d'une doctrine d'achat public numérique souveraine, intégrant des critères juridiques prioritaires tels que l'interopérabilité, la sécurité, la localisation des données et la transparence contractuelle. Cette doctrine se substituerait progressivement aux stratégies fragmentées et garantirait la maîtrise opérationnelle des infrastructures par le service public.

Pour conclure, la souveraineté numérique dans l'éducation nationale est un enjeu juridique, stratégique et éthique majeur. Elle repose sur un cadre normatif solide. Cependant, la réalité révèle encore des tensions, notamment la dépendance à des prestataires étrangers, qui fragilisent la maîtrise étatique des données et des technologies.
Ainsi, la souveraineté éducative doit devenir une mission intégrée et partagée, garantissant que l'innovation technologique serve pleinement les valeurs de l'école : liberté, égalité, responsabilité et confiance.
C'est en conjuguant rigueur juridique et engagement pédagogique que l'État assurera un service public éducatif réellement souverain à l'ère du numérique.

Voix off : Je vous rappelle que l'ensemble de nos podcasts est accessible via toutes les plateformes de podcasts comme Apple Podcasts, Spotify ou Deezer, et directement sur notre site internet www.ih2ef.gouv.fr, sur lequel vous retrouvez également de nombreuses ressources.

Retour à l'émission Ia pratiques et éthique pour le leadership des cadres au periscope