Enjeux sociétaux : Éthique, écologie et souveraineté
Impacts et enjeux sociétaux de l’IA pour les structures associatives et d’animation jeunesse
1. Introduction : pourquoi former les acteurs associatifs à l’IA ?
La diffusion rapide de l’intelligence artificielle (IA) touche désormais tous les pans de la vie sociale : services publics, plateformes numériques, outils bureautiques, réseaux sociaux, applications de communication, recherche d’emploi, santé, éducation, culture. Les structures associatives, les acteurs de l’éducation populaire et de l’animation jeunesse utilisent déjà – souvent sans toujours le mesurer – des services intégrant de l’IA : suites collaboratives en ligne, outils de traduction automatique, assistants rédactionnels, modération de contenus, systèmes d’inscription ou de gestion de publics hébergés dans le cloud.[1][2][3][4]
Dans ce contexte, il devient indispensable que ces structures soient en capacité de :
Comprendre leurs obligations juridiques au regard du RGPD et du règlement européen sur l’IA (AI Act) lorsqu’elles déploient ou utilisent des systèmes d’IA.
Appréhender les impacts environnementaux de l’IA générative et identifier des leviers concrets de sobriété numérique.
Situer leurs choix d’outils dans les débats sur la souveraineté des données, la dépendance au cloud et les rapports de force géopolitiques.
Anticiper les risques de désinformation et de concentration économique de l’IA pour la qualité du débat citoyen et la participation des jeunes.
Ce rapport vise à fournir un socle de contenu pour une formation destinée à des responsables associatifs, animateurs jeunesse, informateurs jeunesse et médiateurs numériques.
2. Obligations RGPD et AI Act pour une structure associative utilisant l’IA
2.1. Rappel des obligations RGPD pour les associations
Le Règlement général sur la protection des données (RGPD) s’applique à toute organisation – y compris les associations – qui traite des données à caractère personnel, quel que soit le support (fichiers Excel, CRM, outils en ligne, plateformes d’inscription, etc.). La CNIL rappelle que le RGPD abandonne la logique des déclarations préalables pour privilégier une logique de responsabilisation : les associations n’ont plus à déclarer leurs fichiers, mais doivent être en mesure de démontrer à tout moment leur conformité.[3][1]
Les principaux principes RGPD applicables aux usages d’IA sont :
Licéité, loyauté, transparence : informer clairement les personnes de l’usage de leurs données, des finalités poursuivies et des éventuels traitements par IA.[5][3]
Minimisation des données : ne collecter que les données strictement nécessaires, éviter d’aspirer massivement des données « au cas où » pour alimenter des modèles.[^1]
Limitation de la durée de conservation : définir des durées raisonnables et les respecter, y compris dans les systèmes d’IA (logs, historiques de conversations, etc.).[5][1]
Sécurité : mettre en place des mesures techniques et organisationnelles pour protéger les données (chiffrement, contrôle d’accès, journalisation, etc.).[3][5]
Droits des personnes : garantir l’accès, la rectification, l’effacement, l’opposition et, le cas échéant, la portabilité des données.[^1]
Lorsqu’une association entraîne un modèle d’IA sur des données personnelles (par exemple un chatbot à partir de l’historique de questions de jeunes usagers), l’avis du Comité européen de la protection des données (CEPD) rappelle que le RGPD s’applique pleinement : la structure doit identifier une base légale, informer les personnes et, si nécessaire, réaliser une analyse d’impact (AIPD).[3][5]
2.2. AI Act : qui est concerné dans le monde associatif ?
Le règlement européen sur l’IA (AI Act, règlement UE 2024/1689) est entré en vigueur en août 2024 et s’applique progressivement à partir de 2025‑2027. Il crée un cadre harmonisé pour le développement, la mise sur le marché et l’utilisation des systèmes d’IA dans l’UE, selon une approche fondée sur le niveau de risque.[2][4]
Sont concernés :
Les fournisseurs de systèmes d’IA (organisations qui développent un système et le mettent sur le marché ou le mettent à disposition).
Les déployeurs (organisations qui utilisent ou intègrent un système d’IA dans leurs activités), y compris des associations.[6][2]
Une structure associative sera typiquement « déployeur » lorsqu’elle utilise :
un chatbot d’accueil pour répondre aux questions des usagers,
un système d’aide à l’orientation ou au diagnostic social intégrant une IA,
un outil de tri ou de scoring automatisé pour l’accès à des services, des aides ou des activités.
2.3. Typologie des risques et obligations de transparence
L’AI Act distingue plusieurs niveaux de risque :[4][2]
Risque minime : filtres anti‑spam, IA dans les jeux vidéo, etc. – pas d’obligations spécifiques.
Risque spécifique en matière de transparence : chatbots et systèmes qui génèrent des contenus audio, image, vidéo ou texte, soumis à des obligations d’information des utilisateurs.
Risque élevé : systèmes impactant fortement les droits fondamentaux (recrutement, crédit, éducation, santé, justice, etc.) – obligations renforcées (gestion des risques, qualité des données, documentation, contrôle humain).
Risque inacceptable : notations sociales, manipulations comportementales ciblant des vulnérabilités, certains usages de la biométrie – interdits.[^2]
Pour la plupart des associations d’animation ou d’Information Jeunesse, les obligations concernent surtout les systèmes de transparence et, dans certains cas, des systèmes potentiellement à risque élevé si l’IA est utilisée pour des décisions ayant un impact significatif (sélection dans un dispositif, évaluation automatisée, etc.).[7][4]
L’article 50 de l’AI Act détaille les obligations de transparence :
Informer les personnes lorsqu’elles interagissent avec un système d’IA (chatbot), sauf si cela est évident pour un utilisateur raisonnablement informé.[^8]
Marquer les contenus audio, image, vidéo ou texte générés ou manipulés afin qu’ils soient détectables comme artificiels (par exemple via un filigrane lisible par machine).[^8]
Indiquer que des textes générés par IA et publiés pour informer le public sur des questions d’intérêt général ont été générés ou manipulés par IA, sauf si un contrôle éditorial humain assumé est exercé.[^8]
2.4. Concrètement, que doit faire une association ?
Pour une structure associative qui utilise l’IA (ou envisage de le faire), quelques axes de conformité à intégrer dans une formation :
Cartographier les usages : identifier les outils qui intègrent de l’IA (chatbots, assistants, modules d’analyse) et les données traitées (données d’usagers, de bénévoles, de salariés).[9][3]
Vérifier la base légale RGPD (consentement, contrat, intérêt légitime…) et informer les personnes de manière accessible (affiches, fiches d’information, mentions dans les formulaires).
Appliquer les obligations de transparence de l’AI Act dès lors qu’un chatbot ou un générateur de contenus est utilisé pour interagir avec le public ou produire des informations.
Impliquer le DPO ou référent RGPD (quand il existe) et documenter les choix (registre des traitements, AIPD si nécessaire).[5][3]
Former les équipes aux usages autorisés, aux risques (hallucinations, biais, sécurité) et aux bonnes pratiques recommandées par la CNIL.[9][5]
3. Impact environnemental de l’IA générative et leviers de sobriété numérique
3.1. Une empreinte environnementale significative
Les travaux scientifiques et institutionnels convergent pour montrer que l’IA, en particulier l’IA générative, a une empreinte environnementale non négligeable, liée :
à la fabrication des équipements (serveurs, GPU, réseaux), gourmande en métaux rares et en énergie ;
à la consommation d’électricité des centres de données pour l’entraînement et l’inférence des modèles ;
à la consommation d’eau pour le refroidissement des data centers.[10][11][^12]
Une synthèse Inrae indique que l’entraînement de grands modèles peut entraîner des émissions allant de plusieurs centaines de kilogrammes à plus de 100 tonnes de CO₂e pour un seul modèle d’apprentissage profond. Des estimations récentes évaluent les émissions de gaz à effet de serre liées à l’IA en Europe à plus de 3 millions de tonnes de CO₂e en 2024.[11][10]
Les besoins en eau sont également très importants : des chercheurs ont estimé que l’entraînement d’un grand modèle comme GPT‑3 a nécessité près de 700 000 litres d’eau douce pour le refroidissement, et que la demande mondiale en eau de l’IA pourrait atteindre plusieurs milliards de mètres cubes d’ici 2027. Des rapports d’entreprises comme Google et Microsoft montrent par ailleurs une hausse de 28 à 54% de leur consommation d’eau et de leurs émissions de GES en quelques années, largement imputée à l’essor de l’IA.[12][13][14][10]
3.2. Effet rebond et banalisation de l’IA générative
Certaines études de communication d’entreprise minimisent l’impact d’un « prompt » isolé (par exemple 0,003 g de CO₂ et quelques gouttes d’eau par requête), mais des analyses indépendantes soulignent que ces chiffres reposent sur des choix méthodologiques peu transparents et ne tiennent pas compte de l’effet rebond : plus l’IA est perçue comme « écologique », plus son usage explose, et plus l’empreinte globale augmente.[^13]
L’IA générative se diffuse comme fonctionnalité par défaut dans les suites bureautiques, les moteurs de recherche ou les outils de communication, ce qui tend à multiplier les requêtes sans réelle nécessité. Pour les acteurs associatifs, la question se pose donc en termes de sobriété d’usage : quand l’IA apporte‑t‑elle une réelle plus‑value sociale, et quand n’est‑elle qu’un gadget coûteux pour l’environnement ?[^13]
3.3. Leviers de sobriété numérique pour les associations
Dans une formation, il est possible d’outiller les structures associatives pour réduire l’empreinte environnementale liée à l’IA en combinant plusieurs leviers :
Interroger la pertinence des cas d’usage : éviter d’utiliser l’IA pour des tâches simples ou peu fréquentes qui peuvent être réalisées sans elle ; réserver l’IA aux cas où elle libère du temps pour la relation humaine ou améliore significativement l’accès aux droits.[10][12]
Limiter le volume de requêtes : privilégier des usages ponctuels, encourager une formulation plus réfléchie des prompts pour éviter les itérations inutiles.[^13]
Choisir des services plus sobres : se renseigner sur l’empreinte environnementale des fournisseurs (rapports ESG, mix énergétique, localisation des data centers), privilégier des services hébergés sur des infrastructures plus sobres ou locales lorsque c’est possible.[15][11][^10]
Mutualiser les ressources : au sein d’un réseau (fédération, réseau Info Jeunes, etc.), partager des modèles, des prompts et des bonnes pratiques plutôt que de multiplier les comptes et les services.[16][17]
Articuler sobriété numérique et éco‑conception : intégrer l’IA dans une démarche plus large de réduction de l’empreinte du numérique (durée de vie des équipements, gestion des mails, stockage, etc.).[^11]
La formation peut proposer des exercices d’estimation approximative (ordre de grandeur) de l’impact de certains usages, et des ateliers de priorisation des cas d’usage selon leur utilité sociale et leur poids environnemental.
4. Souveraineté des données, dépendance technologique et choix de cloud
4.1. Concentration des infrastructures et dépendance aux hyperscalers
Le développement de l’IA repose sur des infrastructures de cloud et de calcul de très grande taille, aujourd’hui largement dominées par quelques acteurs (les grands groupes américains et chinois, souvent regroupés sous l’acronyme GAFAM). Ces entreprises disposent de moyens financiers et technologiques qui leur permettent de fixer des standards, de capter les données et de verrouiller des écosystèmes entiers.[18][19][^20]
Cette concentration crée une dépendance technologique forte pour les organisations européennes, y compris les associations et acteurs de terrain, qui se retrouvent à utiliser des services hébergés hors UE ou soumis à des législations extraterritoriales (CLOUD Act, lois de surveillance, etc.). La question de la souveraineté numérique se pose alors pour les données des publics accompagnés (jeunes, publics vulnérables) et pour les contenus produits dans le cadre de projets associatifs.[21][15]
4.2. Stratégies européennes de souveraineté numérique
L’UE a engagé, via plusieurs textes (RGPD, AI Act, NIS2, DORA) et des stratégies sectorielles, une politique visant à renforcer sa souveraineté numérique. Un règlement spécifique sur le développement de l’informatique en nuage et de l’IA (parfois désigné CADA) prévoit de tripler la capacité des data centers européens et de structurer le marché autour de critères de souveraineté.[22][6][21][15][^2]
Le cadre de souveraineté cloud/IA proposé par la Commission distingue plusieurs niveaux (1 à 4) selon le degré de contrôle européen sur les infrastructures, la chaîne d’approvisionnement logicielle et la gouvernance des fournisseurs. Parallèlement, un « Cloud Sovereignty Framework » vise à guider les administrations dans le choix de fournisseurs plus souverains.[23][24][15][22]
Pour les associations et structures jeunesse, ces politiques se traduisent par la possibilité de :
Choisir des fournisseurs européens ou français pour les services critiques (stockage des données sensibles, outils métiers) lorsque c’est possible.[21][15]
Isoler les données sensibles (ex. données de santé, situations sociales, parcours de jeunes) sur des infrastructures plus maîtrisées, même si certains services d’IA plus généralistes restent hébergés chez des hyperscalers.[^21]
4.3. Pistes pour les structures associatives
Dans une formation, les enjeux de souveraineté peuvent être abordés de manière pragmatique :
Cartographier les données : distinguer les données sensibles (santé, vulnérabilité, trajectoires individuelles, situations familiales) des données moins sensibles (statistiques globales, contenus publics), pour décider où et comment les stocker.[1][21]
Questionner les fournisseurs : demander où sont hébergées les données, quel cadre juridique s’applique, si les données peuvent être utilisées pour entraîner des IA dans d’autres pays.[22][21]
Favoriser des solutions ouvertes ou européennes lorsque c’est réaliste (outils open source déployés sur un cloud local, solutions proposées par des acteurs européens certifiés).[15][21]
Amener les jeunes à réfléchir eux‑mêmes à ces enjeux dans leurs propres choix d’outils (stockage, messagerie, réseaux) dans une perspective d’éducation populaire.[25][16]
5. Désinformation, concentration économique et débat citoyen à l’ère de l’IA
5.1. Désinformation amplifiée par l’IA générative
L’IA générative permet de produire, à faible coût et à grande échelle, des textes, images, vidéos et deepfakes, qui peuvent être utilisés pour :
fabriquer de fausses déclarations ou vidéos d’acteurs publics,
cacher l’origine d’une propagande,
saturer l’espace informationnel de contenus polarisants ou contradictoires.[26][27][^28]
Un livre blanc sur « la démocratie à l’ère de l’IA générative » souligne que ces outils bouleversent les écosystèmes d’information, peuvent interférer avec les élections, et s’inscrivent dans des campagnes de désinformation ciblées, souvent hyper‑segmentées selon des critères sensibles (origine, genre, orientation, croyances). Des travaux récents montrent toutefois que l’impact direct de la désinformation IA sur certains scrutins européens récents a été plus limité que ce que l’on craignait, même si la confusion et la perte de confiance augmentent.[29][27][30][26]
5.2. Effets sur la confiance, le débat et la participation
Même lorsque des deepfakes ou contenus IA ne changent pas massivement les résultats d’une élection, ils peuvent :
éroder la confiance dans les images, les vidéos et les témoignages ;
nourrir un climat de scepticisme généralisé (« on ne peut plus croire à rien ») qui fragilise la discussion démocratique ;
être utilisés pour discréditer des victimes ou des militants, ou justifier la censure ou la surveillance.[27][28][^26]
Pour les associations d’éducation populaire, de jeunesse ou de défense des droits, ces évolutions invitent à renforcer les ateliers d’EMI, de fact‑checking et de débat critique, en intégrant des exemples d’usages de l’IA dans la désinformation et des stratégies de réponse citoyenne.[31][16]
5.3. Concentration économique et pouvoir sur l’information
Les débats sur l’IA s’inscrivent dans un contexte plus large de concentration économique du numérique : les grands acteurs (GAFAM et autres big tech) contrôlent l’essentiel des plateformes où circulent les informations et les outils d’IA grand public. Leur modèle économique repose sur la collecte et la monétisation massive de données, la captation de l’attention et l’intégration verticale (de l’infrastructure aux applications).[19][32][20][18]
Des analyses soulignent que cette concentration tend vers un oligopole où quelques entreprises fixent les règles du jeu technologique, ce qui peut étouffer l’innovation indépendante et réduire la diversité des sources d’information. Des appels à un renforcement des régulations (DMA, DSA, AI Act, CADA) et, dans certains cas, à des démantèlements, témoignent de la prise de conscience de ces enjeux.[33][20][18][19]
5.4. Rôle des associations et structures jeunesse dans le débat citoyen
Les structures associatives et de jeunesse ont un rôle clé pour :
Sensibiliser les jeunes et les publics aux mécanismes de désinformation et aux deepfakes, en développant des ateliers de vérification, d’analyse de discours et de production de contre‑narratifs.[27][31]
Organiser des espaces de débat sur les choix de société liés à l’IA (automatisation, surveillance, usage dans l’action sociale, effets sur l’emploi), en lien avec d’autres acteurs (collectifs citoyens, syndicats, chercheurs).[^16]
Expérimenter des pratiques numériques alternatives (plateformes libres, médias associatifs, projets de données citoyennes) qui réduisent la dépendance aux grands acteurs commerciaux.[15][16]
6. Pistes pédagogiques pour la formation des acteurs associatifs
Pour une formation dont les objectifs pédagogiques sont ceux énoncés (RGPD/AI Act, impact environnemental, souveraineté/dépendance, désinformation/concentration), le rapport peut être traduit en modules :
Module 1 – Cadre juridique : RGPD et AI Act
Étude de cas : une association qui met en place un chatbot d’accueil ou un outil d’IA pour trier des demandes ; identification des rôles (fournisseur/déployeur), des bases légales RGPD et des obligations de transparence.[2][8][^1]
Module 2 – Environnement : IA générative et sobriété
Atelier : calcul approximatif de l’empreinte de certains usages d’IA dans la structure ; discussion sur les arbitrages entre utilité sociale et impact environnemental ; élaboration d’une mini‑charte de sobriété IA.[12][10][^11]
Module 3 – Souveraineté, cloud et données
Cartographie des outils utilisés par la structure ; analyse des risques (données sensibles, hébergement, dépendance) ; exploration de scénarios de migration partielle vers des solutions plus souveraines.[22][21][^15]
Module 4 – Désinformation, concentration et débat citoyen
Ateliers de décryptage de contenus IA (deepfakes, textes, images) et d’analyse des rapports de force économiques ; réflexion sur les actions possibles des associations pour renforcer l’esprit critique et la participation.[26][31][^27]
L’objectif global est de permettre aux équipes associatives de nommer les enjeux, de situer leurs pratiques dans les cadres juridique, environnemental et politique, et de concevoir des réponses concrètes adaptées à leurs publics et à leurs moyens.
References
- Le règlement européen sur l’IA est entré en vigueur le 1er août 2024. Il vise à favoriser un dévelop...
- Les nouvelles recommandations de la CNIL Les modèles d’IA entraînés sur des données personnelles peu...
- Le 1ᵉʳ août 2024, le règlement européen sur l'intelligence artificielle (IA) est entré en vigueur. C...
- Le règlement européen sur l’IA (ou AI Act) vient d’être publié au Journal officiel de l’Union europé...
- L'AI Act (règlement UE 2024/1689), en vigueur depuis le 1er août 2024, constitue le premier règlemen...
- Qu’est-ce que l’IA générative ? L'intelligence artificielle dite « générative » désigne les systèmes...
- Circulez, il n’y a rien à voir ? Les estimations du bilan environnemental de l’intelligence artifici...
- Les dernières données d'Eurostat indiquent qu'en 2023, 45,2 % des entreprises ont utilisé des servic...
- Les intervenants ont proposé des réponses à travers plusieurs angles d'approche : L'éducation popula...
- Google, Apple, Facebook (Meta), Amazon et Microsoft, regroupés sous l’acronyme GAFAM, occupent une p...
- Depuis quelques années, mais avec une intensité renouvelée sous l’administration Biden puis Trump II...
- La formation de monopoles ou de quasi-monopoles n’est pas le fait exclusif des sociétés technologiqu...
- L’Europe doit accélèrer sur l’IA souveraine pour réduire sa dépendance au cloud américain et renforc...
- Le règlement sur le développement de l’informatique en nuage et de l’IA renforcera la souveraineté e...
- La conformité ne concerne plus uniquement les équipes IT. Gouvernance, continuité d’activité et maît...
- L'objectif de la Commission européenne de tripler le marché des centres de données de l’UE en cinq à...
- Programme national de sensibilisation des jeunes au numérique. Des centaines de ressources gratuites...
- des faits, générer des « deepfakes », créer de la confusion et cibler des segments de populations av...
- Desinformatie gemaakt met generatieve AI heeft geen noemenswaardige invloed gehad op de verkiezingen...
- Esprit critique, es-tu là ? A l’heure de la surinformation massive, il est plus que jamais légitime ...
- Un virage vers plus de centralisation et plus de concentration pourrait étouffer le potentiel produc...