Cycle Culture Technique & Critique de l'IA · Session 04
IA, vérité et esprit critique : biais, hallucinations et doute
Du grand jeu de détection à la conception d'une activité EMI-IA pour les jeunes
À vous dans le chat : En 1 mot, quand vous lisez un texte ou voyez une image impressionnante en ligne, quel est votre premier réflexe de vérification ?
Vivre le Grand Jeu de détection de médias générés, autopsier les artefacts techniques et concevoir une activité d'Éducation aux Médias pour vos publics.
Finalité : Développer un kit d'auto-défense intellectuelle face aux deepfakes et au doute généralisé.
Activité · Grand Jeu de Détection
Réel ou généré par IA ?
Testez votre perception visuelle, sonore et textuelle
Vote instinctif dans le chat : Sans recherche internet, votez en direct pour ces 4 productions : RÉEL ou IA ?
Cas 1 · Image
Doigts fusionnés, bijoux asymétriques.
Cas 2 · Presse
Style lisse, absence de sources identifiées.
Cas 3 · Voix
Débit parfait sans micro-respiration.
Cas 4 · Photo
Pancartes absurdes et visages uniformes.
Débriefing · Autopsie Technique
L'autopsie des indices cachés
Pourquoi notre perception humaine se laisse-t-elle tromper ?
Signature visuelle
Complexité biologique mal gérée (mains, pupilles, dents) et physique incohérente (lumière, reflets).
Signature textuelle
Ton poli et lisse par défaut, absence de sources vérifiables et neutralité artificielle.
Signature sonore
Absence de bruits de bouche naturels, de souffle et de variations d'intensité émotionnelle.
Leçon clé : L'IA ne « ment » pas car elle n'a pas conscience du vrai : elle calcule ce qui est statistiquement plausible.
Activité · Défi Logique
D'où viennent les fausses informations ?
Comprendre la mécanique interne de l'hallucination
Devinette dans le chat : Quand une IA invente une loi inexistante ou une fausse biographie, pourquoi le fait-elle ?
Cause A
Un bug informatique temporaire a effacé sa mémoire.
Cause B
Elle cherche volontairement à tromper l'utilisateur.
Cause C
Elle assemble les fragments de mots les plus probables pour satisfaire la demande.
Réponses · Vérité vs Probabilité
Vraisemblance statistique VS Vérité factuelle
Pourquoi l'assurance formelle ne garantit rien
Pas d'encyclopédie interne
Le modèle ne consulte pas une base de faits ; il génère des suites de mots au kilomètre.
Le piège de la forme
Une fausse citation ou un faux numéro d'article a exactement la même apparence qu'un vrai.
La règle du croisement
Tout fait ou chiffre fourni par un LLM doit obligatoirement être vérifié sur une source primaire humaine.
Activité · Défi Société
La machine peut-elle être neutre ?
D'où viennent les stéréotypes de l'IA ?
Vote dans le chat : Si l'on demande à une IA d'illustrer « un chirurgien » et « une secrétaire », pourquoi dessine-t-elle un homme et une femme ?
Hypothèse 1
L'algorithme a développé une idéologie sexiste propre.
Hypothèse 2
Elle reflète les moyennes statistiques des photos du web des 30 dernières années.
Hypothèse 3
C'est un choix volontaire et explicite de ses concepteurs.
Réponses · Sociologie des Algorithmes
Anatomie des 4 types de biais algorithmiques
Le miroir grossissant de nos données historiques
1 · Biais de données
Surreprésentation massive du web occidental blanc et anglophone.
2 · Représentation
Fige et amplifie les stéréotypes passés au lieu de refléter la diversité.
3 · Alignement
Optimiser un critère mathématique reproduit les exclusions historiques.
4 · Sycophancy
Tendance de l'IA à flatter l'utilisateur et confirmer ses préjugés.
Activité · Étude de Cas Réels
Autopsie de biais documentés dans la société
Des impacts concrets sur les droits et la dignité
À vous dans le chat : Quel exemple de biais vous semble le plus préoccupant pour les publics que vous accompagnez ?
Exemple A · Traduction
Associe automatiquement les postes de direction au masculin et le soin au féminin.
Exemple B · Filtres Beauté
Éclaircissent systématiquement la peau des personnes noires ou métissées.
Exemple C · Reconnaissance
Taux d'erreur décuplé sur les visages féminins et noirs (étude Gender Shades).
Réponses · Cadre Citoyen
L'impossible neutralité algorithmique
Tout choix de données est un choix politique et éthique
Mythe de la neutralité
Tout jeu de données incorpore les rapports de force et les angles morts de son époque de collecte.
L'AI Act européen
Obligation légale d'audit des biais pour les IA à haut risque (recrutement, justice, aides sociales).
Notre rôle éducatif
Apprendre aux publics à repérer ces biais pour ne pas laisser les algorithmes formater nos imaginaires.
Activité · Débat Éducation Médias
Le piège du doute généralisé
Quand on ne croit plus à rien...
Débat rapide dans le chat : Face aux fausses images, quel est le plus grand danger pour nos jeunes et la démocratie ?
Danger 1 · La crédulité
Croire aveuglément à une fausse information spectaculaire générée par IA.
Danger 2 · Le cynisme
Ne plus rien croire du tout et rejeter même les vérités scientifiques vérifiées.
Réponses · Méthodologie Critique
Le Triangle du Fact-Checking
Reconstruire la confiance par la méthode
1 · Source primaire
Remonter au document original, au témoin direct ou à l'institution émettrice.
2 · Recherche inversée
Utiliser Google Lens ou TinEye pour retrouver la première date et le contexte réel d'une photo.
3 · Croisement latéral
Vérifier si plusieurs rédactions professionnelles indépendantes confirment l'information.
Atelier · Conception Pédagogique (30 min)
Concevoir une activité EMI-IA d'une heure
À animer avec vos jeunes dès la semaine prochaine
Consigne atelier en sous-groupes : Choisissez un thème et complétez le canevas d'activité :
Thème 1 (10-14 ans)
« Traqueurs de deepfakes » Jeu d'autopsie visuelle d'images et de vidéos truquées.
Thème 2 (12-16 ans)
« Le procès du chatbot » Piéger l'IA sur ses biais sexistes ou géographiques en direct.
Thème 3 (16-25 ans)
« IA et futur des métiers » Débat mouvant sur les compétences professionnelles de demain.
Débriefing · Ingénierie Active
Le canevas d'animation d'une séance active
Les 4 temps forts d'un atelier réussi
1 · Accroche (10 min)
Défi visuel sans théorie préalable.
2 · Pratique (25 min)
Manipulation et prompts sur écran.
3 · Autopsie (15 min)
Décortiquer les failles et biais.
4 · Débat (10 min)
Transposition citoyenne et charte.
Activité · Pitchs Croisés
Pitchs croisés des activités créées (20 min)
Présentation flash et enrichissements mutuels
À vous dans le chat : Présentez votre atelier en 2 phrases : Titre, Public cible et Défi principal lancé aux jeunes !
Format de pitch
Chaque sous-groupe dispose de 2 minutes chrono pour présenter son accroche et sa consigne.
Rôle des pairs
Suggérer des variantes d'animation et anticiper les réactions imprévues des jeunes.
Réponses · Mutualisation
La banque d'activités du territoire
Mutualiser pour démultiplier l'impact éducatif
Partage des fiches
Mise à disposition des canevas dans l'espace ressources partagé du réseau associatif.
Adaptation contextuelle
Fiches déclinables en centre social, MJC, tiers-lieu ou établissement scolaire.
Posture "Maker" validée
La manipulation active est dix fois plus efficace que le discours moralisateur descendant.
Activité · Débat Régulation
Faut-il obliger un filigrane indélébile sur chaque contenu IA ?
Transparence algorithmique et traçabilité
Débat mouvant dans le chat : Doit-on imposer légalement un marquage obligatoire sur toute image ou texte généré ? Votez OUI ou NON + 1 mot !
Vote OUI
Rétablir la transparence et protéger le public contre la désinformation industrielle.
Vote NON
Techniquement contournable par une simple capture d'écran : seule l'éducation protège réellement.
Réponses · Traçabilité Technique
Standards de traçabilité (C2PA) et limites
Pourquoi la technique ne remplacera jamais l'esprit critique
Le standard C2PA
Signature cryptographique intégrée certifiant l'appareil et le logiciel ayant créé le fichier.
Les limites physiques
Une simple capture d'écran ou un recadrage supprime souvent les métadonnées de sécurité.
L'esprit critique irremplaçable
Aucune solution technique ne dispensera jamais le citoyen de vérifier les sources.
Synthèse · Pouvoir d'Agir
Mon Kit d'Auto-Défense Intellectuelle
4 piliers pour faire vivre l'esprit critique
Savoir
Comprendre le fonctionnement probabiliste et la genèse des biais de données.
Discerner
Détecter les artefacts et déconstruire le piège du doute généralisé.
Pratiquer
Appliquer le triangle de fact-checking sur chaque information douteuse.
Agir
Animer des ateliers EMI-IA actifs et émancipateurs auprès de nos publics.
Clôture · Cap Session 5
Bilan de la session 4 et suite du cycle
Passer de l'analyse de l'information aux enjeux écologiques et sociétaux
Micro-engagement dans le chat : Quelle activité ou quel défi de détection allez-vous tester avec votre public cette semaine ?
Prochaine session (S5) :Enjeux sociétaux de l'IA : Éthique, écologie et souveraineté. Défi d'ici la Session 5 : Estimez la consommation énergétique hebdomadaire de vos outils numériques habituels !
