Dimanche soir, décembre 2022. Une enseignante de français corrige sa vingt-deuxième rédaction. Elle ouvre la vingt-troisième et quelque chose cloche. Le texte est propre. Trop propre. Les transitions sont impeccables, le vocabulaire est riche, il n'y a rien à corriger, donc rien à enseigner.
Sa première question, ce soir-là : « Est-ce que cet élève a triché ? ». C'est celle de tout le monde cet hiver-là. ChatGPT avait été lancé quelques semaines plus tôt et atteindrait 100 millions d'utilisateurs actifs mensuels dès janvier 2023. En juillet de la même année, un seul pays au monde avait publié une réglementation sur l'IA générative.
Deux camps se sont formés. D'un côté, l'interdiction : bloquer les outils et revenir aux examens sur papier. De l'autre, une intégration prudente, tranchée dès 2023 par plusieurs universités, dont celles du Russell Group : « plutôt que de chercher à interdire leur utilisation […], les [élèves et] étudiants et le personnel doivent avoir une compréhension de l'utilisation efficace, éthique et transparente de ces outils. »
Les deux se disputaient la même question, celle de la permission. La vraie question est arrivée plus tard, quand les écoles ont commencé à outiller leur monde pour de vrai : la question de la conception et de l’intégration des outils.
Chez Nexapp, on répète souvent que la technologie doit servir l'humain. L'UNESCO dit à peu près la même chose dans ses Orientations pour l'IA générative dans l'éducation et la recherche : ce sont la capacité humaine et l'action collective, et non la technologie, qui déterminent notre capacité à relever les défis fondamentaux des sociétés.
Revenons à notre enseignante. Elle finit par se dire, comme beaucoup, qu'elle ferait aussi bien d'apprendre à s'en servir, et demande à l'outil d'expliquer une notion de grammaire pour sa classe. La réponse arrive fluide, bien ponctuée. Elle commence par « Bien sûr » et cite trois études qui n'existent pas.
Premier problème, l’hallucination : un LLM génère du texte en prédisant le mot suivant à partir de régularités apprises. Sans mécanisme de recherche documentaire branché dessus, rien ne vérifie que sa réponse correspond à la réalité. C'est une machine qui imite sans comprendre ce qu'elle dit, pour reprendre l'image de Bender et de ses collègues en 2021. L'UNESCO le formule plus sobrement : « l'IA générative n'est fondée ni sur une observation du monde réel, ni sur les autres aspects fondamentaux de la méthode scientifique, et elle n'est pas davantage alignée sur des valeurs humaines ou sociales. »
Notre enseignante, elle, repère les fausses références, parce qu'elle connaît sa matière. Le risque est plus élevé chez les jeunes apprenant.es qui ne possèdent pas de connaissances préalables solides sur le sujet abordé. Celles et ceux qui ont le plus besoin d'aide ont le moins de moyens de détecter qu'on leur en donne une mauvaise.
Le réflexe suivant est évident. Il suffit de vérifier.
Deuxième problème, l'opacité. Vérifier demande de comprendre d'où vient la réponse, et c'est précisément ce qu'un modèle ne donne pas. Un LLM comporte des milliards de paramètres, et même quand ses poids sont publics, les lire ne dit pas pourquoi il a produit cette réponse-là. On peut expliquer l'approche générale, pas le résultat précis. Voilà pourquoi l'opacité n'est pas seulement une question morale : les travaux de Nazaretsky montrent que lorsque les personnes qui s'en servent ne comprennent pas comment un système est arrivé à un résultat, elles sont moins susceptibles de vouloir l'utiliser et l'adopter.
Notre enseignante ne va pas écrire au ministère. Elle va juste arrêter d'ouvrir l'outil, sans le dire à personne. Un abandon silencieux, une issue fréquente et coûteuse, parce qu'elle ne laisse aucune trace dans les tableaux de bord.
Mais pendant qu'elle referme l'application, ses élèves, eux, l'ouvrent.
Troisième problème, l'homogénéisation. Les élèves tombent sur des modèles entraînés sur les données dominantes du Web, majoritairement occidentales, dont les réponses s'alignent sur les normes les plus fréquentes. L'UNESCO prévient qu'une dépendance aux suggestions de l'IA peut conduire à une standardisation des réponses qui affaiblit la valeur de la pensée critique et de l'interrogation.
Or, une école qui ne produit plus que des réponses médianes a cessé de faire son travail.
Quatrième problème, et le plus sérieux : la dépendance. Il y a pire que des copies qui se ressemblent. On l'a déjà nommé sur ce blogue à propos des équipes de développement : à force de suivre la ligne bleue du GPS, on finit par ne plus savoir s'orienter. Ce qui vaut pour une personne qui code vaut doublement pour un élève de troisième secondaire, parce que chez lui, l'effort n'est pas un coût. C'est le mécanisme de l'apprentissage lui-même. L'UNESCO est très claire là-dessus : il faut empêcher l'utilisation de l'IA générative « lorsqu'elle priverait les apprenants de la possibilité de développer leurs capacités cognitives ». Ce n'est pas lancé comme un avertissement. C'est une exigence de conception.
Quatre problèmes, donc, et pas un seul qui se règle en changeant de modèle :
Mauvaise nouvelle pour qui attend juste le prochain modèle. Et c'est là que l'ingénierie logicielle apporte toute sa valeur. Les quatre chantiers qui suivent y répondent.
La preuve, on l'a vue chez un client. Nexapp a développé avec le Collège Sainte-Anne un assistant de correction, Emilia, conçu pour l'analyse de textes selon les critères du milieu éducatif québécois. Selon les mesures rapportées par l’équipe d’Emilia, les corrections en français se font trois fois plus rapidement.
Mais le chiffre le plus parlant est ailleurs, dans le délai. Avant, la correction prenait plus de temps, et la rétroaction arrivait deux semaines plus tard, quand l'élève avait oublié son texte. Maintenant, elle lui revient pendant qu'il est encore frais dans sa mémoire. C'est là que l'apprentissage se produit.
Ce gain ne vient pas de la puissance du modèle. Il vient d'une décision d'architecture : Emilia propose une précorrection, et l'enseignant.e valide, ajuste ou bonifie selon les notions vues en classe. Le contrôle pédagogique ne quitte jamais la classe. L'IA propose, l'humain décide. Enlevez cette décision et il vous reste un correcteur automatique dont personne ne veut, comme l'outil que notre enseignante avait refermé.
Ce déplacement, de la puissance du modèle vers la conception de l'interaction, vaut aussi pour la pédagogie. Si une machine rédige une dissertation en quelques secondes, la dissertation ne prouve plus rien. Ce qu'on évalue doit donc changer : plus seulement la capacité à produire un texte, mais ce qu'il contient et le chemin qui y a mené. C'est ce que l'UNESCO appelle les compétences professionnelles nécessaires pour travailler avec l'IA.
À l'Université Laval, les modalités d'utilisation de l'IA dans les évaluations prévoient déjà la déclaration obligatoire des usages, avec les requêtes utilisées et les contenus générés remis en annexe. Le prompt fait partie du résultat.
D’autres institutions avaient déjà répondu, sans attendre ChatGPT. La pédagogie Design-Based Education, portée notamment par l'université finlandaise HAMK, fait travailler des équipes multidisciplinaires d'étudiant.es sur des défis réels issus du milieu de travail, avec un résultat inconnu au départ. Dans un projet comme celui-là, « et si un robot écrivait ça ? » perd beaucoup de son mordant.
Pas de miracle pour autant : le suivi et la validation des apprentissages y représentent une charge bien plus lourde pour le corps enseignant. Et si la question majeure était : comment passer de l'enseignement à l'accompagnement ?
Voilà une question qu'une société de développement logiciel comme Nexapp connaît de l'intérieur. Gérer l'ambiguïté, découper un problème flou en itérations, animer une équipe sans lui dicter sa solution, rendre le progrès visible quand la destination bouge encore : c'est le quotidien d'une équipe agile. On ne sait pas enseigner le français, même si on a Mylène Truchon, développeuse détentrice d'une maîtrise en littérature. Ce qu'on sait surtout faire, c'est outiller une transition technologique de ce type. Reste à voir comment l'orchestrer en logiciel.
L'UNESCO est explicite sur la méthode : l'usage de l'IA générative devrait être conçu conjointement par les enseignant.es, les apprenant.es et les chercheur.euses, selon un cadre à six perspectives qui va de la pertinence du domaine jusqu'aux risques éthiques. Il vaut la peine de relever qu'il n'y est jamais question de construire un modèle. Tout le travail utile se situe entre les modèles qui existent déjà et la salle de classe.
Ce travail se découpe en quatre chantiers.
Vu de notre métier, ce cadre décrit un atelier de découverte produit. Cycles courts, boucles de rétroaction rapides, prototypes testés auprès de véritables enseignant.es dans de vraies classes. Et l’intégration aux systèmes déjà en place, comme Moodle, Canvas et les portails existants, plutôt qu'un dixième outil à ouvrir le matin. Chaque outil supplémentaire est une charge cognitive de plus pour un corps enseignant qui n'en manque pas. C'est une des premières raisons pour lesquelles un logiciel finit inutilisé, avant même les questions de qualité.
Deux de ces problèmes, l'hallucination et l'homogénéisation, ont la même cause : le modèle répond depuis sa propre accumulation de connaissances plutôt que depuis les standards de l'école. Il existe une façon coûteuse de corriger ça et une façon raisonnable.
L'UNESCO consacre une section aux EdGPT, ces modèles de fondation affinés avec de plus petites quantités de données éducatives de haute qualité. L'avenue existe et des projets tournent déjà dessus, comme EduChat par la East China Normal University, ou MathGPT du groupe TAL Education. Quand l'UNESCO a publié ses orientations, ces efforts n'étaient qu'à leurs débuts.
Personne ne devrait donc attendre le modèle éducatif parfait pour agir, et heureusement, on n'en a pas besoin. Réentraîner un modèle coûte cher et reste hors de portée de la quasi-totalité des établissements d’enseignement. Ancrer un modèle existant dans le savoir local relève au contraire du travail d'intégration ordinaire, ce qu'on appelle l'ancrage documentaire, ou RAG : on branche le générateur sur les corpus de l'école, son programme, ses grilles de correction, et on exige qu'il cite ce sur quoi il s'appuie.
Cet accès aux corpus et aux travaux d'un établissement oblige à trancher en amont : quelles données sont nécessaires à une finalité pédagogique définie, où elles sont traitées, combien de temps on les conserve, si le fournisseur peut les réutiliser. Au Québec, la Loi 25 en encadre une partie, à valider projet par projet. La confidentialité n'est pas une fonctionnalité de fin de projet, c'est une contrainte d'architecture.
L'avantage? Le modèle reste généraliste et remplaçable le jour où un meilleur sort. C'est le contexte qui devient local et souverain. On passe d'un processus d'acquisition passif et non critique à une planification stratégique. Cet ancrage évite aussi de déplacer la responsabilité pédagogique vers un fournisseur : le personnel enseignant reste acteur de son enseignement.
L'ancrage ne rend pas le modèle explicable ; personne ne verra jamais son raisonnement interne. Il rend ses réponses vérifiables, ce qui n'est pas la même chose et qui suffit largement.
Côté produit, ça donne des interfaces qui montrent le passage réel à l'origine d'une suggestion, le critère d'évaluation appliqué et la distinction entre ce qui est extrait d'un document et ce qui est généré. Notre enseignante peut alors contester une correction en sachant sur quoi elle repose, ce qui est la condition pour qu'elle continue d'ouvrir l'outil la semaine suivante.
L'ancrage réduit les erreurs sans les éliminer. Le système peut récupérer le mauvais document, s'appuyer sur un corpus périmé ou déformer une source valide. C'est là que le travail d'ingénierie se justifie : jeux d'évaluation, règle d'abstention quand le corpus ne contient pas la réponse, journalisation, tests de non-régression au changement de modèle.
Reste le problème le plus sérieux, la dépendance, et aucun des trois chantiers précédents ne le règle. Ni la co-conception, ni l'ancrage, ni la vérifiabilité ne décident de ce que l'élève fait de sa tête. Ça se joue dans l'interaction.
Un outil qui livre la réponse court-circuite l'effort. Un outil qui pose des questions pour faire cheminer l’élève le provoque. En pratique : exiger une tentative de l'élève avant de suggérer, plafonner ce que l'assistant produit d'un coup, journaliser et favoriser le cheminement plutôt que le résultat, et transformer un bon prompt socratique en composant logiciel réutilisable au lieu de le laisser dans un document Word.
Encore faut-il décider quoi mesurer : le délai de rétroaction, la part des suggestions que le personnel enseignant refuse, l'usage réel après soixante jours, le nombre de tentatives de l'élève avant de demander de l'aide. Un outil éducatif ne réussit pas parce qu'il impressionne en démonstration, mais parce qu'il améliore un résultat défini sans freiner l'autonomie.
Ce dernier chantier est aussi le moins balisé : tout se décide encore à la conception. Trois profils émergent cependant, que l'UNESCO range prudemment parmi les « utilisations potentielles mais non vérifiées ».
|
Profil |
Rôle |
Prérequis chez l'élève |
Risque à prévenir |
|---|---|---|---|
|
L'opposant socratique |
Questionner l'élève sur ce qu'il sait déjà, pour l'amener plus loin |
Un âge suffisant, des acquis préalables, savoir repérer un argument faux |
L'effet d'écho : des réponses standard au lieu de points de vue qui s'opposent |
|
Le tuteur de maths ou de code |
Rétroaction immédiate, à son rythme |
Une motivation réelle et les bases du langage |
Une rétroaction parfois fausse, et la pensée computationnelle qui ne se développe plus |
|
Le conseiller en recherche |
Cadrer une question, suggérer une méthode |
Connaître assez le sujet pour repérer une source inventée |
Des publications inventées, et le copier-coller qui remplace l'essai-erreur |
La colonne de droite reprend, une dernière fois, les problèmes du tout début : l'hallucination, l'homogénéisation et l'effort qui disparaît. Un meilleur modèle en atténuerait une partie, sans doute jamais complètement. Le reste se joue dans le logiciel qui entoure le modèle, dans ce qu'il autorise, ce qu'il montre et ce qu'il refuse de faire à la place de l'élève.
L'UNESCO y va sans détour : les outils d'IA devraient être conçus pour étendre ou accroître les capacités intellectuelles et les compétences sociales de l'humain, et non pour les affaiblir, entrer en conflit avec elles ou les usurper.
Alors, revenons une dernière fois à notre enseignante. Sa question, en 2022, était « est-ce que cet élève a triché ? ». En 2026, sa question a changé. Elle veut savoir si l'outil posé sur son bureau la rend plus capable de faire son métier, ou s'il déplace simplement son travail ailleurs. Et cette question ne se tranche pas au niveau du modèle. Elle se tranche dans une suite de décisions logicielles : qui garde le dernier mot, ce que le système laisse vérifier, sur quel savoir il s'appuie, quel effort il laisse à l'élève.
Le modèle du moment changera plusieurs fois durant la vie du système. Ces décisions-là, elles, doivent survivre à chacun de ces changements.
Comme l'écrit notre collègue Alexandre Rivest, l'essence du développement logiciel réside dans sa capacité à allier technicité et humanité. Dorénavant, l'apprentissage aussi.
Vous souhaitez évaluer un cas d'usage d'IA dans votre établissement ou valider l'architecture d'une solution éducative existante? Nexapp accompagne les organisations dans la conception, la sécurisation et l'intégration de solutions d'IA adaptées à leurs besoins réels. Contactez-nous.