Limites, risques et bonnes pratiques

Maintenant que nous avons vu les limites et les risques liés aux IAG, nous allons énumérer quelques bonnes pratiques qui permettent de pallier aux défauts des IAG et de garantir une utilisation qui s'appuie à la fois sur une bonne connaissance de ce que les IAG peuvent faire et ce qu'elles ne peuvent pas faire, et sur une utilisation transparente et responsable des outils.

Il est essentiel de mobiliser les IAG comme des outils d’assistance complémentaires, et non comme une source unique ou un substitut au jugement et à la création humaine. Utilisée de manière ciblée, sur des tâches où elle apporte un réel bénéfice (rapidité, aide à la synthèse, génération de pistes, etc.) elle peut permettre de soutenir le travail intellectuel tout en laissant à l’utilisateur la responsabilité finale de l’analyse, de la validation et de l’interprétation.
Cette posture suppose une connaissance claire des limites et des risques propres aux IAG (que vous pouvez retrouver dans les premiers chapitres de ce module), afin de calibrer le niveau de confiance accordé aux contenus générés. Cette approche critique et informée permet ainsi de tirer parti des capacités de l’IAG sans confondre assistance et substitution, et d’en faire un outil maîtrisé, responsable et fiable.

Ainsi, on peut délimiter des champs "interdits": déléguer une responsabilité aux IAG (comme corriger des copies, noter les étudiants, faire un choix pédagogique, etc.) constitue un usage inapproprié de ces outils. La responsabilité doit toujours rester du côté humain, car elle suppose conscience, intention et capacité à rendre compte de ses choix.

Exemple

Dans une étape de création d'un cours, on peut utiliser une IAG pour se donner des idées sur l'organisation du plan général et l'ordre des séances. Il est indispensable ensuite de retravailler ce plan pour l'adapter, vérifier que tous les objectifs pédagogiques sont balayés, que la progression est cohérente et adaptée au niveau des étudiants, etc.

@Frédéric Deligne

Cela peut paraître être du bon sens mais il est indispensable, lorsque l'on utilise une IAG (mais, au final, comme pour n'importe quelle source utilisée) de vérifier systématiquement les résultats générés avant de les utiliser ou de les diffuser. En pratiquant cette vérification, on ne se contente pas de juger de la fluidité ou de la cohérence du texte, mais on confronte chaque affirmation à des sources fiables, à des données actualisées ou à sa propre expertise. Cela permet de transformer l’IAG en un outil d’assistance fiable plutôt qu’en un générateur autonome de savoir, et de maintenir la qualité scientifique et pédagogique des productions.

Exemple

Lors de la préparation d’un cours, on obtient d’une IAG une liste de références bibliographiques. En vérifiant chaque article, on peut s'apercevoir que certains DOI sont incorrects et que certaines publications citées sont inventées, ou que les références ne sont pas correctement reproduites. Cette étape de vérification permet de corriger et de compléter la liste avant de la diffuser aux étudiants, garantissant l’exactitude et la fiabilité des ressources.

La transparence dans l’usage consiste à informer clairement les interlocuteurs ou le public lorsqu’un contenu a été produit ou assisté par une IAG. Cette habitude permet de situer le statut de l’information, d’éviter les confusions entre production humaine et génération automatique, et de maintenir la confiance dans les échanges. La transparence favorise également la responsabilité : l’utilisateur reconnaît que l’outil a participé à la création du contenu, ce qui encourage une relecture critique et une vérification des informations. Sans cette transparence, les productions peuvent être perçues comme entièrement humaines et fiables et peuvent induire en erreur à la fois sur le niveau d'expertise réel du concepteur et sur la fiabilité des contenus.

De plus, en tant qu'enseignant, lorsque vous signifiez que vous avez utilisé les IAG, vous participez à éviter le tabou autour de l'utilisation des IAG et vous encouragez donc les étudiant à être eux-même transparents dans leur utilisation.

Exemple

L'Université de Montréal a créé ces étiquettes qui peuvent servir à signaler facilement les utilisations d'IAG dans un document :

Le prompt engineering (ou ingénierie de prompt) part du principe que de bons prompts donnent de bons résultats. En substance, on considère qu'il existe des éléments essentiels à fournir aux IAG dans la rédaction de son prompt pour qu'elle génère un résultat au plus proche de la demande. Un prompt bien conçu permet de limiter les risques d’hallucinations, de réponses partielles ou hors sujet, et facilite la génération d’informations adaptées au besoin formulé. Cela renforce également le contrôle de l’utilisateur sur la production, en réduisant l’incertitude inhérente à la sensibilité des IAG à la formulation des questions.

Exemple

Vous verrez dans les prochains modules des conseils pour la conception de prompts en fonction du but recherché. En règle générale, ces prompts se basent sur la méthode "ACTIF" : Identité (rôle que doit tenir l'IAG), Action (nature de la demande), Contexte (éléments permettant de préciser le public visé, la période, l'environnement professionnel, etc.), Tonalité (le style d'écriture qui doit être utilisé) et Format (la mise en forme ou la structure des éléments générés)