IAG - qu'est-ce que c'est ?

Du fait de leur fonctionnement, les IAG produisent des contenus qui sont le reflet du corpus de données avec lequel elles ont été nourries. Ainsi, les sorties générées par une IAG reproduisent les stéréotypes, discriminations ou inégalités qui la nourrissent (surreprésentation de certains groupes sociaux ou culturels, stéréotypes sexistes ou racistes, etc.).

Certains biais ont été rapidement identifiés et faisaient partie des premières critiques lors du lancement des IAG grand public (par exemple les biais de genre type « docteur = homme, infirmière = femme »), et on observe aujourd'hui une plus faible reproduction des stéréotypes issus des données d'entraînement. 

La qualité des résultats générés à partir d’un prompt dépend également en grande partie de la quantité de ressources que l’IAG peut exploiter : les résultats sont par exemple de moins en moins qualitatifs à mesure que l’on utilise une langue de moins en moins utilisée ou moins représentée dans les banques de données. 

Certains sujets sont volontairement modérés ou censurés selon l’outil utilisé (par exemple, l’IAG chinoise Deepseek ne fournit pas d’informations sur les manifestations de la place Tian’anmen). La plupart des IAG sont paramétrées pour donner des réponses « politiquement correctes » sur les thèmes sensibles, en répétant des formulations stables et consensuelles, mais certaines sont au contraire volontairement "provocantes" en fonction du but recherché par leurs créateurs. 

De même, elles peuvent être configurées pour favoriser certaines réponses au détriment d’autres (par exemple, faire sa propre promotion et celle de son groupe). Le risque est alors une manipulation de l’information, qui se présente comme objective alors qu’elle est paramétrée. 

Capture d'écran d'un résultat de prompt généré par Grok, l'IAG d'Elon Musk (2025)

Ainsi, lorsque les critiques ont relevé la reproduction de stéréotypes sexistes ou racistes, les sociétés concevant ces modèles ont ajusté leurs réglages pour gommer ces biais. Aujourd’hui, si vous demandez à une IAG de générer l’image d’une personne dirigeant une entreprise, elle proposera presque toujours en premier lieu l’image d’une femme.

La façon d’utiliser l’IAG influe également sur le résultat issu du prompt, soit par la manière de poser la question, soit parce que l’IAG a précédemment été orientée pour répondre d’une certaine manière. Quand on utilise régulièrement une IAG, elle « s’habitue » à l’utilisateur en gardant en mémoire ses préférences, ses habitudes, sa façon de parler, etc. Les contenus générés sont donc issus à la fois des données du corpus mais également des biais même de l’utilisateur. 

Une IAG comme ChatgGPT, qui contredit rarement l’utilisateur, va se conformer à ses attentes et peut ainsi renforcer les biais de confirmation (on accepte plus facilement une information quand elle va dans le sens de ce qu’on pense déjà). Les IAG générant des contenus avec une certaine « autorité », le risque est que les utilisateurs non avertis s’enferment dans un modèle de pensée préexistant et se confortent dans des opinions biaisées.

Vous trouverez ici un petit jeu qui vous permet d'expérimenter les différents biais des IAG. Partez à la découverte des nuages verts et des nuages indigos et de leurs préférences... vraiment ? 

Le concept d’éthique dans l’utilisation des IAG regroupe plusieurs facettes, qu’il faut prendre en compte et intégrer à sa réflexion et dans son choix d’en utiliser une, ou plusieurs, lesquelles, la fréquence d’utilisation, etc. ou son « boycott » (c’est bien sûr possible !).

Tout d’abord, il y a le coût énergétique et, par extension, écologique, de l’utilisation d’une IAG. De nombreux chiffres circulent quant à la consommation liée aux prompts (et, souvent, en comparaison avec une requête sur moteur de recherche équivalente), mais en moyenne il est estimé qu’un prompt envoyé à une IAG consomme environ 6 fois plus d’électricité pour générer une réponse qu’une recherche Google classique et que générer une image en HD consomme autant d’électricité que la recharge complète d’un téléphone portable (source : DRANE de Versailles).  De plus, l’entraînement des IAG consomme énormément de ressources, en énergie et en eau, sans compter les matières premières et le stockage des données. 

Ensuite, il y a l’impact social de la multiplication de ces intelligences artificielles. On peut alors penser à l’exploitation humaine résultant à la fois de l’extraction des matières premières nécessaires à la fabrication des composants informatiques qui supportent les IA (les mines de cobalt sont notamment pointées du doigt pour employer des enfants) et des travailleurs précaires de pays en voie de développement qui sont chargés de l’entraînement des modèles. Par ailleurs, les IAG auront un impact sur les emplois, et les inégalités d’accès qui existent déjà aujourd’hui ne font que se renforcer à mesure que les IAG se déploient, augmentant d’autant la fracture numérique importante entre les pays « numériques » et les autres.

Enfin, on peut également penser à l’aspect moral de l’utilisation des IAG. De nombreuses sources « aspirées » dans les modèles pour les entraîner sont des productions pour lesquelles les auteurs n’ont pas été consultés et dont les travaux ont été intégrés aux corpus de données sans leur autorisation. 

Dans un souci de transparence, il est important de signifier clairement lorsque des IAG ont été utilisées dans la production d’un document, cela permet d’éviter tout soupçon de plagiat ou de malhonnêteté intellectuelle. 

Il existe désormais des manières reconnues de citer une IAG, en fonction du style bibliographique utilisé. Ces modèles peuvent encore évoluer, mais pour le moment certaines normes bibliographiques ont publié leurs recommandations. Par exemple, en norme APA (7e éd.), on indiquera : 

• dans la bibliographie : OpenAI. (2024). ChatGPT (version GPT-4.5) [Modèle de langage IA]. https://chat.openai.com/
• dans le texte : (ChatGPT, OpenAI, 2024)