{"CACHEDAT":"2026-09-07 17:08:26","TRANSLATEDAT":"2026-09-07 17:08:26","SOURCESIGNATURE":"0ba3880a84e5df544e77b76b7fa9dfe42eedf861fe6f94b423ecc39d2a31eaca","SLUG":"misinformation-manipulation-XmPBOktPeg","MARKDOWN":"# Désordre de l'information\n\nWardle & Derakhshan (2017), dans un rapport de référence pour le Conseil de l'Europe, présentent le *désordre de l'information* comme un terme générique désignant les informations fausses, trompeuses ou diffusées de manière nuisible dans l’espace public de l’information. Ils distinguent trois catégories selon deux axes : si le contenu est *faux* ou *vrai*, et s’il est partagé avec *l’intention de nuire*.\n\n| Type | Contenu | Connaissance de la fausseté par la personne qui partage | Intention de nuire |\n|------|---------|---------------------------------|----------------|\n| #### **Mésinformation** | fausse ou trompeuse | ne le sait pas | non |\n| **Désinformation** | fausse ou trompeuse | le sait | oui |\n| **Malinformation** | vraie | (ce n’est pas le critère) | oui |\n\nCes trois catégories forment un écosystème interconnecté : un même contenu peut passer de l’une à l’autre selon qui le partage et avec quelle intention.\n\n### Fake news\n\nLe terme *fake news* est très répandu dans le débat public, mais il manque de précision d’un point de vue analytique. Il désigne généralement des informations fausses ou trompeuses présentées sous la forme d’un reportage d’actualité. Cependant, comme ce terme peut désigner différents types de désordre de l’information et qu’il est souvent utilisé à des fins politiques pour discréditer des reportages indésirables, il vaut mieux privilégier des termes plus précis comme *mésinformation*, *désinformation*, *contenu inventé*, *faux contexte* ou *contenu manipulé*.\n\n## Désinformation\n\nLa désinformation, c’est une info fausse ou trompeuse partagée par des gens qui ne se rendent pas compte qu’elle est fausse. La personne qui la partage croit que le contenu est exact ; il n’y a aucune intention de tromper ou de nuire.\n\nLa mésinformation apparaît généralement dans des situations d’actualité qui évoluent très vite (premiers reportages avec des détails non confirmés), lorsqu’on transmet des affirmations sans vérifier leur exactitude, ou encore lorsqu’on répète des informations provenant de sources fiables qui s’avèrent finalement fausses. Elle peut être aussi répandue et avoir des conséquences aussi graves que la désinformation, malgré l’absence d’intention malveillante — ceux qui la partagent sont souvent sincèrement motivés et jouissent de la confiance de leur entourage, ce qui confère au contenu une large diffusion et une crédibilité perçue (Lewandowsky et al., 2017).\n\n### Facteurs de vulnérabilité à la désinformation {{facteur de vulnérabilité à la désinformation}}\n\n\n:::succès\n**1. Facteurs cognitifs** — comment l'information est traitée\n\n* **Biais de confirmation** : les gens accordent plus d'attention aux informations qui confirment ce qu'ils croient déjà, et examinent d'un œil plus critique celles qui vont à l'encontre de leurs convictions. — Nickerson (1998)\n* **Effet de vérité illusoire** : certaines affirmations peuvent paraître plus crédibles simplement parce que les gens les ont déjà vues, même si elles sont fausses. — Unkelbach et al. (2019)\n* **Facilité de traitement** : les infos faciles à lire, dont la formulation est familière ou qui sont visuellement claires, semblent plus fiables que celles qui sont plus difficiles à traiter. — Reber & Schwarz (1999)\n* **Faible réflexion cognitive** : les gens qui se fient à des jugements rapides et intuitifs plutôt que de prendre le temps de vérifier sont plus susceptibles de se laisser piéger par de fausses affirmations. — Pennycook & Rand (2019)\n* **Réceptivité aux conneries** : Certaines personnes ont tendance à trouver du sens à des affirmations vagues mais qui sonnent bien, même si elles ne veulent rien dire. — Pennycook et al. (2015)\n* **Faibles compétences en calcul / alphabétisation scientifique** : certaines personnes peuvent avoir du mal à évaluer des statistiques, des graphiques, des évaluations de risques ou des preuves scientifiques ; le niveau d’éducation ne constitue pas à lui seul une protection automatique. — Kahan et al. (2017)\n\n**2. Facteurs affectifs / motivationnels** — comment les émotions et l’identité influencent le jugement\n\n* **Raisonnement émotionnel / recours aux émotions** : On accepte des affirmations parce qu’elles nous semblent justes, effrayantes, satisfaisantes ou moralement urgentes, plutôt que parce qu’elles ont été vérifiées. — Martel, Pennycook & Rand (2020)\n* **Émotions spécifiques** (colère, peur, indignation morale) : les émotions fortes peuvent pousser les gens à réagir rapidement et à partager avant de vérifier ; le langage moral et émotionnel est particulièrement puissant pour diffuser du contenu politique. (La croyance et le partage sont des effets distincts, avec des preuves différentes.) — Brady et al. (2017) ; Martel et al. (2020)\n* **Cognition protectrice de l’identité** : les gens traitent l’information de manière à protéger leur identité politique, religieuse ou de groupe, et résistent aux preuves qui pourraient la menacer. (Étroitement lié à l’*identité politique* de la catégorie 5.) — Kahan (2013, 2017)\n* **État d’esprit complotiste** : une tendance générale à soupçonner l’existence de complots cachés ou d’acteurs puissants derrière les événements rend les fausses informations de type complotiste plus plausibles. — Douglas, Sutton & Cichocka (2017)\n\n**3. Facteurs sociaux** — en qui et en quels groupes les gens ont confiance\n\n* **Crédibilité de la source / confiance dans l’expéditeur** : la crédibilité perçue d’une affirmation dépend de la personne qui semble la formuler — un ami, un influenceur, un expert, un politicien, un média ou un compte anonyme. — Traberg & van der Linden (2022)\n* **Preuve sociale / indices de popularité** : Les « j’aime », les partages, les vues et les commentaires peuvent servir d’indicateurs de crédibilité, même si l’effet dépend du contexte. — Avram et al. (2020)\n* **Congruence intra-groupe / partisane** : Les infos venant de « gens comme nous », ou qui vont dans le sens de la position d’un groupe, sont acceptées plus facilement. (Étroitement lié à l’*identité politique* de la catégorie 5.) — Sultan et al. (2024)\n* **Homophilie des réseaux / chambres d’écho** : Quand les gens reçoivent principalement des infos via des réseaux de personnes qui leur ressemblent, certains points de vue semblent plus répandus qu’ils ne le sont en réalité. (Voir aussi D1G5.) — Cinelli et al. (2021)\n\n**4. Facteurs contextuels / situationnels** — les conditions dans lesquelles les gens reçoivent les infos\n\n* **Pression du temps** : quand les gens doivent évaluer rapidement des infos, ils distinguent moins bien les affirmations vraies des fausses. — Sultan et al. (2022)\n* **Surcharge d’informations** : quand trop d’infos arrivent d’un coup, les gens se rabattent sur des raccourcis comme les titres, les émotions, les étiquettes de source ou la popularité. — Laato et al. (2020)\n* **Distraction / charge cognitive** : quand l’attention est détournée ailleurs, les gens peuvent partager sans vérifier l’exactitude, même s’ils seraient capables de repérer la désinformation dans d’autres circonstances. — Pennycook et al. (2020)\n* **Contextes de crise / d’incertitude** (pandémies, guerres, catastrophes) : le besoin urgent d’explications rend les gens plus réceptifs aux affirmations fausses ou prématurées. — Roozenbeek et al. (2020)\n* **Conception des plateformes** : les fils d’actualité, les notifications, les systèmes de recommandation, la lecture automatique et le défilement rapide favorisent un comportement réactif plutôt que réfléchi. (Voir aussi D1G1.) — Lorenz-Spreen et al. (2020)\n\n**5. Contexte et facteurs individuels** — qui peut être plus ou moins vulnérable dans des contextes spécifiques\n\n* **Âge** : dans les études, les personnes âgées distinguent parfois mieux les titres vrais des faux, mais partagent plus souvent des fausses infos en ligne. — Guess, Nagler & Tucker (2019)\n* **Niveau d’études** : ce n’est pas une protection automatique ; les méta-analyses ne montrent pas d’effet clair sur la capacité à distinguer les fausses infos. — Sultan et al. (2024)\n* **Identité politique et convictions antérieures** : elles déterminent quelles informations semblent plausibles, menaçantes, fiables ou dignes d’être partagées. (Ça fonctionne via la cognition de protection de l’identité dans la catégorie 2 et les indices d’appartenance au groupe dans la catégorie 3 — ce n’est pas une variable purement démographique.) — Sultan et al. (2024)\n* **Habitudes en matière d’éducation aux médias** : les personnes qui comparent les sources, lisent au-delà des titres et reconnaissent les techniques de manipulation se fient moins aux raccourcis émotionnels ou sociaux. *(Remarque : c’est l’objectif pédagogique de SciLMi lui-même — mentionné ici comme une disposition protectrice avérée, et non comme un prérequis.)* — Guess et al. (2020)\n\n:::\n\n\n:::info\n* Avram, M., Micallef, N., Patil, S., & Menczer, F. (2020). L’exposition aux indicateurs d’engagement social augmente la vulnérabilité à la désinformation. *Harvard Kennedy School (HKS) Misinformation Review*, *1*(5). \n* Brady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Les émotions influencent la diffusion des contenus à caractère moral sur les réseaux sociaux. *Proceedings of the National Academy of Sciences*, *114*(28), 7313–7318. \n* Cinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). L'effet « chambre d'écho » sur les réseaux sociaux. *Actes de l'Académie nationale des sciences*, *118*(9), e2023301118. \n* Douglas, K. M., Sutton, R. M., & Cichocka, A. (2017). La psychologie des théories du complot. *Current Directions in Psychological Science*, *26*(6), 538–542. \n* Guess, A., Nagler, J., & Tucker, J. (2019). Moins que tu ne le penses : prévalence et facteurs prédictifs de la diffusion de fausses infos sur Facebook. *Science Advances*, *5*(1), eaau4586. \n* Jones-Jang, S. M., Mortensen, T., & Liu, J. (2021). L'éducation aux médias aide-t-elle à repérer les fausses infos ? L'éducation à l'information aide, mais pas les autres formes d'éducation. *American Behavioral Scientist*, *65*(2), 371–388. \n* Kahan, D. M. (2013). Idéologie, raisonnement motivé et réflexion cognitive. *Judgment and Decision Making*, *8*(4), 407–424.\n* Kahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Compétences en calcul motivées et autonomie éclairée. *Behavioural Public Policy*, *1*(1), 54–86. \n* Laato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). Qu’est-ce qui motive le partage d’infos non vérifiées et la cyberchondrie pendant la pandémie de COVID-19 ? *European Journal of Information Systems*, *29*(3), 288–305. \n* Lorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). Comment les sciences du comportement peuvent promouvoir la vérité, l’autonomie et le discours démocratique en ligne. *Nature Human Behaviour*, *4*(11), 1102–1109. \n* Martel, C., Pennycook, G., & Rand, D. G. (2020). Le fait de se fier à ses émotions favorise la croyance dans les fausses infos. *Cognitive Research: Principles and Implications*, *5*(1), 47. \n* Nickerson, R. S. (1998). Le biais de confirmation : un phénomène omniprésent sous de nombreuses formes. *Review of General Psychology*, *2*(2), 175–220. \n* Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). De la réception et de la détection des propos pseudo-profonds et creux. *Judgment and Decision Making*, *10*(6), 549–563.\n* Pennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). Lutter contre la désinformation sur le COVID-19 sur les réseaux sociaux : preuves expérimentales d’une intervention « nudge » évolutive axée sur la précision. *Psychological Science*, *31*(7), 770–780. \n* Pennycook, G., & Rand, D. G. (2019). Paresse, pas de biais : la vulnérabilité aux fausses infos partisanes s’explique mieux par un manque de raisonnement que par un raisonnement motivé. *Cognition*, *188*, 39–50. \n* Reber, R., & Schwarz, N. (1999). Effets de la fluidité perceptive sur les jugements de vérité. *Consciousness and Cognition*, *8*(3), 338–342. \n* Roozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). La vulnérabilité face à la désinformation sur la COVID-19 à travers le monde. *Royal Society Open Science*, *7*(10), 201199. \n* Sultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). La pression du temps réduit la capacité à repérer la désinformation, mais ne modifie pas le biais de réponse. *Scientific Reports*, *12*(1), 22416. \n* Sultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). La vulnérabilité aux fausses infos en ligne : une méta-analyse systématique des facteurs démographiques et psychologiques. *Proceedings of the National Academy of Sciences*, *121*(47), e2409329121. \n* Traberg, C. S., & van der Linden, S. (2022). Qui se ressemble s'assemble : la crédibilité perçue de la source joue un rôle dans l'effet des préjugés politiques sur la vulnérabilité à la désinformation. *Personality and Individual Differences*, *185*, 111269. \n* Unkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). La vérité par la répétition : explications et implications. *Current Directions in Psychological Science*, *28*(3), 247–253. \n\n:::\n\n### ☑ Erreurs logiques {{erreur logique}}\n\n\n:::succès\n- [ ] Vérifie s’il y a des généralisations hâtives – Conclusion tirée d’un manque de preuves.\n- [ ] Vérifie s’il y a de faux dilemmes – Limiter les options à deux alors qu’il en existe davantage.\n- [ ] Vérifie s’il y a des arguments fallacieux de type « homme de paille » : déformer une position pour la réfuter plus facilement.\n- [ ] Vérifie s’il y a des arguments par ignorance : prétendre qu’une affirmation est vraie simplement parce qu’on ne peut pas la réfuter.\n- [ ] Vérifie s’il y a des arguments d’autorité : supposer qu’une affirmation est vraie juste parce qu’une autorité le dit.\n- [ ] Vérifie s'il y a des faux-fuyants : détourner l'attention du sujet principal.\n- [ ] Vérifie s'il y a de fausses causes : confondre corrélation et causalité.\n- [ ] Vérifie s'il y a des attaques ad hominem : s'en prendre à la personne plutôt qu'à l'argument. \n- [ ] Vérifie s'il y a des arguments ad populum : prétendre qu'une idée est vraie juste parce qu'elle est populaire.\n- [ ] Vérifie s'il y a des « pentes glissantes » : affirmer qu'une seule étape mène à des extrêmes.\n- [ ] Vérifie s'il y a des raisonnements circulaires : utiliser la conclusion comme prémisse.\n\n:::\n\n\n:::astuce\n* \n* \n* \n\n:::\n\n## Désinformation\n\nLa désinformation, c’est une info fausse ou trompeuse partagée exprès par des gens qui savent bien qu’elle est fausse, dans le but de nuire, de tromper ou de manipuler. Le fait que la personne qui la partage soit consciente de sa fausseté et qu’elle ait une intention malveillante sont des éléments essentiels de sa définition.\n\nParmi les formes courantes, on trouve les opérations d’influence politique, la tromperie commerciale, la propagande, les contenus inventés de toutes pièces et les médias manipulés. La désinformation est souvent produite par des acteurs organisés et amplifiée par le biais d’une *amplification inauthentique / artificielle coordonnée* (voir ci-dessus).\n\n## Malinformation\n\nLa malinformation, c’est une information *vraie* partagée dans le but de nuire. Le contenu en lui-même est exact, mais sa diffusion, la manière dont il est présenté ou le moment choisi visent à porter préjudice à une personne, un groupe ou une institution. Le schéma classique consiste à placer délibérément des informations privées, sensibles ou liées à un contexte précis dans un contexte public ou préjudiciable.\n\nOn peut citer comme exemples la publication de communications privées divulguées pour discréditer une cible, la diffusion de données personnelles exactes mais stigmatisantes (par exemple, la « pornographie de vengeance »), et la divulgation stratégique d’informations factuellement correctes mais nuisibles sur le plan contextuel, à des moments choisis pour un impact maximal.\n\nLa désinformation est la moins abordée des trois catégories, car le contenu n’est pas faux, ce qui la place en dehors des cadres de vérification des faits. Mais elle constitue une part importante de l’écosystème du désordre informationnel (Wardle & Derakhshan, 2017).\n\n\n:::avertissement\n**Les frontières sont floues.**\n\nDans la pratique, ces trois catégories se chevauchent souvent ou évoluent :\n\n* Une *désinformation*, une fois partagée par des gens qui y croient sincèrement, devient de la *malinformation* à mesure qu’elle se propage. Un même contenu peut se retrouver dans différentes catégories selon qui le partage.\n* Un contenu peut être en partie vrai et en partie faux. Wardle (2017) répertorie sept formes de désordre de l’information — notamment le *contenu trompeur*, *le contexte erroné* et *le contenu manipulé* — tous les contenus faux ne sont pas entièrement inventés.\n* Il est difficile, d’un point de vue empirique, de déterminer l’intention depuis l’extérieur. Sans avoir accès aux connaissances et aux motivations de la personne qui partage le contenu, la frontière entre la mésinformation et la désinformation ne peut souvent pas être tracée de manière définitive.\n\nC’est pourquoi le cadre demande aux apprenants d’*expliquer pourquoi la frontière entre la mésinformation et la désinformation est souvent difficile à déterminer dans la pratique*.\n\n:::\n\n\n:::info\n* Wardle, C., & Derakhshan, H. (2017). *Information Disorder: Toward an interdisciplinary framework for research and policy making*. Rapport du Conseil de l’Europe DGI(2017)09. \n* Wardle, C. (2017). Fake news. C’est compliqué. *First Draft News*. \n* Lewandowsky, S., Ecker, U. K. H., & Cook, J. (2017). Au-delà de la désinformation : comprendre et faire face à l’ère de la « post-vérité ». *Journal of Applied Research in Memory and Cognition*, 6(4), 353–369. \n* Vraga, E. K., & Bode, L. (2020). Définir la désinformation et comprendre sa nature limitée. *Political Communication*, 37(1), 136–144. \n\n:::\n\n# Hallucination / Confabulation de l’IA\n\nLa tendance systématique des systèmes d’IA générative à produire du contenu qui semble plausible mais qui est en réalité incorrect, inventé ou invérifiable — notamment des références inventées, des études inexistantes, des citations mal attribuées, des statistiques inventées et de faux détails biographiques, historiques ou scientifiques.\n\nLes hallucinations se produisent parce que les systèmes d’IA générative produisent des résultats en prédisant des suites plausibles à partir de modèles appris pendant l’entraînement, et non en récupérant des informations vérifiées à partir d’une source de connaissances. Le système optimise la fluidité et la plausibilité, et non la précision. Les contenus inventés sont généralement présentés avec la même assurance que les contenus exacts — il n’y a pas de signal interne permettant de distinguer de manière fiable les deux.\n\nLe terme **confabulation** est parfois préféré à **hallucination** dans les contextes de recherche, car en psychologie, la confabulation désigne la construction de récits faux mais sincèrement crus, sans intention de tromper — ce qui se rapproche davantage de ce que font réellement les systèmes génératifs. *Hallucination* reste le terme dominant dans le discours public et technique, et on le conserve ici.\n\n**Les hallucinations ne sont pas des bugs occasionnels.** C’est une caractéristique structurelle du processus de génération sous-jacent, pas des erreurs qu’on peut éliminer de manière fiable en améliorant les consignes (Kalai & Vempala, 2024). Elles se produisent dans tous les systèmes génératifs — y compris ☑ l’IA RAG, où l’invention peut aussi affecter la façon dont les sources récupérées sont résumées, citées ou attribuées.\n\n**Positionnement didactique :** Les hallucinations peuvent être classées conceptuellement dans une quatrième catégorie, aux côtés de la *désinformation*, de la *mauvaise information* et de la *malinformation*. Contrairement à ces deux dernières, elles ne sont pas produites par une source humaine avec une intention ou une erreur en tête, mais émergent du processus de génération lui-même — du contenu faux généré par le système sans source intentionnelle. Cette distinction en trois catégories est proposée ici comme un cadre pédagogique utile plutôt que comme une terminologie faisant l’objet d’un consensus établi.\n\n**Types courants :**\n\n* références inventées — citations d’articles, de livres ou d’études qui n’existent pas\n* citations mal attribuées ou inventées\n* statistiques ou affirmations chiffrées inventées\n* détails biographiques, historiques ou scientifiques inexacts présentés avec assurance\n* résumés manifestement erronés de sources réelles\n\n\n:::conseil\nConsidère toute affirmation factuelle provenant d’un système d’IA générative comme non vérifiée tant que tu ne l’as pas recoupée avec une source indépendante. Les références et les citations sont particulièrement faciles à vérifier : cherche si la source citée existe et contient bien ce que l’IA a affirmé.\n\n:::\n\n\n:::info\n* Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). Sur les dangers des « perroquets stochastiques » : les modèles linguistiques peuvent-ils être trop volumineux ? *Actes de la conférence ACM 2021 sur l'équité, la responsabilité et la transparence (FAccT '21)*, 610–623. \n* Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Étude sur les hallucinations dans la génération de langage naturel. *ACM Computing Surveys, 55*(12), article 248. \n* Kalai, A. T., & Vempala, S. S. (2024). Les modèles linguistiques calibrés doivent halluciner. *Actes du 56e Symposium annuel de l’ACM sur la théorie de l’informatique (STOC 2024)*, 160–171. \n* Smith, A. L., Greaves, F., & Panch, T. (2023). Hallucination ou fabulation ? La neuroanatomie comme métaphore dans les grands modèles linguistiques. *PLOS Digital Health, 2*(11), e0000388. \n\n:::\n\n# Fausse représentation du contenu {{fausses représentations du contenu}}\n\n| Format | Manipulé | Inventé |\n|--------|-------------|------------|\n| Texte | citation authentique sortie de son contexte, titre trafiqué | citation inventée, article fictif, texte généré par l'IA |\n| Image | photo retouchée, original recadré | image générée par IA, fausse « photo » peinte |\n| Audio | enregistrement original modifié ou accéléré | clone vocal, discours généré par IA |\n| Vidéo | faux de mauvaise qualité, extraits remontés | vidéo deepfake entièrement synthétique |\n| Document | en-tête falsifié sur un modèle modifié | lettre « officielle » inventée |\n\n## Contenu fabriqué de toutes pièces\n\nLe **contenu fabriqué de toutes pièces**, c'est une info — texte, image, audio, vidéo, document ou autre format — qui a été entièrement inventée, sans aucune source réelle. Il peut être produit manuellement (citations inventées, articles de presse fictifs) ou généré de manière synthétique par des systèmes d’IA (vidéos synthétiques, clones vocaux, images générées par l’IA, textes rédigés par l’IA).\n\n## Contenu manipulé\n\n**Le contenu manipulé**, c’est une information authentique — texte, image, audio, vidéo, document ou autre format — qui a été modifiée dans le but de tromper. La source est réelle, mais elle est modifiée par montage, recadrage sélectif, d’ajustement de la vitesse, de recontextualisation, de changements de cadrage, de substitution de voix ou d’autres transformations qui en modifient le sens ou le contexte apparent.\n\n### Faux bon marché {{faux bon marché}}\n\nUn **faux bon marché**, c’est un contenu multimédia qui a été modifié à l’aide d’outils classiques et largement accessibles — logiciels de retouche d’images, logiciels de montage vidéo ou recontextualisation basique — plutôt qu’à l’aide de méthodes génératives basées sur l’IA. Le terme a été inventé par Paris et Donovan (2019) pour souligner que les formes de médias manipulés les plus influentes dans le débat public ne sont généralement pas des deepfakes sophistiqués générés par l’IA, mais des techniques simples et peu coûteuses que n’importe qui peut utiliser.\n\nParmi les techniques courantes de faux bon marché, on trouve :\n\n* la manipulation de la vitesse (par ex. la vidéo de Pelosi au ralenti, 2019)\n* le remontage et le montage sélectif d’enregistrements audio ou vidéo\n* la recontextualisation (des médias authentiques présentés avec une légende ou un cadrage mensonger)\n* la retouche, le recadrage ou la superposition de photos\n* les légendes interverties et les captures d’écran trafiquées\n* le montage audio\n\nLe fait qu’un faux pas cher relève de la *désinformation*, de la *mésinformation* ou de la *malinformation* dépend des connaissances et de l’intention de l’auteur (→ *désordre de l’information*), et non de la technique utilisée. Une même vidéo modifiée peut servir à la satire, à la fiction, à l’éducation ou à la tromperie.\n\nComparés aux *deepfakes*, les faux bon marché demandent moins de compétences techniques, mais ne sont pas forcément plus faciles à repérer : une recontextualisation bien faite ou un montage sélectif peuvent être extrêmement difficiles à identifier sans avoir accès au matériel source original.\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes et « cheap fakes » : la manipulation des preuves audio et visuelles*. Data & Society Research Institute. \n\n:::\n\n\n:::conseil\nOutils de vérification des « cheap fakes » : \n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n### Deep Fake {{deep fakes}}\n\nUn **deep fake**, c'est un contenu synthétique créé par l'intelligence artificielle — notamment grâce à des techniques d'apprentissage profond comme les réseaux antagonistes génératifs (GAN), des modèles de diffusion ou des générateurs basés sur des transformateurs. Ce terme est un mot-valise combinant *deep learning* et *fake*, apparu en 2017 dans des communautés en ligne produisant des vidéos de remplacement de visages générées par l’IA. Depuis, cette technologie s’est étendue à tous les types de médias et est désormais largement accessible grâce à des outils grand public.\n\nParmi les formes courantes, on trouve :\n\n* **Échanges de visages** : remplacer le visage d’une personne par celui d’une autre dans une vidéo\n* **Clonage vocal** : synthétiser la voix d’un locuteur à partir d’un petit échantillon audio\n* **Vidéo entièrement synthétique** : séquences générées par l’IA montrant des personnes, des événements ou des scènes qui n’ont jamais eu lieu\n* **Photographie synthétique** : images fixes générées par l’IA représentant des personnes ou des événements fictifs\n* **Texte-vidéo et texte-audio** : création de contenus multimédias à partir de consignes écrites\n\nLe fait qu’un « deepfake » relève de la *désinformation*, de la *mésinformation* ou de la *malinformation* dépend des connaissances et de l’intention de l’acteur (→ *désordre de l’information*), et non de la technique en elle-même. Les méthodes de « deepfake » sont aussi utilisées de manière légitime dans la production cinématographique, les outils d’accessibilité (voix synthétiques pour les personnes qui ont perdu la leur), le doublage, la satire, l’éducation et les arts.\n\nComparés aux *faux bon marché*, les deepfakes nécessitent davantage de compétences techniques pour être convaincants et permettent d’atteindre un plus grand réalisme visuel ou auditif. Ils ne constituent toutefois pas la forme dominante de manipulation médiatique dans le discours public — Paris et Donovan (2019) notent que les techniques plus simples de faux bon marché restent plus courantes et ont souvent des conséquences plus importantes. La détection est un domaine de recherche très actif ; les approches actuelles combinent l’analyse des artefacts, la vérification des incohérences biologiques et la vérification de la provenance (par exemple, les « content credentials » C2PA).\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence*. Data & Society Research Institute. \n* Chesney, R., & Citron, D. K. (2019). Les deepfakes : un défi imminent pour la vie privée, la démocratie et la sécurité nationale. *California Law Review*, 107(6), 1753–1820.\n* Vaccari, C., & Chadwick, A. (2020). Les deepfakes et la désinformation : une étude de l’impact des vidéos politiques synthétiques sur la tromperie, l’incertitude et la confiance dans l’info. *Social Media + Society*, 6(1), 1–13. \n\n:::\n\n\n:::astuce\nOutils de vérification des deepfakes : \n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n\n##","RENDERMODE":"markdown","HTML":"

Désordre de l'information

\n

Wardle & Derakhshan (2017), dans un rapport de référence pour le Conseil de l’Europe, définissent le « désordre de l’information » comme un terme générique désignant les informations fausses, trompeuses ou partagées dans le but de nuire dans l’espace public. Ils distinguent trois catégories selon deux critères : si le contenu est faux ou vrai, et s’il est partagé dans l’intention de nuire.

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
TypeContenuConnaissance de la fausseté par la personne qui partageIntention de nuire

Fausse information

faux ou trompeurne sait pasnon
Désinformationfausse ou trompeusesaitoui
Mauvaise informationvrai(ce n'est pas le critère)oui
\n

Ces trois catégories forment un écosystème interconnecté : un même contenu peut passer de l’une à l’autre selon qui le partage et dans quel but.

\n

Fausses infos

\n

Le terme « fake news » est très utilisé dans le débat public, mais il manque de précision d’un point de vue analytique. Il désigne généralement des informations fausses ou trompeuses présentées sous la forme d’un reportage d’actualité. Cependant, comme ce terme peut désigner différents types de désordre de l’information et qu’il est souvent utilisé à des fins politiques pour discréditer des reportages indésirables, il vaut mieux privilégier des termes plus précis comme « mésinformation », « désinformation », « contenu fabriqué de toutes pièces », « faux contexte » ou « contenu manipulé ».

\n

Mésinformation

\n

La mésinformation, c’est une information fausse ou trompeuse partagée par des gens qui ne se rendent pas compte qu’elle est fausse. La personne qui la partage croit que le contenu est exact ; il n’y a aucune intention de tromper ou de nuire.

\n

La mésinformation apparaît généralement dans des situations d’actualité qui évoluent rapidement (premiers reportages avec des détails non confirmés), lorsqu’on relaie des affirmations sans en vérifier l’exactitude, ou encore lorsqu’on répète des informations provenant de sources fiables qui s’avèrent finalement erronées. Elle peut être aussi répandue et avoir des conséquences aussi graves que la désinformation, même en l’absence d’intention malveillante : ceux qui la partagent sont souvent sincèrement motivés et jouissent de la confiance de leur réseau, ce qui confère au contenu une large portée et une crédibilité perçue (Lewandowsky et al., 2017).

\n

Facteurs de vulnérabilité à la désinformation

\n
\n
\n\n

1. Facteurs cognitifs — comment l’information est traitée

\n
    \n
  • Biais de confirmation : on accorde plus d’attention aux infos qui confirment ce qu’on croit déjà, et on examine d’un œil plus critique celles qui vont à l’encontre de nos convictions. — Nickerson (1998)\n
    • \n
  • Effet de vérité illusoire : certaines affirmations peuvent paraître plus crédibles simplement parce que les gens les ont déjà vues, même quand elles sont fausses. — Unkelbach et al. (2019)\n
    • \n
  • Facilité de traitement : les infos faciles à lire, dont la formulation est familière ou qui sont visuellement claires, semblent plus fiables que celles qui sont plus difficiles à traiter. — Reber & Schwarz (1999)\n
    • \n
  • Faible réflexion cognitive : les gens qui se fient à des jugements rapides et intuitifs plutôt que de prendre le temps de vérifier sont plus susceptibles de se laisser piéger par de fausses affirmations. — Pennycook & Rand (2019)\n
    • \n
  • Réceptivité aux « conneries » : Certaines personnes ont tendance à trouver du sens à des déclarations vagues mais qui sonnent bien, même quand elles ne veulent rien dire. — Pennycook et al. (2015)\n
    • \n
  • Faibles compétences en calcul / alphabétisation scientifique : on peut avoir du mal à évaluer des statistiques, des graphiques, des évaluations de risques ou des preuves scientifiques ; l’éducation à elle seule n’est pas une protection automatique. — Kahan et al. (2017)\n

    2. Facteurs affectifs / motivationnels — comment les émotions et l’identité influencent le jugement

    \n
    • \n
  • Raisonnement émotionnel / recours aux émotions : on accepte des affirmations parce qu’elles nous semblent justes, effrayantes, satisfaisantes ou moralement urgentes, plutôt que parce qu’elles ont été vérifiées. — Martel, Pennycook & Rand (2020)\n
    • \n
  • Émotions spécifiques (colère, peur, indignation morale) : des émotions fortes peuvent pousser les gens à réagir vite et à partager avant de vérifier ; le langage moral et émotionnel est particulièrement efficace pour diffuser du contenu politique. (La croyance et le partage sont des effets distincts, étayés par des preuves différentes.) — Brady et al. (2017) ; Martel et al. (2020)\n
    • \n
  • Cognition protectrice de l’identité : les gens traitent l’information de manière à protéger leur identité politique, religieuse ou collective, et rejettent les preuves qui pourraient la menacer. (Étroitement lié à l’identité politique de la catégorie 5.) — Kahan (2013, 2017)\n
    • \n
  • Esprit de complot : une tendance générale à soupçonner l’existence de complots cachés ou d’acteurs puissants derrière les événements rend les fausses informations de type complotiste plus plausibles. — Douglas, Sutton & Cichocka (2017)\n

    3. Facteurs sociaux — en qui et en quels groupes les gens ont confiance

    \n
    • \n
  • Crédibilité de la source / confiance dans l’expéditeur : la crédibilité perçue d’une affirmation dépend de qui semble la dire — un ami, un influenceur, un expert, un homme politique, un média ou un compte anonyme. — Traberg & van der Linden (2022)\n
    • \n
  • Preuve sociale / indices de popularité : les « j’aime », les partages, les vues et les commentaires peuvent servir d’indices de crédibilité, même si l’effet dépend du contexte. — Avram et al. (2020)\n
    • \n
  • Congruence intra-groupe / partisane : les infos venant de « gens comme nous », ou qui correspondent à la position d’un groupe, sont acceptées plus facilement. (Ça est étroitement lié à l’identité politique de la catégorie 5.) — Sultan et al. (2024)\n
    • \n
  • Homophilie des réseaux / chambres d’écho : quand les gens s’informent principalement via des réseaux de personnes qui leur ressemblent, certaines opinions semblent plus répandues qu’elles ne le sont en réalité. (Voir aussi D1G5.) — Cinelli et al. (2021)\n

    4. Facteurs contextuels / situationnels — les conditions dans lesquelles les gens sont confrontés à l’info

    \n
    • \n
  • Pression du temps : quand les gens doivent évaluer rapidement des infos, ils distinguent moins bien les affirmations vraies des fausses. — Sultan et al. (2022)\n
    • \n
  • Surcharge d’informations : quand trop d’infos arrivent d’un coup, on se rabat sur des raccourcis comme les titres, les émotions, les étiquettes de source ou la popularité. — Laato et al. (2020)\n
    • \n
  • Distraction / charge cognitive : quand l’attention est détournée ailleurs, les gens peuvent partager sans vérifier l’exactitude, même s’ils seraient normalement capables de repérer la désinformation. — Pennycook et al. (2020)\n
    • \n
  • Contextes de crise / d’incertitude (pandémies, guerres, catastrophes) : le besoin urgent d’explications rend les gens plus réceptifs aux affirmations fausses ou prématurées. — Roozenbeek et al. (2020)\n
    • \n
  • Conception des plateformes : les fils d’actualité, les notifications, les systèmes de recommandation, la lecture automatique et le défilement rapide encouragent un comportement réactif plutôt que réfléchi. (Voir aussi D1G1.) — Lorenz-Spreen et al. (2020)\n

    5. Contexte et facteurs de personnalité — qui peut être plus ou moins vulnérable dans des contextes spécifiques

    \n
    • \n
  • Âge : dans les études, les personnes âgées distinguent parfois mieux les titres vrais des faux, mais partagent plus souvent des fausses infos en ligne. — Guess, Nagler & Tucker (2019)\n
    • \n
  • Niveau d’éducation : ce n’est pas un bouclier automatique ; les méta-analyses ne montrent aucun effet simple sur la capacité à distinguer les fausses informations. — Sultan et al. (2024)\n
    • \n
  • Identité politique et convictions antérieures : elles déterminent quelles informations semblent plausibles, menaçantes, fiables ou dignes d’être partagées. (Ça fonctionne via la cognition de protection de l’identité dans la catégorie 2 et les indices d’appartenance au groupe dans la catégorie 3 — ce n’est pas une variable purement démographique.) — Sultan et al. (2024)\n
    • \n
  • Habitudes en matière d’éducation aux médias : les personnes qui comparent les sources, lisent au-delà des titres et reconnaissent les techniques de manipulation s’appuient moins sur des raccourcis émotionnels ou sociaux. (Remarque : c’est l’objectif pédagogique de SciLMi lui-même — mentionné ici comme une disposition protectrice avérée, et non comme un prérequis.) — Guess et al. (2020)\n
    • \n
\n
\n
\n
\n
\n\n
    \n
  • Avram, M., Micallef, N., Patil, S., & Menczer, F. (2020). L’exposition aux indicateurs d’engagement social augmente la vulnérabilité à la désinformation. Harvard Kennedy School (HKS) Misinformation Review, 1(5). https://doi.org/10.37016/mr-2020-033\n
    • \n
  • Brady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Les émotions influencent la diffusion des contenus à caractère moral sur les réseaux sociaux. Proceedings of the National Academy of Sciences, 114(28), 7313–7318. https://doi.org/10.1073/pnas.1618923114\n
    • \n
  • Cinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). L’effet de « chambre d’écho » sur les réseaux sociaux. Actes de l’Académie nationale des sciences, 118(9), e2023301118. https://doi.org/10.1073/pnas.2023301118\n
    • \n
  • Douglas, K. M., Sutton, R. M., & Cichocka, A. (2017). La psychologie des théories du complot. Current Directions in Psychological Science, 26(6), 538–542. https://doi.org/10.1177/0963721417718261\n
    • \n
  • Guess, A., Nagler, J., & Tucker, J. (2019). Moins que tu ne le penses : prévalence et facteurs prédictifs de la diffusion de fausses informations sur Facebook. Science Advances, 5(1), eaau4586. https://doi.org/10.1126/sciadv.aau4586\n
    • \n
  • Jones-Jang, S. M., Mortensen, T., & Liu, J. (2021). L'éducation aux médias aide-t-elle à repérer les fausses infos ? L'éducation à l'information aide, mais pas les autres formes d'éducation. American Behavioral Scientist, 65(2), 371–388. https://doi.org/10.1177/0002764219869406\n
    • \n
  • Kahan, D. M. (2013). Idéologie, raisonnement motivé et réflexion cognitive. Judgment and Decision Making, 8(4), 407–424.\n
    • \n
  • Kahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Compétences mathématiques motivées et autonomie éclairée. Behavioural Public Policy, 1(1), 54–86. https://doi.org/10.1017/bpp.2016.2\n
    • \n
  • Laato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). Qu’est-ce qui motive le partage d’infos non vérifiées et la cyberchondrie pendant la pandémie de COVID-19 ? European Journal of Information Systems, 29(3), 288–305. https://doi.org/10.1080/0960085X.2020.1770632\n
    • \n
  • Lorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R. et Hertwig, R. (2020). Comment les sciences du comportement peuvent promouvoir la vérité, l’autonomie et le discours démocratique en ligne. Nature Human Behaviour, 4(11), 1102–1109. https://doi.org/10.1038/s41562-020-0889-7\n
    • \n
  • Martel, C., Pennycook, G., & Rand, D. G. (2020). Le fait de se fier à ses émotions favorise la croyance dans les fausses infos. Cognitive Research: Principles and Implications, 5(1), 47. https://doi.org/10.1186/s41235-020-00252-3\n
    • \n
  • Nickerson, R. S. (1998). Le biais de confirmation : un phénomène omniprésent sous de nombreuses formes. Revue de psychologie générale, 2(2), 175–220. https://doi.org/10.1037/1089-2680.2.2.175\n
    • \n
  • Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). De la réception et de la détection des « pseudo-profondités » sans fondement. Judgment and Decision Making, 10(6), 549–563.\n
    • \n
  • Pennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). Lutter contre la désinformation sur le COVID-19 sur les réseaux sociaux : preuves expérimentales en faveur d’une intervention « nudge » évolutive axée sur la précision. Psychological Science, 31(7), 770–780. https://doi.org/10.1177/0956797620939054\n
    • \n
  • Pennycook, G., & Rand, D. G. (2019). Paresse, pas de parti pris : la vulnérabilité aux fausses infos partisanes s’explique mieux par un manque de raisonnement que par un raisonnement motivé. Cognition, 188, 39–50. https://doi.org/10.1016/j.cognition.2018.06.011\n
    • \n
  • Reber, R., & Schwarz, N. (1999). Effets de la fluidité perceptive sur les jugements de vérité. Consciousness and Cognition, 8(3), 338–342. https://doi.org/10.1006/ccog.1999.0386\n
    • \n
  • Roozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). La vulnérabilité face aux fausses informations sur la COVID-19 à travers le monde. Royal Society Open Science, 7(10), 201199. https://doi.org/10.1098/rsos.201199\n
    • \n
  • Sultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). La pression du temps réduit la capacité à repérer la désinformation, mais n’altère pas le biais de réponse. Scientific Reports, 12(1), 22416. https://doi.org/10.1038/s41598-022-26209-8\n
    • \n
  • Sultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Vulnérabilité aux fausses infos en ligne : une méta-analyse systématique des facteurs démographiques et psychologiques. Proceedings of the National Academy of Sciences, 121(47), e2409329121. https://doi.org/10.1073/pnas.2409329121\n
    • \n
  • Traberg, C. S., & van der Linden, S. (2022). Qui se ressemble s'assemble : la crédibilité perçue de la source joue un rôle dans l'effet des préjugés politiques sur la vulnérabilité à la désinformation. Personality and Individual Differences, 185, 111269. https://doi.org/10.1016/j.paid.2021.111269\n
    • \n
  • Unkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). La vérité par la répétition : explications et implications. Current Directions in Psychological Science, 28(3), 247–253. https://doi.org/10.1177/0963721419827854\n
    • \n
\n
\n
\n

☑ Erreurs logiques

\n
\n
\n\n
    \n
  • Vérifie s’il y a des généralisations hâtives – des conclusions tirées d’un manque de preuves.\n
    • \n
  • Vérifie s’il y a de faux dilemmes : limiter les options à deux alors qu’il y en a plus.\n
    • \n
  • Vérifie s’il y a des arguments fallacieux de type « homme de paille » : déformer une position pour la réfuter plus facilement.\n
    • \n
  • Vérifie s’il y a des arguments par ignorance : prétendre que quelque chose est vrai simplement parce qu’on n’a pas pu prouver le contraire.\n
    • \n
  • Vérifie s’il y a des appels à l’autorité : prétendre que c’est vrai juste parce que c’est dit par quelqu’un d’important.\n
    • \n
  • Fais gaffe aux faux-fuyants : détourner l'attention du sujet principal.\n
    • \n
  • Vérifie s’il y a des fausses causes : confondre corrélation et causalité.\n
    • \n
  • Vérifie s’il y a des arguments ad hominem : attaquer la personne plutôt que l’argument.\n
    • \n
  • Vérifie s'il y a des arguments ad populum : prétendre que quelque chose est vrai simplement parce que c'est populaire.\n
    • \n
  • Vérifie s'il y a des « pentes glissantes » : affirmer qu'une seule étape mène à des extrêmes.\n
    • \n
  • Vérifie s’il y a un raisonnement circulaire : utiliser la conclusion comme prémisse.\n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

Désinformation

\n

La désinformation, c'est une information fausse ou trompeuse partagée délibérément par des gens qui savent qu'elle est fausse, dans le but de nuire, de tromper ou de manipuler. Le fait que la personne qui la partage soit consciente de sa fausseté et qu'elle ait une intention nuisible sont des éléments essentiels de la définition.

\n

Parmi les formes courantes, on trouve les opérations d'influence politique, la tromperie commerciale, la propagande, les contenus inventés de toutes pièces et les médias manipulés. La désinformation est souvent produite par des acteurs organisés et amplifiée par le biais d'une amplification inauthentique / artificielle coordonnée (voir ci-dessus).

\n

Malinformation

\n

La malinformation, c'est une information vraie partagée dans l'intention de nuire. Le contenu en lui-même est exact, mais sa diffusion, son cadrage ou son timing sont calculés pour nuire à une personne, un groupe ou une institution. Le schéma classique, c'est de faire passer délibérément des informations privées, sensibles ou liées à un contexte précis dans un contexte public ou préjudiciable.

\n

On peut citer comme exemples la publication de communications privées divulguées pour discréditer une cible, la diffusion de données personnelles exactes mais stigmatisantes (par exemple, la « pornographie de vengeance »), et la divulgation stratégique d’informations factuellement correctes mais préjudiciables dans leur contexte, à des moments choisis pour un impact maximal.

\n

La désinformation est la moins abordée des trois catégories, car le contenu n’est pas faux, ce qui la place en dehors des cadres de vérification des faits. Mais elle constitue une part importante de l’écosystème du désordre informationnel (Wardle & Derakhshan, 2017).

\n
\n
\n\n

Les frontières sont floues. Dans la pratique, ces trois catégories se chevauchent souvent ou évoluent :

\n
    \n
  • Une fausse information, une fois partagée par des gens qui y croient sincèrement, devient de la désinformation à mesure qu’elle se propage. Un même contenu peut se retrouver dans différentes catégories selon qui le partage.\n
    • \n
  • Un contenu peut être en partie vrai et en partie faux. Wardle (2017) répertorie sept formes de désordre de l’information — notamment les contenus trompeurs, les contextes erronés et les contenus manipulés — : tous les contenus faux ne sont pas entièrement inventés.\n
    • \n
  • Il est difficile, d’un point de vue empirique, de déterminer l’intention depuis l’extérieur. Sans avoir accès aux connaissances et aux motivations de la personne qui partage le contenu, la frontière entre la mésinformation et la désinformation ne peut souvent pas être tracée de manière définitive.\n

    C’est pourquoi ce cadre demande aux apprenants d’expliquer pourquoi la frontière entre la mésinformation et la désinformation est souvent difficile à cerner dans la pratique.

    \n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

Hallucination / Confabulation de l’IA

\n

La tendance systématique des systèmes d’IA générative à produire du contenu qui semble plausible mais qui est en réalité incorrect, inventé ou invérifiable — notamment des références inventées, des études inexistantes, des citations mal attribuées, des statistiques inventées de toutes pièces et de fausses informations biographiques, historiques ou scientifiques.

\n

Les hallucinations se produisent parce que les systèmes d’IA générative produisent des résultats en prédisant des suites plausibles à partir de modèles appris pendant l’entraînement, et non en récupérant des informations vérifiées à partir d’une source de connaissances. Le système optimise la fluidité et la plausibilité, pas l’exactitude. Les contenus inventés sont généralement présentés avec la même assurance que les contenus exacts — il n’y a pas de signal interne permettant de distinguer de manière fiable les deux.

\n

Le terme « confabulation » est parfois préféré à celui d’« hallucination » dans les contextes de recherche, car en psychologie, la confabulation désigne la construction de récits faux mais sincèrement crus, sans intention de tromper — ce qui se rapproche davantage de ce que font réellement les systèmes génératifs. Le terme « hallucination » reste toutefois dominant dans le discours public et technique, et on le conserve ici.

\n

Les hallucinations ne sont pas des bugs occasionnels. C’est une caractéristique structurelle du processus de génération sous-jacent, pas des erreurs qu’on peut éliminer de manière fiable en améliorant les consignes (Kalai & Vempala, 2024). Elles se produisent dans tous les systèmes génératifs — y compris ☑ l'IA RAG, où l'invention peut aussi influencer la façon dont les sources récupérées sont résumées, citées ou attribuées.

\n

Positionnement didactique : les hallucinations peuvent être classées conceptuellement dans une quatrième catégorie, aux côtés de la mésinformation, de la désinformation et de la malinformation. Contrairement à ces deux dernières, elles ne sont pas produites par une source humaine avec une intention ou une erreur en tête, mais émergent du processus de génération lui-même — un contenu faux généré par le système sans source intentionnelle. Cette distinction en trois catégories est proposée ici comme un cadre pédagogique utile plutôt que comme une terminologie faisant l’objet d’un consensus établi.

\n

Types courants :

\n
    \n
  • références inventées — citations d’articles, de livres ou d’études qui n’existent pas\n
    • \n
  • des citations attribuées à tort ou inventées\n
    • \n
  • des statistiques ou des affirmations chiffrées inventées\n
    • \n
  • des détails biographiques, historiques ou scientifiques inexacts présentés avec assurance\n
    • \n
  • des résumés de sources réelles qui sont manifestement erronés\n
    • \n
\n
\n
\n\n

Considère toute affirmation factuelle provenant d’un système d’IA générative comme non vérifiée tant que tu ne l’as pas recoupée avec une source indépendante. Les références et les citations sont particulièrement faciles à vérifier : vérifie si la source citée existe et si elle contient bien ce que l’IA a affirmé.

\n
\n
\n
\n
\n\n
    \n
  • Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). Sur les dangers des « perroquets stochastiques » : les modèles linguistiques peuvent-ils être trop volumineux ? Actes de la conférence ACM 2021 sur l'équité, la responsabilité et la transparence (FAccT '21), 610–623. https://doi.org/10.1145/3442188.3445922\n
    • \n
  • Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Étude sur les hallucinations dans la génération de langage naturel. ACM Computing Surveys, 55(12), article 248. https://doi.org/10.1145/3571730\n
    • \n
  • Kalai, A. T., & Vempala, S. S. (2024). Les modèles linguistiques calibrés doivent « halluciner ». Actes du 56e Symposium annuel de l'ACM sur la théorie de l'informatique (STOC 2024), 160–171. https://doi.org/10.1145/3618260.3649777\n
    • \n
  • Smith, A. L., Greaves, F., & Panch, T. (2023). Hallucination ou fabulation ? La neuroanatomie comme métaphore dans les grands modèles linguistiques. PLOS Digital Health, 2(11), e0000388. https://doi.org/10.1371/journal.pdig.0000388\n
    • \n
\n
\n
\n

Fausse représentation du contenu

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
FormatManipuléInventé
TexteCitation authentique sortie de son contexte, titre trafiquéCitation inventée, article fictif, texte généré par l'IA
Imagephoto retouchée, original recadréimage générée par l'IA, fausse « photo » peinte
Audioenregistrement original modifié ou accéléréclone vocal, parole générée par IA
Vidéofaux pas cher, extraits remontésvidéo deepfake entièrement synthétique
Documenten-tête falsifié sur un modèle modifiélettre « officielle » inventée
\n

Contenu fabriqué

\n

Le contenu fabriqué, c'est toute information — texte, image, audio, vidéo, document ou autre format — qui a été entièrement inventée, sans aucune source authentique. Il peut être créé manuellement (citations inventées, articles de presse fictifs) ou généré de manière synthétique par des systèmes d’IA (vidéos synthétiques, clones vocaux, images générées par l’IA, textes rédigés par l’IA).

\n

Contenu manipulé

\n

Un contenu manipulé, c’est une information authentique — texte, image, audio, vidéo, document ou autre format — qui a été modifiée dans le but de tromper. Le contenu d’origine est réel, mais il est modifié par montage, recadrage sélectif, ajustement de la vitesse, recontextualisation, changement de cadrage, substitution de voix ou d’autres transformations qui en modifient le sens ou le contexte apparent.

\n

Faux bon marché

\n

Un faux bon marché, c’est un contenu qui a été modifié à l’aide d’outils classiques et largement accessibles — logiciels de retouche d’images, logiciels de montage vidéo ou simple recontextualisation — plutôt que par des méthodes génératives basées sur l’IA. Ce terme a été inventé par Paris et Donovan (2019) pour souligner que les formes de médias manipulés les plus influentes dans le débat public ne sont généralement pas des deepfakes sophistiqués générés par l'IA, mais des techniques simples et peu coûteuses que n'importe qui peut utiliser.

\n

Parmi les techniques courantes de faux bon marché, on trouve :

\n
    \n
  • la manipulation de la vitesse (par exemple, la vidéo de Pelosi au ralenti, 2019)\n
    • \n
  • le remontage et le montage sélectif d’enregistrements audio ou vidéo\n
    • \n
  • la recontextualisation (des médias authentiques présentés avec une légende ou un cadrage erroné)\n
    • \n
  • la retouche, le recadrage ou le montage de photos\n
    • \n
  • des légendes interverties et des captures d'écran trafiquées\n
    • \n
  • le montage audio\n
    • \n
\n

Le fait qu’un faux bon marché relève de la mésinformation, de la désinformation ou de la malinformation dépend des connaissances et de l’intention de l’auteur (→ désordre de l’information), et non de la technique utilisée. Une même vidéo montée peut servir à la satire, à la fiction, à l’éducation ou à la tromperie.

\n

Comparés aux deepfakes, les faux bas de gamme demandent moins de compétences techniques, mais ne sont pas forcément plus faciles à repérer : une recontextualisation bien faite ou un montage sélectif peuvent être super difficiles à repérer sans avoir accès au matériel source d’origine.

\n
\n
\n\n
\n
\n
\n
\n
\n\n

Outils de vérification des « cheap fakes » :

\n
\n
\n
\n

Deepfake

\n

Un deepfake, c’est un contenu synthétique généré par l’intelligence artificielle — notamment grâce à des techniques d’apprentissage profond comme les réseaux antagonistes génératifs (GAN), les modèles de diffusion ou les générateurs basés sur des transformateurs. Ce terme, contraction de « deep learning » et « fake », est apparu en 2017 dans les communautés en ligne qui produisaient des vidéos de « face-swap » générées par l’IA. Depuis, cette technologie s’est étendue à tous les types de médias et est désormais largement accessible grâce à des outils grand public.

\n

Parmi les formes courantes, on trouve :

\n
    \n
  • Échanges de visages : remplacer le visage d’une personne par celui d’une autre dans une vidéo\n
    • \n
  • Clonage vocal : synthétiser la voix d’un locuteur à partir d’un petit échantillon audio\n
    • \n
  • Vidéo entièrement synthétique : séquences générées par l’IA montrant des personnes, des événements ou des scènes qui n’ont jamais eu lieu\n
    • \n
  • Photographie synthétique : des images fixes générées par l’IA représentant des personnes ou des événements fictifs\n
    • \n
  • Texte-vidéo et texte-audio : création de contenus multimédias à partir de consignes écrites\n
    • \n
\n

Le fait qu’un deepfake relève de la mésinformation, de la désinformation ou de la malinformation dépend des connaissances et des intentions de celui qui l’utilise (→ désordre de l’information), et non de la technique en elle-même. Les méthodes de deepfake sont aussi utilisées de manière légitime dans la production cinématographique, les outils d’accessibilité (voix synthétiques pour les personnes qui ont perdu la leur), le doublage, la satire, l’éducation et les arts.

\n

Comparés aux « cheap fakes », les deep fakes nécessitent davantage de compétences techniques pour être convaincants et permettent d’atteindre un plus grand réalisme visuel ou auditif. Ils ne constituent toutefois pas la forme dominante de manipulation médiatique dans le discours public — Paris et Donovan (2019) soulignent que les techniques plus simples de « cheap fakes » restent plus courantes et ont souvent des conséquences plus importantes. La détection est un domaine de recherche actif ; les approches actuelles combinent l’analyse des artefacts, les contrôles d’incohérences biologiques et la vérification de la provenance (par exemple, les « content credentials » de C2PA).

\n
\n
\n\n
    \n
  • Paris, B., & Donovan, J. (2019). Deepfakes et « cheap fakes » : la manipulation des preuves audio et visuelles. Data & Society Research Institute. https://datasociety.net/library/deepfakes-and-cheap-fakes/\n
    • \n
  • Chesney, R., & Citron, D. K. (2019). Les deepfakes : un défi imminent pour la vie privée, la démocratie et la sécurité nationale. California Law Review, 107(6), 1753–1820.\n
    • \n
  • Vaccari, C., & Chadwick, A. (2020). Deepfakes et désinformation : exploration de l’impact des vidéos politiques synthétiques sur la tromperie, l’incertitude et la confiance dans l’info. Social Media + Society, 6(1), 1–13. https://doi.org/10.1177/2056305120903408\n
    • \n
\n
\n
\n
\n
\n\n

Outils de vérification des deepfakes :

\n
\n
\n
","UPDATEDAT":"2026-07-10T09:41:41.357Z","LANG":"fr","ID":"5e496f56-314b-4d2e-9e41-ad19b82b506d","TITLE":"Désinformation et manipulation","SOURCELANG":"en"}