{"CACHEDAT":"2026-05-18 11:13:03","TRANSLATEDAT":"2026-05-18 11:13:03","SOURCESIGNATURE":"7a9e56d2ea3f2c69597ecdc4c37790c3bd22ac955bbb62f6ceb193688b397de6","SLUG":"misinformation-manipulation-WtiyDFyWdl","MARKDOWN":"# Information Disorder\n\nWardle & Derakhshan (2017), in a foundational report for the Council of Europe, introduce *Information Disorder* as the umbrella term for false, misleading, or harmfully shared information in the public information environment. They distinguish three categories along two axes: whether the content is *false* or *true*, and whether it is shared with *intent to harm*.\n\n| Type | Content | Sharer's knowledge of falseness | Intent to harm |\n|------|---------|---------------------------------|----------------|\n| **Misinformation** | false or misleading | does not know | no |\n| **Disinformation** | false or misleading | knows | yes |\n| **Malinformation** | true | (not the criterion) | yes |\n\nThe three categories form an interconnected ecology: the same content item can move between them depending on who shares it and with what intent.\n\n### Fake News\n\nThe term *fake news* is widely used in public debate but analytically imprecise. It usually refers to false or misleading information presented in the style of news reporting. However, because the term can refer to different types of information disorder and is often used politically to discredit unwanted reporting, more precise terms such as *misinformation*, *disinformation*, *fabricated content*, *false context*, or *manipulated content* should be preferred.\n\n## Misinformation\n\nMisinformation is false or misleading information shared by people who do not realise it is false. The sharer believes the content is accurate; there is no intent to deceive or harm.\n\nMisinformation typically arises in fast-moving news situations (early reports with unconfirmed details), in passing along claims without checking accuracy, and in repeating information from trusted sources that turn out to be wrong. It can be as widespread and consequential as disinformation, despite the absence of malicious intent — its sharers are often genuinely motivated and trusted within their networks, which gives the content reach and perceived credibility (Lewandowsky et al., 2017).\n\n### Misinformation Susceptibility Factors\n\n\n:::success\n**1. Cognitive factors** — how information is processed\n\n* **Confirmation bias**: People pay more attention to information that supports what they already believe, and scrutinise opposing information more harshly. — Nickerson (1998)\n* **Illusory truth effect**: Claims can feel more believable simply because people have seen them before, even when they are false. — Unkelbach et al. (2019)\n* **Processing fluency**: Information that is easy to read, familiar in wording, or visually clear feels more trustworthy than information that is harder to process. — Reber & Schwarz (1999)\n* **Low cognitive reflection**: People who rely on quick, intuitive judgements rather than pausing to check are more likely to fall for false claims. — Pennycook & Rand (2019)\n* **Bullshit receptivity**: Some people are inclined to find vague but impressive-sounding statements meaningful, even when they are empty. — Pennycook et al. (2015)\n* **Low numeracy / scientific literacy**: People may struggle to evaluate statistics, graphs, risk statements, or scientific evidence; education alone is no automatic protection. — Kahan et al. (2017)\n\n**2. Affective / motivational factors** — how emotions and identity shape judgement\n\n* **Emotional reasoning / reliance on emotion**: People accept claims because they feel right, frightening, satisfying, or morally urgent, rather than because they have been checked. — Martel, Pennycook & Rand (2020)\n* **Specific emotions** (anger, fear, moral outrage): Strong emotions can lead people to react quickly and share before checking; moral-emotional language is especially powerful in spreading political content. (Belief and sharing are distinct effects with different evidence.) — Brady et al. (2017); Martel et al. (2020)\n* **Identity-protective cognition**: People process information in ways that protect their political, religious, or group identity, and resist evidence that would threaten it. (Closely linked to *political identity* in category 5.) — Kahan (2013, 2017)\n* **Conspiracy mindset**: A general tendency to suspect hidden plots or powerful actors behind events makes conspiracy-style misinformation more plausible. — Douglas, Sutton & Cichocka (2017)\n\n**3. Social factors** — whom and which groups people trust\n\n* **Source credibility / trust in the sender**: How believable a claim feels depends on who appears to be saying it — a friend, an influencer, an expert, a politician, a news outlet, or an anonymous account. — Traberg & van der Linden (2022)\n* **Social proof / popularity cues**: Likes, shares, views, and comments can act as credibility cues, although the effect depends on context. — Avram et al. (2020)\n* **In-group / partisan congruency**: Information from \"people like us\", or aligned with a group's position, is accepted more easily. (Closely linked to *political identity* in category 5.) — Sultan et al. (2024)\n* **Network homophily / echo chambers**: When people mostly encounter information through networks of similar others, certain views appear more widely shared than they really are. (See also D1G5.) — Cinelli et al. (2021)\n\n**4. Contextual / situational factors** — the conditions under which people meet information\n\n* **Time pressure**: When people have to judge information quickly, they distinguish true from false claims less accurately. — Sultan et al. (2022)\n* **Information overload**: When too much information arrives at once, people fall back on shortcuts like headlines, emotion, source labels, or popularity. — Laato et al. (2020)\n* **Distraction / cognitive load**: When attention is drawn elsewhere, people may share without checking accuracy, even if they could otherwise recognise the misinformation. — Pennycook et al. (2020)\n* **Crisis / uncertainty contexts** (pandemics, war, disasters): Urgent need for explanation increases openness to false or premature claims. — Roozenbeek et al. (2020)\n* **Platform design**: Feeds, notifications, recommendation systems, autoplay, and fast scrolling encourage reactive rather than reflective behaviour. (See also D1G1.) — Lorenz-Spreen et al. (2020)\n\n**5. Background and dispositional factors** — who may be more or less vulnerable in specific contexts\n\n* **Age**: Older adults sometimes distinguish true from false headlines better in studies, but share misinformation more often online. — Guess, Nagler & Tucker (2019)\n* **Education**: Not an automatic shield; meta-analyses show no simple effect on misinformation discrimination. — Sultan et al. (2024)\n* **Political identity and prior beliefs**: Shape which information feels plausible, threatening, trustworthy, or worth sharing. (Operates via identity-protective cognition in category 2 and in-group cues in category 3 — not purely a demographic variable.) — Sultan et al. (2024)\n* **Media literacy habits**: People who compare sources, read beyond headlines, and recognise manipulation techniques rely less on emotional or social shortcuts. *(Note: this is the learning goal of SciLMi itself — listed here as a documented protective disposition, not as a prerequisite.)* — Guess et al. (2020)\n\n:::\n\n\n:::info\n* Avram, M., Micallef, N., Patil, S., & Menczer, F. (2020). Exposure to social engagement metrics increases vulnerability to misinformation. *Harvard Kennedy School (HKS) Misinformation Review*, *1*(5). \n* Brady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Emotion shapes the diffusion of moralized content in social networks. *Proceedings of the National Academy of Sciences*, *114*(28), 7313–7318. \n* Cinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). The echo chamber effect on social media. *Proceedings of the National Academy of Sciences*, *118*(9), e2023301118. \n* Douglas, K. M., Sutton, R. M., & Cichocka, A. (2017). The psychology of conspiracy theories. *Current Directions in Psychological Science*, *26*(6), 538–542. \n* Guess, A., Nagler, J., & Tucker, J. (2019). Less than you think: Prevalence and predictors of fake news dissemination on Facebook. *Science Advances*, *5*(1), eaau4586. \n* Jones-Jang, S. M., Mortensen, T., & Liu, J. (2021). Does media literacy help identification of fake news? Information literacy helps, but other literacies don't. *American Behavioral Scientist*, *65*(2), 371–388. \n* Kahan, D. M. (2013). Ideology, motivated reasoning, and cognitive reflection. *Judgment and Decision Making*, *8*(4), 407–424.\n* Kahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Motivated numeracy and enlightened self-government. *Behavioural Public Policy*, *1*(1), 54–86. \n* Laato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). What drives unverified information sharing and cyberchondria during the COVID-19 pandemic? *European Journal of Information Systems*, *29*(3), 288–305. \n* Lorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). How behavioural sciences can promote truth, autonomy and democratic discourse online. *Nature Human Behaviour*, *4*(11), 1102–1109. \n* Martel, C., Pennycook, G., & Rand, D. G. (2020). Reliance on emotion promotes belief in fake news. *Cognitive Research: Principles and Implications*, *5*(1), 47. \n* Nickerson, R. S. (1998). Confirmation bias: A ubiquitous phenomenon in many guises. *Review of General Psychology*, *2*(2), 175–220. \n* Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). On the reception and detection of pseudo-profound bullshit. *Judgment and Decision Making*, *10*(6), 549–563.\n* Pennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). Fighting COVID-19 misinformation on social media: Experimental evidence for a scalable accuracy-nudge intervention. *Psychological Science*, *31*(7), 770–780. \n* Pennycook, G., & Rand, D. G. (2019). Lazy, not biased: Susceptibility to partisan fake news is better explained by lack of reasoning than by motivated reasoning. *Cognition*, *188*, 39–50. \n* Reber, R., & Schwarz, N. (1999). Effects of perceptual fluency on judgments of truth. *Consciousness and Cognition*, *8*(3), 338–342. \n* Roozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). Susceptibility to misinformation about COVID-19 around the world. *Royal Society Open Science*, *7*(10), 201199. \n* Sultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). Time pressure reduces misinformation discrimination ability but does not alter response bias. *Scientific Reports*, *12*(1), 22416. \n* Sultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Susceptibility to online misinformation: A systematic meta-analysis of demographic and psychological factors. *Proceedings of the National Academy of Sciences*, *121*(47), e2409329121. \n* Traberg, C. S., & van der Linden, S. (2022). Birds of a feather are persuaded together: Perceived source credibility mediates the effect of political bias on misinformation susceptibility. *Personality and Individual Differences*, *185*, 111269. \n* Unkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). Truth by repetition: Explanations and implications. *Current Directions in Psychological Science*, *28*(3), 247–253. \n\n:::\n\n### ☑ Logical Fallacies\n\n\n:::success\n- [ ] Check for hasty generalisations - Conclusion from too little evidence.\n- [ ] Check for false dilemmas - Limiting options to two when more exist.\n- [ ] Check for straw man arguments - Misrepresenting a position to refute it easily.\n- [ ] Check for appeals to ignorance - Claiming truth due to lack of disproof.\n- [ ] Check for appeals to authority - Assuming truth based on authority alone.\n- [ ] Check for red herrings - Distracting from the main issue.\n- [ ] Check for false causes - Confusing correlation with causation.\n- [ ] Check for ad hominem - Attacking the person, not the argument. \n- [ ] Check for ad populum - Arguing truth from popularity.\n- [ ] Check for slippery slopes - Asserting one step leads to extremes.\n- [ ] Check for circular reasoning - Using the conclusion as a premise.\n\n:::\n\n\n:::tip\n* \n* \n* \n\n:::\n\n## Disinformation\n\nDisinformation is false or misleading information shared deliberately, by people who know it is false, with the intent to harm, deceive, or manipulate. Both the sharer's awareness of the falseness and the harmful intent are definitional features.\n\nCommon forms include political influence operations, commercial deception, propaganda, fabricated content, and manipulated media. Disinformation is often produced by organised actors and amplified through *Coordinated Inauthentic / Artificial Amplification* (above).\n\n## Malinformation\n\nMalinformation is *true* information shared with intent to harm. The content itself is accurate, but its release, framing, or timing is calculated to damage a person, group, or institution. The classical pattern is the deliberate movement of private, sensitive, or context-bound information into a public or harmful context.\n\nExamples include the publication of leaked private communications to discredit a target, the release of accurate but stigmatising personal data (e.g. revenge porn), and the strategic disclosure of factually correct but contextually damaging information at moments calculated for maximum impact.\n\nMalinformation is the least-discussed of the three categories because the content is not false, which places it outside fact-checking frameworks. But it forms a significant part of the information-disorder ecology (Wardle & Derakhshan, 2017).\n\n\n:::warning\n**The boundaries are porous.**\n\nThe three categories often overlap or shift in practice:\n\n* A piece of *disinformation*, once shared by people who genuinely believe it, becomes *misinformation* as it spreads further. The same content can sit in different categories depending on who shares it.\n* Content can be partly true and partly false. Wardle (2017) lists seven forms within information disorder — including *misleading content*, *false context*, and *manipulated content* — not all false content is fully fabricated.\n* Determining intent from outside is empirically hard. Without access to the sharer's knowledge state and motivation, the line between misinformation and disinformation often cannot be drawn definitively.\n\nThis is why the framework asks learners to *explain why the boundary between misinformation and disinformation is often difficult to determine in practice*.\n\n:::\n\n\n:::info\n* Wardle, C., & Derakhshan, H. (2017). *Information Disorder: Toward an interdisciplinary framework for research and policy making*. Council of Europe Report DGI(2017)09. \n* Wardle, C. (2017). Fake news. It's complicated. *First Draft News*. \n* Lewandowsky, S., Ecker, U. K. H., & Cook, J. (2017). Beyond misinformation: Understanding and coping with the \"post-truth\" era. *Journal of Applied Research in Memory and Cognition*, 6(4), 353–369. \n* Vraga, E. K., & Bode, L. (2020). Defining misinformation and understanding its bounded nature. *Political Communication*, 37(1), 136–144. \n\n:::\n\n# AI Hallucination / Confabulation\n\nThe systematic tendency of generative AI systems to produce plausible-sounding content that is factually incorrect, fabricated, or unverifiable — including invented references, non-existent studies, misattributed quotations, made-up statistics, and false biographical, historical, or scientific details.\n\nHallucinations occur because generative AI systems produce output by predicting plausible continuations from patterns learned during training, not by retrieving verified information from a knowledge source. The system optimises for fluency and plausibility, not for accuracy. Fabricated content is typically presented with the same confidence as accurate content — there is no internal signal that reliably distinguishes the two.\n\nThe term **confabulation** is sometimes preferred over **hallucination** in research contexts, since confabulation in psychology denotes the construction of false but sincerely believed accounts without intent to deceive — closer to what generative systems actually do. *Hallucination* remains the dominant term in public and technical discourse and is retained here.\n\n**Hallucinations are not occasional bugs.** They are a structural feature of the underlying generation process, not errors that can be reliably eliminated through better prompting (Kalai & Vempala, 2024). They occur across all generative systems — including ☑ RAG AI, where fabrication can also affect how retrieved sources are summarised, quoted, or attributed.\n\n**Didactic positioning:** Hallucinations can be located conceptually as a forth category alongside *misinformation, disinformation*, and *malinformation*. Unlike both, they are not produced by a human source with intent or error in mind, but emerge from the generation process itself — system-generated false content without an intentional source. This three-way distinction is offered here as a pedagogically useful framing rather than as established consensus terminology.\n\n**Common types:**\n\n* fabricated references — citations to articles, books, or studies that do not exist\n* misattributed or fabricated quotations\n* invented statistics or numerical claims\n* inaccurate biographical, historical, or scientific details presented confidently\n* confidently incorrect summaries of real sources\n\n\n:::tip\nTreat any factual claim from a generative AI system as unverified until checked against an independent source. References and quotations are particularly easy to verify — search whether the cited source exists and contains what the AI claimed.\n\n:::\n\n\n:::info\n* Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? *Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21)*, 610–623. \n* Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. *ACM Computing Surveys, 55*(12), Article 248. \n* Kalai, A. T., & Vempala, S. S. (2024). Calibrated language models must hallucinate. *Proceedings of the 56th Annual ACM Symposium on Theory of Computing (STOC 2024)*, 160–171. \n* Smith, A. L., Greaves, F., & Panch, T. (2023). Hallucination or confabulation? Neuroanatomy as metaphor in large language models. *PLOS Digital Health, 2*(11), e0000388. \n\n:::\n\n# Content Misrepresentation\n\n| Format | Manipulated | Fabricated |\n|--------|-------------|------------|\n| Text | genuine quote stripped of context, doctored headline | invented quote, fictional article, AI-generated text |\n| Image | retouched photograph, cropped original | AI-generated image, painted fake \"photograph\" |\n| Audio | edited or sped-up original recording | voice clone, AI-generated speech |\n| Video | cheap fake, recut clips | fully synthetic deepfake video |\n| Document | forged letterhead on modified template | invented \"official\" letter |\n\n## Fabricated Content\n\n**Fabricated content** is information — text, image, audio, video, document, or other format — that has been entirely invented, with no genuine source material. It may be produced manually (invented quotes, fictional news articles) or generated synthetically by AI systems (synthetic videos, voice clones, AI-generated images, AI-written text).\n\n## Manipulated Content\n\n**Manipulated content** is geniune information — text, image, audio, video, document, or other format — that has been altered to deceive. The source material is real, but it is modified through editing, selective cropping, speed adjustment, recontextualisation, framing changes, voice substitution, or other transformations that change its meaning or apparent context.\n\n### Cheap Fake\n\nA **cheap fake** is media that has been altered using conventional, widely available tools — image editing software, video editing software, or basic recontextualisation — rather than AI-based generative methods. The term was coined by Paris and Donovan (2019) to draw attention to the fact that the most consequential forms of manipulated media in public discourse are typically not sophisticated AI-generated deepfakes, but simple, low-cost techniques that anyone can apply.\n\nCommon cheap fake techniques include:\n\n* speed manipulation (e.g. the slowed-down Pelosi video, 2019)\n* recutting and selective editing of audio or video\n* recontextualisation (real media presented with a false caption or framing)\n* photo retouching, cropping, or compositing\n* swapped captions and doctored screenshots\n* audio splicing\n\nWhether a cheap fake constitutes *Misinformation*, *Disinformation*, or *Malinformation* depends on the actor's knowledge and intent (→ *Information Disorder*), not on the technique itself. The same edited video can serve satire, fiction, education, or deception.\n\nCompared with *Deep Fakes*, cheap fakes require less technical skill but are not necessarily easier to detect — well-executed recontextualisation or selective editing can be extremely difficult to identify without access to the original source material.\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence*. Data & Society Research Institute. \n\n:::\n\n\n:::tip\nCheap Fake Verification Tools: \n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n### Deep Fake\n\n### Deep Fake\n\nA **deep fake** is synthetic media generated by artificial intelligence — specifically using deep learning techniques such as generative adversarial networks (GANs), diffusion models, or transformer-based generators. The term is a portmanteau of *deep learning* and *fake*, originating in 2017 in online communities producing AI-generated face-swap videos. The technology has since expanded across media types and is now broadly accessible through consumer-level tools.\n\nCommon forms include:\n\n* **Face swaps**: replacing one person's face with another's in video\n* **Voice cloning**: synthesising a speaker's voice from a small audio sample\n* **Full synthetic video**: AI-generated footage showing people, events, or scenes that never occurred\n* **Synthetic photography**: AI-generated still images of fictional people or events\n* **Text-to-video and text-to-audio**: generating media from written prompts\n\nWhether a deep fake constitutes *Misinformation*, *Disinformation*, or *Malinformation* depends on the actor's knowledge and intent (→ *Information Disorder*), not on the technique itself. Deep fake methods are also used legitimately in film production, accessibility tools (synthetic voices for people who have lost theirs), language dubbing, satire, education, and the arts.\n\nCompared with *Cheap Fakes*, deep fakes require more technical capacity to produce convincingly and can achieve higher visual or auditory realism. They are not, however, the dominant form of media manipulation in public discourse — Paris and Donovan (2019) note that simpler cheap-fake techniques remain more common and often more consequential. Detection is an active research area; current approaches combine artefact analysis, biological inconsistency checks, and provenance verification (e.g. C2PA content credentials).\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence*. Data & Society Research Institute. \n* Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. *California Law Review*, 107(6), 1753–1820.\n* Vaccari, C., & Chadwick, A. (2020). Deepfakes and disinformation: Exploring the impact of synthetic political video on deception, uncertainty, and trust in news. *Social Media + Society*, 6(1), 1–13. \n\n:::\n\n\n:::tip\nDeep Fake Verification Tools: \n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n\n##","HTML":"

Informatieverstoring

\n

Wardle & Derakhshan (2017) introduceren in een basisrapport voor de Raad van Europa het begrip 'informatieverstoring' als overkoepelende term voor valse, misleidende of schadelijk verspreide informatie in de publieke informatieomgeving. Zij onderscheiden drie categorieën langs twee assen: of de inhoud vals of waar is, en of deze wordt verspreid met de bedoeling schade te berokkenen.

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
TypeInhoudKennis van de deler over de onjuistheidOpzet om schade te berokkenen
Desinformatieonjuist of misleidendweet het nietnee
Desinformatieonjuist of misleidendweetja
Verkeerde informatiewaar(niet het criterium)ja
\n

De drie categorieën vormen een onderling verbonden ecosysteem: hetzelfde inhoudselement kan tussen deze categorieën verschuiven, afhankelijk van wie het deelt en met welke intentie.

\n

Nepnieuws

\n

De term nepnieuws wordt veel gebruikt in het publieke debat, maar is analytisch gezien onnauwkeurig. Meestal verwijst het naar valse of misleidende informatie die wordt gepresenteerd in de stijl van nieuwsverslaggeving. Omdat de term echter kan verwijzen naar verschillende soorten informatieverstoring en vaak politiek wordt gebruikt om ongewenste berichtgeving in diskrediet te brengen, verdient het de voorkeur om nauwkeurigere termen te gebruiken, zoals verkeerde informatie, desinformatie, verzonnen inhoud, valse context of gemanipuleerde inhoud.

\n

Verkeerde informatie

\n

Misinformatie is valse of misleidende informatie die wordt gedeeld door mensen die zich niet realiseren dat deze vals is. Degene die de inhoud deelt, gelooft dat deze juist is; er is geen opzet om te misleiden of schade te berokkenen.

\n

Misinformatie ontstaat doorgaans in snel veranderende nieuwssituaties (vroege berichten met onbevestigde details), bij het doorgeven van beweringen zonder de juistheid te controleren, en bij het herhalen van informatie uit betrouwbare bronnen die achteraf onjuist blijkt te zijn. Het kan net zo wijdverspreid en ingrijpend zijn als desinformatie, ondanks de afwezigheid van kwaadwillige bedoelingen — degenen die het delen zijn vaak oprecht gemotiveerd en worden binnen hun netwerken vertrouwd, wat de inhoud bereik en waargenomen geloofwaardigheid geeft (Lewandowsky et al., 2017).

\n

Factoren die vatbaarheid voor misinformatie vergroten

\n
\n
\n\n

1. Cognitieve factoren — hoe informatie wordt verwerkt

\n
    \n
  • Bevestigingsvertekening: mensen besteden meer aandacht aan informatie die hun bestaande overtuigingen ondersteunt, en bekijken tegengestelde informatie kritischer. — Nickerson (1998)\n
    • \n
  • Illusory truth-effect: beweringen kunnen geloofwaardiger aanvoelen simpelweg omdat mensen ze eerder hebben gezien, zelfs als ze onjuist zijn. — Unkelbach et al. (2019)\n
    • \n
  • Vloeiendheid van verwerking: Informatie die gemakkelijk te lezen is, in vertrouwde bewoordingen is gesteld of visueel duidelijk is, voelt betrouwbaarder aan dan informatie die moeilijker te verwerken is. — Reber & Schwarz (1999)\n
    • \n
  • Weinig cognitieve reflectie: Mensen die vertrouwen op snelle, intuïtieve oordelen in plaats van even stil te staan om iets te controleren, trappen vaker in valse beweringen. — Pennycook & Rand (2019)\n
    • \n
  • Ontvankelijkheid voor onzin: Sommige mensen zijn geneigd om vage maar indrukwekkend klinkende uitspraken betekenisvol te vinden, zelfs als ze inhoudsloos zijn. — Pennycook et al. (2015)\n
    • \n
  • Geringe rekenvaardigheid / wetenschappelijke geletterdheid: Mensen kunnen moeite hebben met het beoordelen van statistieken, grafieken, risicoverschillen of wetenschappelijk bewijs; onderwijs alleen biedt geen automatische bescherming. — Kahan et al. (2017)\n

    2. Affectieve / motivationele factoren — hoe emoties en identiteit het oordeel beïnvloeden

    \n
    • \n
  • Emotioneel redeneren / vertrouwen op emotie: Mensen accepteren beweringen omdat ze goed, beangstigend, bevredigend of moreel urgent aanvoelen, in plaats van omdat ze zijn gecontroleerd. — Martel, Pennycook & Rand (2020)\n
    • \n
  • Specifieke emoties (woede, angst, morele verontwaardiging): Sterke emoties kunnen ertoe leiden dat mensen snel reageren en informatie delen voordat ze deze controleren; moreel-emotionele taal is bijzonder krachtig bij het verspreiden van politieke inhoud. (Overtuiging en delen zijn verschillende effecten met verschillend bewijs.) — Brady et al. (2017); Martel et al. (2020)\n
    • \n
  • Identiteitsbeschermende cognitie: Mensen verwerken informatie op manieren die hun politieke, religieuze of groepsidentiteit beschermen, en verzetten zich tegen bewijs dat deze identiteit zou bedreigen. (Nauw verbonden met politieke identiteit in categorie 5.) — Kahan (2013, 2017)\n
    • \n
  • Samenzweringsmentaliteit: Een algemene neiging om verborgen complotten of machtige actoren achter gebeurtenissen te vermoeden, maakt samenzweringsachtige desinformatie aannemelijker. — Douglas, Sutton & Cichocka (2017)\n

    3. Sociale factoren — wie en welke groepen mensen vertrouwen

    \n
    • \n
  • Geloofwaardigheid van de bron / vertrouwen in de afzender: Hoe geloofwaardig een bewering overkomt, hangt af van wie deze lijkt te doen — een vriend, een influencer, een deskundige, een politicus, een nieuwsmedium of een anoniem account. — Traberg & van der Linden (2022)\n
    • \n
  • Sociale bewijskracht / populariteitssignalen: Likes, shares, views en reacties kunnen fungeren als signalen van geloofwaardigheid, hoewel het effect afhankelijk is van de context. — Avram et al. (2020)\n
    • \n
  • Congruentie binnen de groep / partijgebondenheid: Informatie van "mensen zoals wij", of informatie die aansluit bij het standpunt van een groep, wordt gemakkelijker geaccepteerd. (Nauw verbonden met politieke identiteit in categorie 5.) — Sultan et al. (2024)\n
    • \n
  • Netwerkhomofilie / echokamers: Wanneer mensen voornamelijk informatie tegenkomen via netwerken van gelijkgestemden, lijken bepaalde standpunten breder gedeeld dan ze in werkelijkheid zijn. (Zie ook D1G5.) — Cinelli et al. (2021)\n

    4. Contextuele / situationele factoren — de omstandigheden waaronder mensen informatie tegenkomen

    \n
    • \n
  • Tijdsdruk: wanneer mensen informatie snel moeten beoordelen, onderscheiden ze ware van valse beweringen minder nauwkeurig. — Sultan et al. (2022)\n
    • \n
  • Informatie-overload: wanneer er te veel informatie tegelijk binnenkomt, vallen mensen terug op snelkoppelingen zoals koppen, emotie, bronvermeldingen of populariteit. — Laato et al. (2020)\n
    • \n
  • Afleiding / cognitieve belasting: wanneer de aandacht ergens anders naartoe wordt getrokken, delen mensen mogelijk informatie zonder de juistheid ervan te controleren, zelfs als ze de desinformatie anders wel zouden herkennen. — Pennycook et al. (2020)\n
    • \n
  • Crisis- en onzekerheidssituaties (pandemieën, oorlog, rampen): De dringende behoefte aan uitleg vergroot de ontvankelijkheid voor valse of voorbarige beweringen. — Roozenbeek et al. (2020)\n
    • \n
  • Ontwerp van het platform: Feeds, meldingen, aanbevelingssystemen, automatisch afspelen en snel scrollen stimuleren reactief in plaats van reflectief gedrag. (Zie ook D1G1.) — Lorenz-Spreen et al. (2020)\n

    5. Achtergrond- en dispositionele factoren — wie is in specifieke contexten meer of minder kwetsbaar

    \n
    • \n
  • Leeftijd: Oudere volwassenen onderscheiden in studies soms beter echte van valse koppen, maar delen online vaker desinformatie. — Guess, Nagler & Tucker (2019)\n
    • \n
  • Opleiding: Geen automatische bescherming; meta-analyses tonen geen eenvoudig effect aan op het onderscheiden van desinformatie. — Sultan et al. (2024)\n
    • \n
  • Politieke identiteit en eerdere overtuigingen: Bepalen welke informatie aannemelijk, bedreigend, betrouwbaar of het delen waard lijkt. (Werkt via identiteitsbeschermende cognitie in categorie 2 en signalen van de eigen groep in categorie 3 — niet louter een demografische variabele.) — Sultan et al. (2024)\n
    • \n
  • Gewoontes op het gebied van mediageletterdheid: mensen die bronnen vergelijken, verder lezen dan de koppen en manipulatietechnieken herkennen, vertrouwen minder op emotionele of sociale snelkoppelingen. (Opmerking: dit is het leerdoel van SciLMi zelf — hier vermeld als een gedocumenteerde beschermende neiging, niet als een voorwaarde.) — Guess et al. (2020)\n
    • \n
\n
\n
\n
\n
\n\n
    \n
  • \nAvram, M., Micallef, N., Patil, S., & Menczer, F. (2020). Blootstelling aan statistieken over sociale betrokkenheid verhoogt de kwetsbaarheid voor desinformatie. Harvard Kennedy School (HKS) Misinformation Review\n, 1\n(5). https://doi.org/10.37016/mr-2020-033\n
    • \n
  • \nBrady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Emotie bepaalt de verspreiding van gemoraliseerde inhoud in sociale netwerken. Proceedings of the National Academy of Sciences\n, 114\n(28), 7313–7318. https://doi.org/10.1073/pnas.1618923114\n
    • \n
  • \nCinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). Het echokamereffect op sociale media. Proceedings of the National Academy of Sciences\n, 118\n(9), e2023301118. https://doi.org/10.1073/pnas.2023301118\n
    • \n
  • \nDouglas, K. M., Sutton, R. M., & Cichocka, A. (2017). De psychologie van complottheorieën. Current Directions in Psychological Science\n, 26\n(6), 538–542. https://doi.org/10.1177/0963721417718261\n
    • \n
  • \nGuess, A., Nagler, J., & Tucker, J. (2019). Minder dan je denkt: Prevalentie en voorspellers van de verspreiding van nepnieuws op Facebook. Science Advances\n, 5\n(1), eaau4586. https://doi.org/10.1126/sciadv.aau4586\n
    • \n
  • \nJones-Jang, S. M., Mortensen, T., & Liu, J. (2021). Helpt mediageletterdheid bij het herkennen van nepnieuws? Informatiegeletterdheid helpt, maar andere vormen van geletterdheid niet. American Behavioral Scientist\n, 65\n(2), 371–388. https://doi.org/10.1177/0002764219869406\n
    • \n
  • Kahan, D. M. (2013). Ideologie, gemotiveerd redeneren en cognitieve reflectie. Judgment and Decision Making, 8(4), 407–424.\n
    • \n
  • \nKahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Gemotiveerde rekenvaardigheid en verlicht zelfbestuur. Behavioural Public Policy\n, 1\n(1), 54–86. https://doi.org/10.1017/bpp.2016.2\n
    • \n
  • \nLaato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). Wat drijft het delen van ongeverifieerde informatie en cyberchondrie tijdens de COVID-19-pandemie? European Journal of Information Systems\n, 29\n(3), 288–305. https://doi.org/10.1080/0960085X.2020.1770632\n
    • \n
  • \nLorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). Hoe gedragswetenschappen de waarheid, autonomie en het democratische discours online kunnen bevorderen. Nature Human Behaviour\n, 4\n(11), 1102–1109. https://doi.org/10.1038/s41562-020-0889-7\n
    • \n
  • \nMartel, C., Pennycook, G., & Rand, D. G. (2020). Vertrouwen op emotie bevordert het geloof in nepnieuws. Cognitive Research: Principles and Implications\n, 5\n(1), 47. https://doi.org/10.1186/s41235-020-00252-3\n
    • \n
  • \nNickerson, R. S. (1998). Bevestigingsvertekening: een alomtegenwoordig fenomeen in vele gedaanten. Review of General Psychology\n, 2\n(2), 175–220. https://doi.org/10.1037/1089-2680.2.2.175\n
    • \n
  • Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). Over de receptie en detectie van pseudo-diepzinnige onzin. Judgment and Decision Making, 10(6), 549–563.\n
    • \n
  • \nPennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). Bestrijding van COVID-19-desinformatie op sociale media: experimenteel bewijs voor een schaalbare interventie om de nauwkeurigheid te verbeteren. Psychological Science\n, 31\n(7), 770–780. https://doi.org/10.1177/0956797620939054\n
    • \n
  • \nPennycook, G., & Rand, D. G. (2019). Lui, niet bevooroordeeld: gevoeligheid voor partijdig nepnieuws kan beter worden verklaard door een gebrek aan redenering dan door gemotiveerde redenering. Cognition\n, 188\n, 39–50. https://doi.org/10.1016/j.cognition.2018.06.011\n
    • \n
  • \nReber, R., & Schwarz, N. (1999). Effecten van perceptuele vloeiendheid op oordelen over waarheid. Consciousness and Cognition\n, 8\n(3), 338–342. https://doi.org/10.1006/ccog.1999.0386\n
    • \n
  • \nRoozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). Gevoeligheid voor desinformatie over COVID-19 wereldwijd. Royal Society Open Science\n, 7\n(10), 201199. https://doi.org/10.1098/rsos.201199\n
    • \n
  • \nSultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). Tijdsdruk vermindert het vermogen om verkeerde informatie te onderscheiden, maar verandert de responsbias niet. Scientific Reports\n, 12\n(1), 22416. https://doi.org/10.1038/s41598-022-26209-8\n
    • \n
  • \nSultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Gevoeligheid voor online desinformatie: een systematische meta-analyse van demografische en psychologische factoren. Proceedings of the National Academy of Sciences\n, 121\n(47), e2409329121. https://doi.org/10.1073/pnas.2409329121\n
    • \n
  • \nTraberg, C. S., & van der Linden, S. (2022). Soort zoekt soort: de waargenomen geloofwaardigheid van de bron bemiddelt het effect van politieke vooringenomenheid op de vatbaarheid voor desinformatie. Personality and Individual Differences\n, 185\n, 111269. https://doi.org/10.1016/j.paid.2021.111269\n
    • \n
  • \nUnkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). Waarheid door herhaling: verklaringen en implicaties. Current Directions in Psychological Science\n, 28\n(3), 247–253. https://doi.org/10.1177/0963721419827854\n
    • \n
\n
\n
\n

☑ Logische drogredenen

\n
\n
\n\n
    \n
  • Controleer op overhaaste generalisaties – Conclusies op basis van te weinig bewijs.\n
    • \n
  • Controleer op valse dilemma's - Opties beperken tot twee terwijl er meer zijn.\n
    • \n
  • Controleer op stromanargumenten - Een standpunt verkeerd voorstellen om het gemakkelijk te weerleggen.\n
    • \n
  • Controleer op beroepen op onwetendheid - Beweren dat iets waar is omdat het niet is weerlegd.\n
    • \n
  • Controleer op beroep op autoriteit - Aannemen dat iets waar is op basis van autoriteit alleen.\n
    • \n
  • Controleer op afleidingsmanoeuvres - Aandacht afleiden van de hoofdkwestie.\n
    • \n
  • Controleer op valse oorzaken - Correlatie verwarren met causaliteit.\n
    • \n
  • Controleer op ad hominem - De persoon aanvallen, niet het argument.\n
    • \n
  • Controleer op ad populum - De waarheid beargumenteren op basis van populariteit.\n
    • \n
  • Controleer op hellend vlakken - Beweren dat één stap tot extremen leidt.\n
    • \n
  • Controleer op cirkelredeneringen - De conclusie als premisse gebruiken.\n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

Desinformatie

\n

Desinformatie is valse of misleidende informatie die opzettelijk wordt gedeeld door mensen die weten dat deze vals is, met de bedoeling schade te berokkenen, te misleiden of te manipuleren. Zowel het besef van de deler dat de informatie vals is als de schadelijke intentie zijn kenmerkende eigenschappen.

\n

Veelvoorkomende vormen zijn onder meer politieke beïnvloedingsoperaties, commerciële misleiding, propaganda, verzonnen inhoud en gemanipuleerde media. Desinformatie wordt vaak geproduceerd door georganiseerde actoren en versterkt door gecoördineerde onechte / kunstmatige versterking (zie hierboven).

\n

Malinformatie

\n

Malinformatie is ware informatie die wordt gedeeld met de bedoeling schade te berokkenen. De inhoud zelf is accuraat, maar de publicatie, de framing of de timing ervan is berekend om een persoon, groep of instelling schade te berokkenen. Het klassieke patroon is het opzettelijk plaatsen van privé-, gevoelige of contextgebonden informatie in een openbare of schadelijke context.

\n

Voorbeelden hiervan zijn de publicatie van gelekte privécommunicatie om een doelwit in diskrediet te brengen, het vrijgeven van accurate maar stigmatiserende persoonlijke gegevens (bijv. wraakporno) en de strategische openbaarmaking van feitelijk correcte maar contextueel schadelijke informatie op momenten die zijn berekend voor maximale impact.

\n

Malinformatie is de minst besproken van de drie categorieën omdat de inhoud niet vals is, waardoor deze buiten de kaders van factchecking valt. Maar het vormt een belangrijk onderdeel van de ecologie van informatieverstoring (Wardle & Derakhshan, 2017).

\n
\n
\n\n

De grenzen zijn poreus. De drie categorieën overlappen elkaar vaak of verschuiven in de praktijk:

\n
    \n
  • Een stukje desinformatie wordt, zodra het wordt gedeeld door mensen die er oprecht in geloven, misinformatie naarmate het zich verder verspreidt. Dezelfde inhoud kan in verschillende categorieën vallen, afhankelijk van wie deze deelt.\n
    • \n
  • Inhoud kan deels waar en deels onwaar zijn. Wardle (2017) noemt zeven vormen van informatieverstoring — waaronder misleidende inhoud, onjuiste context en gemanipuleerde inhoud — niet alle onjuiste inhoud is volledig verzonnen.\n
    • \n
  • Het is empirisch moeilijk om de intentie van buitenaf te bepalen. Zonder toegang tot de kennis en motivatie van degene die de informatie deelt, kan de grens tussen misinformatie en desinformatie vaak niet definitief worden getrokken.\n

    Daarom vraagt het raamwerk aan leerlingen om uit te leggen waarom de grens tussen misinformatie en desinformatie in de praktijk vaak moeilijk te bepalen is.

    \n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

AI-hallucinatie / confabulatie

\n

De systematische neiging van generatieve AI-systemen om aannemelijk klinkende inhoud te produceren die feitelijk onjuist, verzonnen of niet verifieerbaar is — waaronder verzonnen verwijzingen, niet-bestaande studies, verkeerd toegeschreven citaten, verzonnen statistieken en valse biografische, historische of wetenschappelijke details.

\n

Hallucinaties doen zich voor omdat generatieve AI-systemen output produceren door plausibele voortzettingen te voorspellen op basis van patronen die tijdens de training zijn aangeleerd, en niet door geverifieerde informatie uit een kennisbron op te halen. Het systeem optimaliseert voor vloeiendheid en plausibiliteit, niet voor nauwkeurigheid. Verzonnen inhoud wordt doorgaans met hetzelfde vertrouwen gepresenteerd als nauwkeurige inhoud — er is geen intern signaal dat de twee op betrouwbare wijze van elkaar onderscheidt.

\n

In onderzoekscontexten wordt soms de voorkeur gegeven aan de term confabulatie boven hallucinatie, aangezien confabulatie in de psychologie verwijst naar het construeren van valse maar oprecht geloofde verhalen zonder de intentie om te misleiden — wat dichter bij ligt bij wat generatieve systemen daadwerkelijk doen. Hallucinatie blijft de dominante term in het publieke en technische discours en wordt hier gehandhaafd.

\n

Hallucinaties zijn geen incidentele fouten. Ze zijn een structureel kenmerk van het onderliggende generatieproces, geen fouten die betrouwbaar kunnen worden geëlimineerd door betere prompts (Kalai & Vempala, 2024). Ze komen voor in alle generatieve systemen — inclusief ☑ RAG AI, waar verzinsels ook van invloed kunnen zijn op hoe opgehaalde bronnen worden samengevat, geciteerd of toegeschreven.

\n

Didactische positionering: Hallucinaties kunnen conceptueel worden geplaatst als een vierde categorie naast misinformatie, desinformatie en malinformatie. In tegenstelling tot beide worden ze niet geproduceerd door een menselijke bron met opzet of door een fout, maar komen ze voort uit het generatieproces zelf — door het systeem gegenereerde valse inhoud zonder opzettelijke bron. Dit drievoudige onderscheid wordt hier aangeboden als een pedagogisch nuttig kader in plaats van als gevestigde consensusterminologie.

\n

Veelvoorkomende soorten:

\n
    \n
  • verzonnen verwijzingen — citaten uit artikelen, boeken of studies die niet bestaan\n
    • \n
  • verkeerd toegeschreven of verzonnen citaten\n
    • \n
  • verzonnen statistieken of numerieke beweringen\n
    • \n
  • onjuiste biografische, historische of wetenschappelijke details die met overtuiging worden gepresenteerd\n
    • \n
  • met overtuiging gepresenteerde onjuiste samenvattingen van echte bronnen\n
    • \n
\n
\n
\n\n

Behandel elke feitelijke bewering van een generatief AI-systeem als onbevestigd totdat deze is gecontroleerd aan de hand van een onafhankelijke bron. Referenties en citaten zijn bijzonder eenvoudig te verifiëren — zoek of de geciteerde bron bestaat en bevat wat de AI beweerde.

\n
\n
\n
\n
\n\n
    \n
  • \nBender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). Over de gevaren van stochastische papegaaien: kunnen taalmodellen te groot zijn? Verslag van de ACM-conferentie van 2021 over eerlijkheid, verantwoordelijkheid en transparantie (FAccT '21)\n, 610–623. https://doi.org/10.1145/3442188.3445922\n
    • \n
  • \nJi, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Onderzoek naar hallucinaties bij het genereren van natuurlijke taal. ACM Computing Surveys, 55\n(12), Artikel 248. https://doi.org/10.1145/3571730\n
    • \n
  • \nKalai, A. T., & Vempala, S. S. (2024). Gekalibreerde taalmodellen moeten hallucineren. Proceedings of the 56th Annual ACM Symposium on Theory of Computing (STOC 2024)\n, 160–171. https://doi.org/10.1145/3618260.3649777\n
    • \n
  • \nSmith, A. L., Greaves, F., & Panch, T. (2023). Hallucinatie of confabulatie? Neuroanatomie als metafoor in grote taalmodellen. PLOS Digital Health, 2\n(11), e0000388. https://doi.org/10.1371/journal.pdig.0000388\n
    • \n
\n
\n
\n

Onjuiste weergave van inhoud

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
FormaatGemanipuleerdVerzonnen
Tekstecht citaat uit zijn context gehaald, gemanipuleerde kopverzonnen citaat, fictief artikel, door AI gegenereerde tekst
Afbeeldinggeretoucheerde foto, bijgesneden origineelDoor AI gegenereerde afbeelding, geschilderde nep-"foto"
Audiobewerkte of versnelde originele opnamestemkloon, door AI gegenereerde spraak
Videogoedkope nep, opnieuw gemonteerde fragmentenvolledig synthetische deepfake-video
Documentvervalst briefhoofd op aangepast sjabloonverzonnen "officiële" brief
\n

Verzonnen inhoud

\n

Verzonnen inhoud is informatie — tekst, afbeelding, audio, video, document of ander formaat — die volledig is verzonnen, zonder echt bronmateriaal. Deze kan handmatig worden geproduceerd (verzonnen citaten, fictieve nieuwsartikelen) of synthetisch worden gegenereerd door AI-systemen (synthetische video's, stemklonen, door AI gegenereerde afbeeldingen, door AI geschreven tekst).

\n

Gemanipuleerde inhoud

\n

Gemanipuleerde inhoud is echte informatie — tekst, afbeeldingen, audio, video, documenten of andere formaten — die is gewijzigd om te misleiden. Het bronmateriaal is echt, maar het is aangepast door middel van bewerking, selectief bijsnijden, snelheidsaanpassing, hercontextualisering, wijzigingen in de kadrering, stemvervanging of andere transformaties die de betekenis of de schijnbare context ervan veranderen.

\n

Goedkope vervalsing

\n

Een goedkope vervalsing is media die is gewijzigd met behulp van conventionele, algemeen beschikbare tools — beeldbewerkingssoftware, videobewerkingssoftware of eenvoudige hercontextualisering — in plaats van op AI gebaseerde generatieve methoden. De term is bedacht door Paris en Donovan (2019) om de aandacht te vestigen op het feit dat de meest ingrijpende vormen van gemanipuleerde media in het publieke discours doorgaans geen geavanceerde, door AI gegenereerde deepfakes zijn, maar eenvoudige, goedkope technieken die iedereen kan toepassen.

\n

Veelvoorkomende technieken voor goedkope vervalsingen zijn onder meer:

\n
    \n
  • snelheidsmanipulatie (bijv. de vertraagde Pelosi-video, 2019)\n
    • \n
  • hermontage en selectieve bewerking van audio of video\n
    • \n
  • hercontextualisering (echte media gepresenteerd met een vals bijschrift of in een valse context)\n
    • \n
  • fotoretouchering, bijsnijden of compositie\n
    • \n
  • verwisselde bijschriften en gemanipuleerde screenshots\n
    • \n
  • het samenvoegen van audio\n
    • \n
\n

Of een goedkope vervalsing misinformatie, desinformatie of malinformatie is, hangt af van de kennis en intentie van de maker (→ Informatieverstoring), niet van de techniek zelf. Dezelfde bewerkte video kan dienen voor satire, fictie, educatie of misleiding.

\n

In vergelijking met deepfakes vereisen goedkope vervalsingen minder technische vaardigheid, maar zijn ze niet noodzakelijkerwijs gemakkelijker te detecteren — goed uitgevoerde hercontextualisering of selectieve bewerking kan uiterst moeilijk te identificeren zijn zonder toegang tot het originele bronmateriaal.

\n
\n
\n\n
\n
\n
\n
\n
\n\n

Verificatietools voor goedkope vervalsingen:

\n
\n
\n
\n

Deep Fake

\n

Deep Fake

\n

Een deepfake is synthetische media die wordt gegenereerd door kunstmatige intelligentie — met name met behulp van deep learning-technieken zoals generative adversarial networks (GAN's), diffusiemodellen of op transformatoren gebaseerde generatoren. De term is een samentrekking van deep learning en fake, en is in 2017 ontstaan in online communities die door AI gegenereerde video's met gezichtsverwisselingen produceerden. De technologie heeft zich sindsdien over verschillende mediatypen verspreid en is nu breed toegankelijk via tools voor consumenten.

\n

Veelvoorkomende vormen zijn onder meer:

\n
    \n
  • Gezichtswisselingen: het vervangen van het gezicht van de ene persoon door dat van een ander in een video\n
    • \n
  • Stemklonen: het synthetiseren van de stem van een spreker op basis van een klein geluidsfragment\n
    • \n
  • Volledig synthetische video: door AI gegenereerde beelden van mensen, gebeurtenissen of scènes die nooit hebben plaatsgevonden\n
    • \n
  • Synthetische fotografie: door AI gegenereerde stilstaande beelden van fictieve personen of gebeurtenissen\n
    • \n
  • Tekst-naar-video en tekst-naar-audio: het genereren van media op basis van geschreven prompts\n
    • \n
\n

Of een deepfake misinformatie, desinformatie of malinformatie is, hangt af van de kennis en intentie van de maker (→ Informatieverstoring), niet van de techniek zelf. Deepfake-methoden worden ook legitiem gebruikt in filmproductie, hulpmiddelen voor toegankelijkheid (synthetische stemmen voor mensen die hun stem zijn kwijtgeraakt), nasynchronisatie, satire, onderwijs en de kunsten.

\n

In vergelijking met cheap fakes vereisen deep fakes meer technische capaciteit om overtuigend te produceren en kunnen ze een hoger visueel of auditief realisme bereiken. Ze zijn echter niet de dominante vorm van mediamanipulatie in het publieke discours — Paris en Donovan (2019) merken op dat eenvoudigere cheap-fake-technieken vaker voorkomen en vaak meer gevolgen hebben. Detectie is een actief onderzoeksgebied; huidige benaderingen combineren artefactanalyse, controles op biologische inconsistenties en verificatie van de herkomst (bijv. C2PA-contentcredentials).

\n
\n
\n\n
    \n
  • \nParis, B., & Donovan, J. (2019). Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence\n. Data & Society Research Institute.https://datasociety.net/library/deepfakes-and-cheap-fakes/\n
    • \n
  • Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review, 107(6), 1753–1820.\n
    • \n
  • \nVaccari, C., & Chadwick, A. (2020). Deepfakes en desinformatie: Onderzoek naar de impact van synthetische politieke video's op misleiding, onzekerheid en vertrouwen in het nieuws. Social Media + Society\n, 6(1), 1–13. https://doi.org/10.1177/2056305120903408\n
    • \n
\n
\n
\n
\n
\n\n

Tools voor het verifiëren van deepfakes:

\n
\n
\n
","UPDATEDAT":"2026-05-11T20:49:09.513Z","LANG":"nl","ID":"3a2e66d9-94a9-482d-a20b-3c977e896fa3","TITLE":"Desinformatie en manipulatie","SOURCELANG":"en"}