{"CACHEDAT":"2026-05-18 11:01:05","TRANSLATEDAT":"2026-05-18 11:01:05","SOURCESIGNATURE":"d992dbf82b8df3c3d6751f81da4e28e2e38e582e6600bbae60b4b53d656488d1","SLUG":"misinformation-manipulation-zXQJASygMf","MARKDOWN":"# Information Disorder\n\nWardle & Derakhshan (2017), in a foundational report for the Council of Europe, introduce *Information Disorder* as the umbrella term for false, misleading, or harmfully shared information in the public information environment. They distinguish three categories along two axes: whether the content is *false* or *true*, and whether it is shared with *intent to harm*.\n\n| Type | Content | Sharer's knowledge of falseness | Intent to harm |\n|------|---------|---------------------------------|----------------|\n| **Misinformation** | false or misleading | does not know | no |\n| **Disinformation** | false or misleading | knows | yes |\n| **Malinformation** | true | (not the criterion) | yes |\n\nThe three categories form an interconnected ecology: the same content item can move between them depending on who shares it and with what intent.\n\n### Fake News\n\nThe term *fake news* is widely used in public debate but analytically imprecise. It usually refers to false or misleading information presented in the style of news reporting. However, because the term can refer to different types of information disorder and is often used politically to discredit unwanted reporting, more precise terms such as *misinformation*, *disinformation*, *fabricated content*, *false context*, or *manipulated content* should be preferred.\n\n## Misinformation\n\nMisinformation is false or misleading information shared by people who do not realise it is false. The sharer believes the content is accurate; there is no intent to deceive or harm.\n\nMisinformation typically arises in fast-moving news situations (early reports with unconfirmed details), in passing along claims without checking accuracy, and in repeating information from trusted sources that turn out to be wrong. It can be as widespread and consequential as disinformation, despite the absence of malicious intent — its sharers are often genuinely motivated and trusted within their networks, which gives the content reach and perceived credibility (Lewandowsky et al., 2017).\n\n### Misinformation Susceptibility Factors\n\n\n:::success\n**1. Cognitive factors** — how information is processed\n\n* **Confirmation bias**: People pay more attention to information that supports what they already believe, and scrutinise opposing information more harshly. — Nickerson (1998)\n* **Illusory truth effect**: Claims can feel more believable simply because people have seen them before, even when they are false. — Unkelbach et al. (2019)\n* **Processing fluency**: Information that is easy to read, familiar in wording, or visually clear feels more trustworthy than information that is harder to process. — Reber & Schwarz (1999)\n* **Low cognitive reflection**: People who rely on quick, intuitive judgements rather than pausing to check are more likely to fall for false claims. — Pennycook & Rand (2019)\n* **Bullshit receptivity**: Some people are inclined to find vague but impressive-sounding statements meaningful, even when they are empty. — Pennycook et al. (2015)\n* **Low numeracy / scientific literacy**: People may struggle to evaluate statistics, graphs, risk statements, or scientific evidence; education alone is no automatic protection. — Kahan et al. (2017)\n\n**2. Affective / motivational factors** — how emotions and identity shape judgement\n\n* **Emotional reasoning / reliance on emotion**: People accept claims because they feel right, frightening, satisfying, or morally urgent, rather than because they have been checked. — Martel, Pennycook & Rand (2020)\n* **Specific emotions** (anger, fear, moral outrage): Strong emotions can lead people to react quickly and share before checking; moral-emotional language is especially powerful in spreading political content. (Belief and sharing are distinct effects with different evidence.) — Brady et al. (2017); Martel et al. (2020)\n* **Identity-protective cognition**: People process information in ways that protect their political, religious, or group identity, and resist evidence that would threaten it. (Closely linked to *political identity* in category 5.) — Kahan (2013, 2017)\n* **Conspiracy mindset**: A general tendency to suspect hidden plots or powerful actors behind events makes conspiracy-style misinformation more plausible. — Douglas, Sutton & Cichocka (2017)\n\n**3. Social factors** — whom and which groups people trust\n\n* **Source credibility / trust in the sender**: How believable a claim feels depends on who appears to be saying it — a friend, an influencer, an expert, a politician, a news outlet, or an anonymous account. — Traberg & van der Linden (2022)\n* **Social proof / popularity cues**: Likes, shares, views, and comments can act as credibility cues, although the effect depends on context. — Avram et al. (2020)\n* **In-group / partisan congruency**: Information from \"people like us\", or aligned with a group's position, is accepted more easily. (Closely linked to *political identity* in category 5.) — Sultan et al. (2024)\n* **Network homophily / echo chambers**: When people mostly encounter information through networks of similar others, certain views appear more widely shared than they really are. (See also D1G5.) — Cinelli et al. (2021)\n\n**4. Contextual / situational factors** — the conditions under which people meet information\n\n* **Time pressure**: When people have to judge information quickly, they distinguish true from false claims less accurately. — Sultan et al. (2022)\n* **Information overload**: When too much information arrives at once, people fall back on shortcuts like headlines, emotion, source labels, or popularity. — Laato et al. (2020)\n* **Distraction / cognitive load**: When attention is drawn elsewhere, people may share without checking accuracy, even if they could otherwise recognise the misinformation. — Pennycook et al. (2020)\n* **Crisis / uncertainty contexts** (pandemics, war, disasters): Urgent need for explanation increases openness to false or premature claims. — Roozenbeek et al. (2020)\n* **Platform design**: Feeds, notifications, recommendation systems, autoplay, and fast scrolling encourage reactive rather than reflective behaviour. (See also D1G1.) — Lorenz-Spreen et al. (2020)\n\n**5. Background and dispositional factors** — who may be more or less vulnerable in specific contexts\n\n* **Age**: Older adults sometimes distinguish true from false headlines better in studies, but share misinformation more often online. — Guess, Nagler & Tucker (2019)\n* **Education**: Not an automatic shield; meta-analyses show no simple effect on misinformation discrimination. — Sultan et al. (2024)\n* **Political identity and prior beliefs**: Shape which information feels plausible, threatening, trustworthy, or worth sharing. (Operates via identity-protective cognition in category 2 and in-group cues in category 3 — not purely a demographic variable.) — Sultan et al. (2024)\n* **Media literacy habits**: People who compare sources, read beyond headlines, and recognise manipulation techniques rely less on emotional or social shortcuts. *(Note: this is the learning goal of SciLMi itself — listed here as a documented protective disposition, not as a prerequisite.)* — Guess et al. (2020)\n\n:::\n\n\n:::info\n* Avram, M., Micallef, N., Patil, S., & Menczer, F. (2020). Exposure to social engagement metrics increases vulnerability to misinformation. *Harvard Kennedy School (HKS) Misinformation Review*, *1*(5). \n* Brady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Emotion shapes the diffusion of moralized content in social networks. *Proceedings of the National Academy of Sciences*, *114*(28), 7313–7318. \n* Cinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). The echo chamber effect on social media. *Proceedings of the National Academy of Sciences*, *118*(9), e2023301118. \n* Douglas, K. M., Sutton, R. M., & Cichocka, A. (2017). The psychology of conspiracy theories. *Current Directions in Psychological Science*, *26*(6), 538–542. \n* Guess, A., Nagler, J., & Tucker, J. (2019). Less than you think: Prevalence and predictors of fake news dissemination on Facebook. *Science Advances*, *5*(1), eaau4586. \n* Jones-Jang, S. M., Mortensen, T., & Liu, J. (2021). Does media literacy help identification of fake news? Information literacy helps, but other literacies don't. *American Behavioral Scientist*, *65*(2), 371–388. \n* Kahan, D. M. (2013). Ideology, motivated reasoning, and cognitive reflection. *Judgment and Decision Making*, *8*(4), 407–424.\n* Kahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Motivated numeracy and enlightened self-government. *Behavioural Public Policy*, *1*(1), 54–86. \n* Laato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). What drives unverified information sharing and cyberchondria during the COVID-19 pandemic? *European Journal of Information Systems*, *29*(3), 288–305. \n* Lorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). How behavioural sciences can promote truth, autonomy and democratic discourse online. *Nature Human Behaviour*, *4*(11), 1102–1109. \n* Martel, C., Pennycook, G., & Rand, D. G. (2020). Reliance on emotion promotes belief in fake news. *Cognitive Research: Principles and Implications*, *5*(1), 47. \n* Nickerson, R. S. (1998). Confirmation bias: A ubiquitous phenomenon in many guises. *Review of General Psychology*, *2*(2), 175–220. \n* Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). On the reception and detection of pseudo-profound bullshit. *Judgment and Decision Making*, *10*(6), 549–563.\n* Pennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). Fighting COVID-19 misinformation on social media: Experimental evidence for a scalable accuracy-nudge intervention. *Psychological Science*, *31*(7), 770–780. \n* Pennycook, G., & Rand, D. G. (2019). Lazy, not biased: Susceptibility to partisan fake news is better explained by lack of reasoning than by motivated reasoning. *Cognition*, *188*, 39–50. \n* Reber, R., & Schwarz, N. (1999). Effects of perceptual fluency on judgments of truth. *Consciousness and Cognition*, *8*(3), 338–342. \n* Roozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). Susceptibility to misinformation about COVID-19 around the world. *Royal Society Open Science*, *7*(10), 201199. \n* Sultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). Time pressure reduces misinformation discrimination ability but does not alter response bias. *Scientific Reports*, *12*(1), 22416. \n* Sultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Susceptibility to online misinformation: A systematic meta-analysis of demographic and psychological factors. *Proceedings of the National Academy of Sciences*, *121*(47), e2409329121. \n* Traberg, C. S., & van der Linden, S. (2022). Birds of a feather are persuaded together: Perceived source credibility mediates the effect of political bias on misinformation susceptibility. *Personality and Individual Differences*, *185*, 111269. \n* Unkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). Truth by repetition: Explanations and implications. *Current Directions in Psychological Science*, *28*(3), 247–253. \n\n:::\n\n### ☑ Logical Fallacies\n\n\n:::success\n- [ ] Check for hasty generalisations - Conclusion from too little evidence.\n- [ ] Check for false dilemmas - Limiting options to two when more exist.\n- [ ] Check for straw man arguments - Misrepresenting a position to refute it easily.\n- [ ] Check for appeals to ignorance - Claiming truth due to lack of disproof.\n- [ ] Check for appeals to authority - Assuming truth based on authority alone.\n- [ ] Check for red herrings - Distracting from the main issue.\n- [ ] Check for false causes - Confusing correlation with causation.\n- [ ] Check for ad hominem - Attacking the person, not the argument. \n- [ ] Check for ad populum - Arguing truth from popularity.\n- [ ] Check for slippery slopes - Asserting one step leads to extremes.\n- [ ] Check for circular reasoning - Using the conclusion as a premise.\n\n:::\n\n\n:::tip\n* \n* \n* \n\n:::\n\n## Disinformation\n\nDisinformation is false or misleading information shared deliberately, by people who know it is false, with the intent to harm, deceive, or manipulate. Both the sharer's awareness of the falseness and the harmful intent are definitional features.\n\nCommon forms include political influence operations, commercial deception, propaganda, fabricated content, and manipulated media. Disinformation is often produced by organised actors and amplified through *Coordinated Inauthentic / Artificial Amplification* (above).\n\n## Malinformation\n\nMalinformation is *true* information shared with intent to harm. The content itself is accurate, but its release, framing, or timing is calculated to damage a person, group, or institution. The classical pattern is the deliberate movement of private, sensitive, or context-bound information into a public or harmful context.\n\nExamples include the publication of leaked private communications to discredit a target, the release of accurate but stigmatising personal data (e.g. revenge porn), and the strategic disclosure of factually correct but contextually damaging information at moments calculated for maximum impact.\n\nMalinformation is the least-discussed of the three categories because the content is not false, which places it outside fact-checking frameworks. But it forms a significant part of the information-disorder ecology (Wardle & Derakhshan, 2017).\n\n\n:::warning\n**The boundaries are porous.**\n\nThe three categories often overlap or shift in practice:\n\n* A piece of *disinformation*, once shared by people who genuinely believe it, becomes *misinformation* as it spreads further. The same content can sit in different categories depending on who shares it.\n* Content can be partly true and partly false. Wardle (2017) lists seven forms within information disorder — including *misleading content*, *false context*, and *manipulated content* — not all false content is fully fabricated.\n* Determining intent from outside is empirically hard. Without access to the sharer's knowledge state and motivation, the line between misinformation and disinformation often cannot be drawn definitively.\n\nThis is why the framework asks learners to *explain why the boundary between misinformation and disinformation is often difficult to determine in practice*.\n\n:::\n\n\n:::info\n* Wardle, C., & Derakhshan, H. (2017). *Information Disorder: Toward an interdisciplinary framework for research and policy making*. Council of Europe Report DGI(2017)09. \n* Wardle, C. (2017). Fake news. It's complicated. *First Draft News*. \n* Lewandowsky, S., Ecker, U. K. H., & Cook, J. (2017). Beyond misinformation: Understanding and coping with the \"post-truth\" era. *Journal of Applied Research in Memory and Cognition*, 6(4), 353–369. \n* Vraga, E. K., & Bode, L. (2020). Defining misinformation and understanding its bounded nature. *Political Communication*, 37(1), 136–144. \n\n:::\n\n# AI Hallucination / Confabulation\n\nThe systematic tendency of generative AI systems to produce plausible-sounding content that is factually incorrect, fabricated, or unverifiable — including invented references, non-existent studies, misattributed quotations, made-up statistics, and false biographical, historical, or scientific details.\n\nHallucinations occur because generative AI systems produce output by predicting plausible continuations from patterns learned during training, not by retrieving verified information from a knowledge source. The system optimises for fluency and plausibility, not for accuracy. Fabricated content is typically presented with the same confidence as accurate content — there is no internal signal that reliably distinguishes the two.\n\nThe term **confabulation** is sometimes preferred over **hallucination** in research contexts, since confabulation in psychology denotes the construction of false but sincerely believed accounts without intent to deceive — closer to what generative systems actually do. *Hallucination* remains the dominant term in public and technical discourse and is retained here.\n\n**Hallucinations are not occasional bugs.** They are a structural feature of the underlying generation process, not errors that can be reliably eliminated through better prompting (Kalai & Vempala, 2024). They occur across all generative systems — including ☑ RAG AI, where fabrication can also affect how retrieved sources are summarised, quoted, or attributed.\n\n**Didactic positioning:** Hallucinations can be located conceptually as a forth category alongside *misinformation, disinformation*, and *malinformation*. Unlike both, they are not produced by a human source with intent or error in mind, but emerge from the generation process itself — system-generated false content without an intentional source. This three-way distinction is offered here as a pedagogically useful framing rather than as established consensus terminology.\n\n**Common types:**\n\n* fabricated references — citations to articles, books, or studies that do not exist\n* misattributed or fabricated quotations\n* invented statistics or numerical claims\n* inaccurate biographical, historical, or scientific details presented confidently\n* confidently incorrect summaries of real sources\n\n\n:::tip\nTreat any factual claim from a generative AI system as unverified until checked against an independent source. References and quotations are particularly easy to verify — search whether the cited source exists and contains what the AI claimed.\n\n:::\n\n\n:::info\n* Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? *Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21)*, 610–623. \n* Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. *ACM Computing Surveys, 55*(12), Article 248. \n* Kalai, A. T., & Vempala, S. S. (2024). Calibrated language models must hallucinate. *Proceedings of the 56th Annual ACM Symposium on Theory of Computing (STOC 2024)*, 160–171. \n* Smith, A. L., Greaves, F., & Panch, T. (2023). Hallucination or confabulation? Neuroanatomy as metaphor in large language models. *PLOS Digital Health, 2*(11), e0000388. \n\n:::\n\n# Content Misrepresentation\n\n| Format | Manipulated | Fabricated |\n|--------|-------------|------------|\n| Text | genuine quote stripped of context, doctored headline | invented quote, fictional article, AI-generated text |\n| Image | retouched photograph, cropped original | AI-generated image, painted fake \"photograph\" |\n| Audio | edited or sped-up original recording | voice clone, AI-generated speech |\n| Video | cheap fake, recut clips | fully synthetic deepfake video |\n| Document | forged letterhead on modified template | invented \"official\" letter |\n\n## Fabricated Content\n\n**Fabricated content** is information — text, image, audio, video, document, or other format — that has been entirely invented, with no genuine source material. It may be produced manually (invented quotes, fictional news articles) or generated synthetically by AI systems (synthetic videos, voice clones, AI-generated images, AI-written text).\n\n## Manipulated Content\n\n**Manipulated content** is geniune information — text, image, audio, video, document, or other format — that has been altered to deceive. The source material is real, but it is modified through editing, selective cropping, speed adjustment, recontextualisation, framing changes, voice substitution, or other transformations that change its meaning or apparent context.\n\n### Cheap Fake\n\nA **cheap fake** is media that has been altered using conventional, widely available tools — image editing software, video editing software, or basic recontextualisation — rather than AI-based generative methods. The term was coined by Paris and Donovan (2019) to draw attention to the fact that the most consequential forms of manipulated media in public discourse are typically not sophisticated AI-generated deepfakes, but simple, low-cost techniques that anyone can apply.\n\nCommon cheap fake techniques include:\n\n* speed manipulation (e.g. the slowed-down Pelosi video, 2019)\n* recutting and selective editing of audio or video\n* recontextualisation (real media presented with a false caption or framing)\n* photo retouching, cropping, or compositing\n* swapped captions and doctored screenshots\n* audio splicing\n\nWhether a cheap fake constitutes *Misinformation*, *Disinformation*, or *Malinformation* depends on the actor's knowledge and intent (→ *Information Disorder*), not on the technique itself. The same edited video can serve satire, fiction, education, or deception.\n\nCompared with *Deep Fakes*, cheap fakes require less technical skill but are not necessarily easier to detect — well-executed recontextualisation or selective editing can be extremely difficult to identify without access to the original source material.\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence*. Data & Society Research Institute. \n\n:::\n\n\n:::tip\nCheap Fake Verification Tools: \n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n### Deep Fake\n\n### Deep Fake\n\nA **deep fake** is synthetic media generated by artificial intelligence — specifically using deep learning techniques such as generative adversarial networks (GANs), diffusion models, or transformer-based generators. The term is a portmanteau of *deep learning* and *fake*, originating in 2017 in online communities producing AI-generated face-swap videos. The technology has since expanded across media types and is now broadly accessible through consumer-level tools.\n\nCommon forms include:\n\n* **Face swaps**: replacing one person's face with another's in video\n* **Voice cloning**: synthesising a speaker's voice from a small audio sample\n* **Full synthetic video**: AI-generated footage showing people, events, or scenes that never occurred\n* **Synthetic photography**: AI-generated still images of fictional people or events\n* **Text-to-video and text-to-audio**: generating media from written prompts\n\nWhether a deep fake constitutes *Misinformation*, *Disinformation*, or *Malinformation* depends on the actor's knowledge and intent (→ *Information Disorder*), not on the technique itself. Deep fake methods are also used legitimately in film production, accessibility tools (synthetic voices for people who have lost theirs), language dubbing, satire, education, and the arts.\n\nCompared with *Cheap Fakes*, deep fakes require more technical capacity to produce convincingly and can achieve higher visual or auditory realism. They are not, however, the dominant form of media manipulation in public discourse — Paris and Donovan (2019) note that simpler cheap-fake techniques remain more common and often more consequential. Detection is an active research area; current approaches combine artefact analysis, biological inconsistency checks, and provenance verification (e.g. C2PA content credentials).\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence*. Data & Society Research Institute. \n* Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. *California Law Review*, 107(6), 1753–1820.\n* Vaccari, C., & Chadwick, A. (2020). Deepfakes and disinformation: Exploring the impact of synthetic political video on deception, uncertainty, and trust in news. *Social Media + Society*, 6(1), 1–13. \n\n:::\n\n\n:::tip\nDeep Fake Verification Tools: \n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n\n##","HTML":"

Tiedon väärinkäyttö

\n

Wardle & Derakhshan (2017) esittävät Euroopan neuvoston perustavassa raportissa käsitteen ”tietohäiriö” kattoterminä, joka viittaa julkisen tiedotusympäristön vääriin, harhaanjohtaviin tai haitallisella tarkoituksella jaetuille tiedoille. He erottelevat kolme luokkaa kahden akselin perusteella: onko sisältö väärää vai totta, ja jaetaanko sitä haitallisella tarkoituksella.

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
TyyppiSisältöJakajan tieto väärästä sisällöstäHaitan aiheuttamisen tarkoitus
Väärä tietoväärä tai harhaanjohtavaei tiedäei
Disinformaatioväärä tai harhaanjohtavatietääkyllä
Väärä tietotosi(ei kriteeri)kyllä
\n

Nämä kolme luokkaa muodostavat toisiinsa liittyvän ekosysteemin: sama sisältökohde voi liikkua niiden välillä riippuen siitä, kuka sen jakaa ja millä tarkoituksella.

\n

Vääriä uutisia

\n

Termiä valeuutiset käytetään laajasti julkisessa keskustelussa, mutta se on analyyttisesti epätarkka. Se viittaa yleensä vääriin tai harhaanjohtaviin tietoihin, jotka esitetään uutisraportoinnin tyylillä. Koska termi voi kuitenkin viitata erilaisiin tiedonhäiriöihin ja sitä käytetään usein poliittisesti epätoivottujen uutisten diskreditoimiseen, olisi suositeltavaa käyttää tarkempia termejä, kuten väärä tieto, disinformaatio, keksitty sisältö, väärä konteksti tai manipuloitu sisältö.

\n

Väärätiedot

\n

Väärätiedot ovat vääriä tai harhaanjohtavia tietoja, joita jakavat ihmiset, jotka eivät ymmärrä niiden olevan vääriä. Jakaja uskoo sisällön olevan paikkansapitävää; tarkoituksena ei ole pettää tai vahingoittaa.

\n

Väärää tietoa syntyy tyypillisesti nopeasti muuttuvissa uutistilanteissa (alustavat raportit, joiden yksityiskohdat ovat vahvistamattomia), kun väitteitä välitetään tarkistamatta niiden paikkansapitävyyttä, sekä toistettaessa luotettavista lähteistä peräisin olevaa tietoa, joka osoittautuu vääräksi. Se voi olla yhtä laajalle levinnyttä ja merkittävää kuin disinformaatio, vaikka pahantahtoisuutta ei olisikaan – sen jakajat ovat usein aidosti motivoituneita ja luotettuja verkostoissaan, mikä antaa sisällölle näkyvyyttä ja näennäistä uskottavuutta (Lewandowsky ym., 2017).

\n

Väärän tiedon alttiustekijät

\n
\n
\n\n

1. Kognitiiviset tekijät – miten tietoa käsitellään

\n
    \n
  • Vahvistusvinouma: Ihmiset kiinnittävät enemmän huomiota tietoon, joka tukee heidän olemassa olevia uskomuksiaan, ja tarkastelevat vastakkaista tietoa kriittisemmin. — Nickerson (1998)\n
    • \n
  • Illusorisen totuuden vaikutus: Väitteet voivat tuntua uskottavammilta yksinkertaisesti siksi, että ihmiset ovat nähneet ne aiemmin, vaikka ne olisivatkin vääriä. — Unkelbach ym. (2019)\n
    • \n
  • Käsittelyn sujuvuus: Tiedot, jotka ovat helppolukuisia, sanamuodoltaan tuttuja tai visuaalisesti selkeitä, tuntuvat luotettavammilta kuin tiedot, joita on vaikeampi käsitellä. — Reber & Schwarz (1999)\n
    • \n
  • Heikko kognitiivinen pohdinta: Ihmiset, jotka luottavat nopeisiin, intuitiivisiin arvioihin sen sijaan, että pysähtyisivät tarkistamaan asioita, ovat alttiimpia uskomaan vääriä väitteitä. — Pennycook & Rand (2019)\n
    • \n
  • Höpötyksen vastaanottavaisuus: Jotkut ihmiset ovat taipuvaisia pitämään epämääräisiä mutta vaikuttavalta kuulostavia lausuntoja merkityksellisinä, vaikka ne olisivatkin tyhjiä. — Pennycook ym. (2015)\n
    • \n
  • Heikko laskutaito / tieteellinen lukutaito: Ihmisillä voi olla vaikeuksia arvioida tilastoja, kaavioita, riskilausuntoja tai tieteellistä näyttöä; koulutus yksinään ei ole automaattinen suoja. — Kahan et al. (2017)\n

    2. Affektiiviset / motivaatiotekijät — miten tunteet ja identiteetti muovaavat arviointia

    \n
    • \n
  • Tunteellinen päättely / tunteisiin luottaminen: Ihmiset hyväksyvät väitteitä, koska ne tuntuvat oikeilta, pelottavilta, tyydyttäviltä tai moraalisesti kiireellisiltä, eivätkä siksi, että ne olisi tarkistettu. — Martel, Pennycook & Rand (2020)\n
    • \n
  • Erityiset tunteet (viha, pelko, moraalinen suuttumus): Voimakkaat tunteet voivat saada ihmiset reagoimaan nopeasti ja jakamaan tietoa ennen sen tarkistamista; moraalis-emotionaalinen kieli on erityisen voimakas poliittisen sisällön levittämisessä. (Usko ja jakaminen ovat erillisiä vaikutuksia, joilla on erilaiset todisteet.) — Brady ym. (2017); Martel ym. (2020)\n
    • \n
  • Identiteettiä suojaava kognitio: Ihmiset käsittelevät tietoa tavalla, joka suojaa heidän poliittista, uskonnollista tai ryhmäidentiteettiään, ja vastustavat todisteita, jotka uhkaisivat sitä. (Liittyy läheisesti kategoriassa 5 mainittuun poliittiseen identiteettiin.) — Kahan (2013, 2017)\n
    • \n
  • Salaliittomielisyys: Yleinen taipumus epäillä tapahtumien takana olevia salaisia juonia tai vaikutusvaltaisia toimijoita tekee salaliittotyyppisestä väärästä tiedosta uskottavampaa. — Douglas, Sutton & Cichocka (2017)\n

    3. Sosiaaliset tekijät — kehen ja mihin ryhmiin ihmiset luottavat

    \n
    • \n
  • Lähteen uskottavuus / luottamus lähettäjään: Se, kuinka uskottavalta väite tuntuu, riippuu siitä, kuka sen esittää — ystävä, vaikuttaja, asiantuntija, poliitikko, uutistoimisto vai nimetön tili. — Traberg & van der Linden (2022)\n
    • \n
  • Sosiaalinen todiste / suosion merkit: Tykkäykset, jakamiset, katselukerrat ja kommentit voivat toimia uskottavuuden merkeinä, vaikka vaikutus riippuu kontekstista. — Avram et al. (2020)\n
    • \n
  • Ryhmän sisäinen / puolueellinen yhdenmukaisuus: Tiedot, jotka tulevat ”meidän kaltaisilta ihmisiltä” tai jotka ovat yhdenmukaisia ryhmän kannan kanssa, hyväksytään helpommin. (Liittyy läheisesti poliittiseen identiteettiin kategoriassa 5.) — Sultan et al. (2024)\n
    • \n
  • Verkoston homofilia / kaikukammiot: Kun ihmiset kohtaavat tietoa pääasiassa samanlaisten ihmisten verkostojen kautta, tietyt näkemykset vaikuttavat laajemmin jaetuilta kuin ne todellisuudessa ovat. (Katso myös D1G5.) — Cinelli ym. (2021)\n

    4. Kontekstuaaliset / tilanteelliset tekijät — olosuhteet, joissa ihmiset kohtaavat tietoa

    \n
    • \n
  • Aikapaine: Kun ihmisten on arvioitava tietoa nopeasti, he erottavat totuuden ja valheen vähemmän tarkasti. — Sultan ym. (2022)\n
    • \n
  • Tietotulva: Kun tietoa saapuu liian paljon kerralla, ihmiset turvautuvat oikoteihin, kuten otsikoihin, tunteisiin, lähdemerkintöihin tai suosioon. — Laato ym. (2020)\n
    • \n
  • Häiriötekijät / kognitiivinen kuormitus: Kun huomio kiinnittyy muualle, ihmiset saattavat jakaa tietoa tarkistamatta sen paikkansapitävyyttä, vaikka muuten pystyisivätkin tunnistamaan väärän tiedon. — Pennycook ym. (2020)\n
    • \n
  • Kriisi- ja epävarmuustilanteet (pandemiat, sota, katastrofit): Kiireellinen selitystarve lisää alttiutta uskoa vääriä tai ennenaikaisia väitteitä. — Roozenbeek ym. (2020)\n
    • \n
  • Alustan suunnittelu: Syötteet, ilmoitukset, suosittelujärjestelmät, automaattinen toisto ja nopea vieritys kannustavat reagoivaan käyttäytymiseen pohdiskelevan sijaan. (Katso myös D1G1.) — Lorenz-Spreen ym. (2020)\n

    5. Taustatekijät ja luonteenpiirteet — ketkä voivat olla enemmän tai vähemmän alttiita tietyissä tilanteissa

    \n
    • \n
  • Ikä: Ikääntyneet aikuiset erottavat tutkimuksissa toisinaan paremmin totta ja valhetta otsikoista, mutta jakavat väärää tietoa verkossa useammin. — Guess, Nagler & Tucker (2019)\n
    • \n
  • Koulutus: Ei automaattinen suojakeino; meta-analyysit eivät osoita yksinkertaista vaikutusta väärän tiedon erotteluun. — Sultan ym. (2024)\n
    • \n
  • Poliittinen identiteetti ja aiemmat uskomukset: Vaikuttavat siihen, mikä tieto tuntuu uskottavalta, uhkaavalta, luotettavalta tai jakamisen arvoiselta. (Toimii identiteettiä suojaavan kognition kautta kategoriassa 2 ja ryhmään kuuluvuuden vihjeiden kautta kategoriassa 3 — ei puhtaasti demografinen muuttuja.) — Sultan ym. (2024)\n
    • \n
  • Mediataitojen tavat: Ihmiset, jotka vertailevat lähteitä, lukevat otsikoiden taakse ja tunnistavat manipulointitekniikoita, luottavat vähemmän emotionaalisiin tai sosiaalisiin oikoteihin. (Huomautus: tämä on SciLMi:n oma oppimistavoite — lueteltu tässä dokumentoituna suojaavana taipumuksena, ei ennakkoedellytyksenä.) — Guess ym. (2020)\n
    • \n
\n
\n
\n
\n
\n\n
    \n
  • \nAvram, M., Micallef, N., Patil, S., & Menczer, F. (2020). Altistuminen sosiaalisen sitoutumisen mittareille lisää alttiutta väärälle tiedolle. Harvard Kennedy School (HKS) Misinformation Review\n, 1\n(5). https://doi.org/10.37016/mr-2020-033\n
    • \n
  • \nBrady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Tunteet muokkaavat moraalisen sisällön leviämistä sosiaalisissa verkostoissa. Proceedings of the National Academy of Sciences\n, 114\n(28), 7313–7318. https://doi.org/10.1073/pnas.1618923114\n
    • \n
  • \nCinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). Kaikuva vaikutus sosiaalisessa mediassa. Proceedings of the National Academy of Sciences\n, 118\n(9), e2023301118. https://doi.org/10.1073/pnas.2023301118\n
    • \n
  • \nDouglas, K. M., Sutton, R. M., & Cichocka, A. (2017). Salaliittoteorioiden psykologia. Current Directions in Psychological Science\n, 26\n(6), 538–542. https://doi.org/10.1177/0963721417718261\n
    • \n
  • \nGuess, A., Nagler, J., & Tucker, J. (2019). Vähemmän kuin luulet: Väärennettyjen uutisten levittämisen yleisyys ja ennustavat tekijät Facebookissa. Science Advances\n, 5\n(1), eaau4586. https://doi.org/10.1126/sciadv.aau4586\n
    • \n
  • \nJones-Jang, S. M., Mortensen, T., & Liu, J. (2021). Auttaako medialukutaito tunnistamaan valeuutisia? Tietolukutaito auttaa, mutta muut lukutaidot eivät. American Behavioral Scientist\n, 65\n(2), 371–388. https://doi.org/10.1177/0002764219869406\n
    • \n
  • Kahan, D. M. (2013). Ideologia, motivoitunut päättely ja kognitiivinen pohdinta. Judgment and Decision Making, 8(4), 407–424.\n
    • \n
  • \nKahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Motivoitunut laskutaito ja valistunut itsehallinto. Behavioural Public Policy\n, 1\n(1), 54–86. https://doi.org/10.1017/bpp.2016.2\n
    • \n
  • \nLaato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). Mikä ajaa vahvistamattomien tietojen jakamista ja kyberkondriaa COVID-19-pandemian aikana? European Journal of Information Systems\n, 29\n(3), 288–305. https://doi.org/10.1080/0960085X.2020.1770632\n
    • \n
  • \nLorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). Kuinka käyttäytymistieteet voivat edistää totuutta, autonomiaa ja demokraattista keskustelua verkossa. Nature Human Behaviour\n, 4\n(11), 1102–1109. https://doi.org/10.1038/s41562-020-0889-7\n
    • \n
  • \nMartel, C., Pennycook, G., & Rand, D. G. (2020). Tunteisiin tukeutuminen edistää uskoa valeuutisiin. Cognitive Research: Principles and Implications\n, 5\n(1), 47. https://doi.org/10.1186/s41235-020-00252-3\n
    • \n
  • \nNickerson, R. S. (1998). Vahvistusvinouma: monissa muodoissa esiintyvä ilmiö. Review of General Psychology\n, 2\n(2), 175–220. https://doi.org/10.1037/1089-2680.2.2.175\n
    • \n
  • Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). Pseudo-syvällisen hölynpölyn vastaanottamisesta ja havaitsemisesta. Judgment and Decision Making, 10(6), 549–563.\n
    • \n
  • \nPennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). COVID-19-väärätiedon torjuminen sosiaalisessa mediassa: Kokeellinen näyttö skaalautuvasta tarkkuutta edistävästä interventiosta. Psychological Science\n, 31\n(7), 770–780. https://doi.org/10.1177/0956797620939054\n
    • \n
  • \nPennycook, G., & Rand, D. G. (2019). Laiska, ei puolueellinen: Alttius puolueellisille valeuutisille selittyy paremmin päättelykyvyn puutteella kuin motivoituneella päättelyllä. Cognition\n, 188\n, 39–50. https://doi.org/10.1016/j.cognition.2018.06.011\n
    • \n
  • \nReber, R., & Schwarz, N. (1999). Effects of perceptual fluency on judgments of truth. Consciousness and Cognition\n, 8\n(3), 338–342. https://doi.org/10.1006/ccog.1999.0386\n
    • \n
  • \nRoozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). Alttius COVID-19:tä koskevalle väärälle tiedolle ympäri maailmaa. Royal Society Open Science\n, 7\n(10), 201199. https://doi.org/10.1098/rsos.201199\n
    • \n
  • \nSultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). Aikapaine heikentää kykyä erottaa väärää tietoa, mutta ei muuta vastausten puolueellisuutta. Scientific Reports\n, 12\n(1), 22416. https://doi.org/10.1038/s41598-022-26209-8\n
    • \n
  • \nSultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Alttius verkossa leviävälle väärälle tiedolle: Systemaattinen meta-analyysi demografisista ja psykologisista tekijöistä. Proceedings of the National Academy of Sciences\n, 121\n(47), e2409329121. https://doi.org/10.1073/pnas.2409329121\n
    • \n
  • \nTraberg, C. S., & van der Linden, S. (2022). Samankaltaiset ihmiset vaikuttavat toisiinsa: Lähteen koettu uskottavuus välittää poliittisen puolueellisuuden vaikutusta alttiuteen väärälle tiedolle. Personality and Individual Differences\n, 185\n, 111269. https://doi.org/10.1016/j.paid.2021.111269\n
    • \n
  • \nUnkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). Totuus toistamisen kautta: Selitykset ja vaikutukset. Current Directions in Psychological Science\n, 28\n(3), 247–253. https://doi.org/10.1177/0963721419827854\n
    • \n
\n
\n
\n

☑ Loogiset virheet

\n
\n
\n\n
    \n
  • Tarkista hätäiset yleistykset – johtopäätös liian vähäisen todistusaineiston perusteella.\n
    • \n
  • Tarkista väärät dilemmat – Vaihtoehtojen rajoittaminen kahteen, kun niitä on enemmän.\n
    • \n
  • Tarkista olkiukko-argumentit – Kanta esitetään vääristyneesti, jotta se voidaan helposti kumota.\n
    • \n
  • Tarkista vetoamiset tietämättömyyteen – Totuuden väittäminen sen vuoksi, että sitä ei ole kumottu.\n
    • \n
  • Tarkista auktoriteettiin vetoaminen – totuuden olettaminen pelkästään auktoriteetin perusteella.\n
    • \n
  • Tarkista harhautukset – Huomion kääntäminen pois pääasiasta.\n
    • \n
  • Tarkista väärät syyt – sekoitetaan korrelaatio ja syy-seuraussuhde.\n
    • \n
  • Tarkista ad hominem - Hyökkäys henkilöä vastaan, ei argumenttia vastaan.\n
    • \n
  • Tarkista ad populum - väitteet, joissa totuuden perustana on suosio.\n
    • \n
  • Tarkista liukkaat rinteet – väite, että yksi askel johtaa äärimmäisyyksiin.\n
    • \n
  • Tarkista, onko kyseessä kehäpäätelmä – johtopäätöksen käyttäminen lähtökohtana.\n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

Disinformaatio

\n

Disinformaatio on väärää tai harhaanjohtavaa tietoa, jota tietävät sen olevan väärää jakavat tahallaan tarkoituksenaan vahingoittaa, pettää tai manipuloida. Sekä jakajan tietoisuus väärästä tiedosta että haitallinen tarkoitus ovat määritelmän mukaisia piirteitä.

\n

Yleisiä muotoja ovat poliittiset vaikutusoperaatiot, kaupallinen harhaanjohtaminen, propaganda, keksitty sisältö ja manipuloitu media. Disinformaatiota tuottavat usein järjestäytyneet toimijat, ja sitä vahvistetaan koordinoidulla epäaitolla / keinotekoisella vahvistamisella (edellä).

\n

Väärätiedot

\n

Väärätiedot ovat totta olevia tietoja, joita jaetaan vahingoittamistarkoituksessa. Sisältö itsessään on paikkansapitävää, mutta sen julkaiseminen, esittäminen tai ajoitus on suunniteltu vahingoittamaan henkilöä, ryhmää tai instituutiota. Klassinen malli on yksityisten, arkaluontoisten tai kontekstisidonnaisten tietojen tahallinen siirtäminen julkiseen tai haitalliseen kontekstiin.

\n

Esimerkkejä ovat vuotaneiden yksityisten viestien julkaiseminen kohteen maineen tahraamiseksi, tarkkojen mutta leimaavien henkilötietojen julkaiseminen (esim. kostoporno) sekä tosiasiallisesti oikeiden mutta kontekstuaalisesti vahingollisten tietojen strateginen paljastaminen hetkinä, jotka on laskettu maksimaalisen vaikutuksen aikaansaamiseksi.

\n

Väärää tietoa käsitellään näistä kolmesta luokasta vähiten, koska sisältö ei ole väärää, minkä vuoksi se jää faktantarkistuksen ulkopuolelle. Se muodostaa kuitenkin merkittävän osan informaatiohäiriöiden ekosysteemistä (Wardle & Derakhshan, 2017).

\n
\n
\n\n

Rajat ovat hämärät. Nämä kolme luokkaa ovat käytännössä usein päällekkäisiä tai muuttuvat:

\n
    \n
  • Disinformaatio, jonka jakavat ihmiset, jotka todella uskovat siihen, muuttuu vääräksi tiedoksi levitessään edelleen. Sama sisältö voi kuulua eri luokkiin riippuen siitä, kuka sen jakaa.\n
    • \n
  • Sisältö voi olla osittain totta ja osittain väärää. Wardle (2017) luettelee seitsemän informaatiohäiriön muotoa – mukaan lukien harhaanjohtava sisältö, väärä konteksti ja manipuloitu sisältö – eikä kaikki väärä sisältö ole täysin keksittyä.\n
    • \n
  • Aikomuksen määrittäminen ulkopuolelta on empiirisesti vaikeaa. Ilman pääsyä jakajan tietotilaan ja motivaatioon väärän tiedon ja disinformaation välistä rajaa ei usein voida vetää lopullisesti.\n

    Siksi viitekehyksessä pyydetään oppijoita selittämään, miksi väärän tiedon ja disinformaation välistä rajaa on käytännössä usein vaikea määrittää.

    \n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

Tekoälyn hallusinaatiot / konfabulaatio

\n

Generatiivisten tekoälyjärjestelmien systemaattinen taipumus tuottaa uskottavalta kuulostavaa sisältöä, joka on tosiasiallisesti virheellistä, keksittyä tai todennettavissa olevaa – mukaan lukien keksityt viitteet, olemattomat tutkimukset, väärin attribuoitavat lainaukset, keksityt tilastot sekä väärät biografiset, historialliset tai tieteelliset yksityiskohdat.

\n

Hallusinaatioita esiintyy, koska generatiiviset tekoälyjärjestelmät tuottavat tuloksia ennustamalla uskottavia jatkoja koulutuksen aikana opituista malleista, eivätkä hakemalla todennettua tietoa tietolähteestä. Järjestelmä optimoi sujuvuuden ja uskottavuuden, ei tarkkuuden. Keksitty sisältö esitetään tyypillisesti samalla varmuudella kuin tarkka sisältö – ei ole sisäistä signaalia, joka erottaisi nämä kaksi luotettavasti toisistaan.

\n

Tutkimuskontekstissa termiä konfabulaatio käytetään joskus mieluummin kuin hallusinaatiota, koska psykologiassa konfabulaatio tarkoittaa väärien mutta vilpittömästi uskottujen kertomusten rakentamista ilman petostarkoitusta – mikä on lähempänä sitä, mitä generatiiviset järjestelmät tosiasiassa tekevät. Hallusinaatio on edelleen hallitseva termi julkisessa ja teknisessä keskustelussa, ja sitä käytetään tässäkin.

\n

Hallusinaatiot eivät ole satunnaisia virheitä. Ne ovat taustalla olevan generointiprosessin rakenteellinen piirre, eivät virheitä, jotka voidaan luotettavasti poistaa paremmilla ohjeilla (Kalai & Vempala, 2024). Niitä esiintyy kaikissa generatiivisissa järjestelmissä – mukaan lukien ☑ RAG-tekoäly, jossa keksiminen voi vaikuttaa myös siihen, miten haetut lähteet tiivistetään, siteerataan tai merkitään.

\n

Didaktinen sijoittelu: Hallusinaatiot voidaan sijoittaa käsitteellisesti neljänneksi luokaksi väärän tiedon, disinformaation ja väärän tiedon rinnalle. Toisin kuin nämä kaksi, niitä ei tuota ihmislähde tarkoituksella tai virheestä johtuen, vaan ne syntyvät itse generointiprosessista – järjestelmän tuottamaa väärää sisältöä ilman tahallista lähdettä. Tämä kolmiosainen erottelu esitetään tässä pedagogisesti hyödyllisenä viitekehyksenä eikä vakiintuneena konsensusterminologiana.

\n

Yleisiä tyyppejä:

\n
    \n
  • keksityt viitteet – viittaukset artikkeleihin, kirjoihin tai tutkimuksiin, joita ei ole olemassa\n
    • \n
  • väärin osoitetut tai keksityt lainaukset\n
    • \n
  • keksityt tilastot tai numeeriset väitteet\n
    • \n
  • epätarkat biografiset, historialliset tai tieteelliset yksityiskohdat, jotka esitetään varmoin\n
    • \n
  • varmuudella esitetyt virheelliset yhteenvedot todellisista lähteistä\n
    • \n
\n
\n
\n\n

Käsittele kaikkia generatiivisen tekoälyjärjestelmän esittämiä tosiasioita vahvistamattomina, kunnes ne on tarkistettu riippumattomasta lähteestä. Viitteet ja lainaukset ovat erityisen helppoja tarkistaa — etsi, onko mainittu lähde olemassa ja sisältääkö se sen, mitä tekoäly väitti.

\n
\n
\n
\n
\n\n
    \n
  • \nBender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). Stochastic parrots -ilmiön vaaroista: Voivatko kielimallit olla liian suuria? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21)\n, 610–623. https://doi.org/10.1145/3442188.3445922\n
    • \n
  • \nJi, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Katsaus hallusinaatioihin luonnollisen kielen tuottamisessa. ACM Computing Surveys, 55\n(12), artikkeli 248. https://doi.org/10.1145/3571730\n
    • \n
  • \nKalai, A. T., & Vempala, S. S. (2024). Kalibroidut kielimallit joutuvat hallusinoimaan. 56. vuotuisen ACM:n laskentateorian symposiumin (STOC 2024) julkaisu\n, 160–171. https://doi.org/10.1145/3618260.3649777\n
    • \n
  • \nSmith, A. L., Greaves, F., & Panch, T. (2023). Hallusinaatio vai konfabulaatio? Neuroanatomia metaforana suurissa kielimalleissa. PLOS Digital Health, 2\n(11), e0000388. https://doi.org/10.1371/journal.pdig.0000388\n
    • \n
\n
\n
\n

Sisällön vääristely

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
MuotoManipuloituKeksitty
Tekstiaito lainaus irrotettuna kontekstista, väärennetty otsikkokeksitty lainaus, kuvitteellinen artikkeli, tekoälyn tuottama teksti
Kuvaretusoitu valokuva, rajattu alkuperäiskuvaTekoälyn luoma kuva, maalattu väärennetty "valokuva"
Äänimuokattu tai nopeutettu alkuperäinen äänitysääniklooni, tekoälyn luoma puhe
Videohalpa väärennös, uudelleenleikatut pätkättäysin synteettinen deepfake-video
Asiakirjaväärennetty kirjelomake muokatulla mallillakeksitty "virallinen" kirje
\n

Keksitty sisältö

\n

Keksitty sisältö on tietoa – tekstiä, kuvaa, ääntä, videota, asiakirjaa tai muuta formaattia – joka on kokonaan keksitty ilman aitoa lähdemateriaalia. Se voi olla tuotettu manuaalisesti (keksityt lainaukset, kuvitteelliset uutisartikkelit) tai syntetisoitu tekoälyjärjestelmillä (synteettiset videot, äänikloonit, tekoälyn luomat kuvat, tekoälyn kirjoittama teksti).

\n

Manipuloitu sisältö

\n

Manipuloitu sisältö on aitoa tietoa – tekstiä, kuvaa, ääntä, videota, asiakirjaa tai muuta formaattia – jota on muutettu harhauttamiseksi. Lähdemateriaali on aitoa, mutta sitä on muokattu editoimalla, valikoivalla rajaamisella, nopeuden säätämisellä, kontekstin muuttamisella, kehyksen muuttamisella, äänen korvaamisella tai muilla muutoksilla, jotka muuttavat sen merkitystä tai näennäistä kontekstia.

\n

Halpa väärennös

\n

Halpa väärennös on mediaa, jota on muokattu käyttämällä tavanomaisia, laajasti saatavilla olevia työkaluja – kuvankäsittelyohjelmistoja, videonmuokkausohjelmistoja tai yksinkertaista kontekstin muuttamista – eikä tekoälypohjaisia generatiivisia menetelmiä. Termin keksivät Paris ja Donovan (2019) kiinnittääkseen huomiota siihen, että julkisen keskustelun merkittävimmät manipuloidun median muodot eivät yleensä ole kehittyneitä tekoälyn luomia deepfake-väärennöksiä, vaan yksinkertaisia, edullisia tekniikoita, joita kuka tahansa voi käyttää.

\n

Yleisiä halpojen väärennösten tekniikoita ovat:

\n
    \n
  • nopeuden manipulointi (esim. hidastettu Pelosi-video, 2019)\n
    • \n
  • äänen tai videon uudelleenleikkaus ja valikoiva editointi\n
    • \n
  • uudelleenkontekstualisointi (aito media esitetään väärällä kuvatekstillä tai kehyksellä)\n
    • \n
  • valokuvien retusointi, rajaaminen tai yhdistely\n
    • \n
  • vaihdetut kuvatekstit ja manipuloidut kuvakaappaukset\n
    • \n
  • äänen liittäminen\n
    • \n
\n

Se, onko halpa väärennös väärää tietoa, disinformaatiota vai harhaanjohtavaa tietoa, riippuu tekijän tiedoista ja aikomuksista (→ Tiedon sekavuus), ei itse tekniikasta. Sama muokattu video voi palvella satiiria, fiktiota, koulutusta tai harhauttamista.

\n

Deepfake-väärennöksiin verrattuna halvat väärennökset vaativat vähemmän teknistä osaamista, mutta niitä ei välttämättä ole helpompi havaita — hyvin toteutettu kontekstin muuttaminen tai valikoiva editointi voi olla erittäin vaikea tunnistaa ilman pääsyä alkuperäiseen lähdemateriaaliin.

\n
\n
\n\n
\n
\n
\n
\n
\n\n

Halpojen väärennösten todentamistyökalut:

\n
\n
\n
\n

Deep Fake

\n

Deep Fake

\n

Deepfake on tekoälyn tuottama synteettinen media – erityisesti käyttämällä syväoppimistekniikoita, kuten generatiivisia vastakkainasetteluverkkoja (GAN), diffuusiomalleja tai muuntajapohjaisia generaattoreita. Termi on yhdistelmä sanoista deep learning (syväoppiminen) ja fake (väärennös), ja se on peräisin vuodelta 2017 verkkoyhteisöistä, jotka tuottivat tekoälyn luomia kasvojenvaihtovideoita. Teknologia on sittemmin laajentunut eri mediatyyppeihin, ja se on nyt laajasti saatavilla kuluttajille suunnattujen työkalujen kautta.

\n

Yleisiä muotoja ovat:

\n
    \n
  • Kasvojen vaihto: yhden henkilön kasvojen korvaaminen toisen kasvoilla videossa\n
    • \n
  • Äänen kloonaus: puhujan äänen syntetisointi pienestä ääninäytteestä\n
    • \n
  • Täysin synteettinen video: tekoälyn luoma videomateriaali, joka esittää ihmisiä, tapahtumia tai kohtauksia, joita ei ole koskaan tapahtunut\n
    • \n
  • Synteettinen valokuvaus: tekoälyn luomat still-kuvat kuvitteellisista ihmisistä tai tapahtumista\n
    • \n
  • Teksti-videoksi ja teksti-ääniksi: median luominen kirjallisista ohjeista\n
    • \n
\n

Se, onko deepfake väärää tietoa, disinformaatiota vai harhaanjohtavaa tietoa, riippuu tekijän tiedoista ja aikomuksista (→ Tiedon epäjärjestys), ei itse tekniikasta. Deepfake-menetelmiä käytetään myös laillisesti elokuvatuotannossa, esteettömyystyökaluissa (synteettiset äänet ihmisille, jotka ovat menettäneet äänensä), kielidubbauksessa, satiirissa, koulutuksessa ja taiteessa.

\n

Halpoihin väärennöksiin verrattuna deepfake-tekniikat vaativat enemmän teknistä osaamista, jotta tulos olisi vakuuttava, ja niillä voidaan saavuttaa parempi visuaalinen tai auditiivinen realismi. Ne eivät kuitenkaan ole hallitseva mediamanipulaation muoto julkisessa keskustelussa — Paris ja Donovan (2019) huomauttavat, että yksinkertaisemmat halpojen väärennösten tekniikat ovat edelleen yleisempiä ja usein merkittävämpiä. Havaitseminen on aktiivinen tutkimusalue; nykyisissä lähestymistavoissa yhdistyvät artefaktianalyysi, biologisten epäjohdonmukaisuuksien tarkistukset ja alkuperän todentaminen (esim. C2PA-sisältötodistukset).

\n
\n
\n\n
    \n
  • \nParis, B., & Donovan, J. (2019). Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence\n. Data & Society Research Institute.https://datasociety.net/library/deepfakes-and-cheap-fakes/\n
    • \n
  • Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review, 107(6), 1753–1820.\n
    • \n
  • \nVaccari, C., & Chadwick, A. (2020). Deepfakes ja disinformaatio: Synteettisten poliittisten videoiden vaikutuksen tutkiminen harhaanjohtamiseen, epävarmuuteen ja uutisiin kohdistuvaan luottamukseen. Social Media + Society\n, 6(1), 1–13. https://doi.org/10.1177/2056305120903408\n
    • \n
\n
\n
\n
\n
\n\n

Deepfake-tarkistustyökalut:

\n
\n
\n
","UPDATEDAT":"2026-05-17T18:10:24.859Z","LANG":"fi","ID":"8e97ece5-27a9-44ca-b212-ce9ce8c29387","TITLE":"Väärätiedot ja manipulointi","SOURCELANG":"en"}