{"CACHEDAT":"2026-05-18 11:01:17","TRANSLATEDAT":"2026-05-18 11:01:17","SOURCESIGNATURE":"7a9e56d2ea3f2c69597ecdc4c37790c3bd22ac955bbb62f6ceb193688b397de6","SLUG":"misinformation-manipulation-WtiyDFyWdl","MARKDOWN":"# Information Disorder\n\nWardle & Derakhshan (2017), in a foundational report for the Council of Europe, introduce *Information Disorder* as the umbrella term for false, misleading, or harmfully shared information in the public information environment. They distinguish three categories along two axes: whether the content is *false* or *true*, and whether it is shared with *intent to harm*.\n\n| Type | Content | Sharer's knowledge of falseness | Intent to harm |\n|------|---------|---------------------------------|----------------|\n| **Misinformation** | false or misleading | does not know | no |\n| **Disinformation** | false or misleading | knows | yes |\n| **Malinformation** | true | (not the criterion) | yes |\n\nThe three categories form an interconnected ecology: the same content item can move between them depending on who shares it and with what intent.\n\n### Fake News\n\nThe term *fake news* is widely used in public debate but analytically imprecise. It usually refers to false or misleading information presented in the style of news reporting. However, because the term can refer to different types of information disorder and is often used politically to discredit unwanted reporting, more precise terms such as *misinformation*, *disinformation*, *fabricated content*, *false context*, or *manipulated content* should be preferred.\n\n## Misinformation\n\nMisinformation is false or misleading information shared by people who do not realise it is false. The sharer believes the content is accurate; there is no intent to deceive or harm.\n\nMisinformation typically arises in fast-moving news situations (early reports with unconfirmed details), in passing along claims without checking accuracy, and in repeating information from trusted sources that turn out to be wrong. It can be as widespread and consequential as disinformation, despite the absence of malicious intent — its sharers are often genuinely motivated and trusted within their networks, which gives the content reach and perceived credibility (Lewandowsky et al., 2017).\n\n### Misinformation Susceptibility Factors\n\n\n:::success\n**1. Cognitive factors** — how information is processed\n\n* **Confirmation bias**: People pay more attention to information that supports what they already believe, and scrutinise opposing information more harshly. — Nickerson (1998)\n* **Illusory truth effect**: Claims can feel more believable simply because people have seen them before, even when they are false. — Unkelbach et al. (2019)\n* **Processing fluency**: Information that is easy to read, familiar in wording, or visually clear feels more trustworthy than information that is harder to process. — Reber & Schwarz (1999)\n* **Low cognitive reflection**: People who rely on quick, intuitive judgements rather than pausing to check are more likely to fall for false claims. — Pennycook & Rand (2019)\n* **Bullshit receptivity**: Some people are inclined to find vague but impressive-sounding statements meaningful, even when they are empty. — Pennycook et al. (2015)\n* **Low numeracy / scientific literacy**: People may struggle to evaluate statistics, graphs, risk statements, or scientific evidence; education alone is no automatic protection. — Kahan et al. (2017)\n\n**2. Affective / motivational factors** — how emotions and identity shape judgement\n\n* **Emotional reasoning / reliance on emotion**: People accept claims because they feel right, frightening, satisfying, or morally urgent, rather than because they have been checked. — Martel, Pennycook & Rand (2020)\n* **Specific emotions** (anger, fear, moral outrage): Strong emotions can lead people to react quickly and share before checking; moral-emotional language is especially powerful in spreading political content. (Belief and sharing are distinct effects with different evidence.) — Brady et al. (2017); Martel et al. (2020)\n* **Identity-protective cognition**: People process information in ways that protect their political, religious, or group identity, and resist evidence that would threaten it. (Closely linked to *political identity* in category 5.) — Kahan (2013, 2017)\n* **Conspiracy mindset**: A general tendency to suspect hidden plots or powerful actors behind events makes conspiracy-style misinformation more plausible. — Douglas, Sutton & Cichocka (2017)\n\n**3. Social factors** — whom and which groups people trust\n\n* **Source credibility / trust in the sender**: How believable a claim feels depends on who appears to be saying it — a friend, an influencer, an expert, a politician, a news outlet, or an anonymous account. — Traberg & van der Linden (2022)\n* **Social proof / popularity cues**: Likes, shares, views, and comments can act as credibility cues, although the effect depends on context. — Avram et al. (2020)\n* **In-group / partisan congruency**: Information from \"people like us\", or aligned with a group's position, is accepted more easily. (Closely linked to *political identity* in category 5.) — Sultan et al. (2024)\n* **Network homophily / echo chambers**: When people mostly encounter information through networks of similar others, certain views appear more widely shared than they really are. (See also D1G5.) — Cinelli et al. (2021)\n\n**4. Contextual / situational factors** — the conditions under which people meet information\n\n* **Time pressure**: When people have to judge information quickly, they distinguish true from false claims less accurately. — Sultan et al. (2022)\n* **Information overload**: When too much information arrives at once, people fall back on shortcuts like headlines, emotion, source labels, or popularity. — Laato et al. (2020)\n* **Distraction / cognitive load**: When attention is drawn elsewhere, people may share without checking accuracy, even if they could otherwise recognise the misinformation. — Pennycook et al. (2020)\n* **Crisis / uncertainty contexts** (pandemics, war, disasters): Urgent need for explanation increases openness to false or premature claims. — Roozenbeek et al. (2020)\n* **Platform design**: Feeds, notifications, recommendation systems, autoplay, and fast scrolling encourage reactive rather than reflective behaviour. (See also D1G1.) — Lorenz-Spreen et al. (2020)\n\n**5. Background and dispositional factors** — who may be more or less vulnerable in specific contexts\n\n* **Age**: Older adults sometimes distinguish true from false headlines better in studies, but share misinformation more often online. — Guess, Nagler & Tucker (2019)\n* **Education**: Not an automatic shield; meta-analyses show no simple effect on misinformation discrimination. — Sultan et al. (2024)\n* **Political identity and prior beliefs**: Shape which information feels plausible, threatening, trustworthy, or worth sharing. (Operates via identity-protective cognition in category 2 and in-group cues in category 3 — not purely a demographic variable.) — Sultan et al. (2024)\n* **Media literacy habits**: People who compare sources, read beyond headlines, and recognise manipulation techniques rely less on emotional or social shortcuts. *(Note: this is the learning goal of SciLMi itself — listed here as a documented protective disposition, not as a prerequisite.)* — Guess et al. (2020)\n\n:::\n\n\n:::info\n* Avram, M., Micallef, N., Patil, S., & Menczer, F. (2020). Exposure to social engagement metrics increases vulnerability to misinformation. *Harvard Kennedy School (HKS) Misinformation Review*, *1*(5). \n* Brady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Emotion shapes the diffusion of moralized content in social networks. *Proceedings of the National Academy of Sciences*, *114*(28), 7313–7318. \n* Cinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). The echo chamber effect on social media. *Proceedings of the National Academy of Sciences*, *118*(9), e2023301118. \n* Douglas, K. M., Sutton, R. M., & Cichocka, A. (2017). The psychology of conspiracy theories. *Current Directions in Psychological Science*, *26*(6), 538–542. \n* Guess, A., Nagler, J., & Tucker, J. (2019). Less than you think: Prevalence and predictors of fake news dissemination on Facebook. *Science Advances*, *5*(1), eaau4586. \n* Jones-Jang, S. M., Mortensen, T., & Liu, J. (2021). Does media literacy help identification of fake news? Information literacy helps, but other literacies don't. *American Behavioral Scientist*, *65*(2), 371–388. \n* Kahan, D. M. (2013). Ideology, motivated reasoning, and cognitive reflection. *Judgment and Decision Making*, *8*(4), 407–424.\n* Kahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Motivated numeracy and enlightened self-government. *Behavioural Public Policy*, *1*(1), 54–86. \n* Laato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). What drives unverified information sharing and cyberchondria during the COVID-19 pandemic? *European Journal of Information Systems*, *29*(3), 288–305. \n* Lorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). How behavioural sciences can promote truth, autonomy and democratic discourse online. *Nature Human Behaviour*, *4*(11), 1102–1109. \n* Martel, C., Pennycook, G., & Rand, D. G. (2020). Reliance on emotion promotes belief in fake news. *Cognitive Research: Principles and Implications*, *5*(1), 47. \n* Nickerson, R. S. (1998). Confirmation bias: A ubiquitous phenomenon in many guises. *Review of General Psychology*, *2*(2), 175–220. \n* Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). On the reception and detection of pseudo-profound bullshit. *Judgment and Decision Making*, *10*(6), 549–563.\n* Pennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). Fighting COVID-19 misinformation on social media: Experimental evidence for a scalable accuracy-nudge intervention. *Psychological Science*, *31*(7), 770–780. \n* Pennycook, G., & Rand, D. G. (2019). Lazy, not biased: Susceptibility to partisan fake news is better explained by lack of reasoning than by motivated reasoning. *Cognition*, *188*, 39–50. \n* Reber, R., & Schwarz, N. (1999). Effects of perceptual fluency on judgments of truth. *Consciousness and Cognition*, *8*(3), 338–342. \n* Roozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). Susceptibility to misinformation about COVID-19 around the world. *Royal Society Open Science*, *7*(10), 201199. \n* Sultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). Time pressure reduces misinformation discrimination ability but does not alter response bias. *Scientific Reports*, *12*(1), 22416. \n* Sultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Susceptibility to online misinformation: A systematic meta-analysis of demographic and psychological factors. *Proceedings of the National Academy of Sciences*, *121*(47), e2409329121. \n* Traberg, C. S., & van der Linden, S. (2022). Birds of a feather are persuaded together: Perceived source credibility mediates the effect of political bias on misinformation susceptibility. *Personality and Individual Differences*, *185*, 111269. \n* Unkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). Truth by repetition: Explanations and implications. *Current Directions in Psychological Science*, *28*(3), 247–253. \n\n:::\n\n### ☑ Logical Fallacies\n\n\n:::success\n- [ ] Check for hasty generalisations - Conclusion from too little evidence.\n- [ ] Check for false dilemmas - Limiting options to two when more exist.\n- [ ] Check for straw man arguments - Misrepresenting a position to refute it easily.\n- [ ] Check for appeals to ignorance - Claiming truth due to lack of disproof.\n- [ ] Check for appeals to authority - Assuming truth based on authority alone.\n- [ ] Check for red herrings - Distracting from the main issue.\n- [ ] Check for false causes - Confusing correlation with causation.\n- [ ] Check for ad hominem - Attacking the person, not the argument. \n- [ ] Check for ad populum - Arguing truth from popularity.\n- [ ] Check for slippery slopes - Asserting one step leads to extremes.\n- [ ] Check for circular reasoning - Using the conclusion as a premise.\n\n:::\n\n\n:::tip\n* \n* \n* \n\n:::\n\n## Disinformation\n\nDisinformation is false or misleading information shared deliberately, by people who know it is false, with the intent to harm, deceive, or manipulate. Both the sharer's awareness of the falseness and the harmful intent are definitional features.\n\nCommon forms include political influence operations, commercial deception, propaganda, fabricated content, and manipulated media. Disinformation is often produced by organised actors and amplified through *Coordinated Inauthentic / Artificial Amplification* (above).\n\n## Malinformation\n\nMalinformation is *true* information shared with intent to harm. The content itself is accurate, but its release, framing, or timing is calculated to damage a person, group, or institution. The classical pattern is the deliberate movement of private, sensitive, or context-bound information into a public or harmful context.\n\nExamples include the publication of leaked private communications to discredit a target, the release of accurate but stigmatising personal data (e.g. revenge porn), and the strategic disclosure of factually correct but contextually damaging information at moments calculated for maximum impact.\n\nMalinformation is the least-discussed of the three categories because the content is not false, which places it outside fact-checking frameworks. But it forms a significant part of the information-disorder ecology (Wardle & Derakhshan, 2017).\n\n\n:::warning\n**The boundaries are porous.**\n\nThe three categories often overlap or shift in practice:\n\n* A piece of *disinformation*, once shared by people who genuinely believe it, becomes *misinformation* as it spreads further. The same content can sit in different categories depending on who shares it.\n* Content can be partly true and partly false. Wardle (2017) lists seven forms within information disorder — including *misleading content*, *false context*, and *manipulated content* — not all false content is fully fabricated.\n* Determining intent from outside is empirically hard. Without access to the sharer's knowledge state and motivation, the line between misinformation and disinformation often cannot be drawn definitively.\n\nThis is why the framework asks learners to *explain why the boundary between misinformation and disinformation is often difficult to determine in practice*.\n\n:::\n\n\n:::info\n* Wardle, C., & Derakhshan, H. (2017). *Information Disorder: Toward an interdisciplinary framework for research and policy making*. Council of Europe Report DGI(2017)09. \n* Wardle, C. (2017). Fake news. It's complicated. *First Draft News*. \n* Lewandowsky, S., Ecker, U. K. H., & Cook, J. (2017). Beyond misinformation: Understanding and coping with the \"post-truth\" era. *Journal of Applied Research in Memory and Cognition*, 6(4), 353–369. \n* Vraga, E. K., & Bode, L. (2020). Defining misinformation and understanding its bounded nature. *Political Communication*, 37(1), 136–144. \n\n:::\n\n# AI Hallucination / Confabulation\n\nThe systematic tendency of generative AI systems to produce plausible-sounding content that is factually incorrect, fabricated, or unverifiable — including invented references, non-existent studies, misattributed quotations, made-up statistics, and false biographical, historical, or scientific details.\n\nHallucinations occur because generative AI systems produce output by predicting plausible continuations from patterns learned during training, not by retrieving verified information from a knowledge source. The system optimises for fluency and plausibility, not for accuracy. Fabricated content is typically presented with the same confidence as accurate content — there is no internal signal that reliably distinguishes the two.\n\nThe term **confabulation** is sometimes preferred over **hallucination** in research contexts, since confabulation in psychology denotes the construction of false but sincerely believed accounts without intent to deceive — closer to what generative systems actually do. *Hallucination* remains the dominant term in public and technical discourse and is retained here.\n\n**Hallucinations are not occasional bugs.** They are a structural feature of the underlying generation process, not errors that can be reliably eliminated through better prompting (Kalai & Vempala, 2024). They occur across all generative systems — including ☑ RAG AI, where fabrication can also affect how retrieved sources are summarised, quoted, or attributed.\n\n**Didactic positioning:** Hallucinations can be located conceptually as a forth category alongside *misinformation, disinformation*, and *malinformation*. Unlike both, they are not produced by a human source with intent or error in mind, but emerge from the generation process itself — system-generated false content without an intentional source. This three-way distinction is offered here as a pedagogically useful framing rather than as established consensus terminology.\n\n**Common types:**\n\n* fabricated references — citations to articles, books, or studies that do not exist\n* misattributed or fabricated quotations\n* invented statistics or numerical claims\n* inaccurate biographical, historical, or scientific details presented confidently\n* confidently incorrect summaries of real sources\n\n\n:::tip\nTreat any factual claim from a generative AI system as unverified until checked against an independent source. References and quotations are particularly easy to verify — search whether the cited source exists and contains what the AI claimed.\n\n:::\n\n\n:::info\n* Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? *Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21)*, 610–623. \n* Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. *ACM Computing Surveys, 55*(12), Article 248. \n* Kalai, A. T., & Vempala, S. S. (2024). Calibrated language models must hallucinate. *Proceedings of the 56th Annual ACM Symposium on Theory of Computing (STOC 2024)*, 160–171. \n* Smith, A. L., Greaves, F., & Panch, T. (2023). Hallucination or confabulation? Neuroanatomy as metaphor in large language models. *PLOS Digital Health, 2*(11), e0000388. \n\n:::\n\n# Content Misrepresentation\n\n| Format | Manipulated | Fabricated |\n|--------|-------------|------------|\n| Text | genuine quote stripped of context, doctored headline | invented quote, fictional article, AI-generated text |\n| Image | retouched photograph, cropped original | AI-generated image, painted fake \"photograph\" |\n| Audio | edited or sped-up original recording | voice clone, AI-generated speech |\n| Video | cheap fake, recut clips | fully synthetic deepfake video |\n| Document | forged letterhead on modified template | invented \"official\" letter |\n\n## Fabricated Content\n\n**Fabricated content** is information — text, image, audio, video, document, or other format — that has been entirely invented, with no genuine source material. It may be produced manually (invented quotes, fictional news articles) or generated synthetically by AI systems (synthetic videos, voice clones, AI-generated images, AI-written text).\n\n## Manipulated Content\n\n**Manipulated content** is geniune information — text, image, audio, video, document, or other format — that has been altered to deceive. The source material is real, but it is modified through editing, selective cropping, speed adjustment, recontextualisation, framing changes, voice substitution, or other transformations that change its meaning or apparent context.\n\n### Cheap Fake\n\nA **cheap fake** is media that has been altered using conventional, widely available tools — image editing software, video editing software, or basic recontextualisation — rather than AI-based generative methods. The term was coined by Paris and Donovan (2019) to draw attention to the fact that the most consequential forms of manipulated media in public discourse are typically not sophisticated AI-generated deepfakes, but simple, low-cost techniques that anyone can apply.\n\nCommon cheap fake techniques include:\n\n* speed manipulation (e.g. the slowed-down Pelosi video, 2019)\n* recutting and selective editing of audio or video\n* recontextualisation (real media presented with a false caption or framing)\n* photo retouching, cropping, or compositing\n* swapped captions and doctored screenshots\n* audio splicing\n\nWhether a cheap fake constitutes *Misinformation*, *Disinformation*, or *Malinformation* depends on the actor's knowledge and intent (→ *Information Disorder*), not on the technique itself. The same edited video can serve satire, fiction, education, or deception.\n\nCompared with *Deep Fakes*, cheap fakes require less technical skill but are not necessarily easier to detect — well-executed recontextualisation or selective editing can be extremely difficult to identify without access to the original source material.\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence*. Data & Society Research Institute. \n\n:::\n\n\n:::tip\nCheap Fake Verification Tools: \n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n### Deep Fake\n\n### Deep Fake\n\nA **deep fake** is synthetic media generated by artificial intelligence — specifically using deep learning techniques such as generative adversarial networks (GANs), diffusion models, or transformer-based generators. The term is a portmanteau of *deep learning* and *fake*, originating in 2017 in online communities producing AI-generated face-swap videos. The technology has since expanded across media types and is now broadly accessible through consumer-level tools.\n\nCommon forms include:\n\n* **Face swaps**: replacing one person's face with another's in video\n* **Voice cloning**: synthesising a speaker's voice from a small audio sample\n* **Full synthetic video**: AI-generated footage showing people, events, or scenes that never occurred\n* **Synthetic photography**: AI-generated still images of fictional people or events\n* **Text-to-video and text-to-audio**: generating media from written prompts\n\nWhether a deep fake constitutes *Misinformation*, *Disinformation*, or *Malinformation* depends on the actor's knowledge and intent (→ *Information Disorder*), not on the technique itself. Deep fake methods are also used legitimately in film production, accessibility tools (synthetic voices for people who have lost theirs), language dubbing, satire, education, and the arts.\n\nCompared with *Cheap Fakes*, deep fakes require more technical capacity to produce convincingly and can achieve higher visual or auditory realism. They are not, however, the dominant form of media manipulation in public discourse — Paris and Donovan (2019) note that simpler cheap-fake techniques remain more common and often more consequential. Detection is an active research area; current approaches combine artefact analysis, biological inconsistency checks, and provenance verification (e.g. C2PA content credentials).\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence*. Data & Society Research Institute. \n* Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. *California Law Review*, 107(6), 1753–1820.\n* Vaccari, C., & Chadwick, A. (2020). Deepfakes and disinformation: Exploring the impact of synthetic political video on deception, uncertainty, and trust in news. *Social Media + Society*, 6(1), 1–13. \n\n:::\n\n\n:::tip\nDeep Fake Verification Tools: \n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n\n##","HTML":"

Informační nepořádek

\n

Wardle & Derakhshan (2017) ve své základní zprávě pro Radu Evropy zavádějí pojem „informační nepořádek“ jako zastřešující termín pro nepravdivé, zavádějící nebo škodlivě sdílené informace ve veřejném informačním prostředí. Rozlišují tři kategorie podle dvou os: zda je obsah nepravdivý nebo pravdivý a zda je sdílen s úmyslem ublížit.

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
TypObsahVědomí sdílejícího o nepravdivostiÚmysl ublížit
Dezinformacenepravdivé nebo zavádějícínevíne
Dezinformacenepravdivé nebo zavádějícívíano
Špatná informacepravdivé(není kritériem)ano
\n

Tyto tři kategorie tvoří propojený ekosystém: stejný obsah se může mezi nimi pohybovat v závislosti na tom, kdo jej sdílí a s jakým záměrem.

\n

Falešné zprávy

\n

Termín falešné zprávy je v veřejné debatě široce používán, ale analyticky nepřesný. Obvykle se vztahuje na nepravdivé nebo zavádějící informace prezentované ve stylu zpravodajství. Jelikož se však tento termín může vztahovat na různé typy informačního chaosu a je často používán v politice k diskreditaci nežádoucího zpravodajství, měly by být upřednostňovány přesnější termíny, jako jsou dezinformace, falešný obsah, falešný kontext nebo manipulovaný obsah.

\n

Zavádějící informace

\n

Dezinformace jsou nepravdivé nebo zavádějící informace sdílené lidmi, kteří si neuvědomují, že jsou nepravdivé. Sdílející osoba věří, že obsah je přesný; neexistuje záměr klamat nebo ublížit.

\n

Dezinformace obvykle vznikají v rychle se měnících zpravodajských situacích (první zprávy s nepotvrzenými podrobnostmi), při předávání tvrzení bez ověření jejich správnosti a při opakování informací z důvěryhodných zdrojů, které se ukážou jako nesprávné. Může být stejně rozšířená a mít stejně závažné důsledky jako dezinformace, a to i přes absenci zlovolného úmyslu – ti, kdo ji sdílejí, jsou často upřímně motivovaní a ve svých sítích důvěryhodní, což obsahu zajišťuje dosah a vnímanou důvěryhodnost (Lewandowsky et al., 2017).

\n

Faktory náchylnosti k dezinformacím

\n
\n
\n\n

1. Kognitivní faktory – jak jsou informace zpracovávány

\n
    \n
  • Potvrzovací zkreslení: Lidé věnují větší pozornost informacím, které podporují to, čemu již věří, a opačné informace zkoumají přísněji. — Nickerson (1998)\n
    • \n
  • Efekt iluzorní pravdy: Tvrzení mohou působit věrohodněji jednoduše proto, že je lidé již dříve viděli, i když jsou nepravdivá. — Unkelbach et al. (2019)\n
    • \n
  • Plynulost zpracování: Informace, které se snadno čtou, mají známou formulaci nebo jsou vizuálně jasné, působí důvěryhodněji než informace, které se zpracovávají obtížněji. — Reber & Schwarz (1999)\n
    • \n
  • Nízká kognitivní reflexe: Lidé, kteří se spoléhají na rychlé, intuitivní úsudky, místo aby se zastavili a ověřili si informace, jsou náchylnější k tomu, že uvěří nepravdivým tvrzením. — Pennycook & Rand (2019)\n
    • \n
  • Vnímavost k nesmyslům: Někteří lidé mají sklon považovat vágní, ale působivě znějící výroky za smysluplné, i když jsou prázdné. — Pennycook et al. (2015)\n
    • \n
  • Nízká matematická gramotnost / vědecká gramotnost: Lidé mohou mít potíže s vyhodnocováním statistik, grafů, prohlášení o rizicích nebo vědeckých důkazů; vzdělání samo o sobě není automatickou ochranou. — Kahan et al. (2017)\n

    2. Afektivní / motivační faktory — jak emoce a identita formují úsudek

    \n
    • \n
  • Emocionální uvažování / spoléhání se na emoce: Lidé přijímají tvrzení spíše proto, že se jim zdají správná, děsivá, uspokojující nebo morálně naléhavá, než proto, že byla ověřena. — Martel, Pennycook & Rand (2020)\n
    • \n
  • Konkrétní emoce (hněv, strach, morální pobouření): Silné emoce mohou vést lidi k tomu, že reagují rychle a sdílejí obsah ještě před ověřením; morálně-emocionální jazyk je obzvláště účinný při šíření politického obsahu. (Víra a sdílení jsou odlišné jevy s různými důkazy.) — Brady et al. (2017); Martel et al. (2020)\n
    • \n
  • Kognice chránící identitu: Lidé zpracovávají informace způsobem, který chrání jejich politickou, náboženskou nebo skupinovou identitu, a brání se důkazům, které by ji ohrozily. (Úzce souvisí s politickou identitou v kategorii 5.) — Kahan (2013, 2017)\n
    • \n
  • Konspirační myšlení: Obecná tendence podezřívat skryté spiknutí nebo mocné aktéry stojící za událostmi činí dezinformace konspiračního charakteru věrohodnějšími. — Douglas, Sutton & Cichocka (2017)\n

    3. Sociální faktory — komu a kterým skupinám lidé důvěřují

    \n
    • \n
  • Důvěryhodnost zdroje / důvěra v odesílatele: To, jak věrohodné se tvrzení jeví, závisí na tom, kdo ho vyslovuje — přítel, influencer, odborník, politik, zpravodajský server nebo anonymní účet. — Traberg & van der Linden (2022)\n
    • \n
  • Sociální důkaz / signály popularity: Lajky, sdílení, zhlédnutí a komentáře mohou sloužit jako signály důvěryhodnosti, i když jejich účinek závisí na kontextu. — Avram et al. (2020)\n
    • \n
  • Shoda uvnitř skupiny / stranická shoda: Informace od „lidí jako my“ nebo informace, které jsou v souladu s postojem skupiny, jsou přijímány snáze. (Úzce souvisí s politickou identitou v kategorii 5.) — Sultan et al. (2024)\n
    • \n
  • Homofilie sítí / ozvěny: Když se lidé setkávají s informacemi převážně prostřednictvím sítí podobně smýšlejících lidí, zdá se, že určité názory jsou sdíleny v širším měřítku, než je tomu ve skutečnosti. (Viz také D1G5.) — Cinelli et al. (2021)\n

    4. Kontextové / situační faktory — podmínky, za kterých se lidé setkávají s informacemi

    \n
    • \n
  • Časový tlak: Když lidé musí informace posoudit rychle, rozlišují pravdivé a nepravdivé tvrzení méně přesně. — Sultan et al. (2022)\n
    • \n
  • Informační přetížení: Když se najednou objeví příliš mnoho informací, lidé se uchylují k zkratkám, jako jsou titulky, emoce, označení zdroje nebo popularita. — Laato et al. (2020)\n
    • \n
  • Rozptýlení / kognitivní zátěž: Když je pozornost upoutána jinam, lidé mohou sdílet informace bez ověření jejich přesnosti, i když by jinak mohli dezinformaci rozpoznat. — Pennycook et al. (2020)\n
    • \n
  • Krizové / nejisté situace (pandemie, válka, katastrofy): Naléhavá potřeba vysvětlení zvyšuje otevřenost vůči nepravdivým nebo předčasným tvrzením. — Roozenbeek et al. (2020)\n
    • \n
  • Návrh platformy: Zprávy, oznámení, systémy doporučení, automatické přehrávání a rychlé posouvání podporují spíše reaktivní než reflexivní chování. (Viz také D1G1.) — Lorenz-Spreen et al. (2020)\n

    5. Kontextové a dispoziční faktory — kdo může být v konkrétních situacích více či méně zranitelný

    \n
    • \n
  • Věk: Starší dospělí někdy ve studiích lépe rozlišují pravdivé a nepravdivé titulky, ale online sdílejí dezinformace častěji. — Guess, Nagler & Tucker (2019)\n
    • \n
  • Vzdělání: Není automatickou ochranou; metaanalýzy neprokazují žádný jednoznačný vliv na rozlišování dezinformací. — Sultan et al. (2024)\n
    • \n
  • Politická identita a předchozí přesvědčení: Určují, které informace se jeví jako věrohodné, ohrožující, důvěryhodné nebo hodné sdílení. (Funguje prostřednictvím kognice chránící identitu v kategorii 2 a signálů uvnitř skupiny v kategorii 3 — nejde o čistě demografickou proměnnou.) — Sultan et al. (2024)\n
    • \n
  • Zvyky v oblasti mediální gramotnosti: Lidé, kteří porovnávají zdroje, čtou více než jen titulky a rozpoznávají manipulační techniky, se méně spoléhají na emocionální nebo sociální zkratky. (Poznámka: toto je samotný vzdělávací cíl SciLMi — zde uvedený jako zdokumentovaná ochranná dispozice, nikoli jako předpoklad.) — Guess et al. (2020)\n
    • \n
\n
\n
\n
\n
\n\n
    \n
  • \nAvram, M., Micallef, N., Patil, S., & Menczer, F. (2020). Vystavení metrikám sociálního zapojení zvyšuje zranitelnost vůči dezinformacím. Harvard Kennedy School (HKS) Misinformation Review\n, 1\n(5). https://doi.org/10.37016/mr-2020-033\n
    • \n
  • \nBrady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Emoce formují šíření moralizujícího obsahu v sociálních sítích. Proceedings of the National Academy of Sciences\n, 114\n(28), 7313–7318. https://doi.org/10.1073/pnas.1618923114\n
    • \n
  • \nCinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). The echo chamber effect on social media. Proceedings of the National Academy of Sciences\n, 118\n(9), e2023301118. https://doi.org/10.1073/pnas.2023301118\n
    • \n
  • \nDouglas, K. M., Sutton, R. M., & Cichocka, A. (2017). Psychologie konspiračních teorií. Current Directions in Psychological Science\n, 26\n(6), 538–542. https://doi.org/10.1177/0963721417718261\n
    • \n
  • \nGuess, A., Nagler, J., & Tucker, J. (2019). Méně, než si myslíte: Prevalence a prediktory šíření falešných zpráv na Facebooku. Science Advances\n, 5\n(1), eaau4586. https://doi.org/10.1126/sciadv.aau4586\n
    • \n
  • \nJones-Jang, S. M., Mortensen, T., & Liu, J. (2021). Pomáhá mediální gramotnost při identifikaci falešných zpráv? Informační gramotnost pomáhá, ale jiné druhy gramotnosti nikoli. American Behavioral Scientist\n, 65\n(2), 371–388. https://doi.org/10.1177/0002764219869406\n
    • \n
  • Kahan, D. M. (2013). Ideologie, motivované uvažování a kognitivní reflexe. Judgment and Decision Making, 8(4), 407–424.\n
    • \n
  • \nKahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Motivovaná matematická gramotnost a osvícená samospráva. Behavioural Public Policy\n, 1\n(1), 54–86. https://doi.org/10.1017/bpp.2016.2\n
    • \n
  • \nLaato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). Co vede ke sdílení neověřených informací a kyberchondrii během pandemie COVID-19? European Journal of Information Systems\n, 29\n(3), 288–305. https://doi.org/10.1080/0960085X.2020.1770632\n
    • \n
  • \nLorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). Jak mohou behaviorální vědy podporovat pravdu, autonomii a demokratický diskurz online. Nature Human Behaviour\n, 4\n(11), 1102–1109. https://doi.org/10.1038/s41562-020-0889-7\n
    • \n
  • \nMartel, C., Pennycook, G., & Rand, D. G. (2020). Spoléhání se na emoce podporuje víru ve falešné zprávy. Cognitive Research: Principles and Implications\n, 5\n(1), 47. https://doi.org/10.1186/s41235-020-00252-3\n
    • \n
  • \nNickerson, R. S. (1998). Potvrzovací zkreslení: všudypřítomný jev v mnoha podobách. Review of General Psychology\n, 2\n(2), 175–220. https://doi.org/10.1037/1089-2680.2.2.175\n
    • \n
  • Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). O vnímání a odhalování pseudohlubokých nesmyslů. Judgment and Decision Making, 10(6), 549–563.\n
    • \n
  • \nPennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). Boj proti dezinformacím o COVID-19 na sociálních médiích: Experimentální důkazy pro škálovatelnou intervenci zaměřenou na zvýšení přesnosti. Psychological Science\n, 31\n(7), 770–780. https://doi.org/10.1177/0956797620939054\n
    • \n
  • \nPennycook, G., & Rand, D. G. (2019). Líný, ne zaujatý: Náchylnost k stranickým falešným zprávám lze lépe vysvětlit nedostatkem uvažování než motivovaným uvažováním. Cognition\n, 188\n, 39–50. https://doi.org/10.1016/j.cognition.2018.06.011\n
    • \n
  • \nReber, R., & Schwarz, N. (1999). Vliv vnímací plynulosti na posuzování pravdivosti. Consciousness and Cognition\n, 8\n(3), 338–342. https://doi.org/10.1006/ccog.1999.0386\n
    • \n
  • \nRoozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). Náchylnost k dezinformacím o COVID-19 po celém světě. Royal Society Open Science\n, 7\n(10), 201199. https://doi.org/10.1098/rsos.201199\n
    • \n
  • \nSultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). Časový tlak snižuje schopnost rozlišovat dezinformace, ale nemění zaujatost odpovědí. Scientific Reports\n, 12\n(1), 22416. https://doi.org/10.1038/s41598-022-26209-8\n
    • \n
  • \nSultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Náchylnost k online dezinformacím: Systematická metaanalýza demografických a psychologických faktorů. Proceedings of the National Academy of Sciences\n, 121\n(47), e2409329121. https://doi.org/10.1073/pnas.2409329121\n
    • \n
  • \nTraberg, C. S., & van der Linden, S. (2022). Ptáci stejného peří se navzájem ovlivňují: Vnímaná důvěryhodnost zdroje zprostředkovává vliv politické zaujatosti na náchylnost k dezinformacím. Osobnost a individuální rozdíly\n, 185\n, 111269. https://doi.org/10.1016/j.paid.2021.111269\n
    • \n
  • \nUnkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). Pravda opakováním: Vysvětlení a důsledky. Current Directions in Psychological Science\n, 28\n(3), 247–253. https://doi.org/10.1177/0963721419827854\n
    • \n
\n
\n
\n

☑ Logické klamy

\n
\n
\n\n
    \n
  • Zkontrolujte, zda nedochází k ukvapeným generalizacím – závěry vyvozené z příliš malého množství důkazů.\n
    • \n
  • Zkontrolujte falešná dilemata – omezení možností na dvě, i když jich existuje více.\n
    • \n
  • Zkontrolujte, zda se nejedná o argumenty typu „straw man“ – zkreslení postoje za účelem jeho snadného vyvrácení.\n
    • \n
  • Zkontrolujte, zda se nejedná o odvolávání se na nevědomost – tvrzení pravdy z důvodu absence důkazu o opaku.\n
    • \n
  • Zkontrolujte, zda se nejedná o odvolávání se na autoritu – předpokládání pravdy pouze na základě autority.\n
    • \n
  • Zkontrolujte, zda se nejedná o falešné stopy – odvádění pozornosti od hlavního problému.\n
    • \n
  • Zkontrolujte falešné příčiny – zaměňování korelace s kauzalitou.\n
    • \n
  • Zkontrolujte, zda se nejedná o argument ad hominem – útok na osobu, nikoli na argument.\n
    • \n
  • Zkontrolujte, zda se nejedná o argument ad populum – dokazování pravdy na základě popularity.\n
    • \n
  • Zkontrolujte, zda se nejedná o „kluzký svah“ – tvrzení, že jeden krok vede k extrémům.\n
    • \n
  • Zkontrolujte kruhové uvažování – použití závěru jako premisy.\n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

Dezinformace

\n

Dezinformace jsou nepravdivé nebo zavádějící informace, které záměrně šíří lidé, kteří vědí, že jsou nepravdivé, s úmyslem ublížit, oklamat nebo manipulovat. Definujícími rysy jsou jak vědomí nepravdivosti ze strany šířitele, tak i škodlivý úmysl.

\n

Mezi běžné formy patří operace politického ovlivňování, obchodní podvody, propaganda, smyšlený obsah a manipulovaná média. Dezinformace jsou často vytvářeny organizovanými aktéry a zesilovány prostřednictvím koordinovaného neautentického / umělého zesílení (viz výše).

\n

Zavádějící informace

\n

Zavádějící informace jsou pravdivé informace sdílené s úmyslem ublížit. Obsah samotný je přesný, ale jeho zveřejnění, rámcování nebo načasování je kalkulováno tak, aby poškodilo osobu, skupinu nebo instituci. Klasickým vzorem je záměrné přesunutí soukromých, citlivých nebo kontextově vázaných informací do veřejného nebo škodlivého kontextu.

\n

Mezi příklady patří zveřejnění uniklých soukromých komunikací za účelem diskreditace cíle, zveřejnění přesných, ale stigmatizujících osobních údajů (např. pomstychtivá pornografie) a strategické zveřejnění fakticky správných, ale kontextově škodlivých informací v okamžicích vypočítaných tak, aby měly maximální dopad.

\n

Dezinformace je z těchto tří kategorií nejméně diskutovanou, protože obsah není nepravdivý, což ji staví mimo rámec ověřování faktů. Tvoří však významnou součást ekologie informačního chaosu (Wardle & Derakhshan, 2017).

\n
\n
\n\n

Hranice jsou propustné. Tyto tři kategorie se v praxi často překrývají nebo posouvají:

\n
    \n
  • Dezinformace, jakmile ji sdílejí lidé, kteří jí upřímně věří, se při dalším šíření stává dezinformací. Stejný obsah může spadat do různých kategorií v závislosti na tom, kdo jej sdílí.\n
    • \n
  • Obsah může být částečně pravdivý a částečně nepravdivý. Wardle (2017) uvádí sedm forem informačního chaosu – včetně zavádějícího obsahu, falešného kontextu a manipulovaného obsahu – ne veškerý nepravdivý obsah je zcela smyšlený.\n
    • \n
  • Určit záměr zvenčí je empiricky obtížné. Bez přístupu k informacím o stavu znalostí a motivaci sdílejícího často nelze jednoznačně vymezit hranici mezi dezinformací a nepravdivou informací.\n

    Proto rámec žádá studenty, aby vysvětlili, proč je hranice mezi dezinformací a falešnou informací v praxi často obtížně určitelná.

    \n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

Halucinace / konfabulace AI

\n

Systematická tendence generativních systémů umělé inteligence vytvářet obsah, který zní věrohodně, ale je fakticky nesprávný, smyšlený nebo neověřitelný – včetně vymyšlených odkazů, neexistujících studií, nesprávně přiřazených citátů, smyšlených statistik a falešných biografických, historických nebo vědeckých detailů.

\n

K halucinacím dochází, protože generativní systémy AI vytvářejí výstupy předpovídáním věrohodných pokračování na základě vzorců naučených během tréninku, nikoli získáváním ověřených informací ze zdroje znalostí. Systém se optimalizuje pro plynulost a věrohodnost, nikoli pro přesnost. Vymyšlený obsah je obvykle prezentován se stejnou jistotou jako přesný obsah – neexistuje žádný interní signál, který by spolehlivě rozlišoval mezi těmito dvěma typy.

\n

V kontextu výzkumu se někdy upřednostňuje termín konfabulace před halucinací, protože konfabulace v psychologii označuje vytváření falešných, ale upřímně uvěřených výpovědí bez úmyslu klamat – což je blíže tomu, co generativní systémy ve skutečnosti dělají. Halucinace zůstává dominantním termínem ve veřejném a odborném diskurzu a je zde zachována.

\n

Halucinace nejsou náhodné chyby. Jsou strukturálním rysem základního generativního procesu, nikoli chybami, které lze spolehlivě eliminovat lepšími podněty (Kalai & Vempala, 2024). Vyskytují se ve všech generativních systémech – včetně ☑ RAG AI, kde si vymýšlení může také ovlivnit to, jak jsou vyhledané zdroje shrnovány, citovány nebo přiřazovány.

\n

Didaktické zařazení: Halucinace lze koncepčně zařadit jako čtvrtou kategorii vedle dezinformací, falešných informací a zavádějících informací. Na rozdíl od obou nejsou vytvářeny lidským zdrojem s úmyslem nebo omylem, ale vycházejí ze samotného generativního procesu – jedná se o systémem generovaný falešný obsah bez záměrného zdroje. Toto trojí rozlišení je zde nabízeno spíše jako pedagogicky užitečné rámcové pojetí než jako zavedená konsensuální terminologie.

\n

Běžné typy:

\n
    \n
  • vymyšlené odkazy – citace článků, knih nebo studií, které neexistují\n
    • \n
  • nesprávně přiřazené nebo smyšlené citáty\n
    • \n
  • vymyšlené statistiky nebo číselné údaje\n
    • \n
  • nepřesné biografické, historické nebo vědecké údaje prezentované s přesvědčením\n
    • \n
  • s jistotou nesprávné shrnutí skutečných zdrojů\n
    • \n
\n
\n
\n\n

Jakékoli faktické tvrzení generativního systému AI považujte za neověřené, dokud jej neporovnáte s nezávislým zdrojem. Odkazy a citace se ověřují obzvláště snadno — vyhledejte, zda citovaný zdroj existuje a obsahuje to, co tvrdí AI.

\n
\n
\n
\n
\n\n
    \n
  • \nBender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). O nebezpečích stochastických papoušků: Mohou být jazykové modely příliš velké? Sborník z konference ACM 2021 o spravedlnosti, odpovědnosti a transparentnosti (FAccT '21)\n, 610–623. https://doi.org/10.1145/3442188.3445922\n
    • \n
  • \nJi, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Průzkum halucinací při generování přirozeného jazyka. ACM Computing Surveys, 55\n(12), článek 248. https://doi.org/10.1145/3571730\n
    • \n
  • \nKalai, A. T., & Vempala, S. S. (2024). Kalibrované jazykové modely musí halucinovat. Sborník z 56. výročního sympozia ACM o teorii výpočetní techniky (STOC 2024)\n, 160–171. https://doi.org/10.1145/3618260.3649777\n
    • \n
  • \nSmith, A. L., Greaves, F., & Panch, T. (2023). Halucinace nebo konfabulace? Neuroanatomie jako metafora ve velkých jazykových modelech. PLOS Digital Health, 2\n(11), e0000388. https://doi.org/10.1371/journal.pdig.0000388\n
    • \n
\n
\n
\n

Zkreslení obsahu

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
FormátManipulaceVymyšlený
Textpravá citace vytržená z kontextu, upravený titulekvymyšlená citace, fiktivní článek, text generovaný umělou inteligencí
Obrázekretušovaná fotografie, oříznutý originálobrázek vygenerovaný umělou inteligencí, namalovaná falešná „fotografie“
Zvukupravená nebo zrychlená původní nahrávkaklon hlasu, řeč generovaná umělou inteligencí
Videolevný podvrh, sestříhané klipyzcela syntetické deepfake video
Dokumentpadělaný hlavičkový papír na upravené šabloněvymyšlený „oficiální“ dopis
\n

Vymyšlený obsah

\n

Vymyšlený obsah je informace – text, obrázek, zvuk, video, dokument nebo jiný formát – která byla zcela vymyšlena a nemá žádný skutečný zdrojový materiál. Může být vytvořena ručně (vymyšlené citáty, fiktivní novinové články) nebo synteticky generována systémy umělé inteligence (syntetická videa, klony hlasů, obrázky generované umělou inteligencí, texty napsané umělou inteligencí).

\n

Manipulovaný obsah

\n

Manipulovaný obsah jsou skutečné informace – text, obrázek, zvuk, video, dokument nebo jiný formát –, které byly pozměněny za účelem klamání. Zdrojový materiál je skutečný, ale je upraven prostřednictvím editace, selektivního oříznutí, úpravy rychlosti, změny kontextu, změny rámování, nahrazení hlasu nebo jiných transformací, které mění jeho význam nebo zdánlivý kontext.

\n

Levná padělka

\n

Levná padělka je médium, které bylo pozměněno pomocí konvenčních, široce dostupných nástrojů – softwaru pro úpravu obrázků, softwaru pro úpravu videa nebo základní rekontextualizace – spíše než generativními metodami založenými na AI. Tento termín vytvořili Paris a Donovan (2019), aby upozornili na skutečnost, že nejzávažnějšími formami manipulovaných médií ve veřejném diskurzu obvykle nejsou sofistikované deepfakes generované AI, ale jednoduché, nízkonákladové techniky, které může použít kdokoli.

\n

Mezi běžné techniky levných padělků patří:

\n
    \n
  • manipulace s rychlostí (např. zpomalené video Pelosiové, 2019)\n
    • \n
  • přestříhání a selektivní úpravy zvuku nebo videa\n
    • \n
  • rekontextualizaci (skutečná média prezentovaná s falešným titulkem nebo rámováním)\n
    • \n
  • retušování, ořezávání nebo kompozice fotografií\n
    • \n
  • vyměněné popisky a upravené snímky obrazovky\n
    • \n
  • sestřih zvuku\n
    • \n
\n

Zda levný padělek představuje dezinformaci, falešnou informaci nebo zavádějící informaci, závisí na znalostech a úmyslu aktéra (→ informační chaos), nikoli na samotné technice. Stejné upravené video může sloužit jako satira, fikce, vzdělávací materiál nebo podvod.

\n

Ve srovnání s deepfaky vyžadují levné padělky méně technických dovedností, ale nejsou nutně snáze odhalitelné – dobře provedená rekontextualizace nebo selektivní úprava mohou být bez přístupu k původnímu zdrojovému materiálu extrémně obtížné identifikovat.

\n
\n
\n\n
\n
\n
\n
\n
\n\n

Nástroje pro ověřování levných padělků:

\n
\n
\n
\n

Deep Fake

\n

Deep Fake

\n

Deepfake je syntetické médium generované umělou inteligencí – konkrétně pomocí technik hlubokého učení, jako jsou generativní soupeřící sítě (GAN), difúzní modely nebo generátory založené na transformátorech. Termín je složeninou slov deep learning (hluboké učení) a fake (padělek) a vznikl v roce 2017 v online komunitách produkujících videa s výměnou tváří generovaná umělou inteligencí. Od té doby se tato technologie rozšířila napříč různými typy médií a je nyní široce dostupná prostřednictvím nástrojů pro spotřebitele.

\n

Mezi běžné formy patří:

\n
    \n
  • Výměna tváří: nahrazení tváře jedné osoby tváří jiné osoby ve videu\n
    • \n
  • Klonování hlasu: syntéza hlasu mluvčího z malého zvukového vzorku\n
    • \n
  • Plně syntetické video: záběry generované umělou inteligencí, které zobrazují lidi, události nebo scény, které se nikdy nestaly\n
    • \n
  • Syntetická fotografie: AI generované statické obrázky fiktivních osob nebo událostí\n
    • \n
  • Text-to-video a text-to-audio: generování médií na základě písemných podnětů\n
    • \n
\n

To, zda deepfake představuje dezinformaci, falešnou informaci nebo zavádějící informaci, závisí na znalostech a úmyslu aktéra (→ informační chaos), nikoli na samotné technice. Metody deepfake se také legitimně používají ve filmové produkci, v nástrojích pro usnadnění přístupu (syntetické hlasy pro lidi, kteří o svůj hlas přišli), při dabingu, v satirických pořadech, ve vzdělávání a v umění.

\n

Ve srovnání s levnými padělky vyžadují deep fakes více technických kapacit k přesvědčivému vytvoření a mohou dosáhnout vyššího vizuálního nebo zvukového realismu. Nejsou však dominantní formou mediální manipulace ve veřejném diskurzu — Paris a Donovan (2019) poznamenávají, že jednodušší techniky levných padělků zůstávají běžnější a často mají závažnější důsledky. Detekce je aktivní oblastí výzkumu; současné přístupy kombinují analýzu artefaktů, kontroly biologické nesrovnalostí a ověřování původu (např. C2PA content credentials).

\n
\n
\n\n
    \n
  • \nParis, B., & Donovan, J. (2019). Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence\n. Data & Society Research Institute.https://datasociety.net/library/deepfakes-and-cheap-fakes/\n
    • \n
  • Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review, 107(6), 1753–1820.\n
    • \n
  • \nVaccari, C., & Chadwick, A. (2020). Deepfakes a dezinformace: Zkoumání dopadu syntetických politických videí na klamání, nejistotu a důvěru ve zprávy. Social Media + Society\n, 6(1), 1–13. https://doi.org/10.1177/2056305120903408\n
    • \n
\n
\n
\n
\n
\n\n

Nástroje pro ověřování deepfakes:

\n
\n
\n
","UPDATEDAT":"2026-05-11T20:49:09.513Z","LANG":"cs","ID":"3a2e66d9-94a9-482d-a20b-3c977e896fa3","TITLE":"Dezinformace a manipulace","SOURCELANG":"en"}