{"CACHEDAT":"2026-05-18 09:46:52","TRANSLATEDAT":"2026-05-18 09:46:52","SOURCESIGNATURE":"d992dbf82b8df3c3d6751f81da4e28e2e38e582e6600bbae60b4b53d656488d1","SLUG":"misinformation-manipulation-zXQJASygMf","MARKDOWN":"# Information Disorder\n\nWardle & Derakhshan (2017), in a foundational report for the Council of Europe, introduce *Information Disorder* as the umbrella term for false, misleading, or harmfully shared information in the public information environment. They distinguish three categories along two axes: whether the content is *false* or *true*, and whether it is shared with *intent to harm*.\n\n| Type | Content | Sharer's knowledge of falseness | Intent to harm |\n|------|---------|---------------------------------|----------------|\n| **Misinformation** | false or misleading | does not know | no |\n| **Disinformation** | false or misleading | knows | yes |\n| **Malinformation** | true | (not the criterion) | yes |\n\nThe three categories form an interconnected ecology: the same content item can move between them depending on who shares it and with what intent.\n\n### Fake News\n\nThe term *fake news* is widely used in public debate but analytically imprecise. It usually refers to false or misleading information presented in the style of news reporting. However, because the term can refer to different types of information disorder and is often used politically to discredit unwanted reporting, more precise terms such as *misinformation*, *disinformation*, *fabricated content*, *false context*, or *manipulated content* should be preferred.\n\n## Misinformation\n\nMisinformation is false or misleading information shared by people who do not realise it is false. The sharer believes the content is accurate; there is no intent to deceive or harm.\n\nMisinformation typically arises in fast-moving news situations (early reports with unconfirmed details), in passing along claims without checking accuracy, and in repeating information from trusted sources that turn out to be wrong. It can be as widespread and consequential as disinformation, despite the absence of malicious intent — its sharers are often genuinely motivated and trusted within their networks, which gives the content reach and perceived credibility (Lewandowsky et al., 2017).\n\n### Misinformation Susceptibility Factors\n\n\n:::success\n**1. Cognitive factors** — how information is processed\n\n* **Confirmation bias**: People pay more attention to information that supports what they already believe, and scrutinise opposing information more harshly. — Nickerson (1998)\n* **Illusory truth effect**: Claims can feel more believable simply because people have seen them before, even when they are false. — Unkelbach et al. (2019)\n* **Processing fluency**: Information that is easy to read, familiar in wording, or visually clear feels more trustworthy than information that is harder to process. — Reber & Schwarz (1999)\n* **Low cognitive reflection**: People who rely on quick, intuitive judgements rather than pausing to check are more likely to fall for false claims. — Pennycook & Rand (2019)\n* **Bullshit receptivity**: Some people are inclined to find vague but impressive-sounding statements meaningful, even when they are empty. — Pennycook et al. (2015)\n* **Low numeracy / scientific literacy**: People may struggle to evaluate statistics, graphs, risk statements, or scientific evidence; education alone is no automatic protection. — Kahan et al. (2017)\n\n**2. Affective / motivational factors** — how emotions and identity shape judgement\n\n* **Emotional reasoning / reliance on emotion**: People accept claims because they feel right, frightening, satisfying, or morally urgent, rather than because they have been checked. — Martel, Pennycook & Rand (2020)\n* **Specific emotions** (anger, fear, moral outrage): Strong emotions can lead people to react quickly and share before checking; moral-emotional language is especially powerful in spreading political content. (Belief and sharing are distinct effects with different evidence.) — Brady et al. (2017); Martel et al. (2020)\n* **Identity-protective cognition**: People process information in ways that protect their political, religious, or group identity, and resist evidence that would threaten it. (Closely linked to *political identity* in category 5.) — Kahan (2013, 2017)\n* **Conspiracy mindset**: A general tendency to suspect hidden plots or powerful actors behind events makes conspiracy-style misinformation more plausible. — Douglas, Sutton & Cichocka (2017)\n\n**3. Social factors** — whom and which groups people trust\n\n* **Source credibility / trust in the sender**: How believable a claim feels depends on who appears to be saying it — a friend, an influencer, an expert, a politician, a news outlet, or an anonymous account. — Traberg & van der Linden (2022)\n* **Social proof / popularity cues**: Likes, shares, views, and comments can act as credibility cues, although the effect depends on context. — Avram et al. (2020)\n* **In-group / partisan congruency**: Information from \"people like us\", or aligned with a group's position, is accepted more easily. (Closely linked to *political identity* in category 5.) — Sultan et al. (2024)\n* **Network homophily / echo chambers**: When people mostly encounter information through networks of similar others, certain views appear more widely shared than they really are. (See also D1G5.) — Cinelli et al. (2021)\n\n**4. Contextual / situational factors** — the conditions under which people meet information\n\n* **Time pressure**: When people have to judge information quickly, they distinguish true from false claims less accurately. — Sultan et al. (2022)\n* **Information overload**: When too much information arrives at once, people fall back on shortcuts like headlines, emotion, source labels, or popularity. — Laato et al. (2020)\n* **Distraction / cognitive load**: When attention is drawn elsewhere, people may share without checking accuracy, even if they could otherwise recognise the misinformation. — Pennycook et al. (2020)\n* **Crisis / uncertainty contexts** (pandemics, war, disasters): Urgent need for explanation increases openness to false or premature claims. — Roozenbeek et al. (2020)\n* **Platform design**: Feeds, notifications, recommendation systems, autoplay, and fast scrolling encourage reactive rather than reflective behaviour. (See also D1G1.) — Lorenz-Spreen et al. (2020)\n\n**5. Background and dispositional factors** — who may be more or less vulnerable in specific contexts\n\n* **Age**: Older adults sometimes distinguish true from false headlines better in studies, but share misinformation more often online. — Guess, Nagler & Tucker (2019)\n* **Education**: Not an automatic shield; meta-analyses show no simple effect on misinformation discrimination. — Sultan et al. (2024)\n* **Political identity and prior beliefs**: Shape which information feels plausible, threatening, trustworthy, or worth sharing. (Operates via identity-protective cognition in category 2 and in-group cues in category 3 — not purely a demographic variable.) — Sultan et al. (2024)\n* **Media literacy habits**: People who compare sources, read beyond headlines, and recognise manipulation techniques rely less on emotional or social shortcuts. *(Note: this is the learning goal of SciLMi itself — listed here as a documented protective disposition, not as a prerequisite.)* — Guess et al. (2020)\n\n:::\n\n\n:::info\n* Avram, M., Micallef, N., Patil, S., & Menczer, F. (2020). Exposure to social engagement metrics increases vulnerability to misinformation. *Harvard Kennedy School (HKS) Misinformation Review*, *1*(5). \n* Brady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Emotion shapes the diffusion of moralized content in social networks. *Proceedings of the National Academy of Sciences*, *114*(28), 7313–7318. \n* Cinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). The echo chamber effect on social media. *Proceedings of the National Academy of Sciences*, *118*(9), e2023301118. \n* Douglas, K. M., Sutton, R. M., & Cichocka, A. (2017). The psychology of conspiracy theories. *Current Directions in Psychological Science*, *26*(6), 538–542. \n* Guess, A., Nagler, J., & Tucker, J. (2019). Less than you think: Prevalence and predictors of fake news dissemination on Facebook. *Science Advances*, *5*(1), eaau4586. \n* Jones-Jang, S. M., Mortensen, T., & Liu, J. (2021). Does media literacy help identification of fake news? Information literacy helps, but other literacies don't. *American Behavioral Scientist*, *65*(2), 371–388. \n* Kahan, D. M. (2013). Ideology, motivated reasoning, and cognitive reflection. *Judgment and Decision Making*, *8*(4), 407–424.\n* Kahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Motivated numeracy and enlightened self-government. *Behavioural Public Policy*, *1*(1), 54–86. \n* Laato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). What drives unverified information sharing and cyberchondria during the COVID-19 pandemic? *European Journal of Information Systems*, *29*(3), 288–305. \n* Lorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). How behavioural sciences can promote truth, autonomy and democratic discourse online. *Nature Human Behaviour*, *4*(11), 1102–1109. \n* Martel, C., Pennycook, G., & Rand, D. G. (2020). Reliance on emotion promotes belief in fake news. *Cognitive Research: Principles and Implications*, *5*(1), 47. \n* Nickerson, R. S. (1998). Confirmation bias: A ubiquitous phenomenon in many guises. *Review of General Psychology*, *2*(2), 175–220. \n* Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). On the reception and detection of pseudo-profound bullshit. *Judgment and Decision Making*, *10*(6), 549–563.\n* Pennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). Fighting COVID-19 misinformation on social media: Experimental evidence for a scalable accuracy-nudge intervention. *Psychological Science*, *31*(7), 770–780. \n* Pennycook, G., & Rand, D. G. (2019). Lazy, not biased: Susceptibility to partisan fake news is better explained by lack of reasoning than by motivated reasoning. *Cognition*, *188*, 39–50. \n* Reber, R., & Schwarz, N. (1999). Effects of perceptual fluency on judgments of truth. *Consciousness and Cognition*, *8*(3), 338–342. \n* Roozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). Susceptibility to misinformation about COVID-19 around the world. *Royal Society Open Science*, *7*(10), 201199. \n* Sultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). Time pressure reduces misinformation discrimination ability but does not alter response bias. *Scientific Reports*, *12*(1), 22416. \n* Sultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Susceptibility to online misinformation: A systematic meta-analysis of demographic and psychological factors. *Proceedings of the National Academy of Sciences*, *121*(47), e2409329121. \n* Traberg, C. S., & van der Linden, S. (2022). Birds of a feather are persuaded together: Perceived source credibility mediates the effect of political bias on misinformation susceptibility. *Personality and Individual Differences*, *185*, 111269. \n* Unkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). Truth by repetition: Explanations and implications. *Current Directions in Psychological Science*, *28*(3), 247–253. \n\n:::\n\n### ☑ Logical Fallacies\n\n\n:::success\n- [ ] Check for hasty generalisations - Conclusion from too little evidence.\n- [ ] Check for false dilemmas - Limiting options to two when more exist.\n- [ ] Check for straw man arguments - Misrepresenting a position to refute it easily.\n- [ ] Check for appeals to ignorance - Claiming truth due to lack of disproof.\n- [ ] Check for appeals to authority - Assuming truth based on authority alone.\n- [ ] Check for red herrings - Distracting from the main issue.\n- [ ] Check for false causes - Confusing correlation with causation.\n- [ ] Check for ad hominem - Attacking the person, not the argument. \n- [ ] Check for ad populum - Arguing truth from popularity.\n- [ ] Check for slippery slopes - Asserting one step leads to extremes.\n- [ ] Check for circular reasoning - Using the conclusion as a premise.\n\n:::\n\n\n:::tip\n* \n* \n* \n\n:::\n\n## Disinformation\n\nDisinformation is false or misleading information shared deliberately, by people who know it is false, with the intent to harm, deceive, or manipulate. Both the sharer's awareness of the falseness and the harmful intent are definitional features.\n\nCommon forms include political influence operations, commercial deception, propaganda, fabricated content, and manipulated media. Disinformation is often produced by organised actors and amplified through *Coordinated Inauthentic / Artificial Amplification* (above).\n\n## Malinformation\n\nMalinformation is *true* information shared with intent to harm. The content itself is accurate, but its release, framing, or timing is calculated to damage a person, group, or institution. The classical pattern is the deliberate movement of private, sensitive, or context-bound information into a public or harmful context.\n\nExamples include the publication of leaked private communications to discredit a target, the release of accurate but stigmatising personal data (e.g. revenge porn), and the strategic disclosure of factually correct but contextually damaging information at moments calculated for maximum impact.\n\nMalinformation is the least-discussed of the three categories because the content is not false, which places it outside fact-checking frameworks. But it forms a significant part of the information-disorder ecology (Wardle & Derakhshan, 2017).\n\n\n:::warning\n**The boundaries are porous.**\n\nThe three categories often overlap or shift in practice:\n\n* A piece of *disinformation*, once shared by people who genuinely believe it, becomes *misinformation* as it spreads further. The same content can sit in different categories depending on who shares it.\n* Content can be partly true and partly false. Wardle (2017) lists seven forms within information disorder — including *misleading content*, *false context*, and *manipulated content* — not all false content is fully fabricated.\n* Determining intent from outside is empirically hard. Without access to the sharer's knowledge state and motivation, the line between misinformation and disinformation often cannot be drawn definitively.\n\nThis is why the framework asks learners to *explain why the boundary between misinformation and disinformation is often difficult to determine in practice*.\n\n:::\n\n\n:::info\n* Wardle, C., & Derakhshan, H. (2017). *Information Disorder: Toward an interdisciplinary framework for research and policy making*. Council of Europe Report DGI(2017)09. \n* Wardle, C. (2017). Fake news. It's complicated. *First Draft News*. \n* Lewandowsky, S., Ecker, U. K. H., & Cook, J. (2017). Beyond misinformation: Understanding and coping with the \"post-truth\" era. *Journal of Applied Research in Memory and Cognition*, 6(4), 353–369. \n* Vraga, E. K., & Bode, L. (2020). Defining misinformation and understanding its bounded nature. *Political Communication*, 37(1), 136–144. \n\n:::\n\n# AI Hallucination / Confabulation\n\nThe systematic tendency of generative AI systems to produce plausible-sounding content that is factually incorrect, fabricated, or unverifiable — including invented references, non-existent studies, misattributed quotations, made-up statistics, and false biographical, historical, or scientific details.\n\nHallucinations occur because generative AI systems produce output by predicting plausible continuations from patterns learned during training, not by retrieving verified information from a knowledge source. The system optimises for fluency and plausibility, not for accuracy. Fabricated content is typically presented with the same confidence as accurate content — there is no internal signal that reliably distinguishes the two.\n\nThe term **confabulation** is sometimes preferred over **hallucination** in research contexts, since confabulation in psychology denotes the construction of false but sincerely believed accounts without intent to deceive — closer to what generative systems actually do. *Hallucination* remains the dominant term in public and technical discourse and is retained here.\n\n**Hallucinations are not occasional bugs.** They are a structural feature of the underlying generation process, not errors that can be reliably eliminated through better prompting (Kalai & Vempala, 2024). They occur across all generative systems — including ☑ RAG AI, where fabrication can also affect how retrieved sources are summarised, quoted, or attributed.\n\n**Didactic positioning:** Hallucinations can be located conceptually as a forth category alongside *misinformation, disinformation*, and *malinformation*. Unlike both, they are not produced by a human source with intent or error in mind, but emerge from the generation process itself — system-generated false content without an intentional source. This three-way distinction is offered here as a pedagogically useful framing rather than as established consensus terminology.\n\n**Common types:**\n\n* fabricated references — citations to articles, books, or studies that do not exist\n* misattributed or fabricated quotations\n* invented statistics or numerical claims\n* inaccurate biographical, historical, or scientific details presented confidently\n* confidently incorrect summaries of real sources\n\n\n:::tip\nTreat any factual claim from a generative AI system as unverified until checked against an independent source. References and quotations are particularly easy to verify — search whether the cited source exists and contains what the AI claimed.\n\n:::\n\n\n:::info\n* Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? *Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21)*, 610–623. \n* Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. *ACM Computing Surveys, 55*(12), Article 248. \n* Kalai, A. T., & Vempala, S. S. (2024). Calibrated language models must hallucinate. *Proceedings of the 56th Annual ACM Symposium on Theory of Computing (STOC 2024)*, 160–171. \n* Smith, A. L., Greaves, F., & Panch, T. (2023). Hallucination or confabulation? Neuroanatomy as metaphor in large language models. *PLOS Digital Health, 2*(11), e0000388. \n\n:::\n\n# Content Misrepresentation\n\n| Format | Manipulated | Fabricated |\n|--------|-------------|------------|\n| Text | genuine quote stripped of context, doctored headline | invented quote, fictional article, AI-generated text |\n| Image | retouched photograph, cropped original | AI-generated image, painted fake \"photograph\" |\n| Audio | edited or sped-up original recording | voice clone, AI-generated speech |\n| Video | cheap fake, recut clips | fully synthetic deepfake video |\n| Document | forged letterhead on modified template | invented \"official\" letter |\n\n## Fabricated Content\n\n**Fabricated content** is information — text, image, audio, video, document, or other format — that has been entirely invented, with no genuine source material. It may be produced manually (invented quotes, fictional news articles) or generated synthetically by AI systems (synthetic videos, voice clones, AI-generated images, AI-written text).\n\n## Manipulated Content\n\n**Manipulated content** is geniune information — text, image, audio, video, document, or other format — that has been altered to deceive. The source material is real, but it is modified through editing, selective cropping, speed adjustment, recontextualisation, framing changes, voice substitution, or other transformations that change its meaning or apparent context.\n\n### Cheap Fake\n\nA **cheap fake** is media that has been altered using conventional, widely available tools — image editing software, video editing software, or basic recontextualisation — rather than AI-based generative methods. The term was coined by Paris and Donovan (2019) to draw attention to the fact that the most consequential forms of manipulated media in public discourse are typically not sophisticated AI-generated deepfakes, but simple, low-cost techniques that anyone can apply.\n\nCommon cheap fake techniques include:\n\n* speed manipulation (e.g. the slowed-down Pelosi video, 2019)\n* recutting and selective editing of audio or video\n* recontextualisation (real media presented with a false caption or framing)\n* photo retouching, cropping, or compositing\n* swapped captions and doctored screenshots\n* audio splicing\n\nWhether a cheap fake constitutes *Misinformation*, *Disinformation*, or *Malinformation* depends on the actor's knowledge and intent (→ *Information Disorder*), not on the technique itself. The same edited video can serve satire, fiction, education, or deception.\n\nCompared with *Deep Fakes*, cheap fakes require less technical skill but are not necessarily easier to detect — well-executed recontextualisation or selective editing can be extremely difficult to identify without access to the original source material.\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence*. Data & Society Research Institute. \n\n:::\n\n\n:::tip\nCheap Fake Verification Tools: \n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n### Deep Fake\n\n### Deep Fake\n\nA **deep fake** is synthetic media generated by artificial intelligence — specifically using deep learning techniques such as generative adversarial networks (GANs), diffusion models, or transformer-based generators. The term is a portmanteau of *deep learning* and *fake*, originating in 2017 in online communities producing AI-generated face-swap videos. The technology has since expanded across media types and is now broadly accessible through consumer-level tools.\n\nCommon forms include:\n\n* **Face swaps**: replacing one person's face with another's in video\n* **Voice cloning**: synthesising a speaker's voice from a small audio sample\n* **Full synthetic video**: AI-generated footage showing people, events, or scenes that never occurred\n* **Synthetic photography**: AI-generated still images of fictional people or events\n* **Text-to-video and text-to-audio**: generating media from written prompts\n\nWhether a deep fake constitutes *Misinformation*, *Disinformation*, or *Malinformation* depends on the actor's knowledge and intent (→ *Information Disorder*), not on the technique itself. Deep fake methods are also used legitimately in film production, accessibility tools (synthetic voices for people who have lost theirs), language dubbing, satire, education, and the arts.\n\nCompared with *Cheap Fakes*, deep fakes require more technical capacity to produce convincingly and can achieve higher visual or auditory realism. They are not, however, the dominant form of media manipulation in public discourse — Paris and Donovan (2019) note that simpler cheap-fake techniques remain more common and often more consequential. Detection is an active research area; current approaches combine artefact analysis, biological inconsistency checks, and provenance verification (e.g. C2PA content credentials).\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence*. Data & Society Research Institute. \n* Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. *California Law Review*, 107(6), 1753–1820.\n* Vaccari, C., & Chadwick, A. (2020). Deepfakes and disinformation: Exploring the impact of synthetic political video on deception, uncertainty, and trust in news. *Social Media + Society*, 6(1), 1–13. \n\n:::\n\n\n:::tip\nDeep Fake Verification Tools: \n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n\n##","HTML":"

Információs zavar

\n

Wardle és Derakhshan (2017) az Európa Tanács számára készített alapvető jelentésükben az információs zavart mint a nyilvános információs környezetben megjelenő hamis, félrevezető vagy káros szándékkal megosztott információk gyűjtőfogalmát vezetik be. Két tengely mentén három kategóriát különböztetnek meg: attól függően, hogy a tartalom hamis vagy igaz, illetve hogy káros szándékkal osztják-e meg.

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
TípusTartalomA megosztó tudatossága a hamisságrólÁrtalmas szándék
Téves információhamis vagy félrevezetőnem tudjanem
Dezinformációhamis vagy félrevezetőtudjaigen
Helytelen információigaz(nem a kritérium)igen
\n

A három kategória egymással összekapcsolt ökoszisztémát alkot: ugyanaz a tartalom mozoghat közöttük attól függően, hogy ki osztja meg és milyen szándékkal.

\n

Hamis hírek

\n

A hamis hírek kifejezést széles körben használják a nyilvános vitákban, de analitikai szempontból pontatlan. Általában olyan hamis vagy félrevezető információkra utal, amelyeket hírműsorok stílusában tálalnak. Mivel azonban a kifejezés különböző típusú információs zavarokra utalhat, és gyakran használják politikai célokra a nemkívánatos riportok hiteltelenítésére, pontosabb kifejezéseket, például téves információ, dezinformáció, kitalált tartalom, hamis kontextus vagy manipulált tartalom használata lenne előnyösebb.

\n

Téves információ

\n

A téves információ olyan hamis vagy félrevezető információ, amelyet olyan emberek osztanak meg, akik nem veszik észre, hogy hamis. A megosztó úgy véli, hogy a tartalom pontos; nincs szándéka megtéveszteni vagy kárt okozni.

\n

A téves információk általában gyorsan változó híresemények során (megerősítetlen részleteket tartalmazó korai jelentések), a pontosság ellenőrzése nélküli állítások továbbadása, valamint olyan megbízható forrásokból származó információk ismétlése során keletkeznek, amelyekről később kiderül, hogy tévesek. A rosszindulat hiányában is ugyanolyan elterjedt és következményes lehet, mint a dezinformáció – megosztói gyakran őszinte szándékkal cselekszenek, és hálózatukon belül megbízhatóak, ami a tartalomnak elterjedést és látszólagos hitelességet biztosít (Lewandowsky et al., 2017).

\n

A téves információkra való fogékonyságot befolyásoló tényezők

\n
\n
\n\n

1. Kognitív tényezők – az információ feldolgozásának módja

\n
    \n
  • Megerősítő torzítás: Az emberek nagyobb figyelmet fordítanak azokra az információkra, amelyek alátámasztják azt, amiben már eleve hisznek, és az ellenkező információkat szigorúbban vizsgálják. — Nickerson (1998)\n
    • \n
  • Illuzórikus igazsághatás: Az állítások egyszerűen azért tűnhetnek hihetőbbnek, mert az emberek már látták őket korábban, még akkor is, ha hamisak. — Unkelbach et al. (2019)\n
    • \n
  • Feldolgozási folyékonyság: Azok az információk, amelyek könnyen olvashatók, ismerős megfogalmazásúak vagy vizuálisan egyértelműek, megbízhatóbbnak tűnnek, mint azok, amelyek feldolgozása nehezebb. — Reber & Schwarz (1999)\n
    • \n
  • Alacsony kognitív reflexió: Azok az emberek, akik inkább a gyors, intuitív ítéletekre támaszkodnak, ahelyett, hogy megállnának ellenőrizni, nagyobb valószínűséggel dőlnek be a hamis állításoknak. — Pennycook & Rand (2019)\n
    • \n
  • A baromságok iránti fogékonyság: Egyes emberek hajlamosak a homályos, de lenyűgözően hangzó kijelentéseket értelmesnek találni, még akkor is, ha azok tartalmatlanok. — Pennycook et al. (2015)\n
    • \n
  • Alacsony számolási / tudományos ismeretek: Az embereknek nehézséget okozhat a statisztikák, grafikonok, kockázati nyilatkozatok vagy tudományos bizonyítékok értékelése; az oktatás önmagában nem jelent automatikus védelmet. — Kahan et al. (2017)\n

    2. Érzelmi / motivációs tényezők — hogyan alakítják az érzelmek és az identitás az ítéletalkotást

    \n
    • \n
  • Érzelmi érvelés / az érzelmekre való támaszkodás: Az emberek azért fogadják el az állításokat, mert azok helyesnek, ijesztőnek, kielégítőnek vagy erkölcsileg sürgetőnek tűnnek, nem pedig azért, mert ellenőrizték őket. — Martel, Pennycook & Rand (2020)\n
    • \n
  • Konkrét érzelmek (harag, félelem, erkölcsi felháborodás): Az erős érzelmek arra késztethetik az embereket, hogy gyorsan reagáljanak és megosszák az információt ellenőrzés nélkül; az erkölcsi-érzelmi nyelv különösen hatékony a politikai tartalmak terjesztésében. (A meggyőződés és a megosztás különálló hatások, amelyekre különböző bizonyítékok vonatkoznak.) — Brady et al. (2017); Martel et al. (2020)\n
    • \n
  • Identitásvédő gondolkodás: Az emberek úgy dolgozzák fel az információkat, hogy megvédjék politikai, vallási vagy csoportos identitásukat, és ellenállnak az azt fenyegető bizonyítékoknak. (Szorosan kapcsolódik az 5. kategóriában szereplő politikai identitáshoz.) — Kahan (2013, 2017)\n
    • \n
  • Összeesküvés-gondolkodásmód: Az a általános tendencia, hogy az események mögött rejtett összeesküvéseket vagy hatalmas szereplőket sejtenek, hitelesebbé teszi az összeesküvés-jellegű félrevezető információkat. — Douglas, Sutton & Cichocka (2017)\n

    3. Társadalmi tényezők — kiben és mely csoportokban bíznak az emberek

    \n
    • \n
  • A forrás hitelessége / a küldő iránti bizalom: Az, hogy egy állítás mennyire hihetőnek tűnik, attól függ, ki mondja – egy barát, egy influencer, egy szakértő, egy politikus, egy hírügynökség vagy egy névtelen fiók. — Traberg & van der Linden (2022)\n
    • \n
  • Társadalmi bizonyíték / népszerűségi jelek: A lájkolások, megosztások, megtekintések és kommentek hitelességi jelekként szolgálhatnak, bár a hatás a kontextustól függ. — Avram et al. (2020)\n
    • \n
  • Csoporton belüli / párti összhang: A „hozzánk hasonló emberektől” származó, vagy egy csoport álláspontjával összhangban lévő információkat könnyebben fogadják el. (Szorosan kapcsolódik az 5. kategóriában szereplő politikai identitáshoz.) — Sultan et al. (2024)\n
    • \n
  • Hálózati homofília / visszhangkamrák: Amikor az emberek többnyire hasonló gondolkodású emberek hálózatain keresztül találkoznak információkkal, bizonyos nézetek szélesebb körben elterjedtnek tűnnek, mint amilyenek valójában. (Lásd még D1G5.) — Cinelli et al. (2021)\n

    4. Kontextuális / szituációs tényezők — azok a körülmények, amelyek között az emberek az információkkal találkoznak

    \n
    • \n
  • Időnyomás: Amikor az embereknek gyorsan kell megítélniük az információkat, kevésbé pontosan különböztetik meg a valós és a hamis állításokat. — Sultan et al. (2022)\n
    • \n
  • Információtúlterhelés: Amikor egyszerre túl sok információ érkezik, az emberek olyan rövidítésekre támaszkodnak, mint a címsorok, az érzelmek, a források megjelölése vagy a népszerűség. — Laato et al. (2020)\n
    • \n
  • Figyelemelterelés / kognitív terhelés: Amikor a figyelem másra irányul, az emberek a pontosság ellenőrzése nélkül oszthatják meg az információt, még akkor is, ha egyébként felismernék a téves információt. — Pennycook et al. (2020)\n
    • \n
  • Válság / bizonytalanság (pandémiák, háború, katasztrófák): A magyarázat iránti sürgető igény növeli a hamis vagy elhamarkodott állítások iránti fogékonyságot. — Roozenbeek et al. (2020)\n
    • \n
  • A platform kialakítása: A hírfolyamok, értesítések, ajánló rendszerek, automatikus lejátszás és gyors görgetés inkább a reaktív, mint a reflektív viselkedést ösztönzik. (Lásd még D1G1.) — Lorenz-Spreen et al. (2020)\n

    5. Háttér- és személyiségbeli tényezők — kik lehetnek többé-kevésbé sebezhetőek bizonyos helyzetekben

    \n
    • \n
  • Kor: Az idősebb felnőttek a tanulmányokban néha jobban megkülönböztetik a valódi és a hamis címsorokat, de online gyakrabban osztanak meg téves információkat. — Guess, Nagler & Tucker (2019)\n
    • \n
  • Oktatás: Nem automatikus védelem; a metaanalízisek nem mutatnak egyszerű hatást a téves információk megkülönböztetésére. — Sultan et al. (2024)\n
    • \n
  • Politikai identitás és korábbi meggyőződések: Meghatározzák, hogy mely információk tűnnek hihetőnek, fenyegetőnek, megbízhatónak vagy megosztásra érdemesnek. (A 2. kategóriában az identitásvédő kognitív folyamatok, a 3. kategóriában pedig a csoporton belüli jelzések révén működik — nem pusztán demográfiai változó.) — Sultan et al. (2024)\n
    • \n
  • Médiatudatossági szokások: Azok az emberek, akik összehasonlítják a forrásokat, a címsorokon túl is elolvasnak, és felismerik a manipulációs technikákat, kevésbé támaszkodnak érzelmi vagy társadalmi rövidítésekre. (Megjegyzés: ez maga a SciLMi tanulási célja — itt dokumentált védelmi hajlamként szerepel, nem pedig előfeltételként.) — Guess et al. (2020)\n
    • \n
\n
\n
\n
\n
\n\n
    \n
  • \nAvram, M., Micallef, N., Patil, S., & Menczer, F. (2020). A társadalmi elkötelezettségi mutatóknak való kitettség növeli a téves információk iránti sebezhetőséget. Harvard Kennedy School (HKS) Misinformation Review\n, 1\n(5). https://doi.org/10.37016/mr-2020-033\n
    • \n
  • \nBrady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Az érzelmek alakítják a morális tartalmak terjedését a közösségi hálózatokban. Proceedings of the National Academy of Sciences\n, 114\n(28), 7313–7318. https://doi.org/10.1073/pnas.1618923114\n
    • \n
  • \nCinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). A visszhangkamra-hatás a közösségi médiában. Proceedings of the National Academy of Sciences\n, 118\n(9), e2023301118. https://doi.org/10.1073/pnas.2023301118\n
    • \n
  • \nDouglas, K. M., Sutton, R. M., & Cichocka, A. (2017). Az összeesküvés-elméletek pszichológiája. A pszichológiai tudomány aktuális irányai\n, 26\n(6), 538–542. https://doi.org/10.1177/0963721417718261\n
    • \n
  • \nGuess, A., Nagler, J., & Tucker, J. (2019). Kevesebb, mint gondolnád: A hamis hírek terjedésének gyakorisága és előrejelzői a Facebookon. Science Advances\n, 5\n(1), eaau4586. https://doi.org/10.1126/sciadv.aau4586\n
    • \n
  • \nJones-Jang, S. M., Mortensen, T., & Liu, J. (2021). Segít-e a médiatudatosság a hamis hírek felismerésében? Az információs tudatosság segít, de más típusú tudatosságok nem. American Behavioral Scientist\n, 65\n(2), 371–388. https://doi.org/10.1177/0002764219869406\n
    • \n
  • Kahan, D. M. (2013). Ideológia, motivált érvelés és kognitív reflexió. Judgment and Decision Making, 8(4), 407–424.\n
    • \n
  • \nKahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Motivált számolási készség és felvilágosult önkormányzatiság. Behavioural Public Policy\n, 1\n(1), 54–86. https://doi.org/10.1017/bpp.2016.2\n
    • \n
  • \nLaato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). Mi ösztönzi a nem ellenőrzött információk megosztását és a cyberchondriát a COVID-19-járvány idején? European Journal of Information Systems\n, 29\n(3), 288–305. https://doi.org/10.1080/0960085X.2020.1770632\n
    • \n
  • \nLorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). Hogyan segítheti elő a viselkedéstudomány az igazságot, az autonómiát és a demokratikus diskurzust az interneten? Nature Human Behaviour\n, 4\n(11), 1102–1109. https://doi.org/10.1038/s41562-020-0889-7\n
    • \n
  • \nMartel, C., Pennycook, G., & Rand, D. G. (2020). Az érzelmekre való támaszkodás elősegíti a hamis hírekben való hitet. Kognitív kutatás: elvek és következmények\n, 5\n(1), 47. https://doi.org/10.1186/s41235-020-00252-3\n
    • \n
  • \nNickerson, R. S. (1998). Megerősítő torzítás: Sokféle formában megjelenő, mindenütt jelen lévő jelenség. Általános pszichológiai áttekintés\n, 2\n(2), 175–220. https://doi.org/10.1037/1089-2680.2.2.175\n
    • \n
  • Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). A látszólag mélyenszántó baromságok befogadása és felismerése. Judgment and Decision Making, 10(6), 549–563.\n
    • \n
  • \nPennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). A COVID-19-cel kapcsolatos téves információk elleni küzdelem a közösségi médiában: Kísérleti bizonyítékok egy skálázható, pontosságot ösztönző beavatkozásra. Psychological Science\n, 31\n(7), 770–780. https://doi.org/10.1177/0956797620939054\n
    • \n
  • \nPennycook, G., & Rand, D. G. (2019). Lusta, nem elfogult: A pártpolitikai álhírek iránti fogékonyságot jobban magyarázza az érvelés hiánya, mint a motivált érvelés. Cognition\n, 188\n, 39–50. https://doi.org/10.1016/j.cognition.2018.06.011\n
    • \n
  • \nReber, R., & Schwarz, N. (1999). A percepcionális folyékonyság hatása az igazság megítélésére. Consciousness and Cognition\n, 8\n(3), 338–342. https://doi.org/10.1006/ccog.1999.0386\n
    • \n
  • \nRoozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). A COVID-19-cel kapcsolatos téves információk iránti fogékonyság világszerte. Royal Society Open Science\n, 7\n(10), 201199. https://doi.org/10.1098/rsos.201199\n
    • \n
  • \nSultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). Az időnyomás csökkenti a téves információk felismerésének képességét, de nem változtatja meg a válaszok torzítását. Scientific Reports\n, 12\n(1), 22416. https://doi.org/10.1038/s41598-022-26209-8\n
    • \n
  • \nSultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Az online félrevezető információkra való fogékonyság: A demográfiai és pszichológiai tényezők szisztematikus metaanalízise. Proceedings of the National Academy of Sciences\n, 121\n(47), e2409329121. https://doi.org/10.1073/pnas.2409329121\n
    • \n
  • \nTraberg, C. S., & van der Linden, S. (2022). A madarak tollazata egyforma: a forrás hitelességének észlelése közvetíti a politikai elfogultság hatását a téves információkra való fogékonyságra. Personality and Individual Differences\n, 185\n, 111269. https://doi.org/10.1016/j.paid.2021.111269\n
    • \n
  • \nUnkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). Az igazság ismétléssel: magyarázatok és következmények. A pszichológiai tudomány aktuális irányai\n, 28\n(3), 247–253. https://doi.org/10.1177/0963721419827854\n
    • \n
\n
\n
\n

☑ Logikai tévedések

\n
\n
\n\n
    \n
  • Ellenőrizze a elhamarkodott általánosításokat – következtetés túl kevés bizonyíték alapján.\n
    • \n
  • Ellenőrizze a hamis dilemmákat – A lehetőségek két lehetőségre korlátozása, amikor több is létezik.\n
    • \n
  • Ellenőrizze a szalmabáb-érveket – Egy álláspont félreértelmezése annak könnyű cáfolata érdekében.\n
    • \n
  • Ellenőrizze, hogy nincs-e hivatkozás a tudatlanságra – igazságnak állítani valamit a cáfolat hiánya miatt.\n
    • \n
  • Ellenőrizze a tekintélyre hivatkozást – az igazságot kizárólag a tekintély alapján feltételezni.\n
    • \n
  • Ellenőrizze, hogy nincs-e szó elterelő manőverről – a figyelem elterelése a fő kérdésről.\n
    • \n
  • Ellenőrizze a hamis ok-okozati összefüggéseket – összekeveri a korrelációt az ok-okozati összefüggéssel.\n
    • \n
  • Ellenőrizze az ad hominem érveket – a személy támadása, nem az érv.\n
    • \n
  • Ellenőrizze az ad populum érvelést – az igazságot a népszerűség alapján bizonyítani.\n
    • \n
  • Ellenőrizze a lejtőn lefelé csúszás érvelést – az állítás, hogy egy lépés szélsőségekhez vezet.\n
    • \n
  • Ellenőrizze a körkörös érvelést – a következtetés felhasználása előfeltevésként.\n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

Dezinformáció

\n

A dezinformáció olyan hamis vagy félrevezető információ, amelyet olyan személyek osztanak meg szándékosan, akik tudják, hogy hamis, azzal a szándékkal, hogy kárt okozzanak, megtévesztsenek vagy manipuláljanak. Mind a megosztó tudatossága a hamisságról, mind a káros szándék a definíció jellemzői.

\n

Gyakori formái közé tartoznak a politikai befolyásolási műveletek, a kereskedelmi megtévesztés, a propaganda, a kitalált tartalom és a manipulált média. A dezinformációt gyakran szervezett szereplők állítják elő, és a koordinált hamis/mesterséges felerősítés (fent) révén terjesztik.

\n

Rosszindulatú információ

\n

A rosszindulatú információ olyan igaz információ, amelyet ártalmas szándékkal terjesztenek. A tartalom önmagában pontos, de közzétételét, keretezését vagy időzítését úgy számolják ki, hogy kárt okozzon egy személynek, csoportnak vagy intézménynek. A klasszikus minta a magánjellegű, érzékeny vagy kontextushoz kötött információk szándékos áthelyezése nyilvános vagy káros kontextusba.

\n

Példák erre a kiszivárgott magánkommunikációk közzététele a célszemély hiteltelenítésére, pontos, de megbélyegző személyes adatok közzététele (pl. bosszúpornó), valamint a ténylegesen helyes, de kontextusban káros információk stratégiai közzététele a maximális hatást elérő pillanatokban.

\n

A téves információ a három kategória közül a legkevésbé tárgyalt, mivel a tartalom nem hamis, ami kizárja a tényellenőrzési keretekből. Ugyanakkor jelentős részét képezi az információs zavarok ökoszisztémájának (Wardle & Derakhshan, 2017).

\n
\n
\n\n

A határok átjárhatók. A három kategória a gyakorlatban gyakran átfedi egymást vagy eltolódik:

\n
    \n
  • Egy dezinformáció, ha egyszer olyan emberek osztják meg, akik őszintén hisznek benne, a további terjedés során téves információvá válik. Ugyanaz a tartalom különböző kategóriákba sorolható attól függően, hogy ki osztja meg.\n
    • \n
  • A tartalom részben igaz, részben hamis lehet. Wardle (2017) hét formát sorol fel az információs zavarok között – köztük a félrevezető tartalmat, a hamis kontextust és a manipulált tartalmat –, így nem minden hamis tartalom teljesen kitalált.\n
    • \n
  • A szándékot kívülről meghatározni empirikusan nehéz. A megosztó tudásállapotához és motivációjához való hozzáférés nélkül a téves információ és a dezinformáció közötti határvonalat gyakran nem lehet egyértelműen meghúzni.\n

    Ezért kéri a keretrendszer a tanulókat, hogy magyarázzák el, miért nehéz a gyakorlatban gyakran meghatározni a téves információ és a dezinformáció közötti határt.

    \n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

AI-hallucináció / konfabuláció

\n

A generatív AI-rendszerek szisztematikus hajlamossága arra, hogy valóságnak tűnő, de ténylegesen helytelen, kitalált vagy ellenőrizhetetlen tartalmat állítsanak elő – ideértve a kitalált hivatkozásokat, nem létező tanulmányokat, tévesen tulajdonított idézeteket, kitalált statisztikákat, valamint hamis életrajzi, történelmi vagy tudományos részleteket.

\n

A hallucinációk azért fordulnak elő, mert a generatív AI-rendszerek a kimenetet a képzés során megtanult mintákból való valószínűsíthető folytatások előrejelzésével állítják elő, nem pedig hitelesített információk lekérésével egy tudásforrásból. A rendszer a folyékonyságot és a valószínűséget optimalizálja, nem pedig a pontosságot. A kitalált tartalmat általában ugyanolyan magabiztossággal mutatják be, mint a pontos tartalmat – nincs olyan belső jel, amely megbízhatóan megkülönböztetné a kettőt.

\n

A kutatási kontextusokban a „konfabuláció” kifejezést néha előnyben részesítik a „hallucináció” helyett, mivel a pszichológiában a konfabuláció olyan hamis, de őszintén hitt beszámolók létrehozását jelenti, amelyek nem csalási szándékkal készülnek – ez közelebb áll ahhoz, amit a generatív rendszerek valójában tesznek. A „hallucináció” továbbra is a domináns kifejezés a nyilvános és szakmai diskurzusban, ezért itt is megtartjuk.

\n

A hallucinációk nem alkalmi hibák. A mögöttes generációs folyamat strukturális jellemzői, nem pedig olyan hibák, amelyeket jobb promptok segítségével megbízhatóan kiküszöbölhetünk (Kalai & Vempala, 2024). Minden generatív rendszerben előfordulnak – beleértve a ☑ RAG AI-t is, ahol a kitalálás befolyásolhatja a lekért források összefoglalását, idézését vagy hivatkozását is.

\n

Didaktikai pozicionálás: A hallucinációk fogalmilag a téves információk, a dezinformáció és a rosszindulatú információk mellett egy negyedik kategóriaként helyezhetők el. Ezektől eltérően nem emberi források hoznak létre őket szándékosan vagy tévedésből, hanem magából a generációs folyamatból származnak – rendszer által generált hamis tartalom, szándékos forrás nélkül. Ezt a háromféle megkülönböztetést itt inkább pedagógiai szempontból hasznos keretként kínáljuk, mintsem bevett konszenzusos terminológiaként.

\n

Gyakori típusok:

\n
    \n
  • kitalált hivatkozások – olyan cikkekre, könyvekre vagy tanulmányokra való hivatkozások, amelyek nem léteznek\n
    • \n
  • tévesen tulajdonított vagy kitalált idézetek\n
    • \n
  • kitalált statisztikák vagy számszerű állítások\n
    • \n
  • pontatlan életrajzi, történelmi vagy tudományos részletek, amelyeket magabiztosan tálalnak\n
    • \n
  • valódi források magabiztosan téves összefoglalásai\n
    • \n
\n
\n
\n\n

Bármely generatív AI-rendszerből származó ténybeli állítást tekintsünk ellenőrizetlennek, amíg azt független forrásokkal nem ellenőriztük. A hivatkozások és idézetek különösen könnyen ellenőrizhetők — keressük meg, hogy az idézett forrás létezik-e, és tartalmazza-e azt, amit az AI állított.

\n
\n
\n
\n
\n\n
    \n
  • \nBender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). A sztochasztikus papagájok veszélyeiről: Lehetnek-e a nyelvi modellek túl nagyok? A 2021-es ACM konferencia (FAccT '21) jegyzőkönyve a méltányosságról, az elszámoltathatóságról és az átláthatóságról\n, 610–623. https://doi.org/10.1145/3442188.3445922\n
    • \n
  • \nJi, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Felmérés a hallucinációkról a természetes nyelv generálásában. ACM Computing Surveys, 55\n(12), 248. cikk. https://doi.org/10.1145/3571730\n
    • \n
  • \nKalai, A. T., & Vempala, S. S. (2024). A kalibrált nyelvi modelleknek hallucinálniuk kell. Az 56. éves ACM Számítástechnikai Elméleti Szimpózium (STOC 2024) jegyzőkönyve\n, 160–171. https://doi.org/10.1145/3618260.3649777\n
    • \n
  • \nSmith, A. L., Greaves, F., & Panch, T. (2023). Hallucináció vagy konfabuláció? A neuroanatómia mint metafora a nagy nyelvi modellekben. PLOS Digital Health, 2\n(11), e0000388. https://doi.org/10.1371/journal.pdig.0000388\n
    • \n
\n
\n
\n

Tartalom félrevezető ábrázolása

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
FormátumManipuláltKitalált
Szöveghiteles idézet kontextusból kiragadva, meghamisított címkitalált idézet, fiktív cikk, AI által generált szöveg
Képretusált fénykép, kivágott eredetiAI által generált kép, festett hamis „fotó”
Hangszerkesztett vagy felgyorsított eredeti felvételhangklón, AI által generált beszéd
Videóolcsó hamisítvány, újravágott klipekteljesen szintetikus deepfake videó
Dokumentumhamis fejléces levél módosított sablononkitalált „hivatalos” levél
\n

Kitalált tartalom

\n

A kitalált tartalom olyan információ – szöveg, kép, hang, videó, dokumentum vagy más formátum –, amelyet teljes egészében kitaláltak, és nincs valódi forrásanyaga. Készülhet manuálisan (kitalált idézetek, fiktív híradások) vagy mesterségesen, AI-rendszerek segítségével (szintetikus videók, hangklónok, AI által generált képek, AI által írt szövegek).

\n

Manipulált tartalom

\n

A manipulált tartalom olyan valós információ – szöveg, kép, hang, videó, dokumentum vagy más formátum –, amelyet megtévesztés céljából módosítottak. A forrásanyag valós, de szerkesztéssel, szelektív kivágással, sebesség-beállítással, kontextusváltással, keretezés-módosítással, hangcserével vagy más átalakítással módosítják, ami megváltoztatja a jelentését vagy a látszólagos kontextusát.

\n

Olcsó hamisítvány

\n

Az olcsó hamisítvány olyan média, amelyet hagyományos, széles körben elérhető eszközökkel – képszerkesztő szoftver, videószerkesztő szoftver vagy alapvető kontextusváltás – módosítottak, nem pedig AI-alapú generatív módszerekkel. A kifejezést Paris és Donovan (2019) alkotta meg, hogy felhívja a figyelmet arra a tényre, hogy a nyilvános diskurzusban a manipulált média legjelentősebb formái általában nem kifinomult, AI által generált deepfake-ek, hanem egyszerű, alacsony költségű technikák, amelyeket bárki alkalmazhat.

\n

A gyakori olcsó hamisítási technikák közé tartoznak:

\n
    \n
  • sebességmanipuláció (pl. a lelassított Pelosi-videó, 2019)\n
    • \n
  • hang- vagy videofelvételek újravágása és szelektív szerkesztése\n
    • \n
  • kontextusváltás (valódi média hamis felirattal vagy keretbe foglalással)\n
    • \n
  • fotóretusálás, kivágás vagy kompozitálás\n
    • \n
  • feliratok cseréje és manipulált képernyőképek\n
    • \n
  • hangösszeillesztés\n
    • \n
\n

Az, hogy egy olcsó hamisítvány téves információt, dezinformációt vagy rosszindulatú információt jelent-e, a szereplő tudásától és szándékától függ (→ Információs zavar), nem pedig magától a technikától. Ugyanaz a szerkesztett videó szatíra, fikció, oktatás vagy megtévesztés céljára is szolgálhat.

\n

A mélyhamisításokkal összehasonlítva az olcsó hamisítványok kevesebb technikai ismeretet igényelnek, de nem feltétlenül könnyebb felismerni őket – a jól kivitelezett újrakontextualizálás vagy szelektív szerkesztés rendkívül nehéz felismerni az eredeti forrásanyaghoz való hozzáférés nélkül.

\n
\n
\n\n
\n
\n
\n
\n
\n\n

Olcsó hamisítványok ellenőrző eszközei:

\n
\n
\n
\n

Deep Fake

\n

Deep Fake

\n

A deepfake mesterséges intelligencia által generált szintetikus média – konkrétan olyan mélytanulási technikák felhasználásával, mint a generatív ellentétes hálózatok (GAN-ok), a diffúziós modellek vagy a transzformátor-alapú generátorok. A kifejezés a mélytanulás (deep learning) és a hamis (fake) szavak összevonásából származik, és 2017-ben jelent meg az AI által generált arccsere-videókat készítő online közösségekben. Azóta a technológia kiterjedt a különböző médiatípusokra, és ma már széles körben elérhető fogyasztói szintű eszközökön keresztül.

\n

Gyakori formái:

\n
    \n
  • Arccsere: egy személy arcának egy másikéval való kicserélése videóban\n
    • \n
  • Hangklónozás: egy beszélő hangjának szintetizálása egy kis hangminta alapján\n
    • \n
  • Teljesen szintetikus videó: AI által generált felvétel, amely olyan embereket, eseményeket vagy jeleneteket mutat be, amelyek soha nem történtek meg\n
    • \n
  • Szintetikus fotográfia: mesterséges intelligenciával generált állóképek kitalált emberekről vagy eseményekről\n
    • \n
  • Szöveg-videó és szöveg-hang: média létrehozása írásbeli utasítások alapján\n
    • \n
\n

Az, hogy egy deepfake téves információt, dezinformációt vagy rosszindulatú információt jelent-e, a szereplő tudásától és szándékától függ (→ Információs zavar), nem pedig magától a technikától. A deepfake módszereket törvényesen is alkalmazzák filmgyártásban, akadálymentesítési eszközökben (szintetikus hangok azok számára, akik elvesztették a sajátjukat), nyelvi szinkronizálásban, szatírában, oktatásban és a művészetekben.

\n

A cheap fake-ekkel összehasonlítva a deep fake-ek meggyőző előállításához nagyobb technikai kapacitás szükséges, és magasabb vizuális vagy auditív realizmust érhetnek el. Ugyanakkor nem ők a média manipulációjának domináns formája a közbeszédben — Paris és Donovan (2019) megjegyzi, hogy az egyszerűbb cheap fake technikák továbbra is gyakoribbak és gyakran jelentősebb következményekkel járnak. A felismerés aktív kutatási terület; a jelenlegi megközelítések ötvözik a műtárgyelemzést, a biológiai inkonzisztencia-ellenőrzést és a származás-ellenőrzést (pl. C2PA tartalmi hitelesítő adatok).

\n
\n
\n\n
    \n
  • \nParis, B., & Donovan, J. (2019). Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence\n. Data & Society Research Institute.https://datasociety.net/library/deepfakes-and-cheap-fakes/\n
    • \n
  • Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review, 107(6), 1753–1820.\n
    • \n
  • \nVaccari, C., & Chadwick, A. (2020). Deepfakes és dezinformáció: A szintetikus politikai videók hatásának vizsgálata a megtévesztésre, a bizonytalanságra és a hírekbe vetett bizalomra. Social Media + Society\n, 6(1), 1–13. https://doi.org/10.1177/2056305120903408\n
    • \n
\n
\n
\n
\n
\n\n

Deepfake-ellenőrző eszközök:

\n
\n
\n
","UPDATEDAT":"2026-05-17T18:10:24.859Z","LANG":"hu","ID":"8e97ece5-27a9-44ca-b212-ce9ce8c29387","TITLE":"Téves információk és manipuláció","SOURCELANG":"en"}