{"CACHEDAT":"2026-05-13 09:33:21","TRANSLATEDAT":"2026-05-13 09:33:21","SOURCESIGNATURE":"7a9e56d2ea3f2c69597ecdc4c37790c3bd22ac955bbb62f6ceb193688b397de6","SLUG":"misinformation-manipulation-WtiyDFyWdl","MARKDOWN":"# Information Disorder\n\nWardle & Derakhshan (2017), in a foundational report for the Council of Europe, introduce *Information Disorder* as the umbrella term for false, misleading, or harmfully shared information in the public information environment. They distinguish three categories along two axes: whether the content is *false* or *true*, and whether it is shared with *intent to harm*.\n\n| Type | Content | Sharer's knowledge of falseness | Intent to harm |\n|------|---------|---------------------------------|----------------|\n| **Misinformation** | false or misleading | does not know | no |\n| **Disinformation** | false or misleading | knows | yes |\n| **Malinformation** | true | (not the criterion) | yes |\n\nThe three categories form an interconnected ecology: the same content item can move between them depending on who shares it and with what intent.\n\n### Fake News\n\nThe term *fake news* is widely used in public debate but analytically imprecise. It usually refers to false or misleading information presented in the style of news reporting. However, because the term can refer to different types of information disorder and is often used politically to discredit unwanted reporting, more precise terms such as *misinformation*, *disinformation*, *fabricated content*, *false context*, or *manipulated content* should be preferred.\n\n## Misinformation\n\nMisinformation is false or misleading information shared by people who do not realise it is false. The sharer believes the content is accurate; there is no intent to deceive or harm.\n\nMisinformation typically arises in fast-moving news situations (early reports with unconfirmed details), in passing along claims without checking accuracy, and in repeating information from trusted sources that turn out to be wrong. It can be as widespread and consequential as disinformation, despite the absence of malicious intent — its sharers are often genuinely motivated and trusted within their networks, which gives the content reach and perceived credibility (Lewandowsky et al., 2017).\n\n### Misinformation Susceptibility Factors\n\n\n:::success\n**1. Cognitive factors** — how information is processed\n\n* **Confirmation bias**: People pay more attention to information that supports what they already believe, and scrutinise opposing information more harshly. — Nickerson (1998)\n* **Illusory truth effect**: Claims can feel more believable simply because people have seen them before, even when they are false. — Unkelbach et al. (2019)\n* **Processing fluency**: Information that is easy to read, familiar in wording, or visually clear feels more trustworthy than information that is harder to process. — Reber & Schwarz (1999)\n* **Low cognitive reflection**: People who rely on quick, intuitive judgements rather than pausing to check are more likely to fall for false claims. — Pennycook & Rand (2019)\n* **Bullshit receptivity**: Some people are inclined to find vague but impressive-sounding statements meaningful, even when they are empty. — Pennycook et al. (2015)\n* **Low numeracy / scientific literacy**: People may struggle to evaluate statistics, graphs, risk statements, or scientific evidence; education alone is no automatic protection. — Kahan et al. (2017)\n\n**2. Affective / motivational factors** — how emotions and identity shape judgement\n\n* **Emotional reasoning / reliance on emotion**: People accept claims because they feel right, frightening, satisfying, or morally urgent, rather than because they have been checked. — Martel, Pennycook & Rand (2020)\n* **Specific emotions** (anger, fear, moral outrage): Strong emotions can lead people to react quickly and share before checking; moral-emotional language is especially powerful in spreading political content. (Belief and sharing are distinct effects with different evidence.) — Brady et al. (2017); Martel et al. (2020)\n* **Identity-protective cognition**: People process information in ways that protect their political, religious, or group identity, and resist evidence that would threaten it. (Closely linked to *political identity* in category 5.) — Kahan (2013, 2017)\n* **Conspiracy mindset**: A general tendency to suspect hidden plots or powerful actors behind events makes conspiracy-style misinformation more plausible. — Douglas, Sutton & Cichocka (2017)\n\n**3. Social factors** — whom and which groups people trust\n\n* **Source credibility / trust in the sender**: How believable a claim feels depends on who appears to be saying it — a friend, an influencer, an expert, a politician, a news outlet, or an anonymous account. — Traberg & van der Linden (2022)\n* **Social proof / popularity cues**: Likes, shares, views, and comments can act as credibility cues, although the effect depends on context. — Avram et al. (2020)\n* **In-group / partisan congruency**: Information from \"people like us\", or aligned with a group's position, is accepted more easily. (Closely linked to *political identity* in category 5.) — Sultan et al. (2024)\n* **Network homophily / echo chambers**: When people mostly encounter information through networks of similar others, certain views appear more widely shared than they really are. (See also D1G5.) — Cinelli et al. (2021)\n\n**4. Contextual / situational factors** — the conditions under which people meet information\n\n* **Time pressure**: When people have to judge information quickly, they distinguish true from false claims less accurately. — Sultan et al. (2022)\n* **Information overload**: When too much information arrives at once, people fall back on shortcuts like headlines, emotion, source labels, or popularity. — Laato et al. (2020)\n* **Distraction / cognitive load**: When attention is drawn elsewhere, people may share without checking accuracy, even if they could otherwise recognise the misinformation. — Pennycook et al. (2020)\n* **Crisis / uncertainty contexts** (pandemics, war, disasters): Urgent need for explanation increases openness to false or premature claims. — Roozenbeek et al. (2020)\n* **Platform design**: Feeds, notifications, recommendation systems, autoplay, and fast scrolling encourage reactive rather than reflective behaviour. (See also D1G1.) — Lorenz-Spreen et al. (2020)\n\n**5. Background and dispositional factors** — who may be more or less vulnerable in specific contexts\n\n* **Age**: Older adults sometimes distinguish true from false headlines better in studies, but share misinformation more often online. — Guess, Nagler & Tucker (2019)\n* **Education**: Not an automatic shield; meta-analyses show no simple effect on misinformation discrimination. — Sultan et al. (2024)\n* **Political identity and prior beliefs**: Shape which information feels plausible, threatening, trustworthy, or worth sharing. (Operates via identity-protective cognition in category 2 and in-group cues in category 3 — not purely a demographic variable.) — Sultan et al. (2024)\n* **Media literacy habits**: People who compare sources, read beyond headlines, and recognise manipulation techniques rely less on emotional or social shortcuts. *(Note: this is the learning goal of SciLMi itself — listed here as a documented protective disposition, not as a prerequisite.)* — Guess et al. (2020)\n\n:::\n\n\n:::info\n* Avram, M., Micallef, N., Patil, S., & Menczer, F. (2020). Exposure to social engagement metrics increases vulnerability to misinformation. *Harvard Kennedy School (HKS) Misinformation Review*, *1*(5). \n* Brady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Emotion shapes the diffusion of moralized content in social networks. *Proceedings of the National Academy of Sciences*, *114*(28), 7313–7318. \n* Cinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). The echo chamber effect on social media. *Proceedings of the National Academy of Sciences*, *118*(9), e2023301118. \n* Douglas, K. M., Sutton, R. M., & Cichocka, A. (2017). The psychology of conspiracy theories. *Current Directions in Psychological Science*, *26*(6), 538–542. \n* Guess, A., Nagler, J., & Tucker, J. (2019). Less than you think: Prevalence and predictors of fake news dissemination on Facebook. *Science Advances*, *5*(1), eaau4586. \n* Jones-Jang, S. M., Mortensen, T., & Liu, J. (2021). Does media literacy help identification of fake news? Information literacy helps, but other literacies don't. *American Behavioral Scientist*, *65*(2), 371–388. \n* Kahan, D. M. (2013). Ideology, motivated reasoning, and cognitive reflection. *Judgment and Decision Making*, *8*(4), 407–424.\n* Kahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Motivated numeracy and enlightened self-government. *Behavioural Public Policy*, *1*(1), 54–86. \n* Laato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). What drives unverified information sharing and cyberchondria during the COVID-19 pandemic? *European Journal of Information Systems*, *29*(3), 288–305. \n* Lorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). How behavioural sciences can promote truth, autonomy and democratic discourse online. *Nature Human Behaviour*, *4*(11), 1102–1109. \n* Martel, C., Pennycook, G., & Rand, D. G. (2020). Reliance on emotion promotes belief in fake news. *Cognitive Research: Principles and Implications*, *5*(1), 47. \n* Nickerson, R. S. (1998). Confirmation bias: A ubiquitous phenomenon in many guises. *Review of General Psychology*, *2*(2), 175–220. \n* Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). On the reception and detection of pseudo-profound bullshit. *Judgment and Decision Making*, *10*(6), 549–563.\n* Pennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). Fighting COVID-19 misinformation on social media: Experimental evidence for a scalable accuracy-nudge intervention. *Psychological Science*, *31*(7), 770–780. \n* Pennycook, G., & Rand, D. G. (2019). Lazy, not biased: Susceptibility to partisan fake news is better explained by lack of reasoning than by motivated reasoning. *Cognition*, *188*, 39–50. \n* Reber, R., & Schwarz, N. (1999). Effects of perceptual fluency on judgments of truth. *Consciousness and Cognition*, *8*(3), 338–342. \n* Roozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). Susceptibility to misinformation about COVID-19 around the world. *Royal Society Open Science*, *7*(10), 201199. \n* Sultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). Time pressure reduces misinformation discrimination ability but does not alter response bias. *Scientific Reports*, *12*(1), 22416. \n* Sultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Susceptibility to online misinformation: A systematic meta-analysis of demographic and psychological factors. *Proceedings of the National Academy of Sciences*, *121*(47), e2409329121. \n* Traberg, C. S., & van der Linden, S. (2022). Birds of a feather are persuaded together: Perceived source credibility mediates the effect of political bias on misinformation susceptibility. *Personality and Individual Differences*, *185*, 111269. \n* Unkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). Truth by repetition: Explanations and implications. *Current Directions in Psychological Science*, *28*(3), 247–253. \n\n:::\n\n### ☑ Logical Fallacies\n\n\n:::success\n- [ ] Check for hasty generalisations - Conclusion from too little evidence.\n- [ ] Check for false dilemmas - Limiting options to two when more exist.\n- [ ] Check for straw man arguments - Misrepresenting a position to refute it easily.\n- [ ] Check for appeals to ignorance - Claiming truth due to lack of disproof.\n- [ ] Check for appeals to authority - Assuming truth based on authority alone.\n- [ ] Check for red herrings - Distracting from the main issue.\n- [ ] Check for false causes - Confusing correlation with causation.\n- [ ] Check for ad hominem - Attacking the person, not the argument. \n- [ ] Check for ad populum - Arguing truth from popularity.\n- [ ] Check for slippery slopes - Asserting one step leads to extremes.\n- [ ] Check for circular reasoning - Using the conclusion as a premise.\n\n:::\n\n\n:::tip\n* \n* \n* \n\n:::\n\n## Disinformation\n\nDisinformation is false or misleading information shared deliberately, by people who know it is false, with the intent to harm, deceive, or manipulate. Both the sharer's awareness of the falseness and the harmful intent are definitional features.\n\nCommon forms include political influence operations, commercial deception, propaganda, fabricated content, and manipulated media. Disinformation is often produced by organised actors and amplified through *Coordinated Inauthentic / Artificial Amplification* (above).\n\n## Malinformation\n\nMalinformation is *true* information shared with intent to harm. The content itself is accurate, but its release, framing, or timing is calculated to damage a person, group, or institution. The classical pattern is the deliberate movement of private, sensitive, or context-bound information into a public or harmful context.\n\nExamples include the publication of leaked private communications to discredit a target, the release of accurate but stigmatising personal data (e.g. revenge porn), and the strategic disclosure of factually correct but contextually damaging information at moments calculated for maximum impact.\n\nMalinformation is the least-discussed of the three categories because the content is not false, which places it outside fact-checking frameworks. But it forms a significant part of the information-disorder ecology (Wardle & Derakhshan, 2017).\n\n\n:::warning\n**The boundaries are porous.**\n\nThe three categories often overlap or shift in practice:\n\n* A piece of *disinformation*, once shared by people who genuinely believe it, becomes *misinformation* as it spreads further. The same content can sit in different categories depending on who shares it.\n* Content can be partly true and partly false. Wardle (2017) lists seven forms within information disorder — including *misleading content*, *false context*, and *manipulated content* — not all false content is fully fabricated.\n* Determining intent from outside is empirically hard. Without access to the sharer's knowledge state and motivation, the line between misinformation and disinformation often cannot be drawn definitively.\n\nThis is why the framework asks learners to *explain why the boundary between misinformation and disinformation is often difficult to determine in practice*.\n\n:::\n\n\n:::info\n* Wardle, C., & Derakhshan, H. (2017). *Information Disorder: Toward an interdisciplinary framework for research and policy making*. Council of Europe Report DGI(2017)09. \n* Wardle, C. (2017). Fake news. It's complicated. *First Draft News*. \n* Lewandowsky, S., Ecker, U. K. H., & Cook, J. (2017). Beyond misinformation: Understanding and coping with the \"post-truth\" era. *Journal of Applied Research in Memory and Cognition*, 6(4), 353–369. \n* Vraga, E. K., & Bode, L. (2020). Defining misinformation and understanding its bounded nature. *Political Communication*, 37(1), 136–144. \n\n:::\n\n# AI Hallucination / Confabulation\n\nThe systematic tendency of generative AI systems to produce plausible-sounding content that is factually incorrect, fabricated, or unverifiable — including invented references, non-existent studies, misattributed quotations, made-up statistics, and false biographical, historical, or scientific details.\n\nHallucinations occur because generative AI systems produce output by predicting plausible continuations from patterns learned during training, not by retrieving verified information from a knowledge source. The system optimises for fluency and plausibility, not for accuracy. Fabricated content is typically presented with the same confidence as accurate content — there is no internal signal that reliably distinguishes the two.\n\nThe term **confabulation** is sometimes preferred over **hallucination** in research contexts, since confabulation in psychology denotes the construction of false but sincerely believed accounts without intent to deceive — closer to what generative systems actually do. *Hallucination* remains the dominant term in public and technical discourse and is retained here.\n\n**Hallucinations are not occasional bugs.** They are a structural feature of the underlying generation process, not errors that can be reliably eliminated through better prompting (Kalai & Vempala, 2024). They occur across all generative systems — including ☑ RAG AI, where fabrication can also affect how retrieved sources are summarised, quoted, or attributed.\n\n**Didactic positioning:** Hallucinations can be located conceptually as a forth category alongside *misinformation, disinformation*, and *malinformation*. Unlike both, they are not produced by a human source with intent or error in mind, but emerge from the generation process itself — system-generated false content without an intentional source. This three-way distinction is offered here as a pedagogically useful framing rather than as established consensus terminology.\n\n**Common types:**\n\n* fabricated references — citations to articles, books, or studies that do not exist\n* misattributed or fabricated quotations\n* invented statistics or numerical claims\n* inaccurate biographical, historical, or scientific details presented confidently\n* confidently incorrect summaries of real sources\n\n\n:::tip\nTreat any factual claim from a generative AI system as unverified until checked against an independent source. References and quotations are particularly easy to verify — search whether the cited source exists and contains what the AI claimed.\n\n:::\n\n\n:::info\n* Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? *Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21)*, 610–623. \n* Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. *ACM Computing Surveys, 55*(12), Article 248. \n* Kalai, A. T., & Vempala, S. S. (2024). Calibrated language models must hallucinate. *Proceedings of the 56th Annual ACM Symposium on Theory of Computing (STOC 2024)*, 160–171. \n* Smith, A. L., Greaves, F., & Panch, T. (2023). Hallucination or confabulation? Neuroanatomy as metaphor in large language models. *PLOS Digital Health, 2*(11), e0000388. \n\n:::\n\n# Content Misrepresentation\n\n| Format | Manipulated | Fabricated |\n|--------|-------------|------------|\n| Text | genuine quote stripped of context, doctored headline | invented quote, fictional article, AI-generated text |\n| Image | retouched photograph, cropped original | AI-generated image, painted fake \"photograph\" |\n| Audio | edited or sped-up original recording | voice clone, AI-generated speech |\n| Video | cheap fake, recut clips | fully synthetic deepfake video |\n| Document | forged letterhead on modified template | invented \"official\" letter |\n\n## Fabricated Content\n\n**Fabricated content** is information — text, image, audio, video, document, or other format — that has been entirely invented, with no genuine source material. It may be produced manually (invented quotes, fictional news articles) or generated synthetically by AI systems (synthetic videos, voice clones, AI-generated images, AI-written text).\n\n## Manipulated Content\n\n**Manipulated content** is geniune information — text, image, audio, video, document, or other format — that has been altered to deceive. The source material is real, but it is modified through editing, selective cropping, speed adjustment, recontextualisation, framing changes, voice substitution, or other transformations that change its meaning or apparent context.\n\n### Cheap Fake\n\nA **cheap fake** is media that has been altered using conventional, widely available tools — image editing software, video editing software, or basic recontextualisation — rather than AI-based generative methods. The term was coined by Paris and Donovan (2019) to draw attention to the fact that the most consequential forms of manipulated media in public discourse are typically not sophisticated AI-generated deepfakes, but simple, low-cost techniques that anyone can apply.\n\nCommon cheap fake techniques include:\n\n* speed manipulation (e.g. the slowed-down Pelosi video, 2019)\n* recutting and selective editing of audio or video\n* recontextualisation (real media presented with a false caption or framing)\n* photo retouching, cropping, or compositing\n* swapped captions and doctored screenshots\n* audio splicing\n\nWhether a cheap fake constitutes *Misinformation*, *Disinformation*, or *Malinformation* depends on the actor's knowledge and intent (→ *Information Disorder*), not on the technique itself. The same edited video can serve satire, fiction, education, or deception.\n\nCompared with *Deep Fakes*, cheap fakes require less technical skill but are not necessarily easier to detect — well-executed recontextualisation or selective editing can be extremely difficult to identify without access to the original source material.\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence*. Data & Society Research Institute. \n\n:::\n\n\n:::tip\nCheap Fake Verification Tools: \n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n### Deep Fake\n\n### Deep Fake\n\nA **deep fake** is synthetic media generated by artificial intelligence — specifically using deep learning techniques such as generative adversarial networks (GANs), diffusion models, or transformer-based generators. The term is a portmanteau of *deep learning* and *fake*, originating in 2017 in online communities producing AI-generated face-swap videos. The technology has since expanded across media types and is now broadly accessible through consumer-level tools.\n\nCommon forms include:\n\n* **Face swaps**: replacing one person's face with another's in video\n* **Voice cloning**: synthesising a speaker's voice from a small audio sample\n* **Full synthetic video**: AI-generated footage showing people, events, or scenes that never occurred\n* **Synthetic photography**: AI-generated still images of fictional people or events\n* **Text-to-video and text-to-audio**: generating media from written prompts\n\nWhether a deep fake constitutes *Misinformation*, *Disinformation*, or *Malinformation* depends on the actor's knowledge and intent (→ *Information Disorder*), not on the technique itself. Deep fake methods are also used legitimately in film production, accessibility tools (synthetic voices for people who have lost theirs), language dubbing, satire, education, and the arts.\n\nCompared with *Cheap Fakes*, deep fakes require more technical capacity to produce convincingly and can achieve higher visual or auditory realism. They are not, however, the dominant form of media manipulation in public discourse — Paris and Donovan (2019) note that simpler cheap-fake techniques remain more common and often more consequential. Detection is an active research area; current approaches combine artefact analysis, biological inconsistency checks, and provenance verification (e.g. C2PA content credentials).\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence*. Data & Society Research Institute. \n* Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. *California Law Review*, 107(6), 1753–1820.\n* Vaccari, C., & Chadwick, A. (2020). Deepfakes and disinformation: Exploring the impact of synthetic political video on deception, uncertainty, and trust in news. *Social Media + Society*, 6(1), 1–13. \n\n:::\n\n\n:::tip\nDeep Fake Verification Tools: \n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n\n##","HTML":"

Poremećaj informacija

\n

Wardle i Derakhshan (2017), u temeljnom izvješću Vijeća Europe, uvode pojam poremećaja informacija kao krovni pojam za lažne, obmanjujuće ili štetno dijeljene informacije u javnom informacijskom okruženju. Razlikuju tri kategorije duž dviju osi: je li sadržaj lažan ili istinit i je li dijeljen s namjerom nanošenja štete.

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
VrstaSadržajSaznanje širitelja o neistinitostiNamjera nanošenja štete
Dezinformacijalažan ili obmanjujućine znane
Dezinformacijelažan ili obmanjujućiznada
Zlonamjerna dezinformacijaistinito(nije kriterij)da
\n

Tri kategorije čine međusobno povezanu ekologiju: isti sadržaj može se kretati među njima ovisno o tome tko ga dijeli i s kojom namjerom.

\n

Lažne vijesti

\n

Izraz "lažne vijesti" široko se koristi u javnoj raspravi, ali je analitički neprecizan. Obično se odnosi na netočne ili obmanjujuće informacije predstavljene u stilu izvještavanja o vijestima. Međutim, budući da se izraz može odnositi na različite vrste poremećaja informacija i često se politički koristi za diskreditaciju neželjenog izvještavanja, trebalo bi preferirati preciznije izraze kao što su dezinformacije, misinformacije, izmišljeni sadržaj, lažni kontekst ili manipulirani sadržaj.

\n

Dezinformacija

\n

Dezinformacija je lažna ili obmanjujuća informacija koju dijele ljudi koji ne shvaćaju da je lažna. Osoba koja je dijeli vjeruje da je sadržaj točan; nema namjere obmanjivanja ili nanošenja štete.

\n

Dezinformacije se obično javljaju u brzim novinarskim situacijama (ranim izvještajima s nepotvrđenim detaljima), pri prenošenju tvrdnji bez provjere točnosti i pri ponavljanju informacija iz pouzdanih izvora koje se kasnije pokažu netočnima. Može biti jednako raširena i posljedična kao i dezinformacija, unatoč nedostatku zlonamjerne namjere — oni koji je dijele često su iskreno motivirani i uživaju povjerenje unutar svojih mreža, što sadržaju daje doseg i percipiranu vjerodostojnost (Lewandowsky i dr., 2017.).

\n

Čimbenici podložnosti dezinformacijama

\n
\n
\n\n

1. Kognitivni čimbenici — kako se informacije obrađuju

\n
    \n
  • Pristranost potvrđivanja: Ljudi obraćaju više pažnje na informacije koje potvrđuju ono u što već vjeruju, a suprotne informacije kritiziraju strože. — Nickerson (1998)\n
    • \n
  • Iluzorni učinak istinitosti: Tvrdnji se mogu činiti vjerodostojnijima jednostavno zato što su ih ljudi već vidjeli, čak i kada su netočne. — Unkelbach i dr. (2019)\n
    • \n
  • Tečnost obrade: Informacije koje je lako čitati, čiji je jezik poznat ili koje su vizualno jasne, djeluju pouzdanije od informacija koje je teže obraditi. — Reber i Schwarz (1999)\n
    • \n
  • Niska kognitivna refleksija: Ljudi koji se oslanjaju na brze, intuitivne prosudbe umjesto da zastanu i provjere skloniji su nasjesti na lažne tvrdnje. — Pennycook i Rand (2019)\n
    • \n
  • Sklonost ka glupostima: Neki ljudi skloni su smatrati smislenima nejasne, ali dojmljivo zvučeće izjave, čak i kada su prazne. — Pennycook i dr. (2015)\n
    • \n
  • Niska numerička pismenost / znanstvena pismenost: Ljudi mogu imati poteškoća s procjenom statistike, grafikona, izjava o riziku ili znanstvenih dokaza; samo obrazovanje nije automatska zaštita. — Kahan i sur. (2017)\n

    2. Afektivni / motivacijski čimbenici — kako emocije i identitet oblikuju prosuđivanje

    \n
    • \n
  • Emocionalno rasuđivanje / oslanjanje na emocije: Ljudi prihvaćaju tvrdnje jer im se čine ispravnima, zastrašujućima, zadovoljavajućima ili moralno hitnima, a ne zato što su provjerene. — Martel, Pennycook i Rand (2020)\n
    • \n
  • Specifične emocije (ljutnja, strah, moralni bijes): Snažne emocije mogu navesti ljude da brzo reagiraju i dijele prije provjere; moralno-emocionalni jezik posebno je moćan u širenju političkog sadržaja. (Vjerovanje i dijeljenje su različiti učinci s različitim dokazima.) — Brady i dr. (2017.); Martel i dr. (2020.)\n
    • \n
  • Kognicija zaštite identiteta: Ljudi obrađuju informacije na načine koji štite njihov politički, vjerski ili grupni identitet i opiru se dokazima koji bi mu prijetili. (Uska veza s političkim identitetom u kategoriji 5.) — Kahan (2013, 2017)\n
    • \n
  • Konspirativni način razmišljanja: Opća sklonost sumnji u skrivene zavjere ili moćne aktere iza događaja čini dezinformacije u stilu teorija zavjere vjerojatnijima. — Douglas, Sutton i Cichocka (2017)\n

    3. Društveni čimbenici — kome i kojim skupinama ljudi vjeruju

    \n
    • \n
  • Vjerodostojnost izvora / povjerenje u pošiljatelja: Koliko se tvrdnja čini vjerodostojnom ovisi o tome tko je navodno iznosi — prijatelj, influencer, stručnjak, političar, medij ili anonimni račun. — Traberg i van der Linden (2022)\n
    • \n
  • Društveni dokaz / naznake popularnosti: Lajkovi, dijeljenja, pregledi i komentari mogu djelovati kao naznake vjerodostojnosti, iako učinak ovisi o kontekstu. — Avram i sur. (2020)\n
    • \n
  • Usklađenost s vlastitom grupom / stranačka usklađenost: Informacije od "ljudi poput nas" ili usklađene s položajem grupe lakše se prihvaćaju. (Uska povezanost s političkim identitetom u kategoriji 5.) — Sultan i dr. (2024.)\n
    • \n
  • Homofilija mreže / odjekne komore: Kada ljudi uglavnom nailaze na informacije putem mreža sličnih osoba, određena gledišta čine se raširenijima nego što zaista jesu. (Vidi također D1G5.) — Cinelli i sur. (2021)\n

    4. Kontekstualni / situacijski čimbenici — uvjeti pod kojima ljudi dolaze do informacija

    \n
    • \n
  • Vremenski pritisak: Kada ljudi moraju brzo procjenjivati informacije, manje precizno razlikuju istinite od lažnih tvrdnji. — Sultan i dr. (2022)\n
    • \n
  • Preopterećenost informacijama: Kada istovremeno stigne previše informacija, ljudi se oslanjaju na prečace poput naslova, emocija, oznaka izvora ili popularnosti. — Laato i dr. (2020)\n
    • \n
  • Ometač / kognitivno opterećenje: Kada je pažnja usmjerena na drugu stranu, ljudi mogu dijeliti informacije ne provjeravajući njihovu točnost, čak i ako bi inače mogli prepoznati dezinformaciju. — Pennycook i dr. (2020)\n
    • \n
  • Konteksti krize / neizvjesnosti (pandemije, rat, katastrofe): Hitna potreba za objašnjenjem povećava otvorenost prema lažnim ili pretvremenim tvrdnjama. — Roozenbeek i dr. (2020)\n
    • \n
  • Dizajn platforme: Novosti, obavijesti, sustavi preporuka, automatsko reproduciranje i brzo listanje potiču reaktivno, a ne reflektirano ponašanje. (Vidi također D1G1.) — Lorenz-Spreen i sur. (2020)\n

    5. Pozadinski i dispozicijski čimbenici — tko može biti više ili manje ranjiv u određenim kontekstima

    \n
    • \n
  • Dob: Starije osobe u istraživanjima ponekad bolje razlikuju naslove koji su istiniti od onih koji su lažni, ali češće dijele dezinformacije na internetu. — Guess, Nagler & Tucker (2019)\n
    • \n
  • Obrazovanje: Nije automatski štit; meta-analize pokazuju da nema jednostavan učinak na razlikovanje dezinformacija. — Sultan i dr. (2024.)\n
    • \n
  • Politički identitet i prethodna uvjerenja: Oblikuju koje se informacije čine vjerojatnima, prijetvornima, pouzdanima ili vrijednima dijeljenja. (Djeluje putem kognicije zaštite identiteta u kategoriji 2 i naznaka unutargrupe u kategoriji 3 — nije isključivo demografska varijabla.) — Sultan i dr. (2024)\n
    • \n
  • Navike medijske pismenosti: Ljudi koji uspoređuju izvore, čitaju više od naslova i prepoznaju tehnike manipulacije manje se oslanjaju na emocionalne ili društvene prečace. (Napomena: ovo je cilj učenja samog SciLMi-ja — navedeno ovdje kao dokumentirana zaštitna sklonost, a ne kao preduvjet.) — Guess i dr. (2020)\n
    • \n
\n
\n
\n
\n
\n\n
    \n
  • \nAvram, M., Micallef, N., Patil, S. i Menczer, F. (2020.). Izloženost metrici društvenog angažmana povećava ranjivost na dezinformacije. Harvard Kennedy School (HKS) Misinformation Review\n, 1\n(5). https://doi.org/10.37016/mr-2020-033\n
    • \n
  • \nBrady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Emotion shapes the diffusion of moralized content in social networks. Proceedings of the National Academy of Sciences\n, 114\n(28), 7313–7318. https://doi.org/10.1073/pnas.1618923114\n
    • \n
  • \nCinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). Učinak odjekne komore na društvenim mrežama. Zbornik Nacionalne akademije znanosti\n, 118\n(9), e2023301118. https://doi.org/10.1073/pnas.2023301118\n
    • \n
  • \nDouglas, K. M., Sutton, R. M., & Cichocka, A. (2017). Psihologija teorija zavjere. Current Directions in Psychological Science\n, 26\n(6), 538–542. https://doi.org/10.1177/0963721417718261\n
    • \n
  • \nGuess, A., Nagler, J. i Tucker, J. (2019). Manje nego što mislite: Prevalencija i prediktori širenja lažnih vijesti na Facebooku. Science Advances\n, 5\n(1), eaau4586. https://doi.org/10.1126/sciadv.aau4586\n
    • \n
  • \nJones-Jang, S. M., Mortensen, T., & Liu, J. (2021). Pomaže li medijska pismenost u prepoznavanju lažnih vijesti? Informacijska pismenost pomaže, ali druge vrste pismenosti ne. American Behavioral Scientist\n, 65\n(2), 371–388. https://doi.org/10.1177/0002764219869406\n
    • \n
  • Kahan, D. M. (2013). Ideologija, motivirano rasuđivanje i kognitivno promišljanje. Judgment and Decision Making, 8(4), 407–424.\n
    • \n
  • \nKahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Motivated numeracy and enlightened self-government. Behavioural Public Policy\n, 1\n(1), 54–86. https://doi.org/10.1017/bpp.2016.2\n
    • \n
  • \nLaato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). Što potiče dijeljenje neproverenih informacija i kibernetičku hipohondriju tijekom pandemije bolesti COVID-19? European Journal of Information Systems\n, 29\n(3), 288–305. https://doi.org/10.1080/0960085X.2020.1770632\n
    • \n
  • \nLorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). Kako bihevioralne znanosti mogu promicati istinu, autonomiju i demokratski diskurs na internetu. Nature Human Behaviour\n, 4\n(11), 1102–1109. https://doi.org/10.1038/s41562-020-0889-7\n
    • \n
  • \nMartel, C., Pennycook, G., & Rand, D. G. (2020). Oslanjanje na emocije potiče vjerovanje u lažne vijesti. Cognitive Research: Principles and Implications\n, 5\n(1), 47. https://doi.org/10.1186/s41235-020-00252-3\n
    • \n
  • \nNickerson, R. S. (1998). Pristranost potvrđivanja: sveprisutan fenomen u mnogim oblicima. Review of General Psychology\n, 2\n(2), 175–220. https://doi.org/10.1037/1089-2680.2.2.175\n
    • \n
  • Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). O prijemu i otkrivanju pseudo-dubokih gluposti. Judgment and Decision Making, 10(6), 549–563.\n
    • \n
  • \nPennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). Borba protiv dezinformacija o COVID-19 na društvenim mrežama: Eksperimentalni dokazi za skalabilnu intervenciju poticaja točnosti. Psychological Science\n, 31\n(7), 770–780. https://doi.org/10.1177/0956797620939054\n
    • \n
  • \nPennycook, G., & Rand, D. G. (2019). Lijen, a ne pristran: Podložnost pristranim lažnim vijestima bolje se objašnjava nedostatkom rasuđivanja nego motiviranim rasuđivanjem. Cognition\n, 188\n, 39–50. https://doi.org/10.1016/j.cognition.2018.06.011\n
    • \n
  • \nReber, R., & Schwarz, N. (1999). Utjecaj fluentnosti percepcije na prosudbe o istinitosti. Consciousness and Cognition\n, 8\n(3), 338–342. https://doi.org/10.1006/ccog.1999.0386\n
    • \n
  • \nRoozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). Podložnost dezinformacijama o COVID-19 diljem svijeta. Royal Society Open Science\n, 7\n(10), 201199. https://doi.org/10.1098/rsos.201199\n
    • \n
  • \nSultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). Vremenski pritisak smanjuje sposobnost razlikovanja dezinformacija, ali ne mijenja pristranost odgovora. Scientific Reports\n, 12\n(1), 22416. https://doi.org/10.1038/s41598-022-26209-8\n
    • \n
  • \nSultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Podložnost internetskim dezinformacijama: sustavna meta-analiza demografskih i psiholoških čimbenika. Zbornik Nacionalne akademije znanosti\n, 121\n(47), e2409329121. https://doi.org/10.1073/pnas.2409329121\n
    • \n
  • \nTraberg, C. S., & van der Linden, S. (2022). Ptice istog perja se zajedno uvjeravaju: Percepcija vjerodostojnosti izvora posreduje učinak političke pristranosti na podložnost dezinformacijama. Personality and Individual Differences\n, 185\n, 111269. https://doi.org/10.1016/j.paid.2021.111269\n
    • \n
  • \nUnkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). Istina ponavljanjem: Objašnjenja i implikacije. Current Directions in Psychological Science\n, 28\n(3), 247–253. https://doi.org/10.1177/0963721419827854\n
    • \n
\n
\n
\n

☑ Logičke zablude

\n
\n
\n\n
    \n
  • Provjerite prisutnost preuranjenih generalizacija - zaključak na temelju premalo dokaza.\n
    • \n
  • Provjerite lažne dileme - ograničavanje opcija na dvije kad ih postoji više.\n
    • \n
  • Provjerite argumente od slamnatog čovjeka - iskrivljavanje nečijeg stava kako bi se on lako opovrgnuo.\n
    • \n
  • Provjerite apele na neznanje - Tvrdnja o istini zbog nedostatka opovrgavanja.\n
    • \n
  • Provjerite apele na autoritet - Pretpostavljanje istine samo na temelju autoriteta.\n
    • \n
  • Provjerite lažne tragove - odvlačenje pažnje od glavne teme.\n
    • \n
  • Provjerite lažne uzroke - Brkanje korelacije s kauzalnošću.\n
    • \n
  • Provjerite ad hominem - napad na osobu, a ne na argument.\n
    • \n
  • Provjerite ad populum - tvrditi istinu na temelju popularnosti.\n
    • \n
  • Provjerite je li riječ o argumentu klizave padine - tvrdnja da jedan korak vodi do krajnosti.\n
    • \n
  • Provjerite kružno zaključivanje - Korištenje zaključka kao premise.\n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

Dezinformacije

\n

Dezinformacija je lažna ili obmanjujuća informacija koju namjerno dijele osobe koje znaju da je lažna, s namjerom nanošenja štete, obmane ili manipulacije. I svjesnost onoga tko dijeli informaciju o njezinoj neistinitosti i štetna namjera su ključne odrednice.

\n

Uobičajeni oblici uključuju operacije političkog utjecaja, komercijalnu obmanu, propagandu, izmišljeni sadržaj i manipulirane medije. Dezinformacije često proizvode organizirani akteri i pojačavaju se koordiniranim neautentičnim/umjetnim pojačanjem (gore).

\n

Malinformacija

\n

Malinformacija je istinita informacija koja se dijeli s namjerom nanošenja štete. Sam sadržaj je točan, ali je njegovo objavljivanje, kontekstualizacija ili vremensko određenje osmišljeno da našteti osobi, skupini ili instituciji. Klasični obrazac je namjerno premještanje privatnih, osjetljivih ili kontekstualno vezanih informacija u javni ili štetan kontekst.

\n

Primjeri uključuju objavljivanje procurjele privatne komunikacije radi diskreditacije cilja, objavljivanje točnih, ali stigmatizirajućih osobnih podataka (npr. osvetnička pornografija) i strateško otkrivanje činjenično točnih, ali kontekstualno štetnih informacija u trenucima izračunatim za maksimalan učinak.

\n

Malinformacija je najmanje raspravljana od te tri kategorije jer sadržaj nije lažan, što ga stavlja izvan okvira provjere činjenica. No, ona čini značajan dio ekologije poremećaja informacija (Wardle i Derakhshan, 2017.).

\n
\n
\n\n

Granice su porozne. Tri se kategorije često preklapaju ili se u praksi pomiču:

\n
    \n
  • Komad dezinformacije, jednom kada ga podijele ljudi koji u njega iskreno vjeruju, postaje dezinformacija kako se širi dalje. Isti sadržaj može pripadati različitim kategorijama ovisno o tome tko ga dijeli.\n
    • \n
  • Sadržaj može biti djelomično istinit i djelomično netočan. Wardle (2017.) navodi sedam oblika unutar poremećaja informacija — uključujući obmanjujući sadržaj, netočan kontekst i manipulirani sadržaj — nisu svi netočni sadržaji u potpunosti izmišljeni.\n
    • \n
  • Određivanje namjere izvana empirijski je teško. Bez pristupa stanju znanja i motivaciji osobe koja dijeli sadržaj, granica između dezinformacija i misinformacija često se ne može konačno povući.\n

    Zato u okviru programa polaznike traži da objasne zašto je granica između dezinformacija i misinformationa u praksi često teško odrediti.

    \n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

Halucinacija / Konfabulación umjetne inteligencije

\n

Sustavna sklonost generativnih AI sustava stvaranju uvjerljivog sadržaja koji je činjenično netočan, izmišljen ili neprovjerljiv — uključujući izmišljene reference, nepostojeća istraživanja, pogrešno pripisane citate, izmišljene statistike te lažne biografske, povijesne ili znanstvene detalje.

\n

Halucinacije se javljaju jer generativni AI sustavi proizvode izlaz predviđanjem vjerojatnih nastavaka iz obrazaca naučenih tijekom obuke, a ne preuzimanjem provjerenih informacija iz izvora znanja. Sustav optimizira za tečnost i vjerodostojnost, a ne za točnost. Izmišljeni sadržaj obično se predstavlja s istom razinom uvjerenja kao i točan sadržaj — ne postoji unutarnji signal koji pouzdano razlikuje jedno od drugog.

\n

U istraživačkim kontekstima ponekad se više preferira pojam konfabulacióna umjesto halucinacije, budući da konfabulacióna u psihologiji označava stvaranje lažnih, ali iskreno vjerovanih prikaza bez namjere obmane — što je bliže onome što generativni sustavi zapravo rade. Halucinacija ostaje dominantan pojam u javnom i tehničkom diskursu te se ovdje zadržava.

\n

Halucinacije nisu povremene greške. One su strukturna značajka temeljnog procesa generiranja, a ne pogreške koje se mogu pouzdano ukloniti boljim upitima (Kalai & Vempala, 2024). Pojavljuju se u svim generativnim sustavima — uključujući ☑ RAG AI, gdje izmišljanje također može utjecati na to kako se pronađeni izvori sažimaju, citiraju ili pripisuju.

\n

Didaktičko pozicioniranje: Halucinacije se mogu konceptualno smjestiti kao četvrta kategorija uz dezinformacije, disinformacije i malinformacije. Za razliku od njih, ne proizvodi ih ljudski izvor s namjerom ili pogreškom, već proizlaze iz samog procesa generiranja — lažni sadržaj koji je generirao sustav, bez namjernog izvora. Ova trostruka distinkcija ovdje se nudi kao pedagoški korisno okvirno objašnjenje, a ne kao utvrđena terminologija konsenzusa.

\n

Uobičajene vrste:

\n
    \n
  • izmišljeni izvori — citati članaka, knjiga ili studija koji ne postoje\n
    • \n
  • pogrešno pripisane ili izmišljene citate\n
    • \n
  • izmišljene statistike ili numerički navodi\n
    • \n
  • neprecizni biografski, povijesni ili znanstveni detalji predstavljeni s uvjerenjem\n
    • \n
  • uvjerljivo netočni sažeci stvarnih izvora\n
    • \n
\n
\n
\n\n

Smatrajte svaku činjeničnu tvrdnju generativnog AI sustava neproverenom dok je ne provjerite u neovisnom izvoru. Reference i citate je posebno lako provjeriti — potražite postoji li navedeni izvor i sadrži li ono što je AI tvrdio.

\n
\n
\n
\n
\n\n
    \n
  • \nBender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). O opasnostima stohastičkih papiga: Mogu li jezični modeli biti preveliki? Zbornik radova konferencije ACM-a za 2021. o pravednosti, odgovornosti i transparentnosti (FAccT '21)\n, 610–623. https://doi.org/10.1145/3442188.3445922\n
    • \n
  • \nJi, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Pregled halucinacije u generaciji prirodnog jezika. ACM Computing Surveys, 55\n(12), članak 248. https://doi.org/10.1145/3571730\n
    • \n
  • \nKalai, A. T., & Vempala, S. S. (2024). Kalibrirani jezični modeli moraju halucinirati. Zbornik 56. godišnjeg ACM simpozija o teoriji računarstva (STOC 2024)\n, 160–171. https://doi.org/10.1145/3618260.3649777\n
    • \n
  • \nSmith, A. L., Greaves, F., & Panch, T. (2023). Halucinacija ili konfabulación? Neuroanatomija kao metafora u velikim jezičnim modelima. PLOS Digital Health, 2\n(11), e0000388. https://doi.org/10.1371/journal.pdig.0000388\n
    • \n
\n
\n
\n

Pogrešno predstavljanje sadržaja

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
FormatManipuliranoIzmišljeno
Tekstpravi citat izvađen iz konteksta, izmijenjen naslovizmišljeni citat, fiktivni članak, tekst generiran umjetnom inteligencijom
Slikaretuširana fotografija, izrezano izvornosliku generiranu umjetnom inteligencijom, slikani lažni "fotografija"
Audiouređena ili ubrzana originalna snimkaklon glasa, govor generiran umjetnom inteligencijom
Videojeftina lažna snimka, ponovno montirani isječcipotpuno sintetički deepfake video
Dokumentlažni zaglavni papir na izmijenjenom predloškuizmišljeno "službeno" pismo
\n

Izmišljeni sadržaj

\n

Izmišljeni sadržaj su informacije — tekst, slika, audio, video, dokument ili drugi format — koje su u potpunosti izmišljene, bez stvarnog izvornog materijala. Može biti proizveden ručno (izmišljeni citati, fiktivni novinski članci) ili generiran sintetički pomoću AI sustava (sintetički videozapisi, glasovni klonovi, AI-generirane slike, AI-napisan tekst).

\n

Manipulirani sadržaj

\n

Manipulirani sadržaj su autentične informacije — tekst, slika, audio, video, dokument ili drugi format — koje su izmijenjene radi obmane. Izvorni materijal je stvaran, ali je izmijenjen uređivanjem, selektivnim obrezivanjem, promjenom brzine, rekontekstualizacijom, promjenom kadra, zamjenom glasa ili drugim transformacijama koje mijenjaju njegovo značenje ili očiti kontekst.

\n

Jeftina lažanka

\n

Jeftina lažna medijska sadržaj je koji je izmijenjen pomoću konvencionalnih, široko dostupnih alata — softvera za uređivanje slika, softvera za montažu videa ili osnovne rekontekstualizacije — a ne generativnih metoda temeljenih na umjetnoj inteligenciji. Termin su skovali Paris i Donovan (2019.) kako bi skrenuli pozornost na činjenicu da najznačajniji oblici manipuliranih medija u javnom diskursu obično nisu sofisticirani deepfakeovi generirani pomoću umjetne inteligencije, već jednostavne, jeftine tehnike koje svatko može primijeniti.

\n

Uobičajene tehnike jeftinih lažnih sadržaja uključuju:

\n
    \n
  • manipulacija brzinom (npr. usporeni video Pelosijeve, 2019)\n
    • \n
  • ponovno rezanje i selektivno uređivanje zvuka ili videa\n
    • \n
  • rekontekstualizacija (pravi mediji predstavljeni s lažnim natpisom ili uokvirivanjem)\n
    • \n
  • retuširanje fotografija, obrezivanje ili kompoziting\n
    • \n
  • zamijenjeni natpisi i lažirani snimci zaslona\n
    • \n
  • spajanje zvučnih zapisa\n
    • \n
\n

Bilo da jeftina lažna verzija predstavlja dezinformaciju, disinformaciju ili malinformaciju ovisi o znanju i namjeri počinitelja (→ poremećaj informiranja), a ne o samoj tehnici. Isti uređeni video može služiti satiri, fikciji, obrazovanju ili obmani.

\n

U usporedbi s dubokim lažnjacima, jeftini lažnjaci zahtijevaju manje tehničkog znanja, ali ih nije nužno lakše otkriti — dobro izvedenu rekontekstualizaciju ili selektivnu montažu može biti izuzetno teško prepoznati bez pristupa izvornom materijalu.

\n
\n
\n\n
\n
\n
\n
\n
\n\n

Alati za provjeru jeftinih lažnih sadržaja:

\n
\n
\n
\n

Deep Fake

\n

Deep fake

\n

Deep fake je sintetički medij generiran umjetnom inteligencijom — točnije, korištenjem tehnika dubokog učenja kao što su generativne protivničke mreže (GAN), modeli difuzije ili generatori temeljeni na transformatorima. Izraz je spoj riječi "deep learning" (duboko učenje) i "fake" (lažni), a potječe iz 2017. godine iz internetskih zajednica koje su proizvodile videozapise s umjetno izmijenjenim licima. Od tada se tehnologija proširila na različite medijske vrste i sada je široko dostupna putem alata za potrošače.

\n

Uobičajeni oblici uključuju:

\n
    \n
  • Zamjena lica: zamjena lica jedne osobe licem druge u videu\n
    • \n
  • Klonirovanje glasa: sinteza glasa govornika na temelju malog audio uzorka\n
    • \n
  • Potpuno sintetički video: AI-generirani snimci koji prikazuju ljude, događaje ili scene koje se nikada nisu dogodile\n
    • \n
  • Sintetička fotografija: statične slike generirane umjetnom inteligencijom fiktivnih osoba ili događaja\n
    • \n
  • Tekst u video i tekst u audio: generiranje medija iz napisa\n
    • \n
\n

Budući da li deep fake predstavlja dezinformaciju, disinformaciju ili malinformaciju ovisi o znanju i namjeri aktera (→ poremećaj informacija), a ne o samoj tehnici. Metode deep fakea također se legitimno koriste u filmskoj produkciji, alatima za pristupačnost (sintetički glasovi za osobe koje su izgubile svoj), sinhronizaciji jezika, satiri, obrazovanju i umjetnosti.

\n

Za razliku od jeftinih lažnih sadržaja, za izradu dubinskih lažnih sadržaja potrebno je više tehničkog znanja kako bi bili uvjerljivi te mogu postići viši vizualni ili zvučni realizam. Međutim, oni nisu dominantan oblik medijske manipulacije u javnom diskursu – Paris i Donovan (2019.) navode da jednostavnije tehnike jeftinih lažnih sadržaja ostaju češće i često imaju veće posljedice. Otkrivanje je aktivno istraživačko područje; trenutačni pristupi kombiniraju analizu artefakata, provjeru bioloških nedosljednosti i provjeru podrijetla (npr. C2PA vjerodajnice sadržaja).

\n
\n
\n\n
    \n
  • \nParis, B. i Donovan, J. (2019.). Duboke lažne snimke i jeftine lažne snimke: Manipulacija zvučnim i vizualnim dokazima\n. Data & Society Research Institute.https://datasociety.net/library/deepfakes-and-cheap-fakes/\n
    • \n
  • Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review, 107(6), 1753–1820.\n
    • \n
  • \nVaccari, C., & Chadwick, A. (2020). Deepfakes i dezinformacije: Istraživanje utjecaja sintetičkog političkog videa na obmanu, nesigurnost i povjerenje u vijestima. Social Media + Society\n, 6(1), 1–13. https://doi.org/10.1177/2056305120903408\n
    • \n
\n
\n
\n
\n
\n\n

Alati za provjeru deepfakea:

\n
\n
\n
","UPDATEDAT":"2026-05-11T20:49:09.513Z","LANG":"hr","ID":"3a2e66d9-94a9-482d-a20b-3c977e896fa3","TITLE":"Dezinformacije i manipulacija","SOURCELANG":"en"}