{"CACHEDAT":"2026-05-13 09:36:51","TRANSLATEDAT":"2026-05-13 09:36:51","SOURCESIGNATURE":"7a9e56d2ea3f2c69597ecdc4c37790c3bd22ac955bbb62f6ceb193688b397de6","SLUG":"misinformation-manipulation-WtiyDFyWdl","MARKDOWN":"# Information Disorder\n\nWardle & Derakhshan (2017), in a foundational report for the Council of Europe, introduce *Information Disorder* as the umbrella term for false, misleading, or harmfully shared information in the public information environment. They distinguish three categories along two axes: whether the content is *false* or *true*, and whether it is shared with *intent to harm*.\n\n| Type | Content | Sharer's knowledge of falseness | Intent to harm |\n|------|---------|---------------------------------|----------------|\n| **Misinformation** | false or misleading | does not know | no |\n| **Disinformation** | false or misleading | knows | yes |\n| **Malinformation** | true | (not the criterion) | yes |\n\nThe three categories form an interconnected ecology: the same content item can move between them depending on who shares it and with what intent.\n\n### Fake News\n\nThe term *fake news* is widely used in public debate but analytically imprecise. It usually refers to false or misleading information presented in the style of news reporting. However, because the term can refer to different types of information disorder and is often used politically to discredit unwanted reporting, more precise terms such as *misinformation*, *disinformation*, *fabricated content*, *false context*, or *manipulated content* should be preferred.\n\n## Misinformation\n\nMisinformation is false or misleading information shared by people who do not realise it is false. The sharer believes the content is accurate; there is no intent to deceive or harm.\n\nMisinformation typically arises in fast-moving news situations (early reports with unconfirmed details), in passing along claims without checking accuracy, and in repeating information from trusted sources that turn out to be wrong. It can be as widespread and consequential as disinformation, despite the absence of malicious intent — its sharers are often genuinely motivated and trusted within their networks, which gives the content reach and perceived credibility (Lewandowsky et al., 2017).\n\n### Misinformation Susceptibility Factors\n\n\n:::success\n**1. Cognitive factors** — how information is processed\n\n* **Confirmation bias**: People pay more attention to information that supports what they already believe, and scrutinise opposing information more harshly. — Nickerson (1998)\n* **Illusory truth effect**: Claims can feel more believable simply because people have seen them before, even when they are false. — Unkelbach et al. (2019)\n* **Processing fluency**: Information that is easy to read, familiar in wording, or visually clear feels more trustworthy than information that is harder to process. — Reber & Schwarz (1999)\n* **Low cognitive reflection**: People who rely on quick, intuitive judgements rather than pausing to check are more likely to fall for false claims. — Pennycook & Rand (2019)\n* **Bullshit receptivity**: Some people are inclined to find vague but impressive-sounding statements meaningful, even when they are empty. — Pennycook et al. (2015)\n* **Low numeracy / scientific literacy**: People may struggle to evaluate statistics, graphs, risk statements, or scientific evidence; education alone is no automatic protection. — Kahan et al. (2017)\n\n**2. Affective / motivational factors** — how emotions and identity shape judgement\n\n* **Emotional reasoning / reliance on emotion**: People accept claims because they feel right, frightening, satisfying, or morally urgent, rather than because they have been checked. — Martel, Pennycook & Rand (2020)\n* **Specific emotions** (anger, fear, moral outrage): Strong emotions can lead people to react quickly and share before checking; moral-emotional language is especially powerful in spreading political content. (Belief and sharing are distinct effects with different evidence.) — Brady et al. (2017); Martel et al. (2020)\n* **Identity-protective cognition**: People process information in ways that protect their political, religious, or group identity, and resist evidence that would threaten it. (Closely linked to *political identity* in category 5.) — Kahan (2013, 2017)\n* **Conspiracy mindset**: A general tendency to suspect hidden plots or powerful actors behind events makes conspiracy-style misinformation more plausible. — Douglas, Sutton & Cichocka (2017)\n\n**3. Social factors** — whom and which groups people trust\n\n* **Source credibility / trust in the sender**: How believable a claim feels depends on who appears to be saying it — a friend, an influencer, an expert, a politician, a news outlet, or an anonymous account. — Traberg & van der Linden (2022)\n* **Social proof / popularity cues**: Likes, shares, views, and comments can act as credibility cues, although the effect depends on context. — Avram et al. (2020)\n* **In-group / partisan congruency**: Information from \"people like us\", or aligned with a group's position, is accepted more easily. (Closely linked to *political identity* in category 5.) — Sultan et al. (2024)\n* **Network homophily / echo chambers**: When people mostly encounter information through networks of similar others, certain views appear more widely shared than they really are. (See also D1G5.) — Cinelli et al. (2021)\n\n**4. Contextual / situational factors** — the conditions under which people meet information\n\n* **Time pressure**: When people have to judge information quickly, they distinguish true from false claims less accurately. — Sultan et al. (2022)\n* **Information overload**: When too much information arrives at once, people fall back on shortcuts like headlines, emotion, source labels, or popularity. — Laato et al. (2020)\n* **Distraction / cognitive load**: When attention is drawn elsewhere, people may share without checking accuracy, even if they could otherwise recognise the misinformation. — Pennycook et al. (2020)\n* **Crisis / uncertainty contexts** (pandemics, war, disasters): Urgent need for explanation increases openness to false or premature claims. — Roozenbeek et al. (2020)\n* **Platform design**: Feeds, notifications, recommendation systems, autoplay, and fast scrolling encourage reactive rather than reflective behaviour. (See also D1G1.) — Lorenz-Spreen et al. (2020)\n\n**5. Background and dispositional factors** — who may be more or less vulnerable in specific contexts\n\n* **Age**: Older adults sometimes distinguish true from false headlines better in studies, but share misinformation more often online. — Guess, Nagler & Tucker (2019)\n* **Education**: Not an automatic shield; meta-analyses show no simple effect on misinformation discrimination. — Sultan et al. (2024)\n* **Political identity and prior beliefs**: Shape which information feels plausible, threatening, trustworthy, or worth sharing. (Operates via identity-protective cognition in category 2 and in-group cues in category 3 — not purely a demographic variable.) — Sultan et al. (2024)\n* **Media literacy habits**: People who compare sources, read beyond headlines, and recognise manipulation techniques rely less on emotional or social shortcuts. *(Note: this is the learning goal of SciLMi itself — listed here as a documented protective disposition, not as a prerequisite.)* — Guess et al. (2020)\n\n:::\n\n\n:::info\n* Avram, M., Micallef, N., Patil, S., & Menczer, F. (2020). Exposure to social engagement metrics increases vulnerability to misinformation. *Harvard Kennedy School (HKS) Misinformation Review*, *1*(5). \n* Brady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Emotion shapes the diffusion of moralized content in social networks. *Proceedings of the National Academy of Sciences*, *114*(28), 7313–7318. \n* Cinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). The echo chamber effect on social media. *Proceedings of the National Academy of Sciences*, *118*(9), e2023301118. \n* Douglas, K. M., Sutton, R. M., & Cichocka, A. (2017). The psychology of conspiracy theories. *Current Directions in Psychological Science*, *26*(6), 538–542. \n* Guess, A., Nagler, J., & Tucker, J. (2019). Less than you think: Prevalence and predictors of fake news dissemination on Facebook. *Science Advances*, *5*(1), eaau4586. \n* Jones-Jang, S. M., Mortensen, T., & Liu, J. (2021). Does media literacy help identification of fake news? Information literacy helps, but other literacies don't. *American Behavioral Scientist*, *65*(2), 371–388. \n* Kahan, D. M. (2013). Ideology, motivated reasoning, and cognitive reflection. *Judgment and Decision Making*, *8*(4), 407–424.\n* Kahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Motivated numeracy and enlightened self-government. *Behavioural Public Policy*, *1*(1), 54–86. \n* Laato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). What drives unverified information sharing and cyberchondria during the COVID-19 pandemic? *European Journal of Information Systems*, *29*(3), 288–305. \n* Lorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). How behavioural sciences can promote truth, autonomy and democratic discourse online. *Nature Human Behaviour*, *4*(11), 1102–1109. \n* Martel, C., Pennycook, G., & Rand, D. G. (2020). Reliance on emotion promotes belief in fake news. *Cognitive Research: Principles and Implications*, *5*(1), 47. \n* Nickerson, R. S. (1998). Confirmation bias: A ubiquitous phenomenon in many guises. *Review of General Psychology*, *2*(2), 175–220. \n* Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). On the reception and detection of pseudo-profound bullshit. *Judgment and Decision Making*, *10*(6), 549–563.\n* Pennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). Fighting COVID-19 misinformation on social media: Experimental evidence for a scalable accuracy-nudge intervention. *Psychological Science*, *31*(7), 770–780. \n* Pennycook, G., & Rand, D. G. (2019). Lazy, not biased: Susceptibility to partisan fake news is better explained by lack of reasoning than by motivated reasoning. *Cognition*, *188*, 39–50. \n* Reber, R., & Schwarz, N. (1999). Effects of perceptual fluency on judgments of truth. *Consciousness and Cognition*, *8*(3), 338–342. \n* Roozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). Susceptibility to misinformation about COVID-19 around the world. *Royal Society Open Science*, *7*(10), 201199. \n* Sultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). Time pressure reduces misinformation discrimination ability but does not alter response bias. *Scientific Reports*, *12*(1), 22416. \n* Sultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Susceptibility to online misinformation: A systematic meta-analysis of demographic and psychological factors. *Proceedings of the National Academy of Sciences*, *121*(47), e2409329121. \n* Traberg, C. S., & van der Linden, S. (2022). Birds of a feather are persuaded together: Perceived source credibility mediates the effect of political bias on misinformation susceptibility. *Personality and Individual Differences*, *185*, 111269. \n* Unkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). Truth by repetition: Explanations and implications. *Current Directions in Psychological Science*, *28*(3), 247–253. \n\n:::\n\n### ☑ Logical Fallacies\n\n\n:::success\n- [ ] Check for hasty generalisations - Conclusion from too little evidence.\n- [ ] Check for false dilemmas - Limiting options to two when more exist.\n- [ ] Check for straw man arguments - Misrepresenting a position to refute it easily.\n- [ ] Check for appeals to ignorance - Claiming truth due to lack of disproof.\n- [ ] Check for appeals to authority - Assuming truth based on authority alone.\n- [ ] Check for red herrings - Distracting from the main issue.\n- [ ] Check for false causes - Confusing correlation with causation.\n- [ ] Check for ad hominem - Attacking the person, not the argument. \n- [ ] Check for ad populum - Arguing truth from popularity.\n- [ ] Check for slippery slopes - Asserting one step leads to extremes.\n- [ ] Check for circular reasoning - Using the conclusion as a premise.\n\n:::\n\n\n:::tip\n* \n* \n* \n\n:::\n\n## Disinformation\n\nDisinformation is false or misleading information shared deliberately, by people who know it is false, with the intent to harm, deceive, or manipulate. Both the sharer's awareness of the falseness and the harmful intent are definitional features.\n\nCommon forms include political influence operations, commercial deception, propaganda, fabricated content, and manipulated media. Disinformation is often produced by organised actors and amplified through *Coordinated Inauthentic / Artificial Amplification* (above).\n\n## Malinformation\n\nMalinformation is *true* information shared with intent to harm. The content itself is accurate, but its release, framing, or timing is calculated to damage a person, group, or institution. The classical pattern is the deliberate movement of private, sensitive, or context-bound information into a public or harmful context.\n\nExamples include the publication of leaked private communications to discredit a target, the release of accurate but stigmatising personal data (e.g. revenge porn), and the strategic disclosure of factually correct but contextually damaging information at moments calculated for maximum impact.\n\nMalinformation is the least-discussed of the three categories because the content is not false, which places it outside fact-checking frameworks. But it forms a significant part of the information-disorder ecology (Wardle & Derakhshan, 2017).\n\n\n:::warning\n**The boundaries are porous.**\n\nThe three categories often overlap or shift in practice:\n\n* A piece of *disinformation*, once shared by people who genuinely believe it, becomes *misinformation* as it spreads further. The same content can sit in different categories depending on who shares it.\n* Content can be partly true and partly false. Wardle (2017) lists seven forms within information disorder — including *misleading content*, *false context*, and *manipulated content* — not all false content is fully fabricated.\n* Determining intent from outside is empirically hard. Without access to the sharer's knowledge state and motivation, the line between misinformation and disinformation often cannot be drawn definitively.\n\nThis is why the framework asks learners to *explain why the boundary between misinformation and disinformation is often difficult to determine in practice*.\n\n:::\n\n\n:::info\n* Wardle, C., & Derakhshan, H. (2017). *Information Disorder: Toward an interdisciplinary framework for research and policy making*. Council of Europe Report DGI(2017)09. \n* Wardle, C. (2017). Fake news. It's complicated. *First Draft News*. \n* Lewandowsky, S., Ecker, U. K. H., & Cook, J. (2017). Beyond misinformation: Understanding and coping with the \"post-truth\" era. *Journal of Applied Research in Memory and Cognition*, 6(4), 353–369. \n* Vraga, E. K., & Bode, L. (2020). Defining misinformation and understanding its bounded nature. *Political Communication*, 37(1), 136–144. \n\n:::\n\n# AI Hallucination / Confabulation\n\nThe systematic tendency of generative AI systems to produce plausible-sounding content that is factually incorrect, fabricated, or unverifiable — including invented references, non-existent studies, misattributed quotations, made-up statistics, and false biographical, historical, or scientific details.\n\nHallucinations occur because generative AI systems produce output by predicting plausible continuations from patterns learned during training, not by retrieving verified information from a knowledge source. The system optimises for fluency and plausibility, not for accuracy. Fabricated content is typically presented with the same confidence as accurate content — there is no internal signal that reliably distinguishes the two.\n\nThe term **confabulation** is sometimes preferred over **hallucination** in research contexts, since confabulation in psychology denotes the construction of false but sincerely believed accounts without intent to deceive — closer to what generative systems actually do. *Hallucination* remains the dominant term in public and technical discourse and is retained here.\n\n**Hallucinations are not occasional bugs.** They are a structural feature of the underlying generation process, not errors that can be reliably eliminated through better prompting (Kalai & Vempala, 2024). They occur across all generative systems — including ☑ RAG AI, where fabrication can also affect how retrieved sources are summarised, quoted, or attributed.\n\n**Didactic positioning:** Hallucinations can be located conceptually as a forth category alongside *misinformation, disinformation*, and *malinformation*. Unlike both, they are not produced by a human source with intent or error in mind, but emerge from the generation process itself — system-generated false content without an intentional source. This three-way distinction is offered here as a pedagogically useful framing rather than as established consensus terminology.\n\n**Common types:**\n\n* fabricated references — citations to articles, books, or studies that do not exist\n* misattributed or fabricated quotations\n* invented statistics or numerical claims\n* inaccurate biographical, historical, or scientific details presented confidently\n* confidently incorrect summaries of real sources\n\n\n:::tip\nTreat any factual claim from a generative AI system as unverified until checked against an independent source. References and quotations are particularly easy to verify — search whether the cited source exists and contains what the AI claimed.\n\n:::\n\n\n:::info\n* Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? *Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21)*, 610–623. \n* Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. *ACM Computing Surveys, 55*(12), Article 248. \n* Kalai, A. T., & Vempala, S. S. (2024). Calibrated language models must hallucinate. *Proceedings of the 56th Annual ACM Symposium on Theory of Computing (STOC 2024)*, 160–171. \n* Smith, A. L., Greaves, F., & Panch, T. (2023). Hallucination or confabulation? Neuroanatomy as metaphor in large language models. *PLOS Digital Health, 2*(11), e0000388. \n\n:::\n\n# Content Misrepresentation\n\n| Format | Manipulated | Fabricated |\n|--------|-------------|------------|\n| Text | genuine quote stripped of context, doctored headline | invented quote, fictional article, AI-generated text |\n| Image | retouched photograph, cropped original | AI-generated image, painted fake \"photograph\" |\n| Audio | edited or sped-up original recording | voice clone, AI-generated speech |\n| Video | cheap fake, recut clips | fully synthetic deepfake video |\n| Document | forged letterhead on modified template | invented \"official\" letter |\n\n## Fabricated Content\n\n**Fabricated content** is information — text, image, audio, video, document, or other format — that has been entirely invented, with no genuine source material. It may be produced manually (invented quotes, fictional news articles) or generated synthetically by AI systems (synthetic videos, voice clones, AI-generated images, AI-written text).\n\n## Manipulated Content\n\n**Manipulated content** is geniune information — text, image, audio, video, document, or other format — that has been altered to deceive. The source material is real, but it is modified through editing, selective cropping, speed adjustment, recontextualisation, framing changes, voice substitution, or other transformations that change its meaning or apparent context.\n\n### Cheap Fake\n\nA **cheap fake** is media that has been altered using conventional, widely available tools — image editing software, video editing software, or basic recontextualisation — rather than AI-based generative methods. The term was coined by Paris and Donovan (2019) to draw attention to the fact that the most consequential forms of manipulated media in public discourse are typically not sophisticated AI-generated deepfakes, but simple, low-cost techniques that anyone can apply.\n\nCommon cheap fake techniques include:\n\n* speed manipulation (e.g. the slowed-down Pelosi video, 2019)\n* recutting and selective editing of audio or video\n* recontextualisation (real media presented with a false caption or framing)\n* photo retouching, cropping, or compositing\n* swapped captions and doctored screenshots\n* audio splicing\n\nWhether a cheap fake constitutes *Misinformation*, *Disinformation*, or *Malinformation* depends on the actor's knowledge and intent (→ *Information Disorder*), not on the technique itself. The same edited video can serve satire, fiction, education, or deception.\n\nCompared with *Deep Fakes*, cheap fakes require less technical skill but are not necessarily easier to detect — well-executed recontextualisation or selective editing can be extremely difficult to identify without access to the original source material.\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence*. Data & Society Research Institute. \n\n:::\n\n\n:::tip\nCheap Fake Verification Tools: \n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n### Deep Fake\n\n### Deep Fake\n\nA **deep fake** is synthetic media generated by artificial intelligence — specifically using deep learning techniques such as generative adversarial networks (GANs), diffusion models, or transformer-based generators. The term is a portmanteau of *deep learning* and *fake*, originating in 2017 in online communities producing AI-generated face-swap videos. The technology has since expanded across media types and is now broadly accessible through consumer-level tools.\n\nCommon forms include:\n\n* **Face swaps**: replacing one person's face with another's in video\n* **Voice cloning**: synthesising a speaker's voice from a small audio sample\n* **Full synthetic video**: AI-generated footage showing people, events, or scenes that never occurred\n* **Synthetic photography**: AI-generated still images of fictional people or events\n* **Text-to-video and text-to-audio**: generating media from written prompts\n\nWhether a deep fake constitutes *Misinformation*, *Disinformation*, or *Malinformation* depends on the actor's knowledge and intent (→ *Information Disorder*), not on the technique itself. Deep fake methods are also used legitimately in film production, accessibility tools (synthetic voices for people who have lost theirs), language dubbing, satire, education, and the arts.\n\nCompared with *Cheap Fakes*, deep fakes require more technical capacity to produce convincingly and can achieve higher visual or auditory realism. They are not, however, the dominant form of media manipulation in public discourse — Paris and Donovan (2019) note that simpler cheap-fake techniques remain more common and often more consequential. Detection is an active research area; current approaches combine artefact analysis, biological inconsistency checks, and provenance verification (e.g. C2PA content credentials).\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence*. Data & Society Research Institute. \n* Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. *California Law Review*, 107(6), 1753–1820.\n* Vaccari, C., & Chadwick, A. (2020). Deepfakes and disinformation: Exploring the impact of synthetic political video on deception, uncertainty, and trust in news. *Social Media + Society*, 6(1), 1–13. \n\n:::\n\n\n:::tip\nDeep Fake Verification Tools: \n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n\n##","HTML":"

Disordine informativo

\n

Wardle & Derakhshan (2017), in un rapporto fondamentale per il Consiglio d'Europa, introducono il concetto di "disordine informativo" come termine generico per indicare le informazioni false, fuorvianti o diffuse con l'intento di nuocere nell'ambito dell'informazione pubblica. Essi distinguono tre categorie lungo due assi: se il contenuto è falso o vero e se viene diffuso con l'intento di nuocere.

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
TipoContenutoConsapevolezza della falsità da parte di chi condivideIntenzione di nuocere
Disinformazionefalso o fuorviantenon sano
Disinformazionefalsa o fuorviantesasì
Informazioni erratevero(non è il criterio)sì
\n

Le tre categorie formano un ecosistema interconnesso: lo stesso contenuto può spostarsi tra di esse a seconda di chi lo condivide e con quale intento.

\n

Notizie false

\n

Il termine fake news è ampiamente utilizzato nel dibattito pubblico, ma è analiticamente impreciso. Di solito si riferisce a informazioni false o fuorvianti presentate nello stile di un servizio giornalistico. Tuttavia, poiché il termine può riferirsi a diversi tipi di disordine informativo ed è spesso utilizzato a fini politici per screditare notizie indesiderate, è preferibile utilizzare termini più precisi come disinformazione, informazioni errate, contenuti inventati, contesto falso o contenuti manipolati.

\n

Disinformazione

\n

La disinformazione è un'informazione falsa o fuorviante condivisa da persone che non si rendono conto che è falsa. Chi la condivide crede che il contenuto sia accurato; non c'è alcun intento di ingannare o danneggiare.

\n

La disinformazione nasce tipicamente in situazioni di attualità in rapida evoluzione (primi resoconti con dettagli non confermati), nel trasmettere affermazioni senza verificarne l’accuratezza e nel ripetere informazioni provenienti da fonti affidabili che si rivelano errate. Può essere diffusa e avere conseguenze gravi quanto la disinformazione, nonostante l'assenza di intenzioni maligne: chi la condivide è spesso sinceramente motivato e gode di fiducia all'interno delle proprie reti, il che conferisce al contenuto portata e credibilità percepita (Lewandowsky et al., 2017).

\n

Fattori di suscettibilità alla disinformazione

\n
\n
\n\n

1. Fattori cognitivi — come vengono elaborate le informazioni

\n
    \n
  • Pregiudizio di conferma: le persone prestano maggiore attenzione alle informazioni che supportano ciò in cui già credono e valutano le informazioni contrarie in modo più critico. — Nickerson (1998)\n
    • \n
  • Effetto della verità illusoria: le affermazioni possono sembrare più credibili semplicemente perché le persone le hanno già viste in precedenza, anche quando sono false. — Unkelbach et al. (2019)\n
    • \n
  • Fluidità di elaborazione: le informazioni facili da leggere, con un linguaggio familiare o visivamente chiare sembrano più affidabili rispetto a quelle più difficili da elaborare. — Reber & Schwarz (1999)\n
    • \n
  • Scarsa riflessione cognitiva: le persone che si affidano a giudizi rapidi e intuitivi piuttosto che fermarsi a verificare sono più inclini a credere ad affermazioni false. — Pennycook & Rand (2019)\n
    • \n
  • Ricettività alle sciocchezze: alcune persone sono inclini a trovare significative affermazioni vaghe ma dal suono impressionante, anche quando sono prive di contenuto. — Pennycook et al. (2015)\n
    • \n
  • Scarsa alfabetizzazione matematica / scientifica: le persone possono avere difficoltà a valutare statistiche, grafici, dichiarazioni di rischio o prove scientifiche; l'istruzione da sola non è una protezione automatica. — Kahan et al. (2017)\n

    2. Fattori affettivi / motivazionali — come le emozioni e l'identità influenzano il giudizio

    \n
    • \n
  • Ragionamento emotivo / affidamento alle emozioni: le persone accettano affermazioni perché le sentono giuste, spaventose, soddisfacenti o moralmente urgenti, piuttosto che perché sono state verificate. — Martel, Pennycook & Rand (2020)\n
    • \n
  • Emozioni specifiche (rabbia, paura, indignazione morale): le emozioni forti possono indurre le persone a reagire rapidamente e a condividere prima di verificare; il linguaggio morale-emotivo è particolarmente potente nella diffusione di contenuti politici. (La convinzione e la condivisione sono effetti distinti con prove diverse.) — Brady et al. (2017); Martel et al. (2020)\n
    • \n
  • Cognizione protettiva dell'identità: le persone elaborano le informazioni in modi che proteggono la loro identità politica, religiosa o di gruppo e resistono alle prove che la minaccerebbero. (Strettamente legato all'identità politica nella categoria 5.) — Kahan (2013, 2017)\n
    • \n
  • Mentalità complottista: una tendenza generale a sospettare che dietro agli eventi si nascondano complotti o attori potenti rende più plausibile la disinformazione di tipo complottista. — Douglas, Sutton & Cichocka (2017)\n

    3. Fattori sociali — di chi e di quali gruppi le persone si fidano

    \n
    • \n
  • Credibilità della fonte / fiducia nel mittente: quanto un'affermazione risulti credibile dipende da chi sembra dirla — un amico, un influencer, un esperto, un politico, un organo di informazione o un account anonimo. — Traberg & van der Linden (2022)\n
    • \n
  • Prova sociale / segnali di popolarità: Mi piace, condivisioni, visualizzazioni e commenti possono fungere da segnali di credibilità, anche se l'effetto dipende dal contesto. — Avram et al. (2020)\n
    • \n
  • Congruenza all'interno del gruppo / partigianeria: le informazioni provenienti da "persone come noi", o in linea con la posizione di un gruppo, vengono accettate più facilmente. (Strettamente legato all'identità politica nella categoria 5.) — Sultan et al. (2024)\n
    • \n
  • Omofilia di rete / camere di risonanza: quando le persone si imbattono principalmente in informazioni attraverso reti di persone simili a loro, certe opinioni sembrano più diffuse di quanto non siano in realtà. (Vedi anche D1G5.) — Cinelli et al. (2021)\n

    4. Fattori contestuali / situazionali — le condizioni in cui le persone entrano in contatto con le informazioni

    \n
    • \n
  • Pressione temporale: quando le persone devono valutare rapidamente le informazioni, distinguono le affermazioni vere da quelle false in modo meno accurato. — Sultan et al. (2022)\n
    • \n
  • Sovraccarico di informazioni: quando si ricevono troppe informazioni contemporaneamente, le persone ricorrono a scorciatoie come titoli, emozioni, etichette delle fonti o popolarità. — Laato et al. (2020)\n
    • \n
  • Distrazione / carico cognitivo: quando l'attenzione è rivolta altrove, le persone possono condividere senza verificare l'accuratezza, anche se altrimenti sarebbero in grado di riconoscere la disinformazione. — Pennycook et al. (2020)\n
    • \n
  • Contesti di crisi / incertezza (pandemie, guerre, disastri): l'urgente bisogno di spiegazioni aumenta la disponibilità ad accettare affermazioni false o premature. — Roozenbeek et al. (2020)\n
    • \n
  • Progettazione della piattaforma: feed, notifiche, sistemi di raccomandazione, riproduzione automatica e scorrimento veloce incoraggiano un comportamento reattivo piuttosto che riflessivo. (Vedi anche D1G1.) — Lorenz-Spreen et al. (2020)\n

    5. Fattori di contesto e caratteriali — chi può essere più o meno vulnerabile in contesti specifici

    \n
    • \n
  • Età: negli studi, gli anziani a volte distinguono meglio i titoli veri da quelli falsi, ma condividono più spesso disinformazione online. — Guess, Nagler & Tucker (2019)\n
    • \n
  • Istruzione: non è uno scudo automatico; le meta-analisi non mostrano un effetto univoco sulla capacità di distinguere le informazioni errate. — Sultan et al. (2024)\n
    • \n
  • Identità politica e convinzioni preesistenti: determinano quali informazioni appaiono plausibili, minacciose, affidabili o degne di essere condivise. (Agiscono tramite la cognizione di protezione dell’identità nella categoria 2 e gli indizi di appartenenza al gruppo nella categoria 3 — non sono una variabile puramente demografica.) — Sultan et al. (2024)\n
    • \n
  • Abitudini di alfabetizzazione mediatica: le persone che confrontano le fonti, leggono oltre i titoli e riconoscono le tecniche di manipolazione si affidano meno a scorciatoie emotive o sociali. (Nota: questo è l'obiettivo di apprendimento di SciLMi stesso — elencato qui come disposizione protettiva documentata, non come prerequisito.) — Guess et al. (2020)\n
    • \n
\n
\n
\n
\n
\n\n
    \n
  • \nAvram, M., Micallef, N., Patil, S., & Menczer, F. (2020). L’esposizione alle metriche di coinvolgimento sociale aumenta la vulnerabilità alla disinformazione. Harvard Kennedy School (HKS) Misinformation Review\n, 1\n(5). https://doi.org/10.37016/mr-2020-033\n
    • \n
  • \nBrady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). L’emozione modella la diffusione di contenuti moralizzati nei social network. Atti dell’Accademia Nazionale delle Scienze\n, 114\n(28), 7313–7318. https://doi.org/10.1073/pnas.1618923114\n
    • \n
  • \nCinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). L'effetto camera dell'eco sui social media. Atti dell'Accademia Nazionale delle Scienze\n, 118\n(9), e2023301118. https://doi.org/10.1073/pnas.2023301118\n
    • \n
  • \nDouglas, K. M., Sutton, R. M., & Cichocka, A. (2017). La psicologia delle teorie del complotto. Current Directions in Psychological Science\n, 26\n(6), 538–542. https://doi.org/10.1177/0963721417718261\n
    • \n
  • \nGuess, A., Nagler, J., & Tucker, J. (2019). Meno di quanto si pensi: prevalenza e fattori predittivi della diffusione di notizie false su Facebook. Science Advances\n, 5\n(1), eaau4586. https://doi.org/10.1126/sciadv.aau4586\n
    • \n
  • \nJones-Jang, S. M., Mortensen, T., & Liu, J. (2021). L'alfabetizzazione mediatica aiuta a identificare le fake news? L'alfabetizzazione informativa aiuta, ma altre forme di alfabetizzazione no. American Behavioral Scientist\n, 65\n(2), 371–388. https://doi.org/10.1177/0002764219869406\n
    • \n
  • Kahan, D. M. (2013). Ideologia, ragionamento motivato e riflessione cognitiva. Judgment and Decision Making, 8(4), 407–424.\n
    • \n
  • \nKahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Numeracy motivata e autogoverno illuminato. Behavioural Public Policy\n, 1\n(1), 54–86. https://doi.org/10.1017/bpp.2016.2\n
    • \n
  • \nLaato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). Cosa determina la condivisione di informazioni non verificate e la cybercondria durante la pandemia di COVID-19? European Journal of Information Systems\n, 29\n(3), 288–305. https://doi.org/10.1080/0960085X.2020.1770632\n
    • \n
  • \nLorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). Come le scienze comportamentali possono promuovere la verità, l'autonomia e il discorso democratico online. Nature Human Behaviour\n, 4\n(11), 1102–1109. https://doi.org/10.1038/s41562-020-0889-7\n
    • \n
  • \nMartel, C., Pennycook, G., & Rand, D. G. (2020). Affidarsi alle emozioni favorisce la credenza nelle fake news. Cognitive Research: Principles and Implications\n, 5\n(1), 47. https://doi.org/10.1186/s41235-020-00252-3\n
    • \n
  • \nNickerson, R. S. (1998). Il bias di conferma: un fenomeno onnipresente sotto molte forme. Review of General Psychology\n, 2\n(2), 175–220. https://doi.org/10.1037/1089-2680.2.2.175\n
    • \n
  • Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). Sulla ricezione e l’individuazione di sciocchezze pseudo-profonde. Judgment and Decision Making, 10(6), 549–563.\n
    • \n
  • \nPennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). Combattere la disinformazione sul COVID-19 sui social media: prove sperimentali a sostegno di un intervento scalabile di "nudge" sull'accuratezza. Psychological Science\n, 31\n(7), 770–780. https://doi.org/10.1177/0956797620939054\n
    • \n
  • \nPennycook, G., & Rand, D. G. (2019). Pigri, non di parte: la suscettibilità alle fake news di parte si spiega meglio con la mancanza di ragionamento che con il ragionamento motivato. Cognition\n, 188\n, 39–50. https://doi.org/10.1016/j.cognition.2018.06.011\n
    • \n
  • \nReber, R., & Schwarz, N. (1999). Effetti della fluidità percettiva sui giudizi di verità. Consciousness and Cognition\n, 8\n(3), 338–342. https://doi.org/10.1006/ccog.1999.0386\n
    • \n
  • \nRoozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). Susceptibility to misinformation about COVID-19 around the world. Royal Society Open Science\n, 7\n(10), 201199. https://doi.org/10.1098/rsos.201199\n
    • \n
  • \nSultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). La pressione del tempo riduce la capacità di distinguere le informazioni errate, ma non altera il bias di risposta. Scientific Reports\n, 12\n(1), 22416. https://doi.org/10.1038/s41598-022-26209-8\n
    • \n
  • \nSultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Susceptibility to online misinformation: A systematic meta-analysis of demographic and psychological factors. Proceedings of the National Academy of Sciences\n, 121\n(47), e2409329121. https://doi.org/10.1073/pnas.2409329121\n
    • \n
  • \nTraberg, C. S., & van der Linden, S. (2022). Chi si assomiglia si convince a vicenda: la credibilità percepita della fonte media l’effetto del pregiudizio politico sulla suscettibilità alla disinformazione. Personality and Individual Differences\n, 185\n, 111269. https://doi.org/10.1016/j.paid.2021.111269\n
    • \n
  • \nUnkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). La verità per ripetizione: spiegazioni e implicazioni. Current Directions in Psychological Science\n, 28\n(3), 247–253. https://doi.org/10.1177/0963721419827854\n
    • \n
\n
\n
\n

☑ Errori logici

\n
\n
\n\n
    \n
  • Verificare la presenza di generalizzazioni affrettate - Conclusioni basate su prove insufficienti.\n
    • \n
  • Verifica la presenza di falsi dilemmi - Limitare le opzioni a due quando ne esistono di più.\n
    • \n
  • Verificare la presenza di argomenti capziosi - Travisiare una posizione per confutarla facilmente.\n
    • \n
  • Verificare la presenza di appelli all'ignoranza - Affermare la verità a causa della mancanza di confutazione.\n
    • \n
  • Verifica la presenza di appelli all'autorità - Presumere la verità basandosi esclusivamente sull'autorità.\n
    • \n
  • Verifica la presenza di diversivi - Distrazione dalla questione principale.\n
    • \n
  • Verifica la presenza di false cause - Confondere la correlazione con la causalità.\n
    • \n
  • Verifica la presenza di attacchi ad hominem - Attaccare la persona, non l'argomento.\n
    • \n
  • Verifica la presenza di argomenti ad populum - Sostenere la verità basandosi sulla popolarità.\n
    • \n
  • Verifica la presenza di argomentazioni "slippery slope" (pendio scivoloso) - Affermare che un passo porti a situazioni estreme.\n
    • \n
  • Controlla se ci sono ragionamenti circolari - Usare la conclusione come premessa.\n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

Disinformazione

\n

La disinformazione è un'informazione falsa o fuorviante condivisa deliberatamente da persone che sanno che è falsa, con l'intento di danneggiare, ingannare o manipolare. Sia la consapevolezza della falsità da parte di chi la condivide sia l'intento dannoso sono caratteristiche definitorie.

\n

Forme comuni includono operazioni di influenza politica, inganno commerciale, propaganda, contenuti inventati e media manipolati. La disinformazione è spesso prodotta da attori organizzati e amplificata attraverso l'amplificazione coordinata inautentica / artificiale (sopra).

\n

Disinformazione

\n

La malinformazione è un'informazione vera condivisa con l'intento di danneggiare. Il contenuto in sé è accurato, ma la sua diffusione, inquadramento o tempistica è calcolata per danneggiare una persona, un gruppo o un'istituzione. Il modello classico è il trasferimento deliberato di informazioni private, sensibili o legate al contesto in un contesto pubblico o dannoso.

\n

Esempi includono la pubblicazione di comunicazioni private trapelate per screditare un bersaglio, la diffusione di dati personali accurati ma stigmatizzanti (ad esempio, il revenge porn) e la divulgazione strategica di informazioni fattualmente corrette ma contestualmente dannose in momenti calcolati per ottenere il massimo impatto.

\n

La disinformazione è la meno discussa delle tre categorie perché il contenuto non è falso, il che la colloca al di fuori dei quadri di riferimento del fact-checking. Tuttavia, essa costituisce una parte significativa dell’ecologia del disordine informativo (Wardle & Derakhshan, 2017).

\n
\n
\n\n

I confini sono porosi. Le tre categorie spesso si sovrappongono o cambiano nella pratica:

\n
    \n
  • un elemento di disinformazione, una volta condiviso da persone che ci credono sinceramente, diventa disinformazione man mano che si diffonde ulteriormente. Lo stesso contenuto può rientrare in diverse categorie a seconda di chi lo condivide.\n
    • \n
  • Un contenuto può essere in parte vero e in parte falso. Wardle (2017) elenca sette forme di disordine informativo — tra cui contenuti fuorvianti, contesti falsi e contenuti manipolati — non tutti i contenuti falsi sono completamente inventati.\n
    • \n
  • Determinare l'intento dall'esterno è empiricamente difficile. Senza accesso allo stato di conoscenza e alla motivazione di chi condivide, spesso non è possibile tracciare una linea definitiva tra disinformazione e misinformazione.\n

    Questo è il motivo per cui il quadro di riferimento chiede agli studenti di spiegare perché il confine tra disinformazione e disinformazione è spesso difficile da determinare nella pratica.

    \n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

Allucinazione / Confabulazione dell'IA

\n

La tendenza sistematica dei sistemi di IA generativa a produrre contenuti che sembrano plausibili ma che sono di fatto errati, inventati o non verificabili — inclusi riferimenti inventati, studi inesistenti, citazioni attribuite erroneamente, statistiche inventate e dettagli biografici, storici o scientifici falsi.

\n

Le allucinazioni si verificano perché i sistemi di IA generativa producono output prevedendo continuazioni plausibili a partire da modelli appresi durante l'addestramento, non recuperando informazioni verificate da una fonte di conoscenza. Il sistema ottimizza la fluidità e la plausibilità, non l'accuratezza. I contenuti inventati vengono tipicamente presentati con la stessa sicurezza dei contenuti accurati: non esiste un segnale interno che distingua in modo affidabile i due.

\n

Il termine "confabulazione" è talvolta preferito a "allucinazione" nei contesti di ricerca, poiché in psicologia la confabulazione denota la costruzione di resoconti falsi ma sinceramente creduti senza l'intento di ingannare — più vicino a ciò che i sistemi generativi effettivamente fanno. "Allucinazione" rimane il termine dominante nel discorso pubblico e tecnico ed è mantenuto in questo testo.

\n

Le allucinazioni non sono bug occasionali. Sono una caratteristica strutturale del processo di generazione sottostante, non errori che possono essere eliminati in modo affidabile attraverso un prompt migliore (Kalai & Vempala, 2024). Si verificano in tutti i sistemi generativi — inclusa l’☑ RAG AI, dove l’invenzione può anche influenzare il modo in cui le fonti recuperate vengono riassunte, citate o attribuite.

\n

Posizionamento didattico: le allucinazioni possono essere collocate concettualmente come una quarta categoria accanto alla misinformazione, alla disinformazione e alla malinformazione. A differenza di entrambe, non sono prodotte da una fonte umana con un intento o un errore in mente, ma emergono dal processo di generazione stesso: contenuti falsi generati dal sistema senza una fonte intenzionale. Questa distinzione a tre vie viene qui proposta come un inquadramento pedagogicamente utile piuttosto che come terminologia di consenso consolidata.

\n

Tipi comuni:

\n
    \n
  • riferimenti inventati — citazioni di articoli, libri o studi che non esistono\n
    • \n
  • citazioni attribuite erroneamente o inventate\n
    • \n
  • statistiche inventate o affermazioni numeriche\n
    • \n
  • dettagli biografici, storici o scientifici imprecisi presentati con sicurezza\n
    • \n
  • sintesi errate ma presentate con sicurezza di fonti reali\n
    • \n
\n
\n
\n\n

Considerate qualsiasi affermazione fattuale proveniente da un sistema di IA generativa come non verificata fino a quando non viene controllata con una fonte indipendente. I riferimenti e le citazioni sono particolarmente facili da verificare: cercate se la fonte citata esiste e contiene ciò che l’IA ha affermato.

\n
\n
\n
\n
\n\n
    \n
  • \nBender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). Sui pericoli dei pappagalli stocastici: i modelli linguistici possono essere troppo grandi? Atti della Conferenza ACM 2021 su equità, responsabilità e trasparenza (FAccT '21)\n, 610–623. https://doi.org/10.1145/3442188.3445922\n
    • \n
  • \nJi, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Indagine sulle allucinazioni nella generazione del linguaggio naturale. ACM Computing Surveys, 55\n(12), Articolo 248. https://doi.org/10.1145/3571730\n
    • \n
  • \nKalai, A. T., & Vempala, S. S. (2024). I modelli linguistici calibrati devono allucinare. Atti del 56° Simposio annuale ACM sulla teoria dell'informatica (STOC 2024)\n, 160–171. https://doi.org/10.1145/3618260.3649777\n
    • \n
  • \nSmith, A. L., Greaves, F., & Panch, T. (2023). Allucinazione o confabulazione? La neuroanatomia come metafora nei modelli linguistici di grandi dimensioni. PLOS Digital Health, 2\n(11), e0000388. https://doi.org/10.1371/journal.pdig.0000388\n
    • \n
\n
\n
\n

Tranformazione del contenuto

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
FormatoManipolatoInventato
Testocitazione autentica strappata dal contesto, titolo manipolatocitazione inventata, articolo di fantasia, testo generato dall'IA
Immaginefotografia ritoccata, originale ritagliataimmagine generata dall'IA, "fotografia" falsa dipinta
Audioregistrazione originale modificata o accelerataclone vocale, discorso generato dall'IA
Videoclip false e di bassa qualità, rimontatevideo deepfake completamente sintetico
DocumentoIntestazione falsificata su modello modificatolettera "ufficiale" inventata
\n

Contenuto inventato

\n

I contenuti inventati sono informazioni — testo, immagini, audio, video, documenti o altri formati — che sono state interamente inventate, senza alcun materiale di origine autentico. Possono essere prodotti manualmente (citazioni inventate, articoli di cronaca fittizi) o generati sinteticamente da sistemi di IA (video sintetici, cloni vocali, immagini generate dall'IA, testo scritto dall'IA).

\n

Contenuto manipolato

\n

I contenuti manipolati sono informazioni autentiche — testo, immagini, audio, video, documenti o altri formati — che sono state alterate per ingannare. Il materiale di origine è reale, ma viene modificato tramite editing, ritaglio selettivo, regolazione della velocità, ricontestualizzazione, modifiche dell'inquadratura, sostituzione della voce o altre trasformazioni che ne alterano il significato o il contesto apparente.

\n

Falsi a basso costo

\n

Un falso a basso costo è un contenuto multimediale che è stato alterato utilizzando strumenti convenzionali e ampiamente disponibili — software di editing delle immagini, software di editing video o ricontestualizzazione di base — piuttosto che metodi generativi basati sull'IA. Il termine è stato coniato da Paris e Donovan (2019) per richiamare l'attenzione sul fatto che le forme più rilevanti di contenuti multimediali manipolati nel discorso pubblico non sono in genere sofisticati deepfake generati dall'IA, ma tecniche semplici e a basso costo che chiunque può applicare.

\n

Le tecniche comuni di falsificazione a basso costo includono:

\n
    \n
  • manipolazione della velocità (ad esempio, il video rallentato della Pelosi, 2019)\n
    • \n
  • il ritaglio e il montaggio selettivo di audio o video\n
    • \n
  • ricontestualizzazione (media reali presentati con una didascalia o un'inquadratura false)\n
    • \n
  • ritocco, ritaglio o composizione di foto\n
    • \n
  • didascalie scambiate e screenshot manipolati\n
    • \n
  • montaggio audio\n
    • \n
\n

Il fatto che un falso di bassa qualità costituisca una misinformazione, una disinformazione o una malinformazione dipende dalla conoscenza e dall'intento dell'autore (→ Disordine informativo), non dalla tecnica in sé. Lo stesso video modificato può servire a fini satirici, di finzione, educativi o ingannevoli.

\n

Rispetto ai deepfake, i falsi di bassa qualità richiedono meno competenze tecniche, ma non sono necessariamente più facili da individuare: una ricontestualizzazione ben eseguita o un montaggio selettivo possono essere estremamente difficili da identificare senza l’accesso al materiale originale.

\n
\n
\n\n
\n
\n
\n
\n
\n\n

Strumenti di verifica dei "cheap fakes":

\n
\n
\n
\n

Deep Fake

\n

Deep Fake

\n

Un deep fake è un contenuto multimediale sintetico generato dall'intelligenza artificiale, in particolare utilizzando tecniche di deep learning come le reti generative avversarie (GAN), i modelli di diffusione o i generatori basati su trasformatori. Il termine è un neologismo composto da deep learning e fake, nato nel 2017 nelle comunità online che producevano video di scambio di volti generati dall'IA. Da allora la tecnologia si è estesa a diversi tipi di media ed è ora ampiamente accessibile tramite strumenti di livello consumer.

\n

Le forme più comuni includono:

\n
    \n
  • Scambio di volti: sostituzione del volto di una persona con quello di un'altra in un video\n
    • \n
  • Clonazione della voce: sintesi della voce di un parlante a partire da un piccolo campione audio\n
    • \n
  • Video completamente sintetico: filmati generati dall'IA che mostrano persone, eventi o scene che non si sono mai verificati\n
    • \n
  • Fotografia sintetica: immagini fisse generate dall'IA di persone o eventi fittizi\n
    • \n
  • Da testo a video e da testo ad audio: generazione di contenuti multimediali a partire da prompt scritti\n
    • \n
\n

Il fatto che un deep fake costituisca una misinformazione, una disinformazione o una malinformazione dipende dalla conoscenza e dall'intento dell'autore (→ Disordine informativo), non dalla tecnica in sé. I metodi deep fake sono utilizzati legittimamente anche nella produzione cinematografica, negli strumenti di accessibilità (voci sintetiche per persone che hanno perso la propria), nel doppiaggio, nella satira, nell'istruzione e nelle arti.

\n

Rispetto ai "cheap fakes", i deep fake richiedono maggiori capacità tecniche per essere prodotti in modo convincente e possono raggiungere un maggiore realismo visivo o uditivo. Tuttavia, non sono la forma dominante di manipolazione mediatica nel discorso pubblico: Paris e Donovan (2019) osservano che le tecniche più semplici dei "cheap fakes" rimangono più comuni e spesso più influenti. L'individuazione è un'area di ricerca attiva; gli approcci attuali combinano l'analisi degli artefatti, i controlli di incoerenza biologica e la verifica della provenienza (ad esempio le credenziali dei contenuti C2PA).

\n
\n
\n\n
    \n
  • \nParis, B., & Donovan, J. (2019). Deepfakes e Cheap Fakes: La manipolazione delle prove audio e visive\n. Data & Society Research Institute.https://datasociety.net/library/deepfakes-and-cheap-fakes/\n
    • \n
  • Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review, 107(6), 1753–1820.\n
    • \n
  • \nVaccari, C., & Chadwick, A. (2020). Deepfake e disinformazione: analisi dell'impatto dei video politici sintetici su inganno, incertezza e fiducia nelle notizie. Social Media + Society\n, 6(1), 1–13. https://doi.org/10.1177/2056305120903408\n
    • \n
\n
\n
\n
\n
\n\n

Strumenti di verifica dei deepfake:

\n
\n
\n
","UPDATEDAT":"2026-05-11T20:49:09.513Z","LANG":"it","ID":"3a2e66d9-94a9-482d-a20b-3c977e896fa3","TITLE":"Disinformazione e manipolazione","SOURCELANG":"en"}