{"CACHEDAT":"2026-05-26 19:00:20","TRANSLATEDAT":"2026-05-26 19:00:20","SOURCESIGNATURE":"7a9e56d2ea3f2c69597ecdc4c37790c3bd22ac955bbb62f6ceb193688b397de6","SLUG":"misinformation-manipulation-WtiyDFyWdl","MARKDOWN":"# Information Disorder\n\nWardle & Derakhshan (2017), in a foundational report for the Council of Europe, introduce *Information Disorder* as the umbrella term for false, misleading, or harmfully shared information in the public information environment. They distinguish three categories along two axes: whether the content is *false* or *true*, and whether it is shared with *intent to harm*.\n\n| Type | Content | Sharer's knowledge of falseness | Intent to harm |\n|------|---------|---------------------------------|----------------|\n| **Misinformation** | false or misleading | does not know | no |\n| **Disinformation** | false or misleading | knows | yes |\n| **Malinformation** | true | (not the criterion) | yes |\n\nThe three categories form an interconnected ecology: the same content item can move between them depending on who shares it and with what intent.\n\n### Fake News\n\nThe term *fake news* is widely used in public debate but analytically imprecise. It usually refers to false or misleading information presented in the style of news reporting. However, because the term can refer to different types of information disorder and is often used politically to discredit unwanted reporting, more precise terms such as *misinformation*, *disinformation*, *fabricated content*, *false context*, or *manipulated content* should be preferred.\n\n## Misinformation\n\nMisinformation is false or misleading information shared by people who do not realise it is false. The sharer believes the content is accurate; there is no intent to deceive or harm.\n\nMisinformation typically arises in fast-moving news situations (early reports with unconfirmed details), in passing along claims without checking accuracy, and in repeating information from trusted sources that turn out to be wrong. It can be as widespread and consequential as disinformation, despite the absence of malicious intent — its sharers are often genuinely motivated and trusted within their networks, which gives the content reach and perceived credibility (Lewandowsky et al., 2017).\n\n### Misinformation Susceptibility Factors\n\n\n:::success\n**1. Cognitive factors** — how information is processed\n\n* **Confirmation bias**: People pay more attention to information that supports what they already believe, and scrutinise opposing information more harshly. — Nickerson (1998)\n* **Illusory truth effect**: Claims can feel more believable simply because people have seen them before, even when they are false. — Unkelbach et al. (2019)\n* **Processing fluency**: Information that is easy to read, familiar in wording, or visually clear feels more trustworthy than information that is harder to process. — Reber & Schwarz (1999)\n* **Low cognitive reflection**: People who rely on quick, intuitive judgements rather than pausing to check are more likely to fall for false claims. — Pennycook & Rand (2019)\n* **Bullshit receptivity**: Some people are inclined to find vague but impressive-sounding statements meaningful, even when they are empty. — Pennycook et al. (2015)\n* **Low numeracy / scientific literacy**: People may struggle to evaluate statistics, graphs, risk statements, or scientific evidence; education alone is no automatic protection. — Kahan et al. (2017)\n\n**2. Affective / motivational factors** — how emotions and identity shape judgement\n\n* **Emotional reasoning / reliance on emotion**: People accept claims because they feel right, frightening, satisfying, or morally urgent, rather than because they have been checked. — Martel, Pennycook & Rand (2020)\n* **Specific emotions** (anger, fear, moral outrage): Strong emotions can lead people to react quickly and share before checking; moral-emotional language is especially powerful in spreading political content. (Belief and sharing are distinct effects with different evidence.) — Brady et al. (2017); Martel et al. (2020)\n* **Identity-protective cognition**: People process information in ways that protect their political, religious, or group identity, and resist evidence that would threaten it. (Closely linked to *political identity* in category 5.) — Kahan (2013, 2017)\n* **Conspiracy mindset**: A general tendency to suspect hidden plots or powerful actors behind events makes conspiracy-style misinformation more plausible. — Douglas, Sutton & Cichocka (2017)\n\n**3. Social factors** — whom and which groups people trust\n\n* **Source credibility / trust in the sender**: How believable a claim feels depends on who appears to be saying it — a friend, an influencer, an expert, a politician, a news outlet, or an anonymous account. — Traberg & van der Linden (2022)\n* **Social proof / popularity cues**: Likes, shares, views, and comments can act as credibility cues, although the effect depends on context. — Avram et al. (2020)\n* **In-group / partisan congruency**: Information from \"people like us\", or aligned with a group's position, is accepted more easily. (Closely linked to *political identity* in category 5.) — Sultan et al. (2024)\n* **Network homophily / echo chambers**: When people mostly encounter information through networks of similar others, certain views appear more widely shared than they really are. (See also D1G5.) — Cinelli et al. (2021)\n\n**4. Contextual / situational factors** — the conditions under which people meet information\n\n* **Time pressure**: When people have to judge information quickly, they distinguish true from false claims less accurately. — Sultan et al. (2022)\n* **Information overload**: When too much information arrives at once, people fall back on shortcuts like headlines, emotion, source labels, or popularity. — Laato et al. (2020)\n* **Distraction / cognitive load**: When attention is drawn elsewhere, people may share without checking accuracy, even if they could otherwise recognise the misinformation. — Pennycook et al. (2020)\n* **Crisis / uncertainty contexts** (pandemics, war, disasters): Urgent need for explanation increases openness to false or premature claims. — Roozenbeek et al. (2020)\n* **Platform design**: Feeds, notifications, recommendation systems, autoplay, and fast scrolling encourage reactive rather than reflective behaviour. (See also D1G1.) — Lorenz-Spreen et al. (2020)\n\n**5. Background and dispositional factors** — who may be more or less vulnerable in specific contexts\n\n* **Age**: Older adults sometimes distinguish true from false headlines better in studies, but share misinformation more often online. — Guess, Nagler & Tucker (2019)\n* **Education**: Not an automatic shield; meta-analyses show no simple effect on misinformation discrimination. — Sultan et al. (2024)\n* **Political identity and prior beliefs**: Shape which information feels plausible, threatening, trustworthy, or worth sharing. (Operates via identity-protective cognition in category 2 and in-group cues in category 3 — not purely a demographic variable.) — Sultan et al. (2024)\n* **Media literacy habits**: People who compare sources, read beyond headlines, and recognise manipulation techniques rely less on emotional or social shortcuts. *(Note: this is the learning goal of SciLMi itself — listed here as a documented protective disposition, not as a prerequisite.)* — Guess et al. (2020)\n\n:::\n\n\n:::info\n* Avram, M., Micallef, N., Patil, S., & Menczer, F. (2020). Exposure to social engagement metrics increases vulnerability to misinformation. *Harvard Kennedy School (HKS) Misinformation Review*, *1*(5). \n* Brady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Emotion shapes the diffusion of moralized content in social networks. *Proceedings of the National Academy of Sciences*, *114*(28), 7313–7318. \n* Cinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). The echo chamber effect on social media. *Proceedings of the National Academy of Sciences*, *118*(9), e2023301118. \n* Douglas, K. M., Sutton, R. M., & Cichocka, A. (2017). The psychology of conspiracy theories. *Current Directions in Psychological Science*, *26*(6), 538–542. \n* Guess, A., Nagler, J., & Tucker, J. (2019). Less than you think: Prevalence and predictors of fake news dissemination on Facebook. *Science Advances*, *5*(1), eaau4586. \n* Jones-Jang, S. M., Mortensen, T., & Liu, J. (2021). Does media literacy help identification of fake news? Information literacy helps, but other literacies don't. *American Behavioral Scientist*, *65*(2), 371–388. \n* Kahan, D. M. (2013). Ideology, motivated reasoning, and cognitive reflection. *Judgment and Decision Making*, *8*(4), 407–424.\n* Kahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Motivated numeracy and enlightened self-government. *Behavioural Public Policy*, *1*(1), 54–86. \n* Laato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). What drives unverified information sharing and cyberchondria during the COVID-19 pandemic? *European Journal of Information Systems*, *29*(3), 288–305. \n* Lorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). How behavioural sciences can promote truth, autonomy and democratic discourse online. *Nature Human Behaviour*, *4*(11), 1102–1109. \n* Martel, C., Pennycook, G., & Rand, D. G. (2020). Reliance on emotion promotes belief in fake news. *Cognitive Research: Principles and Implications*, *5*(1), 47. \n* Nickerson, R. S. (1998). Confirmation bias: A ubiquitous phenomenon in many guises. *Review of General Psychology*, *2*(2), 175–220. \n* Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). On the reception and detection of pseudo-profound bullshit. *Judgment and Decision Making*, *10*(6), 549–563.\n* Pennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). Fighting COVID-19 misinformation on social media: Experimental evidence for a scalable accuracy-nudge intervention. *Psychological Science*, *31*(7), 770–780. \n* Pennycook, G., & Rand, D. G. (2019). Lazy, not biased: Susceptibility to partisan fake news is better explained by lack of reasoning than by motivated reasoning. *Cognition*, *188*, 39–50. \n* Reber, R., & Schwarz, N. (1999). Effects of perceptual fluency on judgments of truth. *Consciousness and Cognition*, *8*(3), 338–342. \n* Roozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). Susceptibility to misinformation about COVID-19 around the world. *Royal Society Open Science*, *7*(10), 201199. \n* Sultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). Time pressure reduces misinformation discrimination ability but does not alter response bias. *Scientific Reports*, *12*(1), 22416. \n* Sultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Susceptibility to online misinformation: A systematic meta-analysis of demographic and psychological factors. *Proceedings of the National Academy of Sciences*, *121*(47), e2409329121. \n* Traberg, C. S., & van der Linden, S. (2022). Birds of a feather are persuaded together: Perceived source credibility mediates the effect of political bias on misinformation susceptibility. *Personality and Individual Differences*, *185*, 111269. \n* Unkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). Truth by repetition: Explanations and implications. *Current Directions in Psychological Science*, *28*(3), 247–253. \n\n:::\n\n### ☑ Logical Fallacies\n\n\n:::success\n- [ ] Check for hasty generalisations - Conclusion from too little evidence.\n- [ ] Check for false dilemmas - Limiting options to two when more exist.\n- [ ] Check for straw man arguments - Misrepresenting a position to refute it easily.\n- [ ] Check for appeals to ignorance - Claiming truth due to lack of disproof.\n- [ ] Check for appeals to authority - Assuming truth based on authority alone.\n- [ ] Check for red herrings - Distracting from the main issue.\n- [ ] Check for false causes - Confusing correlation with causation.\n- [ ] Check for ad hominem - Attacking the person, not the argument. \n- [ ] Check for ad populum - Arguing truth from popularity.\n- [ ] Check for slippery slopes - Asserting one step leads to extremes.\n- [ ] Check for circular reasoning - Using the conclusion as a premise.\n\n:::\n\n\n:::tip\n* \n* \n* \n\n:::\n\n## Disinformation\n\nDisinformation is false or misleading information shared deliberately, by people who know it is false, with the intent to harm, deceive, or manipulate. Both the sharer's awareness of the falseness and the harmful intent are definitional features.\n\nCommon forms include political influence operations, commercial deception, propaganda, fabricated content, and manipulated media. Disinformation is often produced by organised actors and amplified through *Coordinated Inauthentic / Artificial Amplification* (above).\n\n## Malinformation\n\nMalinformation is *true* information shared with intent to harm. The content itself is accurate, but its release, framing, or timing is calculated to damage a person, group, or institution. The classical pattern is the deliberate movement of private, sensitive, or context-bound information into a public or harmful context.\n\nExamples include the publication of leaked private communications to discredit a target, the release of accurate but stigmatising personal data (e.g. revenge porn), and the strategic disclosure of factually correct but contextually damaging information at moments calculated for maximum impact.\n\nMalinformation is the least-discussed of the three categories because the content is not false, which places it outside fact-checking frameworks. But it forms a significant part of the information-disorder ecology (Wardle & Derakhshan, 2017).\n\n\n:::warning\n**The boundaries are porous.**\n\nThe three categories often overlap or shift in practice:\n\n* A piece of *disinformation*, once shared by people who genuinely believe it, becomes *misinformation* as it spreads further. The same content can sit in different categories depending on who shares it.\n* Content can be partly true and partly false. Wardle (2017) lists seven forms within information disorder — including *misleading content*, *false context*, and *manipulated content* — not all false content is fully fabricated.\n* Determining intent from outside is empirically hard. Without access to the sharer's knowledge state and motivation, the line between misinformation and disinformation often cannot be drawn definitively.\n\nThis is why the framework asks learners to *explain why the boundary between misinformation and disinformation is often difficult to determine in practice*.\n\n:::\n\n\n:::info\n* Wardle, C., & Derakhshan, H. (2017). *Information Disorder: Toward an interdisciplinary framework for research and policy making*. Council of Europe Report DGI(2017)09. \n* Wardle, C. (2017). Fake news. It's complicated. *First Draft News*. \n* Lewandowsky, S., Ecker, U. K. H., & Cook, J. (2017). Beyond misinformation: Understanding and coping with the \"post-truth\" era. *Journal of Applied Research in Memory and Cognition*, 6(4), 353–369. \n* Vraga, E. K., & Bode, L. (2020). Defining misinformation and understanding its bounded nature. *Political Communication*, 37(1), 136–144. \n\n:::\n\n# AI Hallucination / Confabulation\n\nThe systematic tendency of generative AI systems to produce plausible-sounding content that is factually incorrect, fabricated, or unverifiable — including invented references, non-existent studies, misattributed quotations, made-up statistics, and false biographical, historical, or scientific details.\n\nHallucinations occur because generative AI systems produce output by predicting plausible continuations from patterns learned during training, not by retrieving verified information from a knowledge source. The system optimises for fluency and plausibility, not for accuracy. Fabricated content is typically presented with the same confidence as accurate content — there is no internal signal that reliably distinguishes the two.\n\nThe term **confabulation** is sometimes preferred over **hallucination** in research contexts, since confabulation in psychology denotes the construction of false but sincerely believed accounts without intent to deceive — closer to what generative systems actually do. *Hallucination* remains the dominant term in public and technical discourse and is retained here.\n\n**Hallucinations are not occasional bugs.** They are a structural feature of the underlying generation process, not errors that can be reliably eliminated through better prompting (Kalai & Vempala, 2024). They occur across all generative systems — including ☑ RAG AI, where fabrication can also affect how retrieved sources are summarised, quoted, or attributed.\n\n**Didactic positioning:** Hallucinations can be located conceptually as a forth category alongside *misinformation, disinformation*, and *malinformation*. Unlike both, they are not produced by a human source with intent or error in mind, but emerge from the generation process itself — system-generated false content without an intentional source. This three-way distinction is offered here as a pedagogically useful framing rather than as established consensus terminology.\n\n**Common types:**\n\n* fabricated references — citations to articles, books, or studies that do not exist\n* misattributed or fabricated quotations\n* invented statistics or numerical claims\n* inaccurate biographical, historical, or scientific details presented confidently\n* confidently incorrect summaries of real sources\n\n\n:::tip\nTreat any factual claim from a generative AI system as unverified until checked against an independent source. References and quotations are particularly easy to verify — search whether the cited source exists and contains what the AI claimed.\n\n:::\n\n\n:::info\n* Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? *Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21)*, 610–623. \n* Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. *ACM Computing Surveys, 55*(12), Article 248. \n* Kalai, A. T., & Vempala, S. S. (2024). Calibrated language models must hallucinate. *Proceedings of the 56th Annual ACM Symposium on Theory of Computing (STOC 2024)*, 160–171. \n* Smith, A. L., Greaves, F., & Panch, T. (2023). Hallucination or confabulation? Neuroanatomy as metaphor in large language models. *PLOS Digital Health, 2*(11), e0000388. \n\n:::\n\n# Content Misrepresentation\n\n| Format | Manipulated | Fabricated |\n|--------|-------------|------------|\n| Text | genuine quote stripped of context, doctored headline | invented quote, fictional article, AI-generated text |\n| Image | retouched photograph, cropped original | AI-generated image, painted fake \"photograph\" |\n| Audio | edited or sped-up original recording | voice clone, AI-generated speech |\n| Video | cheap fake, recut clips | fully synthetic deepfake video |\n| Document | forged letterhead on modified template | invented \"official\" letter |\n\n## Fabricated Content\n\n**Fabricated content** is information — text, image, audio, video, document, or other format — that has been entirely invented, with no genuine source material. It may be produced manually (invented quotes, fictional news articles) or generated synthetically by AI systems (synthetic videos, voice clones, AI-generated images, AI-written text).\n\n## Manipulated Content\n\n**Manipulated content** is geniune information — text, image, audio, video, document, or other format — that has been altered to deceive. The source material is real, but it is modified through editing, selective cropping, speed adjustment, recontextualisation, framing changes, voice substitution, or other transformations that change its meaning or apparent context.\n\n### Cheap Fake\n\nA **cheap fake** is media that has been altered using conventional, widely available tools — image editing software, video editing software, or basic recontextualisation — rather than AI-based generative methods. The term was coined by Paris and Donovan (2019) to draw attention to the fact that the most consequential forms of manipulated media in public discourse are typically not sophisticated AI-generated deepfakes, but simple, low-cost techniques that anyone can apply.\n\nCommon cheap fake techniques include:\n\n* speed manipulation (e.g. the slowed-down Pelosi video, 2019)\n* recutting and selective editing of audio or video\n* recontextualisation (real media presented with a false caption or framing)\n* photo retouching, cropping, or compositing\n* swapped captions and doctored screenshots\n* audio splicing\n\nWhether a cheap fake constitutes *Misinformation*, *Disinformation*, or *Malinformation* depends on the actor's knowledge and intent (→ *Information Disorder*), not on the technique itself. The same edited video can serve satire, fiction, education, or deception.\n\nCompared with *Deep Fakes*, cheap fakes require less technical skill but are not necessarily easier to detect — well-executed recontextualisation or selective editing can be extremely difficult to identify without access to the original source material.\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence*. Data & Society Research Institute. \n\n:::\n\n\n:::tip\nCheap Fake Verification Tools: \n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n### Deep Fake\n\n### Deep Fake\n\nA **deep fake** is synthetic media generated by artificial intelligence — specifically using deep learning techniques such as generative adversarial networks (GANs), diffusion models, or transformer-based generators. The term is a portmanteau of *deep learning* and *fake*, originating in 2017 in online communities producing AI-generated face-swap videos. The technology has since expanded across media types and is now broadly accessible through consumer-level tools.\n\nCommon forms include:\n\n* **Face swaps**: replacing one person's face with another's in video\n* **Voice cloning**: synthesising a speaker's voice from a small audio sample\n* **Full synthetic video**: AI-generated footage showing people, events, or scenes that never occurred\n* **Synthetic photography**: AI-generated still images of fictional people or events\n* **Text-to-video and text-to-audio**: generating media from written prompts\n\nWhether a deep fake constitutes *Misinformation*, *Disinformation*, or *Malinformation* depends on the actor's knowledge and intent (→ *Information Disorder*), not on the technique itself. Deep fake methods are also used legitimately in film production, accessibility tools (synthetic voices for people who have lost theirs), language dubbing, satire, education, and the arts.\n\nCompared with *Cheap Fakes*, deep fakes require more technical capacity to produce convincingly and can achieve higher visual or auditory realism. They are not, however, the dominant form of media manipulation in public discourse — Paris and Donovan (2019) note that simpler cheap-fake techniques remain more common and often more consequential. Detection is an active research area; current approaches combine artefact analysis, biological inconsistency checks, and provenance verification (e.g. C2PA content credentials).\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence*. Data & Society Research Institute. \n* Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. *California Law Review*, 107(6), 1753–1820.\n* Vaccari, C., & Chadwick, A. (2020). Deepfakes and disinformation: Exploring the impact of synthetic political video on deception, uncertainty, and trust in news. *Social Media + Society*, 6(1), 1–13. \n\n:::\n\n\n:::tip\nDeep Fake Verification Tools: \n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n\n##","HTML":"

Bilgi Kargaşası

\n

Wardle & Derakhshan (2017), Avrupa Konseyi için hazırladıkları temel bir raporda, kamusal bilgi ortamında yer alan yanlış, yanıltıcı veya zararlı amaçlarla paylaşılan bilgileri kapsayan genel bir terim olarak Bilgi Düzensizliği kavramını ortaya koymaktadır. Yazarlar, içeriğin yanlış mı doğru mu olduğu ve zarar verme niyetiyle mi paylaşıldığı olmak üzere iki eksen üzerinden üç kategori ayırmaktadır.

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
TürİçerikPaylaşanın yanlışlık konusunda bilgisiZarar verme niyeti
Yanlış bilgiyanlış veya yanıltıcıbilmiyorhayır
Dezenformasyonyanlış veya yanıltıcıbiliyorevet
Yanlış bilgidoğru(kriter değil)evet
\n

Bu üç kategori birbiriyle bağlantılı bir ekoloji oluşturur: aynı içerik öğesi, onu kimin paylaştığına ve hangi niyetle paylaştığına bağlı olarak bu kategoriler arasında geçiş yapabilir.

\n

Yalan Haber

\n

Yalan haber terimi kamuoyundaki tartışmalarda yaygın olarak kullanılmaktadır, ancak analitik açıdan kesin değildir. Genellikle haber tarzında sunulan yanlış veya yanıltıcı bilgileri ifade eder. Ancak, bu terim farklı türdeki bilgi kargaşasını ifade edebileceği ve genellikle istenmeyen haberleri itibarsızlaştırmak için siyasi amaçlarla kullanıldığı için, yanlış bilgi, dezenformasyon, uydurma içerik, yanlış bağlam veya manipüle edilmiş içerik gibi daha kesin terimler tercih edilmelidir.

\n

Yanlış Bilgilendirme

\n

Yanlış bilgi, bunun yanlış olduğunu fark etmeyen kişiler tarafından paylaşılan yanlış veya yanıltıcı bilgilerdir. Paylaşan kişi içeriğin doğru olduğuna inanır; aldatma veya zarar verme niyeti yoktur.

\n

Yanlış bilgi genellikle hızlı gelişen haber durumlarında (doğrulanmamış ayrıntılar içeren ilk haberler), doğruluğu kontrol edilmeden iddiaların aktarılmasında ve yanlış olduğu ortaya çıkan güvenilir kaynaklardan gelen bilgilerin tekrarlanmasında ortaya çıkar. Kötü niyet olmamasına rağmen, dezenformasyon kadar yaygın ve sonuçları ağır olabilir — paylaşanlar genellikle samimi niyetlidir ve kendi ağları içinde güvenilir, bu da içeriğe erişim ve algılanan güvenilirlik sağlar (Lewandowsky ve ark., 2017).

\n

Yanlış Bilgiye Yatkınlık Faktörleri

\n
\n
\n\n

1. Bilişsel faktörler — bilginin nasıl işlendiği

\n
    \n
  • Onay önyargısı: İnsanlar, zaten inandıkları şeyleri destekleyen bilgilere daha fazla dikkat ederler ve karşıt bilgileri daha sert bir şekilde incelerler. — Nickerson (1998)\n
    • \n
  • Yanıltıcı gerçeklik etkisi: İddialar, yanlış olsalar bile, insanlar bunları daha önce gördükleri için daha inandırıcı gelebilir. — Unkelbach ve ark. (2019)\n
    • \n
  • İşleme akıcılığı: Okunması kolay, ifadeleri tanıdık veya görsel olarak net olan bilgiler, işlenmesi daha zor olan bilgilere göre daha güvenilir gelir. — Reber & Schwarz (1999)\n
    • \n
  • Düşük bilişsel yansıma: Durup kontrol etmek yerine hızlı, sezgisel yargılara güvenen insanlar, yanlış iddialara kanma olasılığı daha yüksektir. — Pennycook & Rand (2019)\n
    • \n
  • Saçmalıklara yatkınlık: Bazı insanlar, boş olsa bile belirsiz ama etkileyici görünen ifadeleri anlamlı bulma eğilimindedir. — Pennycook ve ark. (2015)\n
    • \n
  • Düşük sayısal / bilimsel okuryazarlık: İnsanlar istatistikleri, grafikleri, risk beyanlarını veya bilimsel kanıtları değerlendirmekte zorlanabilir; eğitim tek başına otomatik bir koruma sağlamaz. — Kahan ve ark. (2017)\n

    2. Duygusal / motivasyonel faktörler — duyguların ve kimliğin yargıyı nasıl şekillendirdiği

    \n
    • \n
  • Duygusal muhakeme / duygulara güvenme: İnsanlar, iddiaları doğrulanmış oldukları için değil, doğru, korkutucu, tatmin edici veya ahlaki açıdan acil hissettikleri için kabul ederler. — Martel, Pennycook & Rand (2020)\n
    • \n
  • Belirli duygular (öfke, korku, ahlaki öfke): Güçlü duygular, insanların hızlı tepki vermesine ve doğrulamadan paylaşmasına yol açabilir; ahlaki-duygusal dil, siyasi içeriğin yayılmasında özellikle etkilidir. (İnanç ve paylaşım, farklı kanıtlara sahip ayrı etkilerdir.) — Brady ve ark. (2017); Martel ve ark. (2020)\n
    • \n
  • Kimlik koruyucu biliş: İnsanlar, siyasi, dini veya grup kimliklerini koruyacak şekilde bilgiyi işler ve bunu tehdit edecek kanıtlara direnir. (5. kategorideki siyasi kimlikle yakından bağlantılıdır.) — Kahan (2013, 2017)\n
    • \n
  • Komplo zihniyeti: Olayların arkasında gizli komplolar veya güçlü aktörler olduğundan şüphelenmeye yönelik genel bir eğilim, komplo tarzı yanlış bilgileri daha inandırıcı hale getirir. — Douglas, Sutton & Cichocka (2017)\n

    3. Sosyal faktörler — insanların kime ve hangi gruplara güvendiği

    \n
    • \n
  • Kaynak güvenilirliği / gönderene duyulan güven: Bir iddianın ne kadar inandırıcı olduğu, onu kimin söylediğine bağlıdır — bir arkadaş, bir influencer, bir uzman, bir politikacı, bir haber kaynağı veya anonim bir hesap. — Traberg & van der Linden (2022)\n
    • \n
  • Sosyal kanıt / popülerlik işaretleri: Beğeniler, paylaşımlar, görüntülemeler ve yorumlar güvenilirlik işaretleri olarak işlev görebilir, ancak bunun etkisi bağlama bağlıdır. — Avram ve ark. (2020)\n
    • \n
  • Grup içi / partizan uyumu: "Bizim gibi insanlar"dan gelen veya bir grubun pozisyonuyla uyumlu bilgiler daha kolay kabul edilir. (Kategori 5'teki siyasi kimlikle yakından bağlantılıdır.) — Sultan ve ark. (2024)\n
    • \n
  • Ağ homofili / yankı odaları: İnsanlar çoğunlukla benzer kişilerden oluşan ağlar aracılığıyla bilgiyle karşılaştıklarında, belirli görüşler gerçekte olduğundan daha yaygın olarak paylaşılıyor gibi görünür. (Ayrıca bkz. D1G5.) — Cinelli ve ark. (2021)\n

    4. Bağlamsal / durumsal faktörler — insanların bilgiyle karşılaştıkları koşullar

    \n
    • \n
  • Zaman baskısı: İnsanlar bilgileri hızlı bir şekilde değerlendirmek zorunda kaldıklarında, doğru ve yanlış iddiaları daha az doğru bir şekilde ayırt ederler. — Sultan ve ark. (2022)\n
    • \n
  • Bilgi bombardımanı: Bir anda çok fazla bilgi geldiğinde, insanlar manşetler, duygular, kaynak etiketleri veya popülerlik gibi kısayollara başvurur. — Laato ve ark. (2020)\n
    • \n
  • Dikkat dağınıklığı / bilişsel yük: Dikkat başka bir yere yöneldiğinde, insanlar yanlış bilgiyi fark etseler bile doğruluğunu kontrol etmeden paylaşabilirler. — Pennycook ve ark. (2020)\n
    • \n
  • Kriz / belirsizlik bağlamları (pandemiler, savaş, felaketler): Acil açıklama ihtiyacı, yanlış veya vaktinden önce ortaya atılan iddialara karşı açık olmayı artırır. — Roozenbeek ve ark. (2020)\n
    • \n
  • Platform tasarımı: Akışlar, bildirimler, öneri sistemleri, otomatik oynatma ve hızlı kaydırma, düşünceli davranıştan ziyade tepkisel davranışları teşvik eder. (Ayrıca bkz. D1G1.) — Lorenz-Spreen ve ark. (2020)\n

    5. Arka plan ve kişilik faktörleri — belirli bağlamlarda kimler daha fazla veya daha az savunmasız olabilir

    \n
    • \n
  • Yaş: Yaşlı yetişkinler, araştırmalarda bazen doğru ve yanlış başlıkları daha iyi ayırt ederler, ancak çevrimiçi ortamda yanlış bilgileri daha sık paylaşırlar. — Guess, Nagler & Tucker (2019)\n
    • \n
  • Eğitim: Otomatik bir kalkan değildir; meta-analizler, yanlış bilginin ayırt edilmesinde basit bir etki göstermediğini ortaya koymaktadır. — Sultan ve ark. (2024)\n
    • \n
  • Siyasi kimlik ve önceden var olan inançlar: Hangi bilginin makul, tehdit edici, güvenilir veya paylaşmaya değer olduğu hissini şekillendirir. (Kategori 2'deki kimlik koruyucu biliş ve kategori 3'teki grup içi ipuçları aracılığıyla işler — tamamen demografik bir değişken değildir.) — Sultan ve ark. (2024)\n
    • \n
  • Medya okuryazarlığı alışkanlıkları: Kaynakları karşılaştıran, başlıkların ötesine geçen ve manipülasyon tekniklerini tanıyan kişiler, duygusal veya sosyal kısayollara daha az güvenirler. (Not: Bu, SciLMi'nin kendisinin öğrenme hedefidir — burada bir ön koşul olarak değil, belgelenmiş bir koruyucu eğilim olarak listelenmiştir.) — Guess ve ark. (2020)\n
    • \n
\n
\n
\n
\n
\n\n
    \n
  • \nAvram, M., Micallef, N., Patil, S., & Menczer, F. (2020). Sosyal etkileşim metriklerine maruz kalmak, yanlış bilgilere karşı savunmasızlığı artırır. Harvard Kennedy School (HKS) Yanlış Bilgi İncelemesi\n, 1\n(5). https://doi.org/10.37016/mr-2020-033\n
    • \n
  • \nBrady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Duygular, sosyal ağlarda ahlaki içeriğin yayılmasını şekillendirir. Ulusal Bilimler Akademisi Bildirileri\n, 114\n(28), 7313–7318. https://doi.org/10.1073/pnas.1618923114\n
    • \n
  • \nCinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). Sosyal medyada yankı odası etkisi. Ulusal Bilimler Akademisi Bildirileri\n, 118\n(9), e2023301118. https://doi.org/10.1073/pnas.2023301118\n
    • \n
  • \nDouglas, K. M., Sutton, R. M., & Cichocka, A. (2017). Komplo teorilerinin psikolojisi. Psikoloji Biliminde Güncel Yönelimler\n, 26\n(6), 538–542. https://doi.org/10.1177/0963721417718261\n
    • \n
  • \nGuess, A., Nagler, J., & Tucker, J. (2019). Düşündüğünüzden daha az: Facebook'ta sahte haber yayılmasının yaygınlığı ve belirleyicileri. Science Advances\n, 5\n(1), eaau4586. https://doi.org/10.1126/sciadv.aau4586\n
    • \n
  • \nJones-Jang, S. M., Mortensen, T., & Liu, J. (2021). Medya okuryazarlığı sahte haberlerin tespitine yardımcı olur mu? Bilgi okuryazarlığı yardımcı olur, ancak diğer okuryazarlık türleri yardımcı olmaz. American Behavioral Scientist\n, 65\n(2), 371–388. https://doi.org/10.1177/0002764219869406\n
    • \n
  • Kahan, D. M. (2013). İdeoloji, motivasyonlu akıl yürütme ve bilişsel yansıma. Yargı ve Karar Verme, 8(4), 407–424.\n
    • \n
  • \nKahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Motivasyonlu sayısal okuryazarlık ve aydınlanmış öz yönetim. Davranışsal Kamu Politikası\n, 1\n(1), 54–86. https://doi.org/10.1017/bpp.2016.2\n
    • \n
  • \nLaato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). COVID-19 pandemisi sırasında doğrulanmamış bilgi paylaşımını ve siberkondriyi ne tetikliyor? Avrupa Bilgi Sistemleri Dergisi\n, 29\n(3), 288–305. https://doi.org/10.1080/0960085X.2020.1770632\n
    • \n
  • \nLorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). Davranış bilimleri çevrimiçi ortamda gerçeği, özerkliği ve demokratik söylemi nasıl teşvik edebilir? Nature Human Behaviour\n, 4\n(11), 1102–1109. https://doi.org/10.1038/s41562-020-0889-7\n
    • \n
  • \nMartel, C., Pennycook, G., & Rand, D. G. (2020). Duygulara güvenmek, sahte haberlere olan inancı artırır. Bilişsel Araştırma: İlkeler ve Sonuçlar\n, 5\n(1), 47. https://doi.org/10.1186/s41235-020-00252-3\n
    • \n
  • \nNickerson, R. S. (1998). Onay önyargısı: Birçok kılıkta görülen yaygın bir fenomen. Genel Psikoloji Dergisi\n, 2\n(2), 175–220. https://doi.org/10.1037/1089-2680.2.2.175\n
    • \n
  • Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). Sahte derin saçmalıkların algılanması ve tespit edilmesi üzerine. Yargı ve Karar Verme, 10(6), 549–563.\n
    • \n
  • \nPennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). Sosyal medyada COVID-19 ile ilgili yanlış bilgilerin önlenmesi: Ölçeklenebilir bir doğruluk-dürtme müdahalesi için deneysel kanıtlar. Psychological Science\n, 31\n(7), 770–780. https://doi.org/10.1177/0956797620939054\n
    • \n
  • \nPennycook, G., & Rand, D. G. (2019). Tembel, önyargılı değil: Partizan sahte haberlere yatkınlık, motive edilmiş akıl yürütmeden ziyade akıl yürütme eksikliğiyle daha iyi açıklanabilir. Cognition\n, 188\n, 39–50. https://doi.org/10.1016/j.cognition.2018.06.011\n
    • \n
  • \nReber, R., & Schwarz, N. (1999). Algısal akıcılığın doğruluk yargıları üzerindeki etkileri. Consciousness and Cognition\n, 8\n(3), 338–342. https://doi.org/10.1006/ccog.1999.0386\n
    • \n
  • \nRoozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). Dünya çapında COVID-19 hakkında yanlış bilgilere yatkınlık. Royal Society Open Science\n, 7\n(10), 201199. https://doi.org/10.1098/rsos.201199\n
    • \n
  • \nSultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). Zaman baskısı, yanlış bilgiyi ayırt etme yeteneğini azaltır ancak yanıt önyargısını değiştirmez. Scientific Reports\n, 12\n(1), 22416. https://doi.org/10.1038/s41598-022-26209-8\n
    • \n
  • \nSultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Çevrimiçi yanlış bilgilere yatkınlık: Demografik ve psikolojik faktörlerin sistematik bir meta-analizi. Ulusal Bilimler Akademisi Bildirileri\n, 121\n(47), e2409329121. https://doi.org/10.1073/pnas.2409329121\n
    • \n
  • \nTraberg, C. S., & van der Linden, S. (2022). Kuşlar tüyleriyle birbirine benzer: Algılanan kaynak güvenilirliği, siyasi önyargının yanlış bilgiye yatkınlık üzerindeki etkisini aracılar. Kişilik ve Bireysel Farklılıklar\n, 185\n, 111269. https://doi.org/10.1016/j.paid.2021.111269\n
    • \n
  • \nUnkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). Tekrarla gerçek: Açıklamalar ve çıkarımlar. Psikoloji Biliminde Güncel Yönelimler\n, 28\n(3), 247–253. https://doi.org/10.1177/0963721419827854\n
    • \n
\n
\n
\n

☑ Mantıksal Yanılgılar

\n
\n
\n\n
    \n
  • Aceleye getirilmiş genellemeler olup olmadığını kontrol edin - Çok az kanıttan çıkarılan sonuçlar.\n
    • \n
  • Yanlış ikilemler olup olmadığını kontrol edin - Daha fazla seçenek varken seçenekleri ikiyle sınırlamak.\n
    • \n
  • Saman adam argümanlarını kontrol edin - Bir görüşü kolayca çürütmek için yanlış sunmak.\n
    • \n
  • Cehalete başvurma - Yalanlanamama nedeniyle bir iddianın doğru olduğunu iddia etme.\n
    • \n
  • Otoriteye başvurma olup olmadığını kontrol edin - Yalnızca otoriteye dayanarak bir şeyin doğru olduğunu varsaymak.\n
    • \n
  • Yanlış yönlendirmeleri kontrol edin - Ana konudan dikkatleri başka yöne çekmek.\n
    • \n
  • Yanlış nedenleri kontrol edin - Korelasyonu nedensellikle karıştırmak.\n
    • \n
  • Kişiye yönelik saldırı olup olmadığını kontrol edin - Argümanı değil, kişiyi hedef alan saldırı.\n
    • \n
  • Ad populum olup olmadığını kontrol edin - Popülerlikten yola çıkarak doğruluğu savunmak.\n
    • \n
  • Kaygan zemin argümanlarını kontrol edin - Bir adımın aşırı uçlara yol açtığını iddia etmek.\n
    • \n
  • Döngüsel akıl yürütme olup olmadığını kontrol edin - Sonucu öncül olarak kullanmak.\n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

Dezenformasyon

\n

Dezenformasyon, yanlış olduğunu bilen kişiler tarafından zarar vermek, aldatmak veya manipüle etmek amacıyla kasıtlı olarak paylaşılan yanlış veya yanıltıcı bilgilerdir. Paylaşanın yanlışlığın farkında olması ve zarar verme niyeti, tanımın temel özellikleridir.

\n

Yaygın biçimleri arasında siyasi etki operasyonları, ticari aldatma, propaganda, uydurma içerik ve manipüle edilmiş medya yer alır. Dezenformasyon genellikle organize aktörler tarafından üretilir ve Koordineli Sahte / Yapay Amplifikasyon (yukarıda) yoluyla yaygınlaştırılır.

\n

Kötü niyetli bilgi

\n

Yanlış bilgi, zarar verme niyetiyle paylaşılan doğru bilgidir. İçeriğin kendisi doğrudur, ancak yayınlanması, çerçevelenmesi veya zamanlaması bir kişiye, gruba veya kuruma zarar vermek için hesaplanmıştır. Klasik örüntü, özel, hassas veya bağlama bağlı bilgilerin kasıtlı olarak kamusal veya zararlı bir bağlama taşınmasıdır.

\n

Örnekler arasında, bir hedefi itibarsızlaştırmak için sızdırılmış özel iletişimlerin yayınlanması, doğru ancak damgalayıcı kişisel verilerin (ör. intikam pornosu) yayınlanması ve gerçeklere uygun ancak bağlamsal olarak zarar verici bilgilerin maksimum etki yaratacak şekilde hesaplanmış anlarda stratejik olarak ifşa edilmesi sayılabilir.

\n

Yanlış bilgi, içeriğin yanlış olmaması nedeniyle üç kategori arasında en az tartışılanıdır ve bu da onu doğruluk kontrolü çerçevelerinin dışında bırakır. Ancak bu, bilgi düzensizliği ekolojisinin önemli bir parçasını oluşturur (Wardle & Derakhshan, 2017).

\n
\n
\n\n

Sınırlar belirsizdir. Bu üç kategori pratikte sıklıkla birbiriyle örtüşür veya değişir:

\n
    \n
  • Gerçekten inanan kişiler tarafından paylaşılan bir dezenformasyon, yayıldıkça yanlış bilgiye dönüşür. Aynı içerik, onu paylaşan kişiye bağlı olarak farklı kategorilere girebilir.\n
    • \n
  • İçerik kısmen doğru, kısmen yanlış olabilir. Wardle (2017), yanıltıcı içerik, yanlış bağlam ve manipüle edilmiş içerik dahil olmak üzere bilgi kargaşası içinde yedi form listeler; tüm yanlış içerik tamamen uydurma değildir.\n
    • \n
  • Niyeti dışarıdan belirlemek ampirik olarak zordur. Paylaşanın bilgi durumuna ve motivasyonuna erişim olmadan, yanlış bilgi ile dezenformasyon arasındaki çizgi genellikle kesin olarak çizilemez.\n

    Bu nedenle, çerçeve, öğrenicilerden yanlış bilgi ile dezenformasyon arasındaki sınırın pratikte neden sıklıkla belirlenmesinin zor olduğunu açıklamalarını ister.

    \n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

AI Halüsinasyonu / Konfabülasyon

\n

Üretken AI sistemlerinin, uydurma referanslar, var olmayan çalışmalar, yanlış atfedilmiş alıntılar, uydurma istatistikler ve yanlış biyografik, tarihsel veya bilimsel ayrıntılar dahil olmak üzere, gerçekte yanlış, uydurma veya doğrulanamayan, kulağa makul gelen içerik üretme sistematik eğilimi.

\n

Halüsinasyonlar, üretken AI sistemlerinin bir bilgi kaynağından doğrulanmış bilgileri almaktansa, eğitim sırasında öğrenilen kalıplardan makul devamını tahmin ederek çıktı üretmesi nedeniyle ortaya çıkar. Sistem, doğruluk için değil, akıcılık ve makul olma için optimize edilir. Uydurma içerik genellikle doğru içerikle aynı güvenle sunulur — ikisini güvenilir bir şekilde ayıran dahili bir sinyal yoktur.

\n

Araştırma bağlamlarında bazen halüsinasyon yerine konfabülasyon terimi tercih edilir, çünkü psikolojide konfabülasyon, aldatma niyeti olmaksızın yanlış ancak içtenlikle inanılan anlatıların oluşturulmasını ifade eder — bu, üretken sistemlerin gerçekte yaptıklarına daha yakındır. Halüsinasyon, kamusal ve teknik söylemde baskın terim olmaya devam etmektedir ve burada da kullanılmaktadır.

\n

Halüsinasyonlar ara sıra ortaya çıkan hatalar değildir. Bunlar, altta yatan üretim sürecinin yapısal bir özelliğidir; daha iyi yönlendirmeyle güvenilir bir şekilde ortadan kaldırılabilecek hatalar değildir (Kalai & Vempala, 2024). Bunlar, tüm üretici sistemlerde görülür — uydurmanın, geri getirilen kaynakların nasıl özetlendiğini, alıntılanmasını veya atfedilmesini de etkileyebileceği ☑ RAG AI dahil.

\n

Didaktik konumlandırma: Halüsinasyonlar kavramsal olarak yanlış bilgi, dezenformasyon ve kötü bilginin yanı sıra dördüncü bir kategori olarak konumlandırılabilir. Bu ikisinden farklı olarak, halüsinasyonlar kasıtlı veya hatalı bir insan kaynağı tarafından üretilmez, ancak üretim sürecinin kendisinden ortaya çıkar — kasıtlı bir kaynağı olmayan, sistem tarafından üretilen yanlış içerik. Bu üçlü ayrım, burada yerleşik bir konsensüs terminolojisi olarak değil, pedagojik açıdan yararlı bir çerçeve olarak sunulmaktadır.

\n

Yaygın türler:

\n
    \n
  • uydurma referanslar — var olmayan makalelere, kitaplara veya çalışmalara yapılan alıntılar\n
    • \n
  • yanlış atfedilmiş veya uydurulmuş alıntılar\n
    • \n
  • uydurma istatistikler veya sayısal iddialar\n
    • \n
  • kendinden emin bir şekilde sunulan yanlış biyografik, tarihsel veya bilimsel ayrıntılar\n
    • \n
  • gerçek kaynakların kendinden emin bir şekilde yanlış özetlenmesi\n
    • \n
\n
\n
\n\n

Üretken bir AI sisteminden gelen herhangi bir olgusal iddiayı, bağımsız bir kaynakla karşılaştırılana kadar doğrulanmamış olarak değerlendirin. Referanslar ve alıntılar özellikle doğrulanması kolaydır — alıntılanan kaynağın var olup olmadığını ve AI'nın iddia ettiği bilgileri içerip içermediğini araştırın.

\n
\n
\n
\n
\n\n
    \n
  • \nBender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). Stokastik papağanların tehlikeleri üzerine: Dil modelleri çok büyük olabilir mi? 2021 ACM Adalet, Hesap Verebilirlik ve Şeffaflık Konferansı (FAccT '21) Bildirileri\n, 610–623. https://doi.org/10.1145/3442188.3445922\n
    • \n
  • \nJi, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Doğal dil üretimi konusunda halüsinasyon araştırması. ACM Computing Surveys, 55\n(12), Makale 248. https://doi.org/10.1145/3571730\n
    • \n
  • \nKalai, A. T., & Vempala, S. S. (2024). Kalibre edilmiş dil modelleri halüsinasyon görmelidir. 56. Yıllık ACM Bilgisayar Teorisi Sempozyumu (STOC 2024) Bildirileri\n, 160–171. https://doi.org/10.1145/3618260.3649777\n
    • \n
  • \nSmith, A. L., Greaves, F., & Panch, T. (2023). Halüsinasyon mu, uydurma mı? Büyük dil modellerinde metafor olarak nöroanatomi. PLOS Digital Health, 2\n(11), e0000388. https://doi.org/10.1371/journal.pdig.0000388\n
    • \n
\n
\n
\n

İçerik Yanlış Sunumu

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
BiçimManipüle EdilmişUydurulmuş
Metinbağlamından koparılmış gerçek alıntı, tahrif edilmiş başlıkuydurma alıntı, kurgusal makale, yapay zeka tarafından üretilmiş metin
Görseldüzenlenmiş fotoğraf, kırpılmış orijinalAI tarafından üretilmiş resim, sahte "fotoğraf"
Sesdüzenlenmiş veya hızlandırılmış orijinal kayıtses klonu, AI tarafından üretilmiş konuşma
Videoucuz sahte, yeniden kesilmiş kliplertamamen sentetik deepfake video
Belgedeğiştirilmiş şablon üzerinde sahte antetli kağıtuydurma "resmi" mektup
\n

Uydurma içerik

\n

Uydurma içerik, gerçek bir kaynak materyali olmayan, tamamen uydurulmuş bilgi (metin, resim, ses, video, belge veya diğer formatlar)dır. Manuel olarak üretilebilir (uydurma alıntılar, kurgusal haber makaleleri) veya AI sistemleri tarafından sentetik olarak oluşturulabilir (sentetik videolar, ses klonları, AI tarafından oluşturulan resimler, AI tarafından yazılan metinler).

\n

Manipüle Edilmiş İçerik

\n

Manipüle edilmiş içerik, aldatmak amacıyla değiştirilmiş gerçek bilgilerdir (metin, resim, ses, video, belge veya diğer formatlar). Kaynak materyal gerçektir, ancak düzenleme, seçici kırpma, hız ayarı, yeniden bağlamlandırma, çerçeve değişiklikleri, ses değiştirme veya anlamını veya görünür bağlamını değiştiren diğer dönüşümler yoluyla değiştirilmiştir.

\n

Ucuz Sahte

\n

Ucuz sahte, AI tabanlı üretici yöntemler yerine, geleneksel, yaygın olarak bulunan araçlar (görüntü düzenleme yazılımı, video düzenleme yazılımı veya temel yeniden bağlamlandırma) kullanılarak değiştirilmiş medyadır. Bu terim, Paris ve Donovan (2019) tarafından, kamusal söylemde en önemli manipüle edilmiş medya biçimlerinin genellikle sofistike AI tarafından üretilen deepfake'ler değil, herkesin uygulayabileceği basit, düşük maliyetli teknikler olduğu gerçeğine dikkat çekmek için ortaya atılmıştır.

\n

Yaygın ucuz sahte teknikler şunlardır:

\n
    \n
  • hız manipülasyonu (ör. yavaşlatılmış Pelosi videosu, 2019)\n
    • \n
  • ses veya videonun yeniden kesilmesi ve seçici düzenlenmesi\n
    • \n
  • yeniden bağlamsallaştırma (gerçek medyanın yanlış bir başlık veya çerçeveyle sunulması)\n
    • \n
  • fotoğraf rötuşlama, kırpma veya birleştirme\n
    • \n
  • başlıkların değiştirilmesi ve ekran görüntülerinin tahrif edilmesi\n
    • \n
  • ses birleştirme\n
    • \n
\n

Ucuz bir sahteciliğin yanlış bilgi, dezenformasyon veya kötü niyetli bilgi olup olmadığı, tekniğin kendisine değil, aktörün bilgisine ve niyetine bağlıdır (→ Bilgi Düzensizliği). Aynı düzenlenmiş video, hiciv, kurgu, eğitim veya aldatma amaçlı kullanılabilir.

\n

Derin sahtecilikle karşılaştırıldığında, ucuz sahtecilik daha az teknik beceri gerektirir, ancak tespit edilmesi mutlaka daha kolay değildir — iyi yapılmış yeniden bağlamlandırma veya seçici düzenleme, orijinal kaynak materyale erişim olmadan tespit edilmesi son derece zor olabilir.

\n
\n
\n\n
\n
\n
\n
\n
\n\n

Ucuz Sahte İçerik Doğrulama Araçları:

\n
\n
\n
\n

Derin Sahte

\n

Derin Sahte

\n

Deepfake, yapay zeka tarafından üretilen sentetik medyadır — özellikle üretken karşıt ağlar (GAN'lar), difüzyon modelleri veya dönüştürücü tabanlı üreteçler gibi derin öğrenme teknikleri kullanılarak. Terim, derin öğrenme ve sahte kelimelerinin birleşiminden oluşur ve 2017 yılında yapay zeka tarafından üretilen yüz değiştirme videoları üreten çevrimiçi topluluklarda ortaya çıkmıştır. O zamandan beri teknoloji, medya türleri arasında yaygınlaşmış ve artık tüketici düzeyindeki araçlar aracılığıyla geniş çapta erişilebilir hale gelmiştir.

\n

Yaygın biçimleri şunlardır:

\n
    \n
  • Yüz değiştirme: videoda bir kişinin yüzünü başka bir kişinin yüzüyle değiştirme\n
    • \n
  • Ses klonlama: küçük bir ses örneğinden konuşmacının sesini sentezleme\n
    • \n
  • Tamamen sentetik video: Hiç gerçekleşmemiş kişileri, olayları veya sahneleri gösteren AI tarafından üretilen görüntüler\n
    • \n
  • Sentetik fotoğrafçılık: Kurgusal kişi veya olayların yapay zeka tarafından üretilen sabit görüntüleri\n
    • \n
  • Metinden videoya ve metinden sese: yazılı komutlardan medya oluşturma\n
    • \n
\n

Bir derin sahteciliğin yanlış bilgi, dezenformasyon veya kötü niyetli bilgi olup olmadığı, tekniğin kendisine değil, aktörün bilgisine ve niyetine bağlıdır (→ Bilgi Düzensizliği). Derin sahtecilik yöntemleri, film yapımında, erişilebilirlik araçlarında (sesini kaybetmiş kişiler için sentetik sesler), dil dublajında, hicivde, eğitimde ve sanatta da meşru bir şekilde kullanılmaktadır.

\n

Ucuz sahtecilikle karşılaştırıldığında, derin sahtecilik inandırıcı sonuçlar üretmek için daha fazla teknik kapasite gerektirir ve daha yüksek görsel veya işitsel gerçekçilik sağlayabilir. Ancak bunlar, kamusal söylemde medya manipülasyonunun baskın biçimi değildir — Paris ve Donovan (2019), daha basit ucuz sahtecilik tekniklerinin daha yaygın ve genellikle daha önemli sonuçlar doğurduğunu belirtmektedir. Tespit, aktif bir araştırma alanıdır; mevcut yaklaşımlar, eser analizi, biyolojik tutarsızlık kontrolleri ve menşe doğrulamasını (ör. C2PA içerik kimlik bilgileri) birleştirir.

\n
\n
\n\n
    \n
  • \nParis, B. ve Donovan, J. (2019). Deepfakes ve Ucuz Sahte İçerikler: Ses ve Görsel Kanıtların Manipülasyonu\n. Veri ve Toplum Araştırma Enstitüsü.https://datasociety.net/library/deepfakes-and-cheap-fakes/\n
    • \n
  • Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review, 107(6), 1753–1820.\n
    • \n
  • \nVaccari, C., & Chadwick, A. (2020). Deepfake'ler ve dezenformasyon: Sentetik siyasi videoların aldatma, belirsizlik ve haberlere duyulan güven üzerindeki etkisinin araştırılması. Social Media + Society\n, 6(1), 1–13. https://doi.org/10.1177/2056305120903408\n
    • \n
\n
\n
\n
\n
\n\n

Deepfake Doğrulama Araçları:

\n
\n
\n
","UPDATEDAT":"2026-05-11T20:49:09.513Z","LANG":"tr","ID":"3a2e66d9-94a9-482d-a20b-3c977e896fa3","TITLE":"Yanlış Bilgilendirme ve Manipülasyon","SOURCELANG":"en"}