{"CACHEDAT":"2026-05-27 13:04:14","TRANSLATEDAT":"2026-05-27 13:04:14","SOURCESIGNATURE":"7a9e56d2ea3f2c69597ecdc4c37790c3bd22ac955bbb62f6ceb193688b397de6","SLUG":"misinformation-manipulation-WtiyDFyWdl","MARKDOWN":"# Infohäire\n\nWardle & Derakhshan (2017) tutvustavad Euroopa Nõukogu jaoks koostatud alusaruandes *Informatsioonihäiret* kui üldmõistet valede, eksitavate või kahjulikult jagatud andmete kohta avalikus teabekeskkonnas. Nad eristavad kolme kategooriat kahel teljel: kas sisu on *vale* või *tõene* ja kas seda jagatakse *kahjustamise kavatsusega*.\n\n| Tüüp | Sisu | Jagaja teadmine valetusest | Kahjustamise kavatsus |\n|------|---------|---------------------------------|----------------|\n| **Väärteave** | vale või eksitav | ei tea | ei | ei |\n| **Valeinformatsioon** | vale või eksitav | teab | jah |\n| **Valeinformatsioon** | tõsi | (mitte kriteerium) | jah | jah |\n\nNeed kolm kategooriat moodustavad omavahel seotud ökoloogia: üks ja sama sisuelement võib nende vahel liikuda sõltuvalt sellest, kes seda jagab ja millise kavatsusega.\n\n### Fake News\n\nTerminit *fake news* kasutatakse avalikus arutelus laialdaselt, kuid see on analüütiliselt ebatäpne. Tavaliselt viitab see vale- või eksitavale teabele, mida esitatakse uudisteadete stiilis. Kuna termin võib aga viidata erinevat tüüpi teabehäiretele ja seda kasutatakse sageli poliitiliselt ebasoovitavate teadete diskrediteerimiseks, tuleks eelistada täpsemaid termineid nagu *väärinfo*, *disinformatsioon*, *konstrueeritud sisu*, *vale kontekst* või *manipuleeritud sisu*.\n\n## Väärinfo\n\nVäärinfo on vale või eksitav teave, mida jagavad inimesed, kes ei mõista, et see on vale. Jagaja usub, et sisu on täpne; puudub kavatsus eksitada või kahjustada.\n\nVäärinfo tekib tavaliselt kiiresti muutuvate uudiste puhul (varajased teated kinnitamata üksikasjadega), väidete edastamisel ilma täpsust kontrollimata ja usaldusväärsetest allikatest saadud teabe kordamisel, mis osutub valeks. See võib olla sama laialt levinud ja tagajärjepidev kui desinformatsioon, hoolimata pahatahtliku kavatsuse puudumisest - selle jagajad on sageli tõeliselt motiveeritud ja oma võrgustikes usaldusväärsed, mis annab sisule ulatuse ja tajutava usaldusväärsuse (Lewandowsky et al., 2017).\n\n### Desinformatsiooni vastuvõtlikkuse tegurid\n\n\n:::edu\n**1. Kognitiivsed tegurid** - kuidas teavet töödeldakse\n\n* **Kinnitamishälve**: Inimesed pööravad rohkem tähelepanu teabele, mis toetab seda, mida nad juba usuvad, ja kontrollivad karmimalt vastupidist teavet. - Nickerson (1998)\n* **Illusoorse tõe efekt**: Väited võivad tunduda usutavamad lihtsalt seetõttu, et inimesed on neid varem näinud, isegi kui need on valed. - Unkelbach et al. (2019)\n* **Processing fluency**: Teave, mida on lihtne lugeda, mille sõnastus on tuttav või mis on visuaalselt selge, tundub usaldusväärsem kui teave, mida on raskem töödelda. - Reber & Schwarz (1999)\n* **Madal kognitiivne reflektsioon**: Inimesed, kes tuginevad pigem kiiretele, intuitiivsetele hinnangutele kui kontrollimiseks pausidele, langevad suurema tõenäosusega valeväidetele. - Pennycook & Rand (2019)\n* **Põhjapealsuse vastuvõtlikkus**: Mõned inimesed kalduvad pidama ebamääraseid, kuid muljetavaldavalt kõlavaid väiteid tähenduslikuks, isegi kui need on tühjad. - Pennycook et al. (2015)\n* **Väike arvutusoskus/teaduslik kirjaoskus**: Inimestel võib olla raskusi statistika, graafikute, riskilausete või teaduslike tõendite hindamisega; haridus üksi ei ole automaatne kaitse. - Kahan et al. (2017)\n\n**2. Afektiivsed / motivatsioonilised tegurid** - kuidas emotsioonid ja identiteet kujundavad hinnanguid\n\n* **Emotsionaalne arutluskäitumine / tuginemine emotsioonidele**: Inimesed aktsepteerivad väiteid, sest need tunduvad õiged, hirmutavad, rahuldavad või on moraalselt pakilised, mitte sellepärast, et neid on kontrollitud. - Martel, Pennycook & Rand (2020)\n* **Spetsiifilised emotsioonid** (viha, hirm, moraalne pahameel): Tugevad emotsioonid võivad panna inimesi reageerima kiiresti ja jagama enne kontrollimist; moraali-emotsionaalne keel on eriti võimas poliitilise sisu levitamisel. (Usk ja jagamine on erinevad mõjud, mille kohta on erinevad tõendid.) - Brady et al. (2017); Martel et al. (2020)\n* **Identsust kaitsev tunnetus**: Inimesed töötlevad teavet viisil, mis kaitseb nende poliitilist, religioosset või grupiidentiteeti, ja seisavad vastu tõenditele, mis seda ohustaksid. (Tihedalt seotud *poliitilise identiteediga* kategoorias 5.) - Kahan (2013, 2017)\n* **Vandenõukogemuslik mõtteviis**: Üldine kalduvus kahtlustada sündmuste taga varjatud vandenõusid või võimsaid tegutsejaid muudab vandenõude stiilis valeinformatsiooni usutavamaks. - Douglas, Sutton & Cichocka (2017)\n\n**3. Sotsiaalsed tegurid** - keda ja milliseid rühmi inimesed usaldavad\n\n* **Allika usaldusväärsus / usaldus saatja vastu**: See, kui usutav tundub väide, sõltub sellest, kes tundub seda ütlevat - sõber, mõjutaja, ekspert, poliitik, uudisteagentuur või anonüümne konto. - Traberg & van der Linden (2022)\n* **Sotsiaalsed tõendid / populaarsuse märgid**: Meeldimised, jagamised, vaatamised ja kommentaarid võivad toimida usaldusväärsuse vihjetena, kuigi mõju sõltub kontekstist. - Avram et al. (2020)\n* **Rühmasisene / parteiline kongruentsus**: Teave, mis pärineb \"meiesuguste\" või grupi seisukohaga kooskõlas olevatelt inimestelt, võetakse kergemini vastu. (Tihedalt seotud *poliitilise identiteediga* kategoorias 5.) - Sultan et al. (2024)\n* **Võrgustiku homofiilia / kajakambrid**: Kui inimesed puutuvad teabega kokku peamiselt sarnaste teiste inimeste võrgustike kaudu, näivad teatud seisukohad laiemalt jagatud, kui nad tegelikult on. (Vt ka D1G5.) - Cinelli et al. (2021)\n\n**4. Kontekstuaalsed / situatsioonilised tegurid** - tingimused, milles inimesed kohtuvad teabega\n\n* **Ajasurve**: Kui inimesed peavad teavet kiiresti hindama, eristavad nad tõeseid ja valesid väiteid vähem täpselt. - Sultan et al. (2022)\n* **Informatsiooni ülekoormus**: Kui korraga saabub liiga palju teavet, siis inimesed pöörduvad lühikeste lahenduste, näiteks pealkirjade, emotsioonide, allikasiltide või populaarsuse poole. - Laato et al. (2020)\n* **Distraktsioon / kognitiivne koormus**: Kui tähelepanu juhitakse mujale, võivad inimesed jagada ilma täpsust kontrollimata, isegi kui nad muidu võiksid väärinfot ära tunda. - Pennycook et al. (2020)\n* **Kriiside / ebakindluse kontekst** (pandeemiad, sõda, katastroofid): Kiireloomuline vajadus selgituste järele suurendab avatust valede või enneaegsete väidete suhtes. - Roozenbeek et al. (2020)\n* **Platvormi kujundamine**: Feedid, teavitused, soovitussüsteemid, automaatne mängimine ja kiire kerimine soodustavad pigem reaktiivset kui reflektiivset käitumist. (Vt ka D1G1.) - Lorenz-Spreen et al. (2020)\n\n**5. Taustafaktorid ja dispositsioonilised tegurid** - kes võivad olla konkreetsetes kontekstides rohkem või vähem haavatavamad\n\n* **Eluaeg**: Vanemad täiskasvanud eristavad uuringutes mõnikord paremini tõeseid ja valesid pealkirju, kuid jagavad internetis sagedamini valeinfot. - Guess, Nagler & Tucker (2019)\n* **Haridus**: Ei ole automaatne kaitse; metaanalüüsid ei näita lihtsat mõju valeinformatsiooni eristamisele. - Sultan et al. (2024)\n* **Poliitiline identiteet ja eelnevad veendumused**: Kujundavad, milline teave tundub usutav, ähvardav, usaldusväärne või jagamist väärt. (Toimib identiteeti kaitsva tunnetuse kaudu kategoorias 2 ja grupisiseste vihjete kaudu kategoorias 3 - mitte puhtalt demograafiline muutuja) - Sultan et al. (2024)\n* **Mediapädevuse harjumused**: Inimesed, kes võrdlevad allikaid, loevad pealkirjadest kaugemale ja tunnevad ära manipuleerimistehnikad, tuginevad vähem emotsionaalsetele või sotsiaalsetele otseteedele. *(Märkus: see on SciLMi enda õppe-eesmärk - siin loetletud kui dokumenteeritud kaitsev dispositsioon, mitte kui eeldus)* - Guess et al. (2020)\n\n:::\n\n\n:::info\n* Avram, M., Micallef, N., Patil, S., & Menczer, F. (2020). Kokkupuude sotsiaalse kaasatuse meetrikaga suurendab haavatavust väärinfo suhtes. *Harvard Kennedy School (HKS) Misinformation Review*, *1*(5). \n* Brady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Emotsioonid kujundavad moraliseeritud sisu levikut sotsiaalsetes võrgustikes. *Proceedings of the National Academy of Sciences*, *114*(28), 7313-7318. \n* Cinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). Kaja efekt sotsiaalmeedias. *Proceedings of the National Academy of Sciences*, *118*(9), e2023301118. \n* Douglas, K. M., Sutton, R. M., & Cichocka, A. (2017). Vandenõuteooriate psühholoogia. *Current Directions in Psychological Science*, *26*(6), 538-542. \n* Guess, A., Nagler, J., & Tucker, J. (2019). Vähem kui te arvate: Valeuudiste levitamise levik ja ennustajad Facebookis. *Science Advances*, *5*(1), eaau4586. \n* Jones-Jang, S. M., Mortensen, T., & Liu, J. (2021). Kas meediapädevus aitab võltsitud uudiseid tuvastada? Infokirjaoskus aitab, kuid teised kirjaoskused mitte. *American Behavioral Scientist*, *65*(2), 371-388. \n* Kahan, D. M. (2013). Ideoloogia, motiveeritud arutlus ja kognitiivne reflektsioon. *Judgment and Decision Making*, *8*(4), 407-424.\n* Kahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Motiveeritud arvutusoskus ja valgustatud enesevalitsus. *Behavioural Public Policy*, *1*(1), 54-86. \n* Laato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). Mis ajendab kontrollimata teabe jagamist ja küberkuritegevust COVID-19 pandeemia ajal? *European Journal of Information Systems*, *29*(3), 288-305. \n* Lorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). Kuidas käitumisteadused saavad edendada tõde, autonoomiat ja demokraatlikku diskursust internetis. *Nature Human Behaviour*, *4*(11), 1102-1109. \n* Martel, C., Pennycook, G., & Rand, D. G. (2020). Emotsioonidele tuginemine soodustab usku võltsitud uudistesse. *Cognitive Research: Principles and Implications*, *5*(1), 47. \n* Nickerson, R. S. (1998). Confirmation bias: Kõikjal esinev nähtus paljudes vormides. *Review of General Psychology*, *2*(2), 175-220. \n* Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). Pseudoprofoundi jama vastuvõtmisest ja avastamisest. *Judgment and Decision Making*, *10*(6), 549-563.\n* Pennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). Võitlus COVID-19 väärinfo vastu sotsiaalmeedias: Eksperimentaalsed tõendid skaleeritava täpsuse-naudge sekkumise kohta. *Psychological Science*, *31*(7), 770-780. \n* Pennycook, G., & Rand, D. G. (2019). Laisk, mitte erapoolik: Vastupanu parteilistele võltsitud uudistele on paremini seletatav argumenteerimise puudumise kui motiveeritud argumentatsiooniga. *Cognition*, *188*, 39-50. \n* Reber, R., & Schwarz, N. (1999). Taju sujuvuse mõju tõeotsustele. *Consciousness and Cognition*, *8*(3), 338-342. \n* Roozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). Vastuvõtlikkus väärteabe suhtes COVID-19 kohta kogu maailmas. *Royal Society Open Science*, *7*(10), 201199. \n* Sultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). Ajasurve vähendab valeinformatsiooni eristusvõimet, kuid ei muuda vastuse kallutatust. *Scientific Reports*, *12*(1), 22416. \n* Sultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Tundlikkus veebipõhise väärteabe suhtes: Demograafiliste ja psühholoogiliste tegurite süstemaatiline metaanalüüs. *Proceedings of the National Academy of Sciences*, *121*(47), e2409329121. \n* Traberg, C. S., & van der Linden, S. (2022). Ühesugused linnud veenavad koos: Tajutud allika usaldusväärsus vahendab poliitilise eelarvamuse mõju väärinformatsiooni vastuvõtlikkusele. *Personality and Individual Differences*, *185*, 111269. \n* Unkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). Tõde kordamise teel: Selgitused ja tagajärjed. *Current Directions in Psychological Science*, *28*(3), 247-253. \n\n:::\n\n### ☑ Logical Fallacies\n\n\n:::edu\n- [ ] Kontrollida rutiinseid üldistusi - järeldus liiga vähestest tõenditest.\n- [ ] Kontrolli vale dilemmade suhtes - Valikuvõimaluste piiramine kahele, kui neid on rohkem.\n- [ ] Kontrollida varitsusmehe argumente - seisukoha vääralt esitamine, et seda kergesti ümber lükata.\n- [ ] Kontrollida teadmatusele apelleerimist - Tõe väide ümberlükkamise puudumise tõttu.\n- [ ] Kontrollida autoriteedile tuginevaid apelleerimisi - tõe oletamine ainult autoriteedi põhjal.\n- [ ] Kontrollida, kas on tegemist kõrvalepõikega - põhiküsimusest kõrvalejuhtimine.\n- [ ] Kontrollida vale põhjuste suhtes - korrelatsiooni segiajamine põhjuslikkusega.\n- [ ] Kontrollida ad hominem - ründab isikut, mitte argumenti.\n- [ ] Kontrollida ad populum - Tõe argumenteerimine populaarsuse põhjal.\n- [ ] Kontrollida libedate nõlvade suhtes - Väidetakse, et üks samm viib äärmuseni.\n- [ ] Kontrollige ringkäsitlust - järelduse kasutamine eeldusena.\n\n:::\n\n\n:::tip\n* \n* \n* \n\n:::\n\n## Desinformatsioon\n\nDesinformatsioon on vale või eksitav teave, mida jagavad tahtlikult inimesed, kes teavad, et see on vale, eesmärgiga kahjustada, petta või manipuleerida. Nii teabe jagaja teadlikkus valest teabest kui ka kahjulik kavatsus on määratluse tunnuseks.\n\nLevinumad vormid on poliitilised mõjutustegevused, kaubanduslik pettus, propaganda, võltsitud sisu ja manipuleeritud meedia. Desinformatsiooni toodavad sageli organiseeritud osalejad ja seda võimendatakse *Koordineeritud ebatõepärane / kunstlik võimendamine* (vt eespool).\n\n## Malinformatsioon\n\nPahateave on *tõene* teave, mida jagatakse eesmärgiga tekitada kahju. Sisu ise on täpne, kuid selle avaldamine, kujundamine või ajastus on kavandatud kahjustama isikut, rühma või institutsiooni. Klassikaline muster on eraõigusliku, tundliku või kontekstiga seotud teabe tahtlik viimine avalikku või kahjulikku konteksti.\n\nNäidetena võib nimetada lekkinud privaatsõnumite avaldamist sihtmärgi diskrediteerimiseks, täpsete, kuid häbimärgistavate isikuandmete avaldamist (nt kättemaksuporno) ning faktiliselt korrektse, kuid kontekstiliselt kahjuliku teabe strateegilist avalikustamist maksimaalse mõju saavutamiseks kavandatud ajal.\n\nPahateave on kolmest kategooriast kõige vähem käsitletud, sest selle sisu ei ole vale, mistõttu jääb see väljapoole faktikontrolli raamistikku. Kuid see moodustab märkimisväärse osa teabehäirete ökoloogiast (Wardle & Derakhshan, 2017).\n\n\n:::hoiatus\n**Piirid on poorsed.**\n\nNeed kolm kategooriat kattuvad sageli või nihkuvad praktikas:\n\n* Kui *disinformatsioon* on kord jagatud inimeste poolt, kes seda tõeliselt usuvad, muutub see edasise leviku käigus *väärinformatsiooniks*. Sama sisu võib kuuluda erinevatesse kategooriatesse sõltuvalt sellest, kes seda jagab.\n* Sisu võib olla osaliselt tõene ja osaliselt vale. Wardle (2017) loetleb infohäire raames seitse vormi - sealhulgas *valeinfo*, *valekontekst* ja *manipuleeritud sisu* - mitte kogu valeinfo ei ole täielikult fabritseeritud.\n* Väljastpoolt kavatsuse määramine on empiiriliselt raske. Ilma juurdepääsuta jagaja teadmisteseisundile ja motivatsioonile ei ole sageli võimalik tõmmata lõplikult piiri väär- ja desinformatsiooni vahele.\n\nSeepärast palutakse raamistikus õppijatel *selgitada, miks on praktikas sageli raske määrata piir valeinformatsiooni ja desinformatsiooni vahel*.\n\n:::\n\n\n:::info\n* Wardle, C., & Derakhshan, H. (2017). *Infohäire: Toward an interdistsiplinaarne raamistik teadusuuringuteks ja poliitikakujundamiseks*. Euroopa Nõukogu aruanne DGI(2017)09. \n* Wardle, C. (2017). Fake news. See on keeruline. *First Draft News*. \n* Lewandowsky, S., Ecker, U. K. H., & Cook, J. (2017). Beyond desinformatsioonist: \"Tõejärgse\" ajastu mõistmine ja sellega toimetulek. *Journal of Applied Research in Memory and Cognition*, 6(4), 353-369. \n* Vraga, E. K., & Bode, L. (2020). Väärteabe määratlemine ja selle piiritletud olemuse mõistmine. *Political Communication*, 37(1), 136-144. \n\n:::\n\n# AI Hallutsinatsioon / Konfabulatsioon\n\nGeneerivate tehisintellekti süsteemide süstemaatiline kalduvus toota usutavalt kõlavat sisu, mis on faktiliselt vale, fabritseeritud või kontrollimata - sealhulgas väljamõeldud viited, olematuid uuringuid, valesti omistatud tsitaate, väljamõeldud statistikat ja valesid biograafilisi, ajaloolisi või teaduslikke üksikasju.\n\nHallutsinatsioonid tekivad seetõttu, et genereerivad tehisintellekti süsteemid toodavad väljundit, ennustades väljaõppe käigus õpitud mustrite põhjal usutavaid jätkusid, mitte otsides kontrollitud teavet teadmiste allikast. Süsteem optimeerib sujuvust ja usutavust, mitte täpsust. Fiktiivset sisu esitatakse tavaliselt sama usaldusväärselt kui täpset sisu - puudub sisemine signaal, mis neid kahte usaldusväärselt eristaks.\n\nMõnikord eelistatakse uurimiskontekstides terminit **konfabuleerimine** terminile **hallutsinatsioon**, kuna psühholoogias tähistab konfabuleerimine valede, kuid siiralt usutud aruannete konstrueerimist ilma pettuse kavatsuseta - see on lähemal sellele, mida genereerivad süsteemid tegelikult teevad. *Hallutsinatsioon* on avalikus ja tehnilises diskursuses endiselt domineeriv termin ja seda kasutatakse ka siin.\n\n**Hallutsinatsioonid ei ole juhuslikud vead.** Need on aluseks oleva genereerimisprotsessi struktuuriline omadus, mitte vead, mida saab usaldusväärselt kõrvaldada parema juhendamisega (Kalai & Vempala, 2024). Neid esineb kõigis genereerivates süsteemides - sealhulgas ☑ RAG AI, kus fabritseerimine võib mõjutada ka seda, kuidas otsitud allikaid kokku võetakse, tsiteeritakse või omistatakse.\n\n**Didaktiline positsioneerimine:** Hallutsinatsioonid võib kontseptuaalselt paigutada neljanda kategooriana *väärinformatsiooni, desinformatsiooni* ja *malinformatsiooni* kõrvale. Erinevalt mõlemast ei ole need tahtlikult või ekslikult inimliku allika poolt toodetud, vaid tekivad genereerimisprotsessist endast - süsteemi poolt genereeritud vale sisu, millel puudub tahtlik allikas. Seda kolmepoolset eristust pakutakse siin pigem pedagoogiliselt kasuliku raamistiku kui väljakujunenud konsensusterminoloogiana.\n\n**Üldised tüübid:**\n\n* fabritseeritud viited - viited artiklitele, raamatutele või uuringutele, mida ei ole olemas\n* valesti omistatud või fabritseeritud tsitaadid\n* väljamõeldud statistika või arvulised väited\n* ebatäpsed biograafilised, ajaloolised või teaduslikud üksikasjad, mida esitatakse enesekindlalt\n* kindlalt ebaõiged kokkuvõtted tegelikest allikatest\n\n\n:::vihje\nKäsitlege iga faktiväidet, mis pärineb genereeriva tehisintellekti süsteemist, kontrollimata, kuni seda ei ole kontrollitud sõltumatu allika põhjal. Viiteid ja tsitaate on eriti lihtne kontrollida - otsige, kas viidatud allikas on olemas ja kas see sisaldab seda, mida AI väidab.\n\n:::\n\n\n:::info\n* Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). Stohhastiliste papagoide ohtudest: Kas keelemudelid võivad olla liiga suured? *Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21)*, 610-623. \n* Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Ülevaade hallutsinatsioonist loomuliku keele genereerimisel. *ACM Computing Surveys, 55*(12), artikkel 248. \n* Kalai, A. T., & Vempala, S. S. (2024). Kalibreeritud keelemudelid peavad hallutsineerima. *Proceedings of the 56th Annual ACM Symposium on Theory of Computing (STOC 2024)*, 160-171. \n* Smith, A. L., Greaves, F., & Panch, T. (2023). Hallutsinatsioon või konfabulatsioon? Neuroanatoomia kui metafoor suurtes keelemudelites. *PLOS Digital Health, 2*(11), e0000388. \n\n:::\n\n# Content Misrepresentation\n\n| Format | Manipuleeritud | Fabricated |\n|--------|-------------|------------|\n| Tekst | kontekstist eemaldatud ehtne tsitaat, võltsitud pealkiri | väljamõeldud tsitaat, väljamõeldud artikkel, tehisintellekti poolt genereeritud tekst |\n| Pilt | retušeeritud foto, kärbitud originaal | tehisintellekti abil loodud pilt, maalitud võltsitud \"foto\" |\n| Heli | töödeldud või kiirendatud originaalsalvestus | häälkloon, tehisintellekti loodud kõne |\n| Video | odav võltsing, ümberlõigatud klipid | täielikult sünteetiline võltsitud video |\n| Dokument | võltsitud kirjakiri muudetud mallile | väljamõeldud \"ametlik\" kiri |\n\n## Võltsitud sisu\n\n**Fabrikaatne sisu** on teave - tekst, pilt, heli, video, dokument või muu formaat -, mis on täielikult välja mõeldud, ilma ehtsa allikmaterjalita. See võib olla käsitsi loodud (väljamõeldud tsitaadid, väljamõeldud uudisartiklid) või tehisintellektuaalsete süsteemide poolt sünteetiliselt loodud (sünteetilised videod, häälkloonid, tehisintellektiga loodud pildid, tehisintellektiga kirjutatud tekst).\n\n## Manipuleeritud sisu\n\n**Manipuleeritud sisu** on geneetiline teave - tekst, pilt, heli, video, dokument või muu formaat -, mida on muudetud pettuse eesmärgil. Allikamaterjal on reaalne, kuid seda on muudetud redigeerimise, valikulise kärpimise, kiiruse kohandamise, ümberkujundamise, raamide muutmise, hääle asendamise või muude transformatsioonide abil, mis muudavad selle tähendust või näilist konteksti.\n\n### Odav võltsing\n\nOdav võltsing** on meedia, mida on muudetud tavapäraste, laialdaselt kättesaadavate vahenditega - pilditöötlustarkvara, videotöötlustarkvara või lihtsa rekontsekstualiseerimise abil -, mitte aga tehisintellektipõhiste genereerivate meetoditega. Selle termini lõid Paris ja Donovan (2019), et juhtida tähelepanu asjaolule, et avalikus diskursuses manipuleeritud meedia kõige mõjusamad vormid ei ole tavaliselt keerukad tehisintellektiga genereeritud süvavõltsingud, vaid lihtsad ja odavad tehnikad, mida igaüks saab rakendada.\n\nTavalised odavad võltsimistehnikad on järgmised:\n\n* kiirusega manipuleerimine (nt aeglustatud Pelosi video, 2019)\n* heli või video ümberlõikamine ja valikuline toimetamine\n* rekontsekstualiseerimine (tõeline meedia, mida esitatakse vale pealkirja või kaadritega)\n* fotode retušeerimine, kärpimine või kompositsioneerimine\n* vahetatud pildiallkirjad ja muudetud ekraanikaadrid\n* heli liitmine\n\nSee, kas odav võltsing on *Valeinformatsioon*, *Disinformatsioon* või *Malinformatsioon*, sõltub tegija teadmistest ja kavatsusest (→ *Informatsioonihäire*), mitte tehnikast endast. Sama toimetatud video võib teenida satiiri, fiktsiooni, haridust või pettust.\n\nVõrreldes *Sügava võltsinguga* nõuavad odavad võltsingud vähem tehnilisi oskusi, kuid neid ei ole tingimata lihtsam avastada - hästi teostatud rekonstrueerimist või selektiivset montaaži võib olla äärmiselt raske tuvastada ilma juurdepääsuta algsele allikmaterjalile.\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes ja odavad võltsingud: The Manipulation of Audio and Visual Evidence*. Data & Society Research Institute. \n\n:::\n\n\n:::tip\nOdavad võltsitud kontrolltööriistad:\n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n### Deep Fake\n\n### Deep Fake\n\n**Sügav võltsing** on tehisintellekti abil loodud sünteetiline meedia, mille loomiseks kasutatakse süvaõppe meetodeid, näiteks generatiivseid vastandvõrke (GAN), difusioonimudeleid või transformaatoritel põhinevaid generaatoreid. Termin on portmanteau sõnadest *sügav õppimine* ja *fake*, mis pärineb 2017. aastal tehisintellekti abil loodud nägude vahetamise videoid tootvatest veebikogukondadest. Sellest ajast alates on tehnoloogia laienenud üle kõigi meediatüüpide ja on nüüd laialdaselt kättesaadav tarbijatasandi tööriistade kaudu.\n\nLevinud vormid on järgmised:\n\n* **näo vahetamine**: ühe inimese näo asendamine teise inimese näoga videos\n* **Hääle kloonimine**: kõneleja hääle sünteesimine väikese helinäidise põhjal\n* **Täielik sünteetiline video**: Tehisintellekti abil loodud filmimaterjal, mis näitab inimesi, sündmusi või stseene, mida ei ole kunagi toimunud\n* **Sünteetiline fotograafia**: Tehisintellekti abil genereeritud fotod fiktiivsetest inimestest või sündmustest\n* **Tekstist video ja tekstist heli**: meedia genereerimine kirjalikest käskudest\n\nSee, kas sügav võltsing kujutab endast *Valeinformatsiooni*, *Disinformatsiooni* või *Malinformatsiooni*, sõltub toimija teadmistest ja kavatsusest (→ *Informatsioonihäire*), mitte tehnikast endast. Deep fake meetodeid kasutatakse seaduslikult ka filmitootmises, ligipääsetavuse tagamise vahendites (sünteetilised hääled inimestele, kes on oma hääle kaotanud), keele dubleerimises, satiiris, hariduses ja kunstis.\n\nVõrreldes *Hapete võltsingutega* nõuavad sügavad võltsingud veenvaks tootmiseks rohkem tehnilist võimekust ja võivad saavutada suuremat visuaalset või auditiivset realismi. Need ei ole siiski domineeriv meediamanipulatsiooni vorm avalikus diskursuses - Paris ja Donovan (2019) märgivad, et lihtsamad odavate võltsingute tehnikad on endiselt levinumad ja sageli ka tagajärjekindlamad. Tuvastus on aktiivne uurimisvaldkond; praegused lähenemisviisid kombineerivad artefaktide analüüsi, bioloogilise ebajärjekindluse kontrolli ja päritolukontrolli (nt C2PA sisutunnistused).\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes ja odavad võltsingud: The Manipulation of Audio and Visual Evidence*. Data & Society Research Institute. \n* Chesney, R., & Citron, D. K. (2019). Deep fakes: Ohtlik väljakutse eraelu puutumatuse, demokraatia ja riigi julgeoleku jaoks. *California Law Review*, 107(6), 1753-1820.\n* Vaccari, C., & Chadwick, A. (2020). Deepfakes ja desinformatsioon: Sünteetilise poliitilise video mõju uurimine pettusele, ebakindlusele ja usaldusele uudiste suhtes. *Social Media + Society*, 6(1), 1-13. \n\n:::\n\n\n:::tip\nDeep Fake Verification Tools:\n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n\n##","HTML":"

Infokahjustus

\n

Wardle ja Derakhshan (2017) tutvustavad Euroopa Nõukogu jaoks koostatud alusraportis infokahjustust kui üldmõistet, mis hõlmab avaliku teabekeskkonnas levitatavat valet, eksitavat või kahjulikku teavet. Nad eristavad kolme kategooriat kahe telje alusel: kas sisu on vale või tõene ning kas seda levitatakse kahju tekitamise eesmärgil.

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
TüüpSisuJagaja teadmine valeolekustKahju tekitamise kavatsus
Väära teavetvale või eksitavei teaei
Desinformatsioonvale või eksitavteabjah
Väärinformatsioontõene(ei ole kriteerium)jah
\n

Need kolm kategooriat moodustavad omavahel seotud ökosüsteemi: sama sisuobjekt võib liikuda nende vahel sõltuvalt sellest, kes seda jagab ja millise kavatsusega.

\n

Valeuudised

\n

Mõistet „võltsuudised” kasutatakse avalikus arutelus laialdaselt, kuid see on analüütiliselt ebatäpne. Tavaliselt viitab see uudiste vormis esitatud valele või eksitavale teabele. Kuna see mõiste võib viidata erinevatele teabehäirete liikidele ja seda kasutatakse sageli poliitiliselt soovimatute uudiste diskrediteerimiseks, tuleks eelistada täpsemaid mõisteid, nagu väärteave, desinformatsioon, väljamõeldud sisu, vale kontekst või manipuleeritud sisu.

\n

Väära teavet

\n

Väära teavet jagavad inimesed, kes ei ole teadlikud selle valest. Jagaja usub, et sisu on õige; tal puudub kavatsus petta või kahju tekitada.

\n

Väärteave tekib tavaliselt kiiresti muutuvates uudisolukordades (esialgsed uudised kinnitamata detailidega), väidete edastamisel ilma nende õigsust kontrollimata ning usaldusväärsete allikate teabe kordamisel, mis osutub valeks. See võib olla sama laialt levinud ja tagajärgedega kui desinformatsioon, hoolimata pahatahtliku kavatsuse puudumisest – selle jagajad on sageli siiralt motiveeritud ja oma võrgustikes usaldusväärsed, mis annab sisule ulatuse ja tajutava usaldusväärsuse (Lewandowsky et al., 2017).

\n

Väärteabe vastuvõtlikkuse tegurid

\n
\n
\n\n

1. Kognitiivsed tegurid – kuidas teavet töödeldakse

\n
    \n
  • Kinnituse eelarvamus: inimesed pööravad rohkem tähelepanu teabele, mis toetab nende olemasolevaid uskumusi, ja suhtuvad vastandlikku teabesse kriitilisemalt. — Nickerson (1998)\n
    • \n
  • Illusoorne tõe efekt: väited võivad tunduda usutavamad lihtsalt seetõttu, et inimesed on neid varem näinud, isegi kui need on valed. — Unkelbach jt (2019)\n
    • \n
  • Töötlemise sujuvus: teave, mida on lihtne lugeda, mille sõnastus on tuttav või mis on visuaalselt selge, tundub usaldusväärsem kui teave, mida on raskem töödelda. — Reber & Schwarz (1999)\n
    • \n
  • Madal kognitiivne refleksioon: Inimesed, kes tuginevad kiiretele, intuitiivsetele otsustele, selle asemel et peatuda ja kontrollida, langevad tõenäolisemalt valede väidete ohvriks. — Pennycook & Rand (2019)\n
    • \n
  • Jama vastuvõtlikkus: Mõned inimesed kalduvad pidama ähmaseid, kuid muljetavaldavalt kõlavad väiteid tähendusrikasteks, isegi kui need on tühjad. — Pennycook jt (2015)\n
    • \n
  • Madal arvutusoskus / teaduslik kirjaoskus: Inimestel võib olla raskusi statistika, graafikute, riskiväljendite või teaduslike tõendite hindamisel; haridus üksi ei ole automaatne kaitse. — Kahan jt. (2017)\n

    2. Afektiivsed / motivatsioonilised tegurid — kuidas emotsioonid ja identiteet kujundavad otsust

    \n
    • \n
  • Emotsionaalne mõtlemine / emotsioonidele tuginemine: Inimesed aktsepteerivad väiteid pigem sellepärast, et need tunduvad õiged, hirmutavad, rahuldavad või moraalselt pakilised, mitte sellepärast, et need on kontrollitud. — Martel, Pennycook & Rand (2020)\n
    • \n
  • Konkreetsed emotsioonid (viha, hirm, moraalne pahameel): tugevad emotsioonid võivad panna inimesi reageerima kiiresti ja jagama enne kontrollimist; moraalselt-emotsionaalne keel on eriti mõjukas poliitilise sisu levitamisel. (Usk ja jagamine on erinevad mõjud, millel on erinevad tõendid.) — Brady jt (2017); Martel jt (2020)\n
    • \n
  • Identiteeti kaitsvad kognitiivsed protsessid: Inimesed töötlevad teavet viisil, mis kaitseb nende poliitilist, religioosset või rühma identiteeti, ning tõrjuvad tõendeid, mis seda ohustaksid. (Tihedalt seotud 5. kategooria poliitilise identiteediga.) — Kahan (2013, 2017)\n
    • \n
  • Vandenõu-mõtteviis: üldine kalduvus kahtlustada sündmuste taga peituvaid salajasi vandenõusid või mõjukaid tegutsejaid muudab vandenõu-laadse valeinfo usutavamaks. — Douglas, Sutton & Cichocka (2017)\n

    3. Sotsiaalsed tegurid — keda ja milliseid rühmi inimesed usaldavad

    \n
    • \n
  • Allika usaldusväärsus / usaldus saatja vastu: väite usutavus sõltub sellest, kes seda väidet esitab — sõber, mõjutaja, ekspert, poliitik, uudistekanal või anonüümne konto. — Traberg & van der Linden (2022)\n
    • \n
  • Sotsiaalne tõendus / populaarsuse märgid: Meeldimised, jagamised, vaatamised ja kommentaarid võivad toimida usaldusväärsuse märkidena, kuigi mõju sõltub kontekstist. — Avram jt (2020)\n
    • \n
  • Rühmasisene / parteiline ühtsus: „Meiesugustelt inimestelt” pärit või rühma seisukohaga kooskõlas olevat teavet võetakse kergemini vastu. (Tihedalt seotud 5. kategooria poliitilise identiteediga.) — Sultan jt (2024)\n
    • \n
  • Võrgustiku homofiilsus / kajaekokambrid: kui inimesed puutuvad teabega kokku peamiselt sarnaste inimeste võrgustike kaudu, tunduvad teatud vaated laiemalt levinud olevat, kui need tegelikult on. (Vt ka D1G5.) — Cinelli jt (2021)\n

    4. Kontekstuaalsed / situatsioonilised tegurid — tingimused, milles inimesed teabega kokku puutuvad

    \n
    • \n
  • Ajaline surve: kui inimesed peavad teavet kiiresti hindama, eristavad nad tõeseid ja valeseid väiteid vähem täpselt. — Sultan jt (2022)\n
    • \n
  • Infoküllus: kui korraga saabub liiga palju teavet, tuginevad inimesed lühenditele, nagu pealkirjad, emotsioonid, allikamärgistused või populaarsus. — Laato jt (2020)\n
    • \n
  • Tähelepanu hajumine / kognitiivne koormus: kui tähelepanu on suunatud mujale, võivad inimesed jagada teavet ilma selle õigsust kontrollimata, isegi kui nad muidu suudaksid valeinformatsiooni ära tunda. — Pennycook jt (2020)\n
    • \n
  • Kriisi- ja ebakindluse olukorrad (pandemiad, sõda, katastroofid): kiire vajadus selgituste järele suurendab avatust vale- või ennatlikele väidetele. — Roozenbeek jt (2020)\n
    • \n
  • Platvormi disain: uudisvood, teated, soovitussüsteemid, automaatne taasesitus ja kiire kerimine soodustavad pigem reaktiivset kui reflektiivset käitumist. (Vt ka D1G1.) — Lorenz-Spreen jt (2020)\n

    5. Taust ja isiksuseomadused — kes võivad olla konkreetsetes olukordades rohkem või vähem haavatavad

    \n
    • \n
  • Vanus: Uuringutes eristavad vanemad täiskasvanud mõnikord paremini tõeseid ja valeuudiseid, kuid jagavad veebis sagedamini valeinformatsiooni. — Guess, Nagler & Tucker (2019)\n
    • \n
  • Haridus: ei ole automaatne kaitse; metaanalüüsid ei näita lihtsat mõju valeinfo eristamisele. — Sultan jt (2024)\n
    • \n
  • Poliitiline identiteet ja varasemad veendumused: Mõjutavad seda, milline teave tundub usutav, ähvardav, usaldusväärne või jagamist väärt. (Toimib identiteeti kaitsva kognitsiooni kaudu kategoorias 2 ja rühmasiseste vihjete kaudu kategoorias 3 — ei ole puhtalt demograafiline muutuja.) — Sultan jt (2024)\n
    • \n
  • Meediapädevuse harjumused: inimesed, kes võrdlevad allikaid, loevad pealkirjadest kaugemale ja tunnevad ära manipuleerimistehnikaid, tuginevad vähem emotsionaalsetele või sotsiaalsetele lühendustele. (Märkus: see on SciLMi enda õppimiseesmärk — siin loetletud dokumenteeritud kaitsva kalduvusena, mitte eeltingimusena.) — Guess jt. (2020)\n
    • \n
\n
\n
\n
\n
\n\n
    \n
  • \nAvram, M., Micallef, N., Patil, S., & Menczer, F. (2020). Kokkupuude sotsiaalse kaasatuse näitajatega suurendab haavatavust valeinfo suhtes. Harvard Kennedy School (HKS) Misinformation Review\n, 1\n(5). https://doi.org/10.37016/mr-2020-033\n
    • \n
  • \nBrady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Emotsioonid kujundavad moraliseeriva sisu levikut sotsiaalsetes võrgustikes. Proceedings of the National Academy of Sciences\n, 114\n(28), 7313–7318. https://doi.org/10.1073/pnas.1618923114\n
    • \n
  • \nCinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). Kajaefekt sotsiaalmeedias. Proceedings of the National Academy of Sciences\n, 118\n(9), e2023301118. https://doi.org/10.1073/pnas.2023301118\n
    • \n
  • \nDouglas, K. M., Sutton, R. M., & Cichocka, A. (2017). Vandenõuteooriate psühholoogia. Current Directions in Psychological Science\n, 26\n(6), 538–542. https://doi.org/10.1177/0963721417718261\n
    • \n
  • \nGuess, A., Nagler, J., & Tucker, J. (2019). Vähem kui arvate: võltsuudiste leviku levimus ja ennustavad tegurid Facebookis. Science Advances\n, 5\n(1), eaau4586. https://doi.org/10.1126/sciadv.aau4586\n
    • \n
  • \nJones-Jang, S. M., Mortensen, T., & Liu, J. (2021). Kas meediapädevus aitab võltsuudiseid tuvastada? Infopädevus aitab, kuid muud pädevused mitte. American Behavioral Scientist\n, 65\n(2), 371–388. https://doi.org/10.1177/0002764219869406\n
    • \n
  • Kahan, D. M. (2013). Ideoloogia, motiveeritud mõtlemine ja kognitiivne refleksioon. Judgment and Decision Making, 8(4), 407–424.\n
    • \n
  • \nKahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Motiveeritud arvutusoskus ja valgustatud isevalitsemine. Behavioural Public Policy\n, 1\n(1), 54–86. https://doi.org/10.1017/bpp.2016.2\n
    • \n
  • \nLaato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). Mis ajendab kinnitamata teabe jagamist ja küberhüsteeriat COVID-19 pandeemia ajal? European Journal of Information Systems\n, 29\n(3), 288–305. https://doi.org/10.1080/0960085X.2020.1770632\n
    • \n
  • \nLorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). Kuidas käitumisteadused saavad edendada tõde, autonoomiat ja demokraatlikku diskursust veebis. Nature Human Behaviour\n, 4\n(11), 1102–1109. https://doi.org/10.1038/s41562-020-0889-7\n
    • \n
  • \nMartel, C., Pennycook, G., & Rand, D. G. (2020). Emotsioonidele tuginemine soodustab uskumist valeuudistesse. Cognitive Research: Principles and Implications\n, 5\n(1), 47. https://doi.org/10.1186/s41235-020-00252-3\n
    • \n
  • \nNickerson, R. S. (1998). Kinnituse eelarvamus: paljudes vormides esinev nähtus. Üldpsühholoogia ülevaade\n, 2\n(2), 175–220. https://doi.org/10.1037/1089-2680.2.2.175\n
    • \n
  • Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). Pseudo-sügava jama vastuvõtmisest ja avastamisest. Judgment and Decision Making, 10(6), 549–563.\n
    • \n
  • \nPennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). Võitlus COVID-19-alase valeinfo vastu sotsiaalmeedias: eksperimentaalsed tõendid skaleeritava täpsust soodustava sekkumise kohta. Psychological Science\n, 31\n(7), 770–780. https://doi.org/10.1177/0956797620939054\n
    • \n
  • \nPennycook, G., & Rand, D. G. (2019). Laisk, mitte eelarvamuslik: vastuvõtlikkust parteilisele valeuudisele seletab paremini mõtlemisvõime puudumine kui motiveeritud mõtlemine. Cognition\n, 188\n, 39–50. https://doi.org/10.1016/j.cognition.2018.06.011\n
    • \n
  • \nReber, R., & Schwarz, N. (1999). Taju sujuvuse mõju tõe hindamisele. Consciousness and Cognition\n, 8\n(3), 338–342. https://doi.org/10.1006/ccog.1999.0386\n
    • \n
  • \nRoozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). Võtlikkus COVID-19-alase valeinfo suhtes üle maailma. Royal Society Open Science\n, 7\n(10), 201199. https://doi.org/10.1098/rsos.201199\n
    • \n
  • \nSultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). Ajaline surve vähendab valeinfo eristamise võimet, kuid ei muuda vastuste eelarvamusi. Scientific Reports\n, 12\n(1), 22416. https://doi.org/10.1038/s41598-022-26209-8\n
    • \n
  • \nSultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Võtlikkus veebis levivale valeinformatsioonile: demograafiliste ja psühholoogiliste tegurite süstemaatiline metaanalüüs. Proceedings of the National Academy of Sciences\n, 121\n(47), e2409329121. https://doi.org/10.1073/pnas.2409329121\n
    • \n
  • \nTraberg, C. S., & van der Linden, S. (2022). Ühesugused inimesed veenavad üksteist: allika usaldusväärsuse tajumine mõjutab poliitilise eelarvamuslikkuse mõju valeteabe vastuvõtlikkusele. Isiksus ja individuaalsed erinevused\n, 185\n, 111269. https://doi.org/10.1016/j.paid.2021.111269\n
    • \n
  • \nUnkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). Tõde kordamise kaudu: selgitused ja tagajärjed. Psühholoogilise teaduse praegused suundumused\n, 28\n(3), 247–253. https://doi.org/10.1177/0963721419827854\n
    • \n
\n
\n
\n

☑ Loogilised eksimused

\n
\n
\n\n
    \n
  • Kontrollige kiirustatud üldistusi – järeldus liiga väheste tõendite põhjal.\n
    • \n
  • Kontrollige vale dilemmasid – valikuvõimaluste piiramine kahega, kui neid on rohkem.\n
    • \n
  • Kontrollige õlgedest mehe argumente – seisukoha moonutamine, et seda kergemini ümber lükata.\n
    • \n
  • Kontrollige, kas esineb viiteid teadmatusele – tõe väitmine tõendite puudumise tõttu.\n
    • \n
  • Kontrollige autoriteedile tuginemist – tõe eeldamine ainult autoriteedi põhjal.\n
    • \n
  • Kontrollige, kas esineb kõrvalteemasid – tähelepanu kõrvalejuhtimine põhiprobleemilt.\n
    • \n
  • Kontrollige vale põhjuslikkuse järele – korrelatsiooni segamine põhjuslikkusega.\n
    • \n
  • Kontrollige ad hominem'i – rünnata isikut, mitte argumenti.\n
    • \n
  • Kontrollige ad populum'i – tõe väitmine populaarsuse põhjal.\n
    • \n
  • Kontrollige libedaid nõlvu – väide, et üks samm viib äärmuseni.\n
    • \n
  • Kontrollige ringargumente – järelduse kasutamine eeldusena.\n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

Desinformatsioon

\n

Desinformatsioon on vale või eksitav teave, mida jagavad tahtlikult inimesed, kes teavad, et see on vale, eesmärgiga kahjustada, petta või manipuleerida. Mõlema – jagaja teadlikkus vale olemasolust ja kahjulik kavatsus – on määratlevad tunnused.

\n

Tavalised vormid hõlmavad poliitilist mõjutamist, kaubanduslikku pettust, propagandat, väljamõeldud sisu ja manipuleeritud meediat. Desinformatsiooni toodavad sageli organiseeritud osapooled ja seda võimendatakse koordineeritud ebaautentse / kunstliku võimendamise kaudu (vt eespool).

\n

Väärteave

\n

Väärinfo on tõene teave, mida jagatakse kahju tekitamise eesmärgil. Sisu ise on täpne, kuid selle avaldamine, raamimine või ajastus on kavandatud nii, et see kahjustaks isikut, rühma või institutsiooni. Klassikaline muster on era-, tundliku või kontekstisidese teabe tahtlik viimine avalikku või kahjulikku konteksti.

\n

Näideteks on lekkinud eraalase suhtluse avaldamine sihtmärgi diskrediteerimiseks, täpse, kuid häbimärgistava isikuandmete avaldamine (nt kättemaksuporno) ning faktiliselt õige, kuid kontekstis kahjuliku teabe strateegiline avaldamine hetkedel, mis on valitud maksimaalse mõju saavutamiseks.

\n

Väärteave on kolmest kategooriast kõige vähem arutatud, kuna sisu ei ole vale, mis asetab selle faktikontrolli raamidest väljapoole. Kuid see moodustab olulise osa teabehäirete ökosüsteemist (Wardle & Derakhshan, 2017).

\n
\n
\n\n

Piirid on läbipaistvad. Need kolm kategooriat kattuvad sageli või muutuvad praktikas:

\n
    \n
  • Desinformatsioon, mida jagavad inimesed, kes sellesse siiralt usuvad, muutub edasi levides väärinformatsiooniks. Sama sisu võib kuuluda erinevatesse kategooriatesse sõltuvalt sellest, kes seda jagab.\n
    • \n
  • Sisu võib olla osaliselt tõene ja osaliselt vale. Wardle (2017) loetleb teabehäirete raames seitse vormi – sealhulgas eksitav sisu, vale kontekst ja manipuleeritud sisu –, kuid mitte kogu vale sisu on täielikult väljamõeldud.\n
    • \n
  • Kavatsuse kindlaksmääramine väljastpoolt on empiiriliselt raske. Ilma juurdepääsuta jagaja teadmistele ja motivatsioonile ei ole valeinfo ja desinformatsiooni vahelist piiri sageli võimalik kindlalt tõmmata.\n

    Seetõttu palutakse raamistikus õppijatel selgitada, miks valeinfo ja desinformatsiooni vahelist piiri on praktikas sageli raske kindlaks määrata.

    \n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

AI hallutsinatsioon / konfabulatsioon

\n

Generatiivse tehisintellekti süsteemide süstemaatiline kalduvus toota usutavalt kõlavat sisu, mis on faktiliselt ebaõige, väljamõeldud või kontrollimatu – sealhulgas väljamõeldud viited, olematud uuringud, valesti omistatud tsitaadid, väljamõeldud statistika ning valed biograafilised, ajaloolised või teaduslikud üksikasjad.

\n

Hallutsinatsioonid tekivad seetõttu, et generatiivsed AI-süsteemid loovad väljundit, ennustades usutavaid jätkuid treeningu käigus õpitud mustrite põhjal, mitte otsides tõendatud teavet teadmiste allikast. Süsteem optimeerib sujuvust ja usutavust, mitte täpsust. Väljamõeldud sisu esitatakse tavaliselt sama kindlalt kui täpne sisu – puudub sisemine signaal, mis neid kahte usaldusväärselt eristaks.

\n

Teaduskontekstis eelistatakse mõnikord hallutsinatsioonile terminit konfabulatsioon, kuna psühholoogias tähistab konfabulatsioon valede, kuid siiralt usutavate kirjelduste loomist ilma petmise kavatsuseta – mis on lähemal sellele, mida genereerivad süsteemid tegelikult teevad. Hallutsinatsioon jääb domineerivaks terminiks avalikus ja tehnilises diskursuses ning seda kasutatakse ka siin.

\n

Hallutsinatsioonid ei ole juhuslikud vead. Need on aluseks oleva genereerimisprotsessi struktuuriline tunnus, mitte vead, mida saaks usaldusväärselt kõrvaldada parema sisestuse abil (Kalai & Vempala, 2024). Neid esineb kõigis genereerivates süsteemides – sealhulgas ☑ RAG AI-s, kus väljamõeldis võib mõjutada ka seda, kuidas leitud allikaid kokku võetakse, tsiteeritakse või viidatakse.

\n

Didaktiline positsioneerimine: Hallutsinatsioone võib kontseptuaalselt paigutada neljandaks kategooriaks valeteabe, desinformatsiooni ja väärinformatsiooni kõrvale. Erinevalt neist kahest ei ole need loodud inimese poolt tahtlikult või ekslikult, vaid tekivad genereerimisprotsessist endast – süsteemi poolt loodud vale sisu, millel puudub tahtlik allikas. Seda kolmekordset eristust pakutakse siin pigem pedagoogiliselt kasuliku raamistikuna kui kehtiva konsensusliku terminoloogiana.

\n

Tavalised tüübid:

\n
    \n
  • väljamõeldud viited – tsitaadid artiklitest, raamatutest või uuringutest, mida ei ole olemas\n
    • \n
  • valesti omistatud või väljamõeldud tsitaadid\n
    • \n
  • väljamõeldud statistika või numbrilised väited\n
    • \n
  • ebatäpsed biograafilised, ajaloolised või teaduslikud üksikasjad, mida esitatakse veendunult\n
    • \n
  • kindlalt esitatud ebaõiged kokkuvõtted tegelikest allikatest\n
    • \n
\n
\n
\n\n

Käsitle kõiki generatiivse tehisintellekti süsteemi faktilisi väiteid kinnitamata, kuni need on sõltumatu allikaga võrreldud. Viiteid ja tsitaate on eriti lihtne kontrollida — otsi, kas tsiteeritud allikas eksisteerib ja sisaldab seda, mida tehisintellekt väitis.

\n
\n
\n
\n
\n\n
    \n
  • \nBender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). Stochastiliste papagoide ohtudest: kas keelemudelid võivad olla liiga suured? 2021. aasta ACM konverentsi „Fairness, Accountability, and Transparency” (FAccT '21) materjalid\n, 610–623. https://doi.org/10.1145/3442188.3445922\n
    • \n
  • \nJi, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Uuring hallutsinatsioonidest loomuliku keele genereerimisel. ACM Computing Surveys, 55\n(12), artikkel 248. https://doi.org/10.1145/3571730\n
    • \n
  • \nKalai, A. T., & Vempala, S. S. (2024). Kalibreeritud keelemudelid peavad hallutsineerima. 56. iga-aastase ACM arvutiteooria sümpoosioni (STOC 2024) materjalid\n, 160–171. https://doi.org/10.1145/3618260.3649777\n
    • \n
  • \nSmith, A. L., Greaves, F., & Panch, T. (2023). Hallutsinatsioon või konfabulatsioon? Neuroanatoomia kui metafoor suurtes keelemudelites. PLOS Digital Health, 2\n(11), e0000388. https://doi.org/10.1371/journal.pdig.0000388\n
    • \n
\n
\n
\n

Sisu väärkajastamine

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
VormManipuleeritudVäljamõeldud
Tekstkontekstist välja rebitud ehtne tsitaat, võltsitud pealkiriväljamõeldud tsitaat, väljamõeldud artikkel, tehisintellekti poolt loodud tekst
Piltretušeeritud foto, kärbitud originaaltehisintellekti poolt loodud pilt, maalitud võltsitud „foto”
Heliredigeeritud või kiirendatud originaalsalvestushääle kloon, AI-genereeritud kõne
Videoodav võltsing, ümberlõigatud klippidtäielikult sünteetiline deepfake-video
Dokumentvõltsitud kirjaplang muudetud mallilväljamõeldud „ametlik” kiri
\n

Väljamõeldud sisu

\n

Väljamõeldud sisu on teave – tekst, pilt, heli, video, dokument või muu formaat –, mis on täielikult väljamõeldud ega põhine mingil tõelisel allikmaterjalil. Seda võib luua käsitsi (väljamõeldud tsitaadid, väljamõeldud uudisartiklid) või sünteetiliselt AI-süsteemide abil (sünteetilised videod, hääleklonid, AI-genereeritud pildid, AI-kirjutatud tekst).

\n

Manipuleeritud sisu

\n

Manipuleeritud sisu on ehtne teave – tekst, pilt, heli, video, dokument või muu formaat –, mida on muudetud pettuse eesmärgil. Allikmaterjal on ehtne, kuid seda on muudetud redigeerimise, valikulise kärpimise, kiiruse reguleerimise, konteksti muutmise, kadreerimise muutmise, hääle asendamise või muude muudatuste abil, mis muudavad selle tähendust või näilist konteksti.

\n

Odav võltsing

\n

Odav võltsing on meedia, mida on muudetud tavapäraste, laialdaselt kättesaadavate vahendite – pildiredigeerimistarkvara, videoredigeerimistarkvara või lihtsa konteksti muutmise – abil, mitte AI-põhiste genereerivate meetoditega. Selle termini lõid Paris ja Donovan (2019), et juhtida tähelepanu asjaolule, et avaliku diskursuse kõige mõjukamad manipuleeritud meedia vormid ei ole tavaliselt keerukad AI-genereeritud deepfake'id, vaid lihtsad, odavad tehnikad, mida igaüks saab rakendada.

\n

Tavalised odavate võltsingute tehnikad hõlmavad:

\n
    \n
  • kiiruse manipuleerimine (nt aeglustatud Pelosi video, 2019)\n
    • \n
  • heli või video ümberlõikamine ja valikuline redigeerimine\n
    • \n
  • konteksti muutmine (reaalne meedia, millele on lisatud vale pealkiri või raamistik)\n
    • \n
  • fotode retušeerimine, kärpimine või komponeerimine\n
    • \n
  • pealkirjade vahetamine ja ekraanipiltide võltsimine\n
    • \n
  • heli ühendamine\n
    • \n
\n

Kas odav võltsing kujutab endast väärinformatsiooni, desinformatsiooni või pahainformatsiooni, sõltub tegija teadmistest ja kavatsustest (→ infokahjustus), mitte tehnikast endast. Sama redigeeritud video võib teenida satiiri, fiktsiooni, hariduse või pettuse eesmärki.

\n

Võrreldes sügavvõltsingutega nõuavad odavad võltsingud vähem tehnilisi oskusi, kuid ei ole tingimata kergemini avastatavad – hästi teostatud konteksti muutmine või valikuline redigeerimine võib olla äärmiselt raske tuvastada, kui puudub juurdepääs algmaterjalile.

\n
\n
\n\n
\n
\n
\n
\n
\n\n

Odavate võltsingute tuvastamise tööriistad:

\n
\n
\n
\n

Deep Fake

\n

Deep Fake

\n

Deepfake on tehisintellekti poolt loodud sünteetiline meedia – täpsemalt kasutades sügavõppe tehnikaid, nagu generatiivsed vastandlikud võrgustikud (GAN), difusioonimudelid või transformaatoripõhised generaatorid. Termin on sügavõppe ja võltsingu liitnimi, mis pärineb 2017. aastast veebikogukondadest, kus toodeti tehisintellekti poolt loodud näo vahetamise videoid. Sellest ajast alates on tehnoloogia laienenud erinevatesse meediatüüpidesse ja on nüüd laialdaselt kättesaadav tarbijatele mõeldud vahendite kaudu.

\n

Tavalised vormid hõlmavad:

\n
    \n
  • Näo vahetamine: ühe isiku näo asendamine teise isiku näoga videol\n
    • \n
  • Hääle kloonimine: kõneleja hääle sünteesimine väikese helinäite põhjal\n
    • \n
  • Täielikult sünteetiline video: tehisintellekti poolt loodud filmimaterjal, mis näitab inimesi, sündmusi või stseene, mida pole kunagi toimunud\n
    • \n
  • Sünteetiline fotograafia: tehisintellekti poolt loodud fiktiivsete inimeste või sündmuste pildid\n
    • \n
  • Tekstist videoks ja tekstist heliks: meedia genereerimine kirjalike sisendite põhjal\n
    • \n
\n

Kas deepfake kujutab endast väärinformatsiooni, desinformatsiooni või pahainformatsiooni, sõltub tegija teadmistest ja kavatsustest (→ infokorrastus), mitte tehnikast endast. Deepfake-meetodeid kasutatakse ka seaduslikult filmitootmises, juurdepääsuvahendites (sünteetilised hääled inimestele, kes on oma hääle kaotanud), keele dubleerimisel, satiiris, hariduses ja kunstis.

\n

Võrreldes odavate võltsingutega nõuavad sügavvõltsingud veenvamaks tootmiseks rohkem tehnilist võimekust ja võimaldavad saavutada suuremat visuaalset või kuuldelist realismi. Need ei ole siiski avaliku diskursuse meediamanipulatsiooni domineeriv vorm – Paris ja Donovan (2019) märgivad, et lihtsamad odavate võltsingute tehnikad on endiselt levinumad ja sageli ka mõjukamad. Nende avastamine on aktiivne uurimisvaldkond; praegused lähenemisviisid ühendavad artefaktide analüüsi, bioloogiliste ebakõlade kontrolli ja päritolu kontrolli (nt C2PA sisuautentimissertifikaadid).

\n
\n
\n\n
    \n
  • \nParis, B., & Donovan, J. (2019). Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence\n. Data & Society Research Institute.https://datasociety.net/library/deepfakes-and-cheap-fakes/\n
    • \n
  • Chesney, R., & Citron, D. K. (2019). Deepfakes: ähvardav väljakutse privaatsusele, demokraatiale ja riiklikule julgeolekule. California Law Review, 107(6), 1753–1820.\n
    • \n
  • \nVaccari, C., & Chadwick, A. (2020). Deepfakes ja desinformatsioon: sünteetilise poliitilise video mõju uurimine pettusele, ebakindlusele ja usaldusele uudiste suhtes. Social Media + Society\n, 6(1), 1–13. https://doi.org/10.1177/2056305120903408\n
    • \n
\n
\n
\n
\n
\n\n

Deepfake'ide kontrollimise tööriistad:

\n
\n
\n
","UPDATEDAT":"2026-05-11T20:49:09.513Z","LANG":"et","ID":"3a2e66d9-94a9-482d-a20b-3c977e896fa3","TITLE":"Valeinfo ja manipuleerimine","SOURCELANG":"en"}