{"CACHEDAT":"2026-05-18 11:01:22","TRANSLATEDAT":"2026-05-18 11:01:22","SOURCESIGNATURE":"e60b88bd6d7b3c71f7e12fe57b14f89a9e6878cc2949671a0bb004fa9e4abe88","SLUG":"information-circulation-visibility-7ESlNDSxYa","MARKDOWN":"# Information Visibility & Prominence\n\nInformation Visibility refers to whether — and how prominently — specific information items, topics, sources, or accounts appear to users in digital environments. Information that exists in a platform's index or network does not automatically reach all users, nor reach them in the same way. \n\nVisibility is the outcome of two interacting forces: \n\n* how information is circulated (sharing, redistribution, spread) and \n* how it is surfaced prominently, pushed down, or filtered out.\n\n\n:::warning\n**Distinguishing reliability and visibility is essential for information literacy.**\n\n* **Reliability** depends on who created an item (author) and how it was edited (editorial review) — not on whoever shared it, on the environment it appeared in, or on how prominently it was surfaced.\n* **Visibility** depends on who shares an item, on the mechanisms that surface it, and on the practices through which it is amplified. Visibility is not a measure of reliability.\n\nFor example, a retweeted article: the account that shared it and the platform that surfaced it influenced its visibility — but the article has its own author and editorial history, whose reliability must be assessed separately.\n\n:::\n\n# Information Circulation: Sharing, Forwarding, Linking, Reposting, Quoting\n\nPeople, accounts (including bots), and organisations circulate existing information items by sharing, forwarding, linking, reposting, quoting, or otherwise redistributing them.\n\n→ When an item is passed on with added commentary, interpretation, or reframing, a new information item is created with a new author.\n\n# Source-Driven Information Promotion & Visibility\n\nPractices initiated by sources — those who create, publish, or promote information items. Sources include individual users, content creators, organisations, advertisers, and website operators. Unlike platform-driven mechanisms, these practices are driven by the sources themselves, who decide how to make their content visible. They operate in two modes: by adapting content to the platforms' ranking systems (Reach, Direct Addressing, SEO, SMO, Platform-specific Optimisation), or by paying directly for placement (Paid Placements).\n\n## Account Reach\n\nThe size and structure of a sharer's potential audience.\n\nSeveral factors determine reach:\n\n* #### follower or subscriber count\n* #### verification status \n* #### account standing: age, engagement history, platform reputation\n\nReach affects visibility in two ways:\n\n* *directly*: items shared by high-reach accounts appear in more feeds at the moment of sharing\n* *indirectly*: high-reach accounts generate more engagement signals, which platform algorithms then use to elevate items in ranking (→ Algorithmic Gatekeeping)\n\n→ Reach varies widely: a private account with 100 followers and a public account with one million followers operate at fundamentally different scales of influence on visibility.\n\n## Direct Addressing\n\nMechanisms by which sharers target specific recipients, producing immediate prominence for those users through platform notifications.\n\nExamples:\n\n* #### @mentions\n* #### tagging (in photos, posts, or threads)\n* #### quote-tweets & reply-mentions\n* #### group direct messages\n* #### mailing-list addressing (To, CC)\n\n→ Direct addressing differs from regular sharing: the targeted user receives the item directly via notification, regardless of whether they would otherwise have encountered it through their feed.\n\n→ Direct addressing is a hybrid mechanism. It operates user-side, but functions through platform infrastructure (notification systems). Its effect is immediate prominence for the addressed user.\n\n## Search Engine Optimisation (SEO)\n\nSource-side practices to adapt **websites** — their content, metadata, and link structure — so that they rank more prominently in **general-purpose search engine results** (Google, Bing, DuckDuckGo, etc.).\n\nCommon practices include:\n\n* keyword research and integration in titles, headings, body text\n* metadata optimisation (title tags, meta descriptions, alt text)\n* link building (acquiring inbound links from authoritative sites)\n* site structure and internal linking\n* page speed and mobile-friendliness\n* producing content that matches search intent\n\n→ SEO is the most formalised optimisation discipline because search engine ranking signals are relatively stable and well-documented (Lewandowski et al.). Specialised SEO professionals, agencies, and tools support its practice.\n\n→ SEO does not change how search engines rank pages — it adapts the website to fit existing ranking criteria. Publishers can shape what the algorithm sees, not how it decides.\n\n## Social Media Optimisation (SMO)\n\nSource-side practices to maximise visibility, engagement, and shareability of content on social media platforms.\n\nCommon practices include:\n\n* hashtag strategies (trending or topic-specific tags)\n* posting timing (when target audiences are active)\n* content format choices (short video, carousels, reels)\n* headline and hook design (catching attention quickly)\n* encouraging engagement (questions, polls, calls to action)\n* cross-platform repurposing of content\n\n→ SMO is less formalised than SEO because social media ranking signals are more opaque and platform-specific. Practices shift as algorithms change.\n\n## Platform-Specific Optimisation\n\nOptimisation strategies tailored to the conventions and ranking logics of individual platforms — beyond general SEO or SMO principles.\n\n* TikTok: hooking viewers in the first three seconds, using trending sounds, vertical short-form video\n* Instagram: high-quality visuals, Reels-first strategy, hashtag mixing\n* YouTube: thumbnail design, watch-time optimisation, keyword-rich titles and descriptions\n* LinkedIn: long-form professional posts, native publishing, networked engagement\n* X (Twitter): concise hooks, threads, replying to high-reach accounts\n\n→ Platform-specific optimisation requires understanding each platform's ranking system, audience behaviour, and content format preferences. What works on TikTok rarely works on LinkedIn.\n\n## Paid Placements & Advertising\n\nSource-side practice of paying for visibility — sponsored content placed alongside organic content, typically through advertising.\n\nCommon forms:\n\n* sponsored search results (search engine ads)\n* sponsored posts and promoted content (social media)\n* display ads (banners, videos)\n* influencer partnerships (paid collaborations)\n\n→ Paid placements bypass organic ranking systems: instead of optimising content to rank well, the source pays the platform directly for placement.\n\n→ They are sometimes clearly labelled (\"Sponsored\", \"Ad\"), sometimes only weakly distinguishable from organic results. Labelling standards vary by jurisdiction and platform. \n\n# Platform-Side Information Promotion & Gatekeeping\n\n\n:::warning\nWhat users actually see is rarely the product of a single mechanism. In a search engine, an algorithmically ordered list of organic results is presented alongside paid placements, AI-generated summaries, and sometimes editorial highlights — and the underlying ranking signals can be deliberately influenced through *Search Engine Optimisation*. In a social media feed, algorithmically ranked posts appear next to sponsored content, recommended accounts, and trending overlays. Each component follows its own logic and contributes to a composite visibility outcome.\n\n:::\n\n## Editorial Curation\n\nPlatform-side manual curation: information items deliberately featured by editorial teams or platform operators rather than surfaced through algorithmic ranking.\n\nExamples:\n\n* featured Snippets in search results\n* curated trending sections\n* editor-selected stories in news aggregators\n* platform-promoted hashtags\n* Editor's Picks in app stores\n* featured creators or accounts\n\n→ Editorial highlights sit alongside the algorithmic mechanisms and reflect the platform's own judgements about which content deserves prominent display.\n\n→ Unlike algorithmic gatekeeping (curation and personalisation), editorial gatekeeping involve human editorial choices by the platform itself. Functionally, this is a form of *Editorial Gatekeeping* ) — performed by the platform rather than by traditional publishers.\n\n## Algorithmic Gatekeeping\n\n**Algorithmic Gatekeeping** refers to the role of algorithms in deciding which information items reach which users — the digital counterpart to *Editorial Gatekeeping* (→ Information, Sources & Information Environments → Editorial Review). It involves both **selection** (what is surfaced and ranked highly) and **exclusion** (what is filtered, demoted, or hidden).\n\nAlgorithmic gatekeeping operates across different platform types:\n\n* in **search engines**, algorithms select and order results based on queries\n* in **social media feeds**, algorithms decide which posts appear more prominently\n* in **video platforms**, algorithms suggest what to watch next\n* in **AI-based answer systems**, algorithms generate, summarise, or synthesise responses\n\nAlgorithmic gatekeeping operates in two modes that often work together: general operations applied across all users (*Algorithmic Curation*), and individual tailoring based on tracked user signals (*Algorithmic Personalisation*).\n\n### Algorithmic Curation\n\nGeneral algorithmic operations applied across users — they shape what information is available on the platform, regardless of who the user is.\n\n* **Crawling and Indexing** — *Which information items become available for display?*\n * search engines crawling the web\n * content aggregators indexing news sources\n * app stores cataloguing available apps\n* **Filtering and Moderation** — *Which items are blocked or down-ranked under platform rules?*\n * spam filters\n * removal of policy-violating content (hate speech, illegal content, graphic material)\n * down-ranking of low-quality or misleading material\n* **Quality Scoring** — *Which sources or items are evaluated as more credible or higher-quality?*\n * search engines penalising low-quality sites\n * news aggregators ranking by source authority\n * peer-review-influenced ranking on academic search engines\n* **Trending Detection** — *Which items are surfaced as currently popular?*\n * trending topics on social platforms\n * top charts on streaming services\n * \"What's happening\" and \"Today's headlines\" sections\n * popular hashtags\n\n→ Algorithmic curation defines the *pool* of information available on the platform. It largely operates the same way for all users.\n\n### Algorithmic Personalisation\n\nAlgorithmic operations that adapt the selection, order, and presentation of information to individual users based on their tracked signals. These signals accumulate over time into user histories that algorithms draw on.\n\n→ Two users on the same platform — even with the same query — typically see substantially different content.\n\n* **Personalised Ranking** — *Which items are ordered higher for this user?*\n * personalised search results (location, history, profile shape ordering)\n * social media feed ordering (\"For You\" feeds, \"Top posts\")\n * engagement-based ranking — optimisation for predicted interaction, dominant on social media\n* **Recommendations** — *Which items are suggested to this user beyond what they actively requested?*\n * \"Recommended for you\" video lists\n * suggested accounts, groups, or topics to follow\n * \"People you may know\"\n * related articles, similar products, \"Up next\"\n* **Personalised Advertising** — *Which adverts are targeted to this user?*\n * search ads tailored to past queries\n * social media sponsored posts based on profile and behaviour\n * retargeted display ads on websites\n * influencer partnerships matched to audience interests\n\n→ Two users on the same platform — even with the same query — typically see substantially different content.\n\n→ Personalisation creates a **feedback loop**: what users do affects what they see next, and what they see next can influence what they do.\n\n#### ☑ User Signals Tracked by the Platform for Algorithmic Personalisation\n\nActions a user performs — actively or passively — within an information channel that may be tracked and used by algorithms to personalise the selection and visibility of information items.\n\n→ User actions are not limited to deliberate interactions such as clicking or liking. Many actions are passive or automatic, such as how long a user stays on a page, how far they scroll, or where they are located. Users are often unaware that these actions influence what they encounter next.\n\n| Type | What it is | Examples |\n|------|------------|----------|\n| **Explicit feedback** | Deliberate interactions the user chooses to perform | - searches / search queries
- clicks
- likes / reactions
- comments / replies
- shares / reposts / forwards
- follows / subscribes
- saves / bookmarks
- ratings / reviews
- purchases / downloads |\n| **Implicit behaviour** | Passive behavioural signals captured during use | - watch time / listen time / dwell time
- scroll behaviour (how far, how fast)
- hover behaviour
- skip behaviour |\n| **Contextual data** | Information about the situation in which the user is accessing the platform | - user's location data while using the application
- device type (e.g., phone or laptop)
- time of access |\n| **Account and social data** | Information from the user's profile and social connections | - profile information (age, interests, profession, gender)
- language settings
- linked accounts
- contact list / address book |\n\n\n:::info\n* Adomavicius, G., & Tuzhilin, A. (2011). Context-aware recommender systems. In F. Ricci, L. Rokach, B. Shapira, & P. B. Kantor (Eds.), *Recommender Systems Handbook* (pp. 217–253). Springer. \n* Kelly, D., & Teevan, J. (2003). Implicit feedback for inferring user preference: A bibliography. *ACM SIGIR Forum, 37*(2), 18–28. \n* Li, W., Kuo, J.-C., Sheng, M., Zhang, P., & Wu, Q. (2025). Beyond explicit and implicit: How users provide feedback to shape personalized recommendation content. In *Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems (CHI '25)*. Association for Computing Machinery. \n* Narayanan, A. (2023). *Understanding social media recommendation algorithms.* Knight First Amendment Institute, Columbia University. \n\n:::\n\n# Information Amplification\n\nAmplification refers to the systematic boosting of an item's visibility beyond the individual-user level — to produce broad visibility across user accounts, and sometimes across information environments. \n\nWhere *Source-Driven Promotion* (above) covers what a single source itself does to gain visibility, and *Platform-Side Gatekeeping* (above) describes the algorithmic operations through which platforms surface and rank content for individual users, *Amplification* refers to the resulting *boost outcomes at scale* — produced either as the aggregate effect of those platform operations (→ *Algorithmic Amplification*) or through coordinated activity by multiple actors (→ *Coordinated Amplification*).\n\n## Amplification Mechanisms\n\nAmplification operates through two principal mechanisms.\n\n* **Algorithmic Amplification** is *platform-driven*: it is the aggregate effect of *Algorithmic Gatekeeping* — the cumulative outcome of platform curation and personalisation on which items reach which users and how prominently.\n* **Coordinated Amplification** is *actor-driven*: multiple accounts, groups, or campaigns deliberately act in concert to boost the visibility of an item, hashtag, or narrative beyond what individual user activity would produce. The literature classifies it along two dimensions — the **coordination** (transparent or concealed) and the **accounts** (real or fake) — and distinguishes accordingly (Rogers & Righetti, 2025):\n * **Coordinated Authentic Amplification**: coordination is transparent and accounts are real (e.g. open civic campaigns, advocacy, marketing).\n * **Coordinated Inauthentic / Artificial Amplification**: coordination is concealed, accounts are fake, or both — manufacturing an appearance of organic support (Meta's *Coordinated Inauthentic Behaviour* / CIB; Gleicher, 2018).\n\nThe two mechanisms frequently combine. Coordinated networks exploit engagement-based ranking to trigger algorithmic boosts; algorithmic ranking, in turn, compounds whatever visibility coordination has already produced.\n\n* \n:::info\n * Gleicher, N. (2018). *Coordinated Inauthentic Behavior Explained*. Meta Newsroom. \n * Rogers, R., & Righetti, N. (2025). Coordinated inauthentic behaviour on Facebook? A typology of manufactured attention. \n\n :::\n\n### Algorithmic Amplification\n\nAlgorithmic amplification is the cumulative effect of the gatekeeping mechanisms above (Curation and Personalisation): the systematic shaping of which items, topics, accounts, and formats appear prominently to users — and which are filtered, demoted, or pushed down.\n\nEmpirical research shows that engagement-based ranking systematically amplifies emotionally charged and out-group hostile content, even when users themselves do not prefer such content (Milli et al., 2025). It also compounds existing reach: accounts and items with high prior engagement are rewarded with further visibility, producing highly skewed reach distributions (rich-get-richer effect).\n\nAlgorithmic interventions can have nonlinear effects in the opposite direction as well. A reduction of around 20% in an item's feed prominence can cut its reach by an order of magnitude (Narayanan, 2023).\n\nAlgorithmic amplification is not a neutral reflection of user activity. Its effects are emergent and visible primarily in the aggregate: individual recommendations are imprecise (engagement rates remain below 1% on most platforms), but ranking, recommendation, and demotion systematically shape what circulates across the platform.\n\n\n:::info\n* Milli, S., et al. (2025). Engagement, user satisfaction, and the amplification of divisive content on social media. PNAS Nexus.\n\n\n* Narayanan, A. (2023). Understanding social media recommendation algorithms. Knight First Amendment Institute.\n\n:::\n\n### Coordinated Authentic Amplification\n\nCoordinated Authentic Amplification is the deliberate boosting of an information item, topic, hashtag, account, or narrative through openly disclosed, organised activity by real accounts. The coordinated origin is not concealed: participants act under their real identities or under known group affiliations.\n\nTypical contexts include \n\n* civic campaigns (e.g. NGO petitions, advocacy hashtags), \n* political mobilisation (e.g. party campaigning, get-out-the-vote efforts), \n* marketing and brand campaigns, \n* professional association communications, and \n* cultural movements such as Fridays for Future or #MeToo.\n\n\n:::warning\nWhether the underlying message is well-founded, balanced, or one-sided is a separate question — *authenticity* refers only to the transparency of the coordination, not to the truth-value or fairness of the content. An authentic campaign can amplify accurate information, misleading information, or a one-sided position.\n\n:::\n\n\n:::warning\nAuthentic and inauthentic coordination can produce visibility patterns that look identical from the outside — synchronised sharing, hashtag clustering, rapid uptake. The distinguishing feature is not the visible pattern but whether the coordinated origin is openly disclosed.\n\n:::\n\n### Coordinated Inauthentic / Artificial Amplification\n\nCoordinated Inauthentic / Artificial Amplification is the deliberate boosting of an information item, topic, hashtag, account, or narrative through organised activity in which the coordinated origin is concealed, the participating accounts are fake, or both. The aim is to manufacture an appearance of organic, independent support. Meta's term *Coordinated Inauthentic Behaviour* (CIB) — now incorporated into the EU Digital Services Act — centres on this combination of false identities and adversarial methods to evade detection (Gleicher, 2018; Rogers & Righetti, 2025).\n\nTypical contexts include political influence operations (state-sponsored or party-aligned), astroturfing campaigns (commercial or ideological), targeted disinformation around elections, public health, or geopolitical conflict, and reputation manipulation through fake reviews, ratings, or engagement. The operational means — *bots*, *trolls*, *sockpuppets*, and their coordinated networks (*bot farms*, *troll farms*, *sockpuppet networks*, *click farms*) — are described in detail below.\n\n\n:::warning\n*Inauthenticity* refers to the concealment of the coordinated origin or the use of fake accounts — not to the truth-value of the content being amplified. A coordinated network of fake accounts can amplify accurate information; a single authentic individual can spread fabricated information. Coordinated inauthentic amplification and the spread of false content are distinct phenomena that can occur independently or together.\n\n:::\n\nThe following account types described in this section apply across Digital Information Channels & Platforms where users can create accounts and post or interact publicly — particularly social media, discussion forums and community spaces, video and audio platforms, and review or comment sections. They are less prominent in private communication apps or in environments without user-generated content.They appear both independently and within coordinated networks. They are listed here because of their typical role in amplification dynamics; the explicitly coordinated formations are the Account Networks.\n\n| Term | Definition | Controlled by | Defined by | Typical purpose |\n|------|------------|---------------|------------|-----------------|\n| **Social Bot** | An automated or partly automated account that posts, likes, follows, shares, or replies online. | Software | **Automation** | To amplify messages, create artificial popularity, spam, influence debate, or spread content at scale. |\n| **Cyborg** | A hybrid account combining human operation with software automation. | Mixed: human and software | **Selective automation** | To combine the scale of automation with the contextual plausibility of human input — for legitimate scheduling/management or for harder-to-detect influence operations. |\n| **Troll** | A person or account that deliberately provokes, disrupts, or inflames online discussion. | Usually a human user; sometimes coordinated groups | **Disruptive / provocative / antagonistic behaviour** | To upset others, derail conversations, provoke reactions, spread hostility, or polarise debate. |\n| **Sockpuppet** | A fake account used by someone to hide their real identity or pretend to be a different person. | A human user, though the account may also use automation | **Deceptive identity** | To create false support, attack others anonymously, evade bans, manipulate debate, or give the impression of independent agreement. |\n\n#### Social Bot\n\nA **social bot** is a bot designed to operate on social media platforms, posting, commenting, sharing, or interacting in ways that simulate human users. Social bots are typically programmed to act at scale and at high speed, far beyond what a human user could manage. Their activity is often repetitive and coordinated across many accounts, which distinguishes it from normal human use.\n\nSocial bots can be used for legitimate purposes — such as customer service, news distribution, or marketing — but they are also widely used to influence public opinion, amplify certain messages, manipulate discussions, or manufacture the appearance of widespread support for specific ideas, products, or causes. In the context of misinformation and disinformation, social bots play a particular role in spreading content rapidly and giving the false impression that many independent voices share the same view.\n\nWhen social bots are deployed in coordinated networks, they form a *Bot Farm*.\n\n\n:::info\n#### Bot\n\nA bot is a computer programme that automatically performs tasks, often repetitive ones. Bots range from simple, harmless tools — such as web crawlers that index pages for search engines, automated testing systems, or chatbots that answer routine customer questions — to malicious programmes designed to spread spam, malware, or disinformation.\n\n:::\n\n#### Cyborg\n\nA **cyborg** is a hybrid account that is partly operated by a human and partly automated by software. A cyborg may have routine posts scheduled or generated by software while a person handles selected interactions, replies, or sensitive content. The balance between automated and human activity varies between accounts.\n\nCyborgs can be used for legitimate purposes — such as content scheduling, brand or institutional account management, or hybrid customer service — but they are also used in influence operations to combine the scale and speed of automation with the contextual plausibility of human input.\n\nCyborgs are more difficult to identify than purely automated bots because part of their behaviour is genuinely human, which means single detection indicators rarely suffice for reliable identification.\n\n#### Troll\n\nA **troll** is a real person who deliberately disrupts online discussions through provocative, aggressive, or hostile behaviour. Trolls typically use personal accounts and target controversial issues, public figures (such as politicians or journalists), or media organisations. Their aim is to upset others, trigger reactions, or escalate conflicts — sometimes in support of a particular agenda, sometimes for entertainment or attention.\n\nWhile trolls often act independently, they may also operate in coordinated groups, sometimes paid by political or commercial actors (see *Troll Farm* under Mechanisms of Amplification).\n\n**Trolling is best understood as a pattern of online behaviour, not a specific kind of account.** The same behaviour can be performed by automated accounts, and ordinary users can engage in trolling on occasion.\n\n#### Sockpuppet\n\nA **sockpuppet** is a fake online identity created and operated by a real person who hides their true identity. Unlike trolls — who often act under a single openly hostile account — a sockpuppet operator typically runs multiple fake accounts in parallel to create the impression that several independent users hold the same opinion, support the same cause, or agree with the operator's own (often separate) main account.\n\nSockpuppets are commonly used to manufacture artificial consensus, support one's own arguments under different names, attack opponents while appearing impartial, evade bans by creating new identities after suspension, or manipulate online reviews, votes, and polls.\n\nSockpuppets differ from social bots in that they are manually operated by humans, which makes their content more contextually plausible and harder to detect through automated means. They differ from trolls in that their primary goal is deception about identity and the manufacturing of apparent consensus, not provocation — although sockpuppet operators can also engage in trolling behaviour through their fake identities.\n\nWhen a person or small group operates a coordinated set of sockpuppets together, they form a *Sockpuppet Network* (see Mechanisms of Amplification).\n\n#### ☑ Differentiating Social Bots, Trolls, and Sockpuppets\n\n| **Detection Dimension** | **Social Bots** | **Trolls** | **Sockpuppets** |\n|---------------------|-------------|--------|-------------|\n| **Profile Characteristics** | - [ ] The account looks newly created
- [ ] The profile is incomplete or generic
- [ ] The username may look non-personal and sometimes include random numbers | - [ ] The account has typically been active for longer and has a post history
- [ ] The profile is complete and seems personal; it may present strong ideological or political self-description
- [ ] The username looks personal | - [ ] The profile looks plausible and personal, often with a profile picture and biographical details (sometimes stolen, AI-generated, or copied)
- [ ] Account history may be moderate and designed to look authentic over time |\n| **Posting Behaviour** | - [ ] The activity does not match normal human online behaviour
- [ ] The accounts post or repost content very frequently
- [ ] The accounts post or repost content at all hours, day and night | - [ ] The activity resembles normal human online behaviour
- [ ] The account posts or replies at irregular times
- [ ] The account becomes more active during controversial discussions | - [ ] Activity patterns resemble normal human use
- [ ] Multiple accounts run by the same operator may show similar active hours or rhythms
- [ ] Sockpuppets tend to start fewer discussions and write shorter posts than typical users |\n| **Interactions** | - [ ] The account does not have real conversations
- [ ] The accounts mostly like, share, or repost
- [ ] Replies are short and automated | - [ ] The account replies directly to other users
- [ ] The account engages in debates with the purpose of provoking reactions
- [ ] Conversations are extended to create or escalate conflict | - [ ] The account engages in real conversations, often supporting the operator's main account or other sockpuppets
- [ ] Replies are contextually appropriate and seem authentic
- [ ] Pairs of sockpuppets often interact in the same discussion at similar times |\n| **Content Features** | - [ ] The content is one-sided and repetitive
- [ ] The same narratives are posted many times | - [ ] The content is specifically tailored to harm or provoke a target
- [ ] The content targets individuals or social groups | - [ ] Content seems genuine and varied across accounts
- [ ] The underlying message or stance aligns suspiciously across the network
- [ ] More frequent use of personal pronouns such as \"I\" |\n| **Language** | - [ ] Generic expressions, repetitive phrasing with keywords | - [ ] Varied, emotional, often abusive or offensive language | - [ ] Natural and varied language
- [ ] Multiple accounts may share linguistic fingerprints (similar phrasing, vocabulary, punctuation, or error patterns) |\n| **Network & Technical Indicators** | - [ ] Social bots follow other social bots, but the relationship is typically one-way and not reciprocal
- [ ] Coordinated behaviour is observable across multiple bot accounts | - [ ] Trolls follow human accounts
- [ ] Connections are often reciprocal (they follow their followers and vice versa)
- [ ] Trolls typically act independently of each other | - [ ] Multiple accounts engaging with each other in mutually supportive ways
- [ ] Connections may be artificially reciprocal between sockpuppets in the same network, or deliberately absent to avoid detection
- [ ] Same IP address, device fingerprint, or login pattern \\\\\\*(platform-side detection)\\\\\\*
- [ ] More clustered ego-networks than ordinary users
- [ ] Correlated activity timing across accounts |\n\n\n\n:::info\n* Ferrara, E. (2023). Social bot detection in the age of ChatGPT: Challenges and opportunities. *First Monday, 28*(6). \n* Kumar, S., Cheng, J., Leskovec, J., & Subrahmanian, V. S. (2017). An army of me: Sockpuppets in online discussion communities. *Proceedings of the 26th International Conference on World Wide Web (WWW '17)*, 857–866. \n* Orabi, M., Mouheb, D., Al Aghbari, Z., & Kamel, I. (2020). Detection of bots in social media: A systematic review. *Information Processing & Management, 57*(4), 102250. \n* Solorio, T., Hasan, R., & Mizan, M. (2013). A case study of sockpuppet detection in Wikipedia. *Proceedings of the Workshop on Language Analysis in Social Media (LASM) at NAACL-HLT*, 59–68. Association for Computational Linguistics. \n* Tomaiuolo, M., Lombardo, G., Mordonini, M., Cagnoni, S., & Poggi, A. (2020). A survey on troll detection. *Future Internet, 12*(2), \n* Tsikerdekis, M., & Zeadally, S. (2014). Multiple account identity deception detection in social media using nonverbal behavior. *IEEE Transactions on Information Forensics and Security, 9*(8), 1311–1321. \n* Uyheng, J., Moffitt, J. D., & Carley, K. M. (2022). The language and targets of online trolling: A psycholinguistic approach for social cybersecurity. *Information Processing & Management, 59*(5), 103012. \n\n:::\n\n#### Account Networks\n\n#### Bot Farm\n\nA **bot farm** is a network of bots operating simultaneously across multiple devices or servers, deployed by a single operator or organisation for a particular purpose.\n\nBot farms have a range of legitimate uses, including web indexing, automated software testing, data aggregation, and website performance monitoring. However, they are also commonly used for malicious activities such as creating fake engagement, generating large volumes of content, distributing spam, or carrying out cybersecurity attacks. When used to manipulate online discourse, bot farms can create the false impression of widespread support, opposition, or interest in a topic, account, or campaign.\n\n#### Troll Farm\n\nA **troll farm** is an organised group of coordinated, often paid workers who post deliberately provocative, misleading, or false content online — typically through fake accounts. Their aim is usually to manipulate public opinion, spread disinformation, or create social and political unrest. Troll farms have been documented in connection with state-sponsored influence operations as well as commercial reputation manipulation.\n\n#### Sockpuppet Network\n\nA sockpuppet network is a coordinated set of sockpuppet accounts operated by one person or a small group, used to simulate independent voices supporting a shared narrative, campaign, account, or cause. Sockpuppet networks are commonly used in political astroturfing, review and rating manipulation, and coordinated disinformation campaigns. Unlike bot farms, sockpuppet networks rely on manual operation by humans, which makes the content of individual accounts appear more authentic and harder to detect through automated means. Their coordination usually becomes detectable only when multiple accounts can be linked through behavioural patterns, shared technical signals, or mutual engagement.\n\n#### Click Farm\n\nA **click farm** is an operation where large numbers of low-paid workers, automated bots, or both are used to click on ads, follow social media accounts, like posts, leave reviews, or download apps. The goal is to artificially boost online engagement or traffic, making content, accounts, or products appear more popular than they actually are.\n\n## Phenomena\n\n#### ☑ Virality vs. Trending\n\n| Feature | Virality | Trending |\n|---------|----------|----------|\n| **What is being spread** | A single information item: a specific video, post, image, or other piece of content | A topic, hashtag, sound, format, or discussion cluster: not one specific item, but many posts referring to or using the same thing |\n| **Primary drivers** | Users share, repost, or forward the information item to others, who in turn pass it along; this cascading spread can be further amplified by recommendation algorithms | Many users post about, mention, or use the same topic, hashtag, or format within a short time; the platform detects this concentration of activity and highlights it in a dedicated \"Trending\" section (such as a trending topics list, trending hashtag overview, or trending sounds page) |\n| **Time pattern** | Often short and explosive; may recur later | Time-bound; persists as long as activity stays high or the platform keeps surfacing it |\n| **How it can be manipulated** | Coordinated sharing, bot amplification, artificial engagement directed at the specific information item | Coordinated posting campaigns, manufactured fake trends through bot networks, platform decisions to promote, filter, or suppress |\n\n*Both virality and trending can emerge organically or be artificially amplified through coordinated campaigns, bot activity, or platform decisions. Both can also give an advantage to emotionally arousing, morally charged, or divisive content, especially in political or conflict-oriented contexts.*\n\n### Virality\n\nThe pattern by which a specific information item spreads rapidly through sharing, recommendation, and re-circulation across networks, analogous to the way a virus propagates. Virality is shaped by content characteristics, social network structures, platform affordances, timing, and algorithmic amplification. \n\nContent that evokes high-arousal emotions, moral reactions, or out-group animosity is often more likely to be shared, especially in political or conflict-oriented contexts. However, virality is not determined only by the size of the original source: smaller accounts or outlets can also produce highly viral items. \n\nVirality can emerge organically, but it can also be artificially amplified through coordinated sharing, platform manipulation, or bot activity.\n\n### Trending\n\nA platform-assigned status indicating that a topic, hashtag, sound, format, or discussion cluster has received unusually concentrated activity within a short period. \n\nTrending is identified algorithmically and surfaced through platform features such as X / Twitter Trending Topics, trending hashtags, trending sounds, trending challenges, or other platform-specific trend features. Trending depends on platform-specific signals such as post volume, rate of increase, engagement, location, personalisation, and moderation filters. \n\nTopics that generate high engagement — including divisive, emotionally arousing, or morally charged topics — may be more likely to trend, but this depends on the platform's ranking system and moderation rules. \n\nTrending can emerge organically from many independent contributions, but it can also be influenced by coordinated campaigns, bot activity, or platform decisions about what to promote, filter, moderate, or suppress.\n\n\n:::info\n* **Berger, J. (2013).** *Contagious: Why Things Catch On.* New York: Simon & Schuster.\n* **Berger, J., & Milkman, K. L. (2012).** What makes online content viral? *Journal of Marketing Research*, 49(2), 192–205. \n* **Brady, W. J., McLoughlin, K., Doan, T. N., & Crockett, M. J. (2021).** How social learning amplifies moral outrage expression in online social networks. *Science Advances*, 7(33), eabe5641. \n* **Jenkins, H., Ford, S., & Green, J. (2013).** *Spreadable Media: Creating Value and Meaning in a Networked Culture.* New York: NYU Press.\n* **Lee, J., & Umback, J. (2026).** The viral turn: rethinking virality in the creator economy on TikTok. *Continuum*, 1–26. \n* **Maarouf, A., Pröllochs, N., & Feuerriegel, S. (2024).** The virality of hate speech on social media. *Proceedings of the ACM on Human-Computer Interaction*, 8 (CSCW1), 1–22. \n* **Rathje, S., Van Bavel, J. J., & van der Linden, S. (2021).** Out-group animosity drives engagement on social media. *Proceedings of the National Academy of Sciences*, 118(26), e2024292118. \n* **Rathje, S., & Van Bavel, J. J. (2025).** The psychology of virality. *Trends in Cognitive Sciences*, 29(10), 914–927. \n* **Rogers, E. M. (2003).** *Diffusion of Innovations* (5th ed.). New York: Free Press.\n* **Sangiorgio, E., Cinelli, M., Cerqueti, R., & Quattrociocchi, W. (2024).** Followers do not dictate the virality of news outlets on social media. *PNAS Nexus*, 3(7), pgae257. \n* **Schlessinger, J., Garimella, K., Jakesch, M., & Eckles, D. (2023).** Effects of Algorithmic Trend Promotion: Evidence from Coordinated Campaigns in Twitter's Trending Topics. *Proceedings of the International AAAI Conference on Web and Social Media (ICWSM)*, 17(1), 777–786. \n* **Schöne, J. P., Parkinson, B., & Goldenberg, A. (2021).** Negativity spreads more than positivity on Twitter after both positive and negative political situations. *Affective Science*, 2(4), 379–390. \n\n:::\n\n### Spill-Over Effects & Epistemic Laundering\n\nThe process by which information that gains visibility within one information environment — whether through artificial amplification, trending, or editorial selection — is picked up and further distributed in other information environments or information access sytsems, thereby reaching audiences beyond the original environment. \n\nSpill-over can occur through journalistic reporting, cross-platform sharing, editorial curation, or user-driven redistribution. \n\n→ A research finding shared on a scholarly forum may be discussed on social media and summarised by an AI assistant. \\n→ A topic artificially amplified by bots on a social media platform may be picked up by journalists. \n\n→ Spill-over effects can increase the reach of both reliable and unreliable information, and can make information appear more widely established than it originally was. \n\n#### Epistemic Laundering\n\nSpill-over does not always preserve the apparent status of information. When the receiving channel carries stronger signals of authority or reliability than the channel of origin — academic format, peer review, formal publication — the information itself can be perceived as more reliable simply through having moved. This effect is known as Epistemic Laundering: information gains perceived reliability through its passage across channels, without any actual change to the underlying claims or evidence. It exploits the tendency of recipients to attribute the reliability of the channel in which they encounter information to the information itself. \n\n→ A claim originating in an anonymous blog post may be cited in a preprint, reproduced in an AI-generated answer, and finally cited in a peer-reviewed paper — at each step gaining academic surface and apparent authority, while the underlying claim remains unchanged or unverified.\n\n\n:::success\nA team at the University of Gothenburg, led by a medical researcher, invented a fake skin condition called Bixonimania to test whether AI systems would absorb and repeat medical misinformation. They presented it as a supposed condition linked to blue-light exposure from screens, with symptoms such as sore, itchy eyes and a pinkish hue on the eyelids. They then created deliberately fake academic-looking preprints, planted with obvious warning signs — a fictional author with an AI-generated photo, a non-existent university, and references to Starfleet Academy and the USS Enterprise. Nature reported that the preprints have since been removed from Preprints.org.\n\nWithin weeks, major AI chatbots began reproducing Bixonimania as a real medical condition, in some cases offering users explanatory or health-related advice. In parallel, the fake material was cited in at least one published paper, since retracted, in the Springer Nature journal *Cureus*.\n\nSpill-over: log posts → fake preprint → webcrawlers → AI chatbot answers → academic citation\n\n:::\n\n\n:::info\nStokel-Walker, C. (2026). Scientists invented a fake disease. AI told people it was real. Nature, 652(8110), 559-561. \n\n:::\n\n# Information Narrowing\n\nWhereas *Information Amplification* (above) describes how visibility is broadened across user accounts, *Information Narrowing* describes the inverse: how the range of perspectives reaching an individual user or social group becomes restricted. Two distinct mechanisms produce this narrowing — *Filter Bubble* (algorithmic personalisation) and *Echo Chamber* (user self-selection). The two are often conflated in popular discourse but operate differently.\n\n## Filter Bubble\n\nA **filter bubble** is an isolated information environment created by *Algorithmic Personalisation*, in which a user is increasingly exposed to content that aligns with their inferred preferences and past behaviour, while content that diverges is filtered out — typically without the user's awareness. The term was coined by Eli Pariser (2011) to describe how personalisation algorithms on Google, Facebook, and similar platforms can produce systematic exposure asymmetries based on user signals such as click history, location, and profile data.\n\nThe defining feature of a filter bubble is *unintentionality from the user's side*: the narrowing is generated by the platform's optimisation, not by the user's deliberate choice of sources.\n\n\n:::warning\nEmpirical research has substantially qualified Pariser's original thesis. Studies have found that algorithmic personalisation does shape what users see, but most users still encounter ideologically diverse content — partly because their own social networks include varied views, and partly because algorithms do not isolate as completely as the popular discourse suggests (Bakshy et al., 2015; Flaxman et al., 2016; Bruns, 2019). The filter-bubble effect is real but typically weaker than commonly assumed; pre-internet selective exposure (e.g., choosing newspapers or TV channels) was in many cases stronger.\n\n:::\n\n\n:::info\n* Pariser, E. (2011). *The Filter Bubble: What the Internet Is Hiding from You*. Penguin Press.\n* Bakshy, E., Messing, S., & Adamic, L. A. (2015). Exposure to ideologically diverse news and opinion on Facebook. *Science*, 348(6239), 1130–1132. \n* Flaxman, S., Goel, S., & Rao, J. M. (2016). Filter bubbles, echo chambers, and online news consumption. *Public Opinion Quarterly*, 80(S1), 298–320. \n* Bruns, A. (2019). *Are Filter Bubbles Real?* Polity Press.\n\n:::\n\n## Echo Chamber\n\nAn **echo chamber** is a social information environment in which a user is primarily exposed to opinions, claims, or ideologies that reinforce their existing beliefs, while dissenting views are absent, dismissed, or actively discredited. Cass Sunstein (2017) describes the political consequences: when groups insulate themselves from outside perspectives, internal beliefs intensify and become more extreme over time (group polarisation).\n\nUnlike *Filter Bubble*, which arises from algorithmic personalisation, an echo chamber results primarily from **user self-selection**: choices about whom to follow, which communities to join, which sources to trust, and which voices to dismiss. These choices are partly driven by *Confirmation Bias* — the cognitive tendency to seek out and trust information that aligns with existing beliefs. The reinforcing effect comes from the social structure itself, not from invisible algorithmic filtering.\n\nC. Thi Nguyen (2020) draws a conceptual distinction that matters for intervention:\n\n* An **epistemic bubble** is a social structure in which other relevant voices are simply *absent*. Its inhabitants do not hear opposing perspectives, but they do not actively reject them.\n* An **echo chamber** in the strict sense is a social structure in which other relevant voices are *actively discredited*. Members may hear opposing perspectives but learn to distrust their sources.\n\nAn epistemic bubble can be opened by introducing new information; an echo chamber resists correction even when external evidence is presented, because the sources of that evidence have already been delegitimised.\n\n\n:::warning\nEmpirical work suggests that strong, ideologically isolated echo chambers are less common than popular discourse implies (Cinelli et al., 2021; Guess et al., 2018), but where they exist, they can be highly resistant to correction. Mere agreement within a group is not in itself an echo chamber — the defining feature is the active exclusion or discrediting of outside perspectives.\n\n:::\n\n\n:::info\n* Sunstein, C. R. (2017). *#Republic: Divided Democracy in the Age of Social Media*. Princeton University Press.\n* Nguyen, C. T. (2020). Echo chambers and epistemic bubbles. *Episteme*, 17(2), 141–161. \n* Cinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). The echo chamber effect on social media. *PNAS*, 118(9), e2023301118. \n* Guess, A., Lyons, B., Nyhan, B., & Reifler, J. (2018). *Avoiding the Echo Chamber about Echo Chambers: Why Selective Exposure to Like-minded Political News Is Less Prevalent Than You Think*. Knight Foundation White Paper.\n\n:::","HTML":"

Tiedon näkyvyys ja esilläolo

\n

Tiedon näkyvyydellä tarkoitetaan sitä, näkyvätkö tietyt tiedot, aiheet, lähteet tai tilit käyttäjille digitaalisissa ympäristöissä ja kuinka näkyvästi. Alustan hakemistossa tai verkostossa oleva tieto ei välttämättä tavoita kaikkia käyttäjiä automaattisesti eikä samalla tavalla.

\n

Näkyvyys on kahden vuorovaikutteisen voiman tulos:

\n
    \n
  • miten tietoa levitetään (jakaminen, uudelleenjakelu, levittäminen) ja\n
    • \n
  • miten se tuodaan esiin, työnnetään taustalle tai suodatetaan pois.\n
    • \n
\n
\n
\n\n

Luotettavuuden ja näkyvyyden erottaminen toisistaan on olennaista tietolukutaidon kannalta.

\n
    \n
  • Luotettavuus riippuu siitä, kuka on luonut tiedon (tekijä) ja miten sitä on muokattu (toimituksellinen tarkastus) – ei siitä, kuka sen on jakanut, missä ympäristössä se on esiintynyt tai kuinka näkyvästi se on tuotu esiin.\n
    • \n
  • Näkyvyys riippuu siitä, kuka jakaa sisällön, mekanismeista, jotka tuovat sen esiin, ja käytännöistä, joiden kautta sitä vahvistetaan. Näkyvyys ei ole luotettavuuden mittari.\n

    Esimerkiksi uudelleentwiitattu artikkeli: sen jakaneen tilin ja sen esiin tuoneen alustan vaikutus näkyvyyteen on ilmeinen – mutta artikkelilla on oma tekijänsä ja toimituksellinen historiansa, joiden luotettavuus on arvioitava erikseen.

    \n
    • \n
\n
\n
\n

Tiedon levittäminen: jakaminen, välittäminen, linkittäminen, uudelleenjulkaiseminen, lainaaminen

\n

Ihmiset, tilit (mukaan lukien botit) ja organisaatiot levittävät olemassa olevia tietoja jakamalla, välittämällä, linkittämällä, uudelleenjulkaisemalla, lainaamalla tai muulla tavalla jakamalla niitä uudelleen.

\n

→ Kun tietokappale välitetään eteenpäin lisättyjen kommenttien, tulkintojen tai uudelleenmuotoilujen kera, syntyy uusi tietokappale, jolla on uusi tekijä.

\n

Lähteiden ohjaama tiedon edistäminen ja näkyvyys

\n

Lähteiden – eli tietokohteiden luojien, julkaisijoiden tai mainostajien – aloittamat käytännöt. Lähteitä ovat yksittäiset käyttäjät, sisällöntuottajat, organisaatiot, mainostajat ja verkkosivustojen ylläpitäjät. Toisin kuin alustalähtöiset mekanismit, näitä käytäntöjä ohjaavat lähteet itse, jotka päättävät, miten sisältönsä tehdään näkyväksi. Ne toimivat kahdella tavalla: mukauttamalla sisältöä alustojen ranking-järjestelmiin (tavoittavuus, suora osoittaminen, SEO, SMO, alustakohtainen optimointi) tai maksamalla suoraan sijoittelusta (maksulliset sijoittelut).

\n

Tilin kattavuus

\n

Jakajan potentiaalisen yleisön koko ja rakenne.

\n

Tavoittavuuteen vaikuttavat useat tekijät:

\n
    \n
  • #### seuraajien tai tilaajien määrä\n
    • \n
  • #### vahvistustila\n
    • \n
  • #### tilin asema: ikä, vuorovaikutushistoria, maine alustalla\n
    • \n
\n

Kattavuus vaikuttaa näkyvyyteen kahdella tavalla:

\n
    \n
  • suoraan: laajalle ulottuvien tilien jakamat sisällöt näkyvät useammissa syötteissä jakamishetkellä\n
    • \n
  • epäsuorasti: laajalle ulottuvilla tileillä on enemmän vuorovaikutussignaaleja, joita alustan algoritmit käyttävät nostamaan sisältöä rankingissa (→ Algoritminen portinvartijuus)\n
    • \n
\n

→ Kattavuus vaihtelee suuresti: yksityisellä tilillä, jolla on 100 seuraajaa, ja julkisella tilillä, jolla on miljoona seuraajaa, on täysin erilainen vaikutus näkyvyyteen.

\n

Suora osoittaminen

\n

Mekanismit, joiden avulla jakajat kohdentavat viestinsä tietyille vastaanottajille, jolloin kyseiset käyttäjät saavat välittömästi näkyvyyttä alustan ilmoitusten kautta.

\n

Esimerkkejä:

\n
    \n
  • #### @maininnat\n
    • \n
  • #### taggaus (valokuvissa, viesteissä tai ketjuissa)\n
    • \n
  • #### lainaukset ja vastausmaininnat\n
    • \n
  • #### ryhmän suorat viestit\n
    • \n
  • #### postituslistan osoitteet (Vastaanottaja, Kopio)\n
    • \n
\n

→ Suora osoittaminen eroaa tavallisesta jakamisesta: kohdekäyttäjä saa viestin suoraan ilmoituksena riippumatta siitä, olisiko hän muuten törmännyt siihen uutisvirrassaan.

\n

→ Suora osoittaminen on hybridimekanismi. Se toimii käyttäjän puolella, mutta toimii alustan infrastruktuurin (ilmoitusjärjestelmien) kautta. Sen vaikutus on välitön näkyvyys osoitetulle käyttäjälle.

\n

Hakukoneoptimointi (SEO)

\n

Lähdekoodin puoleiset käytännöt, joilla verkkosivustoja – niiden sisältöä, metatietoja ja linkkarakennetta – mukautetaan niin, että ne sijoittuvat paremmin yleisten hakukoneiden (Google, Bing, DuckDuckGo jne.) tuloksissa.

\n

Yleisiä käytäntöjä ovat:

\n
    \n
  • avainsanatutkimus ja avainsanojen integrointi otsikoihin, alaotsikoihin ja tekstiin\n
    • \n
  • metatietojen optimointi (otsikkotunnisteet, metakuvaukset, vaihtoehtoinen teksti)\n
    • \n
  • linkkien luominen (sisäänpäin suuntautuvien linkkien hankkiminen arvovaltaisilta sivustoilta)\n
    • \n
  • sivuston rakenne ja sisäiset linkit\n
    • \n
  • sivun latausnopeus ja mobiiliystävällisyys\n
    • \n
  • hakutarkoituksen mukaisen sisällön tuottaminen\n
    • \n
\n

→ SEO on kaikkein vakiintunein optimointialan ala, koska hakukoneiden sijoitussignaalit ovat suhteellisen vakaita ja hyvin dokumentoituja (Lewandowski et al.). Erikoistuneet SEO-ammattilaiset, toimistot ja työkalut tukevat sen käytäntöä.

\n

→ SEO ei muuta hakukoneiden sivujen sijoitusta — se mukauttaa verkkosivuston vastaamaan olemassa olevia sijoituskriteerejä. Julkaisijat voivat muokata sitä, mitä algoritmi näkee, mutta eivät sitä, miten se päättää.

\n

Sosiaalisen median optimointi (SMO)

\n

Lähdepuolen käytännöt, joilla maksimoidaan sisällön näkyvyys, sitoutuminen ja jaettavuus sosiaalisen median alustoilla.

\n

Yleisiä käytäntöjä ovat:

\n
    \n
  • hashtag-strategiat (trendikkäät tai aihekohtaiset tunnisteet)\n
    • \n
  • julkaisuaikojen valinta (milloin kohdeyleisöt ovat aktiivisia)\n
    • \n
  • sisältömuotojen valinta (lyhyet videot, karusellit, reelit)\n
    • \n
  • otsikoiden ja koukkujen suunnittelu (nopea huomion herättäminen)\n
    • \n
  • sitoutumisen kannustaminen (kysymykset, kyselyt, toimintakehotukset)\n
    • \n
  • sisällön uudelleenkäyttö eri alustoilla\n
    • \n
\n

→ SMO on vähemmän vakiintunutta kuin SEO, koska sosiaalisen median sijoitussignaalit ovat epäselvempiä ja alustakohtaisempia. Käytännöt muuttuvat algoritmien muuttuessa.

\n

Alustakohtainen optimointi

\n

Optimointistrategiat, jotka on räätälöity yksittäisten alustojen käytäntöjen ja sijoituslogiikan mukaan — yleisten SEO- tai SMO-periaatteiden lisäksi.

\n
    \n
  • TikTok: katsojien kiinnittäminen kolmen ensimmäisen sekunnin aikana, trendikkäiden äänien käyttö, pystysuuntaiset lyhyet videot\n
    • \n
  • Instagram: korkealaatuiset kuvat, Reels-ensin-strategia, hashtagien yhdistely\n
    • \n
  • YouTube: pikkukuvien suunnittelu, katseluajan optimointi, avainsanoja sisältävät otsikot ja kuvaukset\n
    • \n
  • LinkedIn: pitkät ammattimaiset julkaisut, natiivijulkaisut, verkostoitunut vuorovaikutus\n
    • \n
  • X (Twitter): ytimekkäät koukut, ketjut, vastaaminen laajalle ulottuville tileille\n
    • \n
\n

→ Alustakohtainen optimointi edellyttää kunkin alustan sijoitusjärjestelmän, yleisön käyttäytymisen ja sisältömuotojen mieltymysten ymmärtämistä. Se, mikä toimii TikTokissa, toimii harvoin LinkedInissä.

\n

Maksulliset sijoittelut ja mainonta

\n

Lähteen puolella käytetty käytäntö, jossa maksetaan näkyvyydestä — sponsoroitu sisältö sijoitetaan orgaanisen sisällön viereen, tyypillisesti mainonnan kautta.

\n

Yleisiä muotoja:

\n
    \n
  • sponsoroidut hakutulokset (hakukonemainokset)\n
    • \n
  • sponsoroidut viestit ja mainostettu sisältö (sosiaalinen media)\n
    • \n
  • näyttömainokset (bannerit, videot)\n
    • \n
  • vaikuttajayhteistyö (maksullinen yhteistyö)\n
    • \n
\n

→ Maksulliset sijoittelut ohittavat orgaaniset sijoitusjärjestelmät: sen sijaan, että sisältöä optimoitaisiin hyvän sijoituksen saavuttamiseksi, lähde maksaa alustalle suoraan sijoittelusta.

\n

→ Ne on joskus merkitty selvästi (”Sponsoroitu”, ”Mainos”), joskus ne ovat vain vaikeasti erotettavissa orgaanisista tuloksista. Merkintästandardit vaihtelevat lainkäyttöalueittain ja alustoittain.

\n

Alustan puolella tapahtuva tiedon markkinointi ja suodatus

\n
\n
\n\n

Se, mitä käyttäjät todella näkevät, on harvoin yhden mekanismin tulos. Hakukoneessa algoritmisesti järjestetty luettelo orgaanisista tuloksista esitetään maksettujen sijoitusten, tekoälyn luomien tiivistelmien ja joskus toimituksellisten kohokohtien rinnalla – ja taustalla oleviin sijoitussignaaleihin voidaan vaikuttaa tarkoituksellisesti hakukoneoptimoinnin avulla. Sosiaalisen median syötteessä algoritmisesti järjestetyt julkaisut näkyvät sponsoroidun sisällön, suositeltujen tilien ja trendikkäiden päällekkäisnäyttöjen vieressä. Jokainen komponentti noudattaa omaa logiikkaansa ja vaikuttaa kokonaisvaltaiseen näkyvyyteen.

\n
\n
\n

Toimituksellinen kuratointi

\n

Alustan puolella tapahtuva manuaalinen kuratointi: tiedot, jotka toimituskunnat tai alustan ylläpitäjät ovat tarkoituksellisesti nostaneet esiin sen sijaan, että ne olisivat nousseet esiin algoritmisen järjestyksen perusteella.

\n

Esimerkkejä:

\n
    \n
  • hakutuloksissa esillä olevat katkelmat\n
    • \n
  • kuratoidut trendiosastot\n
    • \n
  • toimittajien valitsemat uutiset uutisaggregaattoreissa\n
    • \n
  • alustan mainostamat hashtagit\n
    • \n
  • Toimituksen valinnat sovelluskaupoissa\n
    • \n
  • esitellyt sisällöntuottajat tai tilit\n
    • \n
\n

→ Toimitukselliset kohokohdat toimivat algoritmisten mekanismien rinnalla ja heijastavat alustan omaa arviointia siitä, mikä sisältö ansaitsee näkyvän esillepanon.

\n

→ Toisin kuin algoritminen portinvartijuus (kuratointi ja personointi), toimituksellinen portinvartijuus sisältää alustan itsensä tekemiä toimituksellisia valintoja. Toiminnallisesti tämä on eräänlainen toimituksellinen portinvartijuus, jota harjoittaa alusta perinteisten julkaisijoiden sijaan.

\n

Algoritminen portinvartijuus

\n

Algoritmisella portinvartijatoiminnalla tarkoitetaan algoritmien roolia päätettäessä, mitkä tiedot tavoittavat mitkä käyttäjät — se on toimituksellisen portinvartijatoiminnan digitaalinen vastine (→ Tieto, lähteet ja tietoympäristöt → Toimituksellinen arviointi). Siihen sisältyy sekä valinta (mitä tuodaan esiin ja sijoitetaan korkealle) että poissulkeminen (mitä suodatetaan, alennetaan tai piilotetaan).

\n

Algoritminen portinvartijuus toimii eri alustatyypeissä:

\n
    \n
  • hakukoneissa algoritmit valitsevat ja järjestävät tulokset hakukyselyjen perusteella\n
    • \n
  • sosiaalisen median syötteissä algoritmit päättävät, mitkä viestit näkyvät näkyvämmin\n
    • \n
  • videopalveluissa algoritmit ehdottavat, mitä katsella seuraavaksi\n
    • \n
  • tekoälypohjaisissa vastausjärjestelmissä algoritmit tuottavat, tiivistävät tai syntetisoivat vastauksia\n
    • \n
\n

Algoritminen portinvartijatoiminta toimii kahdella tavalla, jotka usein toimivat yhdessä: yleiset toiminnot, joita sovelletaan kaikkiin käyttäjiin (algoritminen kuratointi), ja yksilöllinen räätälöinti seurattujen käyttäjäsignaalien perusteella (algoritminen personointi).

\n

Algoritminen kuratointi

\n

Kaikille käyttäjille sovellettavat yleiset algoritmiset toiminnot — ne määrittävät, mitä tietoa alustalla on saatavilla, riippumatta siitä, kuka käyttäjä on.

\n
    \n
  • Indeksointi ja hakukoneiden indeksointi\n– Mitkä tiedot tulevat näkyviin?\n
      \n
    • hakukoneet indeksoivat verkkoa\n
      • \n
    • sisällön koostajat indeksoivat uutislähteitä\n
      • \n
    • sovelluskaupat luettelevat saatavilla olevat sovellukset\n
      • \n
    \n
    • \n
  • Suodatus ja moderointi\n— Mitkä kohteet estetään tai alennetaan alustan sääntöjen mukaisesti?\n
      \n
    • roskapostisuodattimet\n
      • \n
    • sääntöjä rikkovan sisällön poistaminen (vihapuhe, laiton sisältö, graafinen materiaali)\n
      • \n
    • heikkolaatuisen tai harhaanjohtavan materiaalin alaspäin sijoittaminen\n
      • \n
    \n
    • \n
  • Laadun pisteytys\n— Mitkä lähteet tai kohteet arvioidaan luotettavammiksi tai laadukkaammiksi?\n
      \n
    • hakukoneet, jotka rankaisevat heikkolaatuisia sivustoja\n
      • \n
    • uutisaggregaattorit, jotka laativat rankingin lähteen luotettavuuden perusteella\n
      • \n
    • vertaisarvioinnin vaikutus akateemisten hakukoneiden sijoitukseen\n
      • \n
    \n
    • \n
  • Trendien havaitseminen\n— Mitkä kohteet nousevat esiin tällä hetkellä suosittuina?\n
      \n
    • trendikkäät aiheet sosiaalisissa medioissa\n
      • \n
    • suosituimmat listat suoratoistopalveluissa\n
      • \n
    • ”Mitä tapahtuu” ja ”Päivän otsikot” -osiot\n
      • \n
    • suositut hashtagit\n
      • \n
    \n
    • \n
\n

→ Algoritminen kuratointi määrittelee alustalla saatavilla olevan tiedon määrän. Se toimii pääosin samalla tavalla kaikille käyttäjille.

\n

Algoritminen personointi

\n

Algoritmiset toiminnot, jotka mukauttavat tiedon valintaa, järjestystä ja esitystapaa yksittäisille käyttäjille heidän seurattujen signaaliensa perusteella. Nämä signaalit kertyvät ajan mittaan käyttäjähistorioiksi, joita algoritmit hyödyntävät.

\n

→ Kaksi käyttäjää samalla alustalla — jopa samalla hakulausekkeella — näkevät tyypillisesti huomattavasti erilaista sisältöä.

\n
    \n
  • Henkilökohtainen järjestys\n— Mitkä kohteet sijoittuvat tämän käyttäjän kohdalla korkeammalle?\n
      \n
    • personoidut hakutulokset (sijainti, historia, profiilin muotoilu)\n
      • \n
    • sosiaalisen median syötteiden järjestys ("Sinulle" -syötteet, "Suosituimmat viestit")\n
      • \n
    • sitoutumiseen perustuva järjestys – optimointi ennustetun vuorovaikutuksen perusteella, hallitseva sosiaalisessa mediassa\n
      • \n
    \n
    • \n
  • Suositukset\n— Mitä kohteita tälle käyttäjälle ehdotetaan sen lisäksi, mitä hän on aktiivisesti pyytänyt?\n
      \n
    • "Suositeltuja sinulle" -videoluettelot\n
      • \n
    • ehdotetut tilit, ryhmät tai aiheet, joita kannattaa seurata\n
      • \n
    • "Ihmiset, jotka saatat tuntea"\n
      • \n
    • aiheeseen liittyvät artikkelit, vastaavat tuotteet, "Seuraavaksi"\n
      • \n
    \n
    • \n
  • Henkilökohtainen mainonta\n— Mitkä mainokset kohdistetaan tälle käyttäjälle?\n
      \n
    • aiempien hakujen perusteella räätälöidyt hakumainokset\n
      • \n
    • profiilin ja käyttäytymisen perusteella valitut sponsoroidut viestit sosiaalisessa mediassa\n
      • \n
    • verkkosivustoilla näkyvät uudelleen kohdennetut display-mainokset\n
      • \n
    • vaikuttajien kumppanuudet, jotka on sovitettu kohderyhmän kiinnostuksen kohteisiin\n
      • \n
    \n
    • \n
\n

→ Kaksi käyttäjää samalla alustalla — jopa samalla hakukyselyllä — näkevät tyypillisesti huomattavasti erilaista sisältöä.

\n

→ Personointi luo palautesilmukan: käyttäjien toimet vaikuttavat siihen, mitä he näkevät seuraavaksi, ja se, mitä he näkevät seuraavaksi, voi vaikuttaa siihen, mitä he tekevät.

\n

☑ Alustan algoritmisen personoinnin seurattavat käyttäjäsignaalit

\n

Toiminnot, joita käyttäjä suorittaa — aktiivisesti tai passiivisesti — tietokanavassa ja joita algoritmit voivat seurata ja käyttää tietokohteiden valinnan ja näkyvyyden personointiin.

\n

→ Käyttäjän toimet eivät rajoitu tarkoituksellisiin vuorovaikutuksiin, kuten klikkaamiseen tai tykkäämiseen. Monet toimet ovat passiivisia tai automaattisia, kuten se, kuinka kauan käyttäjä viipyy sivulla, kuinka pitkälle hän vierittää sivua tai missä hän sijaitsee. Käyttäjät eivät usein ole tietoisia siitä, että nämä toimet vaikuttavat siihen, mitä he näkevät seuraavaksi.

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
TyyppiMitä se onEsimerkkejä
Nimenomainen palauteTarkoitukselliset vuorovaikutukset, joihin käyttäjä päättää ryhtyä- haut /
hakukyselyt-
klikkaukset- tykkäykset /
reaktiot- kommentit /
vastaukset- jakamiset / uudelleenjulkaisut /
edelleenlähetykset- seuraamiset /
tilaamiset- tallennukset /
kirjanmerkit- arviot /
arvostelut- ostot / lataukset
Epäsuora käyttäytyminenKäytön aikana tallennetut passiiviset käyttäytymissignaalit- katselu-/kuuntelu-/viipymisaika - vierityskäyttäytyminen (
kuinka pitkälle, kuinka nopeasti)
- hiiren viemisen käyttäytyminen
- ohituskäyttäytyminen
Kontekstuaaliset tiedotTiedot tilanteesta, jossa käyttäjä käyttää alustaa- käyttäjän sijaintitiedot sovelluksen käytön aikana -
laitteen tyyppi (esim. puhelin tai kannettava tietokone)
- käyttöaika
Tili- ja sosiaalisen median tiedotTiedot käyttäjän profiilista ja sosiaalisista yhteyksistä- profiilitiedot (ikä, kiinnostuksen kohteet, ammatti, sukupuoli)
- kieliasetukset
- linkitetyt tilit
- yhteystietoluettelo / osoitekirja
\n
\n
\n\n
    \n
  • \nAdomavicius, G., & Tuzhilin, A. (2011). Kontekstia tunnistavat suosittelujärjestelmät. Teoksessa F. Ricci, L. Rokach, B. Shapira, & P. B. Kantor (toim.), Recommender Systems Handbook\n(s. 217–253). Springer. https://doi.org/10.1007/978-0-387-85820-3_7\n
    • \n
  • \nKelly, D., & Teevan, J. (2003). Implicit feedback for inferring user preference: A bibliography. ACM SIGIR Forum, 37\n(2), 18–28. https://doi.org/10.1145/959258.959260\n
    • \n
  • \nLi, W., Kuo, J.-C., Sheng, M., Zhang, P., & Wu, Q. (2025). Selkeän ja implisiittisen yli: Kuinka käyttäjät antavat palautetta henkilökohtaisten suositus sisältöjen muokkaamiseksi. Julkaisussa Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems (CHI '25)\n. Association for Computing Machinery. https://doi.org/10.1145/3706598.3713241\n
    • \n
  • \nNarayanan, A. (2023). Sosiaalisen median suosittelualgoritmien ymmärtäminen.\nKnight First Amendment Institute, Columbian yliopisto.https://knightcolumbia.org/content/understanding-social-media-recommendation-algorithms\n
    • \n
\n
\n
\n

Tiedon vahvistaminen

\n

Vahvistamisella tarkoitetaan kohteen näkyvyyden systemaattista lisäämistä yksittäisen käyttäjän tason ulkopuolelle – laajan näkyvyyden tuottamiseksi eri käyttäjätileillä ja joskus jopa eri tietoympäristöissä.

\n

Kun lähdelähtöinen markkinointi (edellä) kattaa sen, mitä yksittäinen lähde itse tekee näkyvyyden saavuttamiseksi, ja alustapuolinen portinvartijatoiminta (edellä) kuvaa algoritmisia toimintoja, joiden avulla alustat tuovat esiin ja luokittelevat sisältöä yksittäisille käyttäjille, vahvistaminen viittaa tuloksena oleviin laajamittaisiin vahvistustuloksiin – jotka syntyvät joko näiden alustatoimintojen kokonaisvaikutuksena (→ algoritminen vahvistaminen) tai useiden toimijoiden koordinoidun toiminnan kautta (→ koordinoitu vahvistaminen).

\n

Vahvistamisen mekanismit

\n

Vahvistaminen toimii kahden päämekanismin kautta.

\n
    \n
  • Algoritminen vahvistaminen on alustavetoista: se on algoritmisen portinvartijuuden kokonaisvaikutus – alustan kuratoinnin ja personoinnin kumulatiivinen tulos siitä, mitkä sisällöt tavoittavat mitkä käyttäjät ja kuinka näkyvästi.\n
    • \n
  • Koordinoitu vahvistaminen on toimijavetoista: useat tilit, ryhmät tai kampanjat toimivat tarkoituksellisesti yhdessä vahvistaakseen sisällön, hashtagin tai narratiivin näkyvyyttä yli sen, mitä yksittäisen käyttäjän toiminta tuottaisi. Kirjallisuudessa se luokitellaan kahden ulottuvuuden mukaan – koordinointi (läpinäkyvä tai piilotettu) ja tilit (aidot tai väärennetyt) – ja erotetaan sen mukaisesti (Rogers & Righetti, 2025):\n
      \n
    • Koordinoitu aito vahvistaminen: koordinointi on läpinäkyvää ja tilit ovat aitoja (esim. avoimet kansalaiskampanjat, edunvalvonta, markkinointi).\n
      • \n
    • Koordinoitu epäaito / keinotekoinen vahvistaminen: koordinointi on piilotettua, tilit ovat väärennettyjä tai molemmat – luoden vaikutelman orgaanisesta tuesta (Metan koordinoitu epäaito käyttäytyminen / CIB; Gleicher, 2018).\n
      • \n
    \n
    • \n
\n

Nämä kaksi mekanismia yhdistyvät usein. Koordinoidut verkostot hyödyntävät sitoutumiseen perustuvaa sijoitusta algoritmisten tehostusten laukaisemiseksi; algoritminen sijoitus puolestaan vahvistaa sitä näkyvyyttä, jonka koordinointi on jo tuottanut.

\n
\n
\n\n
\n
\n
\n

Algoritminen vahvistaminen

\n

Algoritminen vahvistaminen on edellä mainittujen portinvartijamekanismien (kuratointi ja personointi) kumulatiivinen vaikutus: se, mitkä sisällöt, aiheet, tilit ja formaatit näkyvät käyttäjille näkyvästi – ja mitkä suodatetaan, alennetaan tai työnnetään alaspäin.

\n

Empiirinen tutkimus osoittaa, että sitoutumiseen perustuva ranking vahvistaa systemaattisesti emotionaalisesti latautunutta ja ulkopuolisia ryhmiä vihamielisesti kohtelevaa sisältöä, vaikka käyttäjät itse eivät suosisi tällaista sisältöä (Milli et al., 2025). Se myös vahvistaa olemassa olevaa tavoittavuutta: tilit ja sisällöt, joilla on aiemmin ollut paljon sitoutumista, palkitaan entistä suuremmalla näkyvyydellä, mikä tuottaa erittäin vinoutuneita tavoittavuusjakaumia (rikkaat rikastuvat -ilmiö).

\n

Algoritmisilla toimenpiteillä voi olla myös epälineaarisia vaikutuksia päinvastaiseen suuntaan. Noin 20 prosentin lasku sisällön näkyvyydessä syötteessä voi vähentää sen tavoittavuutta kertaluokalla (Narayanan, 2023).

\n

Algoritminen vahvistaminen ei ole neutraali heijastus käyttäjien toiminnasta. Sen vaikutukset ovat syntyviä ja näkyvät pääasiassa kokonaisuutena: yksittäiset suositukset ovat epätarkkoja (sitoutumisasteet pysyvät alle 1 %:ssa useimmilla alustoilla), mutta sijoitus, suositukset ja alennukset muokkaavat järjestelmällisesti sitä, mitä alustalla liikkuu.

\n
\n
\n\n
    \n
  • Milli, S., et al. (2025). Sitoutuminen, käyttäjien tyytyväisyys ja eripuraisuutta aiheuttavan sisällön vahvistuminen sosiaalisessa mediassa. PNAS Nexus.\n
    • \n
  • Narayanan, A. (2023). Sosiaalisen median suosittelualgoritmien ymmärtäminen. Knight First Amendment Institute.\n
    • \n
\n
\n
\n

Koordinoitu aito vahvistaminen

\n

Koordinoitu aito vahvistaminen on tietokohteen, aiheen, hashtagin, tilin tai narratiivin tarkoituksellista vahvistamista avoimesti julkistettujen, organisoitujen toimien avulla, joita toteuttavat todelliset tilit. Koordinoitua alkuperää ei peitellä: osallistujat toimivat omalla nimellään tai tunnettujen ryhmäyhteyksien alla.

\n

Tyypillisiä konteksteja ovat

\n
    \n
  • kansalaiskampanjat (esim. kansalaisjärjestöjen vetoomukset, vaikuttamishashtagit),\n
    • \n
  • poliittinen mobilisointi (esim. puolueiden vaalikampanjat, äänestysaktiivisuuden lisäämiseen tähtäävät toimet),\n
    • \n
  • markkinointi- ja brändikampanjat,\n
    • \n
  • ammattijärjestöjen viestintä sekä\n
    • \n
  • kulttuuriset liikkeet, kuten Fridays for Future tai #MeToo.\n
    • \n
\n
\n
\n\n

Onko taustalla oleva viesti perusteltu, tasapainoinen vai yksipuolinen, on erillinen kysymys – aitous viittaa vain koordinoinnin läpinäkyvyyteen, ei sisällön totuudenmukaisuuteen tai oikeudenmukaisuuteen. Aito kampanja voi vahvistaa tarkkoja tietoja, harhaanjohtavia tietoja tai yksipuolista kantaa.

\n
\n
\n
\n
\n\n

Aito ja epäaito koordinointi voivat tuottaa näkyvyysmalleja, jotka näyttävät ulkopuolelta identtisiltä – synkronoitu jakaminen, hashtagin klusterointi, nopea leviäminen. Erottava piirre ei ole näkyvä malli, vaan se, paljastetaanko koordinoitu alkuperä avoimesti.

\n
\n
\n

Koordinoitu epäaito / keinotekoinen vahvistaminen

\n

Koordinoitu epäaito / keinotekoinen vahvistaminen on tietokohteen, aiheen, hashtagin, tilin tai narratiivin tarkoituksellista vahvistamista järjestäytyneen toiminnan kautta, jossa koordinoitu alkuperä on piilotettu, osallistuvat tilit ovat väärennettyjä tai molemmat. Tavoitteena on luoda vaikutelma orgaanisesta, itsenäisestä tuesta. Metan termi ”koordinoitu epäaito käyttäytyminen” (CIB) – joka on nyt sisällytetty EU:n digipalvelulakiin – keskittyy tähän yhdistelmään vääriä identiteettejä ja vihamielisiä menetelmiä havaitsemisen välttämiseksi (Gleicher, 2018; Rogers & Righetti, 2025).

\n

Tyypillisiä konteksteja ovat poliittiset vaikutusoperaatiot (valtion tukemat tai puolueiden linjojen mukaiset), astroturfing-kampanjat (kaupalliset tai ideologiset), kohdennettu disinformaatio vaalien, kansanterveyden tai geopoliittisten konfliktien yhteydessä sekä maineen manipulointi väärennettyjen arvostelujen, luokitusten tai vuorovaikutuksen avulla. Toimintakeinot — botit, trollit, sockpuppetit ja niiden koordinoidut verkostot (botifarmit, trollifarmit, sockpuppet-verkostot, klikkifarmit) — kuvataan yksityiskohtaisesti jäljempänä.

\n
\n
\n\n

Epäaitous viittaa koordinoidun alkuperän salaamiseen tai väärennettyjen tilien käyttöön – ei vahvistettavan sisällön totuudenarvoon. Koordinoitu väärennettyjen tilien verkosto voi vahvistaa tarkkoja tietoja; yksittäinen aito henkilö voi levittää keksittyjä tietoja. Koordinoitu epäaitous ja väärän sisällön levittäminen ovat erillisiä ilmiöitä, jotka voivat esiintyä itsenäisesti tai yhdessä.

\n
\n
\n

Tässä osiossa kuvatut seuraavat tilityypit koskevat kaikkia digitaalisia tiedotuskanavia ja alustoja, joilla käyttäjät voivat luoda tilejä ja julkaista tai olla vuorovaikutuksessa julkisesti – erityisesti sosiaalista mediaa, keskustelufoorumeita ja yhteisötiloja, video- ja äänialustoja sekä arvostelu- tai kommenttiosioita. Ne eivät ole yhtä näkyviä yksityisissä viestisovelluksissa tai ympäristöissä, joissa ei ole käyttäjien luomaa sisältöä. Ne esiintyvät sekä itsenäisesti että koordinoitujen verkostojen sisällä. Ne on lueteltu tässä niiden tyypillisen roolin vuoksi vahvistamisen dynamiikassa; nimenomaisesti koordinoidut muodostelmat ovat tiliverkostoja.

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
TermiMääritelmäHallinnoijaMääritelmäTyypillinen tarkoitus
Sosiaalinen bottiAutomatisoitu tai osittain automatisoitu tili, joka julkaisee, tykkää, seuraa, jakaa tai vastaa verkossa.OhjelmistoAutomaatioViestien vahvistaminen, keinotekoisen suosion luominen, roskapostin lähettäminen, keskustelun vaikuttaminen tai sisällön levittäminen laajamittaisesti.
KyborgHybriditili, jossa yhdistyvät ihmisen toiminta ja ohjelmistojen automaatio.Sekalainen: ihminen ja ohjelmistoValikoiva automaatioAutomaation laajuuden yhdistäminen ihmisen panoksen kontekstuaaliseen uskottavuuteen – laillista aikataulutusta/hallintaa tai vaikeammin havaittavia vaikutusoperaatioita varten.
TrollHenkilö tai tili, joka tahallaan provosoi, häiritsee tai kiihottaa verkkokeskustelua.Yleensä ihmiskäyttäjä; joskus koordinoituja ryhmiäHäiritsevä / provosoiva / vihamielinen käyttäytyminenToisten järkyttäminen, keskustelujen suistaminen raiteiltaan, reaktioiden provosointi, vihamielisyyden levittäminen tai keskustelun polarisoiminen.
SockpuppetVäärennetty tili, jota joku käyttää piilottaakseen todellisen henkilöllisyytensä tai teeskennelläkseen olevansa eri henkilö.Ihmiskäyttäjä, vaikka tili voi käyttää myös automaatiotaPetollinen identiteettiVäärennetyn tuen luominen, muiden nimettömänä hyökkäys, kieltojen kiertäminen, keskustelun manipulointi tai itsenäisen yksimielisyyden vaikutelman luominen.
\n

Sosiaalinen botti

\n

Sosiaalinen botti on botti, joka on suunniteltu toimimaan sosiaalisen median alustoilla ja joka julkaisee, kommentoi, jakaa tai vuorovaikuttaa tavalla, joka simuloi ihmiskäyttäjiä. Sosiaaliset botit on tyypillisesti ohjelmoitu toimimaan laajamittaisesti ja suurella nopeudella, paljon enemmän kuin ihmiskäyttäjä pystyisi. Niiden toiminta on usein toistuvaa ja koordinoitua useiden tilien välillä, mikä erottaa sen normaalista ihmiskäytöstä.

\n

Sosiaalisia botteja voidaan käyttää laillisiin tarkoituksiin – kuten asiakaspalveluun, uutisten jakeluun tai markkinointiin – mutta niitä käytetään myös laajalti yleisen mielipiteen vaikuttamiseen, tiettyjen viestien vahvistamiseen, keskustelujen manipulointiin tai laajalle levinneen tuen luomiseen tietyille ideoille, tuotteille tai aatteille. Väärän tiedon ja disinformaation kontekstissa sosiaaliset botit näyttelevät erityistä roolia sisällön nopeassa levittämisessä ja antavat väärän vaikutelman siitä, että monet riippumattomat äänet jakavat saman näkemyksen.

\n

Kun sosiaalisia botteja käytetään koordinoiduissa verkostoissa, ne muodostavat bot-farmin.

\n
\n
\n\n

Botti

\n

Botti on tietokoneohjelma, joka suorittaa tehtäviä automaattisesti, usein toistuvia tehtäviä. Botit vaihtelevat yksinkertaisista, harmittomista työkaluista – kuten hakukoneille sivuja indeksoivista verkkohakuroista, automatisoiduista testausjärjestelmistä tai rutiiniluonteisiin asiakaskysymyksiin vastaavista chatboteista – haitallisiin ohjelmiin, jotka on suunniteltu levittämään roskapostia, haittaohjelmia tai disinformaatiota.

\n
\n
\n

Kyborg

\n

Kyborgi on hybriditili, jota osittain hoitaa ihminen ja osittain ohjelmisto. Kyborgilla voi olla rutiinipostituksia, jotka on ajoitettu tai luotu ohjelmistolla, kun taas ihminen hoitaa valikoituja vuorovaikutuksia, vastauksia tai arkaluontoista sisältöä. Automaation ja ihmisen toiminnan välinen tasapaino vaihtelee tilikohtaisesti.

\n

Kyborggeja voidaan käyttää laillisiin tarkoituksiin – kuten sisällön aikatauluttamiseen, brändi- tai institutionaalisten tilien hallintaan tai hybridi-asiakaspalveluun – mutta niitä käytetään myös vaikutusoperaatioissa yhdistämään automaation laajuus ja nopeus ihmisen panoksen kontekstuaaliseen uskottavuuteen.

\n

Kyborgit ovat vaikeampia tunnistaa kuin puhtaasti automatisoidut botit, koska osa niiden käyttäytymisestä on aidosti inhimillistä, mikä tarkoittaa, että yksittäiset tunnistusindikaattorit riittävät harvoin luotettavaan tunnistamiseen.

\n

Trolli

\n

Trolli on oikea ihminen, joka häiritsee tahallaan verkkokeskusteluja provosoivalla, aggressiivisella tai vihamielisellä käyttäytymisellä. Trollit käyttävät tyypillisesti henkilökohtaisia tilejä ja kohdistavat toimintansa kiistanalaisiin aiheisiin, julkisuuden henkilöihin (kuten poliitikkoihin tai toimittajiin) tai mediayrityksiin. Heidän tavoitteenaan on järkyttää muita, herättää reaktioita tai kärjistää konflikteja – joskus tietyn agendan tukemiseksi, joskus viihteen tai huomion vuoksi.

\n

Vaikka trollit toimivat usein itsenäisesti, he voivat toimia myös koordinoiduissa ryhmissä, joita joskus palkkaavat poliittiset tai kaupalliset toimijat (katso Trollifarmi kohdassa Vahvistamismekanismit).

\n

Trollaaminen on parhaiten ymmärrettävissä verkkokäyttäytymisen mallina, ei tietynlaisena tilinä. Samaa käyttäytymistä voivat harjoittaa automatisoidut tilit, ja myös tavalliset käyttäjät voivat toisinaan harjoittaa trollaamista.

\n

Sockpuppet

\n

Sockpuppet on väärennetty verkkotunnus, jonka on luonut ja jota ylläpitää todellinen henkilö, joka piilottaa todellisen identiteettinsä. Toisin kuin trollit – jotka toimivat usein yhden avoimesti vihamielisen tilin alla – sockpuppetin ylläpitäjä käyttää tyypillisesti useita väärennettyjä tilejä rinnakkain luodakseen vaikutelman, että useat itsenäiset käyttäjät ovat samaa mieltä, tukevat samaa asiaa tai ovat samaa mieltä ylläpitäjän oman (usein erillisen) päätilin kanssa.

\n

Sockpuppetteja käytetään yleisesti keinotekoisen konsensuksen luomiseen, omien argumenttien tukemiseen eri nimillä, vastustajien hyökkäilyyn näyttäen puolueettomalta, kieltojen kiertämiseen luomalla uusia identiteettejä tilin sulkemisen jälkeen tai verkkokommenttien, äänestysten ja kyselyiden manipulointiin.

\n

Sockpuppetit eroavat sosiaalisista boteista siinä, että niitä ohjaavat manuaalisesti ihmiset, mikä tekee niiden sisällöstä kontekstuaalisesti uskottavampaa ja vaikeammin havaittavaa automaattisin keinoin. Ne eroavat trollaajista siinä, että niiden ensisijainen tavoite on identiteetin harhauttaminen ja näennäisen konsensuksen luominen, ei provosointi – vaikka sockpuppet-käyttäjät voivat myös harjoittaa trollaamista väärennettyjen identiteettiensä kautta.

\n

Kun henkilö tai pieni ryhmä käyttää koordinoitua joukkoa sockpuppetteja yhdessä, he muodostavat sockpuppet-verkoston (katso vahvistusmekanismit).

\n

☑ Sosiaalisten bottien, trollaajien ja sockpuppettien erottaminen toisistaan

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
Havaitsemisen ulottuvuusSosiaaliset botitTrollitSockpuppetit
Profiilin ominaisuudet- [ ] Tili näyttää vasta
luodulta - [ ] Profiili on puutteellinen tai yleinen
- [ ] Käyttäjänimi voi näyttää epähenkilökohtaiselta ja sisältää joskus satunnaisia numeroita		- [ ] Tili on yleensä ollut aktiivinen pidempään ja sillä on viestihistoria -
[ ] Profiili on täydellinen ja vaikuttaa henkilökohtaiselta; se voi sisältää vahvan ideologisen tai poliittisen
itsensäkuvauksen - [ ] Käyttäjänimi näyttää henkilökohtaiselta		- [ ] Profiili näyttää uskottavalta ja henkilökohtaiselta, ja siinä on usein profiilikuva ja henkilötiedot (joskus varastettuja, tekoälyn luomia tai kopioituja)
- [ ] Tilin historia voi olla maltillinen ja suunniteltu näyttämään aidolta ajan mittaan
Julkaisukäyttäytyminen- [ ] Toiminta ei vastaa normaalia ihmisen verkkokäyttäytymistä -
[ ] Tilit julkaisevat tai jakavat sisältöä erittäin usein -
[ ] Tilit julkaisevat tai jakavat sisältöä ympäri vuorokauden		- [ ] Toiminta muistuttaa normaalia ihmisen
verkkokäyttäytymistä - [ ] Tili julkaisee tai vastaa epäsäännöllisinä aikoina -
[ ] Tili aktivoituu kiistanalaisissa keskusteluissa		- [ ] Toimintamallit muistuttavat normaalia ihmisen
käyttäytymistä - [ ] Saman ylläpitäjän hallinnoimat useat tilit voivat osoittaa samanlaisia aktiivisia aikoja tai
rytmejä - [ ] Sockpuppetit aloittavat yleensä vähemmän keskusteluja ja kirjoittavat lyhyempiä viestejä kuin tyypilliset käyttäjät
Vuorovaikutus- [ ] Tilillä ei käydä todellisia
keskusteluja - [ ] Tilit lähinnä tykkäävät, jakavat tai
uudelleenjulkaisevat - [ ] Vastaukset ovat lyhyitä ja automatisoituja		- [ ] Tili vastaa suoraan muille käyttäjille -
[ ] Tili osallistuu keskusteluihin tarkoituksenaan provosoida
reaktioita - [ ] Keskusteluja jatketaan konfliktin luomiseksi tai kärjistämiseksi		- [ ] Tili käy aitoja keskusteluja, usein tukien käyttäjän päätiliä tai muita
sockpuppetteja - [ ] Vastaukset ovat asiayhteyteen sopivia ja vaikuttavat
aidoilta - [ ] Sockpuppettiparit ovat usein vuorovaikutuksessa samassa keskustelussa samanaikaisesti
Sisällön ominaisuudet- [ ] Sisältö on yksipuolista ja
toistavaa - [ ] Samat kertomukset julkaistaan monta kertaa		- [ ] Sisältö on räätälöity nimenomaan vahingoittamaan tai provosoimaan kohdetta -
[ ] Sisältö kohdistuu yksilöihin tai sosiaalisiin ryhmiin		- [ ] Sisältö vaikuttaa aidolta ja vaihtelevalta eri tileillä
- [ ] Taustalla oleva viesti tai kanta on epäilyttävän yhdenmukainen koko verkostossa -
[ ] Henkilökohtaisten pronominien, kuten "minä", käyttö on yleisempää
Kieli- [ ] Yleisiä ilmaisuja, toistuvia lauseita, joissa on avainsanoja- [ ] Monipuolinen, tunnepitoinen, usein loukkaava tai hyökkäävä kieli- [ ] Luonnollinen ja monipuolinen kieli
- [ ] Useilla tileillä voi olla samankaltaisia kielellisiä piirteitä (samanlaiset sanamuodot, sanasto, välimerkit tai virhekuviot)
Verkosto- ja tekniset indikaattorit- [ ] Sosiaaliset botit seuraavat muita sosiaalisia botteja, mutta suhde on tyypillisesti yksisuuntainen eikä
vastavuoroinen - [ ] Koordinoitua käyttäytymistä voidaan havaita useiden bottitilien välillä		- [ ] Trollit seuraavat ihmisten tilejä
- [ ] Yhteydet ovat usein vastavuoroisia (he seuraavat seuraajiaan ja päinvastoin)
- [ ] Trollit toimivat tyypillisesti toisistaan riippumatta		- [ ] Useat tilit ovat vuorovaikutuksessa keskenään toisiaan tukevalla
tavalla- [ ] Yhteydet voivat olla keinotekoisesti vastavuoroisia saman verkon sockpuppet-tileillä tai tarkoituksellisesti puuttuvia havaitsemisen
välttämiseksi- [ ] Sama IP-osoite, laitteen sormenjälki tai kirjautumismalli \\\\*(alustan puolella tapahtuva havaitseminen)\\\\*-
[ ] Tavallisia
käyttäjiä enemmän klusteroituneita ego-verkostoja- [ ] Tilien välinen korreloitu aktiivisuuden ajoitus
\n
\n
\n\n
    \n
  • \nFerrara, E. (2023). Sosiaalisten bottien havaitseminen ChatGPT:n aikakaudella: Haasteet ja mahdollisuudet. First Monday, 28\n(6). https://doi.org/10.5210/fm.v28i6.13185\n
    • \n
  • \nKumar, S., Cheng, J., Leskovec, J., & Subrahmanian, V. S. (2017). Minun armeijani: Sockpuppetit verkkokeskusteluyhteisöissä. 26. kansainvälisen World Wide Web -konferenssin (WWW '17) julkaisu\n, 857–866. https://doi.org/10.1145/3038912.3052677\n
    • \n
  • \nOrabi, M., Mouheb, D., Al Aghbari, Z., & Kamel, I. (2020). Botien havaitseminen sosiaalisessa mediassa: Systemaattinen katsaus. Information Processing & Management, 57\n(4), 102250. https://doi.org/10.1016/j.ipm.2020.102250\n
    • \n
  • \nSolorio, T., Hasan, R., & Mizan, M. (2013). Tapaustutkimus sockpuppet-tunnistuksesta Wikipediassa. Proceedings of the Workshop on Language Analysis in Social Media (LASM) at NAACL-HLT\n, 59–68. Association for Computational Linguistics.https://aclanthology.org/W13-1107/\n
    • \n
  • \nTomaiuolo, M., Lombardo, G., Mordonini, M., Cagnoni, S., & Poggi, A. (2020). Katsaus trollien havaitsemiseen. Future Internet, 12\n(2), https://doi.org/10.3390/fi12020031\n
    • \n
  • \nTsikerdekis, M., & Zeadally, S. (2014). Useiden tilien identiteettipetosten havaitseminen sosiaalisessa mediassa nonverbaalisen käyttäytymisen avulla. IEEE Transactions on Information Forensics and Security, 9\n(8), 1311–1321. https://doi.org/10.1109/TIFS.2014.2332820\n
    • \n
  • \nUyheng, J., Moffitt, J. D., & Carley, K. M. (2022). Verkkotrollauksen kieli ja kohteet: Psykolingvistinen lähestymistapa sosiaaliseen kyberturvallisuuteen. Information Processing & Management, 59\n(5), 103012. https://doi.org/10.1016/j.ipm.2022.103012\n
    • \n
\n
\n
\n

Tili-verkostot

\n

Bot-farm

\n

Bot-farmi on useilla laitteilla tai palvelimilla samanaikaisesti toimivien botien verkosto, jonka yksi operaattori tai organisaatio on ottanut käyttöön tiettyä tarkoitusta varten.

\n

Bot-farmeilla on useita laillisia käyttötarkoituksia, kuten verkkosivujen indeksointi, automatisoitu ohjelmistotestaus, tietojen kerääminen ja verkkosivustojen suorituskyvyn seuranta. Niitä käytetään kuitenkin yleisesti myös haitallisiin toimiin, kuten väärennetyn vuorovaikutuksen luomiseen, suurten sisältömäärien tuottamiseen, roskapostin jakeluun tai kyberturvallisuushyökkäysten toteuttamiseen. Kun bot-farmeja käytetään verkkokeskustelun manipulointiin, ne voivat luoda väärän vaikutelman laajasta tuesta, vastustuksesta tai kiinnostuksesta tiettyä aihetta, tiliä tai kampanjaa kohtaan.

\n

Trollifarmi

\n

Trollifarmi on organisoitu ryhmä koordinoituja, usein palkattuja työntekijöitä, jotka julkaisevat tarkoituksellisesti provosoivaa, harhaanjohtavaa tai väärää sisältöä verkossa – tyypillisesti väärennettyjen tilien kautta. Heidän tavoitteenaan on yleensä manipuloida yleistä mielipidettä, levittää disinformaatiota tai luoda sosiaalista ja poliittista levottomuutta. Trollifarmeja on dokumentoitu yhteydessä valtion tukemiin vaikutusoperaatioihin sekä kaupalliseen maineen manipulointiin.

\n

Sockpuppet-verkosto

\n

Sockpuppet-verkosto on yhden henkilön tai pienen ryhmän ylläpitämä koordinoitu joukko sockpuppet-tilejä, joita käytetään simuloimaan itsenäisiä ääniä, jotka tukevat yhteistä narratiivia, kampanjaa, tiliä tai asiaa. Sockpuppet-verkostoja käytetään yleisesti poliittisessa astroturfingissa, arvostelujen ja arvioiden manipulointiin sekä koordinoituihin disinformaatiokampanjoihin. Toisin kuin bot-farmit, sockpuppet-verkostot perustuvat ihmisten manuaaliseen toimintaan, mikä tekee yksittäisten tilien sisällöstä aidommalta ja vaikeammin havaittavissa automaattisin keinoin. Niiden koordinointi paljastuu yleensä vasta, kun useita tilejä voidaan yhdistää käyttäytymismallien, yhteisten teknisten signaalien tai keskinäisen vuorovaikutuksen perusteella.

\n

Klikkausfarmi

\n

Klikkifarmi on toiminta, jossa suuri määrä matalapalkkaisia työntekijöitä, automatisoituja botteja tai molempia käytetään klikkaamaan mainoksia, seuraamaan sosiaalisen median tilejä, tykkäämään julkaisuista, jättämään arvosteluja tai lataamaan sovelluksia. Tavoitteena on lisätä keinotekoisesti verkkokäyttöä tai liikennettä, jolloin sisältö, tilit tai tuotteet näyttävät suositummilta kuin ne todellisuudessa ovat.

\n

Ilmiöt

\n

☑ Viraliteetti vs. trendit

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
OminaisuusViraalisuusTrendit
Mitä levitetäänYksittäinen tieto: tietty video, viesti, kuva tai muu sisältöAihe, hashtag, ääni, muoto tai keskusteluryhmä: ei yhtä tiettyä kohdetta, vaan useita viestejä, jotka viittaavat samaan asiaan tai käyttävät sitä
Tärkeimmät tekijätKäyttäjät jakavat, uudelleenjulkaisevat tai välittävät sisältökohteen muille, jotka puolestaan välittävät sen eteenpäin; tätä ketjureaktiota voivat vahvistaa suosittelualgoritmitMonet käyttäjät julkaisevat, mainitsevat tai käyttävät samaa aihetta, hashtagia tai formaattia lyhyen ajan kuluessa; alusta havaitsee tämän aktiivisuuden keskittymisen ja korostaa sitä erityisessä "Trendit"-osiossa (kuten trendi-aiheiden luettelossa, trendi-hashtagien yleiskatsauksessa tai trendi-äänien sivulla)
AikakuvioUsein lyhyt ja räjähdysmäinen; voi toistua myöhemminAikarajoitettu; jatkuu niin kauan kuin aktiivisuus pysyy korkeana tai alusta pitää sen esillä
Kuinka sitä voidaan manipuloidaKoordinoitu jakaminen, botien vahvistama vaikutus, tiettyyn tietoon kohdistettu keinotekoinen vuorovaikutusKoordinoidut julkaisukampanjat, bot-verkostojen avulla luodut väärennetyt trendit, alustan päätökset mainostaa, suodattaa tai tukahduttaa
\n

Sekä viraalisuus että trendit voivat syntyä orgaanisesti tai niitä voidaan vahvistaa keinotekoisesti koordinoitujen kampanjoiden, bot-toiminnan tai alustan päätösten avulla. Molemmat voivat myös antaa etua emotionaalisesti herättävälle, moraalisesti latautuneelle tai eripuraa aiheuttavalle sisällölle, erityisesti poliittisissa tai konfliktipitoisissa yhteyksissä.

\n

Viraalisuus

\n

Ilmiö, jossa tietty informaatio leviää nopeasti jakamisen, suosittelun ja uudelleenlevittämisen kautta verkostoissa, samalla tavalla kuin virus leviää. Viraliteetti määräytyy sisällön ominaisuuksien, sosiaalisten verkostojen rakenteiden, alustojen mahdollisuuksien, ajoituksen ja algoritmisen vahvistamisen perusteella.

\n

Sisältö, joka herättää voimakkaita tunteita, moraalisia reaktioita tai ryhmien välistä vihamielisyyttä, jaetaan usein todennäköisemmin, etenkin poliittisissa tai konfliktipitoisissa yhteyksissä. Viraliteettia ei kuitenkaan määrää pelkästään alkuperäisen lähteen koko: myös pienemmät tilit tai julkaisukanavat voivat tuottaa erittäin viraalisia sisältöjä.

\n

Viraalisuus voi syntyä orgaanisesti, mutta sitä voidaan myös vahvistaa keinotekoisesti koordinoidun jakamisen, alustojen manipuloinnin tai bot-toiminnan avulla.

\n

Trendit

\n

Alustan määrittämä tila, joka osoittaa, että tietty aihe, hashtag, ääni, formaatti tai keskusteluryhmä on saanut poikkeuksellisen paljon huomiota lyhyessä ajassa.

\n

Trendit tunnistetaan algoritmisesti ja ne tuodaan esiin alustan ominaisuuksien, kuten X / Twitterin trendi-aiheiden, trendi-hashtagien, trendi-äänien, trendi-haasteiden tai muiden alustakohtaisten trendiominaisuuksien kautta. Trendit riippuvat alustakohtaisista signaaleista, kuten viestien määrästä, kasvuvauhdista, sitoutumisesta, sijainnista, personoinnista ja moderointisuodattimista.

\n

Aiheet, jotka herättävät paljon sitoutumista – mukaan lukien kiistanalaiset, tunteita herättävät tai moraalisesti latautuneet aiheet – saattavat olla todennäköisemmin trendikkäitä, mutta tämä riippuu alustan ranking-järjestelmästä ja moderointisäännöistä.

\n

Trendit voivat syntyä orgaanisesti monista itsenäisistä julkaisuista, mutta niihin voivat vaikuttaa myös koordinoidut kampanjat, botit tai alustan päätökset siitä, mitä mainostetaan, suodatetaan, moderoidaan tai tukahdutetaan.

\n
\n
\n\n
    \n
  • Berger, J. (2013). Contagious: Why Things Catch On. New York: Simon & Schuster.\n
    • \n
  • Berger, J., & Milkman, K. L. (2012).\nWhat makes online content viral? Journal of Marketing Research\n, 49(2), 192–205. https://doi.org/10.1509/jmr.10.0353\n
    • \n
  • Brady, W. J., McLoughlin, K., Doan, T. N., & Crockett, M. J. (2021).\nHow social learning amplifies moral outrage expression in online social networks. Science Advances\n, 7(33), eabe5641. https://doi.org/10.1126/sciadv.abe5641\n
    • \n
  • Jenkins, H., Ford, S., & Green, J. (2013). Spreadable Media: Creating Value and Meaning in a Networked Culture. New York: NYU Press.\n
    • \n
  • Lee, J., & Umback, J. (2026).\nViral käänne: viralisuuden uudelleenajattelu TikTokin luojataloudessa. Continuum\n, 1–26. https://doi.org/10.1080/10304312.2026.2625794\n
    • \n
  • Maarouf, A., Pröllochs, N., & Feuerriegel, S. (2024).\nVihapuheen viraalisuus sosiaalisessa mediassa. Proceedings of the ACM on Human-Computer Interaction\n, 8 (CSCW1), 1–22. https://doi.org/10.1145/3641025\n
    • \n
  • Rathje, S., Van Bavel, J. J., & van der Linden, S. (2021).\nRyhmän ulkopuolisiin kohdistuva vihamielisyys lisää sitoutumista sosiaalisessa mediassa. Proceedings of the National Academy of Sciences\n, 118(26), e2024292118. https://doi.org/10.1073/pnas.2024292118\n
    • \n
  • Rathje, S., & Van Bavel, J. J. (2025).\nThe psychology of virality. Trends in Cognitive Sciences\n, 29(10), 914–927. https://doi.org/10.1016/j.tics.2025.06.014\n
    • \n
  • Rogers, E. M. (2003). Innovaatioiden leviäminen (5. painos). New York: Free Press.\n
    • \n
  • Sangiorgio, E., Cinelli, M., Cerqueti, R., & Quattrociocchi, W. (2024).\nSeuraajamäärä ei määrää uutisvälineiden viralisuutta sosiaalisessa mediassa. PNAS Nexus\n, 3(7), s. 257. https://doi.org/10.1093/pnasnexus/pgae257\n
    • \n
  • Schlessinger, J., Garimella, K., Jakesch, M., & Eckles, D. (2023).\nAlgoritmisen trendien edistämisen vaikutukset: Todisteita Twitterin trendikkäiden aiheiden koordinoiduista kampanjoista. Proceedings of the International AAAI Conference on Web and Social Media (ICWSM)\n, 17(1), 777–786. https://doi.org/10.1609/icwsm.v17i1.22187\n
    • \n
  • Schöne, J. P., Parkinson, B., & Goldenberg, A. (2021).\nNegatiivisuus leviää Twitterissä positiivisuutta enemmän sekä positiivisten että negatiivisten poliittisten tilanteiden jälkeen. Affective Science\n, 2(4), 379–390. https://doi.org/10.1007/s42761-021-00057-7\n
    • \n
\n
\n
\n

Heijastusvaikutukset ja episteeminen pesu

\n

Prosessi, jossa tietoa, joka saa näkyvyyttä yhdessä tietoympäristössä – joko keinotekoisen vahvistamisen, trendien tai toimituksellisen valinnan kautta – poimitaan ja jaetaan edelleen muissa tietoympäristöissä tai tiedonhakujärjestelmissä, jolloin se tavoittaa yleisön alkuperäisen ympäristön ulkopuolella.

\n

Heijastusvaikutus voi tapahtua journalistisen raportoinnin, alustojen välisen jakamisen, toimituksellisen kuratoinnin tai käyttäjälähtöisen uudelleenjakelun kautta.

\n

→ Tieteellisellä foorumilla jaettu tutkimustulos saatetaan keskustella sosiaalisessa mediassa ja tiivistää tekoälyavustajan toimesta.
→ Sosiaalisen median alustalla botien keinotekoisesti vahvistama aihe saatetaan poimia uutisiksi.

\n

→ Heijastusvaikutukset voivat lisätä sekä luotettavan että epäluotettavan tiedon levinneisyyttä ja saada tiedon näyttämään vakiintuneemmalta kuin se alun perin oli.

\n

Episteeminen pesu

\n

Heijastusvaikutukset eivät aina säilytä tiedon näennäistä asemaa. Kun vastaanottava kanava välittää vahvempia viestejä auktoriteetista tai luotettavuudesta kuin alkuperäinen kanava – akateeminen muoto, vertaisarviointi, virallinen julkaisu – itse tietoa voidaan pitää luotettavampana pelkästään sen siirtymisen vuoksi. Tätä ilmiötä kutsutaan episteemiseksi pesuksi: tieto saa lisää luotettavuutta kulkiessaan kanavien välillä ilman, että sen taustalla olevat väitteet tai todisteet muuttuisivat. Se hyödyntää vastaanottajien taipumusta liittää sen kanavan luotettavuus, jossa he kohtaavat tiedon, itse tietoon.

\n

→ Anonyymistä blogikirjoituksesta peräisin oleva väite voidaan siteerata esipainoksessa, toistaa tekoälyn tuottamassa vastauksessa ja lopulta siteerata vertaisarvioidussa artikkelissa – jokaisessa vaiheessa se saa akateemista painoarvoa ja näennäistä auktoriteettia, vaikka taustalla oleva väite pysyy muuttumattomana tai vahvistamattomana.

\n
\n
\n\n

Göteborgin yliopiston lääketieteen tutkijan johtama tiimi keksi kuvitteellisen ihosairauden nimeltä Bixonimania testatakseen, omaksuisivatko ja toistaisivatko tekoälyjärjestelmät lääketieteellistä väärää tietoa. He esittivät sen oletettuna sairaudena, joka liittyy näyttöjen siniseen valoon, ja jonka oireita ovat silmien kipu ja kutina sekä silmäluomien vaaleanpunainen sävy. Sitten he loivat tarkoituksellisesti vääriä, akateemisilta näyttäviä preprintejä, joihin oli istutettu ilmeisiä varoitusmerkkejä – kuvitteellinen kirjoittaja tekoälyn luomalla valokuvalla, olematon yliopisto sekä viittaukset Starfleet Academyyn ja USS Enterpriseen. Nature raportoi, että preprintit on sittemmin poistettu Preprints.org-sivustolta. Muutamassa viikossa suuret tekoälypohjaiset chatbotit alkoivat toistaa Bixonimaniaa todellisena sairaudena, joissakin tapauksissa tarjoamalla käyttäjille selittäviä tai terveyteen liittyviä neuvoja. Samanaikaisesti väärennettyä materiaalia siteerattiin ainakin yhdessä julkaistussa artikkelissa, joka on sittemmin peruutettu, Springer Nature -kustantamon Cureus-lehdessä. Vaikutusketju: blogikirjoitukset → väärennetty preprint → verkkohakurobotit → tekoälychatbotin vastaukset → akateeminen viittaus

\n
\n
\n
\n
\n\n

Stokel-Walker, C. (2026). Tutkijat keksivät väärennetyn sairauden. Tekoäly kertoi ihmisille, että se oli todellinen. Nature, 652(8110), 559-561. https://doi.org/10.1038/d41586-026-01100-y

\n
\n
\n

Tiedon kaventuminen

\n

Kun tiedon vahvistaminen (edellä) kuvaa, kuinka näkyvyys laajenee käyttäjätilien välillä, tiedon kaventaminen kuvaa päinvastaista: kuinka yksittäisen käyttäjän tai sosiaalisen ryhmän näkökulmien kirjo kapenee. Kaksi erillistä mekanismia tuottaa tämän kaventumisen — suodatuskupla (algoritminen personointi) ja kaikukammio (käyttäjän itsensä valinta). Nämä kaksi sekoitetaan usein toisiinsa yleisessä keskustelussa, mutta ne toimivat eri tavalla.

\n

Suodatuskupla

\n

Suodatuskupla on algoritmisen personoinnin luoma eristetty tietoympäristö, jossa käyttäjä altistuu yhä enemmän sisällölle, joka vastaa hänen pääteltyjä mieltymyksiään ja aiempaa käyttäytymistään, kun taas poikkeava sisältö suodatetaan pois – tyypillisesti käyttäjän tietämättä. Termin keksi Eli Pariser (2011) kuvaamaan, kuinka Googleen, Facebookiin ja vastaaviin alustoihin rakennetut personointialgoritmit voivat tuottaa systemaattisia altistumisen epäsymmetrioita käyttäjän signaalien, kuten klikkaushistorian, sijainnin ja profiilitietojen, perusteella.

\n

Suodatuskuplan määrittelevä piirre on käyttäjän tahattomuus: rajoittuminen syntyy alustan optimoinnin seurauksena, ei käyttäjän tarkoituksellisesta lähteiden valinnasta.

\n
\n
\n\n

Empiirinen tutkimus on merkittävästi tarkentanut Pariserin alkuperäistä teesiä. Tutkimukset ovat osoittaneet, että algoritminen personointi vaikuttaa kyllä siihen, mitä käyttäjät näkevät, mutta useimmat käyttäjät kohtaavat silti ideologisesti monipuolista sisältöä – osittain siksi, että heidän omissa sosiaalisissa verkostoissaan on erilaisia näkemyksiä, ja osittain siksi, että algoritmit eivät eristä niin täydellisesti kuin yleinen keskustelu antaa ymmärtää (Bakshy ym., 2015; Flaxman ym., 2016; Bruns, 2019). Suodatuskuplavaikutus on todellinen, mutta tyypillisesti heikompi kuin yleisesti oletetaan; internetiä edeltävä valikoiva altistuminen (esim. sanomalehtien tai TV-kanavien valinta) oli monissa tapauksissa voimakkaampaa.

\n
\n
\n
\n
\n\n
    \n
  • Pariser, E. (2011). The Filter Bubble: What the Internet Is Hiding from You. Penguin Press.\n
    • \n
  • \nBakshy, E., Messing, S., & Adamic, L. A. (2015). Exposure to ideologically diverse news and opinion on Facebook. Science\n, 348(6239), 1130–1132. https://doi.org/10.1126/science.aaa1160\n
    • \n
  • \nFlaxman, S., Goel, S., & Rao, J. M. (2016). Suodatuskuplat, kaikukammiot ja uutisten kulutus verkossa. Public Opinion Quarterly\n, 80(S1), 298–320. https://doi.org/10.1093/poq/nfw006\n
    • \n
  • Bruns, A. (2019). Are Filter Bubbles Real? Polity Press.\n
    • \n
\n
\n
\n

Kaikukammio

\n

Kaikukammio on sosiaalinen informaatioympäristö, jossa käyttäjä altistuu pääasiassa mielipiteille, väitteille tai ideologioille, jotka vahvistavat hänen olemassa olevia uskomuksiaan, kun taas eriävät näkemykset puuttuvat, hylätään tai niitä aktiivisesti diskreditoidaan. Cass Sunstein (2017) kuvaa poliittisia seurauksia: kun ryhmät eristäytyvät ulkopuolisista näkökulmista, sisäiset uskomukset vahvistuvat ja muuttuvat ajan myötä äärimmäisemmiksi (ryhmien polarisoituminen).

\n

Toisin kuin suodatuskupla, joka syntyy algoritmisesta personoinnista, kaikukammio johtuu pääasiassa käyttäjän omasta valinnasta: valinnoista siitä, keitä seurata, mihin yhteisöihin liittyä, mihin lähteisiin luottaa ja mitkä äänet hylätä. Näitä valintoja ohjaa osittain vahvistusvinouma – kognitiivinen taipumus etsiä ja luottaa tietoon, joka on yhdenmukaista olemassa olevien uskomusten kanssa. Vahvistava vaikutus johtuu itse sosiaalisesta rakenteesta, ei näkymättömästä algoritmisesta suodatuksesta.

\n

C. Thi Nguyen (2020) tekee käsitteellisen eron, jolla on merkitystä puuttumiselle:

\n
    \n
  • Episteeminen kupla on sosiaalinen rakenne, jossa muut merkitykselliset äänet ovat yksinkertaisesti poissa. Sen asukkaat eivät kuule vastakkaisia näkökulmia, mutta eivät myöskään aktiivisesti hylkää niitä.\n
    • \n
  • Kaikukammio on tiukassa mielessä sosiaalinen rakenne, jossa muut merkitykselliset äänet aktiivisesti diskreditoidaan. Jäsenet saattavat kuulla vastakkaisia näkökulmia, mutta oppivat epäilemään niiden lähteitä.\n
    • \n
\n

Episteeminen kupla voidaan avata tuomalla siihen uutta tietoa; kaikukammio vastustaa korjausta jopa silloin, kun esitetään ulkoista näyttöä, koska kyseisen näytön lähteet on jo mitätöity.

\n
\n
\n\n

Empiiriset tutkimukset viittaavat siihen, että vahvat, ideologisesti eristetyt kaikukammiot ovat harvinaisempia kuin yleinen keskustelu antaa ymmärtää (Cinelli ym., 2021; Guess ym., 2018), mutta siellä missä niitä esiintyy, ne voivat olla erittäin vastustuskykyisiä korjauksille. Pelkkä ryhmän sisäinen yksimielisyys ei sinänsä ole kaikukammio – sen määrittelevä piirre on ulkopuolisten näkökulmien aktiivinen poissulkeminen tai diskreditointi.

\n
\n
\n
\n
\n\n
    \n
  • Sunstein, C. R. (2017). #Republic: Divided Democracy in the Age of Social Media. Princeton University Press.\n
    • \n
  • \nNguyen, C. T. (2020). Echo chambers and epistemic bubbles. Episteme\n, 17(2), 141–161. https://doi.org/10.1017/epi.2018.32\n
    • \n
  • \nCinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). Kaikukammioilmiö sosiaalisessa mediassa. PNAS\n, 118(9), e2023301118. https://doi.org/10.1073/pnas.2023301118\n
    • \n
  • Guess, A., Lyons, B., Nyhan, B., & Reifler, J. (2018). Kaikukammion välttäminen kaikukammioista: Miksi valikoiva altistuminen samanmielisille poliittisille uutisille on harvinaisempaa kuin luulet. Knight Foundationin raportti.\n
    • \n
\n
\n
","UPDATEDAT":"2026-05-08T06:56:38.108Z","LANG":"fi","ID":"3b24684f-982f-46f5-bc94-0c5e6b459760","TITLE":"Tiedon levittäminen ja näkyvyys","SOURCELANG":"en"}