{"CACHEDAT":"2026-05-18 11:26:43","TRANSLATEDAT":"2026-05-18 11:26:43","SOURCESIGNATURE":"e60b88bd6d7b3c71f7e12fe57b14f89a9e6878cc2949671a0bb004fa9e4abe88","SLUG":"information-circulation-visibility-7ESlNDSxYa","MARKDOWN":"# Information Visibility & Prominence\n\nInformation Visibility refers to whether — and how prominently — specific information items, topics, sources, or accounts appear to users in digital environments. Information that exists in a platform's index or network does not automatically reach all users, nor reach them in the same way. \n\nVisibility is the outcome of two interacting forces: \n\n* how information is circulated (sharing, redistribution, spread) and \n* how it is surfaced prominently, pushed down, or filtered out.\n\n\n:::warning\n**Distinguishing reliability and visibility is essential for information literacy.**\n\n* **Reliability** depends on who created an item (author) and how it was edited (editorial review) — not on whoever shared it, on the environment it appeared in, or on how prominently it was surfaced.\n* **Visibility** depends on who shares an item, on the mechanisms that surface it, and on the practices through which it is amplified. Visibility is not a measure of reliability.\n\nFor example, a retweeted article: the account that shared it and the platform that surfaced it influenced its visibility — but the article has its own author and editorial history, whose reliability must be assessed separately.\n\n:::\n\n# Information Circulation: Sharing, Forwarding, Linking, Reposting, Quoting\n\nPeople, accounts (including bots), and organisations circulate existing information items by sharing, forwarding, linking, reposting, quoting, or otherwise redistributing them.\n\n→ When an item is passed on with added commentary, interpretation, or reframing, a new information item is created with a new author.\n\n# Source-Driven Information Promotion & Visibility\n\nPractices initiated by sources — those who create, publish, or promote information items. Sources include individual users, content creators, organisations, advertisers, and website operators. Unlike platform-driven mechanisms, these practices are driven by the sources themselves, who decide how to make their content visible. They operate in two modes: by adapting content to the platforms' ranking systems (Reach, Direct Addressing, SEO, SMO, Platform-specific Optimisation), or by paying directly for placement (Paid Placements).\n\n## Account Reach\n\nThe size and structure of a sharer's potential audience.\n\nSeveral factors determine reach:\n\n* #### follower or subscriber count\n* #### verification status \n* #### account standing: age, engagement history, platform reputation\n\nReach affects visibility in two ways:\n\n* *directly*: items shared by high-reach accounts appear in more feeds at the moment of sharing\n* *indirectly*: high-reach accounts generate more engagement signals, which platform algorithms then use to elevate items in ranking (→ Algorithmic Gatekeeping)\n\n→ Reach varies widely: a private account with 100 followers and a public account with one million followers operate at fundamentally different scales of influence on visibility.\n\n## Direct Addressing\n\nMechanisms by which sharers target specific recipients, producing immediate prominence for those users through platform notifications.\n\nExamples:\n\n* #### @mentions\n* #### tagging (in photos, posts, or threads)\n* #### quote-tweets & reply-mentions\n* #### group direct messages\n* #### mailing-list addressing (To, CC)\n\n→ Direct addressing differs from regular sharing: the targeted user receives the item directly via notification, regardless of whether they would otherwise have encountered it through their feed.\n\n→ Direct addressing is a hybrid mechanism. It operates user-side, but functions through platform infrastructure (notification systems). Its effect is immediate prominence for the addressed user.\n\n## Search Engine Optimisation (SEO)\n\nSource-side practices to adapt **websites** — their content, metadata, and link structure — so that they rank more prominently in **general-purpose search engine results** (Google, Bing, DuckDuckGo, etc.).\n\nCommon practices include:\n\n* keyword research and integration in titles, headings, body text\n* metadata optimisation (title tags, meta descriptions, alt text)\n* link building (acquiring inbound links from authoritative sites)\n* site structure and internal linking\n* page speed and mobile-friendliness\n* producing content that matches search intent\n\n→ SEO is the most formalised optimisation discipline because search engine ranking signals are relatively stable and well-documented (Lewandowski et al.). Specialised SEO professionals, agencies, and tools support its practice.\n\n→ SEO does not change how search engines rank pages — it adapts the website to fit existing ranking criteria. Publishers can shape what the algorithm sees, not how it decides.\n\n## Social Media Optimisation (SMO)\n\nSource-side practices to maximise visibility, engagement, and shareability of content on social media platforms.\n\nCommon practices include:\n\n* hashtag strategies (trending or topic-specific tags)\n* posting timing (when target audiences are active)\n* content format choices (short video, carousels, reels)\n* headline and hook design (catching attention quickly)\n* encouraging engagement (questions, polls, calls to action)\n* cross-platform repurposing of content\n\n→ SMO is less formalised than SEO because social media ranking signals are more opaque and platform-specific. Practices shift as algorithms change.\n\n## Platform-Specific Optimisation\n\nOptimisation strategies tailored to the conventions and ranking logics of individual platforms — beyond general SEO or SMO principles.\n\n* TikTok: hooking viewers in the first three seconds, using trending sounds, vertical short-form video\n* Instagram: high-quality visuals, Reels-first strategy, hashtag mixing\n* YouTube: thumbnail design, watch-time optimisation, keyword-rich titles and descriptions\n* LinkedIn: long-form professional posts, native publishing, networked engagement\n* X (Twitter): concise hooks, threads, replying to high-reach accounts\n\n→ Platform-specific optimisation requires understanding each platform's ranking system, audience behaviour, and content format preferences. What works on TikTok rarely works on LinkedIn.\n\n## Paid Placements & Advertising\n\nSource-side practice of paying for visibility — sponsored content placed alongside organic content, typically through advertising.\n\nCommon forms:\n\n* sponsored search results (search engine ads)\n* sponsored posts and promoted content (social media)\n* display ads (banners, videos)\n* influencer partnerships (paid collaborations)\n\n→ Paid placements bypass organic ranking systems: instead of optimising content to rank well, the source pays the platform directly for placement.\n\n→ They are sometimes clearly labelled (\"Sponsored\", \"Ad\"), sometimes only weakly distinguishable from organic results. Labelling standards vary by jurisdiction and platform. \n\n# Platform-Side Information Promotion & Gatekeeping\n\n\n:::warning\nWhat users actually see is rarely the product of a single mechanism. In a search engine, an algorithmically ordered list of organic results is presented alongside paid placements, AI-generated summaries, and sometimes editorial highlights — and the underlying ranking signals can be deliberately influenced through *Search Engine Optimisation*. In a social media feed, algorithmically ranked posts appear next to sponsored content, recommended accounts, and trending overlays. Each component follows its own logic and contributes to a composite visibility outcome.\n\n:::\n\n## Editorial Curation\n\nPlatform-side manual curation: information items deliberately featured by editorial teams or platform operators rather than surfaced through algorithmic ranking.\n\nExamples:\n\n* featured Snippets in search results\n* curated trending sections\n* editor-selected stories in news aggregators\n* platform-promoted hashtags\n* Editor's Picks in app stores\n* featured creators or accounts\n\n→ Editorial highlights sit alongside the algorithmic mechanisms and reflect the platform's own judgements about which content deserves prominent display.\n\n→ Unlike algorithmic gatekeeping (curation and personalisation), editorial gatekeeping involve human editorial choices by the platform itself. Functionally, this is a form of *Editorial Gatekeeping* ) — performed by the platform rather than by traditional publishers.\n\n## Algorithmic Gatekeeping\n\n**Algorithmic Gatekeeping** refers to the role of algorithms in deciding which information items reach which users — the digital counterpart to *Editorial Gatekeeping* (→ Information, Sources & Information Environments → Editorial Review). It involves both **selection** (what is surfaced and ranked highly) and **exclusion** (what is filtered, demoted, or hidden).\n\nAlgorithmic gatekeeping operates across different platform types:\n\n* in **search engines**, algorithms select and order results based on queries\n* in **social media feeds**, algorithms decide which posts appear more prominently\n* in **video platforms**, algorithms suggest what to watch next\n* in **AI-based answer systems**, algorithms generate, summarise, or synthesise responses\n\nAlgorithmic gatekeeping operates in two modes that often work together: general operations applied across all users (*Algorithmic Curation*), and individual tailoring based on tracked user signals (*Algorithmic Personalisation*).\n\n### Algorithmic Curation\n\nGeneral algorithmic operations applied across users — they shape what information is available on the platform, regardless of who the user is.\n\n* **Crawling and Indexing** — *Which information items become available for display?*\n * search engines crawling the web\n * content aggregators indexing news sources\n * app stores cataloguing available apps\n* **Filtering and Moderation** — *Which items are blocked or down-ranked under platform rules?*\n * spam filters\n * removal of policy-violating content (hate speech, illegal content, graphic material)\n * down-ranking of low-quality or misleading material\n* **Quality Scoring** — *Which sources or items are evaluated as more credible or higher-quality?*\n * search engines penalising low-quality sites\n * news aggregators ranking by source authority\n * peer-review-influenced ranking on academic search engines\n* **Trending Detection** — *Which items are surfaced as currently popular?*\n * trending topics on social platforms\n * top charts on streaming services\n * \"What's happening\" and \"Today's headlines\" sections\n * popular hashtags\n\n→ Algorithmic curation defines the *pool* of information available on the platform. It largely operates the same way for all users.\n\n### Algorithmic Personalisation\n\nAlgorithmic operations that adapt the selection, order, and presentation of information to individual users based on their tracked signals. These signals accumulate over time into user histories that algorithms draw on.\n\n→ Two users on the same platform — even with the same query — typically see substantially different content.\n\n* **Personalised Ranking** — *Which items are ordered higher for this user?*\n * personalised search results (location, history, profile shape ordering)\n * social media feed ordering (\"For You\" feeds, \"Top posts\")\n * engagement-based ranking — optimisation for predicted interaction, dominant on social media\n* **Recommendations** — *Which items are suggested to this user beyond what they actively requested?*\n * \"Recommended for you\" video lists\n * suggested accounts, groups, or topics to follow\n * \"People you may know\"\n * related articles, similar products, \"Up next\"\n* **Personalised Advertising** — *Which adverts are targeted to this user?*\n * search ads tailored to past queries\n * social media sponsored posts based on profile and behaviour\n * retargeted display ads on websites\n * influencer partnerships matched to audience interests\n\n→ Two users on the same platform — even with the same query — typically see substantially different content.\n\n→ Personalisation creates a **feedback loop**: what users do affects what they see next, and what they see next can influence what they do.\n\n#### ☑ User Signals Tracked by the Platform for Algorithmic Personalisation\n\nActions a user performs — actively or passively — within an information channel that may be tracked and used by algorithms to personalise the selection and visibility of information items.\n\n→ User actions are not limited to deliberate interactions such as clicking or liking. Many actions are passive or automatic, such as how long a user stays on a page, how far they scroll, or where they are located. Users are often unaware that these actions influence what they encounter next.\n\n| Type | What it is | Examples |\n|------|------------|----------|\n| **Explicit feedback** | Deliberate interactions the user chooses to perform | - searches / search queries
- clicks
- likes / reactions
- comments / replies
- shares / reposts / forwards
- follows / subscribes
- saves / bookmarks
- ratings / reviews
- purchases / downloads |\n| **Implicit behaviour** | Passive behavioural signals captured during use | - watch time / listen time / dwell time
- scroll behaviour (how far, how fast)
- hover behaviour
- skip behaviour |\n| **Contextual data** | Information about the situation in which the user is accessing the platform | - user's location data while using the application
- device type (e.g., phone or laptop)
- time of access |\n| **Account and social data** | Information from the user's profile and social connections | - profile information (age, interests, profession, gender)
- language settings
- linked accounts
- contact list / address book |\n\n\n:::info\n* Adomavicius, G., & Tuzhilin, A. (2011). Context-aware recommender systems. In F. Ricci, L. Rokach, B. Shapira, & P. B. Kantor (Eds.), *Recommender Systems Handbook* (pp. 217–253). Springer. \n* Kelly, D., & Teevan, J. (2003). Implicit feedback for inferring user preference: A bibliography. *ACM SIGIR Forum, 37*(2), 18–28. \n* Li, W., Kuo, J.-C., Sheng, M., Zhang, P., & Wu, Q. (2025). Beyond explicit and implicit: How users provide feedback to shape personalized recommendation content. In *Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems (CHI '25)*. Association for Computing Machinery. \n* Narayanan, A. (2023). *Understanding social media recommendation algorithms.* Knight First Amendment Institute, Columbia University. \n\n:::\n\n# Information Amplification\n\nAmplification refers to the systematic boosting of an item's visibility beyond the individual-user level — to produce broad visibility across user accounts, and sometimes across information environments. \n\nWhere *Source-Driven Promotion* (above) covers what a single source itself does to gain visibility, and *Platform-Side Gatekeeping* (above) describes the algorithmic operations through which platforms surface and rank content for individual users, *Amplification* refers to the resulting *boost outcomes at scale* — produced either as the aggregate effect of those platform operations (→ *Algorithmic Amplification*) or through coordinated activity by multiple actors (→ *Coordinated Amplification*).\n\n## Amplification Mechanisms\n\nAmplification operates through two principal mechanisms.\n\n* **Algorithmic Amplification** is *platform-driven*: it is the aggregate effect of *Algorithmic Gatekeeping* — the cumulative outcome of platform curation and personalisation on which items reach which users and how prominently.\n* **Coordinated Amplification** is *actor-driven*: multiple accounts, groups, or campaigns deliberately act in concert to boost the visibility of an item, hashtag, or narrative beyond what individual user activity would produce. The literature classifies it along two dimensions — the **coordination** (transparent or concealed) and the **accounts** (real or fake) — and distinguishes accordingly (Rogers & Righetti, 2025):\n * **Coordinated Authentic Amplification**: coordination is transparent and accounts are real (e.g. open civic campaigns, advocacy, marketing).\n * **Coordinated Inauthentic / Artificial Amplification**: coordination is concealed, accounts are fake, or both — manufacturing an appearance of organic support (Meta's *Coordinated Inauthentic Behaviour* / CIB; Gleicher, 2018).\n\nThe two mechanisms frequently combine. Coordinated networks exploit engagement-based ranking to trigger algorithmic boosts; algorithmic ranking, in turn, compounds whatever visibility coordination has already produced.\n\n* \n:::info\n * Gleicher, N. (2018). *Coordinated Inauthentic Behavior Explained*. Meta Newsroom. \n * Rogers, R., & Righetti, N. (2025). Coordinated inauthentic behaviour on Facebook? A typology of manufactured attention. \n\n :::\n\n### Algorithmic Amplification\n\nAlgorithmic amplification is the cumulative effect of the gatekeeping mechanisms above (Curation and Personalisation): the systematic shaping of which items, topics, accounts, and formats appear prominently to users — and which are filtered, demoted, or pushed down.\n\nEmpirical research shows that engagement-based ranking systematically amplifies emotionally charged and out-group hostile content, even when users themselves do not prefer such content (Milli et al., 2025). It also compounds existing reach: accounts and items with high prior engagement are rewarded with further visibility, producing highly skewed reach distributions (rich-get-richer effect).\n\nAlgorithmic interventions can have nonlinear effects in the opposite direction as well. A reduction of around 20% in an item's feed prominence can cut its reach by an order of magnitude (Narayanan, 2023).\n\nAlgorithmic amplification is not a neutral reflection of user activity. Its effects are emergent and visible primarily in the aggregate: individual recommendations are imprecise (engagement rates remain below 1% on most platforms), but ranking, recommendation, and demotion systematically shape what circulates across the platform.\n\n\n:::info\n* Milli, S., et al. (2025). Engagement, user satisfaction, and the amplification of divisive content on social media. PNAS Nexus.\n\n\n* Narayanan, A. (2023). Understanding social media recommendation algorithms. Knight First Amendment Institute.\n\n:::\n\n### Coordinated Authentic Amplification\n\nCoordinated Authentic Amplification is the deliberate boosting of an information item, topic, hashtag, account, or narrative through openly disclosed, organised activity by real accounts. The coordinated origin is not concealed: participants act under their real identities or under known group affiliations.\n\nTypical contexts include \n\n* civic campaigns (e.g. NGO petitions, advocacy hashtags), \n* political mobilisation (e.g. party campaigning, get-out-the-vote efforts), \n* marketing and brand campaigns, \n* professional association communications, and \n* cultural movements such as Fridays for Future or #MeToo.\n\n\n:::warning\nWhether the underlying message is well-founded, balanced, or one-sided is a separate question — *authenticity* refers only to the transparency of the coordination, not to the truth-value or fairness of the content. An authentic campaign can amplify accurate information, misleading information, or a one-sided position.\n\n:::\n\n\n:::warning\nAuthentic and inauthentic coordination can produce visibility patterns that look identical from the outside — synchronised sharing, hashtag clustering, rapid uptake. The distinguishing feature is not the visible pattern but whether the coordinated origin is openly disclosed.\n\n:::\n\n### Coordinated Inauthentic / Artificial Amplification\n\nCoordinated Inauthentic / Artificial Amplification is the deliberate boosting of an information item, topic, hashtag, account, or narrative through organised activity in which the coordinated origin is concealed, the participating accounts are fake, or both. The aim is to manufacture an appearance of organic, independent support. Meta's term *Coordinated Inauthentic Behaviour* (CIB) — now incorporated into the EU Digital Services Act — centres on this combination of false identities and adversarial methods to evade detection (Gleicher, 2018; Rogers & Righetti, 2025).\n\nTypical contexts include political influence operations (state-sponsored or party-aligned), astroturfing campaigns (commercial or ideological), targeted disinformation around elections, public health, or geopolitical conflict, and reputation manipulation through fake reviews, ratings, or engagement. The operational means — *bots*, *trolls*, *sockpuppets*, and their coordinated networks (*bot farms*, *troll farms*, *sockpuppet networks*, *click farms*) — are described in detail below.\n\n\n:::warning\n*Inauthenticity* refers to the concealment of the coordinated origin or the use of fake accounts — not to the truth-value of the content being amplified. A coordinated network of fake accounts can amplify accurate information; a single authentic individual can spread fabricated information. Coordinated inauthentic amplification and the spread of false content are distinct phenomena that can occur independently or together.\n\n:::\n\nThe following account types described in this section apply across Digital Information Channels & Platforms where users can create accounts and post or interact publicly — particularly social media, discussion forums and community spaces, video and audio platforms, and review or comment sections. They are less prominent in private communication apps or in environments without user-generated content.They appear both independently and within coordinated networks. They are listed here because of their typical role in amplification dynamics; the explicitly coordinated formations are the Account Networks.\n\n| Term | Definition | Controlled by | Defined by | Typical purpose |\n|------|------------|---------------|------------|-----------------|\n| **Social Bot** | An automated or partly automated account that posts, likes, follows, shares, or replies online. | Software | **Automation** | To amplify messages, create artificial popularity, spam, influence debate, or spread content at scale. |\n| **Cyborg** | A hybrid account combining human operation with software automation. | Mixed: human and software | **Selective automation** | To combine the scale of automation with the contextual plausibility of human input — for legitimate scheduling/management or for harder-to-detect influence operations. |\n| **Troll** | A person or account that deliberately provokes, disrupts, or inflames online discussion. | Usually a human user; sometimes coordinated groups | **Disruptive / provocative / antagonistic behaviour** | To upset others, derail conversations, provoke reactions, spread hostility, or polarise debate. |\n| **Sockpuppet** | A fake account used by someone to hide their real identity or pretend to be a different person. | A human user, though the account may also use automation | **Deceptive identity** | To create false support, attack others anonymously, evade bans, manipulate debate, or give the impression of independent agreement. |\n\n#### Social Bot\n\nA **social bot** is a bot designed to operate on social media platforms, posting, commenting, sharing, or interacting in ways that simulate human users. Social bots are typically programmed to act at scale and at high speed, far beyond what a human user could manage. Their activity is often repetitive and coordinated across many accounts, which distinguishes it from normal human use.\n\nSocial bots can be used for legitimate purposes — such as customer service, news distribution, or marketing — but they are also widely used to influence public opinion, amplify certain messages, manipulate discussions, or manufacture the appearance of widespread support for specific ideas, products, or causes. In the context of misinformation and disinformation, social bots play a particular role in spreading content rapidly and giving the false impression that many independent voices share the same view.\n\nWhen social bots are deployed in coordinated networks, they form a *Bot Farm*.\n\n\n:::info\n#### Bot\n\nA bot is a computer programme that automatically performs tasks, often repetitive ones. Bots range from simple, harmless tools — such as web crawlers that index pages for search engines, automated testing systems, or chatbots that answer routine customer questions — to malicious programmes designed to spread spam, malware, or disinformation.\n\n:::\n\n#### Cyborg\n\nA **cyborg** is a hybrid account that is partly operated by a human and partly automated by software. A cyborg may have routine posts scheduled or generated by software while a person handles selected interactions, replies, or sensitive content. The balance between automated and human activity varies between accounts.\n\nCyborgs can be used for legitimate purposes — such as content scheduling, brand or institutional account management, or hybrid customer service — but they are also used in influence operations to combine the scale and speed of automation with the contextual plausibility of human input.\n\nCyborgs are more difficult to identify than purely automated bots because part of their behaviour is genuinely human, which means single detection indicators rarely suffice for reliable identification.\n\n#### Troll\n\nA **troll** is a real person who deliberately disrupts online discussions through provocative, aggressive, or hostile behaviour. Trolls typically use personal accounts and target controversial issues, public figures (such as politicians or journalists), or media organisations. Their aim is to upset others, trigger reactions, or escalate conflicts — sometimes in support of a particular agenda, sometimes for entertainment or attention.\n\nWhile trolls often act independently, they may also operate in coordinated groups, sometimes paid by political or commercial actors (see *Troll Farm* under Mechanisms of Amplification).\n\n**Trolling is best understood as a pattern of online behaviour, not a specific kind of account.** The same behaviour can be performed by automated accounts, and ordinary users can engage in trolling on occasion.\n\n#### Sockpuppet\n\nA **sockpuppet** is a fake online identity created and operated by a real person who hides their true identity. Unlike trolls — who often act under a single openly hostile account — a sockpuppet operator typically runs multiple fake accounts in parallel to create the impression that several independent users hold the same opinion, support the same cause, or agree with the operator's own (often separate) main account.\n\nSockpuppets are commonly used to manufacture artificial consensus, support one's own arguments under different names, attack opponents while appearing impartial, evade bans by creating new identities after suspension, or manipulate online reviews, votes, and polls.\n\nSockpuppets differ from social bots in that they are manually operated by humans, which makes their content more contextually plausible and harder to detect through automated means. They differ from trolls in that their primary goal is deception about identity and the manufacturing of apparent consensus, not provocation — although sockpuppet operators can also engage in trolling behaviour through their fake identities.\n\nWhen a person or small group operates a coordinated set of sockpuppets together, they form a *Sockpuppet Network* (see Mechanisms of Amplification).\n\n#### ☑ Differentiating Social Bots, Trolls, and Sockpuppets\n\n| **Detection Dimension** | **Social Bots** | **Trolls** | **Sockpuppets** |\n|---------------------|-------------|--------|-------------|\n| **Profile Characteristics** | - [ ] The account looks newly created
- [ ] The profile is incomplete or generic
- [ ] The username may look non-personal and sometimes include random numbers | - [ ] The account has typically been active for longer and has a post history
- [ ] The profile is complete and seems personal; it may present strong ideological or political self-description
- [ ] The username looks personal | - [ ] The profile looks plausible and personal, often with a profile picture and biographical details (sometimes stolen, AI-generated, or copied)
- [ ] Account history may be moderate and designed to look authentic over time |\n| **Posting Behaviour** | - [ ] The activity does not match normal human online behaviour
- [ ] The accounts post or repost content very frequently
- [ ] The accounts post or repost content at all hours, day and night | - [ ] The activity resembles normal human online behaviour
- [ ] The account posts or replies at irregular times
- [ ] The account becomes more active during controversial discussions | - [ ] Activity patterns resemble normal human use
- [ ] Multiple accounts run by the same operator may show similar active hours or rhythms
- [ ] Sockpuppets tend to start fewer discussions and write shorter posts than typical users |\n| **Interactions** | - [ ] The account does not have real conversations
- [ ] The accounts mostly like, share, or repost
- [ ] Replies are short and automated | - [ ] The account replies directly to other users
- [ ] The account engages in debates with the purpose of provoking reactions
- [ ] Conversations are extended to create or escalate conflict | - [ ] The account engages in real conversations, often supporting the operator's main account or other sockpuppets
- [ ] Replies are contextually appropriate and seem authentic
- [ ] Pairs of sockpuppets often interact in the same discussion at similar times |\n| **Content Features** | - [ ] The content is one-sided and repetitive
- [ ] The same narratives are posted many times | - [ ] The content is specifically tailored to harm or provoke a target
- [ ] The content targets individuals or social groups | - [ ] Content seems genuine and varied across accounts
- [ ] The underlying message or stance aligns suspiciously across the network
- [ ] More frequent use of personal pronouns such as \"I\" |\n| **Language** | - [ ] Generic expressions, repetitive phrasing with keywords | - [ ] Varied, emotional, often abusive or offensive language | - [ ] Natural and varied language
- [ ] Multiple accounts may share linguistic fingerprints (similar phrasing, vocabulary, punctuation, or error patterns) |\n| **Network & Technical Indicators** | - [ ] Social bots follow other social bots, but the relationship is typically one-way and not reciprocal
- [ ] Coordinated behaviour is observable across multiple bot accounts | - [ ] Trolls follow human accounts
- [ ] Connections are often reciprocal (they follow their followers and vice versa)
- [ ] Trolls typically act independently of each other | - [ ] Multiple accounts engaging with each other in mutually supportive ways
- [ ] Connections may be artificially reciprocal between sockpuppets in the same network, or deliberately absent to avoid detection
- [ ] Same IP address, device fingerprint, or login pattern \\\\\\*(platform-side detection)\\\\\\*
- [ ] More clustered ego-networks than ordinary users
- [ ] Correlated activity timing across accounts |\n\n\n\n:::info\n* Ferrara, E. (2023). Social bot detection in the age of ChatGPT: Challenges and opportunities. *First Monday, 28*(6). \n* Kumar, S., Cheng, J., Leskovec, J., & Subrahmanian, V. S. (2017). An army of me: Sockpuppets in online discussion communities. *Proceedings of the 26th International Conference on World Wide Web (WWW '17)*, 857–866. \n* Orabi, M., Mouheb, D., Al Aghbari, Z., & Kamel, I. (2020). Detection of bots in social media: A systematic review. *Information Processing & Management, 57*(4), 102250. \n* Solorio, T., Hasan, R., & Mizan, M. (2013). A case study of sockpuppet detection in Wikipedia. *Proceedings of the Workshop on Language Analysis in Social Media (LASM) at NAACL-HLT*, 59–68. Association for Computational Linguistics. \n* Tomaiuolo, M., Lombardo, G., Mordonini, M., Cagnoni, S., & Poggi, A. (2020). A survey on troll detection. *Future Internet, 12*(2), \n* Tsikerdekis, M., & Zeadally, S. (2014). Multiple account identity deception detection in social media using nonverbal behavior. *IEEE Transactions on Information Forensics and Security, 9*(8), 1311–1321. \n* Uyheng, J., Moffitt, J. D., & Carley, K. M. (2022). The language and targets of online trolling: A psycholinguistic approach for social cybersecurity. *Information Processing & Management, 59*(5), 103012. \n\n:::\n\n#### Account Networks\n\n#### Bot Farm\n\nA **bot farm** is a network of bots operating simultaneously across multiple devices or servers, deployed by a single operator or organisation for a particular purpose.\n\nBot farms have a range of legitimate uses, including web indexing, automated software testing, data aggregation, and website performance monitoring. However, they are also commonly used for malicious activities such as creating fake engagement, generating large volumes of content, distributing spam, or carrying out cybersecurity attacks. When used to manipulate online discourse, bot farms can create the false impression of widespread support, opposition, or interest in a topic, account, or campaign.\n\n#### Troll Farm\n\nA **troll farm** is an organised group of coordinated, often paid workers who post deliberately provocative, misleading, or false content online — typically through fake accounts. Their aim is usually to manipulate public opinion, spread disinformation, or create social and political unrest. Troll farms have been documented in connection with state-sponsored influence operations as well as commercial reputation manipulation.\n\n#### Sockpuppet Network\n\nA sockpuppet network is a coordinated set of sockpuppet accounts operated by one person or a small group, used to simulate independent voices supporting a shared narrative, campaign, account, or cause. Sockpuppet networks are commonly used in political astroturfing, review and rating manipulation, and coordinated disinformation campaigns. Unlike bot farms, sockpuppet networks rely on manual operation by humans, which makes the content of individual accounts appear more authentic and harder to detect through automated means. Their coordination usually becomes detectable only when multiple accounts can be linked through behavioural patterns, shared technical signals, or mutual engagement.\n\n#### Click Farm\n\nA **click farm** is an operation where large numbers of low-paid workers, automated bots, or both are used to click on ads, follow social media accounts, like posts, leave reviews, or download apps. The goal is to artificially boost online engagement or traffic, making content, accounts, or products appear more popular than they actually are.\n\n## Phenomena\n\n#### ☑ Virality vs. Trending\n\n| Feature | Virality | Trending |\n|---------|----------|----------|\n| **What is being spread** | A single information item: a specific video, post, image, or other piece of content | A topic, hashtag, sound, format, or discussion cluster: not one specific item, but many posts referring to or using the same thing |\n| **Primary drivers** | Users share, repost, or forward the information item to others, who in turn pass it along; this cascading spread can be further amplified by recommendation algorithms | Many users post about, mention, or use the same topic, hashtag, or format within a short time; the platform detects this concentration of activity and highlights it in a dedicated \"Trending\" section (such as a trending topics list, trending hashtag overview, or trending sounds page) |\n| **Time pattern** | Often short and explosive; may recur later | Time-bound; persists as long as activity stays high or the platform keeps surfacing it |\n| **How it can be manipulated** | Coordinated sharing, bot amplification, artificial engagement directed at the specific information item | Coordinated posting campaigns, manufactured fake trends through bot networks, platform decisions to promote, filter, or suppress |\n\n*Both virality and trending can emerge organically or be artificially amplified through coordinated campaigns, bot activity, or platform decisions. Both can also give an advantage to emotionally arousing, morally charged, or divisive content, especially in political or conflict-oriented contexts.*\n\n### Virality\n\nThe pattern by which a specific information item spreads rapidly through sharing, recommendation, and re-circulation across networks, analogous to the way a virus propagates. Virality is shaped by content characteristics, social network structures, platform affordances, timing, and algorithmic amplification. \n\nContent that evokes high-arousal emotions, moral reactions, or out-group animosity is often more likely to be shared, especially in political or conflict-oriented contexts. However, virality is not determined only by the size of the original source: smaller accounts or outlets can also produce highly viral items. \n\nVirality can emerge organically, but it can also be artificially amplified through coordinated sharing, platform manipulation, or bot activity.\n\n### Trending\n\nA platform-assigned status indicating that a topic, hashtag, sound, format, or discussion cluster has received unusually concentrated activity within a short period. \n\nTrending is identified algorithmically and surfaced through platform features such as X / Twitter Trending Topics, trending hashtags, trending sounds, trending challenges, or other platform-specific trend features. Trending depends on platform-specific signals such as post volume, rate of increase, engagement, location, personalisation, and moderation filters. \n\nTopics that generate high engagement — including divisive, emotionally arousing, or morally charged topics — may be more likely to trend, but this depends on the platform's ranking system and moderation rules. \n\nTrending can emerge organically from many independent contributions, but it can also be influenced by coordinated campaigns, bot activity, or platform decisions about what to promote, filter, moderate, or suppress.\n\n\n:::info\n* **Berger, J. (2013).** *Contagious: Why Things Catch On.* New York: Simon & Schuster.\n* **Berger, J., & Milkman, K. L. (2012).** What makes online content viral? *Journal of Marketing Research*, 49(2), 192–205. \n* **Brady, W. J., McLoughlin, K., Doan, T. N., & Crockett, M. J. (2021).** How social learning amplifies moral outrage expression in online social networks. *Science Advances*, 7(33), eabe5641. \n* **Jenkins, H., Ford, S., & Green, J. (2013).** *Spreadable Media: Creating Value and Meaning in a Networked Culture.* New York: NYU Press.\n* **Lee, J., & Umback, J. (2026).** The viral turn: rethinking virality in the creator economy on TikTok. *Continuum*, 1–26. \n* **Maarouf, A., Pröllochs, N., & Feuerriegel, S. (2024).** The virality of hate speech on social media. *Proceedings of the ACM on Human-Computer Interaction*, 8 (CSCW1), 1–22. \n* **Rathje, S., Van Bavel, J. J., & van der Linden, S. (2021).** Out-group animosity drives engagement on social media. *Proceedings of the National Academy of Sciences*, 118(26), e2024292118. \n* **Rathje, S., & Van Bavel, J. J. (2025).** The psychology of virality. *Trends in Cognitive Sciences*, 29(10), 914–927. \n* **Rogers, E. M. (2003).** *Diffusion of Innovations* (5th ed.). New York: Free Press.\n* **Sangiorgio, E., Cinelli, M., Cerqueti, R., & Quattrociocchi, W. (2024).** Followers do not dictate the virality of news outlets on social media. *PNAS Nexus*, 3(7), pgae257. \n* **Schlessinger, J., Garimella, K., Jakesch, M., & Eckles, D. (2023).** Effects of Algorithmic Trend Promotion: Evidence from Coordinated Campaigns in Twitter's Trending Topics. *Proceedings of the International AAAI Conference on Web and Social Media (ICWSM)*, 17(1), 777–786. \n* **Schöne, J. P., Parkinson, B., & Goldenberg, A. (2021).** Negativity spreads more than positivity on Twitter after both positive and negative political situations. *Affective Science*, 2(4), 379–390. \n\n:::\n\n### Spill-Over Effects & Epistemic Laundering\n\nThe process by which information that gains visibility within one information environment — whether through artificial amplification, trending, or editorial selection — is picked up and further distributed in other information environments or information access sytsems, thereby reaching audiences beyond the original environment. \n\nSpill-over can occur through journalistic reporting, cross-platform sharing, editorial curation, or user-driven redistribution. \n\n→ A research finding shared on a scholarly forum may be discussed on social media and summarised by an AI assistant. \\n→ A topic artificially amplified by bots on a social media platform may be picked up by journalists. \n\n→ Spill-over effects can increase the reach of both reliable and unreliable information, and can make information appear more widely established than it originally was. \n\n#### Epistemic Laundering\n\nSpill-over does not always preserve the apparent status of information. When the receiving channel carries stronger signals of authority or reliability than the channel of origin — academic format, peer review, formal publication — the information itself can be perceived as more reliable simply through having moved. This effect is known as Epistemic Laundering: information gains perceived reliability through its passage across channels, without any actual change to the underlying claims or evidence. It exploits the tendency of recipients to attribute the reliability of the channel in which they encounter information to the information itself. \n\n→ A claim originating in an anonymous blog post may be cited in a preprint, reproduced in an AI-generated answer, and finally cited in a peer-reviewed paper — at each step gaining academic surface and apparent authority, while the underlying claim remains unchanged or unverified.\n\n\n:::success\nA team at the University of Gothenburg, led by a medical researcher, invented a fake skin condition called Bixonimania to test whether AI systems would absorb and repeat medical misinformation. They presented it as a supposed condition linked to blue-light exposure from screens, with symptoms such as sore, itchy eyes and a pinkish hue on the eyelids. They then created deliberately fake academic-looking preprints, planted with obvious warning signs — a fictional author with an AI-generated photo, a non-existent university, and references to Starfleet Academy and the USS Enterprise. Nature reported that the preprints have since been removed from Preprints.org.\n\nWithin weeks, major AI chatbots began reproducing Bixonimania as a real medical condition, in some cases offering users explanatory or health-related advice. In parallel, the fake material was cited in at least one published paper, since retracted, in the Springer Nature journal *Cureus*.\n\nSpill-over: log posts → fake preprint → webcrawlers → AI chatbot answers → academic citation\n\n:::\n\n\n:::info\nStokel-Walker, C. (2026). Scientists invented a fake disease. AI told people it was real. Nature, 652(8110), 559-561. \n\n:::\n\n# Information Narrowing\n\nWhereas *Information Amplification* (above) describes how visibility is broadened across user accounts, *Information Narrowing* describes the inverse: how the range of perspectives reaching an individual user or social group becomes restricted. Two distinct mechanisms produce this narrowing — *Filter Bubble* (algorithmic personalisation) and *Echo Chamber* (user self-selection). The two are often conflated in popular discourse but operate differently.\n\n## Filter Bubble\n\nA **filter bubble** is an isolated information environment created by *Algorithmic Personalisation*, in which a user is increasingly exposed to content that aligns with their inferred preferences and past behaviour, while content that diverges is filtered out — typically without the user's awareness. The term was coined by Eli Pariser (2011) to describe how personalisation algorithms on Google, Facebook, and similar platforms can produce systematic exposure asymmetries based on user signals such as click history, location, and profile data.\n\nThe defining feature of a filter bubble is *unintentionality from the user's side*: the narrowing is generated by the platform's optimisation, not by the user's deliberate choice of sources.\n\n\n:::warning\nEmpirical research has substantially qualified Pariser's original thesis. Studies have found that algorithmic personalisation does shape what users see, but most users still encounter ideologically diverse content — partly because their own social networks include varied views, and partly because algorithms do not isolate as completely as the popular discourse suggests (Bakshy et al., 2015; Flaxman et al., 2016; Bruns, 2019). The filter-bubble effect is real but typically weaker than commonly assumed; pre-internet selective exposure (e.g., choosing newspapers or TV channels) was in many cases stronger.\n\n:::\n\n\n:::info\n* Pariser, E. (2011). *The Filter Bubble: What the Internet Is Hiding from You*. Penguin Press.\n* Bakshy, E., Messing, S., & Adamic, L. A. (2015). Exposure to ideologically diverse news and opinion on Facebook. *Science*, 348(6239), 1130–1132. \n* Flaxman, S., Goel, S., & Rao, J. M. (2016). Filter bubbles, echo chambers, and online news consumption. *Public Opinion Quarterly*, 80(S1), 298–320. \n* Bruns, A. (2019). *Are Filter Bubbles Real?* Polity Press.\n\n:::\n\n## Echo Chamber\n\nAn **echo chamber** is a social information environment in which a user is primarily exposed to opinions, claims, or ideologies that reinforce their existing beliefs, while dissenting views are absent, dismissed, or actively discredited. Cass Sunstein (2017) describes the political consequences: when groups insulate themselves from outside perspectives, internal beliefs intensify and become more extreme over time (group polarisation).\n\nUnlike *Filter Bubble*, which arises from algorithmic personalisation, an echo chamber results primarily from **user self-selection**: choices about whom to follow, which communities to join, which sources to trust, and which voices to dismiss. These choices are partly driven by *Confirmation Bias* — the cognitive tendency to seek out and trust information that aligns with existing beliefs. The reinforcing effect comes from the social structure itself, not from invisible algorithmic filtering.\n\nC. Thi Nguyen (2020) draws a conceptual distinction that matters for intervention:\n\n* An **epistemic bubble** is a social structure in which other relevant voices are simply *absent*. Its inhabitants do not hear opposing perspectives, but they do not actively reject them.\n* An **echo chamber** in the strict sense is a social structure in which other relevant voices are *actively discredited*. Members may hear opposing perspectives but learn to distrust their sources.\n\nAn epistemic bubble can be opened by introducing new information; an echo chamber resists correction even when external evidence is presented, because the sources of that evidence have already been delegitimised.\n\n\n:::warning\nEmpirical work suggests that strong, ideologically isolated echo chambers are less common than popular discourse implies (Cinelli et al., 2021; Guess et al., 2018), but where they exist, they can be highly resistant to correction. Mere agreement within a group is not in itself an echo chamber — the defining feature is the active exclusion or discrediting of outside perspectives.\n\n:::\n\n\n:::info\n* Sunstein, C. R. (2017). *#Republic: Divided Democracy in the Age of Social Media*. Princeton University Press.\n* Nguyen, C. T. (2020). Echo chambers and epistemic bubbles. *Episteme*, 17(2), 141–161. \n* Cinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). The echo chamber effect on social media. *PNAS*, 118(9), e2023301118. \n* Guess, A., Lyons, B., Nyhan, B., & Reifler, J. (2018). *Avoiding the Echo Chamber about Echo Chambers: Why Selective Exposure to Like-minded Political News Is Less Prevalent Than You Think*. Knight Foundation White Paper.\n\n:::","HTML":"

Sichtbarkeit und Prominenz von Informationen

\n

Die Sichtbarkeit von Informationen bezieht sich darauf, ob – und wie prominent – bestimmte Informationen, Themen, Quellen oder Konten den Nutzern in digitalen Umgebungen angezeigt werden. Informationen, die im Index oder Netzwerk einer Plattform vorhanden sind, erreichen nicht automatisch alle Nutzer und auch nicht auf dieselbe Weise.

\n

Sichtbarkeit ist das Ergebnis zweier miteinander wechselwirkender Kräfte:

\n
    \n
  • wie Informationen verbreitet werden (Teilen, Weiterverbreitung, Verbreitung) und\n
    • \n
  • wie sie prominent hervorgehoben, nach unten verschoben oder herausgefiltert werden.\n
    • \n
\n
\n
\n\n

Die Unterscheidung zwischen Zuverlässigkeit und Sichtbarkeit ist für die Informationskompetenz von entscheidender Bedeutung.

\n
    \n
  • Zuverlässigkeit hängt davon ab, wer einen Beitrag erstellt hat (Autor) und wie er bearbeitet wurde (redaktionelle Überprüfung) – nicht davon, wer ihn geteilt hat, in welchem Umfeld er erschien oder wie prominent er hervorgehoben wurde.\n
    • \n
  • Sichtbarkeit hängt davon ab, wer einen Beitrag teilt, von den Mechanismen, die ihn hervorheben, und von den Praktiken, durch die er verstärkt wird. Sichtbarkeit ist kein Maß für Zuverlässigkeit.\n

    Beispielsweise ein retweeteter Artikel: Der Account, der ihn geteilt hat, und die Plattform, auf der er angezeigt wurde, haben seine Sichtbarkeit beeinflusst – aber der Artikel hat seinen eigenen Autor und seine eigene redaktionelle Geschichte, deren Zuverlässigkeit separat bewertet werden muss.

    \n
    • \n
\n
\n
\n

Informationsverbreitung: Teilen, Weiterleiten, Verlinken, Reposten, Zitieren

\n

Personen, Konten (einschließlich Bots) und Organisationen verbreiten bestehende Informationselemente, indem sie diese teilen, weiterleiten, verlinken, erneut posten, zitieren oder auf andere Weise weiterverbreiten.

\n

→ Wenn ein Beitrag mit zusätzlichen Kommentaren, Interpretationen oder einer neuen Einordnung weitergegeben wird, entsteht ein neuer Informationsbeitrag mit einem neuen Autor.

\n

Quellengesteuerte Informationsförderung und Sichtbarkeit

\n

Praktiken, die von Quellen initiiert werden – also von denjenigen, die Informationselemente erstellen, veröffentlichen oder bewerben. Zu den Quellen gehören einzelne Nutzer, Content-Ersteller, Organisationen, Werbetreibende und Website-Betreiber. Im Gegensatz zu plattformgesteuerten Mechanismen werden diese Praktiken von den Quellen selbst gesteuert, die entscheiden, wie sie ihre Inhalte sichtbar machen. Sie funktionieren auf zwei Arten: durch Anpassung der Inhalte an die Ranking-Systeme der Plattformen (Reichweite, Direktansprache, SEO, SMO, plattformspezifische Optimierung) oder durch direkte Bezahlung für die Platzierung (bezahlte Platzierungen).

\n

Reichweite des Accounts

\n

Die Größe und Struktur des potenziellen Publikums eines Teilenden.

\n

Mehrere Faktoren bestimmen die Reichweite:

\n
    \n
  • #### Anzahl der Follower oder Abonnenten\n
    • \n
  • #### Verifizierungsstatus\n
    • \n
  • #### Status des Kontos: Alter, Interaktionsverlauf, Ruf auf der Plattform\n
    • \n
\n

Die Reichweite beeinflusst die Sichtbarkeit auf zwei Arten:

\n
    \n
  • direkt: Beiträge, die von Konten mit hoher Reichweite geteilt werden, erscheinen zum Zeitpunkt des Teilens in mehr Feeds\n
    • \n
  • indirekt: Konten mit hoher Reichweite generieren mehr Interaktionssignale, die Plattformalgorithmen dann nutzen, um Beiträge im Ranking nach oben zu bringen (→ Algorithmisches Gatekeeping)\n
    • \n
\n

→ Die Reichweite variiert stark: Ein privates Konto mit 100 Followern und ein öffentliches Konto mit einer Million Followern haben einen grundlegend unterschiedlichen Einfluss auf die Sichtbarkeit.

\n

Direkte Ansprache

\n

Mechanismen, mit denen Nutzer bestimmte Empfänger gezielt ansprechen und diesen durch Plattformbenachrichtigungen sofortige Aufmerksamkeit verschaffen.

\n

Beispiele:

\n
    \n
  • #### @Erwähnungen\n
    • \n
  • #### Tagging (in Fotos, Beiträgen oder Threads)\n
    • \n
  • #### Zitat-Tweets & Antwort-Erwähnungen\n
    • \n
  • #### Gruppen-Direktnachrichten\n
    • \n
  • #### Adressierung in Mailinglisten (An, CC)\n
    • \n
\n

→ Die direkte Adressierung unterscheidet sich vom regulären Teilen: Der adressierte Nutzer erhält den Beitrag direkt per Benachrichtigung, unabhängig davon, ob er ihn sonst über seinen Feed gesehen hätte.

\n

→ Die direkte Ansprache ist ein hybrider Mechanismus. Sie erfolgt auf Benutzerebene, funktioniert jedoch über die Plattforminfrastruktur (Benachrichtigungssysteme). Ihre Wirkung ist eine sofortige Hervorhebung für den angesprochenen Nutzer.

\n

Suchmaschinenoptimierung (SEO)

\n

Quellseitige Maßnahmen zur Anpassung von Websites – deren Inhalt, Metadaten und Linkstruktur –, damit sie in den Ergebnissen allgemeiner Suchmaschinen (Google, Bing, DuckDuckGo usw.) besser ranken.

\n

Zu den gängigen Praktiken gehören:

\n
    \n
  • Keyword-Recherche und Integration in Titel, Überschriften und Fließtext\n
    • \n
  • Metadatenoptimierung (Titel-Tags, Meta-Beschreibungen, Alt-Text)\n
    • \n
  • Linkaufbau (Gewinnung von eingehenden Links von autoritativen Websites)\n
    • \n
  • Websitestruktur und interne Verlinkung\n
    • \n
  • Seitengeschwindigkeit und Mobilfreundlichkeit\n
    • \n
  • Erstellung von Inhalten, die der Suchabsicht entsprechen\n
    • \n
\n

→ SEO ist die am stärksten formalisierte Optimierungsdisziplin, da die Ranking-Signale von Suchmaschinen relativ stabil und gut dokumentiert sind (Lewandowski et al.). Spezialisierte SEO-Experten, Agenturen und Tools unterstützen die Umsetzung.

\n

→ SEO verändert nicht, wie Suchmaschinen Seiten bewerten – es passt die Website an bestehende Ranking-Kriterien an. Publisher können beeinflussen, was der Algorithmus sieht, nicht wie er entscheidet.

\n

Social-Media-Optimierung (SMO)

\n

Maßnahmen auf Seiten der Quelle zur Maximierung der Sichtbarkeit, Interaktion und Teilbarkeit von Inhalten auf Social-Media-Plattformen.

\n

Zu den gängigen Praktiken gehören:

\n
    \n
  • Hashtag-Strategien (Trend- oder themenspezifische Tags)\n
    • \n
  • Zeitpunkt der Veröffentlichung (wenn die Zielgruppen aktiv sind)\n
    • \n
  • Auswahl des Inhaltsformats (kurze Videos, Karussells, Reels)\n
    • \n
  • Gestaltung von Überschriften und Aufhängern (schnelle Aufmerksamkeit erregen)\n
    • \n
  • Förderung der Interaktion (Fragen, Umfragen, Handlungsaufforderungen)\n
    • \n
  • Plattformübergreifende Wiederverwendung von Inhalten\n
    • \n
\n

→ SMO ist weniger formalisiert als SEO, da die Ranking-Signale in sozialen Medien undurchsichtiger und plattformspezifischer sind. Die Vorgehensweisen ändern sich mit den Algorithmen.

\n

Plattformspezifische Optimierung

\n

Optimierungsstrategien, die auf die Konventionen und Ranking-Logiken einzelner Plattformen zugeschnitten sind – über allgemeine SEO- oder SMO-Prinzipien hinaus.

\n
    \n
  • TikTok: Zuschauer in den ersten drei Sekunden fesseln, Trend-Sounds nutzen, vertikale Kurzvideos\n
    • \n
  • Instagram: hochwertige Bilder, Reels-First-Strategie, Hashtag-Mix\n
    • \n
  • YouTube: Gestaltung der Vorschaubilder, Optimierung der Wiedergabezeit, titel und Beschreibungen mit vielen Schlüsselwörtern\n
    • \n
  • LinkedIn: Langform-Beiträge für Fachpublikum, Native Publishing, vernetztes Engagement\n
    • \n
  • X (Twitter): prägnante Aufhänger, Threads, Antworten auf Accounts mit hoher Reichweite\n
    • \n
\n

→ Plattformspezifische Optimierung erfordert ein Verständnis des Ranking-Systems, des Nutzerverhaltens und der Präferenzen hinsichtlich des Inhaltsformats jeder Plattform. Was auf TikTok funktioniert, funktioniert selten auf LinkedIn.

\n

Bezahlte Platzierungen & Werbung

\n

Praxis auf der Anbieterseite, für Sichtbarkeit zu bezahlen – gesponserte Inhalte, die neben organischen Inhalten platziert werden, typischerweise durch Werbung.

\n

Gängige Formen:

\n
    \n
  • gesponserte Suchergebnisse (Suchmaschinenanzeigen)\n
    • \n
  • gesponserte Beiträge und beworbene Inhalte (Social Media)\n
    • \n
  • Display-Anzeigen (Banner, Videos)\n
    • \n
  • Influencer-Partnerschaften (bezahlte Kooperationen)\n
    • \n
\n

→ Bezahlte Platzierungen umgehen organische Ranking-Systeme: Anstatt Inhalte für ein gutes Ranking zu optimieren, bezahlt die Quelle die Plattform direkt für die Platzierung.

\n

→ Sie sind manchmal eindeutig gekennzeichnet („Gesponsert“, „Anzeige“), manchmal nur schwer von organischen Ergebnissen zu unterscheiden. Die Kennzeichnungsstandards variieren je nach Rechtsraum und Plattform.

\n

Plattformseitige Informationsförderung & Gatekeeping

\n
\n
\n\n

Was Nutzer tatsächlich sehen, ist selten das Ergebnis eines einzigen Mechanismus. In einer Suchmaschine wird eine algorithmisch geordnete Liste organischer Ergebnisse neben bezahlten Platzierungen, KI-generierten Zusammenfassungen und manchmal redaktionellen Highlights präsentiert – und die zugrunde liegenden Ranking-Signale können durch Suchmaschinenoptimierung gezielt beeinflusst werden. In einem Social-Media-Feed erscheinen algorithmisch gerangierte Beiträge neben gesponserten Inhalten, empfohlenen Konten und Trend-Overlays. Jede Komponente folgt ihrer eigenen Logik und trägt zu einem zusammengesetzten Sichtbarkeitsergebnis bei.

\n
\n
\n

Redaktionelle Kuratierung

\n

Manuelle Kuratierung auf Plattformseite: Informationselemente, die bewusst von Redaktionsteams oder Plattformbetreibern hervorgehoben werden, anstatt durch algorithmisches Ranking angezeigt zu werden.

\n

Beispiele:

\n
    \n
  • hervorgehobene Snippets in Suchergebnissen\n
    • \n
  • kuratierte Trendbereiche\n
    • \n
  • Von Redakteuren ausgewählte Beiträge in Nachrichtenaggregatoren\n
    • \n
  • von der Plattform beworbene Hashtags\n
    • \n
  • Redaktionelle Empfehlungen in App-Stores\n
    • \n
  • Vorgestellte Creator oder Accounts\n
    • \n
\n

→ Redaktionelle Highlights stehen neben den algorithmischen Mechanismen und spiegeln die eigene Einschätzung der Plattform wider, welche Inhalte eine prominente Platzierung verdienen.

\n

→ Im Gegensatz zum algorithmischen Gatekeeping (Kuratierung und Personalisierung) beinhaltet redaktionelles Gatekeeping menschliche redaktionelle Entscheidungen durch die Plattform selbst. Funktional handelt es sich hierbei um eine Form des redaktionellen Gatekeeping – durchgeführt von der Plattform statt von traditionellen Verlagen.

\n

Algorithmisches Gatekeeping

\n

Algorithmisches Gatekeeping bezieht sich auf die Rolle von Algorithmen bei der Entscheidung, welche Informationen welche Nutzer erreichen – das digitale Pendant zum redaktionellen Gatekeeping (→ Informationen, Quellen & Informationsumgebungen → Redaktionelle Überprüfung). Es umfasst sowohl die Auswahl (was angezeigt und hoch gerankt wird) als auch den Ausschluss (was gefiltert, herabgestuft oder ausgeblendet wird).

\n

Algorithmisches Gatekeeping findet auf verschiedenen Plattformtypen statt:

\n
    \n
  • In Suchmaschinen wählen Algorithmen Ergebnisse auf der Grundlage von Suchanfragen aus und ordnen sie\n
    • \n
  • in Social-Media-Feeds entscheiden Algorithmen, welche Beiträge prominenter erscheinen\n
    • \n
  • auf Videoplattformen schlagen Algorithmen vor, was als Nächstes angesehen werden könnte\n
    • \n
  • in KI-basierten Antwortsystemen generieren, fassen Algorithmen Antworten zusammen oder synthetisieren sie\n
    • \n
\n

Algorithmisches Gatekeeping funktioniert in zwei Modi, die oft zusammenwirken: allgemeine Vorgänge, die auf alle Nutzer angewendet werden (algorithmische Kuratierung), und individuelle Anpassung auf der Grundlage erfasster Nutzersignale (algorithmische Personalisierung).

\n

Algorithmische Kuratierung

\n

Allgemeine algorithmische Vorgänge, die auf alle Nutzer angewendet werden – sie bestimmen, welche Informationen auf der Plattform verfügbar sind, unabhängig davon, wer der Nutzer ist.

\n
    \n
  • Crawling und Indexierung\n– Welche Informationen werden zur Anzeige bereitgestellt?\n
      \n
    • Suchmaschinen, die das Web crawlen\n
      • \n
    • Content-Aggregatoren, die Nachrichtenquellen indexieren\n
      • \n
    • App-Stores, die verfügbare Apps katalogisieren\n
      • \n
    \n
    • \n
  • Filterung und Moderation\n– Welche Elemente werden gemäß den Plattformregeln blockiert oder herabgestuft?\n
      \n
    • Spamfilter\n
      • \n
    • Entfernung von Inhalten, die gegen Richtlinien verstoßen (Hassrede, illegale Inhalte, explizites Material)\n
      • \n
    • Herabstufung von minderwertigem oder irreführendem Material\n
      • \n
    \n
    • \n
  • Qualitätsbewertung\n– Welche Quellen oder Elemente werden als glaubwürdiger oder qualitativ hochwertiger eingestuft?\n
      \n
    • Suchmaschinen, die Websites mit geringer Qualität herabstufen\n
      • \n
    • Nachrichtenaggregatoren, die nach der Autorität der Quelle ranken\n
      • \n
    • Peer-Review-beeinflusstes Ranking bei akademischen Suchmaschinen\n
      • \n
    \n
    • \n
  • Trenderkennung\n– Welche Inhalte werden als aktuell beliebt angezeigt?\n
      \n
    • Trendthemen auf sozialen Plattformen\n
      • \n
    • Top-Charts bei Streaming-Diensten\n
      • \n
    • Rubriken „Was passiert gerade?“ und „Schlagzeilen des Tages“\n
      • \n
    • beliebte Hashtags\n
      • \n
    \n
    • \n
\n

→ Die algorithmische Kuratierung bestimmt den auf der Plattform verfügbaren Informationspool. Sie funktioniert für alle Nutzer weitgehend gleich.

\n

Algorithmische Personalisierung

\n

Algorithmische Vorgänge, die die Auswahl, Reihenfolge und Darstellung von Informationen an einzelne Nutzer anpassen, basierend auf deren erfassten Signalen. Diese Signale sammeln sich im Laufe der Zeit zu Nutzergeschichten an, auf die sich die Algorithmen stützen.

\n

→ Zwei Nutzer auf derselben Plattform sehen – selbst bei derselben Suchanfrage – in der Regel deutlich unterschiedliche Inhalte.

\n
    \n
  • Personalisiertes Ranking\n– Welche Elemente werden für diesen Nutzer höher eingestuft?\n
      \n
    • personalisierte Suchergebnisse (Standort, Verlauf, Reihenfolge nach Profilform)\n
      • \n
    • Reihenfolge in Social-Media-Feeds („Für dich“-Feeds, „Top-Beiträge“)\n
      • \n
    • Engagement-basiertes Ranking – Optimierung für prognostizierte Interaktion, vor allem in sozialen Medien\n
      • \n
    \n
    • \n
  • Empfehlungen\n– Welche Elemente werden diesem Nutzer zusätzlich zu dem vorgeschlagen, was er aktiv angefordert hat?\n
      \n
    • „Für dich empfohlen“-Videolisten\n
      • \n
    • Vorgeschlagene Konten, Gruppen oder Themen zum Folgen\n
      • \n
    • „Personen, die Sie vielleicht kennen“\n
      • \n
    • Verwandte Artikel, ähnliche Produkte, „Als Nächstes“\n
      • \n
    \n
    • \n
  • Personalisierte Werbung\n– Welche Anzeigen werden diesem Nutzer gezielt angezeigt?\n
      \n
    • Suchanzeigen, die auf frühere Suchanfragen zugeschnitten sind\n
      • \n
    • Gesponserte Beiträge in sozialen Medien basierend auf Profil und Verhalten\n
      • \n
    • Retargeting-Display-Anzeigen auf Websites\n
      • \n
    • Influencer-Partnerschaften, die auf die Interessen der Zielgruppe abgestimmt sind\n
      • \n
    \n
    • \n
\n

→ Zwei Nutzer auf derselben Plattform – selbst bei derselben Suchanfrage – sehen in der Regel deutlich unterschiedliche Inhalte.

\n

→ Personalisierung schafft eine Rückkopplungsschleife: Was Nutzer tun, beeinflusst, was sie als Nächstes sehen, und was sie als Nächstes sehen, kann beeinflussen, was sie tun.

\n

☑ Von der Plattform erfasste Nutzersignale für die algorithmische Personalisierung

\n

Aktionen, die ein Nutzer – aktiv oder passiv – innerhalb eines Informationskanals ausführt und die von Algorithmen erfasst und genutzt werden können, um die Auswahl und Sichtbarkeit von Informationselementen zu personalisieren.

\n

→ Nutzeraktionen beschränken sich nicht auf bewusste Interaktionen wie Klicken oder Liken. Viele Aktionen sind passiv oder automatisch, beispielsweise wie lange ein Nutzer auf einer Seite verweilt, wie weit er scrollt oder wo er sich befindet. Nutzern ist oft nicht bewusst, dass diese Aktionen beeinflussen, was ihnen als Nächstes angezeigt wird.

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
TypWas ist dasBeispiele
Explizites FeedbackBewusste Interaktionen, für die sich der Nutzer entscheidet- Suchanfragen /
Suchbegriffe-
Klicks- Likes /
Reaktionen- Kommentare / Antworten-
Teilen / Reposts /
Weiterleitungen- Folgen /
Abonnieren- Speichern /
Lesezeichen- Bewertungen /
Rezensionen- Käufe / Downloads
Implizites VerhaltenPassive Verhaltenssignale, die während der Nutzung erfasst werden- Betrachtungsdauer / Hörzeit /
Verweildauer- Scrollverhalten (wie weit, wie schnell)
-
Hover-Verhalten- Überspringverhalten
KontextdatenInformationen über die Situation, in der der Nutzer auf die Plattform zugreift- Standortdaten des Nutzers während der Nutzung der Anwendung
– Gerätetyp (z. B. Smartphone oder Laptop)
– Zeitpunkt des Zugriffs
Konto- und soziale DatenInformationen aus dem Profil des Nutzers und seinen sozialen Verbindungen- Profilinformationen (Alter, Interessen, Beruf, Geschlecht)
-
Spracheinstellungen - verknüpfte Konten
- Kontaktliste / Adressbuch
\n
\n
\n\n
\n
\n
\n

Informationsverstärkung

\n

Amplifikation bezeichnet die systematische Steigerung der Sichtbarkeit eines Beitrags über die Ebene des einzelnen Nutzers hinaus – um eine breite Sichtbarkeit über Nutzerkonten hinweg und manchmal auch über Informationsumgebungen hinweg zu erzielen.

\n

Während die quellengesteuerte Promotion (siehe oben) beschreibt, was eine einzelne Quelle selbst unternimmt, um Sichtbarkeit zu erlangen, und die plattformseitige Gatekeeping-Funktion (siehe oben) die algorithmischen Vorgänge beschreibt, durch die Plattformen Inhalte für einzelne Nutzer anzeigen und bewerten, bezieht sich die Verstärkung auf die daraus resultierenden Verstärkungseffekte in großem Maßstab – die entweder als Gesamteffekt dieser Plattformvorgänge (→ algorithmische Verstärkung) oder durch koordinierte Aktivitäten mehrerer Akteure (→ koordinierte Verstärkung) entstehen.

\n

Verstärkungsmechanismen

\n

Amplification funktioniert über zwei Hauptmechanismen.

\n
    \n
  • Algorithmische Verstärkung ist plattformgesteuert: Sie ist der Gesamteffekt des algorithmischen Gatekeeping – das kumulative Ergebnis der Kuratierung und Personalisierung durch die Plattform, welche Inhalte welche Nutzer in welcher Prominenz erreichen.\n
    • \n
  • Koordinierte Verstärkung ist akteursgesteuert: Mehrere Konten, Gruppen oder Kampagnen handeln bewusst gemeinsam, um die Sichtbarkeit eines Beitrags, Hashtags oder Narrativs über das hinaus zu steigern, was durch die Aktivität einzelner Nutzer erreicht werden könnte. In der Literatur wird sie anhand zweier Dimensionen klassifiziert – der Koordination (transparent oder verdeckt) und der Konten (echt oder gefälscht) – und entsprechend unterschieden (Rogers & Righetti, 2025):\n
      \n
    • Koordinierte authentische Verstärkung: Die Koordination ist transparent und die Konten sind echt (z. B. offene Bürgerkampagnen, Interessenvertretung, Marketing).\n
      • \n
    • Koordinierte unechte/künstliche Verstärkung: Die Koordination ist verdeckt, die Konten sind gefälscht oder beides – wodurch der Anschein organischer Unterstützung erweckt wird (Meta’s Coordinated Inauthentic Behaviour / CIB; Gleicher, 2018).\n
      • \n
    \n
    • \n
\n

Die beiden Mechanismen treten häufig gemeinsam auf. Koordinierte Netzwerke nutzen das auf Interaktion basierende Ranking, um algorithmische Verstärkungen auszulösen; das algorithmische Ranking wiederum verstärkt die Sichtbarkeit, die durch die Koordination bereits erzeugt wurde.

\n
\n
\n\n
\n
\n
\n

Algorithmische Verstärkung

\n

Algorithmische Verstärkung ist der kumulative Effekt der oben genannten Gatekeeping-Mechanismen (Kuratierung und Personalisierung): die systematische Steuerung, welche Beiträge, Themen, Konten und Formate den Nutzern prominent angezeigt werden – und welche gefiltert, herabgestuft oder nach unten verschoben werden.

\n

Empirische Untersuchungen zeigen, dass ein auf Interaktion basierendes Ranking emotional aufgeladene und gegen andere Gruppen gerichtete Inhalte systematisch verstärkt, selbst wenn die Nutzer selbst solche Inhalte nicht bevorzugen (Milli et al., 2025). Es verstärkt zudem die bestehende Reichweite: Konten und Beiträge mit hoher vorheriger Interaktion werden mit weiterer Sichtbarkeit belohnt, was zu stark verzerrten Reichweitenverteilungen führt (Rich-get-richer-Effekt).

\n

Algorithmische Eingriffe können auch nichtlineare Effekte in die entgegengesetzte Richtung haben. Eine Verringerung der Sichtbarkeit eines Beitrags im Feed um etwa 20 % kann dessen Reichweite um eine Größenordnung reduzieren (Narayanan, 2023).

\n

Algorithmische Verstärkung ist kein neutrales Spiegelbild der Nutzeraktivität. Ihre Auswirkungen sind emergent und vor allem in der Gesamtheit sichtbar: Einzelne Empfehlungen sind ungenau (die Interaktionsraten bleiben auf den meisten Plattformen unter 1 %), aber Ranking, Empfehlung und Herabstufung prägen systematisch, was auf der Plattform zirkuliert.

\n
\n
\n\n
    \n
  • Milli, S., et al. (2025). Engagement, Nutzerzufriedenheit und die Verstärkung polarisierender Inhalte in sozialen Medien. PNAS Nexus.\n
    • \n
  • Narayanan, A. (2023). Social-Media-Empfehlungsalgorithmen verstehen. Knight First Amendment Institute.\n
    • \n
\n
\n
\n

Koordinierte authentische Verstärkung

\n

Koordinierte authentische Verstärkung ist die gezielte Hervorhebung einer Information, eines Themas, eines Hashtags, eines Kontos oder einer Erzählung durch offen kommunizierte, organisierte Aktivitäten echter Konten. Der koordinierte Ursprung wird nicht verheimlicht: Die Teilnehmer agieren unter ihrer echten Identität oder unter bekannten Gruppenzugehörigkeiten.

\n

Typische Kontexte sind

\n
    \n
  • bürgerliche Kampagnen (z. B. NGO-Petitionen, Hashtags für Interessenvertretung),\n
    • \n
  • politische Mobilisierung (z. B. Wahlkampf, Maßnahmen zur Wahlbeteiligung),\n
    • \n
  • Marketing- und Markenkampagnen,\n
    • \n
  • Kommunikation von Berufsverbänden sowie\n
    • \n
  • kulturelle Bewegungen wie „Fridays for Future“ oder „#MeToo“.\n
    • \n
\n
\n
\n\n

Ob die zugrunde liegende Botschaft fundiert, ausgewogen oder einseitig ist, ist eine andere Frage – Authentizität bezieht sich nur auf die Transparenz der Koordination, nicht auf den Wahrheitsgehalt oder die Fairness des Inhalts. Eine authentische Kampagne kann korrekte Informationen, irreführende Informationen oder eine einseitige Position verstärken.

\n
\n
\n
\n
\n\n

Authentische und inauthentische Koordination kann Sichtbarkeitsmuster erzeugen, die von außen identisch aussehen – synchronisiertes Teilen, Hashtag-Clustering, schnelle Verbreitung. Das Unterscheidungsmerkmal ist nicht das sichtbare Muster, sondern ob der koordinierte Ursprung offen gelegt wird.

\n
\n
\n

Koordinierte unechte / künstliche Verstärkung

\n

Koordinierte unechte/künstliche Verstärkung ist die absichtliche Aufwertung einer Information, eines Themas, eines Hashtags, eines Kontos oder einer Erzählung durch organisierte Aktivitäten, bei denen die koordinierte Herkunft verschleiert wird, die teilnehmenden Konten gefälscht sind oder beides. Das Ziel besteht darin, den Anschein organischer, unabhängiger Unterstützung zu erwecken. Der von Meta geprägte Begriff „Coordinated Inauthentic Behaviour“ (CIB) – der nun in den EU-Digitaldienstleistungsakt aufgenommen wurde – konzentriert sich auf diese Kombination aus falschen Identitäten und gegnerischen Methoden zur Umgehung der Erkennung (Gleicher, 2018; Rogers & Righetti, 2025).

\n

Typische Kontexte sind politische Einflussnahmen (staatlich gefördert oder parteiisch), Astroturfing-Kampagnen (kommerziell oder ideologisch), gezielte Desinformation im Zusammenhang mit Wahlen, öffentlicher Gesundheit oder geopolitischen Konflikten sowie Reputationsmanipulation durch gefälschte Bewertungen, Rezensionen oder Interaktionen. Die operativen Mittel – Bots, Trolle, Sockpuppets und ihre koordinierten Netzwerke (Bot-Farmen, Troll-Farmen, Sockpuppet-Netzwerke, Klick-Farmen) – werden im Folgenden ausführlich beschrieben.

\n
\n
\n\n

Unter „Inauthentizität“ versteht man die Verschleierung der koordinierten Herkunft oder die Nutzung gefälschter Konten – nicht den Wahrheitsgehalt der verbreiteten Inhalte. Ein koordiniertes Netzwerk gefälschter Konten kann korrekte Informationen verstärken; eine einzelne authentische Person kann erfundene Informationen verbreiten. Koordinierte inauthentische Verstärkung und die Verbreitung falscher Inhalte sind unterschiedliche Phänomene, die unabhängig voneinander oder gemeinsam auftreten können.

\n
\n
\n

Die folgenden, in diesem Abschnitt beschriebenen Kontotypen gelten für alle digitalen Informationskanäle und -plattformen, auf denen Nutzer Konten erstellen und öffentlich Beiträge veröffentlichen oder interagieren können – insbesondere soziale Medien, Diskussionsforen und Community-Bereiche, Video- und Audio-Plattformen sowie Bewertungs- oder Kommentarbereiche. In privaten Kommunikations-Apps oder in Umgebungen ohne nutzergenerierte Inhalte treten sie weniger häufig auf. Sie treten sowohl unabhängig als auch innerhalb koordinierter Netzwerke auf. Sie werden hier aufgrund ihrer typischen Rolle in der Verbreitungsdynamik aufgeführt; die explizit koordinierten Formationen sind die Kontonetzwerke.

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
BegriffDefinitionKontrolliert durchDefiniert durchTypischer Zweck
Social BotEin automatisiertes oder teilweise automatisiertes Konto, das online Beiträge veröffentlicht, Likes vergibt, anderen folgt, Inhalte teilt oder antwortet.SoftwareAutomatisierungUm Nachrichten zu verstärken, künstliche Popularität zu erzeugen, Spam zu versenden, Debatten zu beeinflussen oder Inhalte in großem Umfang zu verbreiten.
CyborgEin Hybridkonto, das menschliche Bedienung mit Software-Automatisierung kombiniert.Gemischt: Mensch und SoftwareSelektive AutomatisierungUm den Umfang der Automatisierung mit der kontextuellen Plausibilität menschlicher Eingaben zu kombinieren – für legitime Planung/Verwaltung oder für schwerer zu erkennende Einflussoperationen.
TrollEine Person oder ein Konto, das Online-Diskussionen absichtlich provoziert, stört oder anheizt.Meist ein menschlicher Nutzer; manchmal koordinierte GruppenStörendes / provokatives / feindseliges VerhaltenAndere verärgern, Gespräche aus der Bahn werfen, Reaktionen provozieren, Feindseligkeit verbreiten oder Debatten polarisieren.
SockpuppetEin gefälschtes Konto, das von jemandem genutzt wird, um seine wahre Identität zu verbergen oder sich als eine andere Person auszugeben.Ein menschlicher Nutzer, wobei das Konto auch automatisiert betrieben werden kannFalsche IdentitätUm falsche Unterstützung zu erzeugen, andere anonym anzugreifen, Sperren zu umgehen, Debatten zu manipulieren oder den Eindruck unabhängiger Zustimmung zu erwecken.
\n

Social Bot

\n

Ein Social Bot ist ein Bot, der für den Einsatz auf Social-Media-Plattformen entwickelt wurde und Beiträge veröffentlicht, kommentiert, teilt oder interagiert, um menschliche Nutzer zu imitieren. Social Bots sind in der Regel so programmiert, dass sie in großem Umfang und mit hoher Geschwindigkeit agieren, weit über das hinaus, was ein menschlicher Nutzer leisten könnte. Ihre Aktivitäten sind oft repetitiv und über viele Konten hinweg koordiniert, was sie von normaler menschlicher Nutzung unterscheidet.

\n

Social Bots können für legitime Zwecke eingesetzt werden – wie Kundenservice, Nachrichtenverbreitung oder Marketing –, werden aber auch häufig genutzt, um die öffentliche Meinung zu beeinflussen, bestimmte Botschaften zu verstärken, Diskussionen zu manipulieren oder den Anschein einer breiten Unterstützung für bestimmte Ideen, Produkte oder Anliegen zu erwecken. Im Zusammenhang mit Fehlinformationen und Desinformation spielen Social Bots eine besondere Rolle bei der raschen Verbreitung von Inhalten und vermitteln den falschen Eindruck, dass viele unabhängige Stimmen dieselbe Ansicht teilen.

\n

Wenn Social Bots in koordinierten Netzwerken eingesetzt werden, bilden sie eine Bot-Farm.

\n
\n
\n\n

Bot

\n

Ein Bot ist ein Computerprogramm, das automatisch Aufgaben ausführt, oft repetitive. Bots reichen von einfachen, harmlosen Tools – wie Webcrawler, die Seiten für Suchmaschinen indexieren, automatisierte Testsysteme oder Chatbots, die routinemäßige Kundenfragen beantworten – bis hin zu bösartigen Programmen, die darauf ausgelegt sind, Spam, Malware oder Desinformation zu verbreiten.

\n
\n
\n

Cyborg

\n

Ein Cyborg ist ein Hybridkonto, das teilweise von einem Menschen und teilweise durch Software gesteuert wird. Bei einem Cyborg können routinemäßige Beiträge durch Software geplant oder generiert werden, während eine Person ausgewählte Interaktionen, Antworten oder sensible Inhalte bearbeitet. Das Verhältnis zwischen automatisierten und menschlichen Aktivitäten variiert je nach Konto.

\n

Cyborgs können für legitime Zwecke eingesetzt werden – wie zum Beispiel die Planung von Inhalten, die Verwaltung von Marken- oder institutionellen Konten oder einen hybriden Kundenservice –, werden aber auch in Einflussoperationen genutzt, um den Umfang und die Geschwindigkeit der Automatisierung mit der kontextuellen Plausibilität menschlicher Beiträge zu kombinieren.

\n

Cyborgs sind schwieriger zu identifizieren als rein automatisierte Bots, da ein Teil ihres Verhaltens echt menschlich ist, was bedeutet, dass einzelne Erkennungsindikatoren selten für eine zuverlässige Identifizierung ausreichen.

\n

Troll

\n

Ein Troll ist eine reale Person, die Online-Diskussionen durch provokatives, aggressives oder feindseliges Verhalten absichtlich stört. Trolle nutzen in der Regel persönliche Konten und zielen auf kontroverse Themen, Persönlichkeiten des öffentlichen Lebens (wie Politiker oder Journalisten) oder Medienorganisationen ab. Ihr Ziel ist es, andere zu verärgern, Reaktionen auszulösen oder Konflikte zu eskalieren – manchmal zur Unterstützung einer bestimmten Agenda, manchmal zur Unterhaltung oder um Aufmerksamkeit zu erregen.

\n

Während Trolle oft unabhängig agieren, können sie auch in koordinierten Gruppen operieren, die manchmal von politischen oder kommerziellen Akteuren bezahlt werden (siehe „Trollfarm“ unter „Verstärkungsmechanismen“).

\n

Trolling lässt sich am besten als ein Muster des Online-Verhaltens verstehen, nicht als eine bestimmte Art von Konto. Das gleiche Verhalten kann von automatisierten Konten gezeigt werden, und auch gewöhnliche Nutzer können gelegentlich trollen.

\n

Sockpuppet

\n

Ein Sockpuppet ist eine gefälschte Online-Identität, die von einer realen Person erstellt und betrieben wird, die ihre wahre Identität verbirgt. Im Gegensatz zu Trollen – die oft unter einem einzigen, offen feindseligen Account agieren – betreibt ein Sockpuppet-Betreiber in der Regel mehrere gefälschte Accounts parallel, um den Eindruck zu erwecken, dass mehrere unabhängige Nutzer dieselbe Meinung vertreten, dieselbe Sache unterstützen oder mit dem eigenen (oft separaten) Hauptaccount des Betreibers übereinstimmen.

\n

Sockpuppets werden häufig verwendet, um einen künstlichen Konsens zu erzeugen, die eigenen Argumente unter verschiedenen Namen zu unterstützen, Gegner anzugreifen und dabei unparteiisch zu wirken, Sperren zu umgehen, indem nach einer Sperrung neue Identitäten erstellt werden, oder Online-Bewertungen, Abstimmungen und Umfragen zu manipulieren.

\n

Sockpuppets unterscheiden sich von Social Bots dadurch, dass sie manuell von Menschen betrieben werden, was ihre Inhalte kontextuell plausibler und durch automatisierte Mittel schwerer zu erkennen macht. Sie unterscheiden sich von Trollen dadurch, dass ihr primäres Ziel die Täuschung hinsichtlich der Identität und die Erzeugung eines scheinbaren Konsenses ist, nicht die Provokation – obwohl Sockpuppet-Betreiber durch ihre gefälschten Identitäten auch trollingartiges Verhalten an den Tag legen können.

\n

Wenn eine Person oder eine kleine Gruppe gemeinsam eine koordinierte Gruppe von Sockpuppets betreibt, bilden sie ein Sockpuppet-Netzwerk (siehe Mechanismen der Verstärkung).

\n

☑ Unterscheidung zwischen Social Bots, Trollen und Sockpuppets

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
ErkennungsdimensionSocial BotsTrolleSockpuppets
Profilmerkmale- [ ] Das Konto sieht neu erstellt
aus - [ ] Das Profil ist unvollständig oder allgemein
gehalten - [ ] Der Benutzername wirkt möglicherweise unpersönlich und enthält manchmal Zufallszahlen		- [ ] Das Konto ist in der Regel schon länger aktiv und verfügt über eine
Post-Historie- [ ] Das Profil ist vollständig und wirkt persönlich; es enthält möglicherweise eine ausgeprägte ideologische oder politische
Selbstbeschreibung- [ ] Der Benutzername wirkt persönlich		- [ ] Das Profil wirkt plausibel und persönlich, oft mit einem Profilbild und biografischen Angaben (manchmal gestohlen, KI-generiert oder kopiert)
- [ ] Die Account-Historie ist möglicherweise moderat und so gestaltet, dass sie im Laufe der Zeit authentisch wirkt
Verhalten beim Posten- [ ] Die Aktivität entspricht nicht dem normalen menschlichen Online-Verhalten
- [ ] Die Konten posten oder reposten sehr häufig Inhalte -
[ ] Die Konten posten oder reposten rund um die Uhr, Tag und Nacht		- [ ] Die Aktivität ähnelt dem normalen menschlichen
Online-Verhalten - [ ] Das Konto veröffentlicht Beiträge oder antwortet zu unregelmäßigen Zeiten
- [ ] Das Konto wird bei kontroversen Diskussionen aktiver		- [ ] Die Aktivitätsmuster ähneln der normalen menschlichen Nutzung-
[ ] Mehrere Konten, die vom selben Betreiber geführt werden, können ähnliche Aktivitätszeiten oder
-rhythmen aufweisen- [ ] Sockpuppets neigen dazu, weniger Diskussionen zu starten und kürzere Beiträge zu verfassen als typische Nutzer
Interaktionen- [ ] Das Konto führt keine echten Gespräche -
[ ] Die Konten liken, teilen oder reposten
meist - [ ] Antworten sind kurz und automatisiert		- [ ] Das Konto antwortet direkt auf andere Nutzer
- [ ] Das Konto beteiligt sich an Debatten mit dem Ziel, Reaktionen zu
provozieren - [ ] Unterhaltungen werden in die Länge gezogen, um Konflikte zu erzeugen oder zu verschärfen		- [ ] Der Account führt echte Gespräche und unterstützt dabei oft den Hauptaccount des Betreibers oder andere
Sockpuppets - [ ] Antworten sind kontextuell angemessen und wirken authentisch
- [ ] Paare von Sockpuppets interagieren oft zur gleichen Zeit in derselben Diskussion
Inhaltliche Merkmale- [ ] Der Inhalt ist einseitig und repetitiv
- [ ] Dieselben Narrative werden mehrfach gepostet		- [ ] Der Inhalt ist speziell darauf zugeschnitten, einer Zielperson
zu schaden oder sie zu provozieren- [ ] Der Inhalt zielt auf Einzelpersonen oder soziale Gruppen ab		- [ ] Der Inhalt wirkt authentisch und variiert zwischen den Konten
– [ ] Die zugrunde liegende Botschaft oder Haltung ist im gesamten Netzwerk verdächtig
einheitlich – [ ] Häufigere Verwendung von Personalpronomen wie „ich“
Sprache- [ ] Allgemeine Ausdrücke, sich wiederholende Formulierungen mit Schlüsselwörtern- [ ] Abwechslungsreiche, emotionale, oft beleidigende oder anstößige Sprache- [ ] Natürliche und abwechslungsreiche Sprache
- [ ] Mehrere Konten weisen möglicherweise sprachliche Gemeinsamkeiten auf (ähnliche Formulierungen, Vokabular, Zeichensetzung oder Fehlermuster)
Netzwerk- und technische Indikatoren- [ ] Social Bots folgen anderen Social Bots, doch die Beziehung ist in der Regel einseitig und nicht
wechselseitig- [ ] Über mehrere Bot-Konten hinweg ist koordiniertes Verhalten zu beobachten		- [ ] Trolle folgen menschlichen
Konten- [ ] Verbindungen sind oft wechselseitig (sie folgen ihren Followern und umgekehrt)
- [ ] Trolle agieren in der Regel unabhängig voneinander		- [ ] Mehrere Konten, die sich gegenseitig
unterstützend interagieren- [ ] Verbindungen zwischen Sockpuppets im selben Netzwerk können künstlich wechselseitig sein oder bewusst fehlen, um eine Erkennung zu
vermeiden- [ ] Gleiche IP-Adresse, Geräte-Fingerabdruck oder Anmeldemuster \\\\*(plattformseitige Erkennung)\\\\*-
[ ] Stärker geclusterte Ego-Netzwerke als bei gewöhnlichen
Nutzern- [ ] Korrelierte Aktivitätszeitpunkte über Konten hinweg
\n
\n
\n\n
    \n
  • \nFerrara, E. (2023). Social-Bot-Erkennung im Zeitalter von ChatGPT: Herausforderungen und Chancen. First Monday, 28\n(6). https://doi.org/10.5210/fm.v28i6.13185\n
    • \n
  • \nKumar, S., Cheng, J., Leskovec, J., & Subrahmanian, V. S. (2017). Eine Armee von mir: Sockpuppets in Online-Diskussionsforen. Tagungsband der 26. Internationalen Konferenz zum World Wide Web (WWW '17)\n, 857–866. https://doi.org/10.1145/3038912.3052677\n
    • \n
  • \nOrabi, M., Mouheb, D., Al Aghbari, Z., & Kamel, I. (2020). Erkennung von Bots in sozialen Medien: Eine systematische Übersicht. Information Processing & Management, 57\n(4), 102250. https://doi.org/10.1016/j.ipm.2020.102250\n
    • \n
  • \nSolorio, T., Hasan, R., & Mizan, M. (2013). Eine Fallstudie zur Erkennung von Sockpuppets in Wikipedia. Tagungsband des Workshops zur Sprachanalyse in sozialen Medien (LASM) bei NAACL-HLT\n, 59–68. Association for Computational Linguistics.https://aclanthology.org/W13-1107/\n
    • \n
  • \nTomaiuolo, M., Lombardo, G., Mordonini, M., Cagnoni, S., & Poggi, A. (2020). Eine Übersicht zur Erkennung von Trollen. Future Internet, 12\n(2), https://doi.org/10.3390/fi12020031\n
    • \n
  • \nTsikerdekis, M., & Zeadally, S. (2014). Erkennung von Identitätsbetrug durch mehrere Konten in sozialen Medien anhand nonverbaler Verhaltensweisen. IEEE Transactions on Information Forensics and Security, 9\n(8), 1311–1321. https://doi.org/10.1109/TIFS.2014.2332820\n
    • \n
  • \nUyheng, J., Moffitt, J. D., & Carley, K. M. (2022). Die Sprache und Ziele von Online-Trolling: Ein psycholinguistischer Ansatz für soziale Cybersicherheit. Information Processing & Management, 59\n(5), 103012. https://doi.org/10.1016/j.ipm.2022.103012\n
    • \n
\n
\n
\n

Account-Netzwerke

\n

Bot-Farm

\n

Eine Bot-Farm ist ein Netzwerk von Bots, die gleichzeitig auf mehreren Geräten oder Servern operieren und von einem einzelnen Betreiber oder einer Organisation für einen bestimmten Zweck eingesetzt werden.

\n

Bot-Farmen haben eine Reihe legitimer Verwendungszwecke, darunter Web-Indexierung, automatisierte Softwaretests, Datenaggregation und die Überwachung der Website-Performance. Sie werden jedoch häufig auch für böswillige Aktivitäten genutzt, wie das Erzeugen von gefälschtem Engagement, das Generieren großer Mengen an Inhalten, das Versenden von Spam oder die Durchführung von Cybersicherheitsangriffen. Wenn sie zur Manipulation des Online-Diskurses eingesetzt werden, können Bot-Farmen den falschen Eindruck einer breiten Unterstützung, Ablehnung oder eines großen Interesses an einem Thema, einem Konto oder einer Kampagne erwecken.

\n

Trollfarm

\n

Eine Trollfarm ist eine organisierte Gruppe koordinierter, oft bezahlter Mitarbeiter, die absichtlich provokative, irreführende oder falsche Inhalte online veröffentlichen – typischerweise über gefälschte Konten. Ihr Ziel ist es in der Regel, die öffentliche Meinung zu manipulieren, Desinformation zu verbreiten oder soziale und politische Unruhen zu schüren. Trollfarmen wurden im Zusammenhang mit staatlich geförderten Einflussoperationen sowie kommerzieller Reputationsmanipulation dokumentiert.

\n

Sockpuppet-Netzwerk

\n

Ein Sockpuppet-Netzwerk ist eine koordinierte Gruppe von Sockpuppet-Konten, die von einer Person oder einer kleinen Gruppe betrieben werden und dazu dienen, unabhängige Stimmen zu simulieren, die eine gemeinsame Erzählung, Kampagne, ein Konto oder eine Sache unterstützen. Sockpuppet-Netzwerke werden häufig für politisches Astroturfing, die Manipulation von Bewertungen und Rezensionen sowie koordinierte Desinformationskampagnen genutzt. Im Gegensatz zu Bot-Farmen basieren Sockpuppet-Netzwerke auf manueller Bedienung durch Menschen, wodurch die Inhalte einzelner Konten authentischer wirken und mit automatisierten Mitteln schwerer zu erkennen sind. Ihre Koordination lässt sich meist erst dann nachweisen, wenn mehrere Konten durch Verhaltensmuster, gemeinsame technische Signale oder gegenseitige Interaktion miteinander verknüpft werden können.

\n

Klickfarm

\n

Eine Klickfarm ist ein Betrieb, bei dem eine große Anzahl von gering bezahlten Arbeitskräften, automatisierten Bots oder beidem eingesetzt wird, um auf Anzeigen zu klicken, Social-Media-Konten zu folgen, Beiträge zu liken, Bewertungen abzugeben oder Apps herunterzuladen. Das Ziel besteht darin, das Online-Engagement oder den Traffic künstlich zu steigern, wodurch Inhalte, Konten oder Produkte beliebter erscheinen, als sie tatsächlich sind.

\n

Phänomene

\n

☑ Viralität vs. Trend

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
FeatureViralitätTrend
Was verbreitet wirdEin einzelner Informationsbeitrag: ein bestimmtes Video, ein Beitrag, ein Bild oder ein anderer InhaltEin Thema, ein Hashtag, ein Ton, ein Format oder eine Diskussionsgruppe: nicht ein bestimmtes Element, sondern viele Beiträge, die sich auf dasselbe beziehen oder es verwenden
HaupttreiberNutzer teilen, reposten oder leiten den Inhalt an andere weiter, die ihn wiederum weitergeben; diese kaskadenartige Verbreitung kann durch Empfehlungsalgorithmen noch verstärkt werdenViele Nutzer posten, erwähnen oder verwenden dasselbe Thema, denselben Hashtag oder dasselbe Format innerhalb kurzer Zeit; die Plattform erkennt diese Konzentration von Aktivitäten und hebt sie in einem eigenen „Trending“-Bereich hervor (z. B. einer Liste mit Trendthemen, einer Übersicht über Trend-Hashtags oder einer Seite mit Trend-Sounds)
Zeitliches MusterOft kurz und explosiv; kann später wiederkehrenZeitgebunden; hält so lange an, wie die Aktivität hoch bleibt oder die Plattform es weiterhin hervorhebt
Wie es manipuliert werden kannKoordiniertes Teilen, Verstärkung durch Bots, künstliches Engagement, das auf den spezifischen Informationsbeitrag gerichtet istKoordinierte Posting-Kampagnen, künstlich erzeugte Trends durch Bot-Netzwerke, Entscheidungen der Plattform zur Förderung, Filterung oder Unterdrückung
\n

Sowohl Viralität als auch Trends können organisch entstehen oder durch koordinierte Kampagnen, Bot-Aktivitäten oder Entscheidungen der Plattform künstlich verstärkt werden. Beide können zudem emotional aufrührenden, moralisch aufgeladenen oder polarisierenden Inhalten einen Vorteil verschaffen, insbesondere in politischen oder konfliktbehafteten Kontexten.

\n

Viralität

\n

Das Muster, nach dem sich ein bestimmter Informationsbeitrag durch Teilen, Empfehlen und Weiterverbreitung über Netzwerke hinweg rasch ausbreitet, analog zur Ausbreitung eines Virus. Viralität wird durch Inhaltsmerkmale, Strukturen sozialer Netzwerke, Plattformmöglichkeiten, den Zeitpunkt und algorithmische Verstärkung geprägt.

\n

Inhalte, die starke Emotionen, moralische Reaktionen oder Feindseligkeit gegenüber anderen Gruppen hervorrufen, werden oft eher geteilt, insbesondere in politischen oder konfliktorientierten Kontexten. Viralität wird jedoch nicht nur durch die Größe der ursprünglichen Quelle bestimmt: Auch kleinere Accounts oder Medien können hochvirale Inhalte produzieren.

\n

Viralität kann organisch entstehen, aber auch durch koordiniertes Teilen, Manipulation der Plattform oder Bot-Aktivitäten künstlich verstärkt werden.

\n

Trending

\n

Ein von der Plattform zugewiesener Status, der anzeigt, dass ein Thema, ein Hashtag, ein Sound, ein Format oder eine Diskussionsgruppe innerhalb kurzer Zeit ungewöhnlich hohe Aktivität verzeichnet hat.

\n

Trends werden algorithmisch identifiziert und über Plattformfunktionen wie X / Twitter Trending Topics, Trend-Hashtags, Trend-Sounds, Trend-Challenges oder andere plattformspezifische Trendfunktionen angezeigt. Trends hängen von plattformspezifischen Signalen wie Beitragsvolumen, Zuwachsrate, Interaktion, Standort, Personalisierung und Moderationsfiltern ab.

\n

Themen, die ein hohes Engagement generieren – darunter kontroverse, emotional aufladende oder moralisch brisante Themen – werden möglicherweise eher zum Trend, dies hängt jedoch vom Ranking-System und den Moderationsregeln der Plattform ab.

\n

Trends können organisch aus vielen unabhängigen Beiträgen entstehen, aber sie können auch durch koordinierte Kampagnen, Bot-Aktivitäten oder Entscheidungen der Plattform darüber, was beworben, gefiltert, moderiert oder unterdrückt werden soll, beeinflusst werden.

\n
\n
\n\n
    \n
  • Berger, J. (2013). Contagious: Why Things Catch On. New York: Simon & Schuster.\n
    • \n
  • Berger, J., & Milkman, K. L. (2012).\nWhat makes online content viral? Journal of Marketing Research\n, 49(2), 192–205. https://doi.org/10.1509/jmr.10.0353\n
    • \n
  • Brady, W. J., McLoughlin, K., Doan, T. N., & Crockett, M. J. (2021).\nWie soziales Lernen den Ausdruck moralischer Empörung in sozialen Online-Netzwerken verstärkt. Science Advances\n, 7(33), eabe5641. https://doi.org/10.1126/sciadv.abe5641\n
    • \n
  • Jenkins, H., Ford, S., & Green, J. (2013). Spreadable Media: Creating Value and Meaning in a Networked Culture. New York: NYU Press.\n
    • \n
  • Lee, J., & Umback, J. (2026).\nThe viral turn: rethinking virality in the creator economy on TikTok. Continuum\n, 1–26. https://doi.org/10.1080/10304312.2026.2625794\n
    • \n
  • Maarouf, A., Pröllochs, N., & Feuerriegel, S. (2024).\nDie Viralität von Hassreden in sozialen Medien. Proceedings of the ACM on Human-Computer Interaction\n, 8 (CSCW1), 1–22. https://doi.org/10.1145/3641025\n
    • \n
  • Rathje, S., Van Bavel, J. J., & van der Linden, S. (2021).\nFeindseligkeit gegenüber Außengruppen treibt das Engagement in sozialen Medien an. Proceedings of the National Academy of Sciences\n, 118(26), e2024292118. https://doi.org/10.1073/pnas.2024292118\n
    • \n
  • Rathje, S., & Van Bavel, J. J. (2025).\nDie Psychologie der Viralität. Trends in Cognitive Sciences\n, 29(10), 914–927. https://doi.org/10.1016/j.tics.2025.06.014\n
    • \n
  • Rogers, E. M. (2003). Diffusion of Innovations (5. Aufl.). New York: Free Press.\n
    • \n
  • Sangiorgio, E., Cinelli, M., Cerqueti, R., & Quattrociocchi, W. (2024).\nFollower bestimmen nicht die Viralität von Nachrichtenkanälen in sozialen Medien. PNAS Nexus\n, 3(7), S. 257. https://doi.org/10.1093/pnasnexus/pgae257\n
    • \n
  • Schlessinger, J., Garimella, K., Jakesch, M., & Eckles, D. (2023).\nAuswirkungen algorithmischer Trendförderung: Erkenntnisse aus koordinierten Kampagnen in den Trending Topics von Twitter. Proceedings of the International AAAI Conference on Web and Social Media (ICWSM)\n, 17(1), 777–786. https://doi.org/10.1609/icwsm.v17i1.22187\n
    • \n
  • Schöne, J. P., Parkinson, B., & Goldenberg, A. (2021).\nNegativität verbreitet sich auf Twitter nach sowohl positiven als auch negativen politischen Ereignissen stärker als Positivität. Affective Science\n, 2(4), 379–390. https://doi.org/10.1007/s42761-021-00057-7\n
    • \n
\n
\n
\n

Spill-Over-Effekte & epistemische Aufbereitung

\n

Der Prozess, durch den Informationen, die innerhalb einer Informationsumgebung an Sichtbarkeit gewinnen – sei es durch künstliche Verstärkung, Trends oder redaktionelle Auswahl –, in anderen Informationsumgebungen oder Informationszugangssystemen aufgegriffen und weiterverbreitet werden und so ein Publikum jenseits der ursprünglichen Umgebung erreichen.

\n

Spill-over-Effekte können durch journalistische Berichterstattung, plattformübergreifendes Teilen, redaktionelle Kuratierung oder nutzergetriebene Weiterverbreitung entstehen.

\n

→ Ein in einem wissenschaftlichen Forum geteilter Forschungsbefund kann in sozialen Medien diskutiert und von einem KI-Assistenten zusammengefasst werden.
→ Ein Thema, das von Bots auf einer Social-Media-Plattform künstlich verstärkt wurde, kann von Journalisten aufgegriffen werden.

\n

→ Spill-over-Effekte können die Reichweite sowohl zuverlässiger als auch unzuverlässiger Informationen erhöhen und dazu führen, dass Informationen als breiter etabliert erscheinen, als sie es ursprünglich waren.

\n

Epistemische Aufbereitung

\n

Spill-over bewahrt nicht immer den scheinbaren Status von Informationen. Wenn der empfangende Kanal stärkere Signale von Autorität oder Zuverlässigkeit aussendet als der Ursprungskanal – akademisches Format, Peer-Review, formelle Veröffentlichung –, kann die Information allein durch den Wechsel als zuverlässiger wahrgenommen werden. Dieser Effekt ist als epistemische Aufbereitung bekannt: Informationen gewinnen durch ihren Weg über verschiedene Kanäle an wahrgenommener Zuverlässigkeit, ohne dass sich die zugrunde liegenden Behauptungen oder Belege tatsächlich ändern. Er nutzt die Tendenz der Empfänger aus, die Zuverlässigkeit des Kanals, in dem sie auf Informationen stoßen, den Informationen selbst zuzuschreiben.

\n

→ Eine Behauptung, die aus einem anonymen Blogbeitrag stammt, kann in einem Preprint zitiert, in einer KI-generierten Antwort wiedergegeben und schließlich in einem Peer-Review-Artikel zitiert werden – wobei sie bei jedem Schritt an akademischer Seriosität und scheinbarer Autorität gewinnt, während die zugrunde liegende Behauptung unverändert oder unüberprüft bleibt.

\n
\n
\n\n

Ein Team an der Universität Göteborg unter der Leitung eines medizinischen Forschers erfand eine fiktive Hauterkrankung namens Bixonimania, um zu testen, ob KI-Systeme medizinische Fehlinformationen aufnehmen und wiederholen würden. Sie stellten sie als eine vermeintliche Erkrankung dar, die mit der Blaulichtbelastung durch Bildschirme in Verbindung steht, mit Symptomen wie schmerzenden, juckenden Augen und einer rosa Färbung der Augenlider. Anschließend erstellten sie absichtlich gefälschte, akademisch anmutende Preprints, die mit offensichtlichen Warnzeichen gespickt waren – ein fiktiver Autor mit einem KI-generierten Foto, eine nicht existierende Universität sowie Verweise auf die Sternenflottenakademie und die USS Enterprise. Nature berichtete, dass die Preprints inzwischen von Preprints.org entfernt wurden. Innerhalb weniger Wochen begannen große KI-Chatbots, Bixonimania als echte Erkrankung zu reproduzieren und boten den Nutzern in einigen Fällen erklärende oder gesundheitsbezogene Ratschläge an. Parallel dazu wurde das gefälschte Material in mindestens einer veröffentlichten Arbeit zitiert, die inzwischen zurückgezogen wurde, und zwar in der Springer-Nature-Zeitschrift Cureus. Ausbreitung: Blogbeiträge → gefälschter Preprint → Webcrawler → Antworten von KI-Chatbots → akademische Zitierung

\n
\n
\n
\n
\n\n

Stokel-Walker, C. (2026). Wissenschaftler erfanden eine gefälschte Krankheit. KI sagte den Menschen, sie sei echt. Nature, 652(8110), 559-561. https://doi.org/10.1038/d41586-026-01100-y

\n
\n
\n

Informationsverengung

\n

Während die Informationsverstärkung (siehe oben) beschreibt, wie die Sichtbarkeit über Nutzerkonten hinweg erweitert wird, beschreibt die Informationsverengung das Gegenteil: wie der Spektrum an Perspektiven, das einen einzelnen Nutzer oder eine soziale Gruppe erreicht, eingeschränkt wird. Zwei unterschiedliche Mechanismen bewirken diese Verengung – die Filterblase (algorithmische Personalisierung) und die Echokammer (Selbstselektion der Nutzer). Die beiden werden im öffentlichen Diskurs oft miteinander verwechselt, funktionieren jedoch unterschiedlich.

\n

Filterblase

\n

Eine Filterblase ist eine isolierte Informationsumgebung, die durch algorithmische Personalisierung entsteht und in der ein Nutzer zunehmend mit Inhalten konfrontiert wird, die seinen abgeleiteten Präferenzen und seinem bisherigen Verhalten entsprechen, während abweichende Inhalte herausgefiltert werden – in der Regel ohne dass der Nutzer dies bemerkt. Der Begriff wurde von Eli Pariser (2011) geprägt, um zu beschreiben, wie Personalisierungsalgorithmen bei Google, Facebook und ähnlichen Plattformen systematische Asymmetrien in der Informationspräsenz erzeugen können, basierend auf Nutzersignalen wie Klickverlauf, Standort und Profildaten.

\n

Das charakteristische Merkmal einer Filterblase ist die Unbeabsichtigtheit seitens des Nutzers: Die Eingrenzung entsteht durch die Optimierung der Plattform, nicht durch die bewusste Auswahl von Quellen durch den Nutzer.

\n
\n
\n\n

Empirische Forschung hat Parisers ursprüngliche These erheblich relativiert. Studien haben ergeben, dass algorithmische Personalisierung zwar beeinflusst, was Nutzer sehen, die meisten Nutzer jedoch weiterhin auf ideologisch vielfältige Inhalte stoßen – teils weil ihre eigenen sozialen Netzwerke unterschiedliche Ansichten umfassen, teils weil Algorithmen nicht so vollständig isolieren, wie es der gängige Diskurs suggeriert (Bakshy et al., 2015; Flaxman et al., 2016; Bruns, 2019). Der Filterblasen-Effekt ist real, aber in der Regel schwächer als gemeinhin angenommen; die selektive Informationsauswahl vor dem Internetzeitalter (z. B. die Wahl von Zeitungen oder Fernsehsendern) war in vielen Fällen stärker.

\n
\n
\n
\n
\n\n
    \n
  • Pariser, E. (2011). The Filter Bubble: What the Internet Is Hiding from You. Penguin Press.\n
    • \n
  • \nBakshy, E., Messing, S., & Adamic, L. A. (2015). Exposure to ideologically diverse news and opinion on Facebook. Science\n, 348(6239), 1130–1132. https://doi.org/10.1126/science.aaa1160\n
    • \n
  • \nFlaxman, S., Goel, S., & Rao, J. M. (2016). Filterblasen, Echokammern und Online-Nachrichtenkonsum. Public Opinion Quarterly\n, 80(S1), 298–320. https://doi.org/10.1093/poq/nfw006\n
    • \n
  • Bruns, A. (2019). Sind Filterblasen real? Polity Press.\n
    • \n
\n
\n
\n

Echokammer

\n

Ein Echokammer ist ein soziales Informationsumfeld, in dem ein Nutzer in erster Linie Meinungen, Behauptungen oder Ideologien ausgesetzt ist, die seine bestehenden Überzeugungen bestärken, während abweichende Ansichten fehlen, abgetan oder aktiv diskreditiert werden. Cass Sunstein (2017) beschreibt die politischen Folgen: Wenn sich Gruppen von Außenperspektiven abschotten, verfestigen sich interne Überzeugungen und werden mit der Zeit extremer (Gruppenpolarisierung).

\n

Im Gegensatz zur Filterblase, die aus algorithmischer Personalisierung entsteht, resultiert eine Echokammer in erster Linie aus der Selbstselektion der Nutzer: Entscheidungen darüber, wem man folgt, welchen Communities man beitritt, welchen Quellen man vertraut und welche Stimmen man ablehnt. Diese Entscheidungen werden teilweise durch den Bestätigungsfehler (Confirmation Bias) getrieben – die kognitive Tendenz, Informationen zu suchen und zu vertrauen, die mit bestehenden Überzeugungen übereinstimmen. Der verstärkende Effekt rührt von der sozialen Struktur selbst her, nicht von unsichtbarer algorithmischer Filterung.

\n

C. Thi Nguyen (2020) zieht eine konzeptionelle Unterscheidung, die für Interventionen von Bedeutung ist:

\n
    \n
  • Eine epistemische Blase ist eine soziale Struktur, in der andere relevante Stimmen schlichtweg fehlen. Ihre Bewohner hören keine gegensätzlichen Perspektiven, lehnen diese aber auch nicht aktiv ab.\n
    • \n
  • Ein Echoraum im engeren Sinne ist eine soziale Struktur, in der andere relevante Stimmen aktiv diskreditiert werden. Die Mitglieder hören zwar gegensätzliche Perspektiven, lernen aber, deren Quellen zu misstrauen.\n
    • \n
\n

Eine epistemische Blase kann durch die Einführung neuer Informationen geöffnet werden; ein Echoraum widersteht Korrekturen selbst dann, wenn externe Beweise vorgelegt werden, da die Quellen dieser Beweise bereits delegitimiert wurden.

\n
\n
\n\n

Empirische Untersuchungen legen nahe, dass starke, ideologisch isolierte Echokammern seltener sind, als der öffentliche Diskurs vermuten lässt (Cinelli et al., 2021; Guess et al., 2018), doch wo sie existieren, können sie sich Korrekturen gegenüber als äußerst widerstandsfähig erweisen. Bloße Übereinstimmung innerhalb einer Gruppe ist an sich noch keine Echokammer – das bestimmende Merkmal ist der aktive Ausschluss oder die Diskreditierung von Perspektiven von außen.

\n
\n
\n
\n
\n\n
    \n
  • Sunstein, C. R. (2017). #Republic: Divided Democracy in the Age of Social Media. Princeton University Press.\n
    • \n
  • \nNguyen, C. T. (2020). Echokammern und epistemische Blasen. Episteme\n, 17(2), 141–161. https://doi.org/10.1017/epi.2018.32\n
    • \n
  • \nCinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). The echo chamber effect on social media. PNAS\n, 118(9), e2023301118. https://doi.org/10.1073/pnas.2023301118\n
    • \n
  • Guess, A., Lyons, B., Nyhan, B., & Reifler, J. (2018). Die Echokammer über Echokammern vermeiden: Warum selektive Exposition gegenüber gleichgesinnten politischen Nachrichten weniger verbreitet ist, als man denkt. Weißbuch der Knight Foundation.\n
    • \n
\n
\n
","UPDATEDAT":"2026-05-08T06:56:38.108Z","LANG":"de","ID":"3b24684f-982f-46f5-bc94-0c5e6b459760","TITLE":"Informationsfluss und Sichtbarkeit","SOURCELANG":"en"}