Social Bots und Trollnetzwerke erkennen

Social Bots und Trollnetzwerke erkennst du selten an einem einzelnen Account, sondern an Mustern: junge Profile ohne persönliche Spuren, extrem viele Beiträge zu jeder Tageszeit und vor allem viele Konten, die gleichzeitig dasselbe verbreiten. Solche Netzwerke sollen den Eindruck erwecken, eine Meinung sei weit verbreitet oder ein Thema besonders wichtig. Dieser Artikel erklärt die Begriffe, zeigt typische Merkmale und beschreibt, wo die Erkennung an Grenzen stößt. Er ergänzt den Ratgeber Desinformation erkennen.

Die wichtigsten Begriffe

Rund um gesteuerte Accounts kursieren viele Begriffe, die oft durcheinandergeraten:

• Social Bot: ein Account in einem sozialen Netzwerk, der ganz oder teilweise automatisch gesteuert wird. Er kann posten, teilen, liken oder auf bestimmte Stichworte antworten.
• Troll: ein Mensch, der in Diskussionen gezielt provoziert, stört oder ablenkt.
• Trollfabrik: eine Organisation, in der Menschen bezahlt werden, um mit vielen Accounts gezielt Inhalte zu verbreiten und Debatten zu beeinflussen.
• Sockenpuppe: ein Zweit- oder Fake-Account, hinter dem eine Person steckt, die damit sich selbst zustimmt oder eine andere Identität vortäuscht.
• Astroturfing: eine Kampagne, die so organisiert ist, dass sie wie spontane Zustimmung aus der Bevölkerung wirkt. Der Name spielt auf eine Marke für Kunstrasen an.
• Koordiniertes unauthentisches Verhalten: ein Begriff, den große Plattformen verwenden, wenn mehrere Accounts verdeckt zusammenarbeiten, um über ihre Identität oder ihr Ziel zu täuschen.

Bekannt wurde das Phänomen der Trollfabriken unter anderem durch eine Agentur in Sankt Petersburg, über deren Kampagnen in sozialen Netzwerken Journalisten und US-Ermittlungsbehörden ausführlich berichtet haben. Koordinierte Kampagnen gibt es aber in vielen Ländern und für ganz unterschiedliche Zwecke, von politischer Einflussnahme bis zu Produktwerbung mit gekauften Bewertungen.

Merkmale verdächtiger Accounts

Die folgenden Merkmale können auf einen automatisierten oder gesteuerten Account hindeuten. Jedes für sich ist harmlos und kommt auch bei echten Menschen vor. Erst wenn mehrere zusammentreffen, lohnt sich genaues Hinsehen.

Das Profilbild kannst du mit einer Bilder-Rückwärtssuche prüfen. Taucht es bei Bildagenturen oder auf vielen anderen Profilen auf, ist der Account wahrscheinlich nicht, wer er vorgibt zu sein. Zunehmend werden für Fake-Profile auch KI-generierte Gesichter verwendet, die keine Rückwärtssuche findet.

Anzeichen für koordinierte Kampagnen

Ein einzelner Bot richtet wenig aus. Wirksam werden Netzwerke erst durch Masse und Gleichzeitigkeit. Typische Anzeichen:

• Gleicher Wortlaut: Viele Accounts veröffentlichen fast identische Texte, oft mit denselben Tippfehlern.
• Zeitliche Ballung: Ein Hashtag oder Kommentar taucht innerhalb von Minuten massenhaft auf, ohne dass es einen erkennbaren Anlass gibt.
• Antwortwellen: Unter einem bestimmten Beitrag sammeln sich in kurzer Zeit auffällig viele ähnliche Kommentare von unbekannten Accounts.
• Gegenseitiges Verstärken: Eine Gruppe von Accounts teilt, likt und kommentiert systematisch die Beiträge der jeweils anderen.
• Künstliche Trends: Ein Thema erscheint in den Trendlisten, obwohl kaum echte Menschen darüber sprechen.

Solche Kampagnen zielen häufig nicht darauf, einzelne Menschen zu überzeugen. Sie wollen Algorithmen beeinflussen, die Beiträge mit vielen Reaktionen weiter oben anzeigen, und sie wollen den Eindruck erzeugen, eine Meinung sei Mehrheitsmeinung. Wie Empfehlungsalgorithmen Inhalte auswählen, erklärt der Artikel Wie Algorithmen in Feeds Nachrichten auswählen.

Beispiel: eine Kommentarwelle prüfen

Das folgende Beispiel ist ausgedacht. Eine Regionalzeitung berichtet in sozialen Netzwerken über ein neues Musikfestival am Stadtrand. Innerhalb einer Stunde erscheinen darunter über hundert Kommentare, fast alle mit derselben Botschaft: Das Festival sei laut, gefährlich und von der Stadt heimlich durchgewinkt worden. So kannst du die Welle einordnen:

• Wortlaut vergleichen: Viele Kommentare unterscheiden sich nur in einzelnen Wörtern, mehrere enthalten denselben Tippfehler.
• Profile ansehen: Ein großer Teil der Accounts wurde in den vergangenen Wochen angelegt, hat kaum Freunde oder Follower und keine persönlichen Beiträge.
• Zeitpunkt prüfen: Die Kommentare erscheinen in dichten Schüben, jeweils im Abstand weniger Sekunden.
• Ortsbezug suchen: Kaum ein Account zeigt eine Verbindung zur Region.

Zusammen sprechen diese Merkmale für eine koordinierte Aktion. Wer dahintersteckt und ob Software im Spiel ist, lässt sich von außen nicht klären. Für dich als Leserin oder Leser reicht die Erkenntnis: Die vielen Kommentare spiegeln nicht die Stimmung in der Stadt wider. Echte Kritik am Festival kann es trotzdem geben, sie lässt sich nur nicht an der Zahl dieser Kommentare ablesen.

Die Grenzen der Bot-Erkennung

So eindeutig die Merkmale klingen, so schwierig ist die Erkennung in der Praxis:

• Moderne Bots wirken menschlich. Mit KI-Sprachmodellen können automatisierte Accounts abwechslungsreiche, fehlerfreie Texte schreiben und auf Antworten eingehen.
• Viele Trolle sind echte Menschen. Accounts in Trollfabriken werden von Personen bedient, die Pausen machen, Tippfehler haben und persönlich antworten.
• Echte Menschen wirken manchmal wie Bots. Sehr engagierte Nutzerinnen und Nutzer posten viel, teilen häufig und schreiben zu einem einzigen Thema.
• Automatische Werkzeuge irren. Forschende haben wiederholt darauf hingewiesen, dass Verfahren zur automatischen Bot-Erkennung echte Accounts fälschlich als Bots einstufen und die Zahl der Bots dadurch überschätzt werden kann.
• Wenig Einblick von außen. Die Plattformen sehen technische Daten wie Geräte, Zugriffsorte und Kontoverknüpfungen. Außenstehende sehen nur das öffentliche Profil.

Daraus folgt auch: Der Vorwurf „Das ist doch ein Bot“ ist schnell erhoben und wird mitunter benutzt, um unliebsame Meinungen abzutun. Wer echte Menschen fälschlich als Bots bezeichnet, vergiftet die Debatte ebenfalls.

Was Plattformen tun

Große Plattformen löschen regelmäßig Netzwerke von Fake-Accounts und berichten teilweise darüber. In der EU verpflichtet das Gesetz über digitale Dienste, der Digital Services Act, sehr große Plattformen außerdem dazu, systemische Risiken zu bewerten und zu mindern, wozu auch Manipulation durch unauthentische Accounts gehört. Wie gründlich die Plattformen dabei vorgehen, ist allerdings umstritten und von außen schwer zu überprüfen.

Was du tun kannst

Der wichtigste Schutz ist eine Haltung: Wie viele Menschen etwas zu meinen scheinen, sagt nichts darüber aus, ob es stimmt. Das gilt für Bots genauso wie für Debatten, in denen man nur noch Gleichgesinnte trifft. Wie solche Effekte entstehen, beschreibt der Artikel Filterblase und Echokammer.