Massenmanipulation von Twitter-Trends entdeckt
Soziale Medien sind in unserem modernen Leben allgegenwärtig geworden. Sie haben die täglichen Interaktionen zwischen den Menschen verändert und verbinden uns auf bisher undenkbare Art und Weise. Doch während Social-Media-Netzwerke früher wahrscheinlich aus einem kleinen Kreis von Bekannten bestanden, sind die meisten von uns heute Teil von viel grösseren Gemeinschaften, die einen Einfluss auf das haben, was wir lesen, denken und tun.
Einer der Beeinflussungsmechanismen ist zum Beispiel «Twitter-Trends». Die Plattform verwendet einen Algorithmus, um Hashtag-gesteuerte Themen zu bestimmen, die zu einem bestimmten Zeitpunkt populär werden und macht Twitter-Nutzer weltweit und lokal auf Top-Wörter, Phrasen, Themen und beliebte Hashtags aufmerksam.
Jetzt haben neue Forschungen des EPFL-Labors für verteilte Informationssysteme, das zur Fakultät für Informatik und Kommunikation gehört, eine Schwachstelle im Algorithmus gefunden, der die Trending Topics von Twitter festlegt - Löschungen werden von ihm nämlich nicht berücksichtigt. Dadurch können Angreifer Tweets posten, die ein Schlüsselwort enthalten, das zu den Trends gepusht werden soll, und ihre Tweets dann sofort löschen.
«Wir haben festgestellt, dass Angreifende sowohl gefälschte als auch kompromittierte Konten verwenden, d.h. Konten von normalen Personen mit gestohlenen Anmeldeinformationen oder die eine Schad-App auf ihrem Telefon installiert haben. Normalerweise haben sie keine Ahnung, dass ihr Konto als Bot zur Manipulation von Trending Topics verwendet wird. Selbst wenn sie sich des Problems bewusst sind, wissen sie oft nicht, was sie dagegen tun können. In beiden Fällen nutzen sie Twitter weiter», so Tuğrulcan Elmas, einer der Autoren der Forschungsarbeit, die vom IEEE European Symposium of Security and Privacy 2021, einer Top-Konferenz für Cybersicherheit, angenommen wurde.
«Wir haben herausgefunden, dass 47 % der lokalen Trends in der Türkei und 20 % der Trends weltweit Fakes sind, die von Bots aus dem Nichts geschaffen werden. Zwischen 2015 und September 2019 haben wir 108’000 beteiligte Bot-Accounts aufgedeckt – der grösste Bot-Datensatz, der je in einer Publikation erwähnt wurde. Unsere Forschung ist die erste, die diese umfangreiche Manipulation von Twitter-Trends aufdeckt», berichtete Elmas weiter.
Zu den entdeckten Fake-Trends gehören Phishing-Apps, Glücksspiel-Promotionen, Desinformationskampagnen, politische Slogans, Hassreden gegen gefährdete Bevölkerungsgruppen und sogar Heiratsanträge.
«Diese Manipulationen haben schwerwiegende Folgen, denn Twitter-Trends erregen Aufmerksamkeit. Breitere Medien berichten über Trends, die als Proxy für die Gesprächsthemen der Leute dienen, aber leider handelt es sich dabei um manipulierte Stellvertreter, die das Bild der tatsächlichen Gespräche in der Öffentlichkeit verzerren», sagt Rebekah Overdorf, eine weitere Autorin der Studie. «Einer der manipulierten Hashtags, den wir gefunden haben und der künstlich zu Trends gepusht wurde, war zum Beispiel #SuriyelilerDefolsun, was übersetzt 'Syrer raus' bedeutet. Er wurde dann von mehreren Nachrichtensendern, anderen Social-Media-Plattformen und in akademischen Abhandlungen aufgegriffen. In Wirklichkeit war er komplett erfunden», erklärt Overdorf weiter.
Die Forschenden kontaktierten Twitter zweimal und in beiden Fällen bestätigte das Unternehmen die Schwachstelle in seinem Trends-Algorithmus. Im ersten Fall weigerte sich Twitter, Änderungen vorzunehmen, bei der zweiten Kontaktaufnahme reagierte das Unternehmen nicht mehr auf die E-Mails der Forschenden. «Das Problem ist noch nicht behoben und wir sehen weiterhin offensichtliche Spam-Trends. Es ist klar, dass Widersacher auch in Zukunft mit der gleichen Angriffsmethode gefälschte Trends erstellen werden, solange die Schwachstelle im Algorithmus nicht behoben ist», so Elmas.
