Bei einer ungenehmigten Demonstration auf dem zentralen Moskauer Maneschnaja-Platz halten im Dezember 2014 einige Leute Plakate mit dem Namen des Oppositionsführers Alexej Nawalny hoch. Foto: Nikolai Winokurow, Demotix.

In Russland hat eine regierungsfreundlich gesinnte politische Denkfabrik etwas aufgegriffen, das sie mit dem Begriff “Vorhersage- und Überwachungsmodell” bezeichnet. Es soll dazu dienen, ungenehmigte Demonstrationen und Protestaktionen im Internet zu überwachen. Während überall auf der Welt bereits ähnliche Verfahren entwickelt worden sind, bezweifeln Experten, dass dieses spezifische System so gefährlich ist, wie es klingt.

Die Software hatte am 18. Mai ihren ersten Testlauf und durchsuchte abschnittsweise ein nicht identifiziertes soziales Netzwerk, teilte Jewgeni Wenediktow, Direktor des Zentrums zur Erforschung der Legitimität politischer Proteste, der regierungstreuen Tageszeitung Iswestija mit. Wenediktow meinte, das Programm würde vordefinierte Schlüsselelemente von Netzwerken überwachen, wie Gruppen oder Profile, die von Freiwilligen in einer Datenbank gesammelt wurden und nach “Soziologen und Politologen” gefiltert worden sind. Derartige Zielbündel würden die Aufmerksamkeit der Überwachung auf politisch orientierte Gruppierungen, wie Bürgerrechtsbewegungen und lokale Diskussionsforen, lenken und außerdem Gefällt-mir-Angaben und Retweets von Inhalten “extremistischer Gruppen” registrieren.

Wenediktow behauptet, die neue Software namens Laplacescher Dämon (eine Bezeichnung, die von einem mathematischen Gedankenexperiment des französischen Wissenschaftlers Pierre-Simon Laplace entlehnt wurde, der im 19. Jahrhundert einen allwissenden Dämonen beschrieb) sei dazu in der Lage, Vorbereitungen für Proteste zu erkennen, lange bevor sie tatsächlich stattfinden. Außerdem könne das Programm diese Informationen an staatliche Verfolgungsbehörden, Wissenschaftler und Staatsbedienstete weiterleiten.

Wie funktioniert das vorausdeutende Überwachen?

Jay Ulfelder, Politikwissenschaftler und Forschungsmitglied der Data-Pop Alliance, sagte dem RuNet Echo, es sei möglich, Systeme zu entwickeln, die Posts aus den sozialen Medien und anderes Rohmaterial verarbeiten, um Protestaktivitäten mit einer “Genauigkeit vorherzusagen, die in etwa dem tatsächlichen Zeitpunkt des Ereignisses entspricht”.

The simplest version of this is old-fashioned eavesdropping—watch specific social media feeds or group forums for planning activity—and that probably still works in many cases. More sophisticated versions would watch those spaces and possibly many other forms of unstructured data, convert those streams to structured data through things like natural language processing and imagery analysis, and then use statistical models or machine learning to generate forecasts about the activity of interest.

Die einfachste Version dieses altmodischen Abhörens registriert in den sozialen Medien bestimmte Feeds aus Foren, die zur Planung von Aktivitäten dienen. In den meisten Fällen funktioniert das recht gut. Intelligentere Methoden würden Verteilungen und wahrscheinlich viele andere Formen unstrukturierter Daten beobachten, anschließend diese Informationsströme durch Sprachverarbeitung und Bildanalysen in strukturierte Daten umwandeln, um dann statistische Modelle oder maschinelles Lernen anzuwenden, woraus schließlich Vorhersagen zu den interessierenden Aktivitäten resultieren.

Ulfelder nennt das Beispiel von EMBERS (Abkürzung für Ereigniserkennung auf Basis eines Frühphasenmodells zur Verarbeitung von Sekundärinformationen). Das ist ein von der US-Regierung finanziertes Vorhersagemodell, das auch in China zur Überwachung sozialer Medien eingesetzt wird. Es antizipiert gemeinschaftliche Aktionen und Zensurdebatten, die Auslöser derartiger Ereignisse sein können. Ägyptische Verfolgungsbehörden haben gleichfalls versucht, eine umfassende Überwachung aufzubauen, um soziale Medien nach abweichenden Meinungsäußerungen und nach “Inhalten, die die öffentliche Sicherheit gefährden” zu durchforsten. Während die Vorhersage-Algorithmen in jedem Modell anders und nicht immer offensichtlich sind, sagt Ulfelder, gibt es zumindest “Indizien dafür, dass so etwas einigermaßen gut bewerkstelligt werden kann”.

Was wird überwacht?
Obwohl nicht ganz klar ist, welche sozialen Netzwerke die Software derzeit überwachen kann und welche Möglichkeiten das System überhaupt hat, sagte Wenediktow gegenüber Isvestija, man plane ab September die Überwachung von Twitter. Er nannte den Kurznachrichtendienst einen der schlimmsten Täter hinsichtlich der Bereitstellung “extremistischer Inhalte”.

Мы провели исследование и выяснили, что именно эта соцсеть является не только лидером среди других социальных медиа по числу размещенных на нем ссылок на экстремистский контент, но и к тому же не удаляет их по требованию Роскомнадзора.

Wir haben einiges erforscht und dabei herausgefunden, dass dieses spezielle Netzwerk nicht nur zu den führenden sozialen Medien gehört, wenn man die Anzahl der Links zu extremistischen Inhalten zugrunde legt, sondern es weigert sich auch beständig, diese Links trotz Aufforderung durch Roskomnadsor [Aufsicht im Bereich der Kommunikation] zu löschen.

In Russland werden Twitter, Facebook und andere soziale Medien des Internets von Aktivisten und Oppositionsmitgliedern als Alternative zu den offiziellen und vom Kreml beeinflussten Medien genutzt, um Protestkundgebungen zu organisieren und  wichtige gesellschaftliche und politische Diskussionen zu ermöglichen. Obwohl Roskomnadsor, die Regulierungsbehörde der russischen Medien, regelmäßig von diesen Netzwerken verlangt, politische Inhalte zurückzudrängen, die als “extremistisch” betrachtet werden, bleiben diese Forderungen meistens wirkungslos und es werden immer nur wenige Seiten tatsächlich entfernt. Roskomnadsor ist mit Twitter besonders unzufrieden, weil das Unternehmen die meisten Aufforderungen zur Löschung problematischer Inhalte einfach abgelehnt hat.

Wie ernst ist die Bedrohung?
Obwohl die neue Software als strahlende Innovation präsentiert worden ist, haben Russlands Sicherheitsdienste ohnedies Methoden zur Verfügung, um die öffentliche Meinung im Web zu kontrollieren, wie beispielsweise die semantischen Gruppen, die von den Behörden benutzt werden, um sowohl offizielle als auch Internet-Medien zu überwachen, einschließlich Blogs und Netzwerke.

Andrej Soldatow, Herausgeber der russischen Agentura.ru, die den Geheimdiensten auf die Finger schaut, sagte gegenüber RuNet, dass Russlands Überwachungssysteme vorrangig dafür entwickelt worden sind, strukturierte Informationen zu prüfen, wie Medienreportagen. Unstrukturierte Daten, wie sie für soziale Medien typisch sind, können sie nur in relativ kleinem Umfang und in ganz speziellen Fällen verarbeiten. Ein weiteres Thema ist laut Soldatow, dass diese Systeme nur bei frei zugänglichen Benutzerprofilen funktionieren (nicht jedoch bei privaten Profilen oder gesperrten Twitter-Konten) und sogar dann oftmals Schwierigkeiten haben, Inhalte und Metadaten zu erfassen, wie es bei Facebook der Fall ist.

Angesichts der Vielzahl der bislang durch verschiedene Regierungsbehörden eingesetzten Überwachungsinstrumente meint Soldatow, der neue “Laplacesche Dämon sieht nicht besonders gefährlich aus” und ergänzt, die Denkfabrik und Wenediktow, den er als “provinziellen Medienberater aus Nowgorod” tituliert, würden bei dieser profitablen Entwicklung einfach nur die Hand aufhalten.

This Center [for Research in Legitimacy and Political Protest] is not a big thing. It seems to me that it’s an effort to raise the public profile of the Center and find a way to government funding. Russian secret services have their own systems, like Semantic Archive, the [Presidential] Administration and the ministries use their own systems, and this Venediktov is merely trying to find his way to this profitable market.

Dieses Zentrum [Zur Erforschung der Legitimität politischer Proteste] ist keine große Sache. In meinen Augen ist das bloß ein Versuch, das Institut in der Öffentlichkeit zu profilieren, um staatliche Fördermittel zu bekommen. Russische Geheimdienste haben ihre eigenen Verfahren, wie semantische Gruppen. Die [präsidiale] Verwaltung und die Ministerien nutzen spezifische Systeme und dieser Wenediktow versucht nur, irgendwie von diesem Markt zu profitieren.

Während wir auf Einzelheiten zum Auftauchen dieses neuen Vorhersagemodells warten, gibt es mehr als genug reale Fälle über die wir uns Sorgen machen müssen, weil Nutzer sozialer Medien für das Posten unliebsamer Inhalte und “extremistischer Materialien” sanktioniert werden. Im Hinblick auf den Druck des Kremls auf die sozialen Medien und andere Webseiten, ihre Nutzerdaten auf Servern innerhalb Russlands zu speichern und wegen der Aufforderung, der zunehmenden Menge an politisch brisanten Inhalten entgegenzuwirken, scheint das vorauseilende Beobachten nur eine unter vielen Sachen zu sein, gegen die russische Aktivisten zu kämpfen haben, wenn sie im Internet nach einem sicheren Ort für ihre Arbeit und ihre Meinungen suchen.