Wir übersetzen die Beiträge von Global Voices in viele Sprachen, damit die Bürgermedien aus aller Welt für alle zugänglich werden.

Erfahre mehr zu Lingua-Übersetzungen  »

Ist „Lex Facebook“ noch zu retten? Eine Menschenrechtsanalyse

Facebook-Gründer Mark Zuckerberg bei Facebooks F8-Konferenz. Foto von pestoverde via Flickr (CC BY 2.0)

In einem Versuch sich im Internet zu findenden Hass und Diskriminierung entgegenzustellen, schrieben deutsche Gesetzgeber eines der EU-weit kontroversesten Gesetze des Jahres 2017, welches Online-Plattformen regulieren soll.

Das gemeinhin als „NetzDG“ bekannte Netzwerkdurchsetzungsgesetz verlangt von Social-Media-Unternehmen die proaktive Durchsetzung des Gesetzes auf ihren Plattformen. Dies traf sowohl in Deutschland als auch in anderen Ländern auf eine Welle der Kritik.

Das Gesetz verhängt auf Kosten der Netzwerke Geldstrafen, sollten sie versäumen „offensichtlich rechtswidrige“ Inhalte binnen 24 Stunden nach der Beschwerde zu entfernen. Bei weniger eindeutigen aber trotzdem zweifelhaften Inhalten haben die Unternehmen 7 Tage Zeit für die womöglich nötige Entfernung der Inhalte. Das NetzDG entwickelt hier keine neuen Kategorien von strafbaren Inhalten, sondern verweist lediglich auf die Verpflichtung für große Social-Media-Unternehmen, eine ladungsfähige Anschrift in Deutschland bereitzustellen.

De facto zwingt das Gesetz Unternehmen, Inhalte auf ihren Plattformen viel umfangreicher und schneller zu kontrollieren, sollten sie keine hohen Bußgelder zahlen wollen, die sich bei systematischer Verletzung auf bis zu 50 Mio. Euro summieren können. Auch wenn dies offensichtlich den Druck auf die Unternehmen erhöht, den Forderungen und Vorgaben nachzukommen, so lässt es sie allein mit der Last der Entscheidung, was genau offensichtlich rechtswidrige Inhalte sind – und was nicht. Unweigerlich wird das kleine Zeitfenster, welches das Gesetz für die Entfernung von „Hate Speech“ vorsieht, zu schlechten Entscheidungen seitens der Unternehmen führen, um die hohen Strafen zu umgehen.

NetzDG ist im derzeitigen politischen Zeitgeist Europas verankert. Viel mehr noch als in den lang anhaltenden Spannungen und Machtkämpfen zwischen Social-Media-Unternehmen bezüglich der Frage, wer bei den Plattformen der Meinungsäußerung online die größte Rolle spielt.

Vor und während der Bundestagswahlen 2017 war die Angst vor dem Einzug der rechtspopulistischen AfD (Alternative für Deutschland) in den Bundestag allgegenwärtig. Sie führte zu einem Meer an Stimmen, die auf die Gesetzgeber Druck ausübten, Hate Speech aus den sozialen Medien zu verbannen. Facebook war hierbei Hauptziel. Stimmen, die einen wohlüberlegten Ansatz forderten, der mehr Transparenz und Rechenschaftspflicht seitens der Social-Media-Unternehmen erfordere und somit die Rechte und Interessen der Nutzer schützen würde, gingen unter.

Und obwohl alle Social-Media-Unternehmen den Inhalten des Gesetzes nachkommen müssen, ist es relativ offenkundig, dass „Lex Facebook“, wie das Gesetz auch genannt wird, stets ein ganz bestimmtes Unternehmen in die Knie zwingen sollte.

Nun gilt in Deutschland ein Gesetz, welches Facebook zwar zu besonderem Respekt und unverhältnismäßigen Reaktionen gegenüber Inhalten auf seiner Plattform zwingt, allerdings ohne dabei beim Unternehmen ein tatsächliches Umdenken und Reformen bei der Regulierung von Inhalten im Interesse der Allgemeinheit zu bewirken.

Jedes Mal, wenn Gesetzgeber sich unter Druck gesetzt fühlen, Inhalte online zu entschärfen, scheinen sie immer mehr der eigentlichen Regulierungsverantwortung an private Unternehmen abzugeben. Das Endergebnis ist, dass Facebook mehr – und eben nicht weniger – entscheiden muss, welche Inhalte bleiben.

Auch wenn die Durchsetzung des Gesetzes sich theoretisch auf Deutschland beschränkt, sind seine Auswirkungen trotz alledem weltweit spürbar. Kann das Gesetz ausreichend ausgebessert werden, um weiteren Schaden an Menschenrechten online zu vermeiden? Oder sollte es zur Gänze verworfen werden?

Legislativer Fortschritt? Bessere Governance?

NetzDG verändert die Nutzungserfahrung deutscher Facebook-Nutzer deutlich. Wenn Nutzer Inhalte melden wollen, werden sie zu einer separaten Beschwerdeseite weitergeleitet, auf der sie Facebook bitten, die besagten Inhalte auf Grundlage des NetzDGs zu entfernen. Diese Seite funktioniert vollkommen anders und arbeitet parallel zu existierenden Vorgängen, die andere Nutzer weltweit durchlaufen, wenn sie Inhalte basierend auf Facebooks Gemeinschaftsstandards melden und scheint außerdem auch auf einem separaten Eskalationsmechanismus aufgebaut zu sein.

Screenshot der NetzDG-Beschwerdeseite, vom Autor aufgenommen.

Hauptsächlich verweist das NetzDG auf bereits geltende deutsche Rechtsprechung hinsichtlich illegaler Inhalte. Von zentraler Bedeutung sind die engen Zeitfenster, die für die Entfernung illegaler Inhalte nach Eingehen einer Meldung gewährt werden, sowie die drohenden Geldbußen.

Bis jetzt ist trotz alledem noch sehr wenig darüber bekannt, wie Facebook im Endeffekt festlegt, welche Inhalte der deutschen Gesetzgebung entsprechen und welche Inhalte als rechtswidrig eingestuft werden. Werden gemeldete Inhalte von Menschen überprüft oder übernimmt dieser Schritt ein Algorithmus? Sollten sie von einem Menschen überprüft werden, kommt die Frage auf, ob die Person in San Francisco, auf den Philippinen oder in Dublin sitzt. Kennt die verantwortliche Person den kulturellen Kontext, in dem sich der jeweils gemeldete Beitrag bewegt? Verfügt die Person über eine juristische Ausbildung? Wer trifft die finale Entscheidung im Überprüfungsprozess der Inhalte? Facebook gibt diese Informationen nicht für die Öffentlichkeit frei, also wissen wir es nicht. Der Vorgang kann dramatisch variieren, je nachdem wie die Antworten auf diese Fragen lauten.

Transparenz?

Zumindest ein positiverer Aspekt des NetzDG sind die regelmäßigen Veröffentlichungen von detaillierten Transparenzberichten zur Umsetzung des Gesetzes, zu denen große Social-Media-Plattformen laut NetzDG verpflichtet sind. Allerdings fehlt bei den Datenkategorien, die im NetzDG für jene Transparenzberichte vorgegeben werden, das grundlegende Verständnis dafür, wie Facebook Entscheidungen trifft. Die geforderte Transparenz umfasst lediglich die Umsetzung der Vorgaben des NetzDG und lässt jegliche Entscheidungen Facebooks bezüglich der Entfernung von Inhalten darüber hinaus außen vor. Die im Rahmen der Nutzungsbedingungen getroffenen Entscheidungen werden vollkommen gesondert gehandhabt – das Gesetz fordert diesbezüglich keine Transparenz.

Absurderweise verlangt das Gesetz eine Art Transparenz von Facebook, welche die deutsche Regierung und ihre Institutionen selbst gar nicht bieten. Es ist unmöglich, einen deutschlandweiten Überblick über alle entfernten Inhalte oder Datenanfragen durch staatliche Stellen zu erhalten, ganz zu schweigen von einer nach Behörden gegliederten Übersicht zu diesen Datensätzen. Was die einzelnen Anfragen des deutschen Staates an Facebook angeht, tappt die Öffentlichkeit vielfach im Dunkeln.

Dies ist deswegen so gravierend, weil einige Unternehmen wie bspw. der E-Mail-Anbieter Posteo in ihren jährlichen Transparenzberichten angeben, dass eine Vielzahl der von ihnen erhaltenen Anfragen von staatlichen Stellen gegen geltendes Recht verstoßen. Bedeutet dies etwa, dass ein ähnlicher Anteil von Löschungsanträgen ebenfalls illegal ist? Öffentlich zugängliche Daten zu solchen Anträgen könnten eine Antwort darauf bieten.

Gleichzeitig strebt das NetzDG mehr Transparenz in Facebooks Entscheidungsprozessen an, was durch regelmäßige verpflichtende Transparenzberichte des Unternehmens bewirkt werden soll.

Anti-AfD-Demonstration in Köln, April 2017. Foto von Elke Wetzig via Wikimedia (CC BY-SA 4.0)

Zu guter Letzt versäumt NetzDG es, einen einheitlichen Standard zur Datenfreigabe festzulegen, welcher die Suche nach Daten sinnvoll gestalten und Rück- bzw. Querverweise ermöglichen würde. Es bedeutet in der Realität, dass jedes Unternehmen seine Informationen in unterschiedlichen Formaten und mit unterschiedlichen Metriken zur Verfügung stellen wird, was aussagekräftige Vergleiche – bspw. zwischen Facebook und Twitter – nahezu unmöglich macht. Derartige Richtlinien zur Informationsveröffentlichung hätten von privaten Unternehmen gemeinsam und schon vor langer Zeit entwickelt werden müssen. Da sie aber kein wirkliches Interesse daran haben, ihre Daten für Vergleiche sinnvoll nutzbar zu machen, müssen zivilgesellschaftliche Organisationen diese Lücke füllen und angemessene Standards festlegen.

All das macht es unabhängigen Dritten unmöglich, Querverweise zwischen Transparenzberichten aus dem öffentlichen und dem privaten Sektor zu erstellen. Es ist durchaus möglich, sicherzustellen, dass Transparenz sowohl vom öffentlichen als auch privaten Sektor auf eine Art und Weise eingehalten wird, die es ermöglicht, einzelne Aussagen auf ihre Richtigkeit und Authentizität hin zu überprüfen. Leider besitzt das Gesetz nicht den Mut, auch staatliche Stellen zu kritisieren und hier für Verbesserungen zu sorgen.

Das Versagen der Selbstregulierung wird ignoriert

Der womöglich absurdeste Aspekt an NetzDG ist, dass sich nur sehr wenige Teile des Gesetzes konkret mit der Verbesserung von Facebooks gegenwärtigem, nicht funktionierenden System der Selbstregulierung befassen, obwohl sich ein bedeutender Teil der öffentlichen NetzDG-Debatte um genau diesen Aspekt drehte.

Das bedeutet, dass es für Facebook noch immer zur alltäglichen Normalität gehört, angeblich anstößige Inhalte wie Bilder von stillenden Frauen oder nicht gewalttätige politische Beiträge zu löschen, während Gewaltanstiftungen unangetastet auf der Plattform verbleiben.

Bessere Mindeststandards der Selbstregulierung würden viele der offenen Fragen bezüglich Facebooks Inhaltsregulierungen, über die wir auch jetzt noch so gut wie nichts wissen, beantworten. Im Moment bleibt ein Großteil dieses Prozesses weiterhin im Verborgenen.

Ein Beispiel zur Anhebung dieser Standards wäre der Schritt, bei Mitarbeitern, die Inhalte überprüfen sollen, ein Mindestmaß an juristischen Kenntnissen vorauszusetzen. Auf diese Weise könnte die Qualität der getroffenen Entscheidungen zumindest etwas verbessert werden.

Das NetzDG als Abwärtsspirale

Im Bundesministerium für Justiz und Verbraucherschutz vermerkte der Verfasser des NetzDGs: „Große Macht und Kontrolle bringen große Verantwortung mit sich.“

Das Ausmaß an Einfluss von Social-Media-Unternehmen stellt Gesetzgeber vor ein grundlegendes Problem: Zunehmend wird sich darauf konzentriert, „etwas gegen Facebook zu unternehmen“. Dies führt zu einer Abwärtsspirale der Deregulation, bei der Regulierer Entscheidungsgewalt und Verantwortung auf private Konzerne auf eine Art und Weise abwälzen, die weder hilfreich noch effektiv hinsichtlich der Lösung dieses Problems ist.

Es führt stattdessen zu einer Privatisierung von Entscheidungen, die durch unabhängige Stellen getroffen werden sollten. Jedes neue Gesetz – mag es noch so sehr auf guten Absichten basieren – zwingt Regulierer in eine zunehmend paradoxe Abhängigkeit.

Die Steuerung des öffentlichen Sektors versagt ebenfalls

Es gibt noch weitere Bereiche, in denen der öffentliche Sektor bei der Eindämmung von Hate Speech eine bedeutende Rolle spielen könnte. Wären einfache gerichtliche Verfahren zugänglich, erschwinglich und schnell, könnten sich Nutzer, die online belästigt oder bedroht wurden, bei ihrer Suche nach Hilfe und Schutz an öffentliche Stellen wenden. Statt Facebook als eine Art privatisierte Polizei agieren zu lassen, könnten öffentliche Strukturen diese Verantwortung übernehmen. Natürlich würde dies auch das Eingeständnis bedeuten, dass deutliche Verbesserungen im staatlichen Bereich zwingend notwendig sind, um schnelle und effektive juristische Entscheidungen zu ermöglichen.

Dies ist allerdings nicht unmöglich. So beschäftigt zum Beispiel die niederländische Polizei eine zentralisierte Einheit, welche alle Löschungsanweisungen und -anträge für Daten im Internet, die bei Online-Service-Providern gestellt werden, bearbeitet. Diese Einheit soll unter anderem auch sicherstellen, dass Entscheidungen die weitergeleitet werden, juristisch einwandfrei sind. Ein derartiges Modell, in Verbindung mit zusätzlicher richterlicher Aufsicht, könnte ein Ausgangspunkt für deutsche Gesetzgeber sein, um zu zeigen, dass sie es mit der Problemlösung in diesem Bereich ernst meinen und nicht darauf bauen, dass Facebook alles für sie übernimmt.

Indem die Verantwortung an Facebook abgewälzt wird, verfehlt der öffentliche Sektor nicht bloß eine Lösung des Problems – er ist sogar aktiv an der Verschlechterung der aktuellen Situation beteiligt.

Ein defektes Gesetz reparieren?

Was bedeuten diese Ausführungen nun für die praktische Umsetzung des NetzDG? Können die Mängel des Gesetzes behoben werden und wenn ja, wie? Grob gesagt können Gesetzgeber das NetzDG verbessern, indem sie die regulatorische Macht der Privatunternehmen reduzieren und sicherstellen, dass stattdessen der öffentliche Sektor mehr Verantwortung übernimmt und die Zivilgesellschaft eine größere Rolle spielt.

Sie könnten sich von dem 24h-Zeitfenster verabschieden und es durch eine abgespeckte Fassung ersetzen, bei der Facebook alle problematischen Fälle an eine selbstregulatorische deutsche Instanz weiterreichen kann, die dann mehr Zeit für die Beurteilung dieser Fälle bekommt.

Sie könnten in das deutsche Rechtssystem investieren, auch über die Notwendigkeit einer ladungsfähigen Anschrift Facebooks hinaus, und somit das Rechtssystem für normale Bürger zugänglicher machen. Außerdem würde ein derartiger Schritt auch mehr Transparenz und Verantwortlichkeit seitens der Regierung bedeuten.

Ein weiterentwickeltes NetzDG könnte darüber hinaus bei den ohnehin verlangten Transparenzberichten auch einen offenen Standard etablieren und durchsetzen. Ein erfolgreich implementierter offener Standard ermöglicht ferner Querverweise zu Daten zwischen Transparenzberichten von öffentlichen und privaten Organisationen und kann dabei unterstützen, dass sowohl Unternehmen als auch die Regierung ihrer Verantwortung gerecht werden.

Und noch viel allgemeiner betrachtet kann das Gesetz einen Prozess mit allen relevanten Interessenvertretern anstoßen, der Mindeststandards der Selbstregulierung für Online-Plattformen entwickelt, die tatsächlich mit dem deutschen Grundgesetz sowie internationalen Menschenrechtsstandards im Einklang stehen.

Der Weg zu einem weniger grauenhaften NetzDG

Diese Schritte könnten ein stark kritisiertes Gesetz in einen weniger problematischen Rechtstext verwandeln. Ein derartiges NetzDG, das internationalen Menschenrechtsstandards entspricht und die Meinungen internationaler Rechtsexperten in der Entwurfsphase tatsächlich ernst nimmt, könnte dazu beitragen, einen Teil des bereits international verursachten Schadens einzudämmen.

Die deutsche Regierung muss sich fragen, warum eine Eins-zu-eins-Übernahme des Gesetzes derzeit von der russischen Duma diskutiert wird und was dies über die Pflichten der Bundesregierung zur Erhaltung und zum Schutz von Menschenrechten und Rechtsstaatlichkeit aussagt.

Zuletzt bleibt die Erkenntnis, dass für die Entwicklung eines weniger problematischen NetzDGs die Gesetzgeber zuallererst aus der Abwärtsspirale der privatisierten Rechtsdurchsetzung ausbrechen müssen. Ein einfaches „weiter so“ wird die Probleme, die mit großen privaten Intermediären verbunden sind, nicht lösen. Ein stärkerer Fokus auf das Grundgesetz und Menschenrechte hingegen schon.

Unterhaltung beginnen

Für Autoren: Anmelden »

Richtlinien

  • Alle Kommentare werden moderiert. Sende nicht mehrmals den gleichen Kommentar, damit er nicht als Spam gelöscht wird.
  • Bitte geh respektvoll mit anderen um. Hass-Kommentare, Obszönes und persönliche Beleidigungen werden nicht freigeschaltet..