Sechsmal haben sich in den vergangenen Monaten Wissenschaftler, Menschenrechtsaktivisten und Facebook-Mitarbeiter in Konferenzräumen überall auf der Welt zu Workshops versammelt. Eingeladen zu den Meetings in Singapur, Nairobi oder New York hat der größte Social Media Konzern der Welt. Die Treffen waren nicht öffentlich. Doch was hier diskutiert wurde, dürfte massive Auswirkungen darauf haben, wie in Zukunft entschieden wird, was auf dem größten sozialen Netzwerken der Welt gesagt werden darf und was nicht.
Diskutiert wurde bei dem Treffen über einen der ambitioniertesten Pläne, an denen Facebook gerade arbeitet: Der Konzern will ein unabhängiges Gremium installieren, das besonders umstrittene Entscheidungen des Konzerns noch einmal verhandelt und die Regeln des Konzerns kontrolliert. Facebook nennt das Gremium "Oversight Board". Funktionieren soll es wie eine Mischung aus Verfassungsgericht, Ethikrat und parlamentarischem Ausschuss.
Die Initiative ist eine Reaktion auf die breite Kritik an Facebook, zu wenig gegen Hassrede und Desinformation zu unternehmen, zur Radikalisierung und Polarisierung der Gesellschaft beizutragen und die Integrität von Wahlen zu gefährden.
"Wir hören immer wieder von den Nutzern, dass Sie von Facebook mehr Transparenz und eine Art Gewaltenteilung bei der Entscheidungsfindung erwarten, was online bleibt und was nicht", sagt Facebook-Mitarbeiterin Zoe Mentel Darmé der Süddeutschen Zeitung. "Das Board kann dabei helfen, diese Ziele zu erreichen." Mentel Darmé arbeitet am Aufbau des Oversight Boards, seit Mark Zuckerberg die Idee erstmals im November 2018 in einem Facebook-Post öffentlich machte. In Kürze will ihr Team ein Dokument veröffentlichen, das die Empfehlungen von externen Experten und den aktuellen Planungsstand öffentlich macht.
Mischung aus Verfassungsgericht und Ethikrat
Viele Fragen für das Board, das wohl frühestens nächste Jahr seine Arbeit aufnimmt, sind zwar noch offen. Doch dass Facebook-Mitarbeiterinnen das Kontrollgremium mit staatsrechtlichen Begriffen beschreiben, ist kein Zufall: Facebook hat längst eine eigene Rechtsprechung etabliert, die entscheidet, was auf der Plattform gesagt werden darf und was nicht. Jeden Tag treffen Löscharbeiter hunderttausendfach Entscheidungen darüber, ob bestimmte Posts, Kommentare, Videos oder Bilder aus dem Netzwerk verschwinden müssen oder online bleiben. Die Grundlage dafür steht in den Hausregeln, den sogenannten Community Standards, die Facebook sich selbst gegeben hat. Sie gelten für die rund drei Milliarden Nutzer von Facebook und der zum Konzern gehörenden App Instagram, die gerade bei jüngeren Nutzern immer populärer wird.
Doch die Regeln sind längst nicht immer eindeutig, und wie sie ausgelegt werden ist für viele Nutzer noch weniger eindeutig nachvollziehbar. Klar ist: Die Community Standards haben nicht dafür gesorgt, dass Hetze und Falschinformationen von der Plattform verschwinden. Obwohl Facebook die Regeln kontinuierlich anpasst. So hat Facebook inzwischen Hetze gegen Geflüchtete als Löschgrund aufgenommen oder geht seit einigen Monaten auch deutlich restriktiver gegen die Ideologie des "White Nationalism" vor. Inzwischen beschäftigt der Konzern mehr als 20 000 sogenannte Content-Moderatoren, die in wenigen Minuten die Regeln umsetzen und über Posts entscheiden.
Über das existierende Regelwerk wird nun wie ein Oberster Gerichtshof das "Oversight Board" gestülpt. Hier sollen besonders kontroverse Fälle noch einmal unabhängig verhandelt und dann erneut entschieden werden. Doch welche Fälle soll das Board sich anschauen? Wie kann das Board unabhängig und glaubwürdig sein? Und wer soll überhaupt in dem Gremium sitzen und entscheiden?
Für diese Fragen hat Facebook sich auf den sechs globalen Workshops die Meinung von Wissenschaftlern und Experten angehört. Anfang der Woche fand der letzte in einem Berliner Hotel statt. "Eine Institution ins Leben zu rufen, die die Redefreiheit von Millionen von Menschen reguliert, ist eine gigantische Aufgabe, die das Potenzial hat, unsere Gesellschaft auf drastische Art und Weise zu beeinflussen", sagt die Menschenrechtsaktivistin Dia Kayyali, die sich die aktuellen Pläne von Facebook in Berlin angehört hat. "Es fühlt sich an, als würde man sich eine neue Art von Regierung ausmalen." Kayyali fordert daher, dass Facebook das "Oversight Board" mit weitreichender Macht ausstatten solle: "Das Gremium sollte nicht nur die fehlerhaften, existierenden Facebook-Regeln und Community Standards interpretieren dürfen. Es muss die Regeln selbst verändern können und zwar auf der Grundlage der Menschenrechte."
Ob das Gremium lediglich einzelne Posts noch einmal verhandelt oder auch Vorschläge über die grundlegenden Regeln und Prozesse bei Facebook machen darf, war eine der umstrittensten Fragen in Berlin. "Das Board muss zunächst Einzelfälle verhandeln, denn diese sind wichtig, um bestimmte Herausforderungen konkret zu machen", sagt Zoe Mentel Darmé von Facebook dazu. "Von den Einzelfällen aus sollte das Board dann aber grundsätzlich werden."
"Das hier ist ein Zeichen, dass Facebook kein rechtloser Wilder Westen ist."
Die Jura-Professorin Tehilla Altshuler ist überzeugt, dass das Gremium "sich auch andere ethische Frage anschauen sollte, die Facebooks Geschäftsmodell aufwirft." Themen wie die Privatsphäre der Nutzer dürfe das Gremium nicht ausklammern, sagt die Wissenschaftlerin, die in Jerusalem zu Technologie und Recht forscht. Die aktuellen Schritte in Richtung eines Verfassungsgerichts bewertet Altshuler grundsätzlich positiv. "Das hier ist ein Zeichen, dass Facebook kein rechtloser Wilder Westen ist oder ein Ort, in dem Entscheidungen nur hinter verschlossenen Türen getroffen werden."
Bleibt die Frage, warum Facebook all das jetzt tut. Parallel zum Berliner Workshop hielt Nick Clegg eine Rede, in der er in den vergangenen Monaten schon oft vorgetragenes Mantra wiederholte: "Facebook möchte reguliert werden." Es ist eine Vorwärtsverteidigung des inzwischen zu Facebook gewechselten ehemaligen britischen Vizepremiers gegen die immer lauter werdenden Rufe von Politikern aus den USA und Europa, die dem Netzwerk mit strengen Gesetzen drohen. "Facebook ist klar geworden, dass Regulierung eine sehr reale Möglichkeit ist und reagiert jetzt mit allem, was sie in ihrem Werkzeugkasten haben", sagt auch Jura-Professorin Altshuler.
Geplant ist momentan, dass das Oversight Board seine Arbeit Anfang nächsten Jahres aufnimmt und aus 40 Personen bestehen soll. Dabei sollen die Mitglieder die Vielfalt der Nutzerschaft von Facebook abbilden und aus allen Weltregionen stammen. Einige innerhalb von Facebooks Planungsteam hoffen, dass das Gremium Entscheidungen innerhalb von 24 Stunden wird treffen können. Ob diese Arbeit Vollzeit oder Teilzeit sein wird, ist unklar. Fest steht, dass die Mitglieder des Gremiums von Facebook bezahlt werden sollen. Oder wie es ein Teilnehmer des Workshops ausdrückte: "Eine demokratische, quasi-staatliche Infrastruktur aufzubauen ist ein sehr viel ambitionierterer und teuerer Plan als einfach nur Geld verdienen zu wollen."
