Lesen Sie diesen Artikel auch auf Englisch und Russisch.

„Wir wissen, dass wir noch viel tun müssen.“ Das war die Standardaussage zahlreicher Vertreter von Facebook in den letzten Wochen als Reaktion auf die Werbeboykottkampagne #StopHateForProfit. Diesem Boykott, mit dem Druck auf das Unternehmen ausgeübt werden soll, stärker gegen Hassreden und Fehlinformationen vorzugehen, schlossen sich viele namhafte Konzerne an, darunter auch Unilever und Verizon. Er könnte damit für einen seltenen Einbruch bei Facebooks Werbeeinnahmen sorgen.

Die Kampagne scheint Wirkung zu zeigen. Facebook verkündete, dass es Wahlkampfinhalte besonders kennzeichnen und seine Richtlinien zu Hass und Hetze verschärfen werde. Zudem will das Unternehmen zukünftig von Personen aus der Politik verbreitete Hassbotschaften, die zwar gegen die Richtlinien verstoßen, aber aufgrund ihres „Nachrichtenwerts“ zugelassen werden, mit einem Warnhinweis versehen. Facebook betonte, dass all diese Schritte Teil einer fortlaufenden Aufräumaktion seien. „Wir wissen, dass wir noch viel tun müssen“, hieß es in der Erklärung.

„Wir wissen, dass wir noch viel tun müssen“ ist der ultimative Ausspruch im Zeitalter der sozialen Medien, den man wieder und wieder von Führungskräften hört, sobald ihre Unternehmen sich in der Öffentlichkeit für einen Skandal zu rechtfertigen haben. In nur acht Wörtern ist damit der Verteidigungsmodus umfassend beschrieben, in dem sich Facebook seit den US-Wahlen von 2016 befindet, als klar wurde, dass seine Duldung von hasserfüllten Communitys auf seinen Plattformen diese zu wissentlichen Übermittlern von Desinformationen und Propaganda gemacht hat.

Die Floskel ist sowohl ein Versprechen als auch ein Ablenkungsmanöver. Es ist ein Flehen um unverdientes Vertrauen – gebt uns Zeit, wir arbeiten daran und bessern uns. Und sie unterbindet sinnvolle Kritik – ja, wir wissen, dass es noch nicht genug ist, aber es geht ja noch weiter.

Im Fall von Facebook ist das Gefährlichste daran, dass es die grundsätzlichen strukturellen Mängel der Plattform übertüncht. Die Architektur des sozialen Netzwerks – sein algorithmischer Auftrag, bei dem es vorrangig um Nutzerbindung geht, der Vorzug, den es spaltenden und emotional manipulativen Inhalten einräumt – wird immer dafür sorgen, dass anstößige Inhalte in einer schwindelerregenden Größenordnung erzeugt werden.

Facebook ist zu groß, um es verantwortungsvoll regulieren zu können.

Facebook nutzt seine unfassbare Menge an Inhalten oft als Entschuldigung für seine Untätigkeit. Auf CNN sagte der Facebook-Sprecher Nick Clegg: „Wir haben schon enorme Fortschritte gemacht … Aber wissen Sie, an einem Tag werden durchschnittlich 115 Milliarden Nachrichten über unsere Dienste in die ganze Welt versendet, und die riesige, riesige Mehrheit davon ist positiv.“

Allerdings ist diese Verteidigung von Nick Clegg auch ein Eingeständnis: Facebook ist zu groß, um es verantwortungsvoll regulieren zu können. Es wird nie aufhören, dass Facebook noch viel tun muss, denn aufgrund seiner Konzeption wird stets mehr Hass erzeugt, als irgendjemand überwachen könnte. Wie soll man das reformieren? Es geht nicht.

In letzter Zeit wirkten sich zwei verschiedene Bewegungen auf meine Gedanken über Facebook aus: die zur Abschaffung von Gefängnissen und die Bewegung, die dazu aufruft, der Polizei die Finanzierung zu entziehen (Defund the Police). Natürlich geht das mit komplexen politischen Fragen einher, aber die zentrale Prämisse beider Bewegungen ist in ihrer Schlichtheit sehr elegant. Die hier kritisierten aufgeblähten und korrupten Institutionen sind jenseits jeder Reformierbarkeit. Zu dem Aufruf, der Polizei die Finanzierung zu entziehen, schrieb Mariama Kaba kürzlich in einem Gastkommentar in der New York Times: „Wir müssen unsere Forderungen ändern.“

Selbstverständlich kann man Facebook nicht eins zu eins mit der Polizei oder dem Gefängnisstaat vergleichen. Mariama Kaba zufolge hat die heutige Polizeiarbeit ihren Ursprung in den Sklavenpatrouillen. Facebooks Ursprünge sind natürlich ganz anderer Art.

Und dennoch liefern die Bewegungen eine nützliche Linse, durch die man Facebook betrachten kann. Trotz der erschöpfenden Debatten rund um Regelungen zur Mäßigung von Inhalten und immer neuen Verbesserungen an den Regeln und Richtlinien gibt es nach wie vor eklatante Probleme. Alles deutet darauf hin, dass das System nicht reformierbar ist.

Aufgrund seiner Konzeption wird stets mehr Hass erzeugt, als irgendjemand überwachen könnte.

„Wir erleben gerade, dass viele Leute zu unserer Rettung hoffnungsvolle Ideen für eine neue, menschliche Social-Media-Plattform vorbringen – eine Plattform, die die Privatsphäre achtet und nicht so vom Algorithmus-Zwang geprägt ist“, erzählte mir kürzlich Siva Vaidhyanathan, Professor für Medienstudien an der University of Virginia. „Aber wenn wir ehrlich sind, hat das, was sie da vorschlagen, im Grunde nichts mehr mit sozialen Medien zu tun.“ Anders gesagt, ist die Architektur das Problem. Er fügte hinzu: „Ich denke, die sozialen Medien sind schlecht für die Menschen. Und wir sollten nicht länger versuchen, uns vorzustellen, wie wir etwas, das von Grund auf eine schlechte Idee ist, in Ordnung bringen oder neu erfinden können.“

Ifeoma Ozama, die sowohl bei Pinterest als auch bei Facebook und Google als Führungskraft im Bereich öffentliche Richtlinien und soziale Auswirkungen tätig war, behauptet, dass Facebooks unzulängliche Architektur und seine Führung untrennbar miteinander verknüpft seien. „Wir werden keinen wirklichen Wandel erleben, wenn wir nur Veränderungen an den Rändern fordern“, äußerte sie mir gegenüber. „Die Plattform spiegelt die Werte derjenigen wider, die die Entscheidungen treffen. Wenn auf den Plattformen Leute arbeiten, die zur Aufrechterhaltung eines Systems der weißen Vorherrschaft beitragen oder nicht dagegen vorgehen wollen, dann wird die ganze Plattform allmählich diesem System gleichen.“

Damit spricht sie aus eigener Erfahrung im Silicon Valley, wo sie Regeländerungen erarbeitete, um die Verbreitung von medizinischen Fehlinformationen und Hate Speech in den sozialen Medien einzuschränken. Sie kritisierte die Führungen von Social-Media-Unternehmen öffentlich für ungerechte Bezahlung und erklärte kürzlich in einem Twitter-Thread, dass ihre Vorgesetzten durch „Rassismus, psychische Gewalt und Geringschätzung“ die Arbeit von dunkelhäutigen Menschen unterminierten.

„Selbst wenn jemand ein Rahmenwerk erfände, mit dem die Plattform strukturell umgestaltet werden könnte, würde es nicht eingeführt oder die Plattform reformiert“, sagte sie. „Man wird nie erleben, dass die Führungsriege von Facebook zugibt, das alles, was sie im letzten Jahrzehnt machte, falsch und schädlich war.“

Nur wenige, die Facebook kennen, glauben wirklich daran, dass Mark Zuckerberg sein Unternehmen demontieren oder seinen Druck auf den Vorstand verringern wird. Er wird Debatten wie diese eher als Gedankenexperimente denn als reale Vorschläge begreifen. Aber für diejenigen unter uns, die der Willkür dieser Unternehmensmacht ausgesetzt sind, scheint der Status quo unhaltbar. Kleine Reformen sind zwar wichtig, aber sie legen auch nahe, dass das Grundgerüst so bleiben kann, wie es ist – dass nur noch viel getan werden müsse. Facebook ist nicht reformierbar. Wir müssen unsere Forderungen ändern.

Alles deutet darauf hin, dass das System nicht reformierbar ist.

Die Kampagne #StopHateForProfit ist eine solche mögliche Änderung, aber es gibt noch weitere. Siva Vaidhyanathan erzählte mir, dass er nicht so sehr über eine Regulierung von Facebooks Plattformen nachdenke, sondern vielmehr versuche, sich Wege vorzustellen, die uns dabei helfen, in einer von Facebook beherrschten Welt zu leben.

„Vermutlich müssen wir anfangen, kategorischer darüber nachzudenken, welche Art von Informations-Ökosystem wir brauchen, um als demokratische Republik zu überleben“, sagte er. Zu seinen Ideen gehören auch Dinge, die er als „langweilig“, aber wesentlich bezeichnet, wie Investitionen in Bibliotheken und öffentliche Schulen.

Es gibt andere Ideen, wie beispielsweise einen „Plattform-Bankrott“ zu erklären, der damit einherginge, dass die Plattformen die Accounts sämtlicher Nutzer und Follower auf null setzen und alle Communitys den aktuellen Richtlinien entsprechend völlig neu aufbauen würden. Zu diesem Thema mangelt es nicht an Ideen. Beispielsweise schrieb meine Kollegin Annalee Newitz letztes Jahr in einem Kommentar: „Wir müssen aufhören, die Verantwortung für den Erhalt des öffentlichen Raumes den Unternehmen und Algorithmen zu überlassen, sondern müssen sie an die Menschen zurückgeben.“

Ich fragte meinen Twitter-Follower nach ihren besten Ideen, wie die Tech-Plattformen zu verbessern seien, und erhielt innerhalb weniger Stunden über 1 000 Antworten. Einige davon waren einfach: „Viralität darf nicht das ausschlaggebende Prinzip der Verbreitung sein.“ Andere gingen mehr ins Detail: „Eine unternehmens-/plattformübergreifende Zusammenarbeit im Bereich Daten und Forschung zwischen Treuhand- und Sicherheitsteams.“ Bei einigen ging es um eine grundlegende Veränderung: „Verbot von algorithmischer Verstärkung; Forderung eines Nachweises über Sicherheit, Wirksamkeit und Vorurteilsfreiheit vor einer Produkteinführung; Klassifizierung von persönlichen Daten als Menschenrecht und nicht als Wirtschaftsgut.“

Es gab Forderungen, die Metriken abzuschaffen, die wahren Identitäten strenger zu überprüfen und die Unternehmen zu einer Verlangsamung der Informationsverbreitung zu zwingen. Es wurden Lösungen für den Datenschutz und Ideen für spezifischer gestaltete Community-Netzwerke unterbreitet. Viele waren schonungsloser: Einfach alles dichtmachen und nochmal von vorn anfangen.

Einige dieser Ideen wirken fast zu utopisch, zu einfach, zu unwahrscheinlich, um sie hier aufzuschreiben. Aber in der Einfachheit steckt Eleganz; es sind Visionen von einem Internet, mit dem wir leben wollen. Facebook verkaufte uns die utopische Vision einer stärker vernetzten Welt und überlässt uns unserer gegenwärtigen Dystopie. Warum können sich diejenigen von uns, die das Chaos aufräumen müssen, nicht selbst an einer Utopie versuchen? So oder so: Wir wissen, dass wir noch viel tun müssen.

(c) The New York Times

Aus dem Amerikanischen von Ina Goertz