«Die Regel findet jetzt erst Anwendung»

von Loric Lehmann

Herr Bülow, wenn ich heute auf meiner privaten Facebook-Seite einen Post mache, indem ich behaupte, dass Covid-19 nicht schlimmer als eine normale Grippe sei, wie reagiert Facebook darauf?
Facebook arbeitet mit einem globalen Netzwerk von mehr als 55 Faktenprüfer-Organisationen zusammen. Diese externen, unabhängigen Partner prüfen Beiträge auf unseren Plattformen Facebook und Instagram auf ihre Richtigkeit. Sollte ein Posting Falschaussagen enthalten, wird das entsprechend markiert. Daraufhin geben die Faktenprüfer den Nutzern Kontext, warum eine Aussage falsch ist. Weiter schränken wir die Sichtbarkeit des Postings ein, so dass andere Nutzer dieses weniger einfach entdecken können – ausser sie suchen explizit in ihrem News Feed danach. Und zu guter Letzt informieren wir auch die Leute, die den «falschen» Beitrag bereits weiter geteilt haben.

Und bei meinem Beispiel?
Da könnte es sein, dass wir den Post löschen. Wir haben bereits seit 2018 Regeln, die Postings verbieten, wenn sie eine Gefahr für Menschenleben darstellen. Sobald wir eine Meldung von Nutzern, Gesundheitsbehörden oder von unseren Faktenprüfern erhalten, geht das bei uns intern an das Moderations-Team. Verstösst der Beitrag gegen unsere Richtlinien, wird er von unserer Plattform entfernt.

«In anderen Ländern sind in der Vergangenheit durch Falschinformation Menschen in Gefahr gekommen»

Das heisst, Sie können nicht genau sagen, ob das jetzt in dem Wortlaut entfernt werden würde?
Können Sie den genauen Wortlaut nochmals wiederholen?

«Covid-19 ist nicht schlimmer als eine normale Grippe.»
Das würde nicht gelöscht werden, weil es keine Gefahr für Menschenleben darstellt. Das ist jetzt aber meine persönliche Annahme, auch weil ich nicht direkt in dem dafür zuständigen Team bin, das die Beiträge prüft. Was gelöscht werden würde – um gleich ein Gegenbeispiel zu geben – wäre «Bleiche trinken heilt dich vom Coronavirus».

Was sonst noch?
Aussagen, die zu Panik führen. Zum Beispiel: «Die Supermärkte schliessen gleich, darum müssen wir alle uns sofort noch mit Lebensmittel eindecken.»

Sie haben es gesagt, die neue Regel von Facebook besagt, dass Beiträge, die die Gesundheit der Nutzer gefährden, entfernt werden. Nach Jahren der Abschiebung der Verantwortung über den Inhalt der Plattformen nun plötzlich diese Neuerung. Warum?
Zuallererst: Das ist keine neue Regel, die gibt es schon seit 2018. Hierzulande ist die Regel bislang nur nicht so bekannt gewesen. In anderen Ländern wie beispielsweise in Myanmar oder Sri Lanka sind in der Vergangenheit durch Falschinformation Menschen in Gefahr gekommen. Aus diesem Grund hat Facebook die Regel ins Leben gerufen. Hier in Westeuropa gibt es ja keine Kriege, Hungersnöte und wenig ethnische Auseinandersetzungen, sodass die Regel bislang von der Öffentlichkeit nicht wirklich wahrgenommen wurde. Jetzt findet sie aber in der aktuellen Corona-Krise Anwendung.

«Auf unseren Plattformen darf jeder sagen, was er möchte»

Warum löscht Facebook nicht prinzipiell Falschmeldungen?
Das ist eine ganz elementare Frage. Dazu hat unser CEO Mark Zuckerberg bereits Stellung genommen: Auf der einen Seite haben wir die Meinungsfreiheit. Auf unseren Plattformen darf jeder sagen, was er möchte. Andererseits gibt es aber unsere Gemeinschaftsstandards, die ganz klare Richtlinien setzen, was erlaubt ist: Inhalte mit Nacktheit, Hassrede oder Gewaltverherrlichung werden entfernt.

Und bei Falschmeldungen?
Da sind wir der Meinung, dass wir diesem schmalen Grat von freier Meinungsäusserung und den Richtlinien auf unseren Plattformen Rechnung tragen, indem wir die Sichtbarkeit von falschen Inhalten reduzieren. So geben wir diesen Beiträgen eine deutlich reduzierte Reichweite und werden somit von weniger Menschen gesehen.

Hat Facebook denn nun seit der Einführung der neuen Regelung ihre Content-Moderation ausgebaut?
Bei Facebook arbeiten heute weltweit 35'000 Menschen an Sicherheitsthemen – etwa die Hälfte von ihnen prüft Inhalte. Zu jeder Uhr- und Tageszeit und in vielen verschiedenen Sprachen ist so eine Abdeckung gewährleistet. Überdies muss man auch sagen, dass Falschmeldungen, wie jene eingangs erwähnte «Bleiche hilft gegen Corona», auch mehrfach auftauchen. Unserem Team stehen deshalb auch Technologien zur Verfügung, um Duplikate zu entdecken und diese von der Plattform zu entfernen.

«Ein Kommentar wie ‹Oh mein Gott, das glaube ich nicht!› ist ein Signal für unsere Faktenchecker, um ein Posting zu überprüfen»

Wo setzt Facebook sonst noch auf künstliche Intelligenz?
Es gibt dabei wiederum drei Schritte: Das eine ist das Identifizieren von Falschmeldungen, die Bewertung und dann die entsprechende Handlung. Beim Identifizieren setzen wir auch auf Machine-Learning, also auf künstliche Intelligenz. Als Nutzer kann man heute schon auf Facebook und Instagram Falschinformationen melden. Das ist ein sehr wichtiges Signal für uns, weil es direkt von unseren Nutzern kommt. Darüber hinaus gibt es noch andere Dinge, wo eine KI eingesetzt wird. Zum Beispiel bei Kommentaren, die jemand unter einem Posting äussert. Ein «Oh mein Gott, das glaube ich nicht!» ist ein Signal für unsere Faktenchecker, um ein Posting zu überprüfen.

Wie ist es bei Werbeanzeigen auf Facebook oder Instagram? Greifen da dieselben Factchecking-Methoden wie bei Postings?
Wir haben bei Werbung noch strengere Richtlinien. Gerade beim Thema Covid-19 haben wir zunächst einmal Werbung für medizinische Schutzmasken auf unseren Plattformen verboten und nehmen diese Anzeigen auch reihenweise herunter. Dasselbe mit Hand-Desinfektionsmittel, Flächen-Desinfektionsmittel, Desinfektionstücher oder ähnlichem. Diese Produkte sind auf unseren Plattformen in den Werbeanzeigen momentan nicht erlaubt.

«Die WHO hat vor zwei Wochen einen Chatbot auf WhatsApp gestartet»

Wie geht Facebook gegen Falschinformationen auf WhatsApp vor?
Neben der Entfernung von Falschinformationen auf unseren Plattformen, die Menschen gefährden, und der Reduktion der Sichtbarkeit falscher Inhalte gibt es noch einen dritten Teil, über den ich noch gar nicht gesprochen habe: Den Menschen mehr Informationen mit auf den Weg geben. Dies passiert bei den Faktenprüfern, die zusätzliche Informationen bereitstellen zu bestimmten Themen. Das passiert aber auch in unserem Covid-19-Informationszentrum, das seit Montag auch in der Schweiz auf Facebook verfügbar ist. Ausserdem hat die Weltgesundheitsorganisation vor zwei Wochen einen Chatbot auf WhatsApp gestartet.

Was sind die Gründe für diesen Chatbot?
Dieser neue, kostenfreie Dienst wurde eingerichtet, um Fragen der Bevölkerung rund um das Coronavirus zu beantworten. Nutzer auf der ganzen Welt erhalten dadurch rund um die Uhr schnelle, vertrauenswürdige und offizielle Informationen. Auch staatlichen Entscheidungsträgern werden so die aktuellsten Zahlen und Situationsberichte zur Coronavirus-Pandemie zur Verfügung gestellt.

Wie sehen denn die Massnahmen konkret auf WhatApp aus? Da macht es der Datenschutz Ihnen sicher schwierig, Mitteilungen zu überprüfen.
Wir können auf WhatsApp Mitteilungen nicht überwachen, weil diese von Ende zu Ende verschlüsselt sind. Wir können natürlich trotzdem gewisse Dinge tun, beispielsweise das Teilen von Beiträgen einschränken: Man kann Mitteilungen auf WhatsApp nicht mehr an mehr als fünf Leute weiterleiten. Es gibt auch andere Mechanismen, wie wir auffälliges Verhalten auf der Plattform entdecken können. Aber den Inhalt explizit anschauen, das geht nicht. Das ist schliesslich der Sinn einer End-zu-End-Verschlüsselung.

«Vor zwei Wochen haben Facebook und WhatsApp das International Fact Checking Networtk mit je einer Million US-Dollar unterstützt»

Zum Schluss: Wenn wir in Zukunft schauen, wird diese Praxis im Zusammenhang mit Falschinformationen ausreichen oder zeichnen sich schon die nächsten Änderungen in dieser Krise ab?
Letzte Woche haben wir gerade erst unser Factchecking auf acht neue Länder ausgeweitet. Bald kommen noch weitere Länder in Asien und Afrika hinzu. Die Schwierigkeit ist dabei aber, die Abdeckung der Factchecking-Organisationen in allen Ländern dieser Welt zu gewährleisten. Nur schon, weil die Voraussetzungen in einigen Ländern nicht immer gegeben sind, dass es überhaupt unabhängige Prüfer geben kann. Aber: Wir arbeiten eng mit dem International Fact Checking Network zusammen und bauen das gemeinsam weiter aus. Vor zwei Wochen haben Facebook und WhatsApp das IFCN mit je einer Million US-Dollar unterstützt. Es gibt global immer mehr Faktenprüfer, sodass wir immer mehr Länder abdecken können.

Aber reicht es, was Facebook momentan tut?
Wir sind ständig bemüht, alle unsere Massnahmen weiterzuentwickeln. Das heisst, mehr Partner an Bord zu bringen, mehr Aufklärungsarbeit zu betreiben, mehr Partnerschaften einzugehen – mit der WHO, mit den Gesundheitsämtern in den entsprechenden Ländern, um sicherzustellen, dass Menschen Zugang zu offiziellen, vertrauenswürdigen Inhalten haben. Das sind alles nur kleine Massnahmen, die aber in Summe zu einer ganzen Menge guter Dinge führen können.