11KM: der tagesschau-Podcast: Die Machtmachine Facebook

My name is Francis Haugen. I used to work at Facebook.

I joined Facebook because I think Facebook has the potential to bring out the best in us.

But I am here today because I believe Facebook's products harm children,

stoke division and weaken our democracy.

Facebook schadet Kindern, spaltet die Gesellschaft und schwächt Demokratien.

Das behauptet eine vielleicht DIE Facebook-Aussteigerin schlechthin, Francis Haugen.

Spätestens seit den Facebook-Files ihren Enthüllungen ist uns allen klar,

Facebook ist eine Machtmaschine.

Haugen ist aber längst nicht die einzige Whistledauerin.

Auch Sophie Seng hat Missstände gezeigt im Konzern, bis sie gefeuert wurde.

Wir schauen hinter die Kulissen von Facebook, wie der Konzern mit Kritik von innen

und Kontrolle von außen umgeht.

Wir hören von Francis Haugen und Sophie Seng, die beide früh gewarnt haben

vor der Machtmaschine Facebook.

Und dann schauen wir nach Brüssel.

Ein neues EU-Gesetz soll das soziale Netzwerk bald besser kontrollieren.

Ihr hört 11 km der Tage Show-Podcast, ein Thema in aller Tiefe.

Ihr findet uns in der ARD-Audiothek und überall dort, wo es Podcasts gibt.

Mein Name ist Hannes Kunz, heute ist Dienstag, der 7. März.

Und wir starten jetzt bei den Facebook-Files von Francis Haugen

zusammen mit meiner Gästin Stella Peters.

Also, das ist ja was ziemlich Besonderes, was Francis Haugen da sozusagen rausgetragen hat,

interne Berichte und so.

Den Kontakt mit ihr als Whistledauerin hat ein Kollegen von mir

vom Rechercheverbund NDR, WDR und Süddeutscher Zeitung.

Stella Peters ist Reporterin beim Investigativ-Ressort des NDR

und zusammen mit einem Team von NDR, WDR und SZ hat sie für eine Doku zu Facebook recherchiert.

Das war so im Sommer 2021, da war ich noch nicht mit dabei.

Das war auch alles super, super geheim.

Es gibt auch eine rumpelige Aufnahme von diesem ersten Call.

Da hat sie auch zum Beispiel noch gar nicht unter ihrem echten Namen mit uns gesprochen,

sondern sich noch Sean genannt.

Und ja, erst mal erzählt, worum es eigentlich geht und was sie da alles hat.

Um was geht es ihr denn in dem Moment, also was will sie denn öffentlich machen?

Sie will öffentlich machen, dass Facebook weiß, dass ganz viel falsch läuft auf seinen Plattformen

und das sogar erforschen lässt und interne Studien anfertigen lässt,

die teilweise problematische Dinge eben aufführen und dann aber eigentlich viel zu wenig tut.

Und der Grund dafür aus der Sicht von Pflänz des Haugen ist,

dass es eben privatwirtschaftliches Unternehmen ist, was Geld verdienen muss

und meistens bedeutet, wenn du jetzt eine Plattform sicherer machen willst,

dass du Geld investieren musst oder dass du Accounts löschen müsstest.

Ich würde sagen, ihr Kernsatz ist von Anfang an gewesen.

Es geht um das Geld im Profit des Unternehmens über das Wohl der Nutzer.

Was den meisten von uns wahrscheinlich klar sein dürfte, Facebook überlässt nichts dem Zufall.

Es entscheidet ein Algorithmus, was mir wann bei Facebook angezeigt wird.

Und dabei werden bestimmte Inhalte bevorzugt,

und zwar die, die besonders kontrovers sind und deswegen viel Traffic versprechen.

Was ist denn der konkrete Vorwurf in dem Zusammenhang?

Also es ist so, dass wenn zum Beispiel ein Post nur negative Reaktionen kriegt,

dass er nicht mehr uneingeschränkt gepusht wird in den Feeds der Nutzer,

in den Timelines sozusagen, was einem ausgespielt wird als Nutzer bei Facebook.

Aber ganz lange war es halt so, selbst wenn ein Post nur negative Reaktionen bekommen hat,

dann war er ganz oben in der Timeline.

Hauptsache, es waren super viele Reaktionen.

So, und das führt halt dazu, dass sich dann so ein Diskurs so negativ hochschaukelt.

Dass extreme Ideen und auch Lügen zum Beispiel viel mehr Öffentlichkeit bekommen

als einfach eine ausgewogene reflektierte Überlegung.

Okay, also Francis Haugen sagt euch,

Facebook stellt den Profit über das Wohl der Nutzer

in einen spalteten Gesellschaften gefährdet Demokratien.

Das Ganze belegt sie ja mit tausenden Dokumenten aus dem Inneren des Konzerns,

den sogenannten Facebook-Falz.

Warum macht sie das denn eigentlich?

Und was geht's ihr?

In meiner Zeit auf Facebook kam ich an, eine wunderschöne Wahrheit zu erkennen.

Ich glaube, sie ist eine ziemliche Idealiste einfach.

Der ihr total geholfen hat, im Alltag zurechtzukommen und dieser junge Mann

hat sich nach und nach in Verschwörungstheorien verloren.

Also in so richtig harte Verschwörungstheorien wie George Soros beherrscht die Welt

und sie ist einfach irgendwann nicht mehr an ihn rangekommen

und hat ihn also, wie sie sagt, verloren an diese Verschwörungen.

Und das hat sie so erschüttert, dass sie als dann 2019 Facebook bei ihr angeklopft hat

und gefragt hat, ob sie für Facebook arbeiten möchte.

Dann hat sie gesagt, ja, aber nur wenn ich im Bereich des Informationen

arbeiten kann für euch, weil sie das Gefühl hatte, da könnte sie

einen Unterschied machen, da könnte sie solche Schicksale verhindern.

Ihr habt sie ja dann auch getroffen.

Wie lief dieses Treffen ab?

Wie habt ihr sie erlebt?

Okay, good.

Then let's do it.

We're rolling.

Sie ist sehr, sehr professionell aufgestellt.

Schon das League damals, 2021 war sehr, sehr strukturiert, aufbereitet

und sie ist einfach in ihrem Vorgehen eine sehr strategische Person.

Und heute ist sie so ein bisschen so ein kleiner, weiß ich auch nicht,

wie ich sagen soll, whistleblower Superstar irgendwie.

Also man kommuniziert mit dem Chief of Staff, wenn man ein Interview anfragt.

Sie selber ist total super, super nett und professionell.

Wir haben sie in Washington getroffen beziehungsweise meine Kollegin Sia Eckert

hat sie in Washington interviewt.

Im Sommer jetzt, 2022.

Und da hatten wir dann so ein schickes Hotelzimmer gebucht

und weil sie eben diese Unverträglichkeit hat, dann glutenfreies Essen

bereitgestellt und so.

Genau, also es ist einfach sehr professionell wie mit so einem kleinen Star.

Also sie hat sozusagen die whistleblowerin zum Beruf gemacht.

Ja, tatsächlich schon momentan, ja.

And so, the business model, we are the products.

They sell us to advertisers.

It's not in their interest to deal with addiction.

It's not in their interest to deal with people

who are getting pulled into rabbit holes.

Because it means they stay where they consume.

Was sagt denn Facebook zu den Haukenleaks?

Also diesen Vorwurf, dass sie das Wohl der Nutzer

sozusagen nicht so wichtig nehmen wie den Profit,

das streiten sie erstmal grundsätzlich ab.

Die sagen, das stimmt nicht.

War Francis Hauken eigentlich die Erste,

die auf Missstände bei Facebook aufmerksam machen wollte?

Nee, sie war nicht die Erste.

Also man muss vor allem auch sagen, die Mitarbeiter machen intern

die ganze Zeit auf Missstände aufmerksam.

Und das kommt halt nur selten an die Öffentlichkeit.

Aber auch da war Francis Hauken nicht die Erste,

sondern da gab es auch schon zum Beispiel so viele Zangen vorher.

Die ist 2018 zu Facebook gekommen,

als Datenwissenschaftlerin.

Sophie Zhang, ich bin Sophie Zhang.

At Facebook, ich war ein Data Scientist,

das ich die Lektion und die Nummern aufgenommen habe,

was ich mit ihnen meinte und erklärte zu den Leuten.

Ich war speziell an der Fake Engagement Team.

Und ihr Job war es eigentlich so,

ganz normaler Betrüger aufzuspüren, die sich auf Facebook

irgendwie rumtreiben und da versuchen,

Daten abzugreifen oder Leute in irgendwelche Zwiedlichte

Geschäfte rein zu quatschen.

Ich war ein Freund mit meiner Recruiter,

nachdem sie mir die Offer gegeben hat.

Ich habe sie gesagt,

ich glaube, dass Facebook nicht in einem besseren Ort ist.

Das ist eigentlich, warum ich sie mitnehmen wollte,

weil Facebook nicht perfekt war,

und sie wollten, um es zu verbessern.

Sie findet dann, dass diese zum Beispiel Fake-Accounts

eben auch politisch total missbraucht werden,

von ganz vielen Parteien und Machthabern

in total vielen Staaten und vor allem in Staaten,

wo wir als westliche Öffentlichkeit überhaupt nicht hingucken.

Also Honduras, Azerbaijan, Indien, Argentinien, Paraguay,

zu dutzenden Staaten hat sie gearbeitet

und eben herausgefunden,

dass die Machthaber dort Fake-Accounts benutzen,

um ihre eigene Message irgendwie zu pushen

und die Opposition auch runterzumachen.

Und als sie das herausfindet, was macht sie damit an?

Wem wendet sie sich?

Also nach ihrer eigenen Schilderung

wendet sich so viel Zangen immer wieder an Vorgesetzte,

ist sogar in einem E-Mail-Loop

irgendwie mit einem der höchsten Mitarbeiter bei Facebook,

so dem Zeitpunkt.

Aber sie sagt, dass sie immer wieder abprallt

und dass eigentlich nichts gemacht wird.

Und es ist vielleicht auch wichtig zu sagen,

dass sie das emotional total belastet hat.

Also sie hat halt in ihrer Freizeit am Wochenende

diese Fake-Accounts gesucht und aufgespürt

und hatte halt das Gefühl, wenn sie das nicht macht,

zum Beispiel in Azerbaijan,

das ist ein Beispiel, was sie sehr beschäftigt hat,

die hat halt das Gefühl, wenn sie da jetzt nicht

eine Öffentlichkeit für schafft,

dass die Präsidentenpartei die Opposition,

die da macht auf Facebook,

dann wird das niemals jemand erfahren

und die Opposition steht ganz alleine dort.

Sie sammelt es alles, protokolliert es,

zeigt es ihren Vorgesetzten

und dann passiert was?

Manchmal ist ein bisschen was passiert,

aber wie sie es beschreibt,

ist eigentlich selten überhaupt was passiert.

Wenn man Facebook offiziell danach fragt,

sieht das natürlich anders aus.

Facebook sagt, die nehmen das total ernst,

diesen Kampf gegen Fake-Accounts

und den Missbrauch ihrer Plattform

und gehen da auf jeden Fall gegen vor,

wenn sie davon erfahren.

Und bei dem Beispiel Azerbaijan

ist es auch so, dass allerdings eine ganze Weile,

nachdem Sophie Zange darauf intern aufmerksam gemacht hat,

Facebook dieses Netzwerk dann auch runtergenommen hat.

Im Herbst 2022, als wir sozusagen in der Recherche waren,

konnte man trotzdem wieder auf die Seiten gehen

und da waren wieder viele Fake-Accounts,

die gepostet und kommentiert haben.

Im Moment ist es ein bisschen sauberer geworden,

sag ich mal, auf diesen Seiten.

Das kann aber auch daran liegen,

dass wir halt eine Anfrage an Facebook gestellt haben

und die dann vielleicht ein bisschen hinterher putzen nenn ich's mal.

Wie geht denn Facebook mit Sophie Zange

um wie reagiert Facebook auf Sie?

Also am Ende wird sie rausgeschmissen tatsächlich

wegen pure Performance, also schlechter Arbeitsleistung,

wie es heißt.

Und das ist dann so, dass sie kurz bevor sie den Zugang

zu diesem Internet von Facebook verliert,

also man muss sich vorstellen,

das Internet von Facebook ist wie Facebook selbst.

Die Oberfläche sieht eigentlich gleich aus,

man hat auch diese Newsfeed-Funktionen,

man kann kommentieren und liken und sharen und so.

Und sie verfasst einen super langen Post, 8000 Zeichen fast,

in dem sie alles beschreibt, was sie gefunden hat

und auch, wem sie das alles gesagt hat

und dass sie damit eben ständig gegen Wände gelaufen ist,

innerhalb des Konzerns.

Und diesen Post schreibt sie so in einer Nacht einfach runter,

weil sie will, dass irgendwer das weiß,

was sie da herausgefunden hat.

Genau, bevor sie halt den Zugang zu diesem Internet verliert.

Was macht sie inzwischen, wisst ihr das?

Ja, wir haben sie getroffen in ihrer Wohnung in Kalifornien.

Sie wohnt unter sehr einfachen Verhältnissen,

wenige Möbel, irgendwie verschlissene Kleidung

und macht eigentlich nicht so viel im Moment.

Sie ist zu Hause, lebt noch von ihrem restlichen Einkommen,

was sie bei Facebook verdient hatte und passt auf ihre Katzen auf.

Ja, traurig.

Ja, und vor allem auch ein großer Kontrast zu Francis Haugen.

Also, Sophie Zang ist halt auch ein ganz anderer Typ.

Sie hat sich anders als Francis Haugen zum Beispiel kein Anwalt

oder keine Organisation als Unterstützung geholt.

Aber sie hat auch eine Abfindung zum Beispiel abgelehnt,

die Facebook ihr Angeboten hat bei der Kündigung,

eine hohe Abfindung, die dann aber eine Verschwiegenheitsklausel

beinhaltet hätte. Also, das wollte sie dann nicht.

Sie wollte schon über diese Missstände reden können.

Kennen sich die beiden eigentlich?

Nein, die kennen sich nicht. Die waren zwar gleichzeitig bei Facebook,

aber die sind Sicherheitsteam.

Also, sie waren halt in verschiedenen Teams

in dem großen Sicherheitsteam.

Und ja, die sind sich nie wirklich begegnet.

Herzlich willkommen zu unserer öffentlichen Anhörung.

Von der ehemaligen Produktmanagerin Francis Haugen.

Eine Frau aus dem eigenen Haus,

die Zuckerberg Vorwaffe maximale Gewinne

über jede moralische Verantwortung gestellt hat.

Also, wir haben jetzt Francis Haugen kennengelernt,

den Whistleblower Superstar Sophie Zang,

die rausgeschmissen wurde, arbeitslos ist,

mit ihren Katzen lebt.

Jetzt geht's politisch weiter, die Geschichte.

Francis Haugen spricht vor dem US-Senat,

wird nach Brüssel geladen. Wie kommt sie dort an?

Total gut. Also, die Anhörungen dort sind sehr beeindruckend

für die Parlamentarier und auch die Kommission.

Und das ist auch, man muss sich klarmachen,

was für ein Zeitelieg sozusagen fällt.

Also, der Herbst 2021 ist eine Zeit,

in der gerade ein sehr, sehr wichtiges Digitalgesetz,

nämlich der Digital Services Act,

in der letzten Gesetzgebungsphase ist.

Dieser Digital Services Act ist quasi das wichtigste

Digitalgesetz der vergangenen und der kommenden 20 Jahre.

Also, da sollen eben europaweite Regeln

für solche Plattformen zum Beispiel festgelegt werden.

Und Europa wäre dann auch der erste Kontinent

mit so einem Gesetz.

Hat sich Francis Haugen tatsächlich überlegt,

dass sie genau sie damit an die Öffentlichkeit geht?

Hatte sie das Ziel, nach Brüssel zu gehen

und dieses Gesetz vielleicht irgendwie mitzuformen?

Ja, also sie hatte ja einfach sehr professionelle Unterstützung.

Und ich glaube, das hing auch schon damit zusammen,

dass sie noch versuchen wollte, Einfluss zu nehmen

auf diese super wichtige Gesetzgebung,

die da gerade auf den letzten Metern ist.

Und uns haben auch Parlamentarier und auch aus der Kommission

Leute gesagt, es hatte auch Einfluss.

Also, ihre Enhüllungen haben auch nochmal gezeigt,

wie wichtig es ist, jetzt wirklich strenge Regeln zu verabschieden.

Nun findet Facebook das alles wahrscheinlich nicht so toll.

Also, die Tour von Francis Haugen nicht

und das neue Gesetz es recht nicht,

nämlich an, wie versucht denn Facebook dagegen vorzugehen?

Also, na ja, offiziell findet Facebook das schon gut.

Also, offiziell sagen die die begrüßen Regulierung

und klare Regeln und unterstützen die Bemühungen der EU total.

Und inoffiziell?

Inoffiziell ist es so, dass sie einfach versuchen,

sehr darauf zu achten, dass ihr Geschäftsmodell nicht leidet.

Und ihr Geschäftsmodell ist personalisierte Werbung im Endeffekt.

Also, in Europa hat die Lobbyarbeit von Big Tech,

also den großen Technologieunternehmen,

wie Meta, Apple, Google, Microsoft,

die geben im Moment mehr Geld aus für Lobbyarbeit

als andere riesige Branchen,

wie zum Beispiel die Pharmaindustrie oder die Ölindustrie.

Also, die haben die schon längst überholt.

Und eine Sache, die die Unternehmen damals besonders in Aufregung versetzt hat,

war, dass das Europäische Parlament ein komplettes Verbot

von personalisierter Werbung vorgeschlagen hatte.

Das hätte die Milliardenumsätze dieser Unternehmen gefährdet.

Und diese Unternehmen, also Facebook und Co.,

haben dann im Endeffekt so eine Strategie sich ausgedacht,

die auch zuteil clever war.

Die haben gesagt, okay, wenn ihr personalisierte Werbung verbietet,

dann schadet ihr damit eigentlich zwar auch uns,

aber vor allem schadet ihr so kleinen Unternehmen.

Also, dem Bäcker vor Ort oder der Flascherei vor Ort

oder dem kleinen Kinderklamottenladen vor Ort,

der halt über personalisierte Werbung auf...

Gab es da nicht auch so ein Werbspot?

Ja, genau, da gab es total viele Werbespots.

Und Poster und Plakate auch offline sozusagen.

Also, die haben zum Beispiel auch am Brüsseler Flughafen,

wo die ganzen Parlamentarier und Entscheidungsträger ständig ankommen und abfliegen.

Da haben die auch einfach klassische Plakate quasi aufgehängt.

Und das war so das Narrativ, was sie halt versucht haben,

zu verbreiten im Endeffekt.

Und so im Parlamentarier und andere Politiker

einfach so ein bisschen zweifeln zu lassen, ob das wirklich Sinn macht,

die personalisierte Werbung zu verbieten, ob das wirklich eine gute Sache ist.

Was ist denn das Problem mit personalisierter Werbung?

Also, welcher Gedanke steckt denn da dahinter?

Also, es gibt mehrere Probleme quasi.

Einerseits allgemein das Daten sammeln.

Da geht es halt darum, dass man gezielt angesprochen wird mit Werbung.

Das finden schon manche Leute per se schlecht.

Aber das grundsätzliche Problem, wo es auch den Politikern vorrangig drum ging,

war, wie personalisierte Werbung im politischen Kontext benutzt werden kann

und auch missbraucht werden kann im Endeffekt.

Also, es geht eben nicht nur darum, welche Schuhe kaufe ich

oder welche Schuhe werden mir angeboten,

sondern wie benutzen Populisten, wie zum Beispiel Donald Trump.

Der war so das prominenteste Beispiel dafür.

Wir benutzen solche Leute personalisierte Werbung,

um ihr politisches Ziel zu erreichen.

Also Trump hat das zum Beispiel so gemacht,

er hat mit total personalisierter Werbung seine eigenen Wählergruppen angesprochen,

mit Botschaften versorgt, denen sie total zugestimmt haben.

Und wo sie dann dachten, ja, das ist genau mein Kandidat.

Und Wählergruppen, wo sein Team davon ausgegangen ist,

dass die eher Hillary Clinton wählen würden,

die haben sie zum Beispiel dann mit schlechten Nachrichten über Hillary Clinton versorgt

und versucht die eher von der Wahl abzuhalten.

Also es geht nicht nur um Werbung, nicht nur um Wahlwerbung,

sondern tatsächlich auch um Wahlmanipulationen.

Genau, man kann nicht so richtig nachweisen, wie groß der Impact ist.

Aber ich glaube, dass wir alle das kennen,

dass man beeinflusst wird von allem, was man sieht, sozusagen.

Und es geht total darum, dass sowas ausgeschlossen werden muss,

einfach in unseren demokratischen Prozessen,

dass jedem Bürger zu jeder Zeit bewusst ist, woher Informationen kommen

und vielleicht auch warum die jetzt an mich gesendet werden.

Und das ist eben bei personalisierter Werbung,

wenn sie so verwendet wird, ist das nicht der Fall.

Dann kann man im Endeffekt keine mündige Entscheidung treffen.

Ihr habt ja mit verantwortlichen in Brüssel auch gesprochen.

Wie haben die Facebook in den Wochen da erlebt?

Die Einschätzung gehen da sehr auseinander.

Also es wurde in der Kommission bei den Gesprächen, die ich geführt habe,

einerseits gesagt, dass natürlich sehr, sehr viel Lobbying passiert ist,

weil die großen Tech-Unternehmen da total viel Energie und Zeit investiert haben.

Aber gerade in der Kommission hat man auch gesagt,

wir haben aber super vorbereitet darauf und eigentlich immun,

haben die uns gesagt.

Und also ich fand bemerkenswertesten in dem Interview

mit dem Binnenmarktkommissar Thierry Breton, was ich geführt habe,

da hat er zu mir gesagt...

Meine Tür steht offen, ich höre allen erstmal zu.

Ich kenne die CEOs und wenn sie mir was zu sagen haben,

dann können sie mich auch einfach anrufen und wir besprechen das.

Aber ich treffe mich nicht mit Lobbyisten, die brauche ich nicht.

Das ist vielleicht nicht gern gesehen, aber mein Job ist es,

mich auf die Bevölkerung zu konzentrieren.

Und nochmal, wenn ein Konzern mit mir sprechen möchte,

dann können wir das ganz offen in einer Konferenz tun.

Ganz einfach.

Ja, ich war davon auch etwas überrascht, dass er das einfach so gesagt hat.

Dieser Digital Services Act, was soll sich eigentlich konkret dadurch ändern?

Das ist wirklich das erste europaweite Gesetz,

das den Plattformen regeln auf Zwingen in allen europäischen Ländern.

Zum Beispiel Plattformen wie Facebook.

Und auch für diese besonders großen Plattformen,

mit mehr als 45 Millionen Usern, gelten auch besondere Regeln.

Also wichtige Inhalte sind zum Beispiel,

dass illegale Inhalte künftig gelöscht werden müssen in der ganzen EU.

Plattformen müssen eigene Risikoanalysen durchführen

und die auch veröffentlichen,

damit die Öffentlichkeit da auch irgendwie sich eine Meinung zu bilden kann.

Plattformen müssen bestimmten Wissenschaftlern auch Zugang zu ihren Algorithmen geben,

damit da auch eine gewisse Transparenz hergestellt werden kann.

Super wichtige Punkte für viele, mit denen ich gesprochen habe in Brüssel,

waren, dass für minderjährige gezielte Werbung,

also personalisierte Werbung komplett verboten wird im DSA

und sensible Daten dürfen auch nicht mehr für gezielte Werbung verwendet werden.

Wann kommt das? Wann tritt das in Kraft überhaupt?

Also das ist schon teilweise in Kraft.

Aber die Plattformen, also gerade die ganz großen Plattformen wie Facebook,

müssen sich ab dem Frühsommer diesen Jahres daran halten

und die Regelungen umsetzen.

Und vollumfänglich wird das dann erst im nächsten Jahr sozusagen in Kraft sein.

Aber es fängt jetzt an, also wir sind mitten in dieser Phase,

wo die Plattformen das jetzt umsetzen müssen, was da drin steht.

Es gibt jetzt also dieses Gesetz, dieses gute Gesetz, wie du sagst,

das nicht ganz so streng ist wie erhofft.

Gibt es weiter Kritik, die aber eher grundsätzlicher ist?

Ja, es gibt Experten, Leute, die sich damit auskennen mit Plattformen,

die sagen, dass es zum Beispiel ein Fehler ist, Plattformen nur als Service,

also als Dienstleistung im Endeffekt zu kategorisieren

und damit auch zu regulieren, also Gesetze nur auf dieser Grundlage zu schreiben,

weil man muss sich ja vor Augen führen.

So eine Plattform ist zwar eine Software, die wir alle nutzen,

aber dahinter steckt ja ein Design.

Also es ist ja Menschen gemacht sozusagen und Menschen entscheiden,

wie Algorithmen funktionieren.

Das ist quasi ein gebautes Produkt.

Und wir haben zum Beispiel mit Christopher Wiley gesprochen,

der sich sehr gut auskennt an diesen Dingen

und auch mal für eine Firma gearbeitet hat,

die Facebook missbraucht hat sozusagen für politische Kampagnen

und der sagt,

warum testen wir diese Algorithmen nicht, bevor wir sie auf die Menschheit loslassen?

Ich meine, er sagt, wir müssen jeden Kühlschrank und jeden Toaster irgendwie testen,

bevor wir den auf den Markt bringen dürfen, aber Algorithmen nicht.

Warum haben wir eine Plattform, die Algorithmen,

die Disinformationen von rechts und zentralen, ohne Testen?

So was wie ein Algorithmus-Tüft quasi,

dass jedes Unternehmen das erstmal vorstellen muss

und dann erst Veröffentlichen auf den Markt bringen können.

Sozusagen oder so was wie eine Verpflichtung des Algorithmen,

dem Allgemeinwohl nicht widersprechen dürfen zum Beispiel.

Das ist auch was, für das sich Francis Haugen engagiert haben, immer noch sozusagen.

Also das ist so eine Idee, die schon sehr überlegenswert ist.

Und in diese Richtung gibt es aber nach meinem Wissen

auf politischer Ebene überhaupt keine Gespräche sozusagen.

Also das irgendwie mehr auf so einer technischen Ebene zu regeln

und da solche Regeln anzubringen.

Auch weil ein Konzern wie Facebook so mächtig ist oder was steckt dahinter?

Naja, in den USA ist es schon so, dass Facebook einfach super lange, total unreguliert agieren konnte.

Also größtenteils ist das auch immer noch so.

Das hängt irgendwie, glaube ich, auch mit diesem amerikanischen Freiheitsverständnis zusammen

und mit diesem Stolz auf diese Unternehmen aus dem Silicon Valley,

die einfach total schnell, total groß geworden sind, eine globale Machtstellung auch haben.

Ich meine, Facebook, sagen wir immer, eigentlich heißt der Konzern ja mittlerweile Meta.

Da gehört ja auch noch Instagram dazu und WhatsApp.

Also 5 Milliarden Menschen nutzen das irgendwie jeden Monat.

Das sind riesige Zahlen und damit eben auch eigentlich eine riesige Verantwortung.

Und aus unserer Sicht ist, dem werden diese Unternehmen halt nicht so ganz gerecht,

aber die Politik fordert es auch bisher, jedenfalls vor allem in den USA,

nicht so richtig konsequent ein.

Und glaubst du, dass die EU das gut durchsetzen kann?

Ja, das ist die große Frage.

Also die EU-Kommission wird die Aufsichtsbehörde sein für den Digital Services Act

und die stellt jetzt auch ungefähr 200 neue Leute ein, aber auch noch für ein anderes Gesetz.

Also am Ende sind es dann doch nicht so viele Leute, die sich da um die Durchsetzung kümmern können.

Es gibt Beobachter, die da sehr skeptisch sind, ob das möglich ist,

diese strengen Regeln wirklich konsequent durchzusetzen.

Man ist da schon auch, glaube ich, sehr auf die Kooperation der Plattform angewiesen.

Und in der Vergangenheit zum Beispiel beim Netzwerk Durchsetzungsgesetz

hat Facebook eher versucht, das so ein bisschen zu umschiffen

und war da nicht besonders kooperativ.

Das wird, glaube ich, die Zeit zeigen, aber ich hatte den Eindruck in Brüssel,

dass die Kommission sehr motiviert ist und auf jeden Fall gewillt ist, das konsequent durchzusetzen.

Aber liegt es nicht letztendlich an uns Nutzerinnen und Nutzern,

was wir sozusagen preisgeben, was nicht, was wir Facebook zur Verfügung stellen?

Uns allen ist es doch bewusst, oder?

Und wir alle geben diesem Konzern diese Macht.

Ich glaube nicht, dass es allen bewusst ist.

Und es geht ja hier auch, gerade bei unserer Recherche,

auch nicht um individuelle Fälle von, habe ich jetzt meine persönlichen Daten

für irgendeine Schuhwerbung.

Sondern es geht darum, wie missbrauchen Politiker, Populisten und Autokraten

diese Plattformen, um politische Prozesse und politische Meinungen zu beeinflussen.

Also Donald Trump ist, glaube ich, nur das prominenteste Beispiel.

Der hat eben personalisierte Werbung total versiert genutzt,

um Wählergruppen anzusprechen, seine eigenen Wähler anzusprechen

und potenzielle Wähler von damals Hillary Clinton,

zum Beispiel eher vom Wählen abzuhalten.

Also das ist, glaube ich, das eigentliche Problem in diesem Kontext.

Ich weiß nicht, ob alle sich klargemacht haben.

Also das sagt Facebook auch ganz offen.

Politiker, wir werden die Aussagen von Politikern nicht fact-checken.

Und wir haben auch mit dem Pressesprecher von Meta in Deutschland darüber gesprochen

und ihn gefragt, ja, aber was ist dann, wenn die einfach lügen?

Lügen ist ein Thema, das ist nicht schön,

es ist aber auch nicht verboten in unserer Gesellschaft.

Deswegen auch hier sind wir nicht der Auffassung,

dass wir die Richter sein sollten über wahr oder über falsch.

Was sagst denn du, was muss ich ändern?

Ich glaube, dass diese Plattform einfach ihre eigene Verantwortung

ernster nehmen müssen.

Und vielleicht müssen sie eben auch auf ein bisschen Gewinn verzichten,

um ihre Plattform sicher zu machen.

Also das ist ein schwieriges Thema, weil wenn man auf den nackten Zahlen guckt,

zum Beispiel investiert Facebook schon 5 Milliarden Dollar jedes Jahr

in dem Bereich Sicherheit, das arbeiten 40.000 Leute

in dem Bereich Sicherheit bei Facebook nach eigenen Angaben.

Aber das scheint ja nicht zu reichen,

weil irgendwie jedes Jahr wieder Dinge passieren,

wie der Sturm auf das Regierungsviertel in Brasilien,

der Sturm auf das Kapitol 2021 war ein Beispiel,

wo Facebook eine ganz unruhmliche Rolle gespielt hat.

Und solange solche Dinge immer wieder passieren,

kann es einfach nicht genug sein, was die Plattformen machen.

Danke, dass du diese Recherchen mitgebracht hast zur 11KM.

Danke dir, Stella.

Danke auch, dass ich hier sein konnte.

Das war unser Blick hinter die Kulissen von Facebook

hier bei 11KM der Tagesshop-Podcast.

Stella Peters ist Investigativreporterin beim NDR

und hat zusammen mit einem Team der Recherchekooperation NDRWDRSZ recherchiert.

Und die DOKO, die zeigt, wie sich Facebook währt gegen Kritik von innen

und Kontrolle von außen, die findet ihr in der ARD Mediathek.

Die Machtmaschine, so heißt der Film, für den Stella recherchiert hat.

Zusammen mit Svea Eckert, Petra Nagel, Petra Blum und Tobias Dammers.

Autor dieser Folge ist Sandro Schröder mitgearbeitet,

hat Linda Becker.

Produktion Jonas Teichmann, Georg Schoske und Hannah Brunies.

Redaktionsleitung Lena Gürtler und Fumiko Lipp.

11KM ist eine Produktion von BR24 und NDR Info.

Mein Name ist Hans Kunz.

Ich sage Tschau.

Machine-generated transcript that may contain inaccuracies.