Welchen Schaden könnten soziale Medien anrichten? Bürgerkrieg! Das Ende der Zivilisation, wie wir sie kennen! So lautet das Urteil der abtrünnigen Koryphäen des Silicon Valley, die in dem neuen Netflix-Dokumentarfilm Das Dilemma mit den sozialen Medien (Originaltitel: The Social Dilemma) auftreten. Der ehemalige Angestellte von Google, Tristan Harris, drückt es – in Form einer TED-Talk-These – wie folgt aus: Die sozialen Medien drohen mit einem »Schachmatt für die Menschheit«.

Wenn man glaubt, dass all das nach moralischer Panik klingt, dann liegt man nicht völlig falsch. Das zeigt sich etwa darin, dass sich zwischen den angebliche Problemen und den Lösungen eine enorme Kluft auftut – Steuerdatenerfassung, Neuausrichtung finanzieller Anreize und keine Smartphones vor dem Schlafengehen. Es handelt sich um einen Dokumentarfilm, der für besorgte Eltern, Liberale und NeverTrump-Republikanerinnen gedreht wurde.

Alle Übeltäter des liberalen »Techlash« – also einer Kritik an der Marktmacht großer Internet-Konzerne – sind vertreten: Fake News, russische Cyberangriffe, ausländische Diktatoren, verschiedene »böse Akteure«, politische Polarisierung und depressive Teenager. The Social Dilemma lässt einen abgebrannten Plattformboss nach dem anderen antanzen, um jene vertraute Predigt zu halten. Die Geschichte über eine Vorstadtfamilie aus einer x-beliebigen Stadt in den USA, die von der Sucht nach sozialen Medien zerrissen wurde, bildet den dramatischen Hintergrund.

So klischeehaft das auch sein mag, etwas Wahres steckt dahinter. Moralische Panik ist in der Regel nicht vollständig fingiert, sondern entspringt oftmals einer Realität, die von ihr verzerrt wird. Und die Branche, die in diesem Dokumentarfilm so zerreißend beschrieben wird – nennen wir sie die »Sozialindustrie« – hat jede Kritik verdient, die sie bekommt.

»Wie ein Schuss Dopamin«?

Es ist mittlerweile allseits bekannt, dass die Nutzerinnen und Nutzer – die Laborratten der Branche – das Produkt sind und jedes Klicken, Scrollen, Verweilen und Betrachten von den Tech-Giganten sorgfältig überwacht wird. Diese Daten werden gesammelt und dann in Märkte aufgeteilt, die präziser sind als je zuvor.

Der wichtigste kommerzielle Zweck dieser Daten besteht darin, uns selbst als Märkte an Werbekunden zu verkaufen und unsere Reaktionen effizienter zu manipulieren. Die Vorhersage und Manipulation unseres zukünftigen Denkens und Handelns auf der Grundlage von Daten ist zu einem riesigen, eigenen Markt geworden: Hier wird mit »menschlichen Zukünften« gehandelt, wie es die Sozialpsychologin Shoshana Zuboff in dem Dokumentarfilm ausdrückt.

Vielleicht weniger bekannt ist das Ausmaß, in dem Tech-Designerinnen von ihren Unternehmen systematisch in psychologischer Beeinflussung geschult werden – mit der Absicht, dieses Wissen bei der Gestaltung von Plattformen einzubringen und die Nutzer manipulierbarer zu machen.

Chamath Palihapitiya, ein früherer Angestellter von Facebook und jetzt ein »Kriegsdienstverweigerer«, verbrachte seine Zeit bei dem Internetriesen mit Experimenten an den Benutzern. Er probierte dabei minutiöse – das Unterbewusstsein aktivierende – Taktiken aus, die die Nutzerinnen an den Geräten halten und sie zu mehr »Engagement« bewegen sollten. Standardeinstellungen, endloses Scrollen, »Lesebestätigungen« und die Anzeigen darüber, dass die Gesprächspartnerin gerade tippt, sind alles Beispiele dieser Methoden.

Sean Parker, ein ehemaliger Facebook-Boss, erklärt, dass jene Taktiken wissentlich und absichtlich »eine Schwachstelle in der menschlichen Psychologie« ausbeuten. Mit diesen Techniken hätten sie eine Suchtmaschine geschaffen. Die Zahl der Nutzerinnen und Nutzer sowie das Engagement stiegen spektakulär an. Die Branche wurde zur profitabelsten der Welt.

Weiss man im Silicon Valley, warum diese Techniken so gut funktionieren? Palihapitiya erklärt etwa, dass Social-Media-Features wie »Likes« und leuchtend rote Benachrichtigungen dazu dienen, Engagement mit einem »Schuss Dopamin« zu belohnen. Dr. Anna Lembke, die dieser Silicon Valley Masche wissenschaftliche Autorität verleiht, führt an: »Soziale Medien sind eine Droge. Wir haben einen biologischen Imperativ, uns mit anderen Menschen zu verbinden.«

Angesichts dieses evolutionären Imperativs leuchten die »Belohnungspfade« unseres Gehirns auf, wenn wir »Likes« und andere Zeichen der Zustimmung erhalten – und wir bekommen unseren »Schuss«. Die Belohnungen sind effektiver, wenn sie »unregelmäßig« erfolgen, als wenn man sie nicht hat kommen sehen. Je öfter wir die Handlung wiederholen und belohnt werden, desto mehr »lernen« wir, abhängig zu werden.

Das ist Unsinn, der auf alten, diskreditierten behavioristischen Mythen beruht. Dopamin gibt niemandem einen »Schuss«. Menschen »lernen« nicht, durch Belohnungen und Verstärkung süchtig zu werden. William Brewer fand in seinem prominenten Bericht über Verhaltensexperimente heraus, dass das Vorhandensein oder Fehlen von Belohnungsanreizen oder negativen Verstärkungen keinen Unterschied darin machte, ob die Versuchspersonen das von den Versuchsleiterinnen erwartete Verhalten lernten oder nicht.

Dennoch ist eine nicht untersuchte behavioristische Ideologie in die Suchtforschung gesickert, die für gewöhnlich auch noch mit der reduktivsten Evolutionspsychologie verschmilzt – und in diesem Dokumentarfilm gibt es mehr dubioses evolutionäres Geplapper als im Handbuch eines »Pick-Up Artists«. Die Führungskräfte im Silicon Valley haben all das übernommen, als wollten sie erklären, warum sie kapitalistische Genies sind, bloß weil sie über einen neuen Weg zum Geldverdienen gestolpert sind. Doch damit entblößen sie nur, dass sie von dem, was sie tun, keine Ahnung haben.

Was ist mit den Auswirkungen der Sucht? Hier wendet sich The Social Dilemma an den Sozialpsychologen und als Zentristen beschimpften Jonathan Haidt, um die übliche Palette alarmierender Statistiken anzuführen. Ihm zufolge sind Depressionen und Angstzustände bei älteren Teenagerinnen seit 2011 um 62 Prozent und Suizide um 75 Prozent angestiegen. Bei Mädchen im Alter zwischen 10 und 14 Jahren liegen die entsprechenden Zahlen bei 189 Prozent und 151 Prozent. Diese Statistiken beziehen sich auf die Vereinigten Staaten, aber ähnliche Daten sind auch anderswo aufgetaucht.

Tim Kendall, ehemaliger Geschäftsführer von Pinterest, betont nachdrücklich: »Diese Social-Media-Dienste töten Menschen«. Ein gewissenhafterer Dokumentarfilm hätte all diese Probleme wohl genauer untersucht. Könnte es vielleicht noch andere Ursachen für den Anstieg von Depressionen, Angstzuständen, Selbstverletzungen und Selbstmord unter jungen Frauen geben? Hat sich zum Beispiel das Leben junger Menschen in letzter Zeit verschlechtert? Wenn es andere Ursachen gibt, wie wäre es dann möglich, die Rolle der sozialen Medien zu isolieren? Wie könnten wir beweisen, dass soziale Medien nicht einfach nur bestehende soziale Trends verstärken und sichtbar machen?

In The Social Dilemma wird erwähnt, dass junge Frauen Berichten zufolge an einer so genannten »Snapchat-Dysmorphie« leiden. Einige von ihnen hätten sich Schönheitsoperationen unterzogen, um ihren Körper den von ihnen geteilten – und mit einem Filter bearbeiteten – Bildern ähnlicher zu machen. Diese Geschichten basieren weitgehend auf Anekdoten, die von Schönheitschirurgen wiedergegeben werden.

Es scheint intuitiv erst einmal plausibel, dass eine Aufmerksamkeitsökonomie, die auf dem Handel mit Bildern der Perfektionierung und Optimierung des Selbst basiert, junge Frauen dazu bewegt, ihren Körper zu hassen. Doch die Tatsache, dass jemand auf Snapchat ein Bild von sich selbst produziert, es optimiert und manipuliert, um so das erwünschte Ergebnis einer Schönheitsoperation zu visualisieren, bedeutet nicht, dass Snapchat auch die Ursache für den Wunsch nach dieser Operation ist. Die Industrie, die sich auf die Veränderung weiblicher Körper spezialisiert, um einem von männlichem Begehren bestimmten Idealbild näherzukommen, ist älter als die Boomer selbst, die alle Schuld in den sozialen Medien sehen.

Um wessen Macht geht es eigentlich?

Was wird in The Social Dilemma verdrängt und verzerrt, um dieses moralisch-panische Kino zu produzieren? Das Kapital. Der Dokumentarfilm ist sehr klarsichtig in Bezug auf die Aspekte der »Sozialindustrie« und ihrer Funktionsweise. Es ist, wie Harris sagt, »eine völlig neue Art der Macht«. Die »Sozialindustrie« überwacht und manipuliert uns nicht nur: Je mehr wir unser soziales Leben auf den Internetplattformen verbringen, desto mehr wird unser soziales Leben programmiert.

Jaron Lanier, der leise sprechende Großvater der Informatik, spricht davon, wie die Plattformen zwischen zwei Gesprächspartnern eine »hinterhältige dritte Person« zwischenschalten, die dafür bezahlt, dass das Gespräch manipuliert wird. Aber man könnte noch viel weiter gehen. Die Autorin Cathy O’Neil argumentiert etwa, dass die Algorithmen, die unsere Interaktion regeln, nichts anderes sind als »in Code eingebettete Meinungen«. Wessen Meinungen sind das? Größtenteils die der wohlhabenden weißen Männer in Nordkalifornien, die darauf aus sind, Reputation und einen riesigen Profit zu erwirtschaften. Das ist ein äußerst wichtiges politisches Thema, mit dem sich die Linke bisher nur schleppend auseinandersetzt.

The Social Dilemma hebt zurecht die Macht hervor, um die es hier geht. Wenn die Dokumentation mit spürbarem Entsetzen die Aufmerksamkeit auf das exponentielle Wachstum der Rechenleistung von Computern lenkt, dann ist darin eindeutig mitinbegriffen, dass diese Rechenleistung auch politische Macht bedeutet. Es ist jedoch beeindruckend, dass es niemandem in den Sinn kommt, sie als Klassenmacht zu betrachten. Denn was in dieser kybernetischen Offensive am effizientesten automatisiert wird, sind die Befehle des Kapitals.

Die Abwesenheit vom Kapital in der Thematik des Films führt zu einigen sehr seltsamen und bezeichnenden Formulierungen. Man sagt uns, dass künstliche Intelligenz die Welt regiert. Dass »wir als Menschen fast die Kontrolle über diese Systeme verloren haben«. Dass die Maschinen »die menschliche Natur überwinden«, deren Betriebssysteme und Verarbeitungsleistung sich viel langsamer entwickeln. Doch das trifft nur in dem Sinne zu, als dass künstliche Intelligenz nur der programmatische Ausdruck des Kapitals ist.

Die wirklich politischen Fragen, die sich aus einer solchen programmierten Realität ergeben, stellt The Social Dilemma nur im Zusammenhang zwischen den Plattformen der »Sozialindustrie« und der politischen Polarisierung, die sie befeuern, da sie unsere Einigkeit über eine gemeinsame soziale Realität untergraben. Der Dokumentation zufolge arbeite jeder mit einem anderen Satz an Fakten. Guillaume Chaslot, ein ehemaliger Google-Software-Ingenieur, erklärt, dass die von ihm mitentwickelten Algorithmen – wie zum Beispiel das »Up-Next«-Empfehlungssystem von YouTube – am besten funktionieren, indem sie Menschen polarisieren. »Extreme« Inhalte haben etwas Fesselndes. Das allein würde ausreichen, um die Nutzerinnen und Nutzer süchtig zu machen.

Harris weist darauf hin, dass sich Fake News angeblich sechsmal schneller verbreiten als die Wahrheit – denn »die Wahrheit ist langweilig«. Es folgen die bekannten Social-Media-Horrorgeschichten über Verschwörungstheorien, rassistische Propaganda, »Flat-Earth«-Ideologien und Gerüchte, die mörderischen Diktatoren zugutekommen – alle florieren in sozialen Medien. Und dazu kommt natürlich noch Russland, das versucht »Demokratien zu destabilisieren«.

An all dem ist offensichtlich etwas Wahres dran, aber trotzdem wirft die Dokumentation letztlich mehr Fragen auf, als sie zu beantworten vermag. Was der Dokumentarfilm eigentlich erklären muss: Warum haben Verschwörungstheorien und Schwachsinn einen so hohen Suchtfaktor? Wenn YouTube und Facebook das rechtsextreme Infotainment zu fördern scheinen, sagt das vielleicht mehr über die Gesellschaften aus, in denen die »Sozialindustrie« ihre Profite macht, als über die Algorithmen an sich. Mark Zuckerberg mag gewissenlos genug sein, um an der Verbreitung von Inhalten von Holocaustleugnern Geld zu verdienen. Aber er ist sicherlich nicht daran interessiert, diese aktiv zu befördern.

Vielleicht noch heimtückischer ist die Behauptung, dass »Polarisierung« und Uneinigkeit über Fakten ein politisches Problem darstellen. Es zeichnet sich ohne Zweifel eine flüchtige und ermüdende kulturelle Polarisierung ab, die in den sozialen Medien beschleunigt wird – wenn nicht sogar von ihnen verursacht. Die Online-Kulturkriege neigen dazu, Reaktionen zu begünstigen. Doch daran, sieht die Dokumentation keinen Grund zur Beunruhigung. Worüber sich der Film besorgter zeigt, ist, dass Kinder in Filterblasen womöglich einer Gehirnwäsche unterzogen würden und sich daraufhin zu der Art von »Extremisten« entwickeln, die von der Polizei verhaftet werden.

Dahinter steht die Befürchtung, dass wir uns, wie Harris betont, nicht einmal mehr auf die Wahrheit einigen können. Aber in einer Demokratie ist es normal, dass es über Sachverhalte eine gewisse Uneinigkeit gibt. Die Polarisierung könnte auch ein Anzeichen für ein erneuertes demokratisches Engagement sein, ausgelöst durch reale zivilgesellschaftliche Problemlagen – und nicht, dass Jugendliche durch Tik Tok dazu angestachelt werden, Bernie Sanders zu unterstützen. Da überrascht es kaum, dass die politischen Helden des Dokumentarfilms – beide haben ihren glänzenden Auftritt, als sie den Zusammenbruch der Zivilisation anprangern – die US-Republikaner Jeff Flake und Marco Rubio sind.

Schwache Lösungen

Wenn jedoch das jüngste Chaos des politischen Systems der USA, von QAnon bis zu den bewaffneten Milizen, bequemerweise der »Sozialindustrie« angelastet werden kann, dann erscheint es naheliegend, dass der Ausbruch eines »Bürgerkriegs« auf die Funktionsmechanismen sozialer Medien zurückzuführen seien. Lanier geht noch weiter und sagt voraus: wenn wir das jetzt nicht in Ordnung bringen, dann wird der Klimawandel nicht gelöst und die Zivilisation zerstört werden – und »wir werden nicht überleben«.

The Social Dilemma geht also mit einem fast absurden Báthos zu seinen Lösungen über. Es wird gefordert, finanzielle Anreize neu auszurichten, indem man zum Beispiel die Datenerhebung besteuert; außerdem sei es wichtig, keine technologischen Geräte kurz vor dem Zu-Bett-Gehen zu nutzen und niemals auf ein »empfohlenes Video« zu klicken. Ein ehemaliger Geschäftsführer zuckt mit den Achseln und sagt, es könne nur wenig getan werden, denn »die Zahnpasta ist aus der Tube«. Während alle erfreulich über Geschäftsmodelle plappern, kommt nur Zuboff dem Ausmaß des Problems nahe. Ihr zufolge soll der Datenmarkt gänzlich abgeschafft werden.

Der emotionale Kern dieses Appells kommt vielleicht am besten in Laniers Behauptung zum Ausdruck – jedes Mal, wenn sich die Dinge zum Besseren gewendet haben, ist dies darauf zurückzuführen, dass jemand gesagt hat: »Das ist dumm, wir können es besser machen.« Es fällt schwer, hinzunehmen, dass dieser simple Gedanke wirklich die großen emanzipatorischen Momente der Geschichte eingeläutet haben soll – von der Abschaffung der Sklaverei bis hin zum Frauenwahlrecht. Nichtsdestotrotz, erklärt Lanier, will er Google, Facebook, Pinterest, Instagram, TikTok, YouTube, Twitter oder Snapchat nicht schaden. Dies ist seine Welt.

Nur wenige der Interviewten wollen wirklich etwas anderes tun, als ein fehlerhaftes »Geschäftsmodell« korrigieren. Aber was ist der Beweis dafür, dass diese Unternehmen es »besser machen« können? Es geht ihnen überaus gut. Der Dokumentarfilm wiederholt ständig, wie die Industrie zur profitabelsten und politisch auffälligsten der Welt geworden ist. Die Branche entwickelt sich in rasanter Geschwindigkeit und findet immer neue Wege, seine Laborratten auszunutzen. Warum sollte eine »Neuausrichtung der finanziellen Anreize« sie davon abhalten?

The Social Dilemma ist ein clever inszeniertes Horrormärchen mit einem unwahrscheinlich erlösenden Ende. Der Dokumentation fehlt der nötige Feinsinn, um zu fragen, wie viel des Schreckens von der Gesellschaft und nicht von der Maschine ausgeht. Das liegt daran, dass hier Liberale unter sich bleiben, die durch die äußerst profitable Allianz der »Sozialindustrie« mit Trump und der Rechten gekränkt wurden – und das alles ausgerechnet, nachdem Barack Obama und Bill Clinton so nett zum Silicon Valley gewesen waren. Darin spiegelt sich die Trägheit der Linken, sich mit dieser Thematik auseinanderzusetzen.

Der Cyber-Marxist Nick Dyer-Witheford bemerkte einmal, dass alle Programme auch politische Programme sind. Wo bleibt also das kommunistische Programm für die »Sozialindustrie«?

Richard Seymour ist Autor mehrerer Bücher, darunter »Corbyn: The Strange Rebirth of Radical Politics« (Verso, 2016) und »The Twittering Machine« (The Indigo Press, 2019).