Democracy

Der Überwachung widerstehen

Shoshana Zuboffs neues Buch The Age of Surveillance Capitalism (‘Das Zeitalter des Überwachungskapitalismus’) untersucht einen neuen Schritt in der Geschichte des Kapitalismus, in dem Big Tech, und zunehmend auch andere Wirtschaftszweige, Gewinne mit Daten erzielen, die ohne deren Zustimmung von den Bürgern extrahiert und in Rohdaten umgewandelt werden: Material für Verhaltensvorhersagen – mit destruktiven Auswirkungen auf Wirtschaft, Demokratie und das individuelle Leben.

Olaf Bruns: Ihr neues Buch heißt “Surveillance Capitalism”. Was genau verstehen Sie unter Überwachungskapitalismus?

Shoshana Zuboff: Die Art und Weise, wie sich der Kapitalismus entwickelt, besteht darin, Dinge, die außerhalb des Marktes liegen in die Marktdynamik zu bringen, um sie zu verkaufen und zu kaufen. In dieser Hinsicht ahmt der Überwachungskapitalismus dieses traditionelle Muster der kapitalistischen Geschichte nach. Dies geschieht jetzt jedoch mit einer bösartigen Wendung: Der Überwachungskapitalismus beansprucht einseitig und ohne zu fragen private Erfahrung und bringt sie auf den Markt, indem er sie in Verhaltensdaten, in Rohmaterial für Rechenprozesse umwandelt, aus denen Vorhersagemuster erkannt werden können. Und diese neuen „Vorhersageprodukte“ werden dann an eine neue Art von Marktplatz verkauft, der ausschließlich mit diesen zukünftigen Wetten auf menschliches Verhalten handelt.

Wie ist es dazu gekommen?

Der Überwachungskapitalismus wurde 2001 bei Google als Reaktion auf eine finanzielle Notlage erfunden. Es wurde erfunden, um die Online-Suchdienste schnell zu Geld zu machen. Und er wurde so erfolgreich, dass er sich auf Facebook ausdehnte und dann innerhalb der nächsten Jahre zur Standardoption für die meisten Start-ups des Technologiesektors wurde: Smartphone-Applikationen und so weiter. Wir können jedoch nicht länger sagen, dass der Überwachungskapitalismus auf den Technologiesektor beschränkt ist, da er sich jetzt auf die gesamte Wirtschaft ausbreitet: Er ist im Versicherungssektor, im Automobilsektor, in den Bereichen Finanzen, Gesundheit, Bildung und mittlerweile in praktisch allen Produkten zu finden, die das Wort “smart” im Namen tragen. Und jede Dienstleistung, deren Name das Wort „personalisiert“ in sich trägt, ist an diesem Ökosystem beteiligt, das die Lieferketten und -zusammenhänge des Überwachungskapitalismus definiert.

Lassen Sie mich einmal ganz naiv sein: Die Überwachungskapitalisten sind nicht hinter meinen Online-Banking-Daten her, noch verurteilen oder erpressen sie jemanden, der sich online Pornos ansieht oder sogar subversive politische Ideen im Netz liest! Warum sollten wir das alles wirklich fürchten?

Die einseitige Inanspruchnahme privater menschlicher Erfahrungen ist das Wesen der Überwachungsbeziehung. Es kommt niemand zu Ihnen und sagt: „Hier ist was wir tun wollen – erlauben Sie uns dies?“ Die Überwachungskapitalisten verstehen, dass je mehr Menschen über diese Art von Praktiken Bescheid wissen, desto mehr sie protestieren und Möglichkeiten suchen, sich selbst zu schützen. Wenn diese neuen Unternehmen Daten sammeln, um unser zukünftiges Verhalten vorherzusagen, müssen sie dies heimlich tun. Dies ist das grundlegende soziale Verhältnis des Überwachungskapitalismus: Es ist wie ein Einwegspiegel. Und das hat eine Vielzahl von Implikationen.

Die Überwachungskapitalisten verstehen, dass je mehr Menschen über diese Art von Praktiken Bescheid wissen, desto mehr sie protestieren und Möglichkeiten suchen, sich selbst zu schützen.

Auf gesellschaftlicher Ebene haben wir mit dem Überwachungskapitalismus und seiner geheimen Art, alle Arten von Informationen über uns zu sammeln, private Institutionen geschaffen, die außerhalb der verfassungsmäßigen Ordnung existieren – sicherlich in den Vereinigten Staaten, auch wenn die Lage in Europa ein wenig anders ist. Bislang existierten sie also größtenteils außerhalb der Rechtsstaatlichkeit, außerhalb der demokratischen Kontrolle und der demokratischen Werte, und sie produzieren enorme Wissensasymmetrien: Sie wissen alles über uns, aber wir wissen fast nichts über sie! Sie nutzen ihr Wissen für kommerzielle Zwecke.

Wir haben ‘sie‘ noch nicht klar benannt, aber es hier natürlich geht um die großen Internetkonzerne: Facebook, Google und so weiter. Google’s Slogan ist immer noch “sei nicht böse” aber können die das wirklich immer noch behaupten?

Es geht nicht darum, dass Menschen hier ‘böse’ sind – und das ist in Bezug auf zukünftige Gesetze und Vorschriften äußerst wichtig. Und es geht nicht einmal um schlechte gegen gute Menschen. Es geht es um eine neue Wirtschaftslogik mit spezifischen wirtschaftlichen Erfordernissen. Und es geht um Unternehmen, die an diesen wirtschaftlichen Erfordernissen unterliegen, wenn sie erfolgreich sein wollen.

Karl Marx schrieb einmal, wenn man eine Handmühle hat, bekommt man eine Gesellschaft mit einem Feudalherrn und wenn man eine Dampfmühle hat, bekommt man eine Gesellschaft mit einem industriellen Kapitalisten. Gibt es auch hier einen Determinismus in der Technologie? Wenn es Ihnen gelingt, Menschen in zig Millionen winziger, isolierter und virtueller Laufbänder einzusperren, bekommt man dann Überwachungskapitalismus?

Ich halte dies für einen grundlegenden Kategoriefehler: die Gleichsetzung von Technologie und Überwachungskapitalismus. Ich möchte ganz klarstellen, dass der Überwachungskapitalismus nicht mit der digitalen Welt identisch ist.

Lassen Sie mich ein Beispiel geben: Vor der Erfindung des Überwachungskapitalismus in den 2000er Jahren hatte eine sehr hochrangige Gruppe von Designern, Datenwissenschaftlern und Ingenieuren an der Georgia Tech University ein Konzept, das sie als ‘aware home’ (bewusstes Zuhause) bezeichneten – das Konzept ähnelte dem was wir heute “Smart Home” nennen. Aber es gab eine einzige geschlossene Datenschleife: Alle Informationen gingen direkt an den Bewohner des Hauses. Und die Forscher waren ganz klar: Weil diese Daten so vertraulich und persönlich sind, konnten nur die Einwohner des Hauses entscheiden, was mit ihnen geschehen soll.

Ein Zeitspring näher an unsere Zeit, nach 2017: die University of London hat ein einziges Smart-Home-Gerät analysiert: das Nest-Thermostat von Google. “Nest” ist ein Ökosystem mit einem Thermostat und anderen Geräten in Ihrem Haus, die an diesen Thermostat angeschlossen werden können. Und es werden viele Daten zu allen Aspekten Ihres Verhaltens in Ihrem Heim gesammelt. Die Forscher fanden heraus, dass ein gewissenhafter Verbraucher bei der Installation eines Nest-Thermostats mindestens eintausend Datenschutzverträge überprüfen müsste. Weil all diese Verhaltensdaten, die diese Geräte sammeln nun über “Nest” an Dritte übertragen werden.

Hier haben wir also die gleichen Technologien, doch von jeweils grundlegend anderer wirtschaftlicher Logik geprägt. Und es ist die ökonomische Logik hier, wie uns Max Weber schon vor langer Zeit gewarnt hat, die ausschlaggebend dafür ist, wie diese Technologien in unser Leben kommen, wie sie genutzt werden und welche Konsequenzen sie haben.

Wie beeinträchtigen diese Mittel des Überwachungskapitalismus die Demokratie?

Hier kommt ein anderer Kategoriefehler ins Spiel: Wir können den Überwachungskapitalismus nicht auf ein einzelnes Unternehmen reduzieren. Im Moment liegt der Fokus sehr auf Facebook, da viel Manipulation mit Wahlen in Europa und Amerika über soziale Medien geschah. Ich denke jedoch, dass es wichtig ist gleichzeitig zu sehen, dass die Methoden, die im Fall Cambridge Analytica angewendet wurden, um unsere Wahlentscheidungen zu beeinflussen, die gleichen Methoden sind, die Überwachungskapitalisten jeden Tag anwenden, um unser Verhalten zu ihren kommerziellen Zwecken zu gestalten.

Es gibt eine Reihe von Mitteln zur Verhaltensänderung, von denen wir wissen, dass sie politische Wahlentscheidungen verändern können. Und das auf äußerst tiefsitzende Weise: Der politische Diskurs und die Informationen kommen zu uns, als wären sie vom Vierten Stand erstellt worden, von Journalisten, die spezifische Standards und Kriterien für Wahrhaftigkeit und Professionalität haben. Aber sie wurden absichtlich gefälscht, um uns auszutricksen und unser Verhalten auf geheime Weise in Richtung anderer Ziele zu formen. Dies ist ganz klar eine große Herausforderung für die Demokratie!

Welche anderen Herausforderungen für die Demokratie gibt es?

Durch diese Methoden wird die demokratische Gesellschaft von innen heraus untergraben. Weil das Leben in diesem neuen Zeitalter der digitalen Medien mehr und mehr von Reizreaktionen und unterschwelligen Belohnungen und Bestrafungen bestimmt wird, die unsere Umwelt sättigen. Und dies untergräbt langsam unsere Fähigkeit zur moralischen Autonomie.

Wir haben gesehen, dass dieser Eingriff in die Autonomie buchstäblich auf der Ebene ganzer Bevölkerungsgruppen erprobt wurde. Im Jahr 2012 startete Facebook sein umfangreiches ‘contagion’ (Ansteckung) Onlineexperiment, um herauszufinden, ob unterschwellige Reize und Mechanismen zur Bewusstseinsbildung genutzt werden können, um unser Wahlverhalten in der realen Welt zu ändern. Ein Jahr später gab es ein weiteres ‘contagion’-experiment, ebenfalls mit unterschwelligen Reizen, um herauszufinden, ob sie unsere emotionale Gefühlslage verändern könnten, um uns trauriger oder glücklicher zu machen. Beide Versuche waren erfolgreich. Und als sie diese Ergebnisse in Fachzeitschriften publiziert wurde, rühmten sie sich damit, dass diese Methoden von den Benutzern nicht wahrgenommen wurden.

Aber wenn diese Unternehmen schon so tief unter unserer Haut – oder vielmehr in unseren Köpfen – stecken, gibt es dann überhaupt noch Raum, in dem man frei denken und an Widerstand denken kann?

Ich glaube nicht, dass der Widerstand das Problem sein wird. Heutzutage ist es uns unmöglich, genau zu wissen, welcher Aspekt unserer Erfahrung wiedergegeben wird, wohin diese Daten gehen und wer sie zu welchem Zweck verwendet. Der erste wichtige Punkt ist, dass wir diese Dinge benennen müssen, weil wir wissen, dass die meisten Menschen, wenn sie von solchen Aktivitäten erfahren, Widerstand spüren. Sie wollen ‘nein’ sagen! Das erste, was getan werden muss, ist, die Vorhänge zu beiseite zu ziehen, all dies zu beleuchten, und dann wird der Widerstand eine ganz natürliche Reaktion sein.

Dies wird eine ganze Reihe von Veränderungen in der öffentlichen Meinung hervorrufen und damit Handlungsbedarf mit sich bringen. Es wird Forderungen an unsere gewählten Volksvertreter geben, bei der Entwicklung der nächsten Generation von Gesetzen und Vorschriften, die uns vor derartigen Aktivitäten schützen, strenger vorzugehen.

Das erste, was getan werden muss, ist, die Vorhänge zu beiseite zu ziehen, all dies zu beleuchten, und dann wird der Widerstand eine ganz natürliche Reaktion sein.

Ganz klar hat uns die Datenschutzgrundverordnung der Europäischen Union (DSGVO) schon viel weiter gebracht als alles andere, das in den letzten 20 Jahren geschehen ist. Jetzt haben wir die Möglichkeit, auf den Schultern der DSGVO zu stehen, um die Arten von Regulierungssystemen zu entwickeln, die speziell auf diese Mechanismen abzielen.

Wir sprechen vom Dateneigentum als Lösung für den Datenschutz. Aber wenn wir verstehen, wie unersättlich der Überwachungskapitalismus ist und wie es jeden Aspekt unserer Erfahrung nutzt, ohne danach zu fragen, kann man sich fragen ob ist Datenbesitz wirklich genug ist. Wollen wir wirklich dafür kämpfen, dass wir Daten besitzen, die es eigentlich überhaupt nicht geben sollte? Ich vergleiche dies mit einer Diskussion über die Frage, wie viele Stunden Siebenjährige in Fabriken arbeiten sollten – während die eigentliche Frage ist, dafür zu kämpfen, dass es überhaupt keine Kinderarbeit gibt.

Wir müssen hier ganz grundsätzliche Fragen stellen: Ist es legitim, dass unsere eigene Erfahrung und genommen wird, ohne irgendeiner Art sinnvoller Zustimmung unsererseits? Ist es legitim, dass unsere Erfahrung, als Verhaltensdaten, als Rohstoff für Verhaltensvorhersagen benutzt wird? Ist es legitim, diese Prognosen auf Sekundärmärkten weiter zu verkaufen, an Kunden, die daran interessiert sind, unser künftiges Verhalten vorherzusagen? Und damit diese Operationen für uns unzugänglich sind, damit unsere ‘Futures’ für ihren Profit und für ihre Geschäftsziele an andere versteigert werden und wir keine Kontrolle über oder Schutz vor diesen Aktivitäten haben?

Abgesehen von der öffentlichen Empörung, die es geben kann, wenn die Menschen verstehen, wie die Realität um sie herum – und sogar tief in ihnen manipuliert wird –, was ist Ihre Botschaft an die politischen Entscheidungsträger?

Die erste Botschaft für unsere Gesetzgeber ist, dass wir verstehen müssen, dass wir, so wichtig es auch sein mag, ein bestimmtes Unternehmen zu regulieren, so wichtig es auch sein mag, unsere Kartellgesetze und unsere Datenschutzgesetze anzuwenden, weiter gehen müssen: Wir müssen verstehen, dass der Überwachungskapitalismus jetzt unsere gesamte Wirtschaft durchdringt. Wir müssen die spezifischen Mechanismen verstehen und öffentlich eine Diskussion führen, ob diese Mechanismen mit der individuellen und der gesellschaftlich-demokratischen Souveränität vereinbar sind oder nicht. Und dann müssen wir verstehen, wie wir diese Mechanismen gezielt unterbrechen und verbieten können.

Aber wie soll das aus Ihrer Sicht gehen?

Meiner Ansicht nach ist der Überwachungskapitalismus eine verbrecherische Mutation des Kapitalismus. Im 20. Jahrhundert haben wir einen Weg gefunden, wie Märkte und Demokratien ein Gleichgewicht schaffen können. Dies geschah jedoch nur, weil wir Gesetze und Vorschriften geschaffen hatten, die die Exzesse des Kapitalismus begrenzten und an die Bedürfnisse einer demokratischen Gesellschaft und an das Wohlbefinden des Einzelnen anknüpfen – sowohl in sozialer als auch wirtschaftlicher Hinsicht.

Jetzt haben wir die Möglichkeit, auf den Schultern der DSGVO zu stehen, um die Arten von Regulierungssystemen zu entwickeln, die speziell auf diese Mechanismen abzielen.

Wir befinden uns in einer Welt, in der wir in unserem täglichen Leben gar nicht mehr effektiv sein können, ohne diese Kanäle zu durchlaufen, die aber gleichzeitig die Rohstoffminen und Lieferketten des Überwachungskapitalismus sind, und von denen aus unsere Erfahrungen zu Verhaltensdaten für diese sekundären Operationen umgewandelt werden, von denen wir nichts wissen und die wir nicht kontrollieren können. Daher müssen wir Alternativen schaffen. Und sobald es diese Alternativen gibt, werden die meisten Menschen diesen Alternativen wechseln.

Es gibt bereits Alternativen: Telegramm statt WhatsApp oder alternative Suchmaschinen wie DuckDuckGo statt Google. Aber diese Dinge haben sich noch nicht wirklich verbreitet.

Diese Dinge erfordern ein bestimmtes Ausmaß. Wir haben eine Suchmaschine wie DuckDuckGo, die unsere Privatsphäre schützt und das ist sehr wichtig! Die Leute mögen sagen, dass Google eine bessere Suchmaschine hat, aber was sie nicht verstehen, ist, dass Google möglicherweise nur aufgrund der Praktiken, die wir beschrieben haben, eine bessere Suchmaschine hat. Und dass die ständige Verbesserung von Googles Qualität mit Kosten verbunden ist, die für die meisten von uns unsichtbar sind. Wir müssen uns der tatsächlichen Kosten für den Gebrauch von Google und seiner Geschäftspraktiken bewusst sein, die uns letztlich zu Cambridge Analytica geführt haben.

Wir haben hier zwei sehr unterschiedliche Alternativen. Und wenn diese beiden Alternativen miteinander konfrontiert werden, müssen sie in ihrer Fülle mit umfassendem Wissen und Transparenz darüber konfrontiert werden, was sie jeweils beinhalten. Und wie ich eingangs sagte: Wenn die Menschen dieses volle Wissen und diese Transparenz haben, werden sie diese Praktiken ablehnen!

Newsletter

Sign up to the newsletter for handpicked highlights of articles, interviews and translations published each month.

Select the language(s) for which you would like to receive notification :

Select the theme(s) for which you would like to receive notification :

Der Überwachung widerstehen

Cookies on our website allow us to deliver better content by enhancing our understanding of what pages are visited. Data from cookies is stored anonymously and only shared with analytics partners in an anonymised form.

Find out more about our use of cookies in our privacy policy.