STANFORD – Obwohl wir gerade erst begonnen haben, den Schaden zu begreifen, den die Internet-Plattformen im Bereich der öffentlichen Gesundheit, der Privatsphäre und des Wettbewerbs anrichten, werden wir es bald mit einer noch grundlegenderen Bedrohung durch Big Tech zu tun bekommen. In einer Zeit, in der die Institutionen der freiheitlichen Demokratie ohnehin schon geschwächt sind, fordern Google, Facebook, Amazon und Microsoft die demokratisch gewählten Regierungen heraus, indem sie als Alternative eigene Dienste anbieten.
Dies stellt eine deutliche Veränderung gegenüber der Vergangenheit dar. Noch vor 20 Jahren hatten Amerikas Technologieunternehmen über die Bezahlung ihrer Steuern hinaus kaum etwas mit der Bundesregierung zu tun. Ingenieure entwickelten Produkte, die die Kunden handlungsfähiger machten, und die Regierung feuerte sie dabei an.
Nach den Terroranschlägen vom 11. September 2001 jedoch wandelte sich die Einstellung des Landes gegenüber der Überwachung. Die US-Nachrichtendienste arbeiteten mit führenden digitalen Plattformen – angefangen mit Google – zusammen, um enorme Mengen personenbezogener Daten abzugreifen, die womöglich zur Verhinderung künftiger Anschläge genutzt werden könnten. Zudem entwickelten sich Google, Facebook und andere nach 2008 zu unverzichtbaren Hilfsmitteln der Politiker. Die kuschelige Beziehung zur Regierung von Präsident Barack Obama schützte die Technologiebranche vor prüfenden Blicken, während sie perfektionierte, was Shoshana Zuboff (Harvard Business School) als „Überwachungskapitalismus“ bezeichnet.
Während der Industriekapitalismus Technologie zur Manipulation der Umwelt einsetzt, manipuliert der Überwachungskapitalismus das menschliche Verhalten. Seine Vertreter wandeln menschliche Erfahrungen in Daten um, erstellen digitale Voodoo-Puppen (Dossiers), die jeden Einzelnen repräsentieren, und nutzen diese virtuellen Repräsentationen dann, um das Verhalten vorhersagende Produkte zu konzipieren und zu verkaufen.
Indem sie die demografische Zielgruppenansprache um konkrete Vorhersagen zu jedem potenziellen Kunden ergänzten, haben diese Produkte Marketing und Werbung revolutioniert. Zudem nutzen die führenden Überwachungskapitalisten – Google, Facebook, Amazon und Microsoft – die von ihnen erhobenen Daten, um individuelle Suchergebnisse zu manipulieren. Dies begrenzt die den Kunden zur Verfügung stehenden Entscheidungsmöglichkeiten und erhöht die Wahrscheinlichkeit, dass sie sich prognosekonform verhalten. Laut Zuboff bedroht der Überwachungskapitalismus sowohl die individuelle Selbstbestimmung als auch die Lebensfähigkeit offener Gesellschaften.
At a time of escalating global turmoil, there is an urgent need for incisive, informed analysis of the issues and questions driving the news – just what PS has always provided.
Subscribe to Digital or Digital Plus now to secure your discount.
Subscribe Now
Erste Anzeichen, dass die Internet-Plattformen realweltliche Auswirkungen auf komplette Länder – und nicht nur auf den Einzelnen – haben könnten, zeigten sich 2016, als Online-Desinformationskampagnen eine große Rolle beim britischen Brexit-Referendum und bei den US-Präsidentschaftswahlen spielten. Seitdem haben die Internet-Plattformen noch in vielen anderen Ländern Einmischungen in die Wahlen ermöglicht und unwillentlich eine Rolle beim Völkermord in Myanmar, dem Terrorismus in Neuseeland, Massenmorden in den USA und Europa und Masernausbrüchen in Ländern, in denen die Krankheit vorher ausgerottet war, gespielt. Sie werden nun regelmäßig genutzt, um Falschinformationen zu verbreiten, den gewalttätigen Extremismus anzuheizen und die Wählerschaft zu polarisieren.
Ich glaube nicht, dass die Internet-Plattformen diesen Schaden ermöglichen wollten. Doch ihre Geschäftsmodelle, Algorithmen und internen Kulturen machten ihn unvermeidlich. Als Bürger müssen wir uns alle bewusst machen, dass die Internet-Plattformen inzwischen mindestens genauso viel Einfluss auf unser Leben haben wie unsere Regierungen. Wenn Facebook Bilder stillender Mütter verbietet, können seine Nutzer keinen Einspruch gegen diese Entscheidung einlegen, selbst wenn sie in einem Land leben, in dem die freie Rede verfassungsmäßig geschützt ist. Und wenn es seine Richtlinien ändert, um unzutreffende Werbung im Wahlkampf zu erlauben, lädt es im Wesentlichen zu weiteren Angriffen auf unsere Wahlen und damit auf die Demokratie selbst ein.
Schlimmer noch ist, dass die offenen Gesellschaften die erste von den Internet-Plattformen losgetretene Schadenswelle noch immer nicht in den Griff bekommen haben. Die bisher durchdachtesten Initiativen – die Datenschutz-Grundverordnung der Europäischen Union und der kalifornische Consumer Privacy Act – widmen sich nur einem Teilbereich des Problems. Die Politik begreift erst in Ansätzen, wie der Überwachungskapitalismus funktioniert. Es gibt noch nicht einmal einen Konsens, dass dieses neue Wirtschaftsmodell eine Bedrohung darstellt, und einen Plan zur Neutralisierung seiner schädlichen Auswirkungen gibt es schon gar nicht.
Derweil sind Google, Facebook, Amazon und Microsoft bereits zum nächsten Schritt übergegangen. Nachdem sie den Überwachungskapitalismus perfektioniert haben, sind sie nun in der Lage, Initiativen einzuleiten, um traditionelle staatliche Dienstleistungen zu übernehmen. Sie sind nicht die ersten Unternehmen, die das tun, doch ihr Ehrgeiz und die ihnen zur Verfügung stehenden Mittel übertreffen jene anderer privater Unternehmen, wie etwa der gewinnorientierten Gefängnisbranche, bei weitem.
Jedes führende Plattformunternehmen wird von einem klaren Ziel geleitet. Einige dieser Ziele wurden ausformuliert, so wie in Googles Mission, „[d]ie Informationen dieser Welt [zu] organisieren“, und in Facebooks Bestreben, die Welt auf einem einzigen Netzwerk zusammenzuführen. Andere lassen sich aus dem Verhalten erschließen: Amazon will eindeutig zum Rückgrat der Wirtschaft werden, und Microsoft zum Technologiepartner für Unternehmen und Behörden. In jedem Fall ist das unausgesprochene Ziel, die Kontrolle zu übernehmen. Nicht mit den Erlösen aus dem Überwachungskapitalismus zufrieden, die heute durch die Größe des Werbemarktes begrenzt sind, drängen die Plattformunternehmen aggressiv – und in einigen Fällen trotzig – in neue Märkte.
… und Zerstörung bestehender Strukturen
So bietet etwa Sidewalk Labs, ein Tochterunternehmen der Google-Muttergesellschaft Alphabet, an, im Austausch gegen die Kontrolle über die öffentlichen Daten und die Entscheidungsbefugnis kommunale Dienstleistungen zu übernehmen. Ob absichtlich oder nicht: Dieses Geschäftsmodell könnte allmählich die persönliche Entscheidungsfreiheit verdrängen und kommunale Demokratie durch Algorithmen ersetzen.
In ähnlicher Weise versucht Facebook mit der geplanten Einführung seiner Kryptowährung Libra, mit Reservewährungen wie dem US-Dollar und dem Euro zu konkurrieren. Obwohl die Libra ursprünglich die Unterstützung vieler führender Finanzdienstleister hatte, hat ihre Vorstellung eine weltweite Gegenreaktion ausgelöst, und viele dieser Partner haben sich zurückgezogen. Doch unabhängig von der Libra wird Facebook auch künftig eine enorme Rolle dabei spielen, die Demokratie zu untergraben. Seine offene Bereitschaft, die Verbreitung nachweislicher Unwahrheiten zu unterstützen, sowie die Kritik seines CEO an einer führenden Demokratischen Präsidentschaftskandidatin (Elizabeth Warren) legen nahe, dass das Unternehmen keine Angst hat, seine eigenen Interessen über die des Landes zu stellen.
Amazon seinerseits hat aggressive Schritte in Richtung der öffentlichen Auftragsvergabe unternommen und bietet inzwischen ein breites Spektrum an Informationsdienstleistungen für Bundes- und Kommunalbehörden an. Es hat Strafverfolgungsbehörden wie dem Einwanderungs- und Zollermittlungsdienst (ICE) des US-Heimatschutzministeriums Gesichtserkennungsprodukte angeboten, obwohl die Software gegenwärtig Farbige durch dateninhärente Verzerrungen benachteiligt.
Amazon nutzt zudem sein „Ring“-Sortiment intelligenter Türklingelsysteme, um Kooperationsvereinbarungen mit örtlichen Polizeistellen zu vermitteln. Hierbei können die Strafverfolgungsbehörden mit vorheriger Zustimmung der Eigenheimbesitzer ohne Durchsuchungsbeschluss auf „Ring“-Videofeeds zugreifen. Verfechter der bürgerlichen Freiheiten und Experten sind verständlicherweise besorgt, dass die „Ring“-Türklingelnetzwerke in Verbindung mit der Gesichtserkennungstechnologie neue, potenziell verfassungswidrige Formen der Überwachung ermöglichen könnten. Journalisten haben zudem aufgedeckt, dass Amazons „Ring“-Vereinbarungen dem Unternehmen unzulässigen Einfluss darauf ermöglichen, wie die Strafverfolgungsbehörden mit der Öffentlichkeit kommunizieren.
Microsofts neue Initiativen schließlich sind weniger unverfroren, aber nicht zwangsläufig weniger problematisch. So umfassen seine Arbeiten im Bereich der künstlichen Intelligenz Anwendungen zur Automatisierung der Polizeiarbeit. Wie bei der Gesichtserkennung leiden frühe KI-gestützte Ermittlungssysteme unter dateninhärenten Verzerrungen. Unabhängig, ob dies auf schlechte Ingenieursarbeit oder Kundenpräferenzen zurückzuführen ist: Tatsache ist, dass bisher noch niemand eine Lösung für dieses Problem gefunden hat. Algorithmische Verzerrungen wurden bereits in einer breiten Palette von Anwendungen festgestellt, so etwa in Software, die Bewerbungen und Hypothekenanträge prüft.
Uns läuft die Zeit davon
In den vergangenen beiden Jahrzehnten haben die führenden Internet-Plattformen Deregulierung und Gesetzeslücken dazu genutzt, weltumspannende Unternehmen zu errichten und enorme Vermögen anzuhäufen. Ihr Erfolg hat sie arrogant gemacht. Dies gilt besonders für Facebook und Google, die der Politik beide in Kontexten getrotzt haben, in denen andere Unternehmen das nicht getan haben. So weigerten sich beide Unternehmen zunächst, ihre CEOs zu den ersten Kongressanhörungen zur Wahleinmischung zu entsenden. Und Facebooks CEO Mark Zuckerberg hat es konsequent vermieden, vor Parlamentsausschüssen in Kanada und dem Vereinigten Königreich, zwei von Facebooks größten Märkten, auszusagen. Wenn Führungskräfte von Facebook und Google vor Aufsichtsgremien erschienen sind, haben sie sich häufig zugeknüpft und ausweichend gezeigt.
Diese Unternehmen dominieren inzwischen unser Leben, und das häufig in Weisen, die uns nicht einmal bewusst sind. Sie sind ungewählt und niemandem Rechenschaft schuldig, und sie ersetzen Selbstbestimmung und demokratische Entscheidungsfindung durch algorithmische Prozesse. Offene Gesellschaften können ein derartiges Unternehmensverhalten nicht zulassen. Als Bürger müssen wir verlangen, dass unsere Regierungen sie sich ihnen gefügig machen, solange sie dazu noch die Macht haben.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
On December 19, Indian historian Ramachandra Guha was arrested while peacefully demonstrating against India’s Citizenship Amendment Act, which openly discriminates against Muslims in its treatment of immigrants from neighboring countries.
In this commentary for Project Syndicate’s special year-end magazine, Guha reflects on the erosion of India’s democratic institutions under Prime Minister Narendra Modi’s government. Subscribe today to receive The Year Ahead, 2020.
laments the country's transformation into a Hindu-nationalist state under Prime Minister Narendra Modi.
STANFORD – Obwohl wir gerade erst begonnen haben, den Schaden zu begreifen, den die Internet-Plattformen im Bereich der öffentlichen Gesundheit, der Privatsphäre und des Wettbewerbs anrichten, werden wir es bald mit einer noch grundlegenderen Bedrohung durch Big Tech zu tun bekommen. In einer Zeit, in der die Institutionen der freiheitlichen Demokratie ohnehin schon geschwächt sind, fordern Google, Facebook, Amazon und Microsoft die demokratisch gewählten Regierungen heraus, indem sie als Alternative eigene Dienste anbieten.
Dies stellt eine deutliche Veränderung gegenüber der Vergangenheit dar. Noch vor 20 Jahren hatten Amerikas Technologieunternehmen über die Bezahlung ihrer Steuern hinaus kaum etwas mit der Bundesregierung zu tun. Ingenieure entwickelten Produkte, die die Kunden handlungsfähiger machten, und die Regierung feuerte sie dabei an.
Nach den Terroranschlägen vom 11. September 2001 jedoch wandelte sich die Einstellung des Landes gegenüber der Überwachung. Die US-Nachrichtendienste arbeiteten mit führenden digitalen Plattformen – angefangen mit Google – zusammen, um enorme Mengen personenbezogener Daten abzugreifen, die womöglich zur Verhinderung künftiger Anschläge genutzt werden könnten. Zudem entwickelten sich Google, Facebook und andere nach 2008 zu unverzichtbaren Hilfsmitteln der Politiker. Die kuschelige Beziehung zur Regierung von Präsident Barack Obama schützte die Technologiebranche vor prüfenden Blicken, während sie perfektionierte, was Shoshana Zuboff (Harvard Business School) als „Überwachungskapitalismus“ bezeichnet.
Während der Industriekapitalismus Technologie zur Manipulation der Umwelt einsetzt, manipuliert der Überwachungskapitalismus das menschliche Verhalten. Seine Vertreter wandeln menschliche Erfahrungen in Daten um, erstellen digitale Voodoo-Puppen (Dossiers), die jeden Einzelnen repräsentieren, und nutzen diese virtuellen Repräsentationen dann, um das Verhalten vorhersagende Produkte zu konzipieren und zu verkaufen.
Indem sie die demografische Zielgruppenansprache um konkrete Vorhersagen zu jedem potenziellen Kunden ergänzten, haben diese Produkte Marketing und Werbung revolutioniert. Zudem nutzen die führenden Überwachungskapitalisten – Google, Facebook, Amazon und Microsoft – die von ihnen erhobenen Daten, um individuelle Suchergebnisse zu manipulieren. Dies begrenzt die den Kunden zur Verfügung stehenden Entscheidungsmöglichkeiten und erhöht die Wahrscheinlichkeit, dass sie sich prognosekonform verhalten. Laut Zuboff bedroht der Überwachungskapitalismus sowohl die individuelle Selbstbestimmung als auch die Lebensfähigkeit offener Gesellschaften.
Schnelles Vorgehen…
Winter Sale: Save 40% on a new PS subscription
At a time of escalating global turmoil, there is an urgent need for incisive, informed analysis of the issues and questions driving the news – just what PS has always provided.
Subscribe to Digital or Digital Plus now to secure your discount.
Subscribe Now
Erste Anzeichen, dass die Internet-Plattformen realweltliche Auswirkungen auf komplette Länder – und nicht nur auf den Einzelnen – haben könnten, zeigten sich 2016, als Online-Desinformationskampagnen eine große Rolle beim britischen Brexit-Referendum und bei den US-Präsidentschaftswahlen spielten. Seitdem haben die Internet-Plattformen noch in vielen anderen Ländern Einmischungen in die Wahlen ermöglicht und unwillentlich eine Rolle beim Völkermord in Myanmar, dem Terrorismus in Neuseeland, Massenmorden in den USA und Europa und Masernausbrüchen in Ländern, in denen die Krankheit vorher ausgerottet war, gespielt. Sie werden nun regelmäßig genutzt, um Falschinformationen zu verbreiten, den gewalttätigen Extremismus anzuheizen und die Wählerschaft zu polarisieren.
Ich glaube nicht, dass die Internet-Plattformen diesen Schaden ermöglichen wollten. Doch ihre Geschäftsmodelle, Algorithmen und internen Kulturen machten ihn unvermeidlich. Als Bürger müssen wir uns alle bewusst machen, dass die Internet-Plattformen inzwischen mindestens genauso viel Einfluss auf unser Leben haben wie unsere Regierungen. Wenn Facebook Bilder stillender Mütter verbietet, können seine Nutzer keinen Einspruch gegen diese Entscheidung einlegen, selbst wenn sie in einem Land leben, in dem die freie Rede verfassungsmäßig geschützt ist. Und wenn es seine Richtlinien ändert, um unzutreffende Werbung im Wahlkampf zu erlauben, lädt es im Wesentlichen zu weiteren Angriffen auf unsere Wahlen und damit auf die Demokratie selbst ein.
Schlimmer noch ist, dass die offenen Gesellschaften die erste von den Internet-Plattformen losgetretene Schadenswelle noch immer nicht in den Griff bekommen haben. Die bisher durchdachtesten Initiativen – die Datenschutz-Grundverordnung der Europäischen Union und der kalifornische Consumer Privacy Act – widmen sich nur einem Teilbereich des Problems. Die Politik begreift erst in Ansätzen, wie der Überwachungskapitalismus funktioniert. Es gibt noch nicht einmal einen Konsens, dass dieses neue Wirtschaftsmodell eine Bedrohung darstellt, und einen Plan zur Neutralisierung seiner schädlichen Auswirkungen gibt es schon gar nicht.
Derweil sind Google, Facebook, Amazon und Microsoft bereits zum nächsten Schritt übergegangen. Nachdem sie den Überwachungskapitalismus perfektioniert haben, sind sie nun in der Lage, Initiativen einzuleiten, um traditionelle staatliche Dienstleistungen zu übernehmen. Sie sind nicht die ersten Unternehmen, die das tun, doch ihr Ehrgeiz und die ihnen zur Verfügung stehenden Mittel übertreffen jene anderer privater Unternehmen, wie etwa der gewinnorientierten Gefängnisbranche, bei weitem.
Jedes führende Plattformunternehmen wird von einem klaren Ziel geleitet. Einige dieser Ziele wurden ausformuliert, so wie in Googles Mission, „[d]ie Informationen dieser Welt [zu] organisieren“, und in Facebooks Bestreben, die Welt auf einem einzigen Netzwerk zusammenzuführen. Andere lassen sich aus dem Verhalten erschließen: Amazon will eindeutig zum Rückgrat der Wirtschaft werden, und Microsoft zum Technologiepartner für Unternehmen und Behörden. In jedem Fall ist das unausgesprochene Ziel, die Kontrolle zu übernehmen. Nicht mit den Erlösen aus dem Überwachungskapitalismus zufrieden, die heute durch die Größe des Werbemarktes begrenzt sind, drängen die Plattformunternehmen aggressiv – und in einigen Fällen trotzig – in neue Märkte.
… und Zerstörung bestehender Strukturen
So bietet etwa Sidewalk Labs, ein Tochterunternehmen der Google-Muttergesellschaft Alphabet, an, im Austausch gegen die Kontrolle über die öffentlichen Daten und die Entscheidungsbefugnis kommunale Dienstleistungen zu übernehmen. Ob absichtlich oder nicht: Dieses Geschäftsmodell könnte allmählich die persönliche Entscheidungsfreiheit verdrängen und kommunale Demokratie durch Algorithmen ersetzen.
In ähnlicher Weise versucht Facebook mit der geplanten Einführung seiner Kryptowährung Libra, mit Reservewährungen wie dem US-Dollar und dem Euro zu konkurrieren. Obwohl die Libra ursprünglich die Unterstützung vieler führender Finanzdienstleister hatte, hat ihre Vorstellung eine weltweite Gegenreaktion ausgelöst, und viele dieser Partner haben sich zurückgezogen. Doch unabhängig von der Libra wird Facebook auch künftig eine enorme Rolle dabei spielen, die Demokratie zu untergraben. Seine offene Bereitschaft, die Verbreitung nachweislicher Unwahrheiten zu unterstützen, sowie die Kritik seines CEO an einer führenden Demokratischen Präsidentschaftskandidatin (Elizabeth Warren) legen nahe, dass das Unternehmen keine Angst hat, seine eigenen Interessen über die des Landes zu stellen.
Amazon seinerseits hat aggressive Schritte in Richtung der öffentlichen Auftragsvergabe unternommen und bietet inzwischen ein breites Spektrum an Informationsdienstleistungen für Bundes- und Kommunalbehörden an. Es hat Strafverfolgungsbehörden wie dem Einwanderungs- und Zollermittlungsdienst (ICE) des US-Heimatschutzministeriums Gesichtserkennungsprodukte angeboten, obwohl die Software gegenwärtig Farbige durch dateninhärente Verzerrungen benachteiligt.
Amazon nutzt zudem sein „Ring“-Sortiment intelligenter Türklingelsysteme, um Kooperationsvereinbarungen mit örtlichen Polizeistellen zu vermitteln. Hierbei können die Strafverfolgungsbehörden mit vorheriger Zustimmung der Eigenheimbesitzer ohne Durchsuchungsbeschluss auf „Ring“-Videofeeds zugreifen. Verfechter der bürgerlichen Freiheiten und Experten sind verständlicherweise besorgt, dass die „Ring“-Türklingelnetzwerke in Verbindung mit der Gesichtserkennungstechnologie neue, potenziell verfassungswidrige Formen der Überwachung ermöglichen könnten. Journalisten haben zudem aufgedeckt, dass Amazons „Ring“-Vereinbarungen dem Unternehmen unzulässigen Einfluss darauf ermöglichen, wie die Strafverfolgungsbehörden mit der Öffentlichkeit kommunizieren.
Microsofts neue Initiativen schließlich sind weniger unverfroren, aber nicht zwangsläufig weniger problematisch. So umfassen seine Arbeiten im Bereich der künstlichen Intelligenz Anwendungen zur Automatisierung der Polizeiarbeit. Wie bei der Gesichtserkennung leiden frühe KI-gestützte Ermittlungssysteme unter dateninhärenten Verzerrungen. Unabhängig, ob dies auf schlechte Ingenieursarbeit oder Kundenpräferenzen zurückzuführen ist: Tatsache ist, dass bisher noch niemand eine Lösung für dieses Problem gefunden hat. Algorithmische Verzerrungen wurden bereits in einer breiten Palette von Anwendungen festgestellt, so etwa in Software, die Bewerbungen und Hypothekenanträge prüft.
Uns läuft die Zeit davon
In den vergangenen beiden Jahrzehnten haben die führenden Internet-Plattformen Deregulierung und Gesetzeslücken dazu genutzt, weltumspannende Unternehmen zu errichten und enorme Vermögen anzuhäufen. Ihr Erfolg hat sie arrogant gemacht. Dies gilt besonders für Facebook und Google, die der Politik beide in Kontexten getrotzt haben, in denen andere Unternehmen das nicht getan haben. So weigerten sich beide Unternehmen zunächst, ihre CEOs zu den ersten Kongressanhörungen zur Wahleinmischung zu entsenden. Und Facebooks CEO Mark Zuckerberg hat es konsequent vermieden, vor Parlamentsausschüssen in Kanada und dem Vereinigten Königreich, zwei von Facebooks größten Märkten, auszusagen. Wenn Führungskräfte von Facebook und Google vor Aufsichtsgremien erschienen sind, haben sie sich häufig zugeknüpft und ausweichend gezeigt.
Diese Unternehmen dominieren inzwischen unser Leben, und das häufig in Weisen, die uns nicht einmal bewusst sind. Sie sind ungewählt und niemandem Rechenschaft schuldig, und sie ersetzen Selbstbestimmung und demokratische Entscheidungsfindung durch algorithmische Prozesse. Offene Gesellschaften können ein derartiges Unternehmensverhalten nicht zulassen. Als Bürger müssen wir verlangen, dass unsere Regierungen sie sich ihnen gefügig machen, solange sie dazu noch die Macht haben.
Aus dem Englischen von Jan Doolan