Es braucht Menschen, die sich weigern
von Paul Mason
Wenn Sie wissen wollen, wie leicht das menschliche Verhalten mit einem Algorithmus gesteuert werden kann, müssen Sie sich nur auf einem Flughafen umsehen. Beim Betreten der Abflughalle legen wir unser gewöhnliches Verhalten ab: Von nun an gelten strenge Regeln. Am Abflugschalter wird unsere Identität festgestellt, und die Sicherheitskontrolle beruht auf einem Algorithmus: Die Menschen bewegen sich wie befohlen, reißen ihren Laptop aus der Reisetasche, als hinge ihr Leben davon ab, und unterwerfen sich der Leibesvisitation. Beim Reisepass-Scan werden alle relevanten Fakten überprüft und sichergestellt, dass wir tatsächlich die Person sind, die vor wenigen Minuten am Schalter eingecheckt hat. Auf dem Flugsteig kommen die Algorithmen der wirtschaftlichen Privilegien zum Einsatz: Die Reichen dürfen als Erste an Bord, die Armen müssen warten.
Das Problem ist, dass die Informationstechnologie einen immer größeren Teil unseres Alltags in eine Abflughalle verwandelt. Wie auf dem Flughafen gehorcht diese Entwicklung auch in anderen Lebensbereichen den Bedürfnissen von Großunternehmen und Staaten. Anders als am Flughafen ist der Großteil der algorithmischen Kontrolle, dem unsere Gehirne und Körper unterworfen werden, in anderen Umgebungen nicht mit bloßem Auge zu erkennen: Die Allgemeinheit ist sich dieser Kontrolle nicht bewusst, die Aufsichtsbehörden kümmern sich nicht darum, und die Gesellschaft setzt sich nicht ausreichend mit ihren ethischen Auswirkungen auseinander.
Algorithmen dienen dazu, anhand der Logik komplizierte Situationen in einer Reihe von Ja-/Nein-Fragen zu erfassen und abhängig von den Antworten Anweisungen zu geben. Die Algorithmen, die auf dem Flughafen zum Einsatz kommen, stellen auf unterschiedliche Art alle dieselbe Frage: Ist es sicher, diese Person in ein Flugzeug einsteigen zu lassen? Ein Algorithmus ist Logik plus Kontrolle.
Um sich ein Bild davon zu machen, wie schnell sich die Algorithmen der Überprüfung und Offenlegung entzogen haben, gehen Sie einfach auf You-Tube und suchen Sie nach „Finger family“. YouTube bietet Ihnen bis zu 17 Millionen „verschiedene“ für Kleinkinder bestimmte Videos an, die alle sehr ähnlich sind. Ein YouTube-Kanal, auf dem man stundenlange Videos von einer Person ansehen kann, die Schokoladeneier oder Spielzeug auspackt, hat 3,7 Millionen Abonnenten und erreichte im Jahr 2017 die Marke von 6 Milliarden Besuchern. Die Titel der Videos sind vollkommen sinnlos, es handelt sich einfach um aneinandergereihte Schlagworte, die nicht die Aufmerksamkeit von Menschen, sondern die des Algorithmus wecken sollen, der das nächste Video in der Warteschlange bereitstellt.
Die Videos werden von Algorithmen ausgewählt, über Algorithmen beworben und sogar automatisch unter Verwendung von Software erzeugt, die ein ums andere Mal den hypnotisierenden Abfall aus einer Datei in die nächste kopiert. Sobald Sie Ihr Kind vor einen solchen YouTube-Kanal setzen, treten Sie die Kontrolle über die Inhalte, die es konsumiert, an einen Algorithmus ab.
Eine weitere Maschine – ein Bot – durchforstet YouTube und gibt vor, bestimmte Videos aufzurufen; der Zweck dieses Mechanismus ist es, den Platz dieser Videos im Ranking zu verbessern. In der Zwischenzeit hinterlässt ein weiterer Bot computergenerierte Kommentare, die ebenfalls die Position des Videos verbessern.
Die Maschine wählt aus, was sich Ihr Kind ansehen kann, und prägt möglicherweise dauerhaft sein Weltbild. Der Künstler James Bridle, der die Auswirkungen der digitalen Intelligenz studiert hat, bezeichnet dies als „infrastrukturelle Gewalt“. Gemeint ist eine Form des Zwangs, die so vollkommen unsichtbar ist, dass uns die Worte fehlen, um darüber zu sprechen. Nur Google und seine Tochter YouTube besitzen das Wissen, das nötig ist, um uns davor zu schützen.
Die Errichtung riesiger Monopole wie YouTube ermöglicht es den Urhebern von Kindervideos, mit großen Mengen winziger Werbeeinnahmen Geld zu verdienen. Die massenhafte Nutzung der Informationsasymmetrie macht uns blind für das, was mit den Gehirnen unserer Kinder geschieht.
Würden die Marktteilnehmer zum ethischen Einsatz von Algorithmen, zur Offenlegung der Verwendung solcher Werkzeuge und zum Angebot einer Ausstiegsoption gezwungen, so würde das nicht nur die Geschäftsmodelle der Technologieunternehmen, sondern auch die gegenwärtige kapitalistische Dynamik gefährden und Zweifel an den Börsenbewertungen milliardenschwerer Schlüsselunternehmen wecken.
Und das hat nichts mit Technophobie zu tun
Beim Widerstand gegen die algorithmische Kontrolle dürfen wir uns nicht darauf beschränken, die Informationssicherheit zu verteidigen oder Voreingenommenheit zu beseitigen. Wir müssen Widerstand gegen alles leisten, was unsere bewusste Kontrolle über unser Arbeitsumfeld, unsere rationale Entscheidungsfreiheit oder unsere menschliche Freiheit als solche einschränkt, und zwar nicht aus Technophobie, sondern im Streben nach besseren Maschinen, nach besseren, transparenteren Algorithmen, nach mehr Kontrolle. Aber um uns den Algorithmen widersetzen zu können, müssen wir auch die wirtschaftlichen Kontrollmechanismen verstehen, auf die sich der Kapitalismus heute stützt.
Eines der deprimierendsten Rituale, die das 21. Jahrhundert hervorgebracht hat, ist der TED-Talk. Die Person, die den Vortrag hält, ist dem breiten Publikum oft unbekannt, aber ihr geschliffener Auftritt wirkt glaubwürdig, und da sie oft von unten gefilmt wird, entsteht der Eindruck, dass wir es mit einer Person zu tun haben, die etwas Gewichtiges zu sagen hat. Das immer gleiche Thema der Vorträge ist ebenfalls deprimierend: Wie können wir die menschlichen Schwächen zu unserem Vorteil ausnutzen?
Zu den erfolgreichsten 25 TED-Talks aller Zeiten gehören „Wie großartige Anführer andere zum Handeln inspirieren“, „Wie man so spricht, dass die Leute zuhören wollen“, „Die unsichtbaren Kräfte, die jedermanns Handlungen motivieren“, „Wie man einen Lügner erkennt“ sowie eine Vorführung eines professionellen Taschendiebs, der zeigt, wie man „eine Brieftasche entwendet und auf die Schulter des Besitzers legt, ohne dass er irgendetwas mitbekommt“. Die TED-Talks werden als eine Sammlung von Ideen angepriesen, die „wert sind, verbreitet zu werden“, aber in Wahrheit dienen sie nur der Verbreitung einer einzigen Vorstellung, nämlich der, dass das menschliche Urteil fehleranfällig ist und dass jene, die diese Fehler auszunutzen verstehen, mit der Verhaltensökonomie viel Geld verdienen können.
Eine der wirksamsten Gegenmaßnahmen besteht darin, die alten Systeme der Verhaltenskontrolle auf individueller Ebene zurückzuweisen. Es gibt Menschen, die das bereits tun: Sie kaufen nur Fairtrade-Kaffee und tragen teure Jeans, die in Wales handgefertigt werden, anstatt aus der Massenproduktion in Bangladesch zu kommen. Sie steigen aus dem Taxi aus, wenn der Fahrer rassistische Schmähungen von sich gibt. Bisher sind diese Leute keine Gefahr für den Neoliberalismus: Seine Reaktion besteht darin, den ethischen Konsum zu kooptieren.
Um eine massenhafte Verhaltensänderung herbeizuführen, müssen wir unsere Ablehnung aufgezwungener Marktwerte auf eine höhere Ebene heben. Wir brauchen Menschen, die sich weigern, automatische Kassen zu nutzen, und die Supermärkte auf diese Art zwingen, menschliche Arbeitskräfte zu beschäftigen. Wir brauchen Menschen, die ihre Rechte als Konsumenten aggressiv nutzen. Aber vor allem brauchen wir Menschen, die sich lautstark dagegen wehren, „in die richtige Richtung gelenkt“ zu werden.
Wenn sich dieser Widerstand ausbreitet, werden zwei Dinge geschehen. Erstens werden wir beginnen, einander zu finden. Wenn Sie in einer langen Schlange stehen und auf den einzigen Kassierer warten, weil Sie den Kassenautomaten ablehnen, werden Sie vielleicht mit einem wütenden Kunden ins Gespräch kommen. Vielleicht machen Sie ihn darauf aufmerksam, dass es nicht die Schuld des Kassierers ist, dass er warten muss: Verantwortlich ist die Supermarktkette, die Milliardenumsätze erzielt. Darauf wird ein dritter Kunde sagen: „So sehe ich das auch.“ Und schon haben wir etwas mehr als isolierte Unzufriedenheit.
Zweitens werden wir bei unseren winzigen Akten der Rebellion denken: Dieses Problem könnte durch eine Kombination von Technologie und Gesetzen sehr viel leichter gelöst werden. Unser Widerstand im kleinen Maßstab wird uns zu einem die Gesellschaft umspannenden Projekt führen.
Es könnte so aussehen, als wollte ich dazu einladen, das Projekt des radikalen Humanismus als quasireligiöses Anliegen zu betrachten. Ein solches Vorhaben ist nicht meine Absicht. Tatsache aber ist, dass die neoliberale Form der Ausbeutung am Arbeitsplatz, im Pub, auf dem Sportplatz und im Schlafzimmer in unser Leben eindringt. Wir können sie bekämpfen, indem wir uns weigern, das vom System geforderte Verhalten an den Tag zu legen.
Die Angehörigen meiner Generation durften noch Ende der 70er Jahre davon ausgehen, dass man Widerstand gegen den Kapitalismus leisten konnte, indem man mit einem großen Hebel einen großen Felsbrocken – die Arbeiterklasse – bewegte. Heute können wir wirksameren Widerstand leisten, indem wir viele kleine Steine zu rollen beginnen und eine Lawine auslösen.
Paul Mason ist Journalist und Autor. Der vorliegende Text ist ein Vorabdruck aus seinem neuen Buch, das am 13. Mai erscheint: „Klare, lichte Zukunft. Eine radikale Verteidigung des Humanismus. Aus dem Englischen von Stephan Gebauer“, Berlin (Suhrkamp) 2019. Wir danken dem Verlag für die Abdruckrechte.