Cybertech vs. Menschlichkeit?
Er gilt als das personifizierte Gewissen des Silicon Valley: Tristan Harris leistet Aufklärungsarbeit für einen bewussteren Umgang mit Social Media und KI. Ein digitaler Besuch.
Tristan Harris ist Digitalisierungs-Aktivist und Mitbegründer der Nonprofit-Organisation „Center for Humane Technology“.
Tristan Harris ist Digitalisierungs-Aktivist und Mitbegründer der Nonprofit-Organisation „Center for Humane Technology“.
Als Tristan Harris, vormals Design-Ethiker bei einem der weltgrößten Internetkonzerne, inzwischen Digitalisierungs-Aktivist und Mitbegründer der Nonprofit-Organisation „Center for Humane Technology“, sich per Smartphone in den Video-Call schaltet, wirkt er ausgesprochen entspannt, beinahe gelöst. „Könnten bloß alle mit mir diese fantastische Aussicht genießen! Die Berge von Arizona, der Himmel, die Wolken – hier atme ich gerade richtig durch.“ Digitalisierung kann etwas Großartiges sein. Sie macht flexibler, schafft neue Räume zur Lebens- und Arbeitsgestaltung. Aber – und um dieses große “Aber” geht es Tristan Harris – wenn wir nicht aufpassen
Die Zukunft ist schon da
Science-Fiction-Szenarien spielen seit Jahrzehnten mit der Angst, dass KI, künstliche Intelligenz, in ferner Zukunft unsere Gesellschaft steuern könnte. „Wir haben außerdem immer gelernt, dass eine gegnerische Kraft unsere Stärken überwältigen muss, um uns zu kontrollieren“, erklärt uns Harris. „Wenn ich mein Gegenüber in eine bestimmte Richtung drängen will, muss meine Kraft die seine übertreffen.“ Doch schon während er als Kind aus Spaß Zaubertricks vorführte – spätestens aber, seit er im Persuasive Technology Lab der Universität Stanford studierte –, verstand Harris, dass es viel weniger Mühe bedarf, um Kontrolle auszuüben. „Wie bringt man eine Illusion dazu, zu funktionieren? Man muss nur eine einzige Sache über die Psyche von Menschen wissen, die sie selbst nicht wissen. Schon kann man ihr Verhalten manipulieren. Man muss nicht Stärken überwältigen. Sondern Schwächen.“
Und genau so funktionieren laut Harris die meisten Social-Media-Oberflächen, Mail-Programme und Apps, die heute fester Bestandteil des Alltags von Milliarden Menschen sind. „Wir alle laufen nicht einfach mit Smartphones in der Tasche herum, sondern mit Automaten, die eine ähnliche Wirkung auf unser neurologisches Belohnungssystem haben wie einarmige Banditen im Spielkasino.“
Als Kind lernte Harris Zaubertricks, performte als Magier auf Geburtstagen – und erkannte schon damals, wie leicht der menschliche Geist zu steuern ist.
Als Kind lernte Harris Zaubertricks, performte als Magier auf Geburtstagen – und erkannte schon damals, wie leicht der menschliche Geist zu steuern ist.
Der Informations-Gap wächst
Wenn wir, die User, keine Ahnung haben, dass unser Gehirn verlässlich mit der Ausschüttung von Glückshormonen auf variable Belohnungen reagiert, sind wir im Vergleich zum geballten Wissen der Cybertech-Industrie natürlich hoffnungslos im Hintertreffen. „Variable Belohnungen“, führt Harris aus, „das bedeutet: Ich ziehe einen Hebel und erhalte manchmal eine saftige Belohnung – oh, aufregend! –, manchmal aber eben auch nicht.“ Nur ein Beispiel dafür, wie sich unsere ursprünglichsten Hirnfunktionen gegen uns verwenden lassen. Wir checken alle paar Minuten unseren virtuellen Posteingang, wischen hinauf oder herunter, um Aktualisierungen abzurufen – immer in der Hoffnung auf eine „Belohnung“. Kann man hier noch von einem bewussten Umgang mit Kommunikationstechnologie sprechen? Davon, dass wir selbst entscheiden, wie wir unsere Zeit verbringen? Nein, sagen Tristan Harris und viele andere Wissenschaftler_innen.„Videostream-Anbieter, Networking-Apps, News-Portale – sie alle befinden sich in einem gemeinsamen Wettkampf“, beschreibt Harris das Kernproblem, „um unsere Aufmerksamkeit.“ Technologie entwickele sich ja nicht willkürlich weiter, sondern reagiere auf Neuerungen der Konkurrenz mit eigenen Neuerungen. Eine der unangenehmen Nebenwirkungen dieser Spirale: die rasante Ausbreitung von Fake News. „Wut ist ein besserer Screentime-Generator als Zufriedenheit“, sagt Harris. Wühlt uns etwas auf, teilen wir es mit mehr Freunden, informieren uns auf mehr Kanälen, konsumieren gebannt immer weiter. Das realisiert der entsprechende Algorithmus. Und füttert uns mit mehr aufwühlendem Content. Das müssen nicht immer Fake News sein, aber eins ist sicher: Nicht der Wahrheitsgehalt entscheidet darüber, was auf unseren Pinnwänden und Timelines erscheint. „So ein persönlicher Newsfeed wird schließlich nicht von Menschen gesteuert, sondern von Algorithmen“, so Harris. „Und die achten nicht darauf, was richtig oder gesund für uns ist. Sondern darauf, was unsere Aufmerksamkeit länger in Beschlag nimmt.“
Was jetzt zu tun ist
Ein kompliziertes Dilemma – gibt es Lösungsansätze? Harris sagt: Ja. „Erstens müssen wir alle ein besseres Verständnis dafür entwickeln, wie angreifbar unser Geist ist, damit wir uns ungesunden Impulshandlungen wirkungsvoller widersetzen können.“ Damit fordert der Design-Ethiker ein digitales Zeitalter der Aufklärung. „Zweitens brauchen wir neue Modelle von Verantwortlichkeiten“, so Harris weiter. „Die Entscheidenden in den Kontrollräumen der großen Tech-Unternehmen müssen sich ihrer Verantwortung bewusst sein. Und sie müssen zur Rechenschaft gezogen werden können.“ Drittens plädiert Harris – und das mit wachsendem Erfolg auch vor den CEOs im Valley – für eine „echte Design-Renaissance“. Verbraucher_innenschutz soll im Vordergrund stehen. Aber auch die Befähigung der bzw. das Angebot an die User, ihre Zeit sinnvoller zu nutzen. Gemeinsame Ziele müssen formuliert werden. Was erhoffen User sich wirklich im täglichen Umgang mit Social Media? Endlosspiralen von Videos und sich hochschaukelnden Forendiskussionen? Oder vielmehr aktive Hilfe bei der Gestaltung wertvoller Zeit abseits des Bildschirms?
„Es ist ein Wettrennen in die Tiefen unseres Hirnstamms“: Als Keynote-Speaker auf dem digital abgehaltenen Audi MQ! Innovation Summit 2020 verblüffte Harris die Zuhörer.
„Es ist ein Wettrennen in die Tiefen unseres Hirnstamms“: Als Keynote-Speaker auf dem digital abgehaltenen Audi MQ! Innovation Summit 2020 verblüffte Harris die Zuhörer.
