Wir sprechen heute über moralische Beeinflussung.
Was ist moralisch und unmoralisch
bei dem Versuch, das Verhalten von Menschen
durch den Gebrauch von Technologie und Design zu verändern?
Und ich weiß nicht, was Sie erwarten,
aber als ich über dieses Thema nachgedacht habe,
habe ich schon sehr früh gemerkt,
dass ich Ihnen keine Antworten darauf geben kann.
Ich kann Ihnen nicht sagen, was moralisch oder unmoralisch ist,
weil wir in einer pluralistischen Gesellschaft leben.
Meine Werte können grundlegend verschieden sein
von Ihren Werten.
Das, was ich aufgrunddessen für moralisch oder unmoralisch halte,
muss also nicht unbedingt das sein, was Sie als solches erachten.
Aber ich habe auch gemerkt, dass es eine Sache gibt, die ich Ihnen geben könnte.
Und das ist das, was dieser Mann hinter mir der Welt gegeben hat –
Sokrates.
Das sind Fragen.
Was ich tun kann und was ich gerne mit Ihnen tun möchte,
ist, Ihnen, wie jene ursprüngliche Frage,
eine Reihe von Fragen zu geben,
damit Sie für sich selbst herausfinden können,
Schicht für Schicht,
wie beim Schälen einer Zwiebel,
damit Sie zum Kern dessen gelangen können,
was Sie für moralische oder unmoralische Beeinflussung halten.
Und das würde ich gerne mit ein paar Beispielen
von Technologien tun, bei denen Spielelemente genutzt werden
um Menschen dazu zu bringen, etwas zu tun.
Zuerst also eine sehr einfache, sehr offensichtliche Frage,
die ich Ihnen gerne geben möchte:
Was sind Ihre Absichten, wenn Sie etwas entwerfen?
Und natürlich sind die Absichten nicht das Einzige,
deshalb ist hier ein weiteres Beispiel für eine dieser Anwendungen.
Es gibt gerade einige solcher Öko-Amaturenbretter –
also Amaturenbretter eingebaut in Autos,
die den Fahrer dazu motivieren sollen, spritsparender zu fahren.
Das hier ist Nissans MyLeaf,
bei dem Ihr Fahrverhalten verglichen wird
mit dem Fahrverhalten anderer Menschen,
so dass Sie miteinander konkurrieren können,
wer am spritsparendsten fährt.
Und diese Dinge sind sehr effektiv, wie sich gezeigt hat,
so effektiv, dass sie die Menschen dazu motivieren,
unsicheres Fahrverhalten an den Tag zu legen –
wie zum Beispiel an einer roten Ampel nicht zu halten.
Denn ansonsten müssten Sie anhalten und den Motor neu starten,
und das würde ja einiges an Sprit verbrauchen, oder?
Obwohl dies also eine sehr gutgemeinte Anwendung ist,
gab es dabei offensichtlich einen Nebeneffekt.
Hier ist ein weiteres Beispiel für einen dieser Nebeneffekte.
"Commendable":
Eine Seite, die es Eltern ermöglicht, Ihren Kindern kleine Abzeichen zu geben,
wenn sie die Dinge tun, die Eltern von ihren Kindern wollen –
wie etwa ihre Schuhe zuzubinden.
Und zuerst hört sich das sehr nett an,
sehr harmlos, gutgemeint.
Die Forschung über die menschliche Denkweise zeigt,
dass die Sorge um Ergebnisse,
die Sorge um öffentliche Anerkennung,
die Sorge um diese öffentlichen Anzeichen von Bestätigung,
nicht zwangsläufig sehr hilfreich ist
für unser langfristiges psychologisches Wohlbefinden.
Es ist besser, wenn Sie sich darum bemühen, etwas zu lernen.
Es ist besser, wenn Sie sich um sich selbst sorgen,
anstatt darüber, wie Sie vor anderen Menschen dastehen.
Also hat dieses Motivationswerkzeug, das benutzt wird,
an sich tatsächlich
einen langfristigen Nebeneffekt,
indem jedes Mal, wenn wir eine Technologie benutzen,
die so etwas wie öffentliche Anerkennung oder Status benutzt,
wir es tatsächlich geradezu gutheißen,
dass es gut und normal ist, sich um so etwas zu bemühen –
und das möglicherweise schädliche Auswirkungen
auf die langfristige psychologische Gesundheit für uns als Kultur hat.
Also ist dies eine zweite, sehr offensichliche Frage:
Was sind die Auswirkungen dessen, was Sie tun?
Die Auswirkungen, die Sie aufgrund der Erfindung haben,
wie etwa weniger Kraftstoff,
als auch die Auswirkungen der eigentlichen Werkzeuge, die Sie benutzen,
um Menschen dazu zu bringen, etwas zu tun –
öffentliche Anerkennung.
Ist das nun alles – Absicht, Auswirkung?
Nun, es gibt einige Technologien,
die offensichtlich beides kombinieren.
Sowohl gute kurz- als auch langfristige Auswirkungen
und eine positive Absicht, wie Fred Stutzmans "Freedom",
wo der ganze Sinn der Anwendung darin besteht,
dass, nun ja, wir werden normalerweise so bombardiert
mit Anrufen und Anfragen anderer Menschen,
mit dieser Einrichtung können Sie die Internetverbindung
eines PCs Ihrer Wahl für eine voreingestellte Zeit sperren,
um tatsächlich etwas Arbeit erledigt zu bekommen.
Und ich denke, die meisten von uns sind sich einig,
nun, dass dies gutgemeint ist
und auch gute Auswirkungen hat.
Mit den Worten Michel Foucaults:
"Es ist eine Technologie des Selbst".
Es ist eine Technologie, die den Einzelnen dazu befähigt,
seinen eigenen Lebensverlauf zu bestimmen,
ihn selbst zu formen.
Aber das Problem ist,
wie Foucault klar gemacht hat,
dass jede Technologie des Selbst
eine Technologie der Herrschaft als Kehrseite hat.
Wie Sie in heutigen modernen liberalen Demokratien sehen,
erlaubt die Gesellschaft, der Staat
uns nicht nur unser Selbst zu bestimmen, unser Selbst zu formen,
sondern er verlangt es auch von uns.
Er verlangt, dass wir uns selbst optimieren,
dass wir uns kontrollieren,
dass wir uns ständig selbst in der Hand haben,
weil das der einzige Weg ist,
wie so eine liberale Gesellschaft funktioniert.
Diese Technologien wollen, dass wir uns weiter an dem Spiel beteiligen,
das die Gesellschaft für uns entwickelt hat.
Sie wollen, dass wir noch besser hineinpassen.
Sie wollen, dass wir uns selbst optimieren, um hineinzupassen.
Das ist nicht unbedingt etwas Schlechtes.
Ich denke nur, dass dieses Beispiel
uns auf eine allgemeine Erkenntnis hinweist:
Egal, welche Technologie oder welches Design Sie sich ansehen,
sogar solche, die wir als gutgemeint und gut in ihren Auswirkungen ansehen –
wie Stutzmans Freedom –
sie gehen mit gewissen eingebetteten Werten einher.
Und wir können diese Werte in Frage stellen.
Wir können fragen: Ist es eine gute Sache,
dass wir alle uns ständig selbst optimieren,
um besser in diese Gesellschaft zu passen?
Oder, um Ihnen ein anderes Beispiel zu geben,
was ist mit einer überzeugenden Technologie,
die muslimische Frauen überzeugt, ihre Kopftücher zu tragen?
Ist das eine gute oder schlechte Technologie
in ihrer Intention oder ihren Auswirkungen?
Nun, das hängt grundsätzlich
von der Art der Werte ab, die Sie zur Anwendung bringen
um diese Art von Urteil zu fällen.
So ist dies eine dritte Frage:
Welche Werte nutzen Sie um zu urteilen?
Und wo wir gerade von Werten sprechen,
ist mir aufgefallen, dass es bei Online-Diskussionen über moralische Beeinflussung
und wenn ich mit Menschen spreche
meistens eine merkwürdige Tendenz gibt.
Und diese Tendenz ist, dass wir fragen:
Ist dies oder das "noch" ethisch?
Ist es "noch" zulässig?
Wir fragen Dinge wie:
Ist dieses Spendenformular von Oxfam –
bei dem eine regelmäßige monatliche Spende der voreingestellte Standard ist
und Menschen, vielleicht ohne es zu beabsichtigen,
auf diese Weise ermutigt oder dazu gedrängt werden,
eine regelmäßige anstatt einer einmaligen Spende zu geben –
ist das noch zulässig?
Ist das noch ethisch?
Wir bewegen uns am unteren Ende.
Aber tatsächlich ist die Frage
"Ist es noch ethisch?"
nur eine Art Ethik zu betrachten.
Denn wenn Sie sich die Anfänge der Ethik
in der westlichen Kultur ansehen,
dann sehen Sie eine völlig andere Idee davon,
was Ethik auch sein könnte.
Für Aristoteles ging es bei der Ethik nicht um die Frage,
ist das noch gut, oder ist es schlecht?
Bei der Ethik ging es um die Frage, wie man das Leben gut leben kann.
Und dies hat er in das Wort "arete" gelegt,
welches wir, aus dem Lateinischen, als "Tugend" übersetzen.
Aber tatsächlich bedeutet es Vortrefflichkeit.
Es bedeutet, dass wir unser volles Potential
als menschliches Wesen erfüllen.
Und das ist eine Idee,
die, wie ich finde, Paul Richard Buchanan sehr nett in einem aktuellen Essay ausgedrückt hat,
in dem er sagt: "Produkte sind lebendige Argumente dafür,
wie wir unser Leben leben sollten."
Unsere Entwicklungen sind nicht ethisch oder unethisch
in dem Sinne, dass sie ethische oder unethische Mittel benutzen, um uns zu überzeugen.
Sie haben eine moralische Komponente
gerade in der Art der Vision und dem Anspruch an das gute Leben,
die sie uns präsentieren.
Und wenn Sie sich die gestaltete Umgebung um uns herum ansehen,
mit dieser Art von Linse,
fragend: "Was ist die Vision des guten Lebens
die unsere Produkte, unser Design, uns präsentieren?"
dann werden Sie oft Gänsehaut bekommen,
aufgrunddessen wie wenig wir von einander erwarten,
wie wenig wir tatsächlich zu erwarten scheinen
von unserem Leben und davon, wie ein gutes Leben aussieht.
Dies ist nun also die vierte Frage, die ich Ihnen überlassen möchte:
Welche Vision des guten Lebens
vermittelt Ihr Design?
Und wo wir gerade von Design sprechen:
Ihnen fällt auf, dass ich die Diskussion bereits erweitert habe.
Weil wir hier nicht mehr nur über beeinflussende Technologie sprechen,
sondern über jedes Stück Design, das wir in diese Welt bringen.
Ich weiß nicht, ob Sie
den großen Kommunikationsforscher Paul Watzlawick kennen,
der damals in den 60ern die Meinung vertreten hat,
dass wir nicht nicht kommunizieren können.
Selbst wenn wir wählen zu schweigen,
haben wir gewählt zu schweigen. Wir kommunizieren etwas indem wir wählen zu schweigen.
Und auf die gleiche Art, wie wir nicht nicht kommunizieren können,
können wir nicht nicht beeinflussen.
Was immer wir tun oder unterlassen,
was immer wir als ein Stück Design
in die Welt bringen,
hat eine beeinflussende Komponente.
Es versucht, die Menschen zu beeinflussen.
Es setzt uns eine Vision des guten Lebens
direkt vor die Nase.
Dies ist es, was Peter-Paul Verbeek,
der niederländische Technikphilosoph, sagt.
Egal ob wir es als Designer beabsichtigen oder nicht,
wir materialisieren Moral.
Wir machen gewisse Dinge schwerer und leichter ausführbar.
Wir organisieren die Existenz von Menschen.
Wir setzten den Menschen eine Vision davon, was gut oder schlecht
oder normal oder gewöhnlich ist, vor die Nase
mit allem, was wir in die Welt bringen.
Selbst etwas so Harmloses wie eine Gruppe von Schulstühlen
ist eine beeinflussende Technologie.
Weil es eine gewisse Vision
vom guten Leben präsentiert und materialisiert –
das gute Leben, in dem es beim Lehren und Lernen und Zuhören
darum geht, dass eine Person lehrt und die anderen zuhören,
in dem es darum geht, dass Lernen im Sitzen stattfindet,
in dem du allein für dich lernst,
in dem du diese Regeln nicht ändern sollst,
weil die Stühle auf dem Boden fixiert sind.
Und sogar etwas so Harmloses wie ein einziger Designerstuhl –
wie dieser hier von Arne Jacobsen –
ist eine beeinflussende Technologie.
Weil er, noch einmal, eine Idee vom guten Leben kommuniziert.
Ein gutes Leben –
ein Leben, von dem Sie sagen, dass Sie ihm als Designer zustimmen,
indem Sie sagen: "Im guten Leben
werden Waren so nachhaltig oder nicht nachhaltig produziert wie dieser Stuhl.
Arbeiter werden so gut oder schlecht behandelt,
wie die Arbeiter behandelt wurden, die diesen Stuhl gebaut haben."
Das gute Leben ist ein Leben, in dem Design wichtig ist,
denn jemand hat sich offensichtlich die Zeit genommen und das Geld ausgegeben
für diese Art von formschönen Stuhl,
in dem Tradition wichtig ist,
weil dies ein traditioneller Klassiker ist
und jemandem war dies wichtig,
und in dem es etwas wie auffallenden Konsum gibt,
wo es okay und normal ist,
einen gewaltigen Geldbetrag für so einen Stuhl auszugeben,
um anderen Menschen den sozialen Status zu signalisieren.
Dies sind also die Schichten, die Arten von Fragen,
durch die ich Sie heute leiten wollte –
die Frage: Was sind die Absichten,
die zur Anwendung kommen, wenn Sie etwas entwerfen?
Was sind Ihre Auswirkungen, beabsichtigte und unbeabsichtigte?
Welches sind die Werte, anhand derer
Sie diese bewerten?
Was sind die Tugenden, die Bestrebungen,
die Sie tatsächlich damit ausdrücken?
Und wie lässt sich das anwenden
nicht nur auf beeinflussende Technologie,
sondern auf alles, was Sie entwerfen?
Hören wir hier auf?
Ich denke nicht.
Ich denke, dass all diese Dinge letztendlich geprägt sind
von dem Kern von alledem –
und dies ist nichts anderes als das Leben selbst.
Warum also, wenn die Frage danach, was das gute Leben ist,
alles prägt, was wir entwerfen,
sollten wir beim Design Halt machen und uns nicht fragen,
wie wirkt sich das auf Ihr eigenes Leben aus?
"Warum sollte die Lampe oder das Haus ein Kunstobjekt sein,
aber nicht unser Leben?",
wie Michel Foucault es ausdrückt.
Ich gebe Ihnen noch ein praktisches Beispiel von Buster Benson.
Dies ist Buster, wie er eine Klimmzug-Maschine
im Büro seines Neuunternehmens Habit Labs aufbaut,
in dem sie versuchen, andere Anwendungen
wie das Spiel Health Month für Menschen zu entwickeln.
Und warum baut er so etwas?
Nun, hier ist eine Reihe von Axiomen,
die Habit Labs, Busters Neugründung, für sich selbst festgelegt hat
darüber, wie sie als Team zusammenarbeiten wollen,
wenn sie diese Anwendungen bauen –
eine Reihe von moralischen Prinzipien, die sie selbst
für die Zusammenarbeit festgelegt haben –
und eines davon lautet:
"Wir kümmern uns um unsere eigene Gesundheit und bewältigen unser eigenes Burnout."
Denn wie können Sie sich schließlich fragen
und wie können Sie eine Antwort darauf finden,
welche Vision des guten Lebens
Sie mit Ihrem Design vermitteln und erschaffen möchten,
ohne sich die Frage zu stellen,
welche Vision des guten Lebens
Sie selbst leben möchten?
Und damit danke ich Ihnen.
(Applaus)