Chinas Sozialkreditsystem: Das gefährlichste Bonitätssystem der Welt

RC3 Vorspannmusik

Herald: Ein System, welches sich,
zumindest überwachungstechnisch, George

Orwell nicht hätte besser ausdenken
können: Das Chinese Social Credit Score.

Katrin Schwahlen spricht mit sehr, sehr
interessanten Personen heute darüber.

Katrin, wir sind gespannt.
Kathrin: Ja, herzlich willkommen

zu unserem Talk über
das chinesische Sozialkreditsystem.

Also grob gesagt ein
staatliches System, das mithilfe von

Algorithmen das Verhalten seiner
Bürgerinnen und Bürger überwacht und

steuern will. China ist zwar weit weg,
spielt aber doch eine ziemlich große Rolle

in und für die Welt. Und da stellt sich
natürlich die Frage, wie lange das dauert,

bis es sowas auch in Europa gibt. Oder
gibt es das vielleicht sogar schon?

Darüber will ich mich mit unseren Gästen
unterhalten und möchte euch als erstes

Kolja Quakernack vorstellen. Er ist
Sinologe, Kalligraf und hat vier Jahre in

Shanghai gelebt, der größten
Industriestadt Chinas. Und er beschäftigt

sich seit vielen Jahren mit dem
chinesischen Sozialkreditsystem. Er hat

darüber seine Masterarbeit geschrieben und
auch eine Broschüre für die kurz&mündig

Reihe von Digitalcourage. Und er wird uns
gleich das chinesische Bonitätssystem

vorstellen. Hallo Kolja, vielen Dank, dass
du dir die Zeit nimmst für diesen Talk.

Kolja Quakernack: Hallo, ich freue mich
auf die Gäste.

Katrin: Unser zweiter Gast ist Dr. Thilo
Weichert. Vielen von euch ist er bekannt

als Juror und Laudator der Big Brother
Awards. In diesem Jahr zum Beispiel für

Doctolib in der Kategorie Gesundheit.
Thilo engagiert sich seit dem

Volkszählungsboykott Mitte der 80er Jahre
für Datenschutz. Er war 11 Jahre

Landesbeauftragter für Datenschutz in
Schleswig-Holstein und ist heute unter

anderem Vorstandsmitglied in der Deutschen
Vereinigung für Datenschutz. Herzlich

willkommen, Thilo!
Thilo Weichert: Ich grüße euch. Moin!

Katrin: Und unseren dritten Gast kennt ihr
alle. Er ist Künstler und Netzaktivist,

Mitbegründer und Vorsitzender von
Digitalcourage, hat die Internet

Enquetekommission des Bundestags beraten
und gerade mit anderen Aktivistinnen und

Aktivisten Handlungsempfehlungen für
Digitalpolitik formuliert und der

Ampelkoalition übergeben. Schön, dass du
da bist, padeluun. So, Kolja, was ist

genau das chinesische Sozialkreditsystem?
Und wie bist du auf dieses Thema

aufmerksam geworden?
Kolja: Ja, ich glaube wir machen es

umgekehrt. Ich beantworte dir erst die
eine Frage und dann hole ich ein bisschen

aus, um das Sozialkreditsystem
vorzustellen. Ich habe tatsächlich davon

gelesen, während ich in Shanghai war und
bin dann wirklich daran kleben geblieben,

weil ich dachte, so ein gigantisches
Konstrukt was da geplant ist, was wirklich

in alle Lebensbereiche irgendwie
vordringen wird, da will ich mehr drüber

wissen und habe mich dann mehr und mehr
sozusagen in die Abgründe vertieft. Und

jetzt sitze ich hier und darf mich mit
euch unterhalten. Aber damit wir alle so

ein bisschen auf den gleichen Stand
kommen, wenn ich wirklich alles sozusagen

erzählen würde, was es zu wissen gibt, was
eine ganze Menge gibt, was natürlich eine

ganze Menge ist, dann würde das den Rahmen
hier sprengen. Deswegen versuche ich kurz

ein kleines bisschen, kurz und knackig zu
erzählen, was das Sozialkreditsystem

eigentlich ist. Ich habe keine Slides o.ä.
vorbereitet. Das würde uns viel

zu viel Zeit bei unserem Talk nehmen,
sondern ich habe hier ganz klassisch

traditionell ein paar Stichpunkte vor mir
liegen. Wenn ich also nach unten gucke,

dann weil ich versuche, nichts zu
vergessen. Aber ja, ganz kurz vielleicht.

Die derzeitige Situation in China, die das
Sozialkreditsystem dann hervorgebracht

hat, ist folgende: Und zwar gibt es eine
verhältnismäßig hohe Kriminalitätsrate,

zum Beispiel Korruption, Betrügereien
etc., ohne dass zum Teil verlässliche

Strafen umgesetzt werden können. Dem soll
natürlich entgegen gearbeitet werden. Dann

sollen die Nutzerinnen des Internets, die
Nutzerinnen und Nutzer, nicht so

ungezügelt sein und natürlich die
Stabilität in der Gesellschaft und auch in

der Politik gefestigt werden. Und die
Lösung, die jetzt Staatspräsident Xi

Jinping hat, ist eben das
Sozialkreditsystem. Das Sozialkreditsystem

soll jedem Individuum eine gewisse
Vertrauens- und Kreditwürdigkeit

bescheinigen, sodass Bürgerinnen und
Bürger sich ein Bild von

Geschäftspartnern, aber auch von
Nachbarinnen und Nachbarn und von

Menschen, mit denen sie verkehren, machen
können. Und man muss jetzt dazu sagen, es

gibt nicht nur ein einziges
Sozialkreditsystem, sondern es gibt in

Dutzenden Städten mehrere Konzepte, die
sozusagen ausprobiert werden. Und 2014

wurde das Ganze erstmals implementiert für
eine Testphase bis 2020. Das heißt, wir

haben jetzt gerade die Situation, dass
ganz viele Daten analysiert werden, wie

die Leute das System angenommen haben, wie
das angekommen ist. Und ja, wir sind jetzt

gespannt, was aus all diesen Daten gemacht
wird. Wie in Zukunft dann die Version 2.0

sozusagen aussehen soll. Die dann wiederum
verbindlich im ganzen Land implementiert

werden soll. Das Konzept des Sozial-
kreditsystems ist relativ einfach. Und

zwar: Um die Vertrauenswürdigkeit einer
Person einschätzen zu können, werden Daten

dieser Person gesammelt, und zwar alle
möglichen Arten von Daten. Alle möglichen

Daten, die man bekommen kann. Offline-
Verhalten, Online-Verhalten, also Online-

Verhalten, sprich das Kaufverhalten auf
zum Beispiel Taobao, also dem chinesischen

Äquivalent von Ebay. Chatverläufe werden
mitgelesen, GPS-Daten vom Smartphone

werden ausgelesen, Accounts,
Mitgliedschaften, Apps, die genutzt

werden, alles was eben zur Verfügung
steht. Nebenbei sei noch gesagt: Es gibt

umfangreiche Datenschutzgesetze in China,
aber die Umsetzung, daran hapert es dann

doch, sodass das in dem Sinne kein Thema
ist. Offline-Verhalten, Ämter, Behörden,

alle teilen ihre Daten in einer ziemlich
großen Cloud, wo alles gesammelt wird zu

jeder Person. Und hinzu kommen neueste
Erfindungen wie Videoüberwachung,

Spracherkennung, Gesichtserkennung, sogar
Gangerkennungssoftware. Alles um eben das

aufgenommene Verhalten, was man wahrnimmt
sozusagen, auch wirklich einer konkreten

Person zuordnen zu können. Da geht es dann
um Mülltrennung, um

Straßenverkehrsdelikte, all diese Dinge.
Man will ja möglichst genau festlegen

können, zu welcher Person eben diese
Handlung gehört. Alle Daten werden in

Echtzeit registriert und von einem
Algorithmus, über den im Grunde genommen

nichts offiziell bekannt ist, analysiert
und bewertet. Jetzt gibt es ein Verhalten,

das wünschenswert ist und es gibt
Verhalten, das nicht wünschenswert ist.

Für wünschenswertes Verhalten, zum
Beispiel, wenn man sich um seine Eltern

kümmert, die krank sind oder einfach
pietätvoll besucht, wenn man

ehrenamtliches Engagement zeigt, und
Ähnliches. Dann gibt es Pluspunkte. Wenn

man aber unerwünschtes Verhalten an den
Tag legt, zum Beispiel Gesetze bricht oder

ähnliches, dann gibt es Minuspunkte. All
das wird auf einem digitalen Konto

festgelegt. Und ist sogar offiziell
einsehbar für jede und jeden. Wenn man

jetzt einen besonders hohen Kontostand
hat, dann werden verschiedene Privilegien

freigeschaltet. Zum Beispiel bekommt man
einen kostenlosen Bibliotheksausweis. Man

ist befreit von verschiedenen
Kautionszahlungen, und ähnlichem. Wenn man

einen niedrigen Punktestand hat, dann
werden ziemlich massive Sanktionen

wirksam. Das geht dann los mit man bekommt
keine 1.-Klasse Tickets mehr für den Zug,

sondern muss dann die harten Holzbänke
nehmen und es geht dann immer so weiter

und wird schlimmer, dass man irgendwann
die Reisefreiheit ganz eingeschränkt

bekommt. Man bekommt keine Auslandsvisa
mehr ausgestellt, man kann keine

Flugtickets mehr kaufen. Das geht sogar so
weit, dass die eigenen Kinder irgendwann

keine guten Schulen mehr besuchen können.
Berufliche Entwicklungen werden verwehrt

und so weiter. Das heißt, was damit im
Grunde genommen auch bezweckt werden soll,

ist die Umerziehung des Volkes, oder der
Bürgerinnen und Bürger, zu gutem Verhalten

hin. So, da möchte ich jetzt gleich schon
ein paar Kritikpunkte mit einbringen. Und

zwar lässt sich das teilen in technische
Mängel bei dem System. Allerdings können

wir die gleich auslassen. 1. kenne
ich mich dafür technisch nicht gut genug

aus und 2. würde das dann wirklich
den Rahmen sprengen. Aber es gibt soziale

und ethische Probleme, die glaube ich
hochinteressant sind für uns auch heute,

und natürlich Herausforderungen für das
Management selbst. Die sozialen und

ethischen Probleme sind zum Beispiel
folgende: Ich habe gerade gesagt, es soll

gutes Verhalten anerzogen werden. Wer
entscheidet denn, was gutes Verhalten ist?

Und da liegt schon der Casus Knacktus. Die
Sozialkreditsysteme, im Moment sind es ja

noch mehrere, sind zwar offiziell in
privater Hand von den großen Tech-Firmen

wie Tencent, Alibaba und wie sie alle so
heißen, aber eben nur offiziell.

Inoffiziell behält sich die Kommunistische
Partei Chinas vor, ohne Angabe von

Gründen, Dinge in diesem System verändern
zu können und sogar retrospektiv verändern

zu können. Das heißt, unerwünschtes
Verhalten kann zum Beispiel angepasst

werden. Retrospektiv heißt in diesem
Kontext, wenn die Kommunistische Partei

heute etwas, ja, als unerwünscht festlegt,
was gestern noch in Ordnung war, dann wird

man auch heute noch für das Verhalten von
gestern bestraft. Wenn ich also heute mit

meinen Freunden auf dem Weihnachtsmarkt
Glühwein trinke und morgen wird es

bestraft, weil das Verzehr von Alkohol
ist. Dann werde ich auch morgen bestraft

dafür, obwohl es heute noch völlig in
Ordnung ist. Ja, und das Ganze schürt

natürlich oder erleichtert auch die
Verfolgung von Minderheiten. Dabei ist

egal, ob es um Homosexuelle geht oder um
ethnische Minderheiten, Uiguren, was ja

auch viel in den Medien im Moment
diskutiert wird. Ja, und das sind

natürlich Dinge, die uns entsprechend
beschäftigen werden. Dann wird der

Algorithmus vorgeschoben. Die
Kommunistische Partei und überhaupt alle

Betreiber des Systems waschen die eigenen
Hände in Unschuld und sagen, ihr seid doch

für euer eigenes Handeln selbst
verantwortlich. Handelt so, wie wir euch

das vorgeben und dann habt ihr auch nichts
zu befürchten. Auch das ist garantiert ein

Punkt, über den man streiten kann, weil
natürlich das System menschengemacht ist

und entsprechende Mechanismen vom Menschen
justiert und nachjustiert werden. Ja, und

ein weiterer Punkt, der auch unbedingt
genannt werden sollte: Solidarität,

Nächstenliebe, Zwischenmenschlichkeit, all
diese Punkte gehen natürlich mehr und mehr

verloren, weil die Leute nicht mehr
Handeln aus reiner Nächstenliebe, sondern

um Punkte zu gewinnen oder wenigstens um
keine Punkte zu verlieren. Also auch da,

die Moral, wie wir wissen, ist ein Muskel,
der entsprechend gepflegt werden will. Und

wenn andere einem das Denken abnehmen,
dann wird das ganze schwierig,

wenn das System irgendwann
vielleicht mal wieder

abgestellt wird und wir überhaupt
keinen inneren Kodex mehr haben,

wie wir eigentlich handeln wollen.
Herausforderungen an

das Management, und
dann bin ich auch gleich am Ende. Es geht

natürlich darum, internen Missbrauch zu
verhindern. Dass diejenigen, die das Ganze

einstellen, so einstellen, dass es, ja,
verträglich ist. Ist vielleicht ein sehr

starkes Wort. Ja, und natürlich externe
Angriffe, Hackerangriffe, Datenlecks etc.

Auch damit muss umgegangen werden. Und es
muss natürlich eine völlig neue

Gesetzesgrundlage geschaffen werden, dass
das Sozialkreditsystem

transparent wird. Das ist auch ein
großes Problem

derzeit. Dieser Algorithmus
ist in seiner Tiefe überhaupt nicht

durchschaubar. Es ist, den Leuten ist
nicht bekannt, warum sie den Punktestand

haben, den sie haben. Ja, in diesem Sinne
denke ich, wir haben einiges, über das wir

sprechen können. Es sei an dieser Stelle
noch ganz kurz ein Video empfohlen. Und

zwar wie gesagt, mir ist klar, dass wir
jetzt, dass ich hier ziemlich

durchgaloppiert bin. Aber es gibt ein
wunderbares Video von Antonia Hmaidi von

der Universität Duisburg, auch auf
YouTube. Die war vor 3 Jahren an dieser

Stelle hier und hat ein Video über das
Sozialkreditsystem erstellen lassen und

hat da eben noch mal sehr ausführlich
drüber gesprochen. Also herzliche

Empfehlung. Oder wer gerne liest, wie
gesagt, diese nette kleine Broschüre hier,

die ich geschrieben habe mit
redaktioneller Begleitung von Katrin

Schwahlen im Art d'Ameublement-Verlag,
möchte ich an dieser Stelle auch herzlich

empfehlen. So. Ja, vielen Dank erstmal
soweit.

Katrin: Dankeschön, Kolja. Aber das klingt
ja schon auch ziemlich gruselig. Du hast

zwar gesagt, es gibt Datenschutz in China.
Gibt es denn auch sowas wie eine

Bürger*innenbewegung?
Kolja: Nichts, was wirklich so mächtig

ist, dass es Dinge verändern kann. Weil
die, die Unzufriedenheit im Volk, die ist

da. Die ist auch lange da. Es gibt jeden
Tag hunderte Demonstrationen, die

natürlich unangekündigt sind, weil sie
sonst nicht gestattet werden, und

Ähnliches. Die meisten kriegen wir hier
gar nicht mit. Also die Unzufriedenheit

ist da, aber es wird natürlich alles
sofort, ja, zerschlagen, wenn man so will.

Katrin: Okay, Sozialkreditsystem, also
dieser Begriff hat mich am Anfang ein

bisschen verwirrt, weil sozial hört sich
erst mal gut an, Kredit , na ja, geht

irgendwie so. Ist das gleichbedeutend mit
Bonitätssystemen, wie wir sie hier in

Deutschland haben? Das wäre meine Frage an
dich, Thilo. Bonitätssysteme wie

beispielsweise die Schufa oder andere
Auskunftsdateien, wie unterscheiden die

sich vom chinesischen Sozialkreditsystem?
Kann man das so einfach auf den Punkt

bringen?
Thilo: Also es gibt eine ganze Menge von

Ähnlichkeiten, aber es gibt auch einige
Unterschiede und auf die kommt es dann

tatsächlich auch an. Aber vorneweg muss
ich erst mal auch eine Information geben.

Ich war 2017 in Shanghai auf Einladung von
der Friedrich-Ebert-Stiftung. Und dort

wurde ich eingeladen, um eben über die
Schufa und über andere

Kreditsbonitätssysteme zu referieren und
eben auch den Vergleich mit den

chinesischen Systemen zu machen. Da ging
es insbesondere auch um die Frage, wie

weit kann in China Akzeptanz geschaffen
werden für ein System, was in Deutschland

mehr oder weniger akzeptiert ist? Und
insofern habe ich auch so ein bisschen

jetzt auch Einblick nehmen können vor Ort.
Das was aber publiziert wird, das geht

weit über das hinaus, was ich tatsächlich
dann dort offengelegt bekommen habe. Ich

durfte mir zwar die Computer anschauen und
die Räumlichkeiten, in denen das Ganze

untergebracht ist. Aber wenn es dann
wirklich darum ging, wirklich harte Fakten

nachzufragen, da ist dann meistens
gemauert worden. Es gibt einen riesigen

Unterschied, und zwar den, der hat sich
auch bei diesen Vorträgen und Diskussionen

herausgeschält. Ich habe immer wieder das
Wort Bürgerrechte, Menschenrechte in den

Mund genommen und darauf gab es keinerlei
Resonanz. Wir haben Menschenrechte, wir

haben Bürgerrechte, die sind weltweit auch
garantiert. Und zu denen gehört auch das

Recht auf Privatsphäre oder jetzt in
modernerer Form eben das Grundrecht auf

Datenschutz in der Europäischen
Grundrechtecharta oder dann auch vom

Verfassungsgericht in der deutschen
Verfassung abgeleitet. Also das ist ganz

zentral. Ein weiterer Punkt ist, dass
diese Grundrechte eben auch einklagbar

sind. Das heißt also, man kann vor Gericht
eben auch einfordern, dass die eingehalten

werden. Und das ist zwar in China auch
teilweise möglich, Kolja hat schon darauf

hingewiesen, dass es Datenschutzgesetze
gibt. Die werden auch von Gerichten

überprüft. Die werden aber natürlich nicht
überprüft, wenn die Polizei diese Daten

nutzt und sie werden erst recht nicht
überprüft auf das, was im Bild das

Relevante ist, auf die Vorgaben, die durch
die Kommunistische Partei gemacht werden.

Also das heißt, was die Kommunistische
Partei an Vorgaben macht und welche Daten

abgefragt werden oder wie die Daten auf
Befehl der Kommunistischen Partei

ausgewertet werden, das ist ein absolutes
Tabu. Und dann haben wir natürlich die

Regelung, die dann auch aus unserer
Verfassung abgeleitet wird, die in

Grundrechtecharta drin steht. Wir haben
die Zweckbindung. Das heißt, Daten dürfen

grundsätzlich nur für den Zweck genutzt
werden, für den sie erhoben worden sind.

Und wenn sie für einen anderen Zweck
verwendet werden, dann bedarf es dafür

einer angemessenen gesetzlichen Grundlage,
die als Legitimation für diese Nutzung

eben dann auch verwendet wird. Und das ist
natürlich dann schon etwas, was eigentlich

dann den Austausch zwischen Polizeidaten,
Straßenverkehrsdaten, Bonitätsdaten,

Konsumdaten, und Familiendaten, und wer
weiß was, eigentlich verbietet. Aber, und

da ist dann wieder das Problem, wir haben
auch in Deutschland viele Regelungen, die

eben Netzwerkaufhebung auch erlauben. Und
da muss man sich dann eben genau angucken,

welche anderen Zwecke sind erlaubt. Das
Verfassungsgericht, der Europäische

Gerichtshof sind da relativ eng. Die
sagen, es muss nicht nur eine klare

gesetzliche Grundlage geben, sondern es
müssen auch verfahrensrechtliche

Vorkehrungen vorgesehen werden. Und was
Kolja auch schon beschrieben hat, was in

China fehlt: Transparenz. Das wird sowohl
vom EuGH als auch vom

Bundesverfassungsgericht immer wieder
eingefordert. Eben, dass die Betroffenen

sich einschätzen, oder dass sie
einschätzen können, was mit ihren Daten

passiert und welche Folgen aus ganz
bestimmten Daten folgen, sich ergeben

können. Also ich denke, da gibt es einen
Riesenunterschied. Was aber trotzdem

natürlich auch in Europa, in Deutschland
existiert: Wir haben künstliche

Intelligenz, wir haben Algorithmen und
diese Algorithmen sind bisher sehr

intransparent. Der Bundesgerichtshof hat
eine Entscheidung zum Scoring Verfahren

bei der Schufa getroffen, wo der Schufa
zugestanden wird, ihr Score Verfahren,

also ihr Algorithmus als Betriebs- und
Geschäftsgeheimnisse gegenüber den

Betroffenen geheim halten zu können. Das
hat zur Folge, dass selbst

Aufsichtsbehörden - ich war damals noch
Chef einer Aufsichtsbehörde und habe das

versucht irgendwo transparent zu machen,
dass es selbst uns untersagt war, eben in

diese Algorithmen reinzuschauen bzw. die
zu kontrollieren und die zu hinterfragen.

Ob sich das jetzt in Zukunft ändert, wird
sich zeigen. Die Europäische Kommission

hat einen Vorschlag für eine KI-Richtlinie
gemacht. Also eine Richtlinie zur

künstlichen Intelligenz, die natürlich bei
der, in diesem ganzen Scoring Verfahren

zum Einsatz kommt. Und dort ist
vorgesehen, dass Transparenz geschaffen

wird, dass also dann künstliche
Intelligenz Einsatz zum Beispiel in der

Werbung als weniger problematisch
angesehen wird, wie eben jetzt der Einsatz

von künstlicher Intelligenz bei der
Polizei oder bei Bonitätsbewertung. Auch

Bonitätsbewertung, also die Bewertung der
Zahlungsfähigkeit und

Zahlungsbereitschaft, ist also ein ganz
zentraler Punkt auch von diesem

Richtlinienvorschlag. Die werden also
relativ hoch eingestuft. Aber dann auch

alle Verfahren, wo künstliche Intelligenz
zum Einsatz kommt und wo es dann, ja,

existenzielle Folgen für die Betroffenen
haben könnte. Und das ist ja in China

umfassend so. Also das, was der
Algorithmus auswirft, das ist bestimmend

für unser Leben, oder für das Leben der
Chinesen. Das ist aber natürlich auch bei

dem Schufa Score, bei anderen Scoring
Verfahren der Fall. Und wenn ich einen

schlechten Schufa Score habe und der ist
nicht hinreichend transparent,

dann kann es bedeuten, dass ich
meinen Beruf nicht bekomme,

dass ich nen Telekommunikations-
vertrag nicht bekomme,

dass ich auf jeden Fall keinen
Kredit bekomme,

dass ich nicht online einkaufen
kann. Also es gibt eine Vielzahl von

Konsequenzen, die wir auch in Deutschland
haben. Also insofern ist es also

tatsächlich auch ein riesiges Problem. Und
wir haben natürlich auch in Europa und in

Deutschland die Begehrlichkeiten, die auch
in China existieren, die hier durch die

Gerichte gebremst werden, auch durch die
Datenschutzbehörden, nur teilweise

gebremst werden. Und diese
Begehrlichkeiten gehen weit über das

hinaus, was von den Gerichten akzeptiert
wird. Wir haben zum Beispiel ein

Bonitätsverfahren von einem polnischen
Firma - in Deutschland wurde es nicht

etabliert, weil eben der Widerstand so
groß ist - dass eben nicht nur Daten aus

dem Finanzgebaren von einem Menschen
analysiert, sondern zum Beispiel auch die

Internetaktivitäten auswertet und daraus
Rückschlüsse zieht auf die Bonität. Oder

dann auch die Schufa. Die schließt aus der
Wohngegend zurück auf die Bonität. Das

heißt, wenn ich also Nachbarn habe, die
schlecht beleumundet sind, die ihre

Kredite nicht zurückbezahlen, dann wird
unterstellt, dass ich als Nachbar

sozusagen eben auch meine Kredite nicht
zurückbezahle. Wenn keine sonstige

Information vorhanden ist. Das hat zum
Beispiel zur Folge gehabt, dass ich erst

mal, als ich in einer anderen Gegend
gewohnt habe, nega, einen absolut

schlechten Score gehabt habe bei der
Schufa. Das hat sich jetzt geändert,

nachdem ich in Kiel in die Innenstadt
gezogen bin. Also auch da zeigt sich, dass

das Problem immer noch existiert, dass wir
das Problem in der Transparenz haben, dass

wir eben auch in einer absolut, ja, im
wahrsten Sinne des Wortes auch im Neuland

uns befinden. Weil eben solche Firmen wie
die Schufa, wie Infoscore, wie

Creditreform und viele anderen, Universum,
also diese ganzen

Bonitätsbewertungsfirmen, sich die Daten
aus allen möglichen Quellen

zusammenzusuchen versuchen. Und die Schufa
zum Beispiel ist immer wieder berühmt und

berüchtigt dadurch geworden, dass sie eben
Daten aus definitiv illegitimen Quellen zu

schöpfen versucht hat. Und da gab es dann
aber öffentlich Widerstand. Den gibt es

eben nur ganz verhalten in China. Und
dieser Widerstand ist im Prinzip das

Wesentliche, um eben solche Auswüchse von
Algorithmennutzung und von solchen

Bonitätsverfahren zu verhindern.
Katrin: Danke Thilo, das war schon mal ein

ziemlich großer Einblick. Wobei es ja hier
in Deutschland nicht nur so ist, dass

bonitätsbezogene Daten abgefragt werden,
sondern wir haben ja auch noch viele

andere Formen von Überwachung aufgrund von
KI. Sei es die Vorratsdatenspeicherung,

sei es die Gesichtserkennung, also die
Kameras beispielsweise am Berliner Bahnhof

Südkreuz, Staatstrojaner,
Telekommunikationsüberwachung. Padeluun,

wie ist es deiner Einschätzung nach
möglich oder unmöglich, so chinesische

Bonitäts- oder Überwachungssysteme als
Ganzes oder in Einzelteilen in Deutschland

umzusetzen?
padeluun: Na ja, ich hoffe, dass das nicht

möglich ist - Gelächter - und das hoffe
ich, hoffen wir alle anderen auch. Aber

ich glaube, diese Hoffnung wird versucht,
immer wieder zu unterlaufen. Also es gibt

eine Menge Leute, auch in Deutschland, die
sich überhaupt kein Problem damit haben,

dass alle anderen drangsaliert werden.
Hauptsache ihnen geht es gut. Dass das

natürlich nicht funktioniert, sondern sie
dann auch selber auch drangsaliert werden,

das erschließt sich ihnen nicht. Also die
Psychologie, die hinter diesen ganzen

Überwachungen steckt, die finde ich super
interessant. Und ich hoffe eigentlich

immer mal, dass bei einer psychologischen
Fakultät einfach auch mal überlegt wird,

was führt eigentlich dazu, dass Menschen
sowas mit sich machen lassen? Wie kommt

es, dass sie sagen, das sei eine gute
Geschichte? Oder es ist schon richtig,

wenn der Nachbar mal gezeigt geht, wo es
lang geht und so. Und da mag ich mal eine

Polizistin zitieren, die ich in einem
Seminar hatte, das ich gab. Sie sagte:

"Na ja, da kommen die Leute und sagen wir
möchten gerne, dass vor dem Kindergarten

mehr Geschwindigkeit überwacht wird. Weil
die fahren da alle viel zu schnell.

Und sind dann super entsetzt, dass sie
selber diejenigen sind, die in die

Geschwindigkeitskontrollen ausgewunken
werden, weil sie die Leute sind, die ihre

Kinder mit zu hohem Tempo zum Kindergarten
bringen. Und ich will jetzt nicht dafür

plädieren, dass man vor Kindergärten rasen
soll. Aber sich wirklich Gedanken zu

machen, wie schaffen wir es, möglichst
unsere Nachbarn, sozusagen seinen

kranken Nachbarn auch dazu zu bringen,
sich eben tatsächlich für eine,

für Freiheit einzusetzen?
Und da meine ich nicht die

Freiheit auf der Straße rumzukrakelen,
nach dem Motto, ich will aber nicht

erwachsen werden. Sondern eher im Sinne
von, ich bin ein erwachsener Mensch, ich

brauche nicht überwacht werden. Ich mache
auch nichts Böses. Ich lasse mir meine

Fingerabdrücke nicht abnehmen. Ich möchte
nicht in einem Bonitätssystem rum agieren

und mache da dran auch nicht mit. Und auch
ab wann Leute wieder anfangen zu

begreifen, dass das eben eine politische
Forderung ist, die ich auch politisch

versuchen muss durchzusetzen. Und
durchsetzen kann ich das nur, wenn ich

meinen Bundestagsabgeordneten, meinen
Parlamentariern den Rücken stärke und,

also man nennt das auch manchmal sie unter
Druck setzen, aber das finde ich gar nicht

das richtige Wort. Sondern einfach auch
mit den Leuten diskutieren und eben sagen,

wenn schon wieder mal einer eurer
Innenpolitiker*innen, kann man ja

mittlerweile sagen, ankommt und sagt, wir
wollen jetzt gerne weiter mehr

Überwachung, mehr Sicherheit, das dann
wirklich zu hinterfragen und zu fragen,

was da los ist. Also ich habe zum Beispiel
rausgefunden, dass das meiste, was in den

letzten 30 Jahren, in denen ich in dem
Thema auch von innerer Sicherheit arbeite

und dauernd mit irgendwelchen unsinnigen
Forderungen von Politikern zu tun hat, was

sie alles sicherer machen wollen,
eigentlich nur so Sicherheitstheater

gemacht wurde. Weil das eben ganz
wunderbar im Wahlkampf funktioniert, den

Leuten mehr Sicherheit zu versprechen,
obwohl wir in einem der sichersten Länder

der Erde sitzen. Was aber tatsächlich
nicht gemacht wurde, da wo es um echte

Sicherheit geht, nämlich z.B.
Gesundheitsämter so auszustatten, dass bei

einer Globalisierung die zu erwartende
Pandemie gut bekämpft werden kann im

Ansatz. Das ist nicht geschehen. Also wir
haben die ganze Zeit damit zu tun, dass

uns billige Sachen, die recht einfach
sind, wie, wir bauen einfach mal überall

Überwachungskameras hin und kassieren pro
Standleitung 850 Euro im Monat, weil dann

können wir viel Steuergelder in private
Kassen umlenken. Das funktioniert. Aber

Gesundheitsämter auszustaffieren mit einer
notwendigen IT, mit einem Konzept, auch

mit einer STIKO, die genügend Leute hat,
um Entscheidungen treffen zu können. Das

wird halt nicht gemacht. Das ist halt
komplizierter. Das ist halt nicht so

einfach. Und ich glaube, da müssen wir als
Bevölkerung wirklich uns überlegen, wie

wir dafür sorgen, politisch entsprechend
zu agieren. Klar, eine der Möglichkeiten

ist es, Organisationen zu gründen, die da
dran arbeiten. Ich habe so etwas

mitgemacht, also Digitalcourage ist eine
der Organisationen, die sich darum

kümmert. Und wenn ich jetzt selber dafür
keine Zeit habe, weil ich doch lieber

meinem anderen Job nachgehe, der mir mehr
Spaß macht, dann muss ich halt solche

Organisation unterstützen. Was mich aber
nicht davon entbindet, mindestens einmal

im Monat etwas zu tun, was politisch
notwendig is und sei es auch nur mal zu

einer Veranstaltung zu gehen, die meine
Bundestagsabgeordnete oder mein

Bundestagsabgeordneter in meiner Stadt
veranstaltet, um dort zuzuhören und

vielleicht auch mich dort einzubringen.
Katrin: Danke padeluun, das war wirklich

ein guter Aufruf und ich möchte an dieser
Stelle an Kitty weitergeben, die nämlich

über den Chat und die sozialen Medien
schon ganz, ganz viele Fragen gesammelt

hat. Das heißt, das Thema ist wirklich ein
sehr bewegendes Thema, Kitty.

Herald: Erst mal vielen, vielen lieben
Dank. Extrem spannend. Ich denke, das

interessiert ja wirklich alle extremst
deswegen es gibt sehr, sehr viele Fragen.

Wir fangen gleich an. Wie stark sind die
Auswirkungen auf Nicht-Chinesische

Unternehmen oder z.B. auch Universitäten?
Kolja: Ja, das nehme ich einfach mal auf

meine Kappe. Alle Unternehmen, alle
Individuen, die im chinesischen Raum

leben, also im Festland chinesischen Raum,
in der Volksrepublik, sind davon

betroffen. Lange war überlegt worden oder
es war zumindest nicht kommuniziert

worden, ob sozusagen auch Nicht-Chinesen,
also Ausländer sozusagen aus chinesischer

Sicht einen Punktestand bekommen sollen
und eben entsprechende Sanktionen, die

damit verbunden sind und man hat
inzwischen festgestellt, ja, natürlich,

wer sich auf chinesischem Grund befindet,
ist mit in diesem System drin. Und das

gilt auch für Unternehmen.
Herald: Wie ist das für Chinesen, die im

Ausland wohnen?
Kolja: Soweit ich weiß, sind die davon nur

betroffen, wenn eben Daten im
chinesischen Land, in der Volksrepublik

gesammelt werden.
Thilo: Die Möglichkeit überhaupt ins

Ausland zu reisen, wird auch teilweise
abhängig gemacht vom Social Score.

D.h. es ist z.Z. unheimlich schwierig
dann im Ausland Daten zu erheben, soweit

die chinesischen Geheimdienste oder
irgendwelche anderen Institutionen eben

nicht an die Daten rankommen. Aber das,
was vorhanden ist, das wird definitiv

ausgewertet. Und solange die in China
sind, ist das natürlich ein ganz

relevanter Aspekt, um überhaupt ins
Ausland reisen zu können. Sogar schon

innerchinesische Reisen werden davon
abhängig gemacht, ob eben einen guten

Score hat oder nicht.
Herald: Wie wird das System von der

chinesischen Bevölkerung aufgenommen?
Kolja: Am Anfang war es so, dass erstmal

überhaupt keine Daten da waren, also
zumindest wurden keine Daten rausgelassen.

Dann war es so, dass festgestellt wurde,
dass ungefähr 80% der befragten

Chinesinnen und Chinesen
das System für gut befanden.

Das mag erst mal überraschend sein.
Andererseits, ich habe

nicht genau vor Augen, wie viele
Teilnehmerinnen und Teilnehmer

es an diesem System gibt. Im
Vergleich zu wie viele Leute tatsächlich

mitgemacht haben bei dieser Umfrage. Genia
Kostka, ich hoffe ich habe den Namen

richtig ausgesprochen, die hat dazu mal
eine Untersuchung gemacht, die sehr

aussagekräftig ist. Hat aber auch gesagt,
dass natürlich diejenigen, die im System

sind, die vielleicht auch nicht ganz
ehrlich sind, weil sie wissen, wenn sie

sich kritisch äußern, gibt es Minuspunkte.
Herald: Das heißt, gibt es dann eine

Gegenbewegung oder eher gar nicht?
Kolja: Es gibt auf jeden Fall diejenigen,

die sich versuchen dagegen zu wehren. Es
gibt sogenannte schwarze Listen.

Das sind diejenigen, die Zahlungen
nicht nachgegangen sind oder

sonstige Dinge gemacht haben, um
eben auf diese schwarze Liste

zu kommen. Und die versuchen dagegen
vorzugehen, weil bisher es so war,

dass, wer einmal auf der schwarzen
Liste stand, nicht wieder von

dieser schwarzen Liste runterkam. Wer auf
der schwarzen Liste stand, aber

sämtliche Sanktionen zu
befürchten hatte. Ja und da dann

wieder runterzukommen, da versuchen
die Leute sich dann eben zu engagieren.

Herald: Das ist tatsächlich gleich die
nächste Frage. Gibt es denn die

Möglichkeit, das System irgendwie
zu hacken? Oder kann man Geld

dafür zahlen, dass man bessere Punkte
bekommt? Wie würde sowas gehen?

Kolja: Das ist auch eine große Frage, mit
dem sich das Management

auseinandersetzen muss. Da gibt's schon
Nachrichten drüber und immer wieder neue

Skandale, dass da die entsprechenden
Polizeistellen, wo Daten aufgenommen

werden, wo Daten verarbeitet werden,
Stichwort Korruption, entsprechende

Leistungen in Anspruch genommen haben,
um dann Punkte zu verteilen. Ja, das wird

definitiv auch was sein, womit sich das
Management auseinandersetzen muss.

Herald: Okay. Gibt es Informationen wie
die Mitarbeiter der Firmen,

die so was umsetzen oder
das System entwickeln, dazu stehen?

Kolja: Ich weiß von einigen ganz
großen Köpfen die sagen,

na ja, es ist ein Dienst
am Volk, natürlich, wenn das Volk

vertrauensvoll ist, wenn man weiß, mit wem
man es zu tun hat, mit wem man sich

einlässt, dann profitieren davon alle,
weil natürlich auch alle gemeinsam dann zu

einer sicheren, guten Gesellschaft
beitragen. Aber ja, viele werden da

garantiert auch nicht angehört.
Herald: Seht ihr denn irgendwas Positives

an dem System? Könnt ihr dem irgendwas
abgewinnen wo ihr sagt, es hat zwar seine

Schwächen, aber es hat auch was positives?
lacht

Thilo: Also vielleicht darf ich, kann ich
noch was ergänzen zu dem, was Kolja gesagt

hat zur Akzeptanz in der chinesischen
Bevölkerung.

Kolja: Sehr gerne.
Thilo: Bei der Diskussion mit den

Chinesen, das waren natürlich
Universitätsprofessoren oder Justizbeamte

und Ähnliches, wurde uns dann auch immer
vorgehalten: "Ja, ihr in Europa, ihr habt

eine völlig andere Kultur. Wir leben mit
Konfuzius, ihr lebt mit irgendwelchen

Bürgerrechten oder ihr habt eine
Aufklärung gehabt. Die haben wir in ganz

anderer Form gehabt. Wir sind viel
kollektivistischer aufgestellt wie ihr.

Ihr seid totale Individualisten. Und bei
euch", das war das Hauptargument, "in

Europa oder in Deutschland. Da halten sich
die Leute freiwillig an die Regeln.

Während wir in China wir müssen das eben
mit Kontrolle und Überwachung eben dann

auch verifizieren bzw. steuern". Inwieweit
das zutrifft, ist natürlich schwierig zu

überprüfen, solange man den Chinesen keine
Freiheiten gibt und dass eben so ein

Freiheitsbedürfnis auch in China möglich
ist, zeigt ja gerade Hongkong. Und es ist

grad spannend eben zu sehen, wie die
Chinesische Volksrepublik Regierung eben

wirklich auch eben die Datenverarbeitung
und die systemische Überwachung der

Bevölkerung in Hongkong übernimmt und
wirklich da im Prinzip die gleichen

Systeme etabliert wie in der
Volksrepublik. Also ich denke, dass die

Bevölkerung in Hongkong eben mit
Freiheitsrechten sehr gut umging, solange

sie eben die Möglichkeit hatte, die auch
auszuleben.

Herald: Okay, kann denn der eigene
Punktestand auch abgefragt werden?

Ist es wie bei der Schufa, wo man
wenigstens 1x im Jahr nachschauen kann

oder ist es einfach so, man probiert
zu fliegen, geht's doch nicht.

Kolja: Ja, man kann das abfragen. Ich
glaube sogar, man kann das tagesaktuell

abfragen. Das Problem ist allerdings, man
kann es nicht nur selber abfragen, sondern

auch alle anderen. Bei Unternehmen ist das
vielleicht noch verständlich, weil man

dann weiß ah ist das ein Fake Unternehmen.
Wenn ich jetzt irgendwas online kaufe,

sehe ich das Produkt wirklich was ich
kaufe dann demnächst bei mir zu Hause.

Aber bei Individuuen wird es natürlich
schwierig. Die Leute prahlen im Internet

mit ihren Kontoständen. Aber diejenigen,
die einen etwas geringeren Score haben,

warum auch immer, das muss ja nicht immer
selbstverschuldet sein, sondern das kann

ja auch fremverschuldet sein. Das ist ein
wichtiger Punkt. Da wird's dann schwierig.

Herald: Ok.
Thilo: Ein großes Problem gibt's

natürlich dort, wo eben Mitarbeiter von
deutschen Firmen in China

bewertet werden und dann die
deutschen Unternehmen eben

das dann auch zur Grundlage nehmen. Ich
weiß nicht, Kolja, hast du da irgendwelche

Erfahrungen, ob es da irgendwelche
Kooperation oder irgendwelche

Datenauswertung von den deutschen Firmen
gibt? Das wäre spannend. Auf jeden Fall.

Also akzeptieren die deutschen Firmen die
Gesetze in China und nehmen das problemlos

hin, dass Uiguren verfolgt werden, obwohl
eben deutsche Investitionen im Nordwesten

von China eben dann stattfinden. Und es
wäre natürlich schon auch wichtig zu

wissen für die deutschen Unternehmen, was
mit ihren eigenen Mitarbeitern passiert.

Da gibt es auch eine gewisse
Fürsorgepflicht.

Kolja: Ja, ja genau, wenn ich ergänzen
darf. Genaue Zahlen sind mir nicht

bekannt, aber genau es ist wirklich so,
dass gerade die deutschen Unternehmen, die

entweder schon sehr lange da sind, dass
die natürlich jetzt das System

übergestülpt bekommen und jetzt gucken
müssen, wie sie klarkommen und dann

natürlich auch um ihre Lizenzen fürchten
müssen, wenn sie sich entsprechend anders

verhalten, als es gewünscht ist. Oder eben
diejenigen, die jetzt neu nach China

kommen, die sagen der Markt ist so groß,
wir müssen irgendwie damit klarkommen. Und

du hast vollkommen recht Thilo, da wird
vieles abgenickt, wo hier in Deutschland

vielleicht nur hinter verhaltener, hinter
vorgehaltener Hand gesagt wird, dass das,

das es ja so eigentlich nicht geht. Also
schwierig ja.

Herald: Macht das dann bei den nicht-
chinesischen Menschen, die mit abgefragt

werden, einen Unterschied, aus welchem
Land sie kommen? Werden Deutsche da z.B.

anderst abgefragt als Amerikaner?
Kolja: Das ist eine sehr gute Frage, da

kann ich leider nichts zu sagen, da habe
ich keine Informationen.

Herald: Ok, entschuldigung an die
Signalleute. Die Frage ist leider nicht zu

beantworten. Wie ist das denn mit
Parteifunktionären oder höheren Menschen

im chinesischen Government dort?
Werden die auch eingestuft?

Kolja: Auch so eine gute Frage, ja. Also
man weiß z.B. nicht, ob Xi Jinping

auch einen Punktestand hat, der
Staatspräsident von China. Natürlich, wenn

so was gefragt wird, dann wird immer
gesagt "Na ja, wir sind Menschen des

Volkes und wir verstehen natürlich das
Volk" und so. Aber mir ist nicht bekannt,

ob Xi Jinping z.B oder andere
Parteifunktionäre einen eigenen

Punktestand haben. Müsste ja eigentlich so
sein.

Thilo: Also was die Parteimitgliedschaft
angeht, das ist relativ klar, wie das

gehandhabt sein dürfte, wissen es also
nicht genau. Aber wer Parteimitglied ist,

das ist natürlich erst mal viele
Positivpunkte und Fehlverhalten jetzt von

solchen Parteimitgliedern wird von der
oberen Schicht ja auch voll gedeckt wie

wir es jetzt bei der Tennisspielerin
erlebt haben, wo es dann sogar

internationale Auseinandersetzungen
gegeben hat. Also ich vermute mal, dass so

was dann über den Algorithmus schon
irgendwie alles abgedämpft wird und so

gewährleistet bleibt, dass also die
Parteimitglieder und die Funktionäre, dass

die da gut wegkommen.
padeluun: Also das würde ja auch bedeuten,

dass der Score von ihm nicht abgefragt
werden kann, wenn wir gerade gehört haben,

dass eigentlich jeder diesen Score
abfragen kann. Das ist ja schon mal eine

Aussage, also eine Unterschiedlichkeit.
Ich habe es tatsächlich noch nicht

probiert. Es kann natürlich sein, dass
jeder Score abfragbar ist, aber aufgrund

enormer Verdienste für das gesamte
chinesische Volk so viele Pluspunkte

verteilt werden sag ich jetzt mal, ja,
keine Ahnung, aber wäre ja durchaus

denkbar. Ja, dass man da schon im
Vornherein

sehr im Plus ist.
Herald: Ich hab' jetzt noch eine letzte

Frage: Fühlen sich dann in China
möglicherweise die Staatsbediensteten

dadurch angehalten, etwas freundlicher zu
sein oder vielleicht vorsichtiger

vorzugehen, weil sie Sorge haben, einen
schlechteren Score zu bekommen?

Gibt es so eine Möglichkeit? Kann man sich
das Szenario vorstellen?

Kolja: Ich denke, im Einzelfall, in
Einzelfällen wird es bestimmt

der Fall sein. Es gab schon
mehrere Interviews von

Leuten, die gesagt haben wir achten in
unserer Kommune nur auf die Punkte und

halten uns auch gegenseitig dazu an,
möglichst uns entsprechend zu verhalten.

Aber natürlich, wie immer wird es diese
Einzelfälle geben und andere Einzelfälle.

Und ja, also ich glaube nicht, dass das,
das das den Menschenverstand und die Moral

und einfach eine gute Erziehung ersetzen
kann.

Katrin: Okay, so leid es mir tut, weil die
Diskussion sehr sehr spannend ist, unsere

Zeit ist leider um. Ganz, ganz herzlichen
Dank an Euch, Kolja, padeluun und Tilo.

Ich hoffe, das Zuhören und das
Mitdiskutieren hat allen großen Spaß

gemacht und ich geb nochmal zurück an
Kitty. Auch an dich Kitty, vielen vielen

Dank für deinen Support und die Fragen.
Tschüss und bis zum nächsten Mal.

Herald: Dankeschön.
Thilo: Tschüss.

Kolja: Bis dahin.

RC3 Abspannmusik

Untertitel erstellt von c3subtitles.de
im Jahr 2021. Mach mit und hilf uns!