RC3 Vorspannmusik
Herald: Ein System, welches sich,
zumindest überwachungstechnisch, George
Orwell nicht hätte besser ausdenken
können: Das Chinese Social Credit Score.
Katrin Schwahlen spricht mit sehr, sehr
interessanten Personen heute darüber.
Katrin, wir sind gespannt.
Kathrin: Ja, herzlich willkommen
zu unserem Talk über
das chinesische Sozialkreditsystem.
Also grob gesagt ein
staatliches System, das mithilfe von
Algorithmen das Verhalten seiner
Bürgerinnen und Bürger überwacht und
steuern will. China ist zwar weit weg,
spielt aber doch eine ziemlich große Rolle
in und für die Welt. Und da stellt sich
natürlich die Frage, wie lange das dauert,
bis es sowas auch in Europa gibt. Oder
gibt es das vielleicht sogar schon?
Darüber will ich mich mit unseren Gästen
unterhalten und möchte euch als erstes
Kolja Quakernack vorstellen. Er ist
Sinologe, Kalligraf und hat vier Jahre in
Shanghai gelebt, der größten
Industriestadt Chinas. Und er beschäftigt
sich seit vielen Jahren mit dem
chinesischen Sozialkreditsystem. Er hat
darüber seine Masterarbeit geschrieben und
auch eine Broschüre für die kurz&mündig
Reihe von Digitalcourage. Und er wird uns
gleich das chinesische Bonitätssystem
vorstellen. Hallo Kolja, vielen Dank, dass
du dir die Zeit nimmst für diesen Talk.
Kolja Quakernack: Hallo, ich freue mich
auf die Gäste.
Katrin: Unser zweiter Gast ist Dr. Thilo
Weichert. Vielen von euch ist er bekannt
als Juror und Laudator der Big Brother
Awards. In diesem Jahr zum Beispiel für
Doctolib in der Kategorie Gesundheit.
Thilo engagiert sich seit dem
Volkszählungsboykott Mitte der 80er Jahre
für Datenschutz. Er war 11 Jahre
Landesbeauftragter für Datenschutz in
Schleswig-Holstein und ist heute unter
anderem Vorstandsmitglied in der Deutschen
Vereinigung für Datenschutz. Herzlich
willkommen, Thilo!
Thilo Weichert: Ich grüße euch. Moin!
Katrin: Und unseren dritten Gast kennt ihr
alle. Er ist Künstler und Netzaktivist,
Mitbegründer und Vorsitzender von
Digitalcourage, hat die Internet
Enquetekommission des Bundestags beraten
und gerade mit anderen Aktivistinnen und
Aktivisten Handlungsempfehlungen für
Digitalpolitik formuliert und der
Ampelkoalition übergeben. Schön, dass du
da bist, padeluun. So, Kolja, was ist
genau das chinesische Sozialkreditsystem?
Und wie bist du auf dieses Thema
aufmerksam geworden?
Kolja: Ja, ich glaube wir machen es
umgekehrt. Ich beantworte dir erst die
eine Frage und dann hole ich ein bisschen
aus, um das Sozialkreditsystem
vorzustellen. Ich habe tatsächlich davon
gelesen, während ich in Shanghai war und
bin dann wirklich daran kleben geblieben,
weil ich dachte, so ein gigantisches
Konstrukt was da geplant ist, was wirklich
in alle Lebensbereiche irgendwie
vordringen wird, da will ich mehr drüber
wissen und habe mich dann mehr und mehr
sozusagen in die Abgründe vertieft. Und
jetzt sitze ich hier und darf mich mit
euch unterhalten. Aber damit wir alle so
ein bisschen auf den gleichen Stand
kommen, wenn ich wirklich alles sozusagen
erzählen würde, was es zu wissen gibt, was
eine ganze Menge gibt, was natürlich eine
ganze Menge ist, dann würde das den Rahmen
hier sprengen. Deswegen versuche ich kurz
ein kleines bisschen, kurz und knackig zu
erzählen, was das Sozialkreditsystem
eigentlich ist. Ich habe keine Slides o.ä.
vorbereitet. Das würde uns viel
zu viel Zeit bei unserem Talk nehmen,
sondern ich habe hier ganz klassisch
traditionell ein paar Stichpunkte vor mir
liegen. Wenn ich also nach unten gucke,
dann weil ich versuche, nichts zu
vergessen. Aber ja, ganz kurz vielleicht.
Die derzeitige Situation in China, die das
Sozialkreditsystem dann hervorgebracht
hat, ist folgende: Und zwar gibt es eine
verhältnismäßig hohe Kriminalitätsrate,
zum Beispiel Korruption, Betrügereien
etc., ohne dass zum Teil verlässliche
Strafen umgesetzt werden können. Dem soll
natürlich entgegen gearbeitet werden. Dann
sollen die Nutzerinnen des Internets, die
Nutzerinnen und Nutzer, nicht so
ungezügelt sein und natürlich die
Stabilität in der Gesellschaft und auch in
der Politik gefestigt werden. Und die
Lösung, die jetzt Staatspräsident Xi
Jinping hat, ist eben das
Sozialkreditsystem. Das Sozialkreditsystem
soll jedem Individuum eine gewisse
Vertrauens- und Kreditwürdigkeit
bescheinigen, sodass Bürgerinnen und
Bürger sich ein Bild von
Geschäftspartnern, aber auch von
Nachbarinnen und Nachbarn und von
Menschen, mit denen sie verkehren, machen
können. Und man muss jetzt dazu sagen, es
gibt nicht nur ein einziges
Sozialkreditsystem, sondern es gibt in
Dutzenden Städten mehrere Konzepte, die
sozusagen ausprobiert werden. Und 2014
wurde das Ganze erstmals implementiert für
eine Testphase bis 2020. Das heißt, wir
haben jetzt gerade die Situation, dass
ganz viele Daten analysiert werden, wie
die Leute das System angenommen haben, wie
das angekommen ist. Und ja, wir sind jetzt
gespannt, was aus all diesen Daten gemacht
wird. Wie in Zukunft dann die Version 2.0
sozusagen aussehen soll. Die dann wiederum
verbindlich im ganzen Land implementiert
werden soll. Das Konzept des Sozial-
kreditsystems ist relativ einfach. Und
zwar: Um die Vertrauenswürdigkeit einer
Person einschätzen zu können, werden Daten
dieser Person gesammelt, und zwar alle
möglichen Arten von Daten. Alle möglichen
Daten, die man bekommen kann. Offline-
Verhalten, Online-Verhalten, also Online-
Verhalten, sprich das Kaufverhalten auf
zum Beispiel Taobao, also dem chinesischen
Äquivalent von Ebay. Chatverläufe werden
mitgelesen, GPS-Daten vom Smartphone
werden ausgelesen, Accounts,
Mitgliedschaften, Apps, die genutzt
werden, alles was eben zur Verfügung
steht. Nebenbei sei noch gesagt: Es gibt
umfangreiche Datenschutzgesetze in China,
aber die Umsetzung, daran hapert es dann
doch, sodass das in dem Sinne kein Thema
ist. Offline-Verhalten, Ämter, Behörden,
alle teilen ihre Daten in einer ziemlich
großen Cloud, wo alles gesammelt wird zu
jeder Person. Und hinzu kommen neueste
Erfindungen wie Videoüberwachung,
Spracherkennung, Gesichtserkennung, sogar
Gangerkennungssoftware. Alles um eben das
aufgenommene Verhalten, was man wahrnimmt
sozusagen, auch wirklich einer konkreten
Person zuordnen zu können. Da geht es dann
um Mülltrennung, um
Straßenverkehrsdelikte, all diese Dinge.
Man will ja möglichst genau festlegen
können, zu welcher Person eben diese
Handlung gehört. Alle Daten werden in
Echtzeit registriert und von einem
Algorithmus, über den im Grunde genommen
nichts offiziell bekannt ist, analysiert
und bewertet. Jetzt gibt es ein Verhalten,
das wünschenswert ist und es gibt
Verhalten, das nicht wünschenswert ist.
Für wünschenswertes Verhalten, zum
Beispiel, wenn man sich um seine Eltern
kümmert, die krank sind oder einfach
pietätvoll besucht, wenn man
ehrenamtliches Engagement zeigt, und
Ähnliches. Dann gibt es Pluspunkte. Wenn
man aber unerwünschtes Verhalten an den
Tag legt, zum Beispiel Gesetze bricht oder
ähnliches, dann gibt es Minuspunkte. All
das wird auf einem digitalen Konto
festgelegt. Und ist sogar offiziell
einsehbar für jede und jeden. Wenn man
jetzt einen besonders hohen Kontostand
hat, dann werden verschiedene Privilegien
freigeschaltet. Zum Beispiel bekommt man
einen kostenlosen Bibliotheksausweis. Man
ist befreit von verschiedenen
Kautionszahlungen, und ähnlichem. Wenn man
einen niedrigen Punktestand hat, dann
werden ziemlich massive Sanktionen
wirksam. Das geht dann los mit man bekommt
keine 1.-Klasse Tickets mehr für den Zug,
sondern muss dann die harten Holzbänke
nehmen und es geht dann immer so weiter
und wird schlimmer, dass man irgendwann
die Reisefreiheit ganz eingeschränkt
bekommt. Man bekommt keine Auslandsvisa
mehr ausgestellt, man kann keine
Flugtickets mehr kaufen. Das geht sogar so
weit, dass die eigenen Kinder irgendwann
keine guten Schulen mehr besuchen können.
Berufliche Entwicklungen werden verwehrt
und so weiter. Das heißt, was damit im
Grunde genommen auch bezweckt werden soll,
ist die Umerziehung des Volkes, oder der
Bürgerinnen und Bürger, zu gutem Verhalten
hin. So, da möchte ich jetzt gleich schon
ein paar Kritikpunkte mit einbringen. Und
zwar lässt sich das teilen in technische
Mängel bei dem System. Allerdings können
wir die gleich auslassen. 1. kenne
ich mich dafür technisch nicht gut genug
aus und 2. würde das dann wirklich
den Rahmen sprengen. Aber es gibt soziale
und ethische Probleme, die glaube ich
hochinteressant sind für uns auch heute,
und natürlich Herausforderungen für das
Management selbst. Die sozialen und
ethischen Probleme sind zum Beispiel
folgende: Ich habe gerade gesagt, es soll
gutes Verhalten anerzogen werden. Wer
entscheidet denn, was gutes Verhalten ist?
Und da liegt schon der Casus Knacktus. Die
Sozialkreditsysteme, im Moment sind es ja
noch mehrere, sind zwar offiziell in
privater Hand von den großen Tech-Firmen
wie Tencent, Alibaba und wie sie alle so
heißen, aber eben nur offiziell.
Inoffiziell behält sich die Kommunistische
Partei Chinas vor, ohne Angabe von
Gründen, Dinge in diesem System verändern
zu können und sogar retrospektiv verändern
zu können. Das heißt, unerwünschtes
Verhalten kann zum Beispiel angepasst
werden. Retrospektiv heißt in diesem
Kontext, wenn die Kommunistische Partei
heute etwas, ja, als unerwünscht festlegt,
was gestern noch in Ordnung war, dann wird
man auch heute noch für das Verhalten von
gestern bestraft. Wenn ich also heute mit
meinen Freunden auf dem Weihnachtsmarkt
Glühwein trinke und morgen wird es
bestraft, weil das Verzehr von Alkohol
ist. Dann werde ich auch morgen bestraft
dafür, obwohl es heute noch völlig in
Ordnung ist. Ja, und das Ganze schürt
natürlich oder erleichtert auch die
Verfolgung von Minderheiten. Dabei ist
egal, ob es um Homosexuelle geht oder um
ethnische Minderheiten, Uiguren, was ja
auch viel in den Medien im Moment
diskutiert wird. Ja, und das sind
natürlich Dinge, die uns entsprechend
beschäftigen werden. Dann wird der
Algorithmus vorgeschoben. Die
Kommunistische Partei und überhaupt alle
Betreiber des Systems waschen die eigenen
Hände in Unschuld und sagen, ihr seid doch
für euer eigenes Handeln selbst
verantwortlich. Handelt so, wie wir euch
das vorgeben und dann habt ihr auch nichts
zu befürchten. Auch das ist garantiert ein
Punkt, über den man streiten kann, weil
natürlich das System menschengemacht ist
und entsprechende Mechanismen vom Menschen
justiert und nachjustiert werden. Ja, und
ein weiterer Punkt, der auch unbedingt
genannt werden sollte: Solidarität,
Nächstenliebe, Zwischenmenschlichkeit, all
diese Punkte gehen natürlich mehr und mehr
verloren, weil die Leute nicht mehr
Handeln aus reiner Nächstenliebe, sondern
um Punkte zu gewinnen oder wenigstens um
keine Punkte zu verlieren. Also auch da,
die Moral, wie wir wissen, ist ein Muskel,
der entsprechend gepflegt werden will. Und
wenn andere einem das Denken abnehmen,
dann wird das ganze schwierig,
wenn das System irgendwann
vielleicht mal wieder
abgestellt wird und wir überhaupt
keinen inneren Kodex mehr haben,
wie wir eigentlich handeln wollen.
Herausforderungen an
das Management, und
dann bin ich auch gleich am Ende. Es geht
natürlich darum, internen Missbrauch zu
verhindern. Dass diejenigen, die das Ganze
einstellen, so einstellen, dass es, ja,
verträglich ist. Ist vielleicht ein sehr
starkes Wort. Ja, und natürlich externe
Angriffe, Hackerangriffe, Datenlecks etc.
Auch damit muss umgegangen werden. Und es
muss natürlich eine völlig neue
Gesetzesgrundlage geschaffen werden, dass
das Sozialkreditsystem
transparent wird. Das ist auch ein
großes Problem
derzeit. Dieser Algorithmus
ist in seiner Tiefe überhaupt nicht
durchschaubar. Es ist, den Leuten ist
nicht bekannt, warum sie den Punktestand
haben, den sie haben. Ja, in diesem Sinne
denke ich, wir haben einiges, über das wir
sprechen können. Es sei an dieser Stelle
noch ganz kurz ein Video empfohlen. Und
zwar wie gesagt, mir ist klar, dass wir
jetzt, dass ich hier ziemlich
durchgaloppiert bin. Aber es gibt ein
wunderbares Video von Antonia Hmaidi von
der Universität Duisburg, auch auf
YouTube. Die war vor 3 Jahren an dieser
Stelle hier und hat ein Video über das
Sozialkreditsystem erstellen lassen und
hat da eben noch mal sehr ausführlich
drüber gesprochen. Also herzliche
Empfehlung. Oder wer gerne liest, wie
gesagt, diese nette kleine Broschüre hier,
die ich geschrieben habe mit
redaktioneller Begleitung von Katrin
Schwahlen im Art d'Ameublement-Verlag,
möchte ich an dieser Stelle auch herzlich
empfehlen. So. Ja, vielen Dank erstmal
soweit.
Katrin: Dankeschön, Kolja. Aber das klingt
ja schon auch ziemlich gruselig. Du hast
zwar gesagt, es gibt Datenschutz in China.
Gibt es denn auch sowas wie eine
Bürger*innenbewegung?
Kolja: Nichts, was wirklich so mächtig
ist, dass es Dinge verändern kann. Weil
die, die Unzufriedenheit im Volk, die ist
da. Die ist auch lange da. Es gibt jeden
Tag hunderte Demonstrationen, die
natürlich unangekündigt sind, weil sie
sonst nicht gestattet werden, und
Ähnliches. Die meisten kriegen wir hier
gar nicht mit. Also die Unzufriedenheit
ist da, aber es wird natürlich alles
sofort, ja, zerschlagen, wenn man so will.
Katrin: Okay, Sozialkreditsystem, also
dieser Begriff hat mich am Anfang ein
bisschen verwirrt, weil sozial hört sich
erst mal gut an, Kredit , na ja, geht
irgendwie so. Ist das gleichbedeutend mit
Bonitätssystemen, wie wir sie hier in
Deutschland haben? Das wäre meine Frage an
dich, Thilo. Bonitätssysteme wie
beispielsweise die Schufa oder andere
Auskunftsdateien, wie unterscheiden die
sich vom chinesischen Sozialkreditsystem?
Kann man das so einfach auf den Punkt
bringen?
Thilo: Also es gibt eine ganze Menge von
Ähnlichkeiten, aber es gibt auch einige
Unterschiede und auf die kommt es dann
tatsächlich auch an. Aber vorneweg muss
ich erst mal auch eine Information geben.
Ich war 2017 in Shanghai auf Einladung von
der Friedrich-Ebert-Stiftung. Und dort
wurde ich eingeladen, um eben über die
Schufa und über andere
Kreditsbonitätssysteme zu referieren und
eben auch den Vergleich mit den
chinesischen Systemen zu machen. Da ging
es insbesondere auch um die Frage, wie
weit kann in China Akzeptanz geschaffen
werden für ein System, was in Deutschland
mehr oder weniger akzeptiert ist? Und
insofern habe ich auch so ein bisschen
jetzt auch Einblick nehmen können vor Ort.
Das was aber publiziert wird, das geht
weit über das hinaus, was ich tatsächlich
dann dort offengelegt bekommen habe. Ich
durfte mir zwar die Computer anschauen und
die Räumlichkeiten, in denen das Ganze
untergebracht ist. Aber wenn es dann
wirklich darum ging, wirklich harte Fakten
nachzufragen, da ist dann meistens
gemauert worden. Es gibt einen riesigen
Unterschied, und zwar den, der hat sich
auch bei diesen Vorträgen und Diskussionen
herausgeschält. Ich habe immer wieder das
Wort Bürgerrechte, Menschenrechte in den
Mund genommen und darauf gab es keinerlei
Resonanz. Wir haben Menschenrechte, wir
haben Bürgerrechte, die sind weltweit auch
garantiert. Und zu denen gehört auch das
Recht auf Privatsphäre oder jetzt in
modernerer Form eben das Grundrecht auf
Datenschutz in der Europäischen
Grundrechtecharta oder dann auch vom
Verfassungsgericht in der deutschen
Verfassung abgeleitet. Also das ist ganz
zentral. Ein weiterer Punkt ist, dass
diese Grundrechte eben auch einklagbar
sind. Das heißt also, man kann vor Gericht
eben auch einfordern, dass die eingehalten
werden. Und das ist zwar in China auch
teilweise möglich, Kolja hat schon darauf
hingewiesen, dass es Datenschutzgesetze
gibt. Die werden auch von Gerichten
überprüft. Die werden aber natürlich nicht
überprüft, wenn die Polizei diese Daten
nutzt und sie werden erst recht nicht
überprüft auf das, was im Bild das
Relevante ist, auf die Vorgaben, die durch
die Kommunistische Partei gemacht werden.
Also das heißt, was die Kommunistische
Partei an Vorgaben macht und welche Daten
abgefragt werden oder wie die Daten auf
Befehl der Kommunistischen Partei
ausgewertet werden, das ist ein absolutes
Tabu. Und dann haben wir natürlich die
Regelung, die dann auch aus unserer
Verfassung abgeleitet wird, die in
Grundrechtecharta drin steht. Wir haben
die Zweckbindung. Das heißt, Daten dürfen
grundsätzlich nur für den Zweck genutzt
werden, für den sie erhoben worden sind.
Und wenn sie für einen anderen Zweck
verwendet werden, dann bedarf es dafür
einer angemessenen gesetzlichen Grundlage,
die als Legitimation für diese Nutzung
eben dann auch verwendet wird. Und das ist
natürlich dann schon etwas, was eigentlich
dann den Austausch zwischen Polizeidaten,
Straßenverkehrsdaten, Bonitätsdaten,
Konsumdaten, und Familiendaten, und wer
weiß was, eigentlich verbietet. Aber, und
da ist dann wieder das Problem, wir haben
auch in Deutschland viele Regelungen, die
eben Netzwerkaufhebung auch erlauben. Und
da muss man sich dann eben genau angucken,
welche anderen Zwecke sind erlaubt. Das
Verfassungsgericht, der Europäische
Gerichtshof sind da relativ eng. Die
sagen, es muss nicht nur eine klare
gesetzliche Grundlage geben, sondern es
müssen auch verfahrensrechtliche
Vorkehrungen vorgesehen werden. Und was
Kolja auch schon beschrieben hat, was in
China fehlt: Transparenz. Das wird sowohl
vom EuGH als auch vom
Bundesverfassungsgericht immer wieder
eingefordert. Eben, dass die Betroffenen
sich einschätzen, oder dass sie
einschätzen können, was mit ihren Daten
passiert und welche Folgen aus ganz
bestimmten Daten folgen, sich ergeben
können. Also ich denke, da gibt es einen
Riesenunterschied. Was aber trotzdem
natürlich auch in Europa, in Deutschland
existiert: Wir haben künstliche
Intelligenz, wir haben Algorithmen und
diese Algorithmen sind bisher sehr
intransparent. Der Bundesgerichtshof hat
eine Entscheidung zum Scoring Verfahren
bei der Schufa getroffen, wo der Schufa
zugestanden wird, ihr Score Verfahren,
also ihr Algorithmus als Betriebs- und
Geschäftsgeheimnisse gegenüber den
Betroffenen geheim halten zu können. Das
hat zur Folge, dass selbst
Aufsichtsbehörden - ich war damals noch
Chef einer Aufsichtsbehörde und habe das
versucht irgendwo transparent zu machen,
dass es selbst uns untersagt war, eben in
diese Algorithmen reinzuschauen bzw. die
zu kontrollieren und die zu hinterfragen.
Ob sich das jetzt in Zukunft ändert, wird
sich zeigen. Die Europäische Kommission
hat einen Vorschlag für eine KI-Richtlinie
gemacht. Also eine Richtlinie zur
künstlichen Intelligenz, die natürlich bei
der, in diesem ganzen Scoring Verfahren
zum Einsatz kommt. Und dort ist
vorgesehen, dass Transparenz geschaffen
wird, dass also dann künstliche
Intelligenz Einsatz zum Beispiel in der
Werbung als weniger problematisch
angesehen wird, wie eben jetzt der Einsatz
von künstlicher Intelligenz bei der
Polizei oder bei Bonitätsbewertung. Auch
Bonitätsbewertung, also die Bewertung der
Zahlungsfähigkeit und
Zahlungsbereitschaft, ist also ein ganz
zentraler Punkt auch von diesem
Richtlinienvorschlag. Die werden also
relativ hoch eingestuft. Aber dann auch
alle Verfahren, wo künstliche Intelligenz
zum Einsatz kommt und wo es dann, ja,
existenzielle Folgen für die Betroffenen
haben könnte. Und das ist ja in China
umfassend so. Also das, was der
Algorithmus auswirft, das ist bestimmend
für unser Leben, oder für das Leben der
Chinesen. Das ist aber natürlich auch bei
dem Schufa Score, bei anderen Scoring
Verfahren der Fall. Und wenn ich einen
schlechten Schufa Score habe und der ist
nicht hinreichend transparent,
dann kann es bedeuten, dass ich
meinen Beruf nicht bekomme,
dass ich nen Telekommunikations-
vertrag nicht bekomme,
dass ich auf jeden Fall keinen
Kredit bekomme,
dass ich nicht online einkaufen
kann. Also es gibt eine Vielzahl von
Konsequenzen, die wir auch in Deutschland
haben. Also insofern ist es also
tatsächlich auch ein riesiges Problem. Und
wir haben natürlich auch in Europa und in
Deutschland die Begehrlichkeiten, die auch
in China existieren, die hier durch die
Gerichte gebremst werden, auch durch die
Datenschutzbehörden, nur teilweise
gebremst werden. Und diese
Begehrlichkeiten gehen weit über das
hinaus, was von den Gerichten akzeptiert
wird. Wir haben zum Beispiel ein
Bonitätsverfahren von einem polnischen
Firma - in Deutschland wurde es nicht
etabliert, weil eben der Widerstand so
groß ist - dass eben nicht nur Daten aus
dem Finanzgebaren von einem Menschen
analysiert, sondern zum Beispiel auch die
Internetaktivitäten auswertet und daraus
Rückschlüsse zieht auf die Bonität. Oder
dann auch die Schufa. Die schließt aus der
Wohngegend zurück auf die Bonität. Das
heißt, wenn ich also Nachbarn habe, die
schlecht beleumundet sind, die ihre
Kredite nicht zurückbezahlen, dann wird
unterstellt, dass ich als Nachbar
sozusagen eben auch meine Kredite nicht
zurückbezahle. Wenn keine sonstige
Information vorhanden ist. Das hat zum
Beispiel zur Folge gehabt, dass ich erst
mal, als ich in einer anderen Gegend
gewohnt habe, nega, einen absolut
schlechten Score gehabt habe bei der
Schufa. Das hat sich jetzt geändert,
nachdem ich in Kiel in die Innenstadt
gezogen bin. Also auch da zeigt sich, dass
das Problem immer noch existiert, dass wir
das Problem in der Transparenz haben, dass
wir eben auch in einer absolut, ja, im
wahrsten Sinne des Wortes auch im Neuland
uns befinden. Weil eben solche Firmen wie
die Schufa, wie Infoscore, wie
Creditreform und viele anderen, Universum,
also diese ganzen
Bonitätsbewertungsfirmen, sich die Daten
aus allen möglichen Quellen
zusammenzusuchen versuchen. Und die Schufa
zum Beispiel ist immer wieder berühmt und
berüchtigt dadurch geworden, dass sie eben
Daten aus definitiv illegitimen Quellen zu
schöpfen versucht hat. Und da gab es dann
aber öffentlich Widerstand. Den gibt es
eben nur ganz verhalten in China. Und
dieser Widerstand ist im Prinzip das
Wesentliche, um eben solche Auswüchse von
Algorithmennutzung und von solchen
Bonitätsverfahren zu verhindern.
Katrin: Danke Thilo, das war schon mal ein
ziemlich großer Einblick. Wobei es ja hier
in Deutschland nicht nur so ist, dass
bonitätsbezogene Daten abgefragt werden,
sondern wir haben ja auch noch viele
andere Formen von Überwachung aufgrund von
KI. Sei es die Vorratsdatenspeicherung,
sei es die Gesichtserkennung, also die
Kameras beispielsweise am Berliner Bahnhof
Südkreuz, Staatstrojaner,
Telekommunikationsüberwachung. Padeluun,
wie ist es deiner Einschätzung nach
möglich oder unmöglich, so chinesische
Bonitäts- oder Überwachungssysteme als
Ganzes oder in Einzelteilen in Deutschland
umzusetzen?
padeluun: Na ja, ich hoffe, dass das nicht
möglich ist - Gelächter - und das hoffe
ich, hoffen wir alle anderen auch. Aber
ich glaube, diese Hoffnung wird versucht,
immer wieder zu unterlaufen. Also es gibt
eine Menge Leute, auch in Deutschland, die
sich überhaupt kein Problem damit haben,
dass alle anderen drangsaliert werden.
Hauptsache ihnen geht es gut. Dass das
natürlich nicht funktioniert, sondern sie
dann auch selber auch drangsaliert werden,
das erschließt sich ihnen nicht. Also die
Psychologie, die hinter diesen ganzen
Überwachungen steckt, die finde ich super
interessant. Und ich hoffe eigentlich
immer mal, dass bei einer psychologischen
Fakultät einfach auch mal überlegt wird,
was führt eigentlich dazu, dass Menschen
sowas mit sich machen lassen? Wie kommt
es, dass sie sagen, das sei eine gute
Geschichte? Oder es ist schon richtig,
wenn der Nachbar mal gezeigt geht, wo es
lang geht und so. Und da mag ich mal eine
Polizistin zitieren, die ich in einem
Seminar hatte, das ich gab. Sie sagte:
"Na ja, da kommen die Leute und sagen wir
möchten gerne, dass vor dem Kindergarten
mehr Geschwindigkeit überwacht wird. Weil
die fahren da alle viel zu schnell.
Und sind dann super entsetzt, dass sie
selber diejenigen sind, die in die
Geschwindigkeitskontrollen ausgewunken
werden, weil sie die Leute sind, die ihre
Kinder mit zu hohem Tempo zum Kindergarten
bringen. Und ich will jetzt nicht dafür
plädieren, dass man vor Kindergärten rasen
soll. Aber sich wirklich Gedanken zu
machen, wie schaffen wir es, möglichst
unsere Nachbarn, sozusagen seinen
kranken Nachbarn auch dazu zu bringen,
sich eben tatsächlich für eine,
für Freiheit einzusetzen?
Und da meine ich nicht die
Freiheit auf der Straße rumzukrakelen,
nach dem Motto, ich will aber nicht
erwachsen werden. Sondern eher im Sinne
von, ich bin ein erwachsener Mensch, ich
brauche nicht überwacht werden. Ich mache
auch nichts Böses. Ich lasse mir meine
Fingerabdrücke nicht abnehmen. Ich möchte
nicht in einem Bonitätssystem rum agieren
und mache da dran auch nicht mit. Und auch
ab wann Leute wieder anfangen zu
begreifen, dass das eben eine politische
Forderung ist, die ich auch politisch
versuchen muss durchzusetzen. Und
durchsetzen kann ich das nur, wenn ich
meinen Bundestagsabgeordneten, meinen
Parlamentariern den Rücken stärke und,
also man nennt das auch manchmal sie unter
Druck setzen, aber das finde ich gar nicht
das richtige Wort. Sondern einfach auch
mit den Leuten diskutieren und eben sagen,
wenn schon wieder mal einer eurer
Innenpolitiker*innen, kann man ja
mittlerweile sagen, ankommt und sagt, wir
wollen jetzt gerne weiter mehr
Überwachung, mehr Sicherheit, das dann
wirklich zu hinterfragen und zu fragen,
was da los ist. Also ich habe zum Beispiel
rausgefunden, dass das meiste, was in den
letzten 30 Jahren, in denen ich in dem
Thema auch von innerer Sicherheit arbeite
und dauernd mit irgendwelchen unsinnigen
Forderungen von Politikern zu tun hat, was
sie alles sicherer machen wollen,
eigentlich nur so Sicherheitstheater
gemacht wurde. Weil das eben ganz
wunderbar im Wahlkampf funktioniert, den
Leuten mehr Sicherheit zu versprechen,
obwohl wir in einem der sichersten Länder
der Erde sitzen. Was aber tatsächlich
nicht gemacht wurde, da wo es um echte
Sicherheit geht, nämlich z.B.
Gesundheitsämter so auszustatten, dass bei
einer Globalisierung die zu erwartende
Pandemie gut bekämpft werden kann im
Ansatz. Das ist nicht geschehen. Also wir
haben die ganze Zeit damit zu tun, dass
uns billige Sachen, die recht einfach
sind, wie, wir bauen einfach mal überall
Überwachungskameras hin und kassieren pro
Standleitung 850 Euro im Monat, weil dann
können wir viel Steuergelder in private
Kassen umlenken. Das funktioniert. Aber
Gesundheitsämter auszustaffieren mit einer
notwendigen IT, mit einem Konzept, auch
mit einer STIKO, die genügend Leute hat,
um Entscheidungen treffen zu können. Das
wird halt nicht gemacht. Das ist halt
komplizierter. Das ist halt nicht so
einfach. Und ich glaube, da müssen wir als
Bevölkerung wirklich uns überlegen, wie
wir dafür sorgen, politisch entsprechend
zu agieren. Klar, eine der Möglichkeiten
ist es, Organisationen zu gründen, die da
dran arbeiten. Ich habe so etwas
mitgemacht, also Digitalcourage ist eine
der Organisationen, die sich darum
kümmert. Und wenn ich jetzt selber dafür
keine Zeit habe, weil ich doch lieber
meinem anderen Job nachgehe, der mir mehr
Spaß macht, dann muss ich halt solche
Organisation unterstützen. Was mich aber
nicht davon entbindet, mindestens einmal
im Monat etwas zu tun, was politisch
notwendig is und sei es auch nur mal zu
einer Veranstaltung zu gehen, die meine
Bundestagsabgeordnete oder mein
Bundestagsabgeordneter in meiner Stadt
veranstaltet, um dort zuzuhören und
vielleicht auch mich dort einzubringen.
Katrin: Danke padeluun, das war wirklich
ein guter Aufruf und ich möchte an dieser
Stelle an Kitty weitergeben, die nämlich
über den Chat und die sozialen Medien
schon ganz, ganz viele Fragen gesammelt
hat. Das heißt, das Thema ist wirklich ein
sehr bewegendes Thema, Kitty.
Herald: Erst mal vielen, vielen lieben
Dank. Extrem spannend. Ich denke, das
interessiert ja wirklich alle extremst
deswegen es gibt sehr, sehr viele Fragen.
Wir fangen gleich an. Wie stark sind die
Auswirkungen auf Nicht-Chinesische
Unternehmen oder z.B. auch Universitäten?
Kolja: Ja, das nehme ich einfach mal auf
meine Kappe. Alle Unternehmen, alle
Individuen, die im chinesischen Raum
leben, also im Festland chinesischen Raum,
in der Volksrepublik, sind davon
betroffen. Lange war überlegt worden oder
es war zumindest nicht kommuniziert
worden, ob sozusagen auch Nicht-Chinesen,
also Ausländer sozusagen aus chinesischer
Sicht einen Punktestand bekommen sollen
und eben entsprechende Sanktionen, die
damit verbunden sind und man hat
inzwischen festgestellt, ja, natürlich,
wer sich auf chinesischem Grund befindet,
ist mit in diesem System drin. Und das
gilt auch für Unternehmen.
Herald: Wie ist das für Chinesen, die im
Ausland wohnen?
Kolja: Soweit ich weiß, sind die davon nur
betroffen, wenn eben Daten im
chinesischen Land, in der Volksrepublik
gesammelt werden.
Thilo: Die Möglichkeit überhaupt ins
Ausland zu reisen, wird auch teilweise
abhängig gemacht vom Social Score.
D.h. es ist z.Z. unheimlich schwierig
dann im Ausland Daten zu erheben, soweit
die chinesischen Geheimdienste oder
irgendwelche anderen Institutionen eben
nicht an die Daten rankommen. Aber das,
was vorhanden ist, das wird definitiv
ausgewertet. Und solange die in China
sind, ist das natürlich ein ganz
relevanter Aspekt, um überhaupt ins
Ausland reisen zu können. Sogar schon
innerchinesische Reisen werden davon
abhängig gemacht, ob eben einen guten
Score hat oder nicht.
Herald: Wie wird das System von der
chinesischen Bevölkerung aufgenommen?
Kolja: Am Anfang war es so, dass erstmal
überhaupt keine Daten da waren, also
zumindest wurden keine Daten rausgelassen.
Dann war es so, dass festgestellt wurde,
dass ungefähr 80% der befragten
Chinesinnen und Chinesen
das System für gut befanden.
Das mag erst mal überraschend sein.
Andererseits, ich habe
nicht genau vor Augen, wie viele
Teilnehmerinnen und Teilnehmer
es an diesem System gibt. Im
Vergleich zu wie viele Leute tatsächlich
mitgemacht haben bei dieser Umfrage. Genia
Kostka, ich hoffe ich habe den Namen
richtig ausgesprochen, die hat dazu mal
eine Untersuchung gemacht, die sehr
aussagekräftig ist. Hat aber auch gesagt,
dass natürlich diejenigen, die im System
sind, die vielleicht auch nicht ganz
ehrlich sind, weil sie wissen, wenn sie
sich kritisch äußern, gibt es Minuspunkte.
Herald: Das heißt, gibt es dann eine
Gegenbewegung oder eher gar nicht?
Kolja: Es gibt auf jeden Fall diejenigen,
die sich versuchen dagegen zu wehren. Es
gibt sogenannte schwarze Listen.
Das sind diejenigen, die Zahlungen
nicht nachgegangen sind oder
sonstige Dinge gemacht haben, um
eben auf diese schwarze Liste
zu kommen. Und die versuchen dagegen
vorzugehen, weil bisher es so war,
dass, wer einmal auf der schwarzen
Liste stand, nicht wieder von
dieser schwarzen Liste runterkam. Wer auf
der schwarzen Liste stand, aber
sämtliche Sanktionen zu
befürchten hatte. Ja und da dann
wieder runterzukommen, da versuchen
die Leute sich dann eben zu engagieren.
Herald: Das ist tatsächlich gleich die
nächste Frage. Gibt es denn die
Möglichkeit, das System irgendwie
zu hacken? Oder kann man Geld
dafür zahlen, dass man bessere Punkte
bekommt? Wie würde sowas gehen?
Kolja: Das ist auch eine große Frage, mit
dem sich das Management
auseinandersetzen muss. Da gibt's schon
Nachrichten drüber und immer wieder neue
Skandale, dass da die entsprechenden
Polizeistellen, wo Daten aufgenommen
werden, wo Daten verarbeitet werden,
Stichwort Korruption, entsprechende
Leistungen in Anspruch genommen haben,
um dann Punkte zu verteilen. Ja, das wird
definitiv auch was sein, womit sich das
Management auseinandersetzen muss.
Herald: Okay. Gibt es Informationen wie
die Mitarbeiter der Firmen,
die so was umsetzen oder
das System entwickeln, dazu stehen?
Kolja: Ich weiß von einigen ganz
großen Köpfen die sagen,
na ja, es ist ein Dienst
am Volk, natürlich, wenn das Volk
vertrauensvoll ist, wenn man weiß, mit wem
man es zu tun hat, mit wem man sich
einlässt, dann profitieren davon alle,
weil natürlich auch alle gemeinsam dann zu
einer sicheren, guten Gesellschaft
beitragen. Aber ja, viele werden da
garantiert auch nicht angehört.
Herald: Seht ihr denn irgendwas Positives
an dem System? Könnt ihr dem irgendwas
abgewinnen wo ihr sagt, es hat zwar seine
Schwächen, aber es hat auch was positives?
lacht
Thilo: Also vielleicht darf ich, kann ich
noch was ergänzen zu dem, was Kolja gesagt
hat zur Akzeptanz in der chinesischen
Bevölkerung.
Kolja: Sehr gerne.
Thilo: Bei der Diskussion mit den
Chinesen, das waren natürlich
Universitätsprofessoren oder Justizbeamte
und Ähnliches, wurde uns dann auch immer
vorgehalten: "Ja, ihr in Europa, ihr habt
eine völlig andere Kultur. Wir leben mit
Konfuzius, ihr lebt mit irgendwelchen
Bürgerrechten oder ihr habt eine
Aufklärung gehabt. Die haben wir in ganz
anderer Form gehabt. Wir sind viel
kollektivistischer aufgestellt wie ihr.
Ihr seid totale Individualisten. Und bei
euch", das war das Hauptargument, "in
Europa oder in Deutschland. Da halten sich
die Leute freiwillig an die Regeln.
Während wir in China wir müssen das eben
mit Kontrolle und Überwachung eben dann
auch verifizieren bzw. steuern". Inwieweit
das zutrifft, ist natürlich schwierig zu
überprüfen, solange man den Chinesen keine
Freiheiten gibt und dass eben so ein
Freiheitsbedürfnis auch in China möglich
ist, zeigt ja gerade Hongkong. Und es ist
grad spannend eben zu sehen, wie die
Chinesische Volksrepublik Regierung eben
wirklich auch eben die Datenverarbeitung
und die systemische Überwachung der
Bevölkerung in Hongkong übernimmt und
wirklich da im Prinzip die gleichen
Systeme etabliert wie in der
Volksrepublik. Also ich denke, dass die
Bevölkerung in Hongkong eben mit
Freiheitsrechten sehr gut umging, solange
sie eben die Möglichkeit hatte, die auch
auszuleben.
Herald: Okay, kann denn der eigene
Punktestand auch abgefragt werden?
Ist es wie bei der Schufa, wo man
wenigstens 1x im Jahr nachschauen kann
oder ist es einfach so, man probiert
zu fliegen, geht's doch nicht.
Kolja: Ja, man kann das abfragen. Ich
glaube sogar, man kann das tagesaktuell
abfragen. Das Problem ist allerdings, man
kann es nicht nur selber abfragen, sondern
auch alle anderen. Bei Unternehmen ist das
vielleicht noch verständlich, weil man
dann weiß ah ist das ein Fake Unternehmen.
Wenn ich jetzt irgendwas online kaufe,
sehe ich das Produkt wirklich was ich
kaufe dann demnächst bei mir zu Hause.
Aber bei Individuuen wird es natürlich
schwierig. Die Leute prahlen im Internet
mit ihren Kontoständen. Aber diejenigen,
die einen etwas geringeren Score haben,
warum auch immer, das muss ja nicht immer
selbstverschuldet sein, sondern das kann
ja auch fremverschuldet sein. Das ist ein
wichtiger Punkt. Da wird's dann schwierig.
Herald: Ok.
Thilo: Ein großes Problem gibt's
natürlich dort, wo eben Mitarbeiter von
deutschen Firmen in China
bewertet werden und dann die
deutschen Unternehmen eben
das dann auch zur Grundlage nehmen. Ich
weiß nicht, Kolja, hast du da irgendwelche
Erfahrungen, ob es da irgendwelche
Kooperation oder irgendwelche
Datenauswertung von den deutschen Firmen
gibt? Das wäre spannend. Auf jeden Fall.
Also akzeptieren die deutschen Firmen die
Gesetze in China und nehmen das problemlos
hin, dass Uiguren verfolgt werden, obwohl
eben deutsche Investitionen im Nordwesten
von China eben dann stattfinden. Und es
wäre natürlich schon auch wichtig zu
wissen für die deutschen Unternehmen, was
mit ihren eigenen Mitarbeitern passiert.
Da gibt es auch eine gewisse
Fürsorgepflicht.
Kolja: Ja, ja genau, wenn ich ergänzen
darf. Genaue Zahlen sind mir nicht
bekannt, aber genau es ist wirklich so,
dass gerade die deutschen Unternehmen, die
entweder schon sehr lange da sind, dass
die natürlich jetzt das System
übergestülpt bekommen und jetzt gucken
müssen, wie sie klarkommen und dann
natürlich auch um ihre Lizenzen fürchten
müssen, wenn sie sich entsprechend anders
verhalten, als es gewünscht ist. Oder eben
diejenigen, die jetzt neu nach China
kommen, die sagen der Markt ist so groß,
wir müssen irgendwie damit klarkommen. Und
du hast vollkommen recht Thilo, da wird
vieles abgenickt, wo hier in Deutschland
vielleicht nur hinter verhaltener, hinter
vorgehaltener Hand gesagt wird, dass das,
das es ja so eigentlich nicht geht. Also
schwierig ja.
Herald: Macht das dann bei den nicht-
chinesischen Menschen, die mit abgefragt
werden, einen Unterschied, aus welchem
Land sie kommen? Werden Deutsche da z.B.
anderst abgefragt als Amerikaner?
Kolja: Das ist eine sehr gute Frage, da
kann ich leider nichts zu sagen, da habe
ich keine Informationen.
Herald: Ok, entschuldigung an die
Signalleute. Die Frage ist leider nicht zu
beantworten. Wie ist das denn mit
Parteifunktionären oder höheren Menschen
im chinesischen Government dort?
Werden die auch eingestuft?
Kolja: Auch so eine gute Frage, ja. Also
man weiß z.B. nicht, ob Xi Jinping
auch einen Punktestand hat, der
Staatspräsident von China. Natürlich, wenn
so was gefragt wird, dann wird immer
gesagt "Na ja, wir sind Menschen des
Volkes und wir verstehen natürlich das
Volk" und so. Aber mir ist nicht bekannt,
ob Xi Jinping z.B oder andere
Parteifunktionäre einen eigenen
Punktestand haben. Müsste ja eigentlich so
sein.
Thilo: Also was die Parteimitgliedschaft
angeht, das ist relativ klar, wie das
gehandhabt sein dürfte, wissen es also
nicht genau. Aber wer Parteimitglied ist,
das ist natürlich erst mal viele
Positivpunkte und Fehlverhalten jetzt von
solchen Parteimitgliedern wird von der
oberen Schicht ja auch voll gedeckt wie
wir es jetzt bei der Tennisspielerin
erlebt haben, wo es dann sogar
internationale Auseinandersetzungen
gegeben hat. Also ich vermute mal, dass so
was dann über den Algorithmus schon
irgendwie alles abgedämpft wird und so
gewährleistet bleibt, dass also die
Parteimitglieder und die Funktionäre, dass
die da gut wegkommen.
padeluun: Also das würde ja auch bedeuten,
dass der Score von ihm nicht abgefragt
werden kann, wenn wir gerade gehört haben,
dass eigentlich jeder diesen Score
abfragen kann. Das ist ja schon mal eine
Aussage, also eine Unterschiedlichkeit.
Ich habe es tatsächlich noch nicht
probiert. Es kann natürlich sein, dass
jeder Score abfragbar ist, aber aufgrund
enormer Verdienste für das gesamte
chinesische Volk so viele Pluspunkte
verteilt werden sag ich jetzt mal, ja,
keine Ahnung, aber wäre ja durchaus
denkbar. Ja, dass man da schon im
Vornherein
sehr im Plus ist.
Herald: Ich hab' jetzt noch eine letzte
Frage: Fühlen sich dann in China
möglicherweise die Staatsbediensteten
dadurch angehalten, etwas freundlicher zu
sein oder vielleicht vorsichtiger
vorzugehen, weil sie Sorge haben, einen
schlechteren Score zu bekommen?
Gibt es so eine Möglichkeit? Kann man sich
das Szenario vorstellen?
Kolja: Ich denke, im Einzelfall, in
Einzelfällen wird es bestimmt
der Fall sein. Es gab schon
mehrere Interviews von
Leuten, die gesagt haben wir achten in
unserer Kommune nur auf die Punkte und
halten uns auch gegenseitig dazu an,
möglichst uns entsprechend zu verhalten.
Aber natürlich, wie immer wird es diese
Einzelfälle geben und andere Einzelfälle.
Und ja, also ich glaube nicht, dass das,
das das den Menschenverstand und die Moral
und einfach eine gute Erziehung ersetzen
kann.
Katrin: Okay, so leid es mir tut, weil die
Diskussion sehr sehr spannend ist, unsere
Zeit ist leider um. Ganz, ganz herzlichen
Dank an Euch, Kolja, padeluun und Tilo.
Ich hoffe, das Zuhören und das
Mitdiskutieren hat allen großen Spaß
gemacht und ich geb nochmal zurück an
Kitty. Auch an dich Kitty, vielen vielen
Dank für deinen Support und die Fragen.
Tschüss und bis zum nächsten Mal.
Herald: Dankeschön.
Thilo: Tschüss.
Kolja: Bis dahin.
RC3 Abspannmusik
Untertitel erstellt von c3subtitles.de
im Jahr 2021. Mach mit und hilf uns!