RC3 Vorspannmusik Herald: Ein System, welches sich, zumindest überwachungstechnisch, George Orwell nicht hätte besser ausdenken können: Das Chinese Social Credit Score. Katrin Schwahlen spricht mit sehr, sehr interessanten Personen heute darüber. Katrin, wir sind gespannt. Kathrin: Ja, herzlich willkommen zu unserem Talk über das chinesische Sozialkreditsystem. Also grob gesagt ein staatliches System, das mithilfe von Algorithmen das Verhalten seiner Bürgerinnen und Bürger überwacht und steuern will. China ist zwar weit weg, spielt aber doch eine ziemlich große Rolle in und für die Welt. Und da stellt sich natürlich die Frage, wie lange das dauert, bis es sowas auch in Europa gibt. Oder gibt es das vielleicht sogar schon? Darüber will ich mich mit unseren Gästen unterhalten und möchte euch als erstes Kolja Quakernack vorstellen. Er ist Sinologe, Kalligraf und hat vier Jahre in Shanghai gelebt, der größten Industriestadt Chinas. Und er beschäftigt sich seit vielen Jahren mit dem chinesischen Sozialkreditsystem. Er hat darüber seine Masterarbeit geschrieben und auch eine Broschüre für die kurz&mündig Reihe von Digitalcourage. Und er wird uns gleich das chinesische Bonitätssystem vorstellen. Hallo Kolja, vielen Dank, dass du dir die Zeit nimmst für diesen Talk. Kolja Quakernack: Hallo, ich freue mich auf die Gäste. Katrin: Unser zweiter Gast ist Dr. Thilo Weichert. Vielen von euch ist er bekannt als Juror und Laudator der Big Brother Awards. In diesem Jahr zum Beispiel für Doctolib in der Kategorie Gesundheit. Thilo engagiert sich seit dem Volkszählungsboykott Mitte der 80er Jahre für Datenschutz. Er war 11 Jahre Landesbeauftragter für Datenschutz in Schleswig-Holstein und ist heute unter anderem Vorstandsmitglied in der Deutschen Vereinigung für Datenschutz. Herzlich willkommen, Thilo! Thilo Weichert: Ich grüße euch. Moin! Katrin: Und unseren dritten Gast kennt ihr alle. Er ist Künstler und Netzaktivist, Mitbegründer und Vorsitzender von Digitalcourage, hat die Internet Enquetekommission des Bundestags beraten und gerade mit anderen Aktivistinnen und Aktivisten Handlungsempfehlungen für Digitalpolitik formuliert und der Ampelkoalition übergeben. Schön, dass du da bist, padeluun. So, Kolja, was ist genau das chinesische Sozialkreditsystem? Und wie bist du auf dieses Thema aufmerksam geworden? Kolja: Ja, ich glaube wir machen es umgekehrt. Ich beantworte dir erst die eine Frage und dann hole ich ein bisschen aus, um das Sozialkreditsystem vorzustellen. Ich habe tatsächlich davon gelesen, während ich in Shanghai war und bin dann wirklich daran kleben geblieben, weil ich dachte, so ein gigantisches Konstrukt was da geplant ist, was wirklich in alle Lebensbereiche irgendwie vordringen wird, da will ich mehr drüber wissen und habe mich dann mehr und mehr sozusagen in die Abgründe vertieft. Und jetzt sitze ich hier und darf mich mit euch unterhalten. Aber damit wir alle so ein bisschen auf den gleichen Stand kommen, wenn ich wirklich alles sozusagen erzählen würde, was es zu wissen gibt, was eine ganze Menge gibt, was natürlich eine ganze Menge ist, dann würde das den Rahmen hier sprengen. Deswegen versuche ich kurz ein kleines bisschen, kurz und knackig zu erzählen, was das Sozialkreditsystem eigentlich ist. Ich habe keine Slides o.ä. vorbereitet. Das würde uns viel zu viel Zeit bei unserem Talk nehmen, sondern ich habe hier ganz klassisch traditionell ein paar Stichpunkte vor mir liegen. Wenn ich also nach unten gucke, dann weil ich versuche, nichts zu vergessen. Aber ja, ganz kurz vielleicht. Die derzeitige Situation in China, die das Sozialkreditsystem dann hervorgebracht hat, ist folgende: Und zwar gibt es eine verhältnismäßig hohe Kriminalitätsrate, zum Beispiel Korruption, Betrügereien etc., ohne dass zum Teil verlässliche Strafen umgesetzt werden können. Dem soll natürlich entgegen gearbeitet werden. Dann sollen die Nutzerinnen des Internets, die Nutzerinnen und Nutzer, nicht so ungezügelt sein und natürlich die Stabilität in der Gesellschaft und auch in der Politik gefestigt werden. Und die Lösung, die jetzt Staatspräsident Xi Jinping hat, ist eben das Sozialkreditsystem. Das Sozialkreditsystem soll jedem Individuum eine gewisse Vertrauens- und Kreditwürdigkeit bescheinigen, sodass Bürgerinnen und Bürger sich ein Bild von Geschäftspartnern, aber auch von Nachbarinnen und Nachbarn und von Menschen, mit denen sie verkehren, machen können. Und man muss jetzt dazu sagen, es gibt nicht nur ein einziges Sozialkreditsystem, sondern es gibt in Dutzenden Städten mehrere Konzepte, die sozusagen ausprobiert werden. Und 2014 wurde das Ganze erstmals implementiert für eine Testphase bis 2020. Das heißt, wir haben jetzt gerade die Situation, dass ganz viele Daten analysiert werden, wie die Leute das System angenommen haben, wie das angekommen ist. Und ja, wir sind jetzt gespannt, was aus all diesen Daten gemacht wird. Wie in Zukunft dann die Version 2.0 sozusagen aussehen soll. Die dann wiederum verbindlich im ganzen Land implementiert werden soll. Das Konzept des Sozial- kreditsystems ist relativ einfach. Und zwar: Um die Vertrauenswürdigkeit einer Person einschätzen zu können, werden Daten dieser Person gesammelt, und zwar alle möglichen Arten von Daten. Alle möglichen Daten, die man bekommen kann. Offline- Verhalten, Online-Verhalten, also Online- Verhalten, sprich das Kaufverhalten auf zum Beispiel Taobao, also dem chinesischen Äquivalent von Ebay. Chatverläufe werden mitgelesen, GPS-Daten vom Smartphone werden ausgelesen, Accounts, Mitgliedschaften, Apps, die genutzt werden, alles was eben zur Verfügung steht. Nebenbei sei noch gesagt: Es gibt umfangreiche Datenschutzgesetze in China, aber die Umsetzung, daran hapert es dann doch, sodass das in dem Sinne kein Thema ist. Offline-Verhalten, Ämter, Behörden, alle teilen ihre Daten in einer ziemlich großen Cloud, wo alles gesammelt wird zu jeder Person. Und hinzu kommen neueste Erfindungen wie Videoüberwachung, Spracherkennung, Gesichtserkennung, sogar Gangerkennungssoftware. Alles um eben das aufgenommene Verhalten, was man wahrnimmt sozusagen, auch wirklich einer konkreten Person zuordnen zu können. Da geht es dann um Mülltrennung, um Straßenverkehrsdelikte, all diese Dinge. Man will ja möglichst genau festlegen können, zu welcher Person eben diese Handlung gehört. Alle Daten werden in Echtzeit registriert und von einem Algorithmus, über den im Grunde genommen nichts offiziell bekannt ist, analysiert und bewertet. Jetzt gibt es ein Verhalten, das wünschenswert ist und es gibt Verhalten, das nicht wünschenswert ist. Für wünschenswertes Verhalten, zum Beispiel, wenn man sich um seine Eltern kümmert, die krank sind oder einfach pietätvoll besucht, wenn man ehrenamtliches Engagement zeigt, und Ähnliches. Dann gibt es Pluspunkte. Wenn man aber unerwünschtes Verhalten an den Tag legt, zum Beispiel Gesetze bricht oder ähnliches, dann gibt es Minuspunkte. All das wird auf einem digitalen Konto festgelegt. Und ist sogar offiziell einsehbar für jede und jeden. Wenn man jetzt einen besonders hohen Kontostand hat, dann werden verschiedene Privilegien freigeschaltet. Zum Beispiel bekommt man einen kostenlosen Bibliotheksausweis. Man ist befreit von verschiedenen Kautionszahlungen, und ähnlichem. Wenn man einen niedrigen Punktestand hat, dann werden ziemlich massive Sanktionen wirksam. Das geht dann los mit man bekommt keine 1.-Klasse Tickets mehr für den Zug, sondern muss dann die harten Holzbänke nehmen und es geht dann immer so weiter und wird schlimmer, dass man irgendwann die Reisefreiheit ganz eingeschränkt bekommt. Man bekommt keine Auslandsvisa mehr ausgestellt, man kann keine Flugtickets mehr kaufen. Das geht sogar so weit, dass die eigenen Kinder irgendwann keine guten Schulen mehr besuchen können. Berufliche Entwicklungen werden verwehrt und so weiter. Das heißt, was damit im Grunde genommen auch bezweckt werden soll, ist die Umerziehung des Volkes, oder der Bürgerinnen und Bürger, zu gutem Verhalten hin. So, da möchte ich jetzt gleich schon ein paar Kritikpunkte mit einbringen. Und zwar lässt sich das teilen in technische Mängel bei dem System. Allerdings können wir die gleich auslassen. 1. kenne ich mich dafür technisch nicht gut genug aus und 2. würde das dann wirklich den Rahmen sprengen. Aber es gibt soziale und ethische Probleme, die glaube ich hochinteressant sind für uns auch heute, und natürlich Herausforderungen für das Management selbst. Die sozialen und ethischen Probleme sind zum Beispiel folgende: Ich habe gerade gesagt, es soll gutes Verhalten anerzogen werden. Wer entscheidet denn, was gutes Verhalten ist? Und da liegt schon der Casus Knacktus. Die Sozialkreditsysteme, im Moment sind es ja noch mehrere, sind zwar offiziell in privater Hand von den großen Tech-Firmen wie Tencent, Alibaba und wie sie alle so heißen, aber eben nur offiziell. Inoffiziell behält sich die Kommunistische Partei Chinas vor, ohne Angabe von Gründen, Dinge in diesem System verändern zu können und sogar retrospektiv verändern zu können. Das heißt, unerwünschtes Verhalten kann zum Beispiel angepasst werden. Retrospektiv heißt in diesem Kontext, wenn die Kommunistische Partei heute etwas, ja, als unerwünscht festlegt, was gestern noch in Ordnung war, dann wird man auch heute noch für das Verhalten von gestern bestraft. Wenn ich also heute mit meinen Freunden auf dem Weihnachtsmarkt Glühwein trinke und morgen wird es bestraft, weil das Verzehr von Alkohol ist. Dann werde ich auch morgen bestraft dafür, obwohl es heute noch völlig in Ordnung ist. Ja, und das Ganze schürt natürlich oder erleichtert auch die Verfolgung von Minderheiten. Dabei ist egal, ob es um Homosexuelle geht oder um ethnische Minderheiten, Uiguren, was ja auch viel in den Medien im Moment diskutiert wird. Ja, und das sind natürlich Dinge, die uns entsprechend beschäftigen werden. Dann wird der Algorithmus vorgeschoben. Die Kommunistische Partei und überhaupt alle Betreiber des Systems waschen die eigenen Hände in Unschuld und sagen, ihr seid doch für euer eigenes Handeln selbst verantwortlich. Handelt so, wie wir euch das vorgeben und dann habt ihr auch nichts zu befürchten. Auch das ist garantiert ein Punkt, über den man streiten kann, weil natürlich das System menschengemacht ist und entsprechende Mechanismen vom Menschen justiert und nachjustiert werden. Ja, und ein weiterer Punkt, der auch unbedingt genannt werden sollte: Solidarität, Nächstenliebe, Zwischenmenschlichkeit, all diese Punkte gehen natürlich mehr und mehr verloren, weil die Leute nicht mehr Handeln aus reiner Nächstenliebe, sondern um Punkte zu gewinnen oder wenigstens um keine Punkte zu verlieren. Also auch da, die Moral, wie wir wissen, ist ein Muskel, der entsprechend gepflegt werden will. Und wenn andere einem das Denken abnehmen, dann wird das ganze schwierig, wenn das System irgendwann vielleicht mal wieder abgestellt wird und wir überhaupt keinen inneren Kodex mehr haben, wie wir eigentlich handeln wollen. Herausforderungen an das Management, und dann bin ich auch gleich am Ende. Es geht natürlich darum, internen Missbrauch zu verhindern. Dass diejenigen, die das Ganze einstellen, so einstellen, dass es, ja, verträglich ist. Ist vielleicht ein sehr starkes Wort. Ja, und natürlich externe Angriffe, Hackerangriffe, Datenlecks etc. Auch damit muss umgegangen werden. Und es muss natürlich eine völlig neue Gesetzesgrundlage geschaffen werden, dass das Sozialkreditsystem transparent wird. Das ist auch ein großes Problem derzeit. Dieser Algorithmus ist in seiner Tiefe überhaupt nicht durchschaubar. Es ist, den Leuten ist nicht bekannt, warum sie den Punktestand haben, den sie haben. Ja, in diesem Sinne denke ich, wir haben einiges, über das wir sprechen können. Es sei an dieser Stelle noch ganz kurz ein Video empfohlen. Und zwar wie gesagt, mir ist klar, dass wir jetzt, dass ich hier ziemlich durchgaloppiert bin. Aber es gibt ein wunderbares Video von Antonia Hmaidi von der Universität Duisburg, auch auf YouTube. Die war vor 3 Jahren an dieser Stelle hier und hat ein Video über das Sozialkreditsystem erstellen lassen und hat da eben noch mal sehr ausführlich drüber gesprochen. Also herzliche Empfehlung. Oder wer gerne liest, wie gesagt, diese nette kleine Broschüre hier, die ich geschrieben habe mit redaktioneller Begleitung von Katrin Schwahlen im Art d'Ameublement-Verlag, möchte ich an dieser Stelle auch herzlich empfehlen. So. Ja, vielen Dank erstmal soweit. Katrin: Dankeschön, Kolja. Aber das klingt ja schon auch ziemlich gruselig. Du hast zwar gesagt, es gibt Datenschutz in China. Gibt es denn auch sowas wie eine Bürger*innenbewegung? Kolja: Nichts, was wirklich so mächtig ist, dass es Dinge verändern kann. Weil die, die Unzufriedenheit im Volk, die ist da. Die ist auch lange da. Es gibt jeden Tag hunderte Demonstrationen, die natürlich unangekündigt sind, weil sie sonst nicht gestattet werden, und Ähnliches. Die meisten kriegen wir hier gar nicht mit. Also die Unzufriedenheit ist da, aber es wird natürlich alles sofort, ja, zerschlagen, wenn man so will. Katrin: Okay, Sozialkreditsystem, also dieser Begriff hat mich am Anfang ein bisschen verwirrt, weil sozial hört sich erst mal gut an, Kredit , na ja, geht irgendwie so. Ist das gleichbedeutend mit Bonitätssystemen, wie wir sie hier in Deutschland haben? Das wäre meine Frage an dich, Thilo. Bonitätssysteme wie beispielsweise die Schufa oder andere Auskunftsdateien, wie unterscheiden die sich vom chinesischen Sozialkreditsystem? Kann man das so einfach auf den Punkt bringen? Thilo: Also es gibt eine ganze Menge von Ähnlichkeiten, aber es gibt auch einige Unterschiede und auf die kommt es dann tatsächlich auch an. Aber vorneweg muss ich erst mal auch eine Information geben. Ich war 2017 in Shanghai auf Einladung von der Friedrich-Ebert-Stiftung. Und dort wurde ich eingeladen, um eben über die Schufa und über andere Kreditsbonitätssysteme zu referieren und eben auch den Vergleich mit den chinesischen Systemen zu machen. Da ging es insbesondere auch um die Frage, wie weit kann in China Akzeptanz geschaffen werden für ein System, was in Deutschland mehr oder weniger akzeptiert ist? Und insofern habe ich auch so ein bisschen jetzt auch Einblick nehmen können vor Ort. Das was aber publiziert wird, das geht weit über das hinaus, was ich tatsächlich dann dort offengelegt bekommen habe. Ich durfte mir zwar die Computer anschauen und die Räumlichkeiten, in denen das Ganze untergebracht ist. Aber wenn es dann wirklich darum ging, wirklich harte Fakten nachzufragen, da ist dann meistens gemauert worden. Es gibt einen riesigen Unterschied, und zwar den, der hat sich auch bei diesen Vorträgen und Diskussionen herausgeschält. Ich habe immer wieder das Wort Bürgerrechte, Menschenrechte in den Mund genommen und darauf gab es keinerlei Resonanz. Wir haben Menschenrechte, wir haben Bürgerrechte, die sind weltweit auch garantiert. Und zu denen gehört auch das Recht auf Privatsphäre oder jetzt in modernerer Form eben das Grundrecht auf Datenschutz in der Europäischen Grundrechtecharta oder dann auch vom Verfassungsgericht in der deutschen Verfassung abgeleitet. Also das ist ganz zentral. Ein weiterer Punkt ist, dass diese Grundrechte eben auch einklagbar sind. Das heißt also, man kann vor Gericht eben auch einfordern, dass die eingehalten werden. Und das ist zwar in China auch teilweise möglich, Kolja hat schon darauf hingewiesen, dass es Datenschutzgesetze gibt. Die werden auch von Gerichten überprüft. Die werden aber natürlich nicht überprüft, wenn die Polizei diese Daten nutzt und sie werden erst recht nicht überprüft auf das, was im Bild das Relevante ist, auf die Vorgaben, die durch die Kommunistische Partei gemacht werden. Also das heißt, was die Kommunistische Partei an Vorgaben macht und welche Daten abgefragt werden oder wie die Daten auf Befehl der Kommunistischen Partei ausgewertet werden, das ist ein absolutes Tabu. Und dann haben wir natürlich die Regelung, die dann auch aus unserer Verfassung abgeleitet wird, die in Grundrechtecharta drin steht. Wir haben die Zweckbindung. Das heißt, Daten dürfen grundsätzlich nur für den Zweck genutzt werden, für den sie erhoben worden sind. Und wenn sie für einen anderen Zweck verwendet werden, dann bedarf es dafür einer angemessenen gesetzlichen Grundlage, die als Legitimation für diese Nutzung eben dann auch verwendet wird. Und das ist natürlich dann schon etwas, was eigentlich dann den Austausch zwischen Polizeidaten, Straßenverkehrsdaten, Bonitätsdaten, Konsumdaten, und Familiendaten, und wer weiß was, eigentlich verbietet. Aber, und da ist dann wieder das Problem, wir haben auch in Deutschland viele Regelungen, die eben Netzwerkaufhebung auch erlauben. Und da muss man sich dann eben genau angucken, welche anderen Zwecke sind erlaubt. Das Verfassungsgericht, der Europäische Gerichtshof sind da relativ eng. Die sagen, es muss nicht nur eine klare gesetzliche Grundlage geben, sondern es müssen auch verfahrensrechtliche Vorkehrungen vorgesehen werden. Und was Kolja auch schon beschrieben hat, was in China fehlt: Transparenz. Das wird sowohl vom EuGH als auch vom Bundesverfassungsgericht immer wieder eingefordert. Eben, dass die Betroffenen sich einschätzen, oder dass sie einschätzen können, was mit ihren Daten passiert und welche Folgen aus ganz bestimmten Daten folgen, sich ergeben können. Also ich denke, da gibt es einen Riesenunterschied. Was aber trotzdem natürlich auch in Europa, in Deutschland existiert: Wir haben künstliche Intelligenz, wir haben Algorithmen und diese Algorithmen sind bisher sehr intransparent. Der Bundesgerichtshof hat eine Entscheidung zum Scoring Verfahren bei der Schufa getroffen, wo der Schufa zugestanden wird, ihr Score Verfahren, also ihr Algorithmus als Betriebs- und Geschäftsgeheimnisse gegenüber den Betroffenen geheim halten zu können. Das hat zur Folge, dass selbst Aufsichtsbehörden - ich war damals noch Chef einer Aufsichtsbehörde und habe das versucht irgendwo transparent zu machen, dass es selbst uns untersagt war, eben in diese Algorithmen reinzuschauen bzw. die zu kontrollieren und die zu hinterfragen. Ob sich das jetzt in Zukunft ändert, wird sich zeigen. Die Europäische Kommission hat einen Vorschlag für eine KI-Richtlinie gemacht. Also eine Richtlinie zur künstlichen Intelligenz, die natürlich bei der, in diesem ganzen Scoring Verfahren zum Einsatz kommt. Und dort ist vorgesehen, dass Transparenz geschaffen wird, dass also dann künstliche Intelligenz Einsatz zum Beispiel in der Werbung als weniger problematisch angesehen wird, wie eben jetzt der Einsatz von künstlicher Intelligenz bei der Polizei oder bei Bonitätsbewertung. Auch Bonitätsbewertung, also die Bewertung der Zahlungsfähigkeit und Zahlungsbereitschaft, ist also ein ganz zentraler Punkt auch von diesem Richtlinienvorschlag. Die werden also relativ hoch eingestuft. Aber dann auch alle Verfahren, wo künstliche Intelligenz zum Einsatz kommt und wo es dann, ja, existenzielle Folgen für die Betroffenen haben könnte. Und das ist ja in China umfassend so. Also das, was der Algorithmus auswirft, das ist bestimmend für unser Leben, oder für das Leben der Chinesen. Das ist aber natürlich auch bei dem Schufa Score, bei anderen Scoring Verfahren der Fall. Und wenn ich einen schlechten Schufa Score habe und der ist nicht hinreichend transparent, dann kann es bedeuten, dass ich meinen Beruf nicht bekomme, dass ich nen Telekommunikations- vertrag nicht bekomme, dass ich auf jeden Fall keinen Kredit bekomme, dass ich nicht online einkaufen kann. Also es gibt eine Vielzahl von Konsequenzen, die wir auch in Deutschland haben. Also insofern ist es also tatsächlich auch ein riesiges Problem. Und wir haben natürlich auch in Europa und in Deutschland die Begehrlichkeiten, die auch in China existieren, die hier durch die Gerichte gebremst werden, auch durch die Datenschutzbehörden, nur teilweise gebremst werden. Und diese Begehrlichkeiten gehen weit über das hinaus, was von den Gerichten akzeptiert wird. Wir haben zum Beispiel ein Bonitätsverfahren von einem polnischen Firma - in Deutschland wurde es nicht etabliert, weil eben der Widerstand so groß ist - dass eben nicht nur Daten aus dem Finanzgebaren von einem Menschen analysiert, sondern zum Beispiel auch die Internetaktivitäten auswertet und daraus Rückschlüsse zieht auf die Bonität. Oder dann auch die Schufa. Die schließt aus der Wohngegend zurück auf die Bonität. Das heißt, wenn ich also Nachbarn habe, die schlecht beleumundet sind, die ihre Kredite nicht zurückbezahlen, dann wird unterstellt, dass ich als Nachbar sozusagen eben auch meine Kredite nicht zurückbezahle. Wenn keine sonstige Information vorhanden ist. Das hat zum Beispiel zur Folge gehabt, dass ich erst mal, als ich in einer anderen Gegend gewohnt habe, nega, einen absolut schlechten Score gehabt habe bei der Schufa. Das hat sich jetzt geändert, nachdem ich in Kiel in die Innenstadt gezogen bin. Also auch da zeigt sich, dass das Problem immer noch existiert, dass wir das Problem in der Transparenz haben, dass wir eben auch in einer absolut, ja, im wahrsten Sinne des Wortes auch im Neuland uns befinden. Weil eben solche Firmen wie die Schufa, wie Infoscore, wie Creditreform und viele anderen, Universum, also diese ganzen Bonitätsbewertungsfirmen, sich die Daten aus allen möglichen Quellen zusammenzusuchen versuchen. Und die Schufa zum Beispiel ist immer wieder berühmt und berüchtigt dadurch geworden, dass sie eben Daten aus definitiv illegitimen Quellen zu schöpfen versucht hat. Und da gab es dann aber öffentlich Widerstand. Den gibt es eben nur ganz verhalten in China. Und dieser Widerstand ist im Prinzip das Wesentliche, um eben solche Auswüchse von Algorithmennutzung und von solchen Bonitätsverfahren zu verhindern. Katrin: Danke Thilo, das war schon mal ein ziemlich großer Einblick. Wobei es ja hier in Deutschland nicht nur so ist, dass bonitätsbezogene Daten abgefragt werden, sondern wir haben ja auch noch viele andere Formen von Überwachung aufgrund von KI. Sei es die Vorratsdatenspeicherung, sei es die Gesichtserkennung, also die Kameras beispielsweise am Berliner Bahnhof Südkreuz, Staatstrojaner, Telekommunikationsüberwachung. Padeluun, wie ist es deiner Einschätzung nach möglich oder unmöglich, so chinesische Bonitäts- oder Überwachungssysteme als Ganzes oder in Einzelteilen in Deutschland umzusetzen? padeluun: Na ja, ich hoffe, dass das nicht möglich ist - Gelächter - und das hoffe ich, hoffen wir alle anderen auch. Aber ich glaube, diese Hoffnung wird versucht, immer wieder zu unterlaufen. Also es gibt eine Menge Leute, auch in Deutschland, die sich überhaupt kein Problem damit haben, dass alle anderen drangsaliert werden. Hauptsache ihnen geht es gut. Dass das natürlich nicht funktioniert, sondern sie dann auch selber auch drangsaliert werden, das erschließt sich ihnen nicht. Also die Psychologie, die hinter diesen ganzen Überwachungen steckt, die finde ich super interessant. Und ich hoffe eigentlich immer mal, dass bei einer psychologischen Fakultät einfach auch mal überlegt wird, was führt eigentlich dazu, dass Menschen sowas mit sich machen lassen? Wie kommt es, dass sie sagen, das sei eine gute Geschichte? Oder es ist schon richtig, wenn der Nachbar mal gezeigt geht, wo es lang geht und so. Und da mag ich mal eine Polizistin zitieren, die ich in einem Seminar hatte, das ich gab. Sie sagte: "Na ja, da kommen die Leute und sagen wir möchten gerne, dass vor dem Kindergarten mehr Geschwindigkeit überwacht wird. Weil die fahren da alle viel zu schnell. Und sind dann super entsetzt, dass sie selber diejenigen sind, die in die Geschwindigkeitskontrollen ausgewunken werden, weil sie die Leute sind, die ihre Kinder mit zu hohem Tempo zum Kindergarten bringen. Und ich will jetzt nicht dafür plädieren, dass man vor Kindergärten rasen soll. Aber sich wirklich Gedanken zu machen, wie schaffen wir es, möglichst unsere Nachbarn, sozusagen seinen kranken Nachbarn auch dazu zu bringen, sich eben tatsächlich für eine, für Freiheit einzusetzen? Und da meine ich nicht die Freiheit auf der Straße rumzukrakelen, nach dem Motto, ich will aber nicht erwachsen werden. Sondern eher im Sinne von, ich bin ein erwachsener Mensch, ich brauche nicht überwacht werden. Ich mache auch nichts Böses. Ich lasse mir meine Fingerabdrücke nicht abnehmen. Ich möchte nicht in einem Bonitätssystem rum agieren und mache da dran auch nicht mit. Und auch ab wann Leute wieder anfangen zu begreifen, dass das eben eine politische Forderung ist, die ich auch politisch versuchen muss durchzusetzen. Und durchsetzen kann ich das nur, wenn ich meinen Bundestagsabgeordneten, meinen Parlamentariern den Rücken stärke und, also man nennt das auch manchmal sie unter Druck setzen, aber das finde ich gar nicht das richtige Wort. Sondern einfach auch mit den Leuten diskutieren und eben sagen, wenn schon wieder mal einer eurer Innenpolitiker*innen, kann man ja mittlerweile sagen, ankommt und sagt, wir wollen jetzt gerne weiter mehr Überwachung, mehr Sicherheit, das dann wirklich zu hinterfragen und zu fragen, was da los ist. Also ich habe zum Beispiel rausgefunden, dass das meiste, was in den letzten 30 Jahren, in denen ich in dem Thema auch von innerer Sicherheit arbeite und dauernd mit irgendwelchen unsinnigen Forderungen von Politikern zu tun hat, was sie alles sicherer machen wollen, eigentlich nur so Sicherheitstheater gemacht wurde. Weil das eben ganz wunderbar im Wahlkampf funktioniert, den Leuten mehr Sicherheit zu versprechen, obwohl wir in einem der sichersten Länder der Erde sitzen. Was aber tatsächlich nicht gemacht wurde, da wo es um echte Sicherheit geht, nämlich z.B. Gesundheitsämter so auszustatten, dass bei einer Globalisierung die zu erwartende Pandemie gut bekämpft werden kann im Ansatz. Das ist nicht geschehen. Also wir haben die ganze Zeit damit zu tun, dass uns billige Sachen, die recht einfach sind, wie, wir bauen einfach mal überall Überwachungskameras hin und kassieren pro Standleitung 850 Euro im Monat, weil dann können wir viel Steuergelder in private Kassen umlenken. Das funktioniert. Aber Gesundheitsämter auszustaffieren mit einer notwendigen IT, mit einem Konzept, auch mit einer STIKO, die genügend Leute hat, um Entscheidungen treffen zu können. Das wird halt nicht gemacht. Das ist halt komplizierter. Das ist halt nicht so einfach. Und ich glaube, da müssen wir als Bevölkerung wirklich uns überlegen, wie wir dafür sorgen, politisch entsprechend zu agieren. Klar, eine der Möglichkeiten ist es, Organisationen zu gründen, die da dran arbeiten. Ich habe so etwas mitgemacht, also Digitalcourage ist eine der Organisationen, die sich darum kümmert. Und wenn ich jetzt selber dafür keine Zeit habe, weil ich doch lieber meinem anderen Job nachgehe, der mir mehr Spaß macht, dann muss ich halt solche Organisation unterstützen. Was mich aber nicht davon entbindet, mindestens einmal im Monat etwas zu tun, was politisch notwendig is und sei es auch nur mal zu einer Veranstaltung zu gehen, die meine Bundestagsabgeordnete oder mein Bundestagsabgeordneter in meiner Stadt veranstaltet, um dort zuzuhören und vielleicht auch mich dort einzubringen. Katrin: Danke padeluun, das war wirklich ein guter Aufruf und ich möchte an dieser Stelle an Kitty weitergeben, die nämlich über den Chat und die sozialen Medien schon ganz, ganz viele Fragen gesammelt hat. Das heißt, das Thema ist wirklich ein sehr bewegendes Thema, Kitty. Herald: Erst mal vielen, vielen lieben Dank. Extrem spannend. Ich denke, das interessiert ja wirklich alle extremst deswegen es gibt sehr, sehr viele Fragen. Wir fangen gleich an. Wie stark sind die Auswirkungen auf Nicht-Chinesische Unternehmen oder z.B. auch Universitäten? Kolja: Ja, das nehme ich einfach mal auf meine Kappe. Alle Unternehmen, alle Individuen, die im chinesischen Raum leben, also im Festland chinesischen Raum, in der Volksrepublik, sind davon betroffen. Lange war überlegt worden oder es war zumindest nicht kommuniziert worden, ob sozusagen auch Nicht-Chinesen, also Ausländer sozusagen aus chinesischer Sicht einen Punktestand bekommen sollen und eben entsprechende Sanktionen, die damit verbunden sind und man hat inzwischen festgestellt, ja, natürlich, wer sich auf chinesischem Grund befindet, ist mit in diesem System drin. Und das gilt auch für Unternehmen. Herald: Wie ist das für Chinesen, die im Ausland wohnen? Kolja: Soweit ich weiß, sind die davon nur betroffen, wenn eben Daten im chinesischen Land, in der Volksrepublik gesammelt werden. Thilo: Die Möglichkeit überhaupt ins Ausland zu reisen, wird auch teilweise abhängig gemacht vom Social Score. D.h. es ist z.Z. unheimlich schwierig dann im Ausland Daten zu erheben, soweit die chinesischen Geheimdienste oder irgendwelche anderen Institutionen eben nicht an die Daten rankommen. Aber das, was vorhanden ist, das wird definitiv ausgewertet. Und solange die in China sind, ist das natürlich ein ganz relevanter Aspekt, um überhaupt ins Ausland reisen zu können. Sogar schon innerchinesische Reisen werden davon abhängig gemacht, ob eben einen guten Score hat oder nicht. Herald: Wie wird das System von der chinesischen Bevölkerung aufgenommen? Kolja: Am Anfang war es so, dass erstmal überhaupt keine Daten da waren, also zumindest wurden keine Daten rausgelassen. Dann war es so, dass festgestellt wurde, dass ungefähr 80% der befragten Chinesinnen und Chinesen das System für gut befanden. Das mag erst mal überraschend sein. Andererseits, ich habe nicht genau vor Augen, wie viele Teilnehmerinnen und Teilnehmer es an diesem System gibt. Im Vergleich zu wie viele Leute tatsächlich mitgemacht haben bei dieser Umfrage. Genia Kostka, ich hoffe ich habe den Namen richtig ausgesprochen, die hat dazu mal eine Untersuchung gemacht, die sehr aussagekräftig ist. Hat aber auch gesagt, dass natürlich diejenigen, die im System sind, die vielleicht auch nicht ganz ehrlich sind, weil sie wissen, wenn sie sich kritisch äußern, gibt es Minuspunkte. Herald: Das heißt, gibt es dann eine Gegenbewegung oder eher gar nicht? Kolja: Es gibt auf jeden Fall diejenigen, die sich versuchen dagegen zu wehren. Es gibt sogenannte schwarze Listen. Das sind diejenigen, die Zahlungen nicht nachgegangen sind oder sonstige Dinge gemacht haben, um eben auf diese schwarze Liste zu kommen. Und die versuchen dagegen vorzugehen, weil bisher es so war, dass, wer einmal auf der schwarzen Liste stand, nicht wieder von dieser schwarzen Liste runterkam. Wer auf der schwarzen Liste stand, aber sämtliche Sanktionen zu befürchten hatte. Ja und da dann wieder runterzukommen, da versuchen die Leute sich dann eben zu engagieren. Herald: Das ist tatsächlich gleich die nächste Frage. Gibt es denn die Möglichkeit, das System irgendwie zu hacken? Oder kann man Geld dafür zahlen, dass man bessere Punkte bekommt? Wie würde sowas gehen? Kolja: Das ist auch eine große Frage, mit dem sich das Management auseinandersetzen muss. Da gibt's schon Nachrichten drüber und immer wieder neue Skandale, dass da die entsprechenden Polizeistellen, wo Daten aufgenommen werden, wo Daten verarbeitet werden, Stichwort Korruption, entsprechende Leistungen in Anspruch genommen haben, um dann Punkte zu verteilen. Ja, das wird definitiv auch was sein, womit sich das Management auseinandersetzen muss. Herald: Okay. Gibt es Informationen wie die Mitarbeiter der Firmen, die so was umsetzen oder das System entwickeln, dazu stehen? Kolja: Ich weiß von einigen ganz großen Köpfen die sagen, na ja, es ist ein Dienst am Volk, natürlich, wenn das Volk vertrauensvoll ist, wenn man weiß, mit wem man es zu tun hat, mit wem man sich einlässt, dann profitieren davon alle, weil natürlich auch alle gemeinsam dann zu einer sicheren, guten Gesellschaft beitragen. Aber ja, viele werden da garantiert auch nicht angehört. Herald: Seht ihr denn irgendwas Positives an dem System? Könnt ihr dem irgendwas abgewinnen wo ihr sagt, es hat zwar seine Schwächen, aber es hat auch was positives? lacht Thilo: Also vielleicht darf ich, kann ich noch was ergänzen zu dem, was Kolja gesagt hat zur Akzeptanz in der chinesischen Bevölkerung. Kolja: Sehr gerne. Thilo: Bei der Diskussion mit den Chinesen, das waren natürlich Universitätsprofessoren oder Justizbeamte und Ähnliches, wurde uns dann auch immer vorgehalten: "Ja, ihr in Europa, ihr habt eine völlig andere Kultur. Wir leben mit Konfuzius, ihr lebt mit irgendwelchen Bürgerrechten oder ihr habt eine Aufklärung gehabt. Die haben wir in ganz anderer Form gehabt. Wir sind viel kollektivistischer aufgestellt wie ihr. Ihr seid totale Individualisten. Und bei euch", das war das Hauptargument, "in Europa oder in Deutschland. Da halten sich die Leute freiwillig an die Regeln. Während wir in China wir müssen das eben mit Kontrolle und Überwachung eben dann auch verifizieren bzw. steuern". Inwieweit das zutrifft, ist natürlich schwierig zu überprüfen, solange man den Chinesen keine Freiheiten gibt und dass eben so ein Freiheitsbedürfnis auch in China möglich ist, zeigt ja gerade Hongkong. Und es ist grad spannend eben zu sehen, wie die Chinesische Volksrepublik Regierung eben wirklich auch eben die Datenverarbeitung und die systemische Überwachung der Bevölkerung in Hongkong übernimmt und wirklich da im Prinzip die gleichen Systeme etabliert wie in der Volksrepublik. Also ich denke, dass die Bevölkerung in Hongkong eben mit Freiheitsrechten sehr gut umging, solange sie eben die Möglichkeit hatte, die auch auszuleben. Herald: Okay, kann denn der eigene Punktestand auch abgefragt werden? Ist es wie bei der Schufa, wo man wenigstens 1x im Jahr nachschauen kann oder ist es einfach so, man probiert zu fliegen, geht's doch nicht. Kolja: Ja, man kann das abfragen. Ich glaube sogar, man kann das tagesaktuell abfragen. Das Problem ist allerdings, man kann es nicht nur selber abfragen, sondern auch alle anderen. Bei Unternehmen ist das vielleicht noch verständlich, weil man dann weiß ah ist das ein Fake Unternehmen. Wenn ich jetzt irgendwas online kaufe, sehe ich das Produkt wirklich was ich kaufe dann demnächst bei mir zu Hause. Aber bei Individuuen wird es natürlich schwierig. Die Leute prahlen im Internet mit ihren Kontoständen. Aber diejenigen, die einen etwas geringeren Score haben, warum auch immer, das muss ja nicht immer selbstverschuldet sein, sondern das kann ja auch fremverschuldet sein. Das ist ein wichtiger Punkt. Da wird's dann schwierig. Herald: Ok. Thilo: Ein großes Problem gibt's natürlich dort, wo eben Mitarbeiter von deutschen Firmen in China bewertet werden und dann die deutschen Unternehmen eben das dann auch zur Grundlage nehmen. Ich weiß nicht, Kolja, hast du da irgendwelche Erfahrungen, ob es da irgendwelche Kooperation oder irgendwelche Datenauswertung von den deutschen Firmen gibt? Das wäre spannend. Auf jeden Fall. Also akzeptieren die deutschen Firmen die Gesetze in China und nehmen das problemlos hin, dass Uiguren verfolgt werden, obwohl eben deutsche Investitionen im Nordwesten von China eben dann stattfinden. Und es wäre natürlich schon auch wichtig zu wissen für die deutschen Unternehmen, was mit ihren eigenen Mitarbeitern passiert. Da gibt es auch eine gewisse Fürsorgepflicht. Kolja: Ja, ja genau, wenn ich ergänzen darf. Genaue Zahlen sind mir nicht bekannt, aber genau es ist wirklich so, dass gerade die deutschen Unternehmen, die entweder schon sehr lange da sind, dass die natürlich jetzt das System übergestülpt bekommen und jetzt gucken müssen, wie sie klarkommen und dann natürlich auch um ihre Lizenzen fürchten müssen, wenn sie sich entsprechend anders verhalten, als es gewünscht ist. Oder eben diejenigen, die jetzt neu nach China kommen, die sagen der Markt ist so groß, wir müssen irgendwie damit klarkommen. Und du hast vollkommen recht Thilo, da wird vieles abgenickt, wo hier in Deutschland vielleicht nur hinter verhaltener, hinter vorgehaltener Hand gesagt wird, dass das, das es ja so eigentlich nicht geht. Also schwierig ja. Herald: Macht das dann bei den nicht- chinesischen Menschen, die mit abgefragt werden, einen Unterschied, aus welchem Land sie kommen? Werden Deutsche da z.B. anderst abgefragt als Amerikaner? Kolja: Das ist eine sehr gute Frage, da kann ich leider nichts zu sagen, da habe ich keine Informationen. Herald: Ok, entschuldigung an die Signalleute. Die Frage ist leider nicht zu beantworten. Wie ist das denn mit Parteifunktionären oder höheren Menschen im chinesischen Government dort? Werden die auch eingestuft? Kolja: Auch so eine gute Frage, ja. Also man weiß z.B. nicht, ob Xi Jinping auch einen Punktestand hat, der Staatspräsident von China. Natürlich, wenn so was gefragt wird, dann wird immer gesagt "Na ja, wir sind Menschen des Volkes und wir verstehen natürlich das Volk" und so. Aber mir ist nicht bekannt, ob Xi Jinping z.B oder andere Parteifunktionäre einen eigenen Punktestand haben. Müsste ja eigentlich so sein. Thilo: Also was die Parteimitgliedschaft angeht, das ist relativ klar, wie das gehandhabt sein dürfte, wissen es also nicht genau. Aber wer Parteimitglied ist, das ist natürlich erst mal viele Positivpunkte und Fehlverhalten jetzt von solchen Parteimitgliedern wird von der oberen Schicht ja auch voll gedeckt wie wir es jetzt bei der Tennisspielerin erlebt haben, wo es dann sogar internationale Auseinandersetzungen gegeben hat. Also ich vermute mal, dass so was dann über den Algorithmus schon irgendwie alles abgedämpft wird und so gewährleistet bleibt, dass also die Parteimitglieder und die Funktionäre, dass die da gut wegkommen. padeluun: Also das würde ja auch bedeuten, dass der Score von ihm nicht abgefragt werden kann, wenn wir gerade gehört haben, dass eigentlich jeder diesen Score abfragen kann. Das ist ja schon mal eine Aussage, also eine Unterschiedlichkeit. Ich habe es tatsächlich noch nicht probiert. Es kann natürlich sein, dass jeder Score abfragbar ist, aber aufgrund enormer Verdienste für das gesamte chinesische Volk so viele Pluspunkte verteilt werden sag ich jetzt mal, ja, keine Ahnung, aber wäre ja durchaus denkbar. Ja, dass man da schon im Vornherein sehr im Plus ist. Herald: Ich hab' jetzt noch eine letzte Frage: Fühlen sich dann in China möglicherweise die Staatsbediensteten dadurch angehalten, etwas freundlicher zu sein oder vielleicht vorsichtiger vorzugehen, weil sie Sorge haben, einen schlechteren Score zu bekommen? Gibt es so eine Möglichkeit? Kann man sich das Szenario vorstellen? Kolja: Ich denke, im Einzelfall, in Einzelfällen wird es bestimmt der Fall sein. Es gab schon mehrere Interviews von Leuten, die gesagt haben wir achten in unserer Kommune nur auf die Punkte und halten uns auch gegenseitig dazu an, möglichst uns entsprechend zu verhalten. Aber natürlich, wie immer wird es diese Einzelfälle geben und andere Einzelfälle. Und ja, also ich glaube nicht, dass das, das das den Menschenverstand und die Moral und einfach eine gute Erziehung ersetzen kann. Katrin: Okay, so leid es mir tut, weil die Diskussion sehr sehr spannend ist, unsere Zeit ist leider um. Ganz, ganz herzlichen Dank an Euch, Kolja, padeluun und Tilo. Ich hoffe, das Zuhören und das Mitdiskutieren hat allen großen Spaß gemacht und ich geb nochmal zurück an Kitty. Auch an dich Kitty, vielen vielen Dank für deinen Support und die Fragen. Tschüss und bis zum nächsten Mal. Herald: Dankeschön. Thilo: Tschüss. Kolja: Bis dahin. RC3 Abspannmusik Untertitel erstellt von c3subtitles.de im Jahr 2021. Mach mit und hilf uns!