35c3 Auftaktmusik [Herald Angel]: Ok, es ist mir eine große Freude, euch Toni vorzustellen. Sie wird über das Social Credit System sprechen, das sich für mich anfühlt, als wäre eine Black Mirror Episode zum Leben erwacht. Ich bin leicht nervös und wirklich neugierig, was wir heute lernen werden. Einen großen Applaus und ein herzliches Willkommen für Toni. Applaus [Toni]: Guten Morgen an alle. Bevor ich mit dem Talk beginne, möchte ich alle, die kein Englisch sprechen, auf den chinesischen Übersetzungsstream hinweisen. spricht Chinesisch Applaus Weil der heutige Talk um China geht, dachten wir, es wäre gut, ihn auch auf Chinesisch zu haben. Ich werde über das Social Credit System in China sprechen. Dort ist 'das' Social Credit System etwas, wovon man immer in den westlichen Medien hört ,aber was eigentlich nicht existiert und der Großteil des Talks wird über das sein, was wir alle nicht wissen, was genug für eine ganz Stunde. oder mehr ist. Aber ich werde mich auf einige der für mich interessantesten Dinge konzentrieren. Erstmal etwas zu mir. Ich bin Wirtschaftlerin, aber ich beschäftige mich nicht nur mit Geld. Ich betrachte Wirtschaft, Ökonomie als die Lehre von Anreizen, was bedeutet, dass ich mich sehr dafür interessiere, wie Menschen auf verschiedene Anreize reagieren. Ich glaube nicht, dass Menschen komplett rational sind. Aber ich glaube, dass Menschen versuchen zu maximieren, was sie für ihr bestes Interesse halten. Einige Worte zu mir: Ich habe Mathe, Wirtschaft und Politikwissenschaften studiert, in unterschiedlichen Städten auf der ganzen Welt. Ich habe alles in allem 19 Monate in China verbracht. Ich war zuletzt im Juli mit einem Regierungsstipendium da, was sehr, sehr interessant war, denn ich habe da all die westlichen Zeitungsartikel über das chinesische Social Score System gelesen und ich war an einer recht guten Universität und fragte dort: Was denkt ihr über dieses System? Die meisten haben mich verdutzt angeschaut und waren wie: Welches System? Ich nichts davon gehört! Das war also eine interessante Erfahrung für mich, denn für den Westen ist es ein riesiges, allumfassendes System. Und in China wissen die meisten Menschen - die meisten Menschen, die nicht im direkten Kontakt damit sind, nichts davon. Ich bin sehr interessiert am Einfluss von Technik auf die Gesellschaft, Leben und die Wirtschaft, offensichtlich, und in meiner Freizeit mache ich viel Data Science und Machine Learning mit Python und R. Also dachte ich, es wäre interessant, das Social Credit System auch aus dieser Perspektive, denn man hört überall, es ist eine riesige Big Data Initiative, und dann, näher betrachtet, sieht man, dass sie Machine Learning gar nicht so viel verwenden. Sie haben hauptsächlich einen regelbasierten Katalog, wenn man das macht, bekommt man 50 Punkte, wenn das macht, bekommt man 50 Punkte und sie haben viele Menschen, die über das Verhalten anderer Menschen berichten. Ich werde darüber sprechen, wie das genau aussieht, später, aber ich war sehr, sehr überrascht, nachdem ich viele westliche Zeitungsartikel gelesen hatte, die hauptsächlich sagten: "Oh, das ist die große Dystopie von Orwell, mit Big Data." Und dann liest man, was wirklich passiert und sie haben riesige Listen mit "Wenn du bei rot über die Straße gehst, werden die 10 Punkte abgezogen", solche Sachen. Wenn ihr mich kontaktieren wollt, könnt ihr das über Twitter, aber ihr könnt auch meine verschiedenen E-Mails, beruflich oder privat - ihr könnt beide da sehen - benutzen. Wenn ihr Anmerkungen habt oder mehr wissen wollt, kann ich euch mehr zur Verfügung stellen, aber der heutige Talk kann logischerweise nur an der Oberfläche kratzen. Also, Wahrnehmung des Social Credit System. Einer der interessanten Aspekte ist, worüber ich schon gesprochen habe, dass im Westen und in China die Wahrnehmung komplett verschieden ist. Im Westen, das kommt von financialtimes.com, sieht man diesen riesigen, überwältigenden Typen, und er stellt jeden Chinesen unter ein Mikroskop. Sie sind alle vorn über gebeugt und jeder hat einen Score auf sich befestigt und sie sehen recht traurig aus, ein sehr, sehr orwellianisches Konzept. Während in China, das ist von chinesischen Staatsmedien, und was es sagt, ist, gut, wir können mit dem neuen System alle in Harmonie leben und uns gegenseitig vertrauen. Und interessanterweise glauben die Chinesen das zu einem bestimmten Grad. Sie glauben, dass Technologie alle ihre aktuellen Probleme in der Gesellschaft lösen wird. Besonders, weil Vertrauen in China momentan ein rares Gut ist. Und das neue System wird zu mehr Effizienz und Vertrauen führen und einem besseren Leben. Und ich habe ein sehr, sehr interessantes Zitat von einem westlichen Gelehrten, das die westliche Perspektive wirklich gut zusammenfasst: " Was China hier macht, ist ihre Bevölkerung durch Selektion zu züchten, gegen das Merkmal des kritischen, unabhängigen Denkens. Das mag nicht der Zweck sein, ich bezweifle durchaus, dass das der Hauptzweck ist, aber es ist dennoch der Effekt, wenn nur gehorsame Menschen die soziale Befähigung bekommen, Kinder zu haben, um gar nicht erst von erfolgreichen Kindern zu reden." Das spielt mit der Idee, wenn man einen geringen Score hat, momentan, in den Städten, die das System schon testen, ist was passiert, dass deine Kinder keine gute Schule besuchen können. Was passiert ist, dass du keine Züge benutzen kannst, du kannst keine Flugzeuge benutzen. Du kannst keine guten Hotels buchen. Dein Leben ist sehr, sehr unbequem. Und das absichtlich. Das ist so in etwa der Plan. Die chinesische Regierung, sie sagen, es ist etwas anders, die Idee ist, das Verhalten der Menschen zu ändern, dadurch, dass man sicherstellt, dass sie eng damit verbunden sind. Eine der Haupt- sachen für das System ist, dass nicht sehr viele Daten für das System generiert werden. Was stattdessen passiert, ist, dass alle existierenden Daten, die bereits über dich gesammelt wurden, hauptsächlich in einer großen Datenbank kombiniert werden für jede Person mit ID-Nummer. Also wenn man in China geboren wird, bekommt man eine ID-Nummer, die so ähnlich wie die Sozialversicherungsnummer in den USA ist. In Deutschland haben wir so etwas nicht wirklich. Und normalerweise war deine ID-Nummer nur für offizielle Sachen - wir für staatliche Sachen, aber jetzt braucht man seine ID-Nummer, um ein Bankkonto zu bekommen, man braucht die Nummer, um ein Handy zu kaufen, auch wenn es ein Prepaid Handy ist, braucht man trotzdem die ID-Nummer. Jegliche online Aktivität, die über das Handy stattfindet, ist mit der ID-Nummer verbunden, was bedeutet, dass man nicht wirklich etwas anonym machen kann, denn alles ist auf die ID-Nummer rückführbar. Es gibt einige Vorläufer, einige gehen bis in die 1990er zurück, die in das neue System integriert werden sollen. Einer oder auch zwei davon sind schwarze Listen. Eine davon ist eine schwarze Liste des Gerichts. In China funktioniert das Gericht ein kleines bisschen anders. Sie neigen dazu, einem Geldstrafen zu geben, wie in anderen Ländern auch, aber sie neigen auch dazu, einem 'Entschuldigungen' zu geben. Wenn man etwas macht, man ist zum Beispiel ein Unternehmen und die Lebensmittelsicherheit war nicht dem Standard entsprechend - muss man bezahlen. Aber zusätzlich zum Bußgeld muss man einen öffentlichen Entschuldigungsbrief schreiben, wie leid einem tut, dass das passiert ist und dass nicht noch einmal passieren wird und es war moralisches Fehlverhalten deinerseits und es wird nicht noch einmal vorkommen. Wenn man das nicht macht, kommt man auf die schwarze Liste. Ähnlich, wenn man einen Dispo nimmt und ihn nicht in 3 Monaten zurückzahlt, oder generell in 3 Monaten nichts zahlt, dann kommt man auf die schwarze Liste für Schuldner. Wenn man auf dieser schwarzen Liste ist, die wiederum mit der chinesisches Wort, also deiner ID-Nummer verbunden ist - was passiert ist, dass man keine Züge oder Flugzeuge mehr benutzen kann. Dein Leben wird sehr, sehr unbequem, deine Kinder können nicht auf gute öffentliche Schulen gehen, deine Kinder können nicht auf private Schulen gehen, deine Kinder können nicht zur Universität, all diese Dinge tauchen plötzlich auf. Es gibt auch eine Unternehmensdatenbank mit dem Namen Credit China, die ähnlich zur öffentlichen schwarzen Liste der Schuldner ist, aber eigentlich ein Kreditsystem, ein Kredit Score für Unternehmen. Und es gibt ein Kredit- Referenz-Zentrum der 'People's Bank of China', die eine Kreditbewertung hat. Es sollte so etwas wie die Schufa sein oder die US FICO für Einzelpersonen. Aber eins der großen Probleme in China ist, dass es viele Menschen gibt, die nicht Teil der formellen Ökonomie sind. Viele Leute sind migrantische Arbeiter. Sie bekommen ihr Geld in bar. Sie haben kein Bankkonot. Sie haben nichts, sie haben keine Miete oder Nebenkosten oder so etwas, denn sie leben auf dem Land. Sie besitzen ihr eigenes Haus, das sie selbst gebaut haben, also müssen sie es nicht finanzieren und ihr Haus gehört ihnen nicht offiziell, denn in China kann man kein Eigentum be- sitzen, sondern die Regierung verpachtet es an dich. Also gibt es viele Leute, die nicht zum System gehören und ich denke, die letzte Info, die ich habe war, dass weniger als 10 % der erwachsenen chinesischen Bürger im System waren und irgendeinen Kontakt zu Banken hatte, was sehr, sehr wenig ist. Und das hießt, dass die Leute keinen Kredit bekommen konnten, denn die Banken würden nur Menschen, die schon im System sind, einen Kredit geben oder denen, mit denen sie irgendwie sagen können, ob sie zurückzahlen werden. Nun, die Umsetzungsdetails des neuen Systems sind sehr spärlich, aber die generelle Idee ist, dass chinesische Bürger in vertrauenswürdige Personen und in das, was die Chinesen "Vertrauens Brecher" nennen, geteilt werden. Manchmal gibt es fünf verschiedene Gruppen, manchmal zwei verschiedene Gruppen, aber Aber generell gibt es irgendeine Grenze: über dieser Linie ist es gut und unter der Linie ist es schlecht. Das ist eine Grafik vom Wall Street Journal, die einiges an Input zeigt, der in das System geht.