Deutsch – Überwachen und Sprache

Herzlich willkommen zu meinem Talk. Vielen Dank für die nette Einführung

Ihr seht der Talk hat den anspruchsvollen Titel "Überwachen und Sprache"

Spielt natürlich auf Foucault an "Überwachen und Strafen"

Allerdings, lange bevor Foucault die Genese der Disziplinargesellschaft dargestellt hat

findet man in einem Kinderbuch eine sehr schöne moralische Erzählung

die heißt "Das Kind im Glashaus" von Heinrich Oswalt entstanden 1877 und sehr weitsichtig

In Frankfurt lebt ein Glasermeister,
Herr Lebrecht Scheibenmann, so heißt er;

Der hat ein kleines Töchterlein,
Das wollte nie gewaschen sein.

Und kam mit Schwamm und Seif sein Gretchen,
Da lief davon das böse Mädchen;

Es warf sogar den Waschtisch um -
Das Wasser floß im Haus herum.

Da fing Herr Lebrecht Scheibenmann
Ein seltsam Haus zu bauen an,

Aus lauter Glas ein Haus, das, ach!
Durchsichtig war bis unters Dach.

Und in dies Glashaus setzte man
Das böse Töchterlein sodann.

Da blieben, um es anzusehn,
Die Leute auf der Straße stehn.

[…]
Da schämte sich das Kind und lief
Im ganzen Haus herum und rief:

“Wo soll ich mich denn nur verstecken?
Man sieht mich ja in allen Ecken!

Das Dach, der Keller, jedes Zimmer
Ist ja von Glas! man sieht mich immer!”

Die Mutter sprach: “Mein liebes Kind!
Ein Mittel gibt’s, das hilft geschwind:

Wenn dich die Leute artig sehn
Dann werden sie vorübergehn;

[…]
Das merkte sich das Töchterlein;
Es nahm sich vor, geschickt zu sein.

Und weil’s beim Waschen nicht mehr schrie,
Da lachten auch die Leute nie;

Denn jeder, der ins Haus jetzt blickt,
Der sieht ein Kind, das ganz geschickt.

Und habt Ihr selbst ein Kind, Ihr Leut’,
Das bei dem Waschen immer schreit,

Sagts nur Herrn Lebrecht Scheibenmann,
Der schafft Euch gleich ein Glashaus an.

Ja, da … erste Applausansätze
[Applaus]

Ja, interessante Geschichte, die natürlich sehr gut auf unsere Zeit passt

denn Lebrecht Scheibenmann heißt Keith Alexander und arbeitet für die NSA

Die NSA hat aus unser aller Zuhause Glashäuser gemacht

wir können alle gesehen werden in diesen Glashäusern

und man weiß nicht, bzw. ich bin mir ziemlich sicher, dass man damit pädagogische Ziele verfolgt

dass bestimmte Handlungen nicht mehr als akzeptabel gelten

und dass wir diese Beobachtung verinnerlichen

Bei dieser Beobachtung spielt Sprache natürlich eine ganz wichtige Rolle

Viele unserer Äußerungen finden im Medium der Sprache statt

Das hat auch viele Hacker auf die Idee gebracht, dass wir die NSA austricksen mit einer Seite wie "Hallo NSA"

Eine Website, die wie ein „Bullshitter“ verdächtige Wörter zu Botschaften zusammensetzt

und diese dann getweetet, gemailt oder verchattet werden sollen

um soetwas zu erreichen wie hier "Operation Troll the NSA“

dass man die NSA-Scanners jammen kann, dass man eine DDOS Attacke machen kann.

indem man einfach zu viel Content schickt, der quasi verdächtig ist auf der Basis von Keywords

In meinem Vortrag soll es darum gehen, dass dieses Bild von der NSA falsch ist.

Wir können nicht davon ausgehen, dass in der NSA die Leute tatsächlich bei Anzeige eines Keywords

sofort etwas ausdrucken und zu einer [Gelächter]
Analyse schreiten und sich das genauer anschauen

in der Annahme das sei eine sehr intensive Tätigkeit

und deswegen ist ein Keyword-Spam-DDoS natürlich erfolglos

Ihr alle werdet vermutlich die thanksgiving taklkingpoints der NSA gelesen haben.

Ich weiß nicht, ob ihr darüber gestolpert seid, dass unter Punkt 4 etwas ganz wichtiges steht

“NSA brings together the best linguists, analysts, mathematicians, engineers and computer scientists

in the United States.“
und die Linguisten werden als erstes genannt.

[Lachen]

Also da sieht man, der NSA ist durchaus bewusst, dass Sprache ein wichtiges Medium ist

und das auch für sie sehr wichtig ist. Insofern macht es
durchaus Sinn, sich damit zu beschäftigen

Zufälligerweise wurde vom Innenminister die neuste Analysesoftware geleakt, der "Advanced Security Toolkit"

Entwickelt vom Leibnitz-institut für verteiltes Echtzeit-Java. [Gelächter]

Wir gucken uns zunächst unsere heutige Mission an.

Die heutige Aufgabe besteht darin, die deutsche Bloggerszene unter die Lupe zu nehmen

die radikalisiert sich ja offenbar seit Regierungsübernahme durch die Große Koalition

wichtig ist es, zu schauen, ob Aktionen in Vorbereitung sind, und ggf. radikale Subjekte zu identifizieren,

die sich da besonders hervortun. Zunächst wählen wir unsere Targets, wir kriegen natürlich welche vorgeschlagen

Leider kann ich nur eine kleine Auswahl möglicher Targets präsentieren. Ich hätte gerne noch viel mehr genommen

Es gibt ein paar gesellschaftskritische Blogs und Newssites

wie blog.fefe.de, indymedia, Mädchenmannschaft, Netzpolitik.org, rebellmarkt.blogger.de

Und religiös motivierte Webseiten, wie kreuz.net, islambruderschaft.com-blog und Diskussionsforum salafistisches

und wir bestätigen natürlich die Auswahl. Das ist eine sehr sinnvolle Auswahl

Folgende Analysen sind möglich. Ich kann natürlich nur eine Auswahl an möglichen Analysetools heute zeigen

Ich würde gerne viel mehr zeigen, aber die Zeit wird nicht reichen.

Zunächst gucken wir uns an, was schreiben Autoren über mögliche sensible Ziele

Wir machen also mal eine Zielanalyse.

diese untersucht auf Basis von Named-Entity-Recognition die Kollokation zu möglichen Terrorzielen

Wir müssen … was ist das denn? … wir gucken mal ins Handbuch rein, was Named Intities sind

ist ja unser erster Tag heute

Named-Entities sind zunächst mal Ausdrücke, die eine Identität eindeutig von anderen Entitäten mit ähnlichen Attributen unterscheiden

Man denkt spontan an Namen, aber es ist nicht so trivial zu sagen was ein Name ist

Named-Entitiy-Recognition ist entsprechend das Verfahren, wie man solche Named Entities identifiziert

Es gibt sicherlich unterschiedliche Klassen von Named Entities, bspw. Personen, Organisationen, Orte

Manchmal ist auch nicht so deutlich zu was eine bestimmte Named Entity gehört. z.B. „der Bundestag“

das kann sowohl ein geografischer Ort sein, als auch eine Organisation

Jetzt müssen wir noch wissen, was Kollokationen sind

Das sind statistisch überzufällig häufige Wortkombinationen

d.h. “we define a collocation as a combination of two words, that exhibit a tendency to occur near each other in natural language that is to cooccur”

also z.B. „ein Weg einschlagen“, „ein Weg gehen“

Das sind typische Verbindungen zwischen den Worten „Weg“, „gehen“ bzw. „einschlagen“

und diese Verbindungen bilden Kollokationen, wenn sie überzufällig sind

wie wir mit statistischen Tests feststellen können

und wir können die in natürlicher Sprache beobachten

Ein Beispiel – ihr müsst das jetzt nicht lesen können – ich wollte ein Beispiel zeigen zum Wort „Spezialexperte“

man sieht hier das “keyword in context”, also das gesuchte Schlüsselwort

und man sieht die Kontexte dieses Wortes, also einen „ausgesuchten Spezialexperten für Internetfragen“ haben sie wohl nicht gefunden

Wir müssen kein Ratespiel machen, aus welchem Blog das wohl stammen könnte

Was man dann macht, bei einer Kollokationsanalse
man untersucht Kontexte

z.B. hier fünf Wörter links, fünf Wörter rechts bis Satzanfang oder -ende

Man zählt einfach die Wörter, die im blauen Bereich stehen

und vergleicht die relative Frequenz mit Wörtern, die links und rechts im weißen Bereich stehen

Wenn ein Wort signifikant häufiger im blauen Bereich vorkommt, kann man sagen, es ist eine Kollokation des Worts „Spezialexperte“

Hier fällt bspw. auf „kriegen“ oder „Adobe-Spezialexperten“

Man kann Kollokationen als Graphen visualisieren
[Gelächter]

Die Knoten bezeichnen Lexeme, (ich weiß jetzt nicht, wass es da zu lachen gibt) [mehr Gelächter]

(das ist ernste Linguistik!) und die Kanten bezeichnen „ist Kollokation von“

Sie sehen also hier „die besten der besten, Sir“, Sarrazin und Mehdorn gehören dazu.

Es wuchert ein bisschen weiter. „Adobe-Backup“, „Backup-Spezialexperten“ … interessant

Ok. Wir sind im Bereich der Zielanalyse. Wir starten mal die Analyse.

Was machen wir da eigentlich? Was wir machen ist, wir erkennen in allen Corpora alle Named Entities

Wir berechnen das erstmal mit Methoden maschinellen Lernens.

D.h. man untersucht bestimmte Kontexte in denen Named Entities stehen.

Wir haben einen Trainings-Corpus, in dem steht bereits drin, was Named Entities sind

bspw. dass „Bundestag“ eine Organisation ist und die Software lernt aus diesen Kontexten

was typische Kontexte für solche Named Intities sind und versucht diese auf neue Corpora anzuwenden

Was wir hier machen: wir identifizieren in allen Corpora, in allen Blogs, die wir untersuchen die Named Entities.

wir kategorisieren diese Named Entities nach Personen, Organisationen, geografischen Orten und sonstigen

und dann berechnen wir die Kollokationen eben zu relevanten Named Entities.

z.B. „Angela Merkel” könnte interessant sein oder sowas.

Und dann schauen wir auch in den Kollokationen, ob darin irgendwelche Gefährderwörter sind.

Also Wörter, die auf Anschlagsplanungen oder sonstiges hindeuten. Das machen wir jetzt.

die Analyse ist offenbar abgeschlossen und Ergebnis ist, wir haben Gefahrenstufe 1 von 5, also nicht weiter tragisch

die Software schlägt uns eine Überprüfung der Gefährdungslage in Hinblick auf Berlin vor

also der Ortsangabe bei donalphonso, Rebellmarkt-Blogger

Potentielles Ziel bei Fefe ist SPD und bei der Mädchenmanschaft sollen wir nach Christina Schröder als Person gucken [Gelächter]

Wir haben jetzt zum Beispiel als Auftrag bekommen, warum donalphonso Böses über Berlin schreibt und ggf. etwas plant

Wir können uns jetzt Kollokationsgraphen anzeigen lassen oder Geokollokationen

D.h. wir haben eine Landkarte und darauf stehen an den Orten, über donalphonso schreibt, die Kollokationen zu den Orten

In Amerika schreibt er über Boy(?) und Kultur, Einzeltäter, verwirrt und „hassen Mail“ und sowas

Deutschland, Mitteleuropa ist natürlich im Fokus. Das geht auch bis Italien runter

Da sieht man auch, worüber donalphonso so schreibt.

Wir nähern uns Berlin. Da sind zu viele Kollokationen als dass wir sie alle auswerten könnten

Deswegen schauen wir uns den Kollokationsgraphen an und suchen nach Hinweisen auf Terror, der stattfinden könnte

Ich lese einige vor: „Berlin“, „Slum“, „Reichshauptslum“, „arm“, „Transferleistung“, „abscheulich“, „Berliner Hipster“ [Gelächter]

Das zeigt zwar eine sehr negative Haltung zu dem Gegenstand, aber ich würde nicht sagen terrorverdächtig.

Das weitere potentielle Ziel waren die Organisationen „SPD“ bei Fefe

Wir lassen uns den Kollokationsgraphen anschauen. Fefe und die SPD. [Gelächter]
[Gelächter]

hey „Verräterpartei“, „Umfallerpartei“, mal kurz zurück

Insgesamt in der gesamten Liste fanden sich tatsächlich so Wörter wie:

„erhängen“, „erzwingen“, „Spitzenkandidat“, „Verräterpartei“, „Umfallerpartei“, „Pest“, „Cholera“ [Gelächter, Applaus]

Wenn wir uns den Kollokationsgraphen anschauen, dann merken wir schon, das sind Vorwurfshandlungen.

Aber da wird nicht geplant, dass der Spitzenkandidat um die Ecke gebracht werden soll von Fefe

Wir machen jetzt weiter mit dem Ideologiemonitor. Wir wollen jetzt mal messen …

Es ist belegt, dass die NSA viele Softwarepatente für Algorithmen zu Named-Entity-Recognition angemeldet hat

Es wurde in der Tat viel in dem Bereich Forschung betrieben vor einiger Zeit

Aber man findet zunächst heraus, was interessante Targets sind und was über sie gesagt wird

Das kan man sicherlich noch besser machen, in dem man Idieologien misst.

Was wir jetzt berechnen wollen ist die Ähnlichkeit von Texten, von Blogs zu bestimmten weltanschaulichen Ideologien

Wir haben die Möglichkeit, linksextreme, rechtsextreme oder islamistische Einstellungen zu messen

Das machen wir so, dass wir typische Kollokationen berechnen … also zu einem bestimmten Korpus

Von diesem Korpus lernen wir. Das ist also das Vergleichsmodell.

Wir nehmen mal die „Islambruderschaft“. Die hat ein Blog und da schreiben sie böse Sachen

und wir lernen von diesem Blog: was sind typische Wortverbindungen, die wir als islamistisch betrachten können

wir wollen gerne wissen, wer in einem salafistischen Diskussionsforum besonders viel von radikalislamischer Ideologie hat

also das ist ein ganz fieses Untersuchungsprogramm, das wir hier starten. Ja, die Analyse läuft

Das Ziel ist es, wie sind bestimte Texte von bestimmter Ideologie durchdrungen

und wir gleichen ein salafistisches Diskussionsforum mit unserem Trainingskorpus ab

und dieses Trainingscorpus ist ein Blog von der Islambruderschaft

was wir bekommen sind Wortverbindungen, die womöglich auf islamistische Grundhaltungen verweisen

– also ich hoffe, ihr denkt die Anführungszeichen immer mit –

Wir haben hier „Allah -> Krieg“, „Bombe -> Jahr -> Feind“, „Kufr -> beleidigen“, „Gesetz -> Islam“, „Bedeutung -> Jihad“, „Allah -> Afghanistan“, „martern -> Kufr“, usw.

Also es gibt eine ganze Reihe dieser Wortverbindungen, die wir aus diesem Korpus lernen

und jetzt schauen wir, wie diese Wortverbindugnen in personenspezifischen Korpora von Mitgliedern

in diesem Diskussionsforum vorkommen. Wir sehen hier einen User – natürlich ist der Nickname nicht echt

man sieht es ein bisschen schlecht, aber hier sind rote Verbindungen angeleuchtet

Das sind islamistische
[Gelächter]

Das sind sämtliche Kollokationen in diesem Korpus mit der höchsten Typizität

und solche Verdichtungspunkte verweisen auf bestimmte Themen

Wir haben auch den User „JihadFan“ [Gelächter] – der aber offenbar auch nicht so jihadistisch unterwegs ist

weil es sind relativ wenige – wir haben aber die Userin „Muslima“ – und leider sieht man das jetzt wirklich nicht so gut

ich mach es mal ein bisschen größer – bei ihr sehen wir relativ viele rote Verbindungen

wir können uns natürlich auch ein paar verdächtige Verbindungen anschauen

jetzt müssen wir wieder klein werden – da sind solche Verbindungen wie „der -> ganzen -> Welt -> Frieden -> Krieg -> bringen“

Da sind Verbindungen wie „Bombadierung -> Zivilist -> schlachten -> martern -> Invasoren“, „erfolgreiche -> Operation“

oder Verbindungen wie „Koran -> Taliban -> edel -> Sieg“, die vielleicht auf das Schreiben über das Thema hindeuten

das heißt, wir würden sagen, das wäre ein Ziel für weitere operative Maßnahmen, diese Userin,

und das schicken wir ab und dann geht es weiter.

Damit haben wir aber nichts mehr zu tun, denn wir sind ja nur Linguisten. [Gelächter, Applaus]

Ich deute das als Zustimmung. Gut, wir fahren mit weiteren Analyseschritten fort.

Und zwar messen wir Radikalität. Radikalität ist etwas, das man so ohne weiteres erstmal nicht messen kann

denn es ist ja selbst ein ideologisches Konzept

Wir – vom Innenministerium – verstehen unter Radikalität zunächst eine stark negative Weltsicht

wir verstehen darunter eine Intoleranz gegenüber abweichenden Auffassungen, also ein schwarz-weißes Weltbild

wir verstehen darunter eine hohe emotionale Involviertheit

und eine Neigung zu Verschwörungstheorien
[vereinzeltes Gelächter] Ja!

Das ist nicht ganz vom Himmel gefallen. Es gibt tatsächlich Forschungsliteratur, die diese Punkte nennt

wie operationalisieren wir das jetzt, also eine negative Weltsicht? Ich möchte euch zwei Ansätze vorstellen

Es gibt also den sehr einfachen, listenbasierten Ansatz. Man sagt, wir haben eine bestimmte Liste von Wörten,

deren Bedeutung wir kennen und gucken, wie häufig finden sich die Listenelemente in Texten

Bspw. wenn wir „negative Weltsicht“ operationalisieren wollten, könnten wir sagen, wir suchen nach Phrasen

oder auch Vokabeln, die skandalisieren, wie: „Blindheit“, „Blödheit“, „Bodenlosigkeit“, „Chaos“, „Debakel“,

„Desaster“, „Dreistigkeit“, „Dummheit“, das könnte man alles anders nennen, könnte Indikator sein für negative Weltsicht

Wir haben auch den Gebrauch von negativ wertenden Adjektiven. Nur mal die ersten: „abartig“, „aberwitzig“,

„abfällig“, „abgedroschen“, „abgegriffen“, „abgeschmackt“, usw. Insgesamt 700, oder so

das wäre also der listenbasierte Ansatz.

Was wir natürlich auch machen können ist ein schwarzweißes Weltbild operationalisieren

das kann man mit Hilfe von „semantischen Taxonomien“ machen. Semantische Taxonomien beschreiben die Relationen

zwischen Wörtern in unserem Wortschatz, bspw. könnte auf schwarzweiß-Denken in Texten hindeuten

eine hohe Frequenz von „polaren Antonymen“, also Gegensatzwörtern, die man ohne degradierte Form gebracht

also dass man sagt „lang“ und „kurz“ statt „länger …“ oder „kürzer als“.

Noch deutlicher wird es vielleicht bei Wörtern, die gar nicht gradierbar sind, wie „wahr“ oder „falsch“,

„tot oder lebendig“, „anwesend oder abwesend“, „dafür oder dagegen“. Da gibt es nichts dazwischen,

die sind komplementär und ihr Gebrauch, könnte man meinen, lässt Rückschlüsse auf ein schwarzweißes Weltbild zu.

Emotionale Involviertheit könnte man operationalisieren mit Hilfe von Gradpartikeln

das ist sowas wie „ich finde das absolut toll“, oder „total toll“. Ja, nicht nur „toll“, sondern „total“

Das wäre bspw. ein Gradpartikel aus dem absoluten Intensivierungsbereich

wir können Gradpartikel unterscheiden nach Intensivierungsbereichen und es gibt unterschiedliche Abstufungen

wie den „absoluten“ Intensivierungsbereich, in den „absolut“, „gänzlich“, „grundlegend“, „gründlich“,

„im geringsten“, „komplett“, „längst“, „rein“ usw. reinfallen, den „extrem hohen“ Intensivierungsbereich:

„höchst“, „äußerst“, „zutiefst“, „aufs äußerste“, „aufs höchste“, „aufs Tiefste“, „höchstlichst“, usw.

und den hohen Intensivierungsbereich mit „sehr“, „stark“, „gewaltig“, „besonders“, „so“, „arg“, „übertrieben“ usw.

Wenn wir die Distribution dieser Gradpartikel in Korpora messen, dann könnten wir sagen:

vielleicht sind die Indikator für emotionale Involviertheit. Und die Neigung zu Verschwörungstheorien

das ist natürlich besonders schwierig zu operationalisieren, da haben wir einfach

eine Liste von Wörtern genommen, die darauf verweisen, dass vielleicht etwas nicht so ist, wie es sein könnte

wenn man Wörter hat wie „angeblich“, „vermeintlich“, „scheinbar“, „behaupten“, „heucheln“,

„verheimlichen“, „verschweigen“, „fingieren“, „vorgaukeln“, „entlarven“, usw

das sind natürlich Wörter, die zumindest das Potential haben, darauf zu verweisen,

dass die Welt nicht so ist, wie sie uns verkauft wird oder dargestellt wird.

Und das findet man natürlich eher bei Personen, die Verschwörungstheorien anhängen

Wenn man jetzt den Radikalitätsindex berechnet – das hier sind normalisierte Werte – dann kann man sehen

dass Fefe, knapp gefolgt von donalphonso und mit kleinem Abstand das salafistische Forum [Gelächter]

und weiterem Abstand kreuz.net hier aufschlagen. Fefe hat nirgendwo die erste Position, muss man dazu sagen

also auch bei den Verschwörungen nicht, da schlägt kreuz.net Fefe noch um Längen

– interessanterweise übrigens, wie ich fand –

und donalphonso ist also tatsächlich ein großer Skandalisierer und Intensivierer, kann man feststellen

wenn man sich noch einmal das Ranking anschaut, dann sieht das so aus … Fefe, donalphonso, salafistische …

Also ob wir operative Maßnahmen einleiten überlasse ich euch. Ich würde sagen, wir behalten die im Auge.

Das waren jetzt ein paar Techniken, die ich euch darstellen wollte, die wenig zu tun haben mit dem „Keywordbullshitter“

den wir gesehen haben. Denn diese Keywords selbst spielen eine sehr geringe Rolle bei den Analysen, besonders wie zuletzt gesehen

Ich denke die Linguistik und die NSA-Linguisten sind sicherlich sehr viel weiter um e-Mails zu filtern

Ich denke, wenn man sich den Rechenschaftsbericht der G10-Kommission anschaut, die die deutschen Geheimdienste überwachen

die hatten ja zunächst so dargestellt es wurden so wahnsinnig viele e-Mails gescreent, aber das meiste davon war Spam

und wenn man sich den neueren Bericht anschaut, dann steht da, wir haben die Spamerkennung verbessert

und es wurden deswegen sehr viel weniger e-Mails. Aber es ist auch die Rede von mehreren Ebenen des Screenings

und es werden erst zu einem sehr späten Zeitpunkt e-Mails tatsächlich in die Hand genommen und qualitativ ausgewertet

und ich denke, dass vielleicht der allererste Zugriff über ein Keyword erfolgt, das auch sehr allgemein gehalten sein kann

dass die weiteren Ebenen dann natürlich viel feinere Analysen beinhalten, die eben Kollokation, semantische Taxonomien

oder Topic-Modelling, über das ich heute leider nicht sprechen kann, benutzen

Ja, ich bin noch nicht fertig. Vielleicht kennen einige von euch den Film „Alphaville“?

Alphaville ist ein Film von Jean-Luc Godard, in dem es darum geht dass Lemmy Caution, ein Spion,

in die Stadt Alphaville kommt, die von einem allmächtigen, diktatorischen, totalitären Computer beherrscht wird: Alpha 60

und ein Teil seiner Aufgabe ist es, diesen Computer auzuschalten und den Erzeuger von Braun zu finden.

Er spricht dann mit einem der Programmierer dieses Computers, einem Assistenten von von Braun

und der Assistent fragt ihn: „Sind Sie auch ein Spion?“ – Ich kann den Screenshot wegen Urheberrecht leider nur so zeigen

Darauf sagt Lemmy Caution: „Nein, das wissen Sie genau, ich bin nämlich ein freier Mann!“

Daraufhin sagt der Assistent: „Ihre Antwort ist bedeutungslos. Wir wissen nichts.

Wir registrieren, berechnen und ziehen unsere Schlussfolgerungen.“

Und dieser Satz erfasst eigentlich das Problem, das wir mit den Diensten haben, relativ gut.

Denn die Dienste unterwerfen unsere Lebensäußerungen einer Logik, die zunächst nicht unsere Logik ist

sie werten sie nach bestimmten Mustern aus: „Wir registrieren, berechnen…“, sie ziehen Schlussfolgerungen daraus

aber sie müssen sich dafür nicht rechtfertigen. Sie müssen ihre Methoden nicht offenlegen

und ihre Logik nicht zur Diskussion stellen. Und genau das ist das Problem.

Das ist aber ein Kennzeichen für alle totalitären Systeme, dass sie ihre Logik nicht rechtfertigen müssen.

Wir wissen überhaupt nicht, was überhaupt verdächtig sein könnte

und der Grund dafür ist, dass diese Diese eben im Geheimen operieren können

und unsere Aufgabe sollte es sein, diese Methoden öffentlich zu machen, diese Methoden zu diskutieren

zu beweisen, dass diese Methoden fehlerhaft sind und unglaublich viele „false positives“ produzieren

und dass wir es deswegen lieber lassen sollten und wir vielleicht ein paar Scheiben ins Glashaus werfen

Vielen Dank

[Applaus]

Ja vielen Dank, Josh, für diesen richtig coolen Talk. Was auch cool ist:

Was auch cool ist, wir haben noch richtig viel Zeit für Fragen und Antworten

Wir haben vier Saalmikrofone hier, wir haben zwei auf jeder Seite

für Leute, denen es schwerer fällt, zum Saalmikro zu kommen, habe ich auch das tragbare Handmikro

und wir können noch gucken, ob es Fragen aus dem Internet gibt und die dann dem Signal Angel stellen

seid nicht so schüchtern, wir haben noch eine halbe Stunde, das war ja wohl ein guter Input

wenn ihr also ne Frage habt, dann bewegt euch da.

Ja vielleicht fangt ihr an, euch zu den Mikrofonen zu bewegen, geht das auch für euch beide?

Dann komm ich gleich zu dir, dann die erste Frage

Wie ist denn das mit diesen Kollokationen und Kultureller Kontext? Also es könnte sein, dass wir jetzt bspw.

da wollte jetzt ein Osama ein Konto eröffnen und das wurde ihm verweigert, weil er Osama heißt

dass wir dann diese Kollokation zwar feststellen, aber dass der Name Osama ein recht häufiger im arabischen Kontext ist

wie wird damit umgegangen, dass das etwas ganz normales dort ist, für uns aber sofort verdächtig erscheint?

Vielen Dank, ich weiß nicht auf welcher Ebene ich die Frage beantworten soll.

Aus linguistischer Perspektive kann man damit, glaube ich, recht gut umgehen, indem man weiteren Kontext hinzunimmt

und relativ schnell disambiguieren könnte, dass es sich eben nicht um Osama bin Laden handelt,

vor allem weil der ja auch schon tot ist
[Gelächter]

aus Sicht eines Analytikers, der vielleicht gar nicht versteht, was unter der Haube eines solchen Toolkits läuft, ist es erstmal egal

denn er folgt seiner Logik, er hat seine Mission und wie gesagt, die Menge an False positives ist riesig

das wird eben damit gerechtfertig, dass das, was auf dem Spiel steht, so monströs ist, wenn es denn fiele, dass jedes Mittel rechtfertigt