Το τίμημα για ένα «καθαρό» διαδίκτυο

Εκατομμύρια εικόνες και βίντεο μεταφορτώνονται καθημερινά στο διαδίκτυο, ωστόσο το περιεχόμενο στα κοινωνικά μας μέσα σπανίως σοκάρει ή ενοχλεί. Ποιος φροντίζει να έχουμε «καθαρό» διαδίκτυο; Σε αυτή την αποκαλυπτική ομιλία οι παραγωγοί ντοκιμαντέρ, Χανς Μπλοκ και Μόριτζ Ριζέβιεκ, μας ταξιδεύουν στον σκοτεινό κόσμο των διαχειριστών διαδικτυακού περιεχομένου - των ανθρώπων που απασχολούν οι μεγαλύτερες πλατφόρμες των Facebook, Twitter και Google για να ξεκαθαρίζουν το διαδίκτυο από κάθε τοξικό υλικό. Μάθετε περισσότερα για τον ψυχολογικό αντίκτυπο μιας τέτοιας εργασίας - και πώς το «ψηφιακό καθάρισμα» επηρεάζει όσα όλοι μας βλέπουμε και σκεφτόμαστε.

[Η ομιλία έχει περιεχόμενο για ενήλικες]

Μόριτζ Ριζέβιεκ: Στις 23 Μαρτίου 2013

οι χρήστες ανά τον κόσμο
είδαν στην τροφοδοσία ειδήσεων

ένα βίντεο βιασμού ενός νεαρού κοριτσιού
από έναν άνδρα μεγαλύτερης ηλικίας.

Πριν το Facebook αφαιρέσει το βίντεο,

είχε ήδη 16.000 κοινοποιήσεις,

και είχε ακόμη πάρει 4.000 like.

Το βίντεο διαδόθηκε ταχύτατα
κι εξαπλώθηκε σε όλο το διαδίκτυο.

Χανς Μπλοκ: Τότε ήταν που αναρωτηθήκαμε

πώς ήταν δυνατόν να βγει
κάτι τέτοιο στο Facebook;

Και επίσης, γιατί δεν βλέπουμε
τέτοιο περιεχόμενο πιο συχνά;

Εξάλλου, στο διαδίκτυο κυκλοφορεί μεγάλη
ποσότητα αηδιαστικού περιεχομένου,

αλλά γιατί βλέπουμε τέτοιες βλακείες τόσο
σπάνια σε Facebook, Twitter και Google;

ΜΡ: Παρόλο που τα λογισμικά
αναγνώρισης εικόνας εύκολα εντοπίζουν

την απεικόνιση σεξουαλικών οργάνων,
αίματος ή γυμνού δέρματος

μέσα σε εικόνες ή σε βίντεο,

είναι τρομερά δύσκολο να διακρίνουν
το πορνογραφικό περιεχόμενο

από φωτογραφίες διακοπών,
αγάλματα του Αδώνιδος

ή διαφημίσεις για τον προσυμπτωματικό
έλεγχο του καρκίνου του μαστού.

Δεν μπορεί να διακρίνει τον επί σκηνής
θεατρικό θάνατο Ρωμαίου και Ιουλιέτας

από μια πραγματική επίθεση με μαχαίρι.

Δεν μπορεί να διακρίνει τη σάτιρα
από την προπαγάνδα,

τη ειρωνεία από το μίσος,
και ούτω καθεξής.

Ως εκ τούτου, είναι απαραίτητο
να αποφασίζουν οι άνθρωποι

ποιο ύποπτο περιεχόμενο
θα πρέπει να διαγραφεί,

και ποιο θα πρέπει να παραμείνει.

Είναι άνθρωποι για τους οποίους
δεν γνωρίζουμε σχεδόν τίποτα,

επειδή εργάζονται μυστικά.

Υπογράφουν συμφωνητικά εχεμύθειας,

τα οποία τους απαγορεύουν
να μιλήσουν ή να μοιραστούν

οτιδήποτε βλέπουν στις οθόνες τους
ή πώς τους επηρεάζει η δουλειά τους.

Υποχρεούνται να χρησιμοποιούν κωδικούς
για να μην φανερώσουν τον εργοδότη τους.

Εποπτεύονται από ιδιωτικές
εταιρείες ασφάλειας

ούτως ώστε να εξασφαλιστεί
ότι δεν μιλούν σε δημοσιογράφους.

Και απειλούνται με πρόστιμα
στην περίπτωση που μιλήσουν.

Όλα αυτά ακούγονται
σαν αλλόκοτη αστυνομική ταινία,

αλλά είναι αλήθεια.

Αυτοί οι άνθρωποι υπάρχουν

και ονομάζονται διαχειριστές
διαδικτυακού περιεχομένου.

ΧΜ: Είμαστε οι παραγωγοί
του ντοκιμαντέρ «Οι Καθαριστές»,

και θα θέλαμε να σας μεταφέρουμε

σε έναν κόσμο που πολλοί από εσάς
ίσως δεν γνωρίζετε ακόμη.

Δείτε ένα απόσπασμα από την ταινία μας.

(Μουσική)

(Βίντεο) Διαχειριστής: Πρέπει να μείνω
ανώνυμος γιατί έχω υπογράψει συμβόλαιο.

Δεν μας επιτρέπεται να δηλώσουμε
για ποιον εργαζόμαστε.

Ο λόγος που σας μιλάω

είναι ότι ο κόσμος πρέπει
να ξέρει ότι είμαστε εδώ.

Υπάρχει κάποιος που επιβλέπει
τα κοινωνικά μέσα.

Κάνουμε ό,τι καλύτερο μπορούμε

για να κρατήσουμε αυτή την πλατφόρμα
ασφαλή για όλο τον κόσμο.

Διαγραφή.

Αγνόηση.

Διαγραφή.

Αγνόηση.

Διαγραφή.

Αγνόηση.

Αγνόηση.

Διαγραφή.

ΧΜ: Οι επονομαζόμενοι
διαχειριστές περιεχομένου

δεν πληρώνονται οι ίδιοι
από το Facebook, το Twitter ή το Google,

αλλά από εταιρείες εξωτερικής
ανάθεσης σε όλον τον κόσμο

ούτως ώστε να κρατηθούν
χαμηλά οι μισθοί.

Δεκάδες χιλιάδες νέοι άνθρωποι

βλέπουν οτιδήποτε
δεν πρέπει να δούμε εμείς.

Και μιλάμε για αποκεφαλισμούς,
ακρωτηριασμούς,

εκτελέσεις, νεκροφιλία,
βασανισμούς, παιδική κακοποίηση.

Χιλιάδες εικόνες σε μια βάρδια -

αγνόηση, διαγραφή, μέρα και νύχτα.

Και η περισσότερη δουλειά
γίνεται στη Μανίλα,

όπου τα αναλογικά τοξικά απόβλητα
του Δυτικού κόσμου

μεταφέρονταν με δεξαμενόπλοια
για πολλά χρόνια,

τώρα τα ψηφιακά απόβλητα απορρίπτονται
εκεί μέσω καλωδίων οπτικής ίνας.

Και όπως ψάχνουν
οι επονομαζόμενοι ρακοσυλλέκτες

μέσα σε τεράστιους σωρούς
στις παρυφές της πόλης,

οι διαχειριστές περιεχομένου διαπλέουν
με κλικ έναν απέραντο τοξικό ωκεανό

από εικόνες και βίντεο και
κάθε είδους διανοητικό σκουπίδι,

έτσι ώστε να μην χρειαστεί
να τα δούμε εμείς.

ΜΡ: Αλλά σε αντίθεση
με τις πληγές των ρακοσυλλεκτών,

αυτές των διαχειριστών περιεχομένου
παραμένουν αόρατες.

Γεμάτες από σοκαριστικό
και αποκρουστικό περιεχόμενο,

αυτές οι εικόνες και τα βίντεο
τρυπώνουν στη μνήμη τους

όπου ανά πάσα στιγμή μπορεί
να επιφέρουν απρόβλεπτες συνέπειες:

διατροφικές διαταραχές,
απώλεια της λίμπιντο,

αγχώδεις διαταραχές, αλκοολισμό,

κατάθλιψη, η οποία μπορεί
να οδηγήσει ακόμη και σε αυτοκτονία.

Οι φωτογραφίες και τα βίντεο τούς μολύνουν

και συχνά δεν τους εγκαταλείπουν ποτέ.

Αν δεν είναι τυχεροί, αναπτύσσουν
διαταραχές μετατραυματικού άγχους,

όπως οι στρατιώτες
μετά από πολεμικές αποστολές.

Στην ταινία μας αφηγούμαστε
την ιστορία ενός νεαρού

που επιθεωρούσε ζωντανή ροή με απόπειρες
αυτοκτονίας και αυτοακρωτηριασμούς,

ξανά και ξανά,

και που τελικά αυτοκτόνησε και ο ίδιος.

Δεν είναι μεμονωμένη περίπτωση,
όπως μας έχουν πει.

Είναι το αντίτιμο που όλοι μας πληρώνουμε

για αυτά που λέγονται
καθαρά, ασφαλή και «υγιή»

περιβάλλοντα στα κοινωνικά μέσα.

Ποτέ πριν στην ιστορία της ανθρωπότητας

δεν ήταν ευκολότερο να φτάσεις
εκατομμύρια ανθρώπους σε όλη τη Γη

μέσα σε λίγα δευτερόλεπτα.

Ό,τι αναρτάται στα κοινωνικά μέσα
εξαπλώνεται ταχύτατα σαν επιδημία,

και συνεπαίρνει τους ανθρώπους
σε όλον τον κόσμο.

Πριν να διαγραφεί,

συχνά είναι ήδη πολύ αργά.

Εκατομμύρια ανθρώπων έχουν ήδη μολυνθεί

από μίσος και θυμό,

και είτε ενεργοποιούνται διαδικτυακά,

διασπείροντας ή ενισχύοντας το μίσος

ή βγαίνουν στους δρόμους
και παίρνουν τα όπλα.

ΧΜ: Γι' αυτό, μια στρατιά
από διαχειριστές περιεχομένου

κάθονται μπροστά στην οθόνη
για να αποτρέψουν παράπλευρες απώλειες.

Και αποφασίζουν το συντομότερο δυνατόν

αν το περιεχόμενο θα μείνει στην πλατφόρμα
-οπότε πατούν αγνόηση-

ή αν θα εξαφανιστεί - και πατούν διαγραφή.

Αλλά δεν είναι όλες
οι αποφάσεις τόσο σαφείς

όσο η απόφαση για κάποιο βίντεο
με παιδική κακοποίηση.

Και τι γίνεται με περιεχόμενο
αμφιλεγόμενο ή με αμφισημίες,

που ανεβάζουν ακτιβιστές για τα ατομικά
δικαιώματα ή πολίτες δημοσιογράφοι;

Οι διαχειριστές περιεχομένου συχνά
αποφασίζουν για τέτοιες περιπτώσεις

με την ίδια ταχύτητα
όπως στις σαφείς περιπτώσεις.

ΜΡ: Τώρα θα σας δείξουμε ένα βίντεο

και θα σας ζητήσουμε να αποφασίσετε:

θα το διαγράφατε,

ή δεν θα το διαγράφατε;

(Βίντεο)
(Ήχοι αεροπορικής επιδρομής)

(Έκρηξη)

(Άνθρωποι που μιλούν Αραβικά)

ΜΡ: Ναι, το θολώσαμε λίγο για εσάς.

Ένα παιδί ενδεχομένως
να ταραζόταν επικίνδυνα

και να είχε τρομοκρατηθεί
από τέτοιο περιεχόμενο.

Άρα, μάλλον θα το διαγράψετε;

Αν όμως αυτό το βίντεο ίσως βοηθούσε την
έρευνα για τα εγκλήματα πολέμου στη Συρία;

Τι θα γινόταν αν κανείς δεν μάθαινε
γι' αυτή την αεροπορική επιδρομή

επειδή αποφάσισαν να το κατεβάσουν
τα Facebook, YouTube και Twitter;

Η Airwars, μια μη κυβερνητική
οργάνωση με έδρα το Λονδίνο,

προσπαθεί να βρίσκει τέτοια βίντεο
το συντομότερο δυνατόν

οποτεδήποτε μεταφορτώνονται
στα κοινωνικά δίκτυα,

με σκοπό να τα αρχειοθετήσουν.

Γιατί ξέρουν ότι ανά πάσα στιγμή

τα Facebook, YouTube και Twitter
θα διαγράψουν αυτό το περιεχόμενο.

Οι άνθρωποι με όπλο το κινητό τους
μπορούν να κάνουν ορατό

κάτι στο οποίο οι δημοσιογράφοι
συχνά δεν έχουν πρόσβαση.

Οι ομάδες για τα πολιτικά δικαιώματα
συχνά δεν έχουν άλλη επιλογή

για να κάνουν τις καταγραφές τους
προσβάσιμες σε μεγάλα ακροατήρια

από να τις ανεβάσουν
στα μέσα κοινωνικής δικτύωσης.

Αυτή τη δυνατότητα ενδυνάμωσης
δεν θα έπρεπε να έχει ο Παγκόσμιος Ιστός;

Αυτά τα όνειρα δεν είχαν οι άνθρωποι

όταν ο Παγκόσμιος Ιστός
ήταν ακόμα στις απαρχές του;

Δεν μπορούν τέτοιου είδους
φωτογραφίες και βίντεο

να πείσουν τους ανθρώπους
που έχουν γίνει απαθείς στα γεγονότα

να το ξανασκεφτούν;

ΧΜ: Αντ' αυτού, διαγράφεται
οτιδήποτε ίσως ενοχλήσει.

Και υπάρχει μια γενική αλλαγή
στην κοινωνία.

Τα μέσα, για παράδειγμα, όλο και πιο συχνά
βάζουν μηνύματα προειδοποίησης

στην κορυφή των άρθρων

τα οποία κάποιοι τα εκλαμβάνουν
ως προσβλητικά και ενοχλητικά.

Ή επίσης, όλο και περισσότεροι φοιτητές
στα πανεπιστήμια των ΗΠΑ

απαιτούν την αφαίρεση από τη διδακτέα ύλη

των κλασσικών έργων που περιέχουν
σεξουαλική επίθεση ή βία.

Αλλά έως ποιο σημείο
μπορούμε να το κάνουμε αυτό;

Η σωματική ακεραιότητα
είναι εγγυημένη ως ανθρώπινο δικαίωμα

από τους θεσμούς παγκοσμίως.

Στον Χάρτη των Θεμελιωδών Δικαιωμάτων
της Ευρωπαϊκής Ένωσης,

αυτό το δικαίωμα ρητώς εφαρμόζεται
στην πνευματική ακεραιότητα.

Αλλά ακόμη κι αν είναι
δύσκολο να προβλεφθεί

η ενδεχόμενη τραυματική επίδραση
των εικόνων και βίντεο,

όντως επιθυμούμε να γίνουμε
τόσο επιφυλακτικοί

ώστε να διακινδυνεύουμε να χάσουμε
την κοινωνική επίγνωση της αδικίας;

Τι θα κάνουμε λοιπόν;

Ο Μαρκ Ζάκερμπμπεργκ
πρόσφατα δήλωσε ότι στο μέλλον,

οι χρήστες, -εμείς, ή σχεδόν όλοι-

θα αποφασίζουν ατομικά

τι θα ήθελαν να δουν στην πλατφόρμα,

με προσωπικά ρυθμισμένα φίλτρα.

Έτσι όλοι μπορούν εύκολα
να απαιτήσουν να μην ενοχλούνται

από εικόνες πολέμου
ή άλλες βίαιες συγκρούσεις όπως...

ΜΡ: Είμαι ο τύπος θεατή
που δεν με πειράζει να βλέπω στήθη

και με ενδιαφέρει πολύ
το φαινόμενο του θερμοκηπίου,

αλλά δεν μου αρέσει ο πόλεμος τόσο πολύ.

ΧΜ: Ναι, εγώ είμαι μάλλον το αντίθετο,

δεν έχω κανένα εντελώς ενδιαφέρον
για γυμνά στήθη ή σώματα.

Αλλά γιατί όχι όπλα;
Μου αρέσουν τα όπλα, ναι.

ΜΡ: Ελάτε τώρα, αν δεν μοιραστώ
μια τέτοια κοινωνική άποψη,

πώς θα συζητήσουμε
τα κοινωνικά προβλήματα;

Πώς θα καλέσουμε τον κόσμο
να αναλάβει δράση;

Θα προκύψουν ακόμη περισσότερες
μεμονωμένες περιπτώσεις.

Μία από τις βασικές ερωτήσεις είναι:
«Πώς θα αντισταθμίζεται στο μέλλον

η ελευθερία της έκφρασης έναντι
της ανθρώπινης ανάγκης για προστασία».

Είναι θέμα αρχής.

Θέλουμε να σχεδιάσουμε
μια ανοιχτή ή μια κλειστή κοινωνία

για το ψηφιακό διάστημα;

Η ουσία του προβλήματος είναι
«ελευθερία ή ασφάλεια».

Το Facebook ανέκαθεν ήθελε
να είναι μια «υγιής» πλατφόρμα.

Το σημαντικότερο ήταν
οι χρήστες να νιώθουν ασφάλεια.

Είναι η ίδια επιλογή λέξεων

που χρησιμοποίησαν οι διαχειριστές
περιεχομένου στις Φιλιππίνες

σε πολλές από τις συνεντεύξεις μας.

(Βίντεο) Ο κόσμος στον οποίον
ζούμε αυτή τη στιγμή,

θεωρώ ότι δεν είναι πολύ υγιής.

(Μουσική)

Σε αυτόν τον κόσμο
πραγματικά υπάρχει ένα κακό.

(Μουσική)

Πρέπει έχουμε τον νου μας γι' αυτό.

(Μουσική)

Πρέπει να έχουμε τον έλεγχο -
είτε για καλό ή για κακό.

(Μουσική)

[Κοίτα προς τα επάνω, Νέε μου! -Θεός]

ΜΡ: Στις αυστηρά καθολικές Φιλιππίνες,
για τους νεαρούς διαχειριστές περιεχομένου

αυτό θεωρείται κάπως
σαν χριστιανική αποστολή.

Για να καταπολεμήσουν
τις αμαρτίες των ανθρώπων

που εξαπλώνονται μέσω το διαδικτύου.

«Η καθαριότητα είναι το πιο σπουδαίο
πράγμα μετά την ευσέβεια»

είναι μια παροιμία
που ξέρουν όλοι στις Φιλιππίνες.

ΧΜ: Και άλλοι βρίσκουν κίνητρο

συγκρίνοντας τον εαυτό τους
με τον πρόεδρό τους, Ροντρίγκο Ντουτέρτε.

Κυβερνά τις Φιλιππίνες από το 2016,

και κέρδισε τις εκλογές με την υπόσχεση:
«Θα τα καθαρίσω όλα».

Κι αυτό σημαίνει ότι θα εξαλείψει
κάθε είδους πρόβλημα

κυριολεκτικά σκοτώνοντας
στους δρόμους ανθρώπους

που υποτίθεται ότι είναι εγκληματίες,
ό,τι κι αν σημαίνει αυτό.

Και από την εκλογή του,

υπολογίζεται ότι έχουν σκοτωθεί
περίπου 20.000 άνθρωποι.

Κι ένας διαχειριστής στην ταινία μας λέει,

«Αυτό που κάνει ο Ντουτέρτε στους δρόμους,

το κάνω εγώ στο ίντερνετ».

Και ιδού, οι αυτόκλητοι υπερήρωές μας,

που επιβάλλουν τον νόμο και την τάξη
στον ψηφιακό μας κόσμο.

Καθαρίζουν τα πάντα,
τα κάνουν να λάμπουν από καθαριότητα

μας προστατεύουν από καθετί κακό.

Πρώην καθήκοντα των κρατικών αρχών

αναλήφθηκαν από εικοσάρηδες
απόφοιτους κολεγίου,

εξοπλισμένους με μια επιμόρφωση
τριών με πέντε ημερών,

-αυτό είναι επαρκές προσόν-

και επιφορτισμένους με το σημαντικό έργο
να σώσουν την ανθρωπότητα.

ΜΡ: Εθνικές κυριαρχίες έχουν δοθεί
εργολαβικά σε ιδιωτικές εταιρείες,

και αυτές μεταβιβάζουν
τις ευθύνες σε τρίτους.

«Το είπα εγώ του σκύλου μου,
κι ο σκύλος στην ουρά του»,

κάπως έτσι είναι.

Με τα κοινωνικά δίκτυα,

αντιμετωπίζουμε μια εντελώς νέα υποδομή,

με τους δικούς της μηχανισμούς,

τη δική της λογική περί δράσης,

και γι' αυτό το λόγο,
με δικούς της νέους κινδύνους,

που δεν έχουν ακόμη υπάρξει
στην προψηφιοποιημένη δημόσια σφαίρα.

ΧΜ: Όταν ο Μαρκ Ζάκερμπεργκ
πήγε στο Κογκρέσο των ΗΠΑ

ή στην Ευρωπαϊκή Βουλή,

αντιμετώπιζε κάθε είδους επικριτές.

Και η αντίδρασή του ήταν πάντα η ίδια:

«Θα το διορθώσουμε,

θα επιληφθούμε αυτού με την ομάδα μου».

Αλλά μια τέτοια αντιπαράθεση
δεν πρέπει να γίνεται

στα παρασκήνια του Facebook,
του Twitter ή του Google -

πρέπει να συζητιέται ανοιχτά
σε νέα κοινοβούλια από πολίτες του κόσμου,

σε νέους θεσμούς που αντικατοπτρίζουν
την ποικιλότητα των ανθρώπων

που εναρμονίζονται σε ένα ουτοπικό
πρόγραμμα ενός παγκόσμιου δικτύου.

Και παρόλο που φαίνεται αδύνατον

να ληφθούν υπόψιν οι αξίες
των χρηστών παγκοσμίως,

αξίζει να πιστεύουμε

ότι μας ενώνουν περισσότερα
από όσα μας χωρίζουν.

ΜΡ: Ναι, σε καιρούς που παίρνει
τα πάνω του ο λαϊκισμός,

ο κόσμος έχει την τάση
να δικαιολογεί τα συμπτώματα,

να τα παραμερίζει,

να τα κάνει αόρατα.

Αυτή η ιδεολογία εξαπλώνεται παγκοσμίως,

αναλογικά αλλά και ψηφιακά,

και είναι καθήκον μας να τη σταματήσουμε

πριν είναι αργά.

Το ερώτημα της ελευθερίας
και της δημοκρατίας

δε πρέπει να έχει μόνο
αυτές τις δύο επιλογές.

ΧΜ: Διαγραφή.

ΜΡ: Ή αγνόηση.

ΧΜ: Σας ευχαριστούμε πολύ.

(Χειροκρότημα)