Αγαπητό Facebook, να πώς καταστρέφεις τη δημοκρατία

«Το ψέμα στο διαδίκτυο υπερισχύει της αλήθειας», λέει η πρώην αναλύτρια της CIA, διπλωμάτισσα και υπάλληλος του Facebook, Γιαήλ Άιζενστατ. «Όσο ο στόχος των αλγορίθμων [των μέσων κοινωνικής δικτύωσης] είναι
να μας κρατάν ενεργούς, θα συνεχίσουν να μας ταΐζουν το δηλητήριο
που τροφοδοτεί τα χειρότερα ένστικτά μας και τις ανθρώπινες αδυναμίες». Σε αυτήν την τολμηρή κουβέντα, η Άιζενστατ εξερευνά τον τρόπο που εταιρίες μέσων κοινωνικής δικτύωσης, όπως το Facebook, δίνουν κίνητρο σε προκλητικά περιεχόμενα, συνεισφέροντας στην καλλιέργεια πολιτικής πόλωσης και δυσπιστίας -- και καλεί τις κυβερνήσεις να προσάψουν ευθύνες σε αυτές τις πλατφόρμες, ούτως ώστε να προστατέψουν τον διάλογο των πολιτών και τη δημοκρατία.

Πριν από περίπου πέντε χρόνια,

ξαφνιάστηκα που άρχισε
να μου είναι αδύνατο

να συνομιλήσω με ανθρώπους
διαφορετικής νοοτροπίας.

Η σκέψη συζήτησης καυτών θεμάτων
με τους Αμερικανούς συνανθρώπους μου

άρχισε να μου προκαλεί
μεγαλύτερο πονοκέφαλο

από ό,τι όταν συζητούσα στο εξωτερικό
με πιθανούς εξτρεμιστές.

Άρχισε να μου αφήνει περισσότερη
πίκρα και απογοήτευση.

Και έτσι απλά,

έστρεψα όλη την προσοχή μου

από τις παγκόσμιες απειλές
εθνικής ασφάλειας

στην προσπάθεια να κατανοήσω
τι προκαλούσε αυτή την ώθηση

προς την υπερβολική πόλωση στην πατρίδα.

Ως πρώην υπάλληλος και διπλωμάτης της CIA,

που δούλευε χρόνια
πάνω στον αντι-εξτρεμισμό,

άρχισα να φοβάμαι πως αυτό απειλούσε
πολύ παραπάνω τη δημοκρατία μας

απ' ό,τι οποιοσδήποτε ξένος αντίπαλος.

Έτσι, άρχισα να εμμένω

και να λέω την άποψή μου,

το οποίο τελικά οδήγησε
στην πρόσληψή μου στο Facebook

και κατά συνέπεια, με έφερε εδώ σήμερα,

για να σας προειδοποιήσω πάλι
για το πώς αυτές οι πλατφόρμες

εκμεταλλεύονται και ριζοσπαστικοποιούν
πάρα πολλούς από εμάς

και για να μιλήσω για το πώς
να ανακτήσουμε την κοινή γνώμη.

Υπήρξα διπλωμάτισσα στην Κένυα

μόλις μερικά χρόνια μετά τις επιθέσεις
της 11ης Σεπτεμβρίου,

και επικεφαλής των λεγόμενων
«συναισθηματικών» εκστρατειών

κατά μήκος των συνόρων της Σομαλίας.

Μεγάλο μέρος της δουλειάς μου ήταν
να χτίσω εμπιστοσύνη σε κοινότητες

που θεωρούνταν οι πιο ευάλωτες
σε εξτρεμιστικά μηνύματα.

Πέρασα ώρες πίνοντας τσάι
με σκληρούς αντι-Δυτικούς κληρικούς

και συνδιαλέχτηκα ακόμη
και με πιθανούς τρομοκράτες.

Και ενώ πολλές απ' αυτές τις συζητήσεις
ξεκίνησαν με αμοιβαία καχυποψία,

δε θυμάμαι καμία να καταλήγει
σε φωνές και προσβολές,

και σε κάποιες περιπτώσεις, συνεργαστήκαμε
σε σημεία κοινού ενδιαφέροντος.

Τα ισχυρότερα μέσα που είχαμε ήταν
απλά να ακούσουμε, να μάθουμε

και να δημιουργήσουμε ενσυναίσθηση.

Αυτή είναι η ουσία
της συναισθηματικής δουλειάς.

Γιατί είδα επανειλημμένα
ότι αυτό που ήθελαν οι περισσότεροι

ήταν να τους ακούν, να τους αναγνωρίζουν
και να τους σέβονται.

Και πιστεύω, αυτό είναι
που θέλουμε οι περισσότεροι.

Αυτό που συμβαίνει σήμερα στο διαδίκτυο
είναι ιδιαίτερα θλιβερό

και είναι πρόβλημα
δυσκολότερα διαχειρίσιμο.

Χειραγωγούμαστε
από το τρέχον σύστημα δεδομένων

που παγιώνει τόσους πολλούς
σε έναν τέτοιο απολυταρχισμό

που ο συμβιβασμός
έχει γίνει πρόστυχη λέξη.

Καθώς αυτή τη στιγμή,

εταιρές κοινωνικής δικτύωσης
όπως το Facebook,

επωφελούνται κόβοντας και ταΐζοντάς μας
εξατομικευμένο περιεχόμενο

που επιβεβαιώνει αλλά και εκμεταλλεύεται
τις προτιμήσεις μας.

Τα κέρδη τους βασίζονται
στην πρόκληση ενός δυνατού συναισθήματος

για να μας κρατήσει ενεργούς,

συχνά κινητοποιώντας τις πιο προκλητικές
και διχαστικές φωνές

στο σημείο που μοιάζει απίθανο
να βρεθεί κοινό έδαφος.

Και παρόλο που όλο και πιο πολλοί άνθρωποι
φωνάζουν να αλλάξουν οι πλατφόρμες,

είναι φανερό ότι από μόνες τους
δεν θα κάνουν αρκετά.

Οι κυβερνήσεις πρέπει να προσάψουν ευθύνες

για τα πραγματικά κακά που προκαλούνται
απ' αυτά τα επιχειρησιακά μοντέλα

και να επιβάλουν πρόστιμα
για τις επιβλαβείς συνέπειες

που έχουν στη δημόσια υγεία,
την κοινή γνώμη και τη δημοκρατία μας.

Αλλά δυστυχώς, αυτό δε θα συμβεί εγκαίρως
για τις Αμερικανικές προεδρικές εκλογές.

Επομένως, εξακολουθώ να κρούω τον κώδωνα,

επειδή ακόμη κι αν μια μέρα
τεθούν ισχυροί κανόνες,

θα χρειαστούμε όλοι μας,
για να το διορθώσουμε.

Όταν άρχισα να στρέφω
την προσοχή μου από ξένες απειλές

στην ανάλυση του πολιτικού διαλόγου

αναρωτήθηκα αν κάποιες απ' τις εκστρατείες
θα μπορούσαν να χρησιμοποιηθούν,

για να επουλωθούν οι διαχωρισμοί μας.

Το πείραμα της δημοκρατίας
δουλεύει για πάνω από 200 χρόνια

σε μεγάλο βαθμό γιατί μπορούμε
ανοιχτά και με πάθος

να συζητήσουμε τις ιδέες μας
για τις καλύτερες λύσεις.

Αλλά ενώ ακόμη πιστεύω βαθιά

στη δύναμη του πολιτικού
διαλόγου κατ' ιδίαν,

απλώς δεν μπορεί να συναγωνιστεί

την πόλωση και την κλίμακα
των σημερινών μέσων κοινωνικής δικτύωσης.

Οι άνθρωποι που βυθίζονται στα λαγούμια

της οργής των μέσων αυτών

συχνά δυσκολεύονται περισσότερο
να αλλάξουν τις ιδεολογίες τους

από εκείνες τις ευάλωτες κοινότητες,
με τις οποίες συνεργάστηκα.

Έτσι, όταν με ζήτησαν
απ' το Facebook το 2018

και μου προσέφεραν τη θέση

να διευθύνω τις επιχειρήσεις εκλογικής
ακεραιότητας στην πολιτική διαφήμιση,

ένιωσα ότι έπρεπε να δεχτώ.

Δεν είχα ψευδαισθήσεις ότι μπορούσα
να διορθώσω τα πάντα.

Αλλά όταν μου έδωσαν την ευκαιρία

να σχεδιάσω μια καλύτερη πορεία,

έπρεπε τουλάχιστον να δοκιμάσω.

Δε δούλεψα ακριβώς πάνω στην πόλωση,

αλλά έψαξα ποια ζητήματα ήταν
τα πιο διχαστικά στην κοινωνία μας

και άρα τα πιο εκμεταλλεύσιμα
σε προσπάθειες εκλογικών παρεμβάσεων,

που ήταν η πολιτική
της Ρωσίας πριν το 2016.

Έτσι, άρχισα τις ερωτήσεις.

Ήθελα να καταλάβω
τα υποκείμενα θέματα του συστήματος

που επέτρεπαν να συμβαίνει όλο αυτό,

ούτως ώστε να βρω πώς να το διορθώσω.

Πιστεύω ακόμη στη δύναμη του διαδικτύου

να φέρνει περισσότερες φωνές στη συζήτηση,

όμως παρά τον δηλωμένο στόχο τους
να χτίζουν κοινότητες,

τα μεγαλύτερα μέσα κοινωνικής δικτύωσης
όπως τώρα είναι δομημένα,

είναι αντίθετα με την έννοια
του εμπεριστατωμένου διαλόγου.

Δε γίνεται να επιβραβεύσεις την κατανόηση,

να ενθαρρύνεις τον πολιτικό διάλογο

και να προστατεύεις ανθρώπους
που ειλικρινά θέλουν να θέσουν ερωτήματα

σε μια επιχείρηση όπου
η συμμετοχή και η αύξηση των χρηστών

είναι οι δύο σημαντικότερες
μετρήσεις για την επιτυχία.

Δεν υπάρχει κίνητρο
για να ηρεμήσει ο κόσμος,

να ενσωματωθεί αρκετή τριβή,
ώστε ο κόσμος να σταματήσει,

να αντιληφθεί τη συναισθηματική του
αντίδραση σε κάτι,

και να αμφισβητήσει τις δικές του
εικασίες πριν εμπλακεί.

Η ατυχής πραγματικότητα είναι η εξής:

το ψέμα στο διαδίκτυο
υπερισχύει της αλήθειας

και η αισχρότητα νικά την ετοιμόρροπη,
βασισμένη σε γεγονότα λογική

σε έναν κόσμο βελτιστοποιημένο
για μια δημοφιλία χωρίς τριβές.

Όσο ο στόχος των αλγορίθμων
είναι να μας κρατάν ενεργούς,

θα συνεχίσουν να μας ταΐζουν το δηλητήριο
που μπαίνει στα χειρότερα ένστικτά μας

και στις ανθρώπινες αδυναμίες.

Και ναι, ο θυμός, η δυσπιστία,

η καλλιέργεια φόβου, το μίσος:

τίποτα απ' αυτά δεν είναι
νέο στην Αμερική.

Όμως, τα μέσα κοινωνικής δικτύωσης
τα έχουν εκμεταλλευτεί όλα αυτά

και κατ' εμέ, έχουν γείρει
τη ζυγαριά δραματικά.

Και το Facebook το γνωρίζει.

Ένα πρόσφατο άρθρο
στη «Wall Street Journal»

αποκάλυψε μια παρουσίαση του 2018
του ίδιου του Facebook

που αναφέρεται συγκεκριμένα
στους αλγόριθμους της εταιρίας,

οι οποίοι αυξάνουν την παρουσία
εξτρεμιστικών γκρουπ στην πλατφόρμα τους

και πολώνουν τους χρήστες τους.

Όμως κερδίζουν λεφτά
κρατώντας μας ενεργούς.

Το σύγχρονο περιβάλλον πληροφοριών
είναι παγιωμένο στο να μας σκιαγραφεί

και να μας χωρίζει σε μικρές κατηγορίες,

για να τελειοποιήσει
αυτή τη διαδικασία εξατομίκευσης.

Μετά βομβαρδιζόμαστε από πληροφορίες
που επιβεβαιώνουν τις αντιλήψεις μας,

ενισχύουν τις θέσεις μας

και μας κάνουν να αισθανόμαστε
ότι κάπου ανήκουμε.

Αυτές είναι μερικές τακτικές
που τρομοκράτες υπεύθυνοι προσλήψεων

χρησιμοποιούσαν στην ευάλωτη νεολαία,

αν και πριν τα μέσα κοινωνικής δικτύωσης
με πιο περιορισμένους τρόπους,

με σκοπό να επηρεάσουν τη συμπεριφορά της.

Δυστυχώς, το Facebook δεν με έθεσε ποτέ
αρμόδια για να έχω πραγματική επιρροή.

Μάλιστα, τη δεύτερη μέρα, μου άλλαξαν
το όνομα και την περιγραφή της θέσης μου

και με αφαίρεσαν
από τα συμβούλια αποφάσεων.

Οι μεγαλύτερες προσπάθειές μου

να φτιάξω σχέδια,

να πολεμήσω την παραπληροφόρηση

και την καταπίεση ψηφοφόρων
σε πολιτικές διαφημίσεις, απορρίφθηκαν.

Κι έτσι, έμεινα λίγο λιγότερο
από έξι μήνες.

Αυτό είναι το κυριότερο συμπέρασμα
από τον χρόνο μου εκεί.

Υπάρχουν χιλιάδες άνθρωποι στο Facebook

που δουλεύουν με πάθος πάνω σ' ένα προϊόν,

που πιστεύουν ειλικρινά
ότι βελτιώνει τον κόσμο,

αλλά όσο η εταιρία συνεχίζει απλώς
να πειραματίζεται με τα όρια

της πολιτικής και εποπτείας περιεχομένου,

αντί να αναλογιστούν

πώς ολόκληρη η μηχανή είναι
σχεδιασμένη και φέρει έσοδα,

δε θα μιλήσουν ποτέ
για το πώς η πλατφόρμα συνεισφέρει

στο μίσος, τον διαχωρισμό
και τη ριζοσπαστικοποίηση.

Αυτή είναι η μία συζήτηση
που δεν έγινε ποτέ όσο ήμουν εγώ εκεί.

Γιατί αυτό θα απαιτούσε
να αποδεχθούν ουσιαστικά

ότι αυτό που δημιούργησαν ίσως
να μην είναι το καλύτερο για την κοινωνία

και να αλλάξουν εντελώς
το προϊόν και το μοντέλο εσόδων.

Οπότε τι μπορούμε να κάνουμε εμείς;

Δε λέω ότι τα μέσα κοινωνικής δικτύωσης
φέρουν όλη την ευθύνη

για τη σημερινή κατάσταση.

Προφανώς, έχουμε ριζωμένα
κοινωνικά ζητήματα που χρήζουν επίλυσης.

Αλλά η απάντηση του Facebook,
το οποίο αντικατροπτίζει την κοινωνία,

είναι μια βολική προσπάθεια
να αποφύγουν κάθε ευθύνη

για τον τρόπο που η πλατφόρμα τους
διευρύνει επικίνδυνο περιεχόμενο

και ωθεί κάποιους χρήστες
προς ακραίες απόψεις.

Και το Facebook θα μπορούσε, αν ήθελε,

να το διορθώσει κάπως αυτό.

Θα μπορούσε να μην ενισχύει και συστίνει
τους οπαδούς θεωριών συνομωσίας,

τις ομάδες μίσους,
όσους διαδίδουν την παραπληροφόρηση

και, ναι, σε μερικές περιπτώσεις
ακόμη και τον πρόεδρό μας.

Θα μπορούσε να μη χρησιμοποιεί
τις ίδιες τεχνικές εξατομίκευσης,

για να παραδώσει πολιτική ρητορική,
με αυτές με τις οποίες πουλάει παπούτσια.

Θα μπορούσε να αλλάξει τους αλγόριθμους

να εστιάζουν σε μια μέτρηση
πέραν της ανάμειξης,

και να χτίσει κάγκελα προστασίας,
για να μη πάρει διαστάσεις ένα περιεχόμενο

πρωτού αξιολογηθεί.

Και θα μπορούσε να τα κάνει όλα αυτά

χωρίς να γίνει, όπως λένε,
διαιτητής της αλήθειας.

Αλλά κατέστησε σαφές ότι δε θα υπερβάλει

για να κάνει το σωστό, αν δεν αναγκαστεί.

Και για να είμαστε ειλικρινείς,
γιατί να το κάνει;

Οι αγορές το ανταμείβουν συνεχώς
και δεν παραβιάζει τον νόμο.

Γιατί, ως έχει,

δεν επιβάλλει κανένας νόμος στο Facebook
ούτε στα άλλα μέσα κοινωνικής δικτύωσης

να προστατέψουν την κοινή γνώμη,

τη δημοκρατία μας

ακόμη και τις εκλογές μας.

Έχουμε παραχωρήσει τη λήψη αποφάσεων
για το τι νόμους να επιβάλλουμε

στους Διευθύνοντες Συμβούλους
κερδοσκοπικών διαδικτυακών εταιριών.

Αυτό θέλουμε;

Έναν κόσμο πέραν της αλήθειας,
όπου η τοξικότητα και ο φυλετισμός

επισκιάζουν τη γεφύρωση διαφωνιών
και την αναζήτηση συναίνεσης;

Μένω αισιόδοξη ότι ακόμα έχουμε
περισσότερα κοινά μεταξύ μας

απ' ό,τι δείχνουν τα σημερινά μέσα
και ο διαδικτυακός χώρος

Και πιστεύω πως έχοντας
περισσότερες οπτικές

δημιουργείται μια πιο γερή
και ανοιχτή δημοκρατία.

Αλλά όχι με τον τρόπο που συμβαίνει τώρα.

Και να τονίσω, δε θέλω
να εξολοθρεύσω αυτές τις εταιρίες.

Θέλω απλά να λογοδοτήσουν ως ένα βαθμό,

όπως ακριβώς και η υπόλοιπη κοινωνία.

Είναι ώρα οι κυβερνήσεις μας να δυναμώσουν
και να κάνουν το καθήκον τους,

να προστατέψουν τους πολίτες.

Και ενώ δεν υπάρχει μια μαγική νομοθεσία

που θα το διορθώσει όλο αυτό,

πιστεύω ότι οι κυβερνήσεις μπορούν
και πρέπει να βρουν ισορροπία

ανάμεσα στην προστασία
της ελευθερίας λόγου

και στην επίρριψη ευθυνών στις πλατφόρμες
για το κοινωνικό τους αντίκτυπο.

Και θα μπορούσαν να το κάνουν εν μέρει
εμμένοντας στην αληθινή διαφάνεια

γύρω απ' τον τρόπο που δουλεύουν
αυτές οι μηχανές προτάσεων,

γύρω απ' τον τρόπο που γίνονται
η επιμέλεια, η διεύρυνση, η στοχοποίηση.

Θέλω αυτές οι εταιρίες
να θεωρηθούν υπεύθυνες

όχι για το αν κάποιος δημοσιεύσει
λανθασμένες πληροφορίες

ή ακραία ρητορεία,

αλλά για το πώς οι μηχανές
προτάσεων τα διαδίδουν,

για το πώς οι αλγόριθμοί τους
κατευθύνουν τους ανθρώπους προς αυτά

και για το πώς τα εργαλεία τους
στοχοποιούν τους ανθρώπους.

Προσπάθησα να φέρω αλλαγές
μέσα απ' το Facebook και απέτυχα.

Γι' αυτό χρησιμοποιώ τη φωνή μου
ξανά τα τελευταία χρόνια,

για να συνεχίσω
να χτυπάω αυτόν τον συναγερμό

και να εμπνεύσω περισσότερο κόσμο
να απαιτήσει ανάληψη ευθυνών.

Το μήνυμά μου προς εσάς είναι απλό:

πιέστε τους κυβερνητικούς σας
εκπροσώπους να δυναμώσουν

και να μην εκχωρούν την κοινή γνώμη
σε κερδοσκοπικά συμφέροντα.

Μάθετε στους φίλους και συγγενείς σας

πώς τους χειραγωγεί το διαδίκτυο.

Πιεστείτε να συνομιλήσετε
με ανθρώπους διαφορετικής νοοτροπίας.

Κάντε αυτό το ζήτημα προτεραιότητα.

Χρειάζεται ολόκληρη η κοινωνία,
για να το διορθώσουμε.

Tο μήνυμά μου προς τους επικεφαλής
του Facebook, του πρώην εργοδότη μου:

Σήμερα, οι άνθρωποι χρησιμοποιούν
τα εργαλεία σας, ακριβώς όπως σχεδιάστηκαν

για να δείξουν μίσος,
διαχωρισμό και δυσπιστία.

Και εσείς όχι απλά το επιτρέπετε,
αλλά το διευκολύνετε.

Και ναι, υπάρχουν
πολλές σπουδαίες ιστορίες

για θετικά πράγματα που συμβαίνουν
στην πλατφόρμα σας παγκοσμίως,

όμως αυτό δεν καθιστά τίποτα εντάξει.

Μόνο χειροτερεύει,
καθώς οδεύουμε προς τις εκλογές

και γίνεται πιο ανησυχητικό

εν όψει της μεγαλύτερης πιθανής κρίσης,

αν τα αποτελέσματα αμφισβητηθούν
και ξεσπάσει βία.

Άρα όταν πείτε πάλι το 2021,
«Γνωρίζουμε ότι πρέπει να βελτιωθούμε»,

θέλω να θυμάστε αυτή τη στιγμή.

Γιατί πλέον δεν είναι μόνο
κάποιες σκόρπιες φωνές.

Ηγέτες ανθρωπίνων
δικαιωμάτων, ακαδημαϊκοί,

δημοσιογράφοι, διαφημιστές,
οι ίδιοι οι υπάλληλοί σας

διαλαλούν

ότι οι πολιτικές και
οι επιχειρηματικές πρακτικές σας

βλάπτουν τους ανθρώπους και τη δημοκρατία.

Οι επιλογές σας σάς ανήκουν,

αλλά δεν μπορείτε να πείτε
ότι δεν ξέρατε πως θα συμβεί.

Ευχαριστώ.