Τι γνωρίζουν οι εταιρίες τεχνολογίας για τα παιδιά σας

Οι ψηφιακές πλατφόρμες που χρησιμοποιείτε εσείς και η οικογένειά σας -- από διαδικτυακά παιχνίδια έως εκπαιδευτικές εφαρμογές και ιατρικά πόρταλ - μπορεί να συλλέγουν και να πωλούν τα δεδομένα των παιδιών σας, λέει η ανθρωπολόγος Βερόνικα Μπαράσι. Καθώς μοιράζεται την αποκαλυπτική της έρευνα, η Μπαράσι προτρέπει τους γονείς να ξαναδούν τους ψηφιακούς όρους και προϋποθέσεις αντί να τους αποδέχονται στα τυφλά -- και να απαιτούν προστασίες που διασφαλίζουν ότι τα δεδομένα των παιδιών τους δεν αλλάξει το μέλλον τους.

Κάθε μέρα, κάθε εβδομάδα,

αποδεχόμαστε όρους και προϋποθέσεις.

Και όταν το κάνουμε αυτό,

παρέχουμε σε εταιρίες
το νόμιμο δικαίωμά τους

να κάνουν ό,τι θέλουν με τα δεδομένα μας

και τα δεδομένα των παιδιών μας.

Κάτι που μας κάνει να αναρωτηθούμε:

πόσα δεδομένα των παιδιών δίνουμε

και ποιο είναι το αντίκτυπό τους;

Είμαι ανθρωπολόγος
και μητέρα δύο μικρών κοριτσιών.

Άρχισα να ενδιαφέρομαι
γι' αυτό το ερώτημα το 2015

όταν συνειδητοποίησα ξαφνικά
ότι υπήρχε ένας αχανής,

σχεδόν αδιανόητος όγκος από ίχνη δεδομένων

που δημιουργείται και συλλέγεται
σχετικά με τα παιδιά.

Έτσι, ξεκίνησα ένα ερευνητικό έργο

που ονομάζεται Child Data Citizen,

κι ο στόχος του είναι να καλύψει τα κενά.

Τώρα ίσως νομίζετε ότι είμαι εδώ
για να σας ρίξω το φταίξιμο

που ανεβάζετε φωτογραφίες
των παιδιών σας στα κοινωνικά μέσα,

αλλά δεν είναι αυτό το θέμα.

Το θέμα είναι πολύ μεγαλύτερο
από τους γονείς που μοιράζονται τα πάντα.

Έχει να κάνει με τα συστήματα,
όχι με μεμονωμένα άτομα.

Δεν φταίτε εσείς και οι συνήθειές σας.

Για πρώτη φορά στην ιστορία

παρακολουθούμε τα μεμονωμένα δεδομένα
των παιδιών πολύ πριν τη γέννησή τους.

Μερικές φορές από τη στιγμή της σύλληψης

και μετά σε όλη τους τη ζωή.

Όταν οι γονείς αποφασίζουν
να κάνουν παιδιά,

μπαίνουν στο ίντερνετ ψάχνοντας
τρόπους για την εγκυμοσύνη

ή κατεβάζουν εφαρμογές
παρακολούθησης ωορρηξίας.

Όταν μείνουν έγκυες,

ανεβάζουν τους υπερήχους
από το μωρό τους στα κοινωνικά μέσα,

κατεβάζουν εφαρμογές εγκυμοσύνης

ή παίρνουν συμβουλές
από τον Δρ Google για διάφορα,

όπως για «κινδύνους αποβολής σε αεροπλάνο»

ή «κοιλιακές κράμπες
στην αρχή της εγκυμοσύνης».

Το ξέρω επειδή το έχω κάνει πολλές φορές.

Και μετά, όταν γεννιέται το μωρό,
καταγράφουν κάθε υπνάκο, κάθε τάισμα,

κάθε γεγονός σε διάφορες τεχνολογίες.

Κι όλες αυτές οι τεχνολογίες μεταμορφώνουν

τα πιο ενδόμυχα δεδομένα συμπεριφοράς
και υγείας του μωρού σε κέρδος,

μοιράζοντάς τα με άλλους.

Για να σας δώσω μια ιδέα
πώς λειτουργεί αυτό,

το 2019 το Βρετανικό Ιατρικό Περιοδικό
δημοσίευσε μια έρευνα που έδειξε

ότι από τις 24 εφαρμογές
υγείας για κινητό,

οι 19 μοιράζονταν πληροφορίες με τρίτους.

Και αυτοί οι τρίτοι μοιράζονταν
πληροφορίες με άλλους 216 οργανισμούς.

Από αυτούς τους 216 τέταρτους,

μόνο οι τρεις ανήκαν
στον τομέα της υγείας.

Οι άλλες εταιρίες που είχαν
πρόσβαση σ' αυτά τα δεδομένα

ήταν μεγάλες τεχνολογικές εταιρίες
όπως η Google, το Facebook ή η Oracle,

ήταν ψηφιακές διαφημιστικές εταιρίες

και επίσης υπήρχε μια εταιρία
αναφοράς πίστωσης καταναλωτών.

Πολύ σωστά καταλάβατε.

Διαφημιστικές και πιστωτικές εταιρίες ίσως
έχουν ήδη σημεία δεδομένων από μικρά μωρά.

Αλλά οι εφαρμογές, οι αναζητήσεις
και τα κοινωνικά μέσα

είναι μόνο η κορυφή του παγόβουνου,

επειδή τα παιδιά παρακολουθούνται
από πολλαπλές τεχνολογίες

στην καθημερινότητά τους.

Παρακολουθούνται από οικιακές τεχνολογίες
και ψηφιακούς βοηθούς στα σπίτια τους,

παρακολουθούνται
από εκπαιδευτικές πλατφόρμες

και εκπαιδευτικές τεχνολογίες
στα σχολεία τους.

Παρακολουθούνται από διαδικτυακά αρχεία

και διαδικτυακά πόρταλ
στο γραφείο του γιατρού τους.

Από τα παιχνίδια τους
που συνδέονται στο διαδίκτυο,

τα διαδικτυακά τους παιχνίδια
και πάρα πολλές άλλες τεχνολογίες.

Κατά τη διάρκεια της έρευνάς μου,
πολλοί γονείς ήρθαν και μου είπαν,

«Και τι έγινε;

Τι σημασία έχει αν
παρακολουθούνται τα παιδιά μου;

Δεν έχουμε κάτι να κρύψουμε».

Έχει σημασία όμως.

Έχει σημασία επειδή τα άτομα σήμερα
δεν παρακολουθούνται μόνο,

σκιαγραφείται και το προφίλ τους
βάσει του ίχνους των δεδομένων τους.

Η τεχνητή νοημοσύνη και τα προγνωστικά
αναλυτικά στοιχεία χρησιμοποιούνται

για να συλλέξουν όσο περισσότερα
δεδομένα γίνεται για τη ζωή ενός ατόμου

από διάφορες πηγές:

οικογενειακό ιστορικό,

καταναλωτικές συνήθειες,
σχόλια στα κοινωνικά μέσα.

Και μετά ενώνουν αυτά τα δεδομένα

για να πάρουν αποφάσεις
σύμφωνα μ' αυτά για το άτομο.

Και αυτές οι τεχνολογίες
χρησιμοποιούνται παντού.

Από τράπεζες για την έγκριση δανείων,

από ασφαλιστικές
για τον υπολογισμό των ασφαλίστρων.

Από γραφεία ευρέσεως εργασίας κι εργοδότες

για να αποφασίσουν αν κάποιος
είναι κατάλληλος για μια θέση.

Τα χρησιμοποιούν επίσης
η αστυνομία και τα δικαστήρια

για να αποφασίζουν αν κάποιος
είναι ένας δυνητικός εγκληματίας

ή είναι πιθανόν
να διαπράξει πάλι ένα έγκλημα.

Δεν γνωρίζουμε ούτε ελέγχουμε

τους τρόπους που αυτοί που αγοράζουν,
πωλούν και επεξεργάζονται τα δεδομένα μας

σκιαγραφούν τα δικά μας προφίλ
και των παιδιών μας.

Αλλά αυτά τα προφίλ μπορούν να επηρεάσουν
τα δικαιώματά μας με σημαντικούς τρόπους.

Για να σας δώσω ένα παράδειγμα,

το 2018 οι New York Times
δημοσίευσαν ένα άρθρο

ότι τα δεδομένα που συλλέχθηκαν

μέσω διαδικτυακών υπηρεσιών
σχεδιασμού κολεγίου,

τα οποία συμπληρώθηκαν από εκατομμύρια
μαθητές λυκείου στις ΗΠΑ

που ψάχνουν για ένα πρόγραμμα
κολεγίου ή μια υποτροφία,

πωλήθηκαν σε μεσίτες
εκπαιδευτικών δεδομένων.

Τώρα, ερευνητές στο Φόρνταμ που μελέτησαν
μεσίτες εκπαιδευτικών δεδομένων,

αποκάλυψαν ότι αυτές οι εταιρίες

σκιαγραφούσαν προφίλ παιδιών
έως και δύο ετών

σύμφωνα με διάφορες κατηγορίες:

εθνικότητα, θρησκεία, ευημερία,

κοινωνική αδεξιότητα,

και πολλές άλλες τυχαίες κατηγορίες.

Μετά πωλούν αυτά τα προφίλ
μαζί με το όνομα του παιδιού,

τη διεύθυνσή τους
και τα στοιχεία επικοινωνίας

σε διάφορες εταιρίες,

συμπεριλαμβανομένων οργανισμών
εμπορίου και καριέρας,

εταιρίες για φοιτητικά δάνεια
και φοιτητικές πιστωτικές κάρτες.

Για να ξεπεράσουν τα όρια,

οι ερευνητές στo Φόρνταμ ζήτησαν
από έναν μεσίτη εκπαιδευτικών δεδομένων

να τους δώσει μια λίστα
από κορίτσια 14 με 15 ετών

που ενδιαφέρθηκαν για υπηρεσίες
οικογενειακού προγραμματισμού.

Ο μεσίτης δεδομένων συμφώνησε
να τους παρέχει τη λίστα.

Φανταστείτε πόσο ενδόμυχο και παρεμβατικό
είναι αυτό για τα παιδιά μας.

Αλλά οι μεσίτες εκπαιδευτικών δεδομένων
είναι μόνο ένα παράδειγμα.

Η αλήθεια είναι ότι σκιαγραφούν
το προφίλ των παιδιών μας

με τρόπους που δεν ελέγχουμε,

αλλά που μπορούν να επηρεάσουν
σημαντικά τις ευκαιρίες τους στη ζωή.

Έτσι, πρέπει να αναρωτηθούμε:

μπορούμε να εμπιστευτούμε
αυτές τις τεχνολογίες

με τη σκιαγράφηση
του προφίλ των παιδιών μας;

Μπορούμε;

Η απάντησή μου είναι όχι.

Ως ανθρωπολόγος,

πιστεύω ότι η τεχνητή νοημοσύνη
και τα προγνωστικά αναλυτικά στοιχεία

είναι σπουδαία στην πρόβλεψη
της πορείας μιας ασθένειας

ή στην καταπολέμηση
της κλιματικής αλλαγής.

Αλλά πρέπει να εγκαταλείψουμε
την πεποίθηση

ότι αυτές οι τεχνολογίες μπορούν
να δημιουργήσουν αντικειμενικά προφίλ

και ότι μπορούμε να βασιστούμε πάνω τους
για να πάρουμε αποφάσεις βάσει δεδομένων

για μεμονωμένες ζωές.

Επειδή δεν μπορούν
να σκιαγραφήσουν προφίλ ανθρώπων.

Τα ίχνη των δεδομένων δεν είναι
ο καθρέφτης αυτού που είμαστε.

Οι άνθρωποι σκέφτονται
ένα πράγμα και λένε κάτι άλλο,

νιώθουν κάπως αλλά πράττουν διαφορετικά.

Οι αλγοριθμικές προβλέψεις
ή οι ψηφιακές μας πρακτικές

δεν μπορούν να εξηγήσουν
τη μη προβλεψιμότητα

και την πολυπλοκότητα
της ανθρώπινης εμπειρίας.

Αλλά πάνω απ' όλα,

αυτές οι τεχνολογίες είναι πάντα,

μα πάντα,

με τον έναν ή τον άλλο τρόπο,
προκατειλημμένες.

Βλέπετε, οι αλγόριθμοι είναι εξ ορισμού
ένα σύνολο κανόνων ή βημάτων

που έχουν σχεδιαστεί για να επιτύχουν
ένα συγκεκριμένο αποτέλεσμα, εντάξει;

Αλλά αυτό το σύνολο κανόνων
ή βημάτων δεν είναι αντικειμενικό,

επειδή έχουν σχεδιαστεί από ανθρώπους

σε ένα συγκεκριμένο πολιτισμικό πλαίσιο

και διαμορφώνονται από
συγκεκριμένες πολιτισμικές αξίες.

Έτσι, όταν μαθαίνουν οι μηχανές,

μαθαίνουν από αλγόριθμους
που είναι προκατειλημμένοι,

και συχνά μαθαίνουν και από
προκατειλημμένες βάσεις δεδομένων.

Αυτήν τη στιγμή βλέπουμε τα πρώτα
παραδείγματα αλγοριθμικής προκατάληψης.

Και μερικά από αυτά τα παραδείγματα
είναι πραγματικά τρομακτικά.

Φέτος, το Ινστιτούτο AI Now
στη Νέα Υόρκη δημοσίευσε μια αναφορά

που αποκάλυψε ότι οι τεχνολογίες ΤΝ

που χρησιμοποιούνται
για προγνωστική αστυνόμευση

εκπαιδεύτηκαν με «βρόμικα» δεδομένα.

Βασικά, αυτά είναι δεδομένα
που συλλέχθηκαν

κατά τη διάρκεια ιστορικών περιόδων
με γνωστές ρατσιστικές προκαταλήψεις

και μη διαφανείς πρακτικές αστυνόμευσης.

Επειδή αυτές οι τεχνολογίες
έχουν εκπαιδευτεί με βρόμικα δεδομένα,

δεν είναι αντικειμενικές,

και τα αποτελέσματά τους οδηγούν μόνο

στην ενίσχυση της αστυνομικής
προκατάληψης και τη διάπραξη λαθών.

Νομίζω λοιπόν ότι αντιμετωπίζουμε
ένα ουσιαστικό πρόβλημα

στην κοινωνία μας.

Αρχίζουμε να εμπιστευόμαστε τεχνολογίες
για τη σκιαγράφηση προφίλ ανθρώπων.

Γνωρίζουμε ότι στη σκιαγράφηση
προφίλ ανθρώπων

αυτές οι τεχνολογίες πάντα
θα είναι προκατειλημμένες

και ποτέ δεν θα είναι πραγματικά ακριβείς.

Αυτό που χρειαζόμαστε τώρα
είναι μια πολιτική λύση.

Πρέπει οι κυβερνήσεις να αναγνωρίσουν

ότι τα δικαιώματα στα δεδομένα μας
είναι ανθρώπινα δικαιώματα.

(Χειροκρότημα και επευφημίες)

Μέχρι να γίνει αυτό, δεν μπορούμε
να ελπίζουμε για ένα πιο δίκαιο μέλλον.

Ανησυχώ ότι οι κόρες μου θα εκτεθούν

σε διάφορες αλγοριθμικές
προκαταλήψεις και λάθη.

Η διαφορά ανάμεσα
σε μένα και τις κόρες μου

είναι ότι δεν υπάρχει δημόσιο αρχείο
εκεί έξω για την παιδική μου ηλικία.

Σίγουρα δεν υπάρχει βάση δεδομένων

με όλες τις χαζομάρες που έκανα
και σκέφτηκα όταν ήμουν έφηβη.

(Γέλια)

Αλλά για τις κόρες μου
ίσως είναι διαφορετικά.

Τα δεδομένα που συλλέγονται
σήμερα από αυτές

μπορεί να χρησιμοποιηθούν
για να τις κρίνει στο μέλλον

και μπορεί να τις αποτρέψει
από τις ελπίδες και τα όνειρά τους.

Νομίζω ότι είναι καιρός.

Είναι καιρός να επιταχύνουμε.

Είναι καιρός να αρχίσουμε
να συνεργαζόμαστε

ως μεμονωμένα άτομα,

ως οργανισμοί και θεσμοί,

και να απαιτήσουμε μεγαλύτερη
δικαιοσύνη δεδομένων για εμάς

και για τα παιδιά μας

πριν είναι πολύ αργά.

Σας ευχαριστώ.

(Χειροκρότημα)