כל יום, כל שבוע,
אנו מסכימים לתנאים ולהגבלות.
וכשאנחנו עושים זאת,
אנחנו מספקים לחברות את הזכות החוקית
לעשות מה שהם רוצים עם הנתונים שלנו
ועם הנתונים של ילדינו.
מה שגורם לנו לתהות:
כמה נתונים על ילדים אנו מוסרים,
ומה ההשלכות של כך?
אני אנתרופולוגית,
ואני גם אימא לשתי ילדות קטנות.
והתחלתי להתעניין בשאלה זו בשנת 2015
כשלפתע הבנתי שהיו כמויות עצומות
כמויות כמעט בלתי נתפסות של עקבות נתונים
אשר מיוצרים ונאספים בקשר לילדים.
אז השקתי פרויקט מחקר,
בשם נתוני אזרח ילד,
וכיוונתי למלא את החסר.
כעת אתם עשויים לחשוב שאני כאן כדי להאשים אתכם
על כך שאתם מפרסמים תמונות של ילדיכם במדיה החברתית,
אבל זה לא באמת העניין.
הבעיה היא הרבה יותר גדולה ממה שמכונה "שיתוף יתר של הורים".
העניין כאן הוא מערכות, ולא יחידים.
אתם וההרגלים שלכם אינם אשמים.
בפעם הראשונה בהיסטוריה,
אנו עוקבים אחר הנתונים האישיים של ילדים
הרבה לפני שהם נולדים,
לפעמים מרגע ההתעברות,
ואז לאורך חייהם.
אתם מבינים, כשההורים מחליטים להרות,
הם נכנסים לאינטרנט לחפש אחר "דרכים להיכנס להריון"
או שהם מורידים אפליקציות למעקב אחר ביוץ.
כשהם נכנסים להריון,
הם מפרסמים את תוצאות האולטרסאונד של תינוקותיהם במדיה החברתית,
הם מורידים אפליקציות להריון
או שהם מתייעצים עם ד"ר גוגל בכל מיני עניינים,
למשל, אתם יודעים -
לגבי "הסיכון להפיל בזמן טיסה"
או "התכווצויות בטן בתחילת ההיריון."
אני יודעת כי אני עשיתי את זה -
הרבה פעמים.
ואז, כשהתינוק נולד, הם עוקבים אחר כל תנומה,
כל האכלה,
כל אירוע בחיים על גבי טכנולוגיות שונות.
וכל הטכנולוגיות האלה
הופכות את נתוני ההתנהגות והבריאות הכי אינטימיים של התינוק לרווח
בכך שהן משתפות אותם עם אחרים.
אז כדי לתת לכם מושג איך זה עובד,
בשנת 2019, כתב העת הרפואי הבריטי פרסם מחקר שהראה
כי מתוך 24 אפליקציות בריאות לנייד,
19 שיתפו את המידע עם צד שלישי.
ואלה שבצד שלישי שיתפו מידע עם 216 ארגונים אחרים.
מבין 216 אלה שהיוו צד רביעי,
רק שלושה היו שייכים לענף הבריאות.
החברות האחרות שהייתה להן גישה לנתונים האלה היו חברות טכנולוגיה גדולות
כמו גוגל, פייסבוק או אורקל,
הם היו חברות פרסום דיגיטלי
וכן הייתה סוכנות לדיווח על אשראי צרכני.
אז אתם מבינים את זה נכון:
חברות פרסום וסוכנויות אשראי כבר עשויות להחזיק בחלקי נתונים על תינוקות קטנים.
אבל אפליקציות לנייד, חיפושים ברשת ומדיה חברתית
הם ממש רק קצה הקרחון,
משום שמעקב אחר ילדים מתבצע דרך מספר טכנולוגיות
בחיי היומיום שלהם.
עוקבים אחריהם דרך טכנולוגיות ביתיות ועוזרים וירטואליים בבתיהם.
עוקבים אחריהם דרך פלטפורמות חינוכיות
וטכנולוגיות חינוכיות בבתי הספר שלהם.
עוקבים אחריהם דרך רשומות מקוונות
ופורטלים מקוונים במשרד הרופא שלהם.
עוקבים אחריהם דרך צעצועיהם המחוברים לאינטרנט,
המשחקים המקוונים שלהם
ועוד הרבה, הרבה, הרבה הרבה טכנולוגיות אחרות.
אז במהלך המחקר שלי,
הורים רבים ניגשו אלי והם אמרו משהו כמו, "אז מה?"
למה זה משנה אם עוקבים אחרי הילדים שלי?
"אין לנו מה להסתיר".
ובכן, זה משנה.
זה משנה כי היום אנשים לא רק נמצאים תחת מעקב,
הם גם מקבלים פרופיל בהתאם לעקבות הנתונים שלהם.
בינה מלאכותית וניתוח תחזיות משמשים
לרתום כמה שיותר נתונים מתוך חייו הפרטיים של אדם
ממקורות שונים:
היסטוריה משפחתית, הרגלי קנייה, הערות ברשתות החברתיות.
ואז הם מחברים את הנתונים האלה
במטרה לקבל החלטות מונחות נתונים על הפרט.
והטכנולוגיות האלה מנוצלות בכל מקום.
בנקים משתמשים בהן כדי להחליט על הלוואות.
חברות ביטוח משתמשות בהן כדי להחליט על פרמיות.
מגייסים ומעסיקים משתמשים בהן
כדי להחליט אם אדם מתאים למשרה או לא.
גם המשטרה ובתי המשפט משתמשים בהן
כדי לקבוע אם אדם הוא עבריין פוטנציאלי
או אם הוא עשוי לחזור לבצע פשע.
אין לנו שום ידע או שליטה
על הדרכים שבהן מי שקונה, מוכר ומעבד את הנתונים שלנו
יוצרים את הפרופיל שלנו ושל ילדינו.
אבל הפרופילים האלה יכולים להשפיע על זכויותינו בדרכים משמעותיות.
לשם ההדגמה,
בשנת 2018 עיתון ה"ניו יורק טיימס" פרסם בחדשות
שהנתונים שנאספו
דרך שירותי תכנון מכללות באינטרנט
שלמעשה ממולאים על ידי מיליונים של תלמידי תיכון ברחבי ארה"ב
שמחפשים תכנית לימודים במכללה או מלגה
נמכרו למתווכים הסוחרים בנתונים חינוכיים.
כעת, חוקרים בפורדהאם שחקרו תיווך נתונים חינוכיים
חשפו כי חברות אלה ערכו פרופיל של ילדים בגיל שנתיים
על פי קטגוריות שונות:
אתניות, דת, מעמד כלכלי,
אי נוחות חברתית,
ועוד קטגוריות אקראיות רבות אחרות.
לאחר מכן הם מוכרים את הפרופילים האלה יחד עם שם הילד,
כתובת הבית ופרטי ההתקשרות שלהם
לחברות שונות,
כולל מוסדות סחר וקריירה,
הלוואות סטודנטים
וחברות כרטיסי אשראי לסטודנטים.
במטרה לבדוק את הגבולות,
החוקרים בפורדהאם ביקשו ממתווך בנתונים חינוכיים
לספק עבורם רשימה של נערות בנות 14- 15
אשר הביעו התעניינות בשירותים לתכנון משפחה.
מתווך הנתונים הסכים לספק להם את הרשימה.
אז תארו לכם כמה אינטימי וכמה פולשני הדבר עבור ילדינו.
אבל מתווכי נתונים חינוכיים הם באמת רק דוגמה.
האמת היא שפרופיל ילדינו נוצר בדרכים שאיננו יכולים לשלוט בהן
אבל זה יכול להשפיע באופן משמעותי על ההזדמנויות שלהם בחיים.
לכן עלינו לשאול את עצמנו:
האם אנו יכולים לסמוך על הטכנולוגיות אלה כשמדובר ביצירת פרופיל לילדינו?
האם אנחנו יכולים?
התשובה שלי היא לא.
כאנתרופולוגית,
אני מאמינה שבינה מלאכותית ותחזית נתונים יכולות להיות נהדרות
לחזות את מהלכה של מחלה
או להילחם בשינויי אקלים.
אבל עלינו לנטוש את האמונה
כי הטכנולוגיות האלה מסוגלות ליצור פרופיל אנושי באופן אובייקטיבי
ושאנחנו יכולים לסמוך עליהן בקבלת החלטות מונחות נתונים
כשמדובר בחיי אדם.
מכיוון שהן אינן מסוגלות ליצור פרופיל של אדם.
עקבות נתונים אינן השתקפות של מי שאנחנו.
בני אדם חושבים דבר אחד ואומרים את ההיפך,
מרגישים באופן מסוים ופועלים אחרת.
התחזיות האלגוריתמיות או הפרקטיקות הדיגיטליות שלנו
אינן מסוגלות לחזות את החוויה האנושית המורכבת והבלתי צפויה.
בנוסף לכך,
הטכנולוגיות האלה הן תמיד
תמיד
בדרך זו או אחרת, מוטות.
אתם מבינים, האלגוריתמים הם בהגדרה אוסף של כללים או שלבים
שתוכננו על מנת להשיג תוצאה ספציפית, בסדר?
אך אוסף זה של כללים או שלבים אינו יכול להיות אובייקטיבי,
כי הוא עוצב על ידי בני אדם
בהקשר תרבותי ספציפי
והוא מעוצב על פי ערכים תרבותיים ספציפיים.
אז כשמכונות לומדות,
הן לומדות מאלגוריתמים מוטים,
ולעתים קרובות הן גם לומדות ממאגרי נתונים מוטים.
כרגע אנחנו רואים את הדוגמאות הראשונות להטיה אלגוריתמית.
וכמה מהדוגמאות האלה ללא ספק מעוררות אימה.
השנה מכון AI Now בניו יורק פרסם דו"ח
שגילה כי טכנולוגיות בינה מלאכותית
הנמצאות בשימוש השיטור המנבא
הוכשרו באמצעות נתונים "מזוהמים".
אלו בעצם נתונים אשר נאספו
במהלך תקופות היסטוריות הידועות בהטייתן הגזעית
ושיטות עבודה לא שקופות של המשטרה.
מכיוון שטכנולוגיות אלה מאומנות בעזרת נתונים מזוהמים,
הן אינן אובייקטיביות,
והתוצאות שלהן רק מעצימות ומובילות
להטיה ולטעויות של המשטרה.
אז אני חושבת שאנו עומדים מול בעיה עקרונית
בחברה שלנו.
אנו מתחילים לסמוך על טכנולוגיות כשמדובר ביצירת פרופיל של בני אדם.
אנו יודעים שבניסיון ליצור פרופיל של אדם,
הטכנולוגיות האלה תמיד יהיו מוטות
ולעולם לא יהיו מדויקות באמת.
אז מה שאנחנו צריכים עכשיו הוא למעשה פתרון פוליטי.
אנחנו צריכים שממשלות יכירו בכך שזכויות הנתונים שלנו הן זכויות האדם שלנו.
(מחיאות כפיים וצהלות)
עד שזה יקרה, איננו יכולים לצפות לעתיד צודק יותר.
אני דואגת שבנותיי יהיו חשופות
לכל מיני אפליות וטעויות אלגוריתמיות.
תבינו, ההבדל ביני לבין בנותיי
הוא שאין רשומה ציבורית שם בחוץ על תקופת הילדות שלי.
כמובן שאין מסד נתונים על כל הדברים המטופשים שעשיתי
וחשבתי כשהייתי נערה.
(צחוק)
אבל עבור בנותיי זה עשוי להיות שונה.
הנתונים שנאספים עליהן היום
עלולים לשמש אמצעי לשפוט אותן בעתיד
ויכולים למנוע את התקוות ואת החלומות שלהן.
אני חושבת שהגיע הזמן.
הגיע הזמן שכולנו ניקח חלק.
הגיע הזמן שנתחיל לעבוד ביחד
כיחידים,
כארגונים וכמוסדות,
ושנדרוש צדק נתונים גדול יותר עבורנו
ועבור ילדינו
לפני שיהיה מאוחר מדיי.
תודה רבה.
(מחיאות כפיים)