מה חברות הטכנולוגיה יודעות על הילדים שלכם
-
0:01 - 0:03כל יום, כל שבוע,
-
0:03 - 0:05אנו מסכימים לתנאים ולהגבלות.
-
0:05 - 0:07וכשאנחנו עושים זאת,
-
0:07 - 0:09אנחנו מספקים לחברות את הזכות החוקית
-
0:09 - 0:13לעשות מה שהם רוצים עם הנתונים שלנו
-
0:13 - 0:16ועם הנתונים של ילדינו.
-
0:17 - 0:20מה שגורם לנו לתהות:
-
0:20 - 0:23כמה נתונים על ילדים אנו מוסרים,
-
0:23 - 0:25ומה ההשלכות של כך?
-
0:26 - 0:28אני אנתרופולוגית,
-
0:28 - 0:31ואני גם אימא לשתי ילדות קטנות.
-
0:31 - 0:35והתחלתי להתעניין בשאלה זו בשנת 2015
-
0:35 - 0:38כשלפתע הבנתי שהיו כמויות עצומות
-
0:38 - 0:42כמויות כמעט בלתי נתפסות של עקבות נתונים
-
0:42 - 0:45אשר מיוצרים ונאספים בקשר לילדים.
-
0:45 - 0:47אז השקתי פרויקט מחקר,
-
0:47 - 0:49בשם נתוני אזרח ילד,
-
0:49 - 0:51וכיוונתי למלא את החסר.
-
0:53 - 0:56כעת אתם עשויים לחשוב
שאני כאן כדי להאשים אתכם -
0:56 - 0:58על כך שאתם מפרסמים תמונות
של ילדיכם במדיה החברתית, -
0:58 - 1:01אבל זה לא באמת העניין.
-
1:01 - 1:04הבעיה היא הרבה יותר גדולה
ממה שמכונה "שיתוף יתר של הורים". -
1:05 - 1:09העניין כאן הוא מערכות, ולא יחידים.
-
1:09 - 1:11אתם וההרגלים שלכם אינם אשמים.
-
1:13 - 1:16בפעם הראשונה בהיסטוריה,
-
1:16 - 1:18אנו עוקבים אחר הנתונים האישיים של ילדים
-
1:18 - 1:20הרבה לפני שהם נולדים,
-
1:20 - 1:23לפעמים מרגע ההתעברות,
-
1:23 - 1:25ואז לאורך חייהם.
-
1:25 - 1:28אתם מבינים, כשההורים מחליטים להרות,
-
1:28 - 1:31הם נכנסים לאינטרנט לחפש
אחר "דרכים להיכנס להריון" -
1:31 - 1:34או שהם מורידים אפליקציות למעקב אחר ביוץ.
-
1:35 - 1:38כשהם נכנסים להריון,
-
1:38 - 1:41הם מפרסמים את תוצאות האולטרסאונד
של תינוקותיהם במדיה החברתית, -
1:41 - 1:43הם מורידים אפליקציות להריון
-
1:43 - 1:47או שהם מתייעצים עם ד"ר גוגל
בכל מיני עניינים, -
1:47 - 1:48למשל, אתם יודעים -
-
1:48 - 1:51לגבי "הסיכון להפיל בזמן טיסה"
-
1:51 - 1:54או "התכווצויות בטן בתחילת ההיריון."
-
1:54 - 1:56אני יודעת כי אני עשיתי את זה -
-
1:56 - 1:57הרבה פעמים.
-
1:58 - 2:01ואז, כשהתינוק נולד,
הם עוקבים אחר כל תנומה, -
2:01 - 2:03כל האכלה,
-
2:03 - 2:05כל אירוע בחיים על גבי טכנולוגיות שונות.
-
2:06 - 2:08וכל הטכנולוגיות האלה
-
2:08 - 2:14הופכות את נתוני ההתנהגות והבריאות
הכי אינטימיים של התינוק לרווח -
2:14 - 2:16בכך שהן משתפות אותם עם אחרים.
-
2:17 - 2:19אז כדי לתת לכם מושג איך זה עובד,
-
2:19 - 2:24בשנת 2019, כתב העת הרפואי הבריטי
פרסם מחקר שהראה -
2:24 - 2:28כי מתוך 24 אפליקציות בריאות לנייד,
-
2:28 - 2:3119 שיתפו את המידע עם צד שלישי.
-
2:32 - 2:38ואלה שבצד שלישי שיתפו מידע
עם 216 ארגונים אחרים. -
2:39 - 2:42מבין 216 אלה שהיוו צד רביעי,
-
2:42 - 2:45רק שלושה היו שייכים לענף הבריאות.
-
2:46 - 2:50החברות האחרות שהייתה להן גישה
לנתונים האלה היו חברות טכנולוגיה גדולות -
2:50 - 2:54כמו גוגל, פייסבוק או אורקל,
-
2:54 - 2:56הם היו חברות פרסום דיגיטלי
-
2:56 - 3:00וכן הייתה סוכנות לדיווח על אשראי צרכני.
-
3:01 - 3:03אז אתם מבינים את זה נכון:
-
3:03 - 3:08חברות פרסום וסוכנויות אשראי כבר עשויות
להחזיק בחלקי נתונים על תינוקות קטנים. -
3:09 - 3:12אבל אפליקציות לנייד,
חיפושים ברשת ומדיה חברתית -
3:12 - 3:15הם ממש רק קצה הקרחון,
-
3:15 - 3:18משום שמעקב אחר ילדים
מתבצע דרך מספר טכנולוגיות -
3:18 - 3:20בחיי היומיום שלהם.
-
3:20 - 3:24עוקבים אחריהם דרך טכנולוגיות ביתיות
ועוזרים וירטואליים בבתיהם. -
3:24 - 3:26עוקבים אחריהם דרך פלטפורמות חינוכיות
-
3:26 - 3:28וטכנולוגיות חינוכיות בבתי הספר שלהם.
-
3:28 - 3:30עוקבים אחריהם דרך רשומות מקוונות
-
3:30 - 3:33ופורטלים מקוונים במשרד הרופא שלהם.
-
3:33 - 3:35עוקבים אחריהם דרך צעצועיהם
המחוברים לאינטרנט, -
3:35 - 3:36המשחקים המקוונים שלהם
-
3:36 - 3:39ועוד הרבה, הרבה, הרבה
הרבה טכנולוגיות אחרות. -
3:40 - 3:42אז במהלך המחקר שלי,
-
3:42 - 3:46הורים רבים ניגשו אלי
והם אמרו משהו כמו, "אז מה?" -
3:46 - 3:49למה זה משנה אם עוקבים אחרי הילדים שלי?
-
3:50 - 3:51"אין לנו מה להסתיר".
-
3:53 - 3:54ובכן, זה משנה.
-
3:55 - 4:01זה משנה כי היום אנשים
לא רק נמצאים תחת מעקב, -
4:01 - 4:05הם גם מקבלים פרופיל
בהתאם לעקבות הנתונים שלהם. -
4:05 - 4:09בינה מלאכותית וניתוח תחזיות משמשים
-
4:09 - 4:13לרתום כמה שיותר נתונים
מתוך חייו הפרטיים של אדם -
4:13 - 4:15ממקורות שונים:
-
4:15 - 4:19היסטוריה משפחתית, הרגלי קנייה,
הערות ברשתות החברתיות. -
4:19 - 4:21ואז הם מחברים את הנתונים האלה
-
4:21 - 4:24במטרה לקבל החלטות
מונחות נתונים על הפרט. -
4:25 - 4:28והטכנולוגיות האלה מנוצלות בכל מקום.
-
4:28 - 4:31בנקים משתמשים בהן כדי להחליט על הלוואות.
-
4:31 - 4:33חברות ביטוח משתמשות בהן
כדי להחליט על פרמיות. -
4:34 - 4:37מגייסים ומעסיקים משתמשים בהן
-
4:37 - 4:40כדי להחליט אם אדם מתאים למשרה או לא.
-
4:41 - 4:44גם המשטרה ובתי המשפט משתמשים בהן
-
4:44 - 4:47כדי לקבוע אם אדם הוא עבריין פוטנציאלי
-
4:47 - 4:50או אם הוא עשוי לחזור לבצע פשע.
-
4:52 - 4:57אין לנו שום ידע או שליטה
-
4:57 - 5:00על הדרכים שבהן מי שקונה,
מוכר ומעבד את הנתונים שלנו -
5:00 - 5:03יוצרים את הפרופיל שלנו ושל ילדינו.
-
5:04 - 5:08אבל הפרופילים האלה יכולים להשפיע
על זכויותינו בדרכים משמעותיות. -
5:09 - 5:11לשם ההדגמה,
-
5:14 - 5:18בשנת 2018 עיתון ה"ניו יורק טיימס"
פרסם בחדשות -
5:18 - 5:20שהנתונים שנאספו
-
5:20 - 5:23דרך שירותי תכנון מכללות באינטרנט
-
5:23 - 5:28שלמעשה ממולאים על ידי מיליונים
של תלמידי תיכון ברחבי ארה"ב -
5:28 - 5:31שמחפשים תכנית לימודים במכללה או מלגה
-
5:31 - 5:34נמכרו למתווכים הסוחרים בנתונים חינוכיים.
-
5:36 - 5:41כעת, חוקרים בפורדהאם
שחקרו תיווך נתונים חינוכיים -
5:41 - 5:46חשפו כי חברות אלה
ערכו פרופיל של ילדים בגיל שנתיים -
5:46 - 5:50על פי קטגוריות שונות:
-
5:50 - 5:54אתניות, דת, מעמד כלכלי,
-
5:54 - 5:56אי נוחות חברתית,
-
5:56 - 5:59ועוד קטגוריות אקראיות רבות אחרות.
-
5:59 - 6:04לאחר מכן הם מוכרים את הפרופילים האלה
יחד עם שם הילד, -
6:04 - 6:07כתובת הבית ופרטי ההתקשרות שלהם
-
6:07 - 6:09לחברות שונות,
-
6:09 - 6:11כולל מוסדות סחר וקריירה,
-
6:12 - 6:13הלוואות סטודנטים
-
6:13 - 6:15וחברות כרטיסי אשראי לסטודנטים.
-
6:17 - 6:18במטרה לבדוק את הגבולות,
-
6:18 - 6:22החוקרים בפורדהאם
ביקשו ממתווך בנתונים חינוכיים -
6:22 - 6:28לספק עבורם רשימה של נערות בנות 14- 15
-
6:28 - 6:31אשר הביעו התעניינות בשירותים לתכנון משפחה.
-
6:32 - 6:35מתווך הנתונים הסכים לספק להם את הרשימה.
-
6:35 - 6:40אז תארו לכם כמה אינטימי
וכמה פולשני הדבר עבור ילדינו. -
6:41 - 6:45אבל מתווכי נתונים חינוכיים
הם באמת רק דוגמה. -
6:45 - 6:50האמת היא שפרופיל ילדינו
נוצר בדרכים שאיננו יכולים לשלוט בהן -
6:50 - 6:53אבל זה יכול להשפיע באופן משמעותי
על ההזדמנויות שלהם בחיים. -
6:54 - 6:58לכן עלינו לשאול את עצמנו:
-
6:58 - 7:02האם אנו יכולים לסמוך על הטכנולוגיות אלה
כשמדובר ביצירת פרופיל לילדינו? -
7:02 - 7:04האם אנחנו יכולים?
-
7:06 - 7:07התשובה שלי היא לא.
-
7:08 - 7:09כאנתרופולוגית,
-
7:09 - 7:13אני מאמינה שבינה מלאכותית
ותחזית נתונים יכולות להיות נהדרות -
7:13 - 7:15לחזות את מהלכה של מחלה
-
7:15 - 7:17או להילחם בשינויי אקלים.
-
7:18 - 7:20אבל עלינו לנטוש את האמונה
-
7:20 - 7:23כי הטכנולוגיות האלה מסוגלות
ליצור פרופיל אנושי באופן אובייקטיבי -
7:23 - 7:27ושאנחנו יכולים לסמוך עליהן
בקבלת החלטות מונחות נתונים -
7:27 - 7:28כשמדובר בחיי אדם.
-
7:28 - 7:31מכיוון שהן אינן מסוגלות
ליצור פרופיל של אדם. -
7:31 - 7:34עקבות נתונים אינן השתקפות של מי שאנחנו.
-
7:34 - 7:37בני אדם חושבים דבר אחד ואומרים את ההיפך,
-
7:37 - 7:39מרגישים באופן מסוים ופועלים אחרת.
-
7:39 - 7:42התחזיות האלגוריתמיות
או הפרקטיקות הדיגיטליות שלנו -
7:42 - 7:47אינן מסוגלות לחזות את החוויה האנושית
המורכבת והבלתי צפויה. -
7:48 - 7:50בנוסף לכך,
-
7:50 - 7:53הטכנולוגיות האלה הן תמיד
-
7:53 - 7:54תמיד
-
7:54 - 7:56בדרך זו או אחרת, מוטות.
-
7:57 - 8:02אתם מבינים, האלגוריתמים הם בהגדרה
אוסף של כללים או שלבים -
8:02 - 8:06שתוכננו על מנת להשיג תוצאה ספציפית, בסדר?
-
8:07 - 8:10אך אוסף זה של כללים או שלבים
אינו יכול להיות אובייקטיבי, -
8:10 - 8:12כי הוא עוצב על ידי בני אדם
-
8:12 - 8:13בהקשר תרבותי ספציפי
-
8:14 - 8:16והוא מעוצב על פי ערכים תרבותיים ספציפיים.
-
8:17 - 8:18אז כשמכונות לומדות,
-
8:18 - 8:21הן לומדות מאלגוריתמים מוטים,
-
8:22 - 8:25ולעתים קרובות הן גם לומדות
ממאגרי נתונים מוטים. -
8:26 - 8:30כרגע אנחנו רואים את הדוגמאות
הראשונות להטיה אלגוריתמית. -
8:30 - 8:34וכמה מהדוגמאות האלה ללא ספק מעוררות אימה.
-
8:34 - 8:39השנה מכון AI Now בניו יורק פרסם דו"ח
-
8:39 - 8:41שגילה כי טכנולוגיות בינה מלאכותית
-
8:41 - 8:44הנמצאות בשימוש השיטור המנבא
-
8:44 - 8:48הוכשרו באמצעות נתונים "מזוהמים".
-
8:48 - 8:51אלו בעצם נתונים אשר נאספו
-
8:51 - 8:55במהלך תקופות היסטוריות
הידועות בהטייתן הגזעית -
8:55 - 8:58ושיטות עבודה לא שקופות של המשטרה.
-
8:59 - 9:03מכיוון שטכנולוגיות אלה
מאומנות בעזרת נתונים מזוהמים, -
9:03 - 9:04הן אינן אובייקטיביות,
-
9:04 - 9:09והתוצאות שלהן רק מעצימות ומובילות
-
9:09 - 9:10להטיה ולטעויות של המשטרה.
-
9:13 - 9:16אז אני חושבת שאנו עומדים מול בעיה עקרונית
-
9:16 - 9:18בחברה שלנו.
-
9:18 - 9:23אנו מתחילים לסמוך על טכנולוגיות
כשמדובר ביצירת פרופיל של בני אדם. -
9:24 - 9:26אנו יודעים שבניסיון ליצור פרופיל של אדם,
-
9:26 - 9:29הטכנולוגיות האלה תמיד יהיו מוטות
-
9:29 - 9:32ולעולם לא יהיו מדויקות באמת.
-
9:32 - 9:35אז מה שאנחנו צריכים עכשיו
הוא למעשה פתרון פוליטי. -
9:35 - 9:40אנחנו צריכים שממשלות יכירו בכך
שזכויות הנתונים שלנו הן זכויות האדם שלנו. -
9:40 - 9:44(מחיאות כפיים וצהלות)
-
9:48 - 9:52עד שזה יקרה, איננו יכולים לצפות
לעתיד צודק יותר. -
9:53 - 9:55אני דואגת שבנותיי יהיו חשופות
-
9:56 - 9:59לכל מיני אפליות וטעויות אלגוריתמיות.
-
9:59 - 10:02תבינו, ההבדל ביני לבין בנותיי
-
10:02 - 10:05הוא שאין רשומה ציבורית
שם בחוץ על תקופת הילדות שלי. -
10:05 - 10:09כמובן שאין מסד נתונים
על כל הדברים המטופשים שעשיתי -
10:09 - 10:11וחשבתי כשהייתי נערה.
-
10:11 - 10:13(צחוק)
-
10:14 - 10:17אבל עבור בנותיי זה עשוי להיות שונה.
-
10:17 - 10:20הנתונים שנאספים עליהן היום
-
10:20 - 10:24עלולים לשמש אמצעי לשפוט אותן בעתיד
-
10:24 - 10:28ויכולים למנוע את התקוות ואת החלומות שלהן.
-
10:29 - 10:30אני חושבת שהגיע הזמן.
-
10:30 - 10:32הגיע הזמן שכולנו ניקח חלק.
-
10:32 - 10:34הגיע הזמן שנתחיל לעבוד ביחד
-
10:34 - 10:36כיחידים,
-
10:36 - 10:38כארגונים וכמוסדות,
-
10:38 - 10:41ושנדרוש צדק נתונים גדול יותר עבורנו
-
10:41 - 10:43ועבור ילדינו
-
10:43 - 10:44לפני שיהיה מאוחר מדיי.
-
10:44 - 10:45תודה רבה.
-
10:45 - 10:47(מחיאות כפיים)
- Title:
- מה חברות הטכנולוגיה יודעות על הילדים שלכם
- Speaker:
- וורוניקה בראסי
- Description:
-
הפלטפורמות הדיגיטליות בהן אתם ומשפחתכם משתמשים מדי יום - ממשחקים מקוונים ועד אפליקציות חינוכיות ופורטלים רפואיים - עשויות לאסוף ולמכור נתונים על ילדיכם, אומרת האנתרופולוגית וורוניקה בראסי. בראסי משתפת במחקריה מאירי העיניים, ומפצירה בהורים להתבונן פעמיים בתנאים וההגבלות הדיגיטליים במקום לקבל אותם באופן עיוור - ולדרוש הגנות שמבטיחות כי נתוני ילדיהם אינם מקלקלים את עתידם.
- Video Language:
- English
- Team:
- closed TED
- Project:
- TEDTalks
- Duration:
- 11:01
Sigal Tifferet approved Hebrew subtitles for What tech companies know about your kids | ||
Sigal Tifferet edited Hebrew subtitles for What tech companies know about your kids | ||
Sigal Tifferet edited Hebrew subtitles for What tech companies know about your kids | ||
מיכל סלמן accepted Hebrew subtitles for What tech companies know about your kids | ||
Sigal Tifferet declined Hebrew subtitles for What tech companies know about your kids | ||
Sigal Tifferet edited Hebrew subtitles for What tech companies know about your kids | ||
מיכל סלמן edited Hebrew subtitles for What tech companies know about your kids | ||
מיכל סלמן edited Hebrew subtitles for What tech companies know about your kids |