WEBVTT

00:00:01.041 --> 00:00:04.175
שלום, שמי ג׳וי, ואני משוררת של קוד,

00:00:04.199 --> 00:00:09.192
במשימה לעצור כח בלתי נראה שנמצא בעליה,

00:00:09.216 --> 00:00:12.072
כח שקראתי לו ״בהייה קודית״,

00:00:12.096 --> 00:00:15.405
ההגדרה שלי להטייה אלגוריתמית.

NOTE Paragraph

00:00:15.429 --> 00:00:19.729
הטייה אלגוריתמית, בדומה להטייה אנושית,
גורמת לחוסר הוגנות.

00:00:19.753 --> 00:00:25.775
אבל אלגוריתמים, כמו וירוסים,
יכולים להפיץ את ההטייה בצורה נרחבת

00:00:25.799 --> 00:00:27.381
ובקצב גבוה.

00:00:27.943 --> 00:00:32.330
הטייה אלגוריתמית יכולה
להוביל לחוויות פסילה

00:00:32.354 --> 00:00:34.482
ולפרקטיקות מפלות.

00:00:34.506 --> 00:00:36.567
בואו ואראה לכם למה אני מתכוונת.

NOTE Paragraph

00:00:36.980 --> 00:00:39.416
שלום מצלמה, יש לי פנים.

00:00:40.162 --> 00:00:42.026
את מזהה את הפנים שלי?

00:00:42.051 --> 00:00:43.676
אולי בלי משקפיים?

00:00:43.701 --> 00:00:45.915
את רואה את הפנים שלה.

00:00:46.237 --> 00:00:48.482
מה לגבי הפנים שלי?

00:00:51.890 --> 00:00:55.640
יש לי מסכה. את רואה אותה?

NOTE Paragraph

00:00:56.474 --> 00:00:58.839
אז איך זה קרה?

00:00:58.863 --> 00:01:02.004
למה אני יושבת לפני המחשב


00:01:02.028 --> 00:01:03.452
במסכה לבנה,

00:01:03.476 --> 00:01:07.126
מנסה להיות מזוהה על ידי 
מצלמת רשת זולה?

00:01:07.150 --> 00:01:09.441
ובכן, כשאני לא נלחמת בבהייה הקודית

00:01:09.465 --> 00:01:10.985
כמשוררת של קוד,

00:01:11.009 --> 00:01:14.281
אני סטודנטית לתואר שני במעבדת המדיה של MIT,

00:01:14.305 --> 00:01:19.222
ושם יש לי הזדמנות לעבוד על כל מיני 
פרוייקטים גחמניים,

00:01:19.246 --> 00:01:21.273
כולל ״המראה המעצימה״,

00:01:21.297 --> 00:01:26.431
פרוייקט שעשיתי כדי לשים מסכה דיגיטלית
על ההשתקפות שלי.

00:01:26.455 --> 00:01:28.805
כך שבבוקר, אם רציתי להרגיש עוצמתית,

00:01:28.829 --> 00:01:30.263
יכולתי לשים מסיכה של אריה.

00:01:30.287 --> 00:01:33.783
אם רציתי להיות מעודדת, יכולתי לשים ציטוט.

00:01:33.807 --> 00:01:36.796
ובכן, השתמשתי בתוכנת זיהוי פנים כללית

00:01:36.820 --> 00:01:38.171
כדי לבנות את המערכת,

00:01:38.195 --> 00:01:43.298
אבל גיליתי שקשה לבדוק את המערכת
בלי שאלבש מסיכה לבנה.

NOTE Paragraph

00:01:44.282 --> 00:01:48.628
לרוע המזל, נתקלתי בבעיה זו גם בעבר.

00:01:48.652 --> 00:01:52.955
כשלמדתי לתואר ראשון במדעי המחשב
במכון הטכנולוגי בג׳ורג׳יה,

00:01:52.979 --> 00:01:55.034
עבדתי על ״רובוטים חברתיים״,

00:01:55.058 --> 00:01:58.835
ואחת מהמשימות היתה ללמד רובוט לשחק מחבואים
(Peek-a-boo),

00:01:58.859 --> 00:02:00.542
משחק פשוט מבוסס תורות

00:02:00.566 --> 00:02:04.887
שבו השחקנים מכסים את פניהם, וכשהם מגלים
אותם הם אומרים ״Peek-a-boo״!

00:02:04.911 --> 00:02:09.340
הבעייה היא שהמשחק לא עובד
אם אי אפשר לראות אותך.

00:02:09.364 --> 00:02:11.863
והרובוט שלי לא יכל לראות אותי.

00:02:11.887 --> 00:02:15.837
אבל השאלתי את פניה של השותפה לדירה שלי
כדי להשלים את הפרוייקט,

00:02:15.861 --> 00:02:17.241
הגשתי את המשימה,

00:02:17.265 --> 00:02:21.018
והנחתי שמישהו אחר
כבר יפתור את הבעייה הזאת.

NOTE Paragraph

00:02:21.669 --> 00:02:23.672
כעבור זמן לא רב,

00:02:23.696 --> 00:02:27.855
הייתי בהונג קונג כמשתתפת בתחרות יזמות.

00:02:28.339 --> 00:02:31.033
המארגנים החליטו לקחת את המשתתפים

00:02:31.057 --> 00:02:33.429
לסיור בין סטארטאפים מקומיים.

00:02:33.453 --> 00:02:36.168
באחד הסטארטאפים היה ״רובוט חברתי״,

00:02:36.192 --> 00:02:38.104
והם החליטו לערוך הדגמה.

00:02:38.128 --> 00:02:41.108
ההדגמה עבדה על כולם עד שהגיעו אלי,

00:02:41.132 --> 00:02:43.055
ואתם בטח כבר מנחשים,

00:02:43.079 --> 00:02:46.044
הרובוט לא הצליח לזהות את פניי.

00:02:46.068 --> 00:02:48.579
שאלתי את המפתחים למה זה קורה,

00:02:48.603 --> 00:02:54.136
ומסתבר שהם השתמשו באותה תוכנה כללית 
לזיהוי פנים.

00:02:54.160 --> 00:02:55.810
בצד השני של העולם,

00:02:55.834 --> 00:02:59.686
למדתי שהטייה אלגוריתמית יכולה לנוע 
באותה מהירות

00:02:59.710 --> 00:03:02.880
שלוקח להוריד כמה קבצים מהאינטרנט.

NOTE Paragraph

00:03:03.745 --> 00:03:06.821
אז מה קורה פה?
למה הפנים שלי לא מזוהות?

00:03:06.845 --> 00:03:10.201
ובכן, עלינו להבין כיצד אנו נותנים למכונות 
את היכולת לראות.

00:03:10.225 --> 00:03:13.634
ראייה ממוחשבת משתמשת
בטכניקות של למידת מכונה

00:03:13.658 --> 00:03:15.538
כדי לבצע זיהוי פנים.

00:03:15.562 --> 00:03:19.459
הדרך בה זה עובד היא שאתה מכין
קבוצת אימון של דוגמאות של פנים.

00:03:19.483 --> 00:03:22.301
אלו פנים. אלו פנים.
אלו לא פנים.

00:03:22.325 --> 00:03:26.844
ואז, לאחר זמן מה, אתה יכול ללמד את 
המחשב לזהות פנים אחרות.

00:03:26.868 --> 00:03:30.857
אבל, אם קבוצות האימון
אינן באמת מגוונות מספיק

00:03:30.881 --> 00:03:34.230
אז כל צורת פנים שסוטה יותר מדי מהנורמה

00:03:34.254 --> 00:03:35.903
תהיה קשה לזיהוי,

00:03:35.927 --> 00:03:37.890
וזה מה שקרה לי.

NOTE Paragraph

00:03:37.914 --> 00:03:40.296
אבל אל דאגה - יש לי חדשות טובות.

00:03:40.320 --> 00:03:43.091
קבוצות אימון אינן נוצרות משום מקום.

00:03:43.115 --> 00:03:44.903
אנחנו למעשה יכולים ליצור אותן.

00:03:44.927 --> 00:03:49.103
כלומר יש לנו הזדמנות ליצור קבוצות אימון
שמכסות את כל הספקטרום

00:03:49.127 --> 00:03:52.951
ומייצגות דיוקן עשיר יותר של האנושות.

NOTE Paragraph

00:03:52.975 --> 00:03:55.196
כעת ראיתם בדוגמאות שהבאתי

00:03:55.220 --> 00:03:56.988
כיצד בעזרת רובוטים חברתיים

00:03:57.012 --> 00:04:01.623
גיליתי על הטייה אלגוריתמית שגורמת לפסילה.

00:04:01.647 --> 00:04:06.462
אבל הטייה אלגוריתמית יכולה
להוביל גם לאפלייה.

00:04:07.437 --> 00:04:08.890
לאורך כל ארצות הברית

00:04:08.914 --> 00:04:13.112
מחלקות משטרה מתחילות
להשתמש בתוכנה לזיהוי פנים

00:04:13.136 --> 00:04:15.595
כחלק מהאמצעים ללחימה פשע.

00:04:15.619 --> 00:04:17.632
האוניברסיטה ג'ורג'טאון לאו 
פרסמה דו״ח

00:04:17.656 --> 00:04:24.419
שהפנים של אחד מכל שני בוגרים בארה״ב - 
כלומר 117 מליון אנשים

00:04:24.443 --> 00:04:27.977
נמצאות ברשתות של זיהוי פנים.

00:04:28.001 --> 00:04:32.553
מחלקות משטרה משתמשות כיום ברשתות
אלו בצורה לא מוסדרת,

00:04:32.577 --> 00:04:36.863
ומשתמשות באלגוריתמים שדיוקם לא מוודא.

00:04:36.887 --> 00:04:40.751
ועדיין, אנו יודעים שזיהוי פנים 
אינו חף מטעויות,

00:04:40.775 --> 00:04:44.954
ותיוג פנים בעקביות נשאר אתגר.

00:04:44.978 --> 00:04:46.740
אולי ראיתם זאת בפייסבוק.

00:04:46.764 --> 00:04:49.752
חבריי ואני צוחקים כל הזמן כשאנו רואים 
אנשים אחרים

00:04:49.776 --> 00:04:52.234
מתוייגים בטעות בתמונות שלנו.

00:04:52.258 --> 00:04:57.849
אבל זיהוי מוטעה
של חשוד בפשע אינו נושא לצחוק,

00:04:57.873 --> 00:05:00.700
כמו גם פריצת זכויות אזרח.

NOTE Paragraph

00:05:00.724 --> 00:05:03.929
לימוד מכונה נמצא בשימוש של זיהוי פנים,

00:05:03.953 --> 00:05:08.458
אך זה גם מתרחב מעבר לתחום
של ראייה ממוחשבת.

00:05:09.266 --> 00:05:13.282
בספרה ״נשקים של השמדה מתמטית״,

00:05:13.306 --> 00:05:19.987
מדענית הנתונים קאת׳י אוניל מדברת על 
העלייה של אלגוריתמים מסוג WMDs -

00:05:20.011 --> 00:05:24.364
אלגוריתמים נפוצים, מסתוריים והרסניים

00:05:24.388 --> 00:05:27.352
שנמצאים בשימוש גובר למטרת קבלת החלטות

00:05:27.376 --> 00:05:30.553
שמשפיעות על עוד ועוד היבטים של חיינו.

00:05:30.577 --> 00:05:32.447
מי מתקבל לעבודה ומי מפוטר?

00:05:32.471 --> 00:05:34.583
האם תקבל את ההלוואה?
האם תקבל את הביטוח?

00:05:34.607 --> 00:05:38.110
האם אתה מתקבל לקולג׳ שרצית?

00:05:38.134 --> 00:05:41.643
האם אתה ואני משלמים אותו מחיר 
עבור אותו מוצר

00:05:41.667 --> 00:05:44.109
שנקנה באותה פלטפורמה?

NOTE Paragraph

00:05:44.133 --> 00:05:47.892
יחידות לאכיפת החוק גם מתחילות
להשתמש בלימוד מכונה

00:05:47.916 --> 00:05:50.205
עבור שיטור תחזיתי.

00:05:50.229 --> 00:05:53.723
יש שופטים שמשתמשים בציוני סיכון שהופקו ע״י
מכונה כדי להחליט

00:05:53.747 --> 00:05:58.149
כמה זמן אדם יבלה בכלא.

00:05:58.173 --> 00:06:00.627
לכן עלינו לחשוב באמת על החלטות אלו.

00:06:00.651 --> 00:06:01.833
האם הן הוגנות?

00:06:01.857 --> 00:06:04.747
וכבר ראינו שהטייה אלגורימית

00:06:04.771 --> 00:06:08.145
לא בהכרח מביאה לתוצאות הוגנות.

NOTE Paragraph

00:06:08.169 --> 00:06:10.133
אז מה ניתן לעשות בקשר לזה?

00:06:10.157 --> 00:06:13.837
ובכן, אנחנו יכולים להתחיל לחשוב איך ניצור
קוד יותר מכליל

00:06:13.861 --> 00:06:16.851
ולממש שיטות קידוד מכלילות.

00:06:16.875 --> 00:06:19.184
זה באמת מתחיל באנשים.

00:06:19.708 --> 00:06:21.669
כך שזה משנה מי מקודד.

00:06:21.693 --> 00:06:25.812
האם אנחנו בונים צוותים מכל הספקטרום
עם אנשים שונים?

00:06:25.836 --> 00:06:28.247
שיכולים לבדוק את האזורים המתים של האחרים?

00:06:28.271 --> 00:06:31.816
בצד הטכני, איך אנחנו מקודדים משנה גם.

00:06:31.840 --> 00:06:35.491
האם אנחנו משקללים גם הוגנות כשאנו
מפתחים מערכות?

00:06:35.515 --> 00:06:38.428
ולבסוף, למה אנחנו מקודדים גם משנה.

00:06:38.785 --> 00:06:43.868
השתמשנו בכלים ממוחשבים לפתוח עושר עצום.

00:06:43.892 --> 00:06:48.339
יש לנו הזדמנות כעת לפתוח אפילו יותר שוויון

00:06:48.363 --> 00:06:51.293
אם ניתן עדיפות לשינוי חברתי

00:06:51.317 --> 00:06:53.487
ולא רק לאחר מעשה.

00:06:54.008 --> 00:06:58.530
וכך אלו שלושת העיקרים של תנועת
״הקוד המכליל״.

00:06:58.554 --> 00:07:00.206
מי שמקודד משנה,

00:07:00.230 --> 00:07:01.773
איך מקודדים משנה

00:07:01.797 --> 00:07:03.820
ולמה אנחנו מקודדים משנה.

NOTE Paragraph

00:07:03.844 --> 00:07:06.943
כדי להתקדם לעבר הקוד המכליל
אנחנו יכולים להתחיל לחשוב

00:07:06.967 --> 00:07:10.131
על בניית פלטפורמות שיכולות לזהות הטייה

00:07:10.155 --> 00:07:13.233
על ידי איסוף חוויות מאנשים, 
כפי שאני שיתפתי,

00:07:13.257 --> 00:07:16.327
אך גם על ידי ביקורת של תוכנה קיימת.

00:07:16.351 --> 00:07:20.116
אנו יכולים גם ליצור קבוצות אימון 
שלמות יותר.

00:07:20.140 --> 00:07:22.943
דמיינו קמפיין ״סלפי לשלמות״

00:07:22.967 --> 00:07:26.622
שבו אתם ואני יכולים לעזור למפתחים
לבדוק וליצור

00:07:26.646 --> 00:07:28.739
קבוצות אימון שלמות יותר.

00:07:29.302 --> 00:07:32.130
אנו יכולים גם להתחיל לחשוב 
בצורה מודעת יותר

00:07:32.154 --> 00:07:37.545
על ההשפעה החברתית
של הטכנולוגיה אותה אנו מפתחים.

NOTE Paragraph

00:07:37.569 --> 00:07:39.962
כדי להתחיל את תנועת ״הקוד המכליל״,

00:07:39.986 --> 00:07:42.833
השקתי את הליגה לצדק אלגוריתמי,

00:07:42.857 --> 00:07:48.729
שבה כל אחד שאכפת לו מצדק
יכול להילחם בבהייה קודית.

00:07:48.753 --> 00:07:52.049
באתר codedgaze.com אתם יכולים 
לדווח על הטייה,

00:07:52.073 --> 00:07:54.518
לבקש ביקורת, להיות בודק

00:07:54.542 --> 00:07:57.313
ולהצטרף לשיחה על הנושא,

00:07:57.337 --> 00:07:59.624
#codegaze.

NOTE Paragraph

00:08:00.742 --> 00:08:03.229
אז אני מזמינה אתכם להצטרף אלי

00:08:03.253 --> 00:08:06.972
ביצירת עולם שבו הטכנולוגיה עובדת
עבור כולנו,

00:08:06.996 --> 00:08:08.893
לא רק עבור חלקינו,

00:08:08.917 --> 00:08:13.505
עולם שבו אנו מעריכים שלמות
ומתרכזים בשינוי חברתי.

NOTE Paragraph

00:08:13.529 --> 00:08:14.704
תודה לכם.

NOTE Paragraph

00:08:14.728 --> 00:08:18.999
(מחיאות כפיים)

NOTE Paragraph

00:08:20.873 --> 00:08:23.727
יש לי רק שאלה אחת:

00:08:23.751 --> 00:08:25.810
תצטרפו אלי למאבק?

NOTE Paragraph

00:08:25.834 --> 00:08:27.119
(צחוק)

NOTE Paragraph

00:08:27.143 --> 00:08:30.830
(מחיאות כפיים)