0:00:01.041,0:00:04.175
שלום, שמי ג׳וי, ואני משוררת של קוד,

0:00:04.199,0:00:09.192
במשימה לעצור כח בלתי נראה שנמצא בעליה,

0:00:09.216,0:00:12.072
כח שקראתי לו ״בהייה קודית״,

0:00:12.096,0:00:15.405
ההגדרה שלי להטייה אלגוריתמית.

0:00:15.429,0:00:19.729
הטייה אלגוריתמית, בדומה להטייה אנושית,[br]גורמת לחוסר הוגנות.

0:00:19.753,0:00:25.775
אבל אלגוריתמים, כמו וירוסים,[br]יכולים להפיץ את ההטייה בצורה נרחבת

0:00:25.799,0:00:27.381
ובקצב גבוה.

0:00:27.943,0:00:32.330
הטייה אלגוריתמית יכולה[br]להוביל לחוויות פסילה

0:00:32.354,0:00:34.482
ולפרקטיקות מפלות.

0:00:34.506,0:00:36.567
בואו ואראה לכם למה אני מתכוונת.

0:00:36.980,0:00:39.416
שלום מצלמה, יש לי פנים.

0:00:40.162,0:00:42.026
את מזהה את הפנים שלי?

0:00:42.051,0:00:43.676
אולי בלי משקפיים?

0:00:43.701,0:00:45.915
את רואה את הפנים שלה.

0:00:46.237,0:00:48.482
מה לגבי הפנים שלי?

0:00:51.890,0:00:55.640
יש לי מסכה. את רואה אותה?

0:00:56.474,0:00:58.839
אז איך זה קרה?

0:00:58.863,0:01:02.004
למה אני יושבת לפני המחשב[br]

0:01:02.028,0:01:03.452
במסכה לבנה,

0:01:03.476,0:01:07.126
מנסה להיות מזוהה על ידי [br]מצלמת רשת זולה?

0:01:07.150,0:01:09.441
ובכן, כשאני לא נלחמת בבהייה הקודית

0:01:09.465,0:01:10.985
כמשוררת של קוד,

0:01:11.009,0:01:14.281
אני סטודנטית לתואר שני במעבדת המדיה של MIT,

0:01:14.305,0:01:19.222
ושם יש לי הזדמנות לעבוד על כל מיני [br]פרוייקטים גחמניים,

0:01:19.246,0:01:21.273
כולל ״המראה המעצימה״,

0:01:21.297,0:01:26.431
פרוייקט שעשיתי כדי לשים מסכה דיגיטלית[br]על ההשתקפות שלי.

0:01:26.455,0:01:28.805
כך שבבוקר, אם רציתי להרגיש עוצמתית,

0:01:28.829,0:01:30.263
יכולתי לשים מסיכה של אריה.

0:01:30.287,0:01:33.783
אם רציתי להיות מעודדת, יכולתי לשים ציטוט.

0:01:33.807,0:01:36.796
ובכן, השתמשתי בתוכנת זיהוי פנים כללית

0:01:36.820,0:01:38.171
כדי לבנות את המערכת,

0:01:38.195,0:01:43.298
אבל גיליתי שקשה לבדוק את המערכת[br]בלי שאלבש מסיכה לבנה.

0:01:44.282,0:01:48.628
לרוע המזל, נתקלתי בבעיה זו גם בעבר.

0:01:48.652,0:01:52.955
כשלמדתי לתואר ראשון במדעי המחשב[br]במכון הטכנולוגי בג׳ורג׳יה,

0:01:52.979,0:01:55.034
עבדתי על ״רובוטים חברתיים״,

0:01:55.058,0:01:58.835
ואחת מהמשימות היתה ללמד רובוט לשחק מחבואים[br](Peek-a-boo),

0:01:58.859,0:02:00.542
משחק פשוט מבוסס תורות

0:02:00.566,0:02:04.887
שבו השחקנים מכסים את פניהם, וכשהם מגלים[br]אותם הם אומרים ״Peek-a-boo״!

0:02:04.911,0:02:09.340
הבעייה היא שהמשחק לא עובד[br]אם אי אפשר לראות אותך.

0:02:09.364,0:02:11.863
והרובוט שלי לא יכל לראות אותי.

0:02:11.887,0:02:15.837
אבל השאלתי את פניה של השותפה לדירה שלי[br]כדי להשלים את הפרוייקט,

0:02:15.861,0:02:17.241
הגשתי את המשימה,

0:02:17.265,0:02:21.018
והנחתי שמישהו אחר[br]כבר יפתור את הבעייה הזאת.

0:02:21.669,0:02:23.672
כעבור זמן לא רב,

0:02:23.696,0:02:27.855
הייתי בהונג קונג כמשתתפת בתחרות יזמות.

0:02:28.339,0:02:31.033
המארגנים החליטו לקחת את המשתתפים

0:02:31.057,0:02:33.429
לסיור בין סטארטאפים מקומיים.

0:02:33.453,0:02:36.168
באחד הסטארטאפים היה ״רובוט חברתי״,

0:02:36.192,0:02:38.104
והם החליטו לערוך הדגמה.

0:02:38.128,0:02:41.108
ההדגמה עבדה על כולם עד שהגיעו אלי,

0:02:41.132,0:02:43.055
ואתם בטח כבר מנחשים,

0:02:43.079,0:02:46.044
הרובוט לא הצליח לזהות את פניי.

0:02:46.068,0:02:48.579
שאלתי את המפתחים למה זה קורה,

0:02:48.603,0:02:54.136
ומסתבר שהם השתמשו באותה תוכנה כללית [br]לזיהוי פנים.

0:02:54.160,0:02:55.810
בצד השני של העולם,

0:02:55.834,0:02:59.686
למדתי שהטייה אלגוריתמית יכולה לנוע [br]באותה מהירות

0:02:59.710,0:03:02.880
שלוקח להוריד כמה קבצים מהאינטרנט.

0:03:03.745,0:03:06.821
אז מה קורה פה?[br]למה הפנים שלי לא מזוהות?

0:03:06.845,0:03:10.201
ובכן, עלינו להבין כיצד אנו נותנים למכונות [br]את היכולת לראות.

0:03:10.225,0:03:13.634
ראייה ממוחשבת משתמשת[br]בטכניקות של למידת מכונה

0:03:13.658,0:03:15.538
כדי לבצע זיהוי פנים.

0:03:15.562,0:03:19.459
הדרך בה זה עובד היא שאתה מכין[br]קבוצת אימון של דוגמאות של פנים.

0:03:19.483,0:03:22.301
אלו פנים. אלו פנים.[br]אלו לא פנים.

0:03:22.325,0:03:26.844
ואז, לאחר זמן מה, אתה יכול ללמד את [br]המחשב לזהות פנים אחרות.

0:03:26.868,0:03:30.857
אבל, אם קבוצות האימון[br]אינן באמת מגוונות מספיק

0:03:30.881,0:03:34.230
אז כל צורת פנים שסוטה יותר מדי מהנורמה

0:03:34.254,0:03:35.903
תהיה קשה לזיהוי,

0:03:35.927,0:03:37.890
וזה מה שקרה לי.

0:03:37.914,0:03:40.296
אבל אל דאגה - יש לי חדשות טובות.

0:03:40.320,0:03:43.091
קבוצות אימון אינן נוצרות משום מקום.

0:03:43.115,0:03:44.903
אנחנו למעשה יכולים ליצור אותן.

0:03:44.927,0:03:49.103
כלומר יש לנו הזדמנות ליצור קבוצות אימון[br]שמכסות את כל הספקטרום

0:03:49.127,0:03:52.951
ומייצגות דיוקן עשיר יותר של האנושות.

0:03:52.975,0:03:55.196
כעת ראיתם בדוגמאות שהבאתי

0:03:55.220,0:03:56.988
כיצד בעזרת רובוטים חברתיים

0:03:57.012,0:04:01.623
גיליתי על הטייה אלגוריתמית שגורמת לפסילה.

0:04:01.647,0:04:06.462
אבל הטייה אלגוריתמית יכולה[br]להוביל גם לאפלייה.

0:04:07.437,0:04:08.890
לאורך כל ארצות הברית

0:04:08.914,0:04:13.112
מחלקות משטרה מתחילות[br]להשתמש בתוכנה לזיהוי פנים

0:04:13.136,0:04:15.595
כחלק מהאמצעים ללחימה פשע.

0:04:15.619,0:04:17.632
האוניברסיטה ג'ורג'טאון לאו [br]פרסמה דו״ח

0:04:17.656,0:04:24.419
שהפנים של אחד מכל שני בוגרים בארה״ב - [br]כלומר 117 מליון אנשים

0:04:24.443,0:04:27.977
נמצאות ברשתות של זיהוי פנים.

0:04:28.001,0:04:32.553
מחלקות משטרה משתמשות כיום ברשתות[br]אלו בצורה לא מוסדרת,

0:04:32.577,0:04:36.863
ומשתמשות באלגוריתמים שדיוקם לא מוודא.

0:04:36.887,0:04:40.751
ועדיין, אנו יודעים שזיהוי פנים [br]אינו חף מטעויות,

0:04:40.775,0:04:44.954
ותיוג פנים בעקביות נשאר אתגר.

0:04:44.978,0:04:46.740
אולי ראיתם זאת בפייסבוק.

0:04:46.764,0:04:49.752
חבריי ואני צוחקים כל הזמן כשאנו רואים [br]אנשים אחרים

0:04:49.776,0:04:52.234
מתוייגים בטעות בתמונות שלנו.

0:04:52.258,0:04:57.849
אבל זיהוי מוטעה[br]של חשוד בפשע אינו נושא לצחוק,

0:04:57.873,0:05:00.700
כמו גם פריצת זכויות אזרח.

0:05:00.724,0:05:03.929
לימוד מכונה נמצא בשימוש של זיהוי פנים,

0:05:03.953,0:05:08.458
אך זה גם מתרחב מעבר לתחום[br]של ראייה ממוחשבת.

0:05:09.266,0:05:13.282
בספרה ״נשקים של השמדה מתמטית״,

0:05:13.306,0:05:19.987
מדענית הנתונים קאת׳י אוניל מדברת על [br]העלייה של אלגוריתמים מסוג WMDs -

0:05:20.011,0:05:24.364
אלגוריתמים נפוצים, מסתוריים והרסניים

0:05:24.388,0:05:27.352
שנמצאים בשימוש גובר למטרת קבלת החלטות

0:05:27.376,0:05:30.553
שמשפיעות על עוד ועוד היבטים של חיינו.

0:05:30.577,0:05:32.447
מי מתקבל לעבודה ומי מפוטר?

0:05:32.471,0:05:34.583
האם תקבל את ההלוואה?[br]האם תקבל את הביטוח?

0:05:34.607,0:05:38.110
האם אתה מתקבל לקולג׳ שרצית?

0:05:38.134,0:05:41.643
האם אתה ואני משלמים אותו מחיר [br]עבור אותו מוצר

0:05:41.667,0:05:44.109
שנקנה באותה פלטפורמה?

0:05:44.133,0:05:47.892
יחידות לאכיפת החוק גם מתחילות[br]להשתמש בלימוד מכונה

0:05:47.916,0:05:50.205
עבור שיטור תחזיתי.

0:05:50.229,0:05:53.723
יש שופטים שמשתמשים בציוני סיכון שהופקו ע״י[br]מכונה כדי להחליט

0:05:53.747,0:05:58.149
כמה זמן אדם יבלה בכלא.

0:05:58.173,0:06:00.627
לכן עלינו לחשוב באמת על החלטות אלו.

0:06:00.651,0:06:01.833
האם הן הוגנות?

0:06:01.857,0:06:04.747
וכבר ראינו שהטייה אלגורימית

0:06:04.771,0:06:08.145
לא בהכרח מביאה לתוצאות הוגנות.

0:06:08.169,0:06:10.133
אז מה ניתן לעשות בקשר לזה?

0:06:10.157,0:06:13.837
ובכן, אנחנו יכולים להתחיל לחשוב איך ניצור[br]קוד יותר מכליל

0:06:13.861,0:06:16.851
ולממש שיטות קידוד מכלילות.

0:06:16.875,0:06:19.184
זה באמת מתחיל באנשים.

0:06:19.708,0:06:21.669
כך שזה משנה מי מקודד.

0:06:21.693,0:06:25.812
האם אנחנו בונים צוותים מכל הספקטרום[br]עם אנשים שונים?

0:06:25.836,0:06:28.247
שיכולים לבדוק את האזורים המתים של האחרים?

0:06:28.271,0:06:31.816
בצד הטכני, איך אנחנו מקודדים משנה גם.

0:06:31.840,0:06:35.491
האם אנחנו משקללים גם הוגנות כשאנו[br]מפתחים מערכות?

0:06:35.515,0:06:38.428
ולבסוף, למה אנחנו מקודדים גם משנה.

0:06:38.785,0:06:43.868
השתמשנו בכלים ממוחשבים לפתוח עושר עצום.

0:06:43.892,0:06:48.339
יש לנו הזדמנות כעת לפתוח אפילו יותר שוויון

0:06:48.363,0:06:51.293
אם ניתן עדיפות לשינוי חברתי

0:06:51.317,0:06:53.487
ולא רק לאחר מעשה.

0:06:54.008,0:06:58.530
וכך אלו שלושת העיקרים של תנועת[br]״הקוד המכליל״.

0:06:58.554,0:07:00.206
מי שמקודד משנה,

0:07:00.230,0:07:01.773
איך מקודדים משנה

0:07:01.797,0:07:03.820
ולמה אנחנו מקודדים משנה.

0:07:03.844,0:07:06.943
כדי להתקדם לעבר הקוד המכליל[br]אנחנו יכולים להתחיל לחשוב

0:07:06.967,0:07:10.131
על בניית פלטפורמות שיכולות לזהות הטייה

0:07:10.155,0:07:13.233
על ידי איסוף חוויות מאנשים, [br]כפי שאני שיתפתי,

0:07:13.257,0:07:16.327
אך גם על ידי ביקורת של תוכנה קיימת.

0:07:16.351,0:07:20.116
אנו יכולים גם ליצור קבוצות אימון [br]שלמות יותר.

0:07:20.140,0:07:22.943
דמיינו קמפיין ״סלפי לשלמות״

0:07:22.967,0:07:26.622
שבו אתם ואני יכולים לעזור למפתחים[br]לבדוק וליצור

0:07:26.646,0:07:28.739
קבוצות אימון שלמות יותר.

0:07:29.302,0:07:32.130
אנו יכולים גם להתחיל לחשוב [br]בצורה מודעת יותר

0:07:32.154,0:07:37.545
על ההשפעה החברתית[br]של הטכנולוגיה אותה אנו מפתחים.

0:07:37.569,0:07:39.962
כדי להתחיל את תנועת ״הקוד המכליל״,

0:07:39.986,0:07:42.833
השקתי את הליגה לצדק אלגוריתמי,

0:07:42.857,0:07:48.729
שבה כל אחד שאכפת לו מצדק[br]יכול להילחם בבהייה קודית.

0:07:48.753,0:07:52.049
באתר codedgaze.com אתם יכולים [br]לדווח על הטייה,

0:07:52.073,0:07:54.518
לבקש ביקורת, להיות בודק

0:07:54.542,0:07:57.313
ולהצטרף לשיחה על הנושא,

0:07:57.337,0:07:59.624
#codegaze.

0:08:00.742,0:08:03.229
אז אני מזמינה אתכם להצטרף אלי

0:08:03.253,0:08:06.972
ביצירת עולם שבו הטכנולוגיה עובדת[br]עבור כולנו,

0:08:06.996,0:08:08.893
לא רק עבור חלקינו,

0:08:08.917,0:08:13.505
עולם שבו אנו מעריכים שלמות[br]ומתרכזים בשינוי חברתי.

0:08:13.529,0:08:14.704
תודה לכם.

0:08:14.728,0:08:18.999
(מחיאות כפיים)

0:08:20.873,0:08:23.727
יש לי רק שאלה אחת:

0:08:23.751,0:08:25.810
תצטרפו אלי למאבק?

0:08:25.834,0:08:27.119
(צחוק)

0:08:27.143,0:08:30.830
(מחיאות כפיים)