1
00:00:01,041 --> 00:00:04,175
שלום, שמי ג׳וי, ואני משוררת של קוד,

2
00:00:04,199 --> 00:00:09,192
במשימה לעצור כח בלתי נראה שנמצא בעליה,

3
00:00:09,216 --> 00:00:12,072
כח שקראתי לו ״בהייה קודית״,

4
00:00:12,096 --> 00:00:15,405
ההגדרה שלי להטייה אלגוריתמית.

5
00:00:15,429 --> 00:00:19,729
הטייה אלגוריתמית, בדומה להטייה אנושית,
גורמת לחוסר הוגנות.

6
00:00:19,753 --> 00:00:25,775
אבל אלגוריתמים, כמו וירוסים,
יכולים להפיץ את ההטייה בצורה נרחבת

7
00:00:25,799 --> 00:00:27,381
ובקצב גבוה.

8
00:00:27,943 --> 00:00:32,330
הטייה אלגוריתמית יכולה
להוביל לחוויות פסילה

9
00:00:32,354 --> 00:00:34,482
ולפרקטיקות מפלות.

10
00:00:34,506 --> 00:00:36,567
בואו ואראה לכם למה אני מתכוונת.

11
00:00:36,980 --> 00:00:39,416
שלום מצלמה, יש לי פנים.

12
00:00:40,162 --> 00:00:42,026
את מזהה את הפנים שלי?

13
00:00:42,051 --> 00:00:43,676
אולי בלי משקפיים?

14
00:00:43,701 --> 00:00:45,915
את רואה את הפנים שלה.

15
00:00:46,237 --> 00:00:48,482
מה לגבי הפנים שלי?

16
00:00:51,890 --> 00:00:55,640
יש לי מסכה. את רואה אותה?

17
00:00:56,474 --> 00:00:58,839
אז איך זה קרה?

18
00:00:58,863 --> 00:01:02,004
למה אני יושבת לפני המחשב


19
00:01:02,028 --> 00:01:03,452
במסכה לבנה,

20
00:01:03,476 --> 00:01:07,126
מנסה להיות מזוהה על ידי 
מצלמת רשת זולה?

21
00:01:07,150 --> 00:01:09,441
ובכן, כשאני לא נלחמת בבהייה הקודית

22
00:01:09,465 --> 00:01:10,985
כמשוררת של קוד,

23
00:01:11,009 --> 00:01:14,281
אני סטודנטית לתואר שני במעבדת המדיה של MIT,

24
00:01:14,305 --> 00:01:19,222
ושם יש לי הזדמנות לעבוד על כל מיני 
פרוייקטים גחמניים,

25
00:01:19,246 --> 00:01:21,273
כולל ״המראה המעצימה״,

26
00:01:21,297 --> 00:01:26,431
פרוייקט שעשיתי כדי לשים מסכה דיגיטלית
על ההשתקפות שלי.

27
00:01:26,455 --> 00:01:28,805
כך שבבוקר, אם רציתי להרגיש עוצמתית,

28
00:01:28,829 --> 00:01:30,263
יכולתי לשים מסיכה של אריה.

29
00:01:30,287 --> 00:01:33,783
אם רציתי להיות מעודדת, יכולתי לשים ציטוט.

30
00:01:33,807 --> 00:01:36,796
ובכן, השתמשתי בתוכנת זיהוי פנים כללית

31
00:01:36,820 --> 00:01:38,171
כדי לבנות את המערכת,

32
00:01:38,195 --> 00:01:43,298
אבל גיליתי שקשה לבדוק את המערכת
בלי שאלבש מסיכה לבנה.

33
00:01:44,282 --> 00:01:48,628
לרוע המזל, נתקלתי בבעיה זו גם בעבר.

34
00:01:48,652 --> 00:01:52,955
כשלמדתי לתואר ראשון במדעי המחשב
במכון הטכנולוגי בג׳ורג׳יה,

35
00:01:52,979 --> 00:01:55,034
עבדתי על ״רובוטים חברתיים״,

36
00:01:55,058 --> 00:01:58,835
ואחת מהמשימות היתה ללמד רובוט לשחק מחבואים
(Peek-a-boo),

37
00:01:58,859 --> 00:02:00,542
משחק פשוט מבוסס תורות

38
00:02:00,566 --> 00:02:04,887
שבו השחקנים מכסים את פניהם, וכשהם מגלים
אותם הם אומרים ״Peek-a-boo״!

39
00:02:04,911 --> 00:02:09,340
הבעייה היא שהמשחק לא עובד
אם אי אפשר לראות אותך.

40
00:02:09,364 --> 00:02:11,863
והרובוט שלי לא יכל לראות אותי.

41
00:02:11,887 --> 00:02:15,837
אבל השאלתי את פניה של השותפה לדירה שלי
כדי להשלים את הפרוייקט,

42
00:02:15,861 --> 00:02:17,241
הגשתי את המשימה,

43
00:02:17,265 --> 00:02:21,018
והנחתי שמישהו אחר
כבר יפתור את הבעייה הזאת.

44
00:02:21,669 --> 00:02:23,672
כעבור זמן לא רב,

45
00:02:23,696 --> 00:02:27,855
הייתי בהונג קונג כמשתתפת בתחרות יזמות.

46
00:02:28,339 --> 00:02:31,033
המארגנים החליטו לקחת את המשתתפים

47
00:02:31,057 --> 00:02:33,429
לסיור בין סטארטאפים מקומיים.

48
00:02:33,453 --> 00:02:36,168
באחד הסטארטאפים היה ״רובוט חברתי״,

49
00:02:36,192 --> 00:02:38,104
והם החליטו לערוך הדגמה.

50
00:02:38,128 --> 00:02:41,108
ההדגמה עבדה על כולם עד שהגיעו אלי,

51
00:02:41,132 --> 00:02:43,055
ואתם בטח כבר מנחשים,

52
00:02:43,079 --> 00:02:46,044
הרובוט לא הצליח לזהות את פניי.

53
00:02:46,068 --> 00:02:48,579
שאלתי את המפתחים למה זה קורה,

54
00:02:48,603 --> 00:02:54,136
ומסתבר שהם השתמשו באותה תוכנה כללית 
לזיהוי פנים.

55
00:02:54,160 --> 00:02:55,810
בצד השני של העולם,

56
00:02:55,834 --> 00:02:59,686
למדתי שהטייה אלגוריתמית יכולה לנוע 
באותה מהירות

57
00:02:59,710 --> 00:03:02,880
שלוקח להוריד כמה קבצים מהאינטרנט.

58
00:03:03,745 --> 00:03:06,821
אז מה קורה פה?
למה הפנים שלי לא מזוהות?

59
00:03:06,845 --> 00:03:10,201
ובכן, עלינו להבין כיצד אנו נותנים למכונות 
את היכולת לראות.

60
00:03:10,225 --> 00:03:13,634
ראייה ממוחשבת משתמשת
בטכניקות של למידת מכונה

61
00:03:13,658 --> 00:03:15,538
כדי לבצע זיהוי פנים.

62
00:03:15,562 --> 00:03:19,459
הדרך בה זה עובד היא שאתה מכין
קבוצת אימון של דוגמאות של פנים.

63
00:03:19,483 --> 00:03:22,301
אלו פנים. אלו פנים.
אלו לא פנים.

64
00:03:22,325 --> 00:03:26,844
ואז, לאחר זמן מה, אתה יכול ללמד את 
המחשב לזהות פנים אחרות.

65
00:03:26,868 --> 00:03:30,857
אבל, אם קבוצות האימון
אינן באמת מגוונות מספיק

66
00:03:30,881 --> 00:03:34,230
אז כל צורת פנים שסוטה יותר מדי מהנורמה

67
00:03:34,254 --> 00:03:35,903
תהיה קשה לזיהוי,

68
00:03:35,927 --> 00:03:37,890
וזה מה שקרה לי.

69
00:03:37,914 --> 00:03:40,296
אבל אל דאגה - יש לי חדשות טובות.

70
00:03:40,320 --> 00:03:43,091
קבוצות אימון אינן נוצרות משום מקום.

71
00:03:43,115 --> 00:03:44,903
אנחנו למעשה יכולים ליצור אותן.

72
00:03:44,927 --> 00:03:49,103
כלומר יש לנו הזדמנות ליצור קבוצות אימון
שמכסות את כל הספקטרום

73
00:03:49,127 --> 00:03:52,951
ומייצגות דיוקן עשיר יותר של האנושות.

74
00:03:52,975 --> 00:03:55,196
כעת ראיתם בדוגמאות שהבאתי

75
00:03:55,220 --> 00:03:56,988
כיצד בעזרת רובוטים חברתיים

76
00:03:57,012 --> 00:04:01,623
גיליתי על הטייה אלגוריתמית שגורמת לפסילה.

77
00:04:01,647 --> 00:04:06,462
אבל הטייה אלגוריתמית יכולה
להוביל גם לאפלייה.

78
00:04:07,437 --> 00:04:08,890
לאורך כל ארצות הברית

79
00:04:08,914 --> 00:04:13,112
מחלקות משטרה מתחילות
להשתמש בתוכנה לזיהוי פנים

80
00:04:13,136 --> 00:04:15,595
כחלק מהאמצעים ללחימה פשע.

81
00:04:15,619 --> 00:04:17,632
האוניברסיטה ג'ורג'טאון לאו 
פרסמה דו״ח

82
00:04:17,656 --> 00:04:24,419
שהפנים של אחד מכל שני בוגרים בארה״ב - 
כלומר 117 מליון אנשים

83
00:04:24,443 --> 00:04:27,977
נמצאות ברשתות של זיהוי פנים.

84
00:04:28,001 --> 00:04:32,553
מחלקות משטרה משתמשות כיום ברשתות
אלו בצורה לא מוסדרת,

85
00:04:32,577 --> 00:04:36,863
ומשתמשות באלגוריתמים שדיוקם לא מוודא.

86
00:04:36,887 --> 00:04:40,751
ועדיין, אנו יודעים שזיהוי פנים 
אינו חף מטעויות,

87
00:04:40,775 --> 00:04:44,954
ותיוג פנים בעקביות נשאר אתגר.

88
00:04:44,978 --> 00:04:46,740
אולי ראיתם זאת בפייסבוק.

89
00:04:46,764 --> 00:04:49,752
חבריי ואני צוחקים כל הזמן כשאנו רואים 
אנשים אחרים

90
00:04:49,776 --> 00:04:52,234
מתוייגים בטעות בתמונות שלנו.

91
00:04:52,258 --> 00:04:57,849
אבל זיהוי מוטעה
של חשוד בפשע אינו נושא לצחוק,

92
00:04:57,873 --> 00:05:00,700
כמו גם פריצת זכויות אזרח.

93
00:05:00,724 --> 00:05:03,929
לימוד מכונה נמצא בשימוש של זיהוי פנים,

94
00:05:03,953 --> 00:05:08,458
אך זה גם מתרחב מעבר לתחום
של ראייה ממוחשבת.

95
00:05:09,266 --> 00:05:13,282
בספרה ״נשקים של השמדה מתמטית״,

96
00:05:13,306 --> 00:05:19,987
מדענית הנתונים קאת׳י אוניל מדברת על 
העלייה של אלגוריתמים מסוג WMDs -

97
00:05:20,011 --> 00:05:24,364
אלגוריתמים נפוצים, מסתוריים והרסניים

98
00:05:24,388 --> 00:05:27,352
שנמצאים בשימוש גובר למטרת קבלת החלטות

99
00:05:27,376 --> 00:05:30,553
שמשפיעות על עוד ועוד היבטים של חיינו.

100
00:05:30,577 --> 00:05:32,447
מי מתקבל לעבודה ומי מפוטר?

101
00:05:32,471 --> 00:05:34,583
האם תקבל את ההלוואה?
האם תקבל את הביטוח?

102
00:05:34,607 --> 00:05:38,110
האם אתה מתקבל לקולג׳ שרצית?

103
00:05:38,134 --> 00:05:41,643
האם אתה ואני משלמים אותו מחיר 
עבור אותו מוצר

104
00:05:41,667 --> 00:05:44,109
שנקנה באותה פלטפורמה?

105
00:05:44,133 --> 00:05:47,892
יחידות לאכיפת החוק גם מתחילות
להשתמש בלימוד מכונה

106
00:05:47,916 --> 00:05:50,205
עבור שיטור תחזיתי.

107
00:05:50,229 --> 00:05:53,723
יש שופטים שמשתמשים בציוני סיכון שהופקו ע״י
מכונה כדי להחליט

108
00:05:53,747 --> 00:05:58,149
כמה זמן אדם יבלה בכלא.

109
00:05:58,173 --> 00:06:00,627
לכן עלינו לחשוב באמת על החלטות אלו.

110
00:06:00,651 --> 00:06:01,833
האם הן הוגנות?

111
00:06:01,857 --> 00:06:04,747
וכבר ראינו שהטייה אלגורימית

112
00:06:04,771 --> 00:06:08,145
לא בהכרח מביאה לתוצאות הוגנות.

113
00:06:08,169 --> 00:06:10,133
אז מה ניתן לעשות בקשר לזה?

114
00:06:10,157 --> 00:06:13,837
ובכן, אנחנו יכולים להתחיל לחשוב איך ניצור
קוד יותר מכליל

115
00:06:13,861 --> 00:06:16,851
ולממש שיטות קידוד מכלילות.

116
00:06:16,875 --> 00:06:19,184
זה באמת מתחיל באנשים.

117
00:06:19,708 --> 00:06:21,669
כך שזה משנה מי מקודד.

118
00:06:21,693 --> 00:06:25,812
האם אנחנו בונים צוותים מכל הספקטרום
עם אנשים שונים?

119
00:06:25,836 --> 00:06:28,247
שיכולים לבדוק את האזורים המתים של האחרים?

120
00:06:28,271 --> 00:06:31,816
בצד הטכני, איך אנחנו מקודדים משנה גם.

121
00:06:31,840 --> 00:06:35,491
האם אנחנו משקללים גם הוגנות כשאנו
מפתחים מערכות?

122
00:06:35,515 --> 00:06:38,428
ולבסוף, למה אנחנו מקודדים גם משנה.

123
00:06:38,785 --> 00:06:43,868
השתמשנו בכלים ממוחשבים לפתוח עושר עצום.

124
00:06:43,892 --> 00:06:48,339
יש לנו הזדמנות כעת לפתוח אפילו יותר שוויון

125
00:06:48,363 --> 00:06:51,293
אם ניתן עדיפות לשינוי חברתי

126
00:06:51,317 --> 00:06:53,487
ולא רק לאחר מעשה.

127
00:06:54,008 --> 00:06:58,530
וכך אלו שלושת העיקרים של תנועת
״הקוד המכליל״.

128
00:06:58,554 --> 00:07:00,206
מי שמקודד משנה,

129
00:07:00,230 --> 00:07:01,773
איך מקודדים משנה

130
00:07:01,797 --> 00:07:03,820
ולמה אנחנו מקודדים משנה.

131
00:07:03,844 --> 00:07:06,943
כדי להתקדם לעבר הקוד המכליל
אנחנו יכולים להתחיל לחשוב

132
00:07:06,967 --> 00:07:10,131
על בניית פלטפורמות שיכולות לזהות הטייה

133
00:07:10,155 --> 00:07:13,233
על ידי איסוף חוויות מאנשים, 
כפי שאני שיתפתי,

134
00:07:13,257 --> 00:07:16,327
אך גם על ידי ביקורת של תוכנה קיימת.

135
00:07:16,351 --> 00:07:20,116
אנו יכולים גם ליצור קבוצות אימון 
שלמות יותר.

136
00:07:20,140 --> 00:07:22,943
דמיינו קמפיין ״סלפי לשלמות״

137
00:07:22,967 --> 00:07:26,622
שבו אתם ואני יכולים לעזור למפתחים
לבדוק וליצור

138
00:07:26,646 --> 00:07:28,739
קבוצות אימון שלמות יותר.

139
00:07:29,302 --> 00:07:32,130
אנו יכולים גם להתחיל לחשוב 
בצורה מודעת יותר

140
00:07:32,154 --> 00:07:37,545
על ההשפעה החברתית
של הטכנולוגיה אותה אנו מפתחים.

141
00:07:37,569 --> 00:07:39,962
כדי להתחיל את תנועת ״הקוד המכליל״,

142
00:07:39,986 --> 00:07:42,833
השקתי את הליגה לצדק אלגוריתמי,

143
00:07:42,857 --> 00:07:48,729
שבה כל אחד שאכפת לו מצדק
יכול להילחם בבהייה קודית.

144
00:07:48,753 --> 00:07:52,049
באתר codedgaze.com אתם יכולים 
לדווח על הטייה,

145
00:07:52,073 --> 00:07:54,518
לבקש ביקורת, להיות בודק

146
00:07:54,542 --> 00:07:57,313
ולהצטרף לשיחה על הנושא,

147
00:07:57,337 --> 00:07:59,624
#codegaze.

148
00:08:00,742 --> 00:08:03,229
אז אני מזמינה אתכם להצטרף אלי

149
00:08:03,253 --> 00:08:06,972
ביצירת עולם שבו הטכנולוגיה עובדת
עבור כולנו,

150
00:08:06,996 --> 00:08:08,893
לא רק עבור חלקינו,

151
00:08:08,917 --> 00:08:13,505
עולם שבו אנו מעריכים שלמות
ומתרכזים בשינוי חברתי.

152
00:08:13,529 --> 00:08:14,704
תודה לכם.

153
00:08:14,728 --> 00:08:18,999
(מחיאות כפיים)

154
00:08:20,873 --> 00:08:23,727
יש לי רק שאלה אחת:

155
00:08:23,751 --> 00:08:25,810
תצטרפו אלי למאבק?

156
00:08:25,834 --> 00:08:27,119
(צחוק)

157
00:08:27,143 --> 00:08:30,830
(מחיאות כפיים)