1
00:00:00,691 --> 00:00:03,849
אני כותב מותחנים של מדע בדיוני,

2
00:00:03,849 --> 00:00:06,042
אז אם אני אומר "רובוטים רצחניים",

3
00:00:06,042 --> 00:00:08,403
אתם בטח חושבים על משהו כמו זה.

4
00:00:08,403 --> 00:00:10,958
אבל האמת היא שאני כאן לא בכדי לדבר על מדע בדיוני.

5
00:00:10,958 --> 00:00:13,906
אני כאן בכדי לדבר על רובוטים רצחניים מאוד אמיתיים,

6
00:00:13,906 --> 00:00:17,028
כטב"מים אוטונומיים קרביים.

7
00:00:17,028 --> 00:00:20,655
עכשיו, אני לא מדבר על הכטב"מים "פרדטור" ו"ריפר" ,

8
00:00:20,655 --> 00:00:23,915
שבהם האדם הוא שמחליט לגבי המטרות.

9
00:00:23,915 --> 00:00:27,044
אני מדבר על כלי נשק רובוטיים לגמרי אוטונומיים

10
00:00:27,044 --> 00:00:29,698
שמקבלים החלטות קטלניות על בני אדם

11
00:00:29,698 --> 00:00:32,115
לגמרי בעצמם.

12
00:00:32,115 --> 00:00:36,115
יש למעשה מונח טכני לזה: אוטונומיה קטלנית.

13
00:00:36,115 --> 00:00:38,971
עכשיו, רובוטים קטלניים אוטונומיים

14
00:00:38,971 --> 00:00:42,040
לובשים צורות רבות: טסים, נוהגים,

15
00:00:42,040 --> 00:00:44,786
או סתם נמצאים במארב.

16
00:00:44,786 --> 00:00:47,895
ולמעשה, הם נהפכים למציאות מהר מאוד.

17
00:00:47,895 --> 00:00:50,379
אלו שתי תחנות צליפה אוטומטית

18
00:00:50,379 --> 00:00:54,516
שמוצבות כיום באזור המפורז שבין צפון קוריאה לדרום קוריאה.

19
00:00:54,516 --> 00:00:56,687
לשתי המערכות יכולות אוטונומיות

20
00:00:56,687 --> 00:01:00,211
לזיהוי מטרה אנושית ויירוטה,

21
00:01:00,211 --> 00:01:04,535
זו משמאל ממרחק של למעלה מקילומטר.

22
00:01:04,535 --> 00:01:08,124
עכשיו, בשני המקרים, יש עדיין בן אדם באמצע

23
00:01:08,124 --> 00:01:10,496
שמקבל את ההחלטה הקטלנית לירות,

24
00:01:10,496 --> 00:01:15,909
אבל זו אינה דרישה טכנית. זו בחירה.

25
00:01:15,909 --> 00:01:19,002
ובדיוק בבחירה הזו אני רוצה להתמקד,

26
00:01:19,002 --> 00:01:21,643
כי בזמן שאנחנו מעבירים את קבלת ההחלטות הקטלניות

27
00:01:21,643 --> 00:01:24,752
מבני האדם לתוכנה,

28
00:01:24,752 --> 00:01:28,228
אנחנו מסתכנים לא רק בכך שנוציא את האנושיות מהמלחמה,

29
00:01:28,228 --> 00:01:31,754
אלא גם בכך שאנחנו נשנה לחלוטין את הנוף החברתי שלנו,

30
00:01:31,754 --> 00:01:33,978
גם הרבה מעבר לשדה הקרב.

31
00:01:33,978 --> 00:01:38,487
וזאת כי האופן שבו בני אדם פותרים סיכסוכים

32
00:01:38,487 --> 00:01:40,220
מעצב את הנוף החברתי שלנו.

33
00:01:40,220 --> 00:01:42,853
וכך זה היה תמיד, לאורך כל ההיסטוריה.

34
00:01:42,853 --> 00:01:45,514
למשל, אלו היו כלי הנשק הכי מתקדמים

35
00:01:45,514 --> 00:01:47,593
ב-1400 לספירה.

36
00:01:47,593 --> 00:01:50,737
הם היו מאוד יקרים הן לבניה והן לתחזוקה,

37
00:01:50,737 --> 00:01:53,977
אבל באמצעותם יכולת לשלוט בעם,

38
00:01:53,977 --> 00:01:57,866
והפיזור של הכוח הפוליטי בחברה הפיאודלית שיקף זאת.

39
00:01:57,866 --> 00:02:00,553
הכוח היה מרוכז ממש בקודקוד.

40
00:02:00,553 --> 00:02:04,081
ומה השתנה? חדשנות טכנולוגית.

41
00:02:04,081 --> 00:02:05,952
אבק השריפה, תותחים.

42
00:02:05,952 --> 00:02:09,769
ומהר מאוד, השריון והטירות הפכו מיושנים,

43
00:02:09,769 --> 00:02:12,302
וכבר היה חשוב פחות את מי הבאת לשדה הקרב

44
00:02:12,302 --> 00:02:16,081
לעומת כמה אנשים הבאת לשדה הקרב.

45
00:02:16,081 --> 00:02:19,719
וככל שצבאות גדלו במספרים, קמו מדינות-הלאום

46
00:02:19,719 --> 00:02:23,399
כצורך פוליטי ולוגיסטי של ההגנה.

47
00:02:23,399 --> 00:02:25,775
וככל שמנהיגים נאלצו לסמוך על יותר מבני העם שלהם,

48
00:02:25,775 --> 00:02:27,608
כך הם החלו לחלוק בכוח.

49
00:02:27,608 --> 00:02:30,207
ממשלים ייצוגיים החלו להיווצר.

50
00:02:30,207 --> 00:02:33,495
אז שוב, הכלים בהם אנחנו משתמשים כדי לפתור סכסוכים

51
00:02:33,495 --> 00:02:36,799
מעצבים את הנוף החברתי שלנו.

52
00:02:36,799 --> 00:02:40,863
כלי נשק רובוטיים אוטונומיים הם כלי כזה,

53
00:02:40,863 --> 00:02:46,031
אלא שבכך שהם מצריכים מעט מאוד אנשים שיצאו למלחמה,

54
00:02:46,031 --> 00:02:50,871
הם יוצרים את הסיכון שהכוח ישוב ויתרכז בקרב מעט מאוד ידיים,

55
00:02:50,871 --> 00:02:57,386
ואולי אף יחזירו אחורה מגמה בת 500 שנה של התקדמות לעבר דמוקרטיה.

56
00:02:57,386 --> 00:02:59,143
עכשיו, לדעתי, כשיודעים את זה,

57
00:02:59,143 --> 00:03:03,495
אפשר לנקוט בצעדים החלטיים כדי לשמר את המוסדות הדמוקרטיים שלנו,

58
00:03:03,495 --> 00:03:07,474
ולעשות את מה שבני האדם עושים הכי טוב, וזה להסתגל.

59
00:03:07,474 --> 00:03:09,479
אבל הזמן הוא מרכיב חשוב.

60
00:03:09,479 --> 00:03:12,330
שבעים אומות מפתחות בעצמן כטב"מים

61
00:03:12,330 --> 00:03:14,487
שנשלטים מרחוק,

62
00:03:14,487 --> 00:03:17,080
וכפי שתראו, כטב"מים קרביים שנשלטים מרחוק

63
00:03:17,080 --> 00:03:21,552
הם נושאי הבשורה לכלי הנשק הרובוטיים האוטונומיים.

64
00:03:21,552 --> 00:03:24,319
וזה כי מרגע שפרסת כטב"מים בשליטה מרחוק,

65
00:03:24,319 --> 00:03:27,703
ישנם שלושה גורמים מרכזיים שדוחקים את קבלת ההחלטות

66
00:03:27,703 --> 00:03:32,303
מידי בני האדם ואל מערכת הנשק עצמה.

67
00:03:32,303 --> 00:03:37,562
הראשון שבהם הוא מבול הווידיאו שהכטב"מים מייצרים.

68
00:03:37,562 --> 00:03:41,415
למשל, ב-2004, צי הכטב"מים של ארה"ב הפיק

69
00:03:41,415 --> 00:03:46,727
בסה"כ 71 שעות של צילומי מעקב לניתוח.

70
00:03:46,727 --> 00:03:51,226
ב-2011, הנתון עלה ל 300,000 שעות,

71
00:03:51,226 --> 00:03:54,375
ובכך עקף את היכולת האנושית לצפייה בכל זה,

72
00:03:54,375 --> 00:03:58,039
אבל אפילו המספר הזה עוד יעלה משמעותית.

73
00:03:58,039 --> 00:04:00,614
התוכניות של הפנטגון "גורגון סטר" וארגוס"

74
00:04:00,614 --> 00:04:03,778
יציבו כ-65 עדשות מצלמה שמנוהלות כל אחת בנפרד

75
00:04:03,778 --> 00:04:05,816
על הפלטפורמה של כל כטב"ם,

76
00:04:05,816 --> 00:04:09,119
וזה יעלה משמעותית על היכולת האנושית לצפות בתוצרים.

77
00:04:09,119 --> 00:04:11,279
והמשמעות היא שידרשו תוכנות בינה ויזואלית

78
00:04:11,279 --> 00:04:15,327
על מנת לסרוק ולאתר מוקדי עניין.

79
00:04:15,327 --> 00:04:16,675
וזה אומר שבקרוב מאוד

80
00:04:16,675 --> 00:04:19,422
כטב"מים יגידו לבני האדם על מה להסתכל,

81
00:04:19,422 --> 00:04:21,919
ולא להיפך.

82
00:04:21,919 --> 00:04:24,392
אבל יש תמריץ חזק שני שדוחף

83
00:04:24,392 --> 00:04:27,775
את קבלת ההחלטות מידי בני האדם לעבר המכונות,

84
00:04:27,775 --> 00:04:30,647
וזה השיבוש האלקטרומגנטי,

85
00:04:30,647 --> 00:04:32,883
שמנתק את הקשר שבין הכטב"ם

86
00:04:32,883 --> 00:04:35,697
למפעיל שלו.

87
00:04:35,697 --> 00:04:38,315
ראינו דוגמה לזה ב- 2011

88
00:04:38,315 --> 00:04:41,271
כאשר הכטב"ם סנטינל RQ-170 האמריקאי

89
00:04:41,271 --> 00:04:45,578
התבלבל קצת מעל איראן בשל מתקפת שיבוש GPS,

90
00:04:45,578 --> 00:04:50,692
אבל כל כטב"ם הנשלט מרחוק חשוף לסוג כזה של מתקפה,

91
00:04:50,692 --> 00:04:52,744
וזה אומר שכטב"מים

92
00:04:52,744 --> 00:04:56,364
יצטרכו לקבל יותר אחריות על קבלת החלטות.

93
00:04:56,364 --> 00:04:59,407
הם ידענו מה מטרת המשימה,

94
00:04:59,407 --> 00:05:04,252
והם יגיבו לנסיבות חדשות ללא קבלת הנחיות מבן אנוש.

95
00:05:04,252 --> 00:05:06,833
הם יתעלמו מאותות רדיו חיצוניים

96
00:05:06,833 --> 00:05:09,163
וישלחו מעט מאוד אותות משלהם.

97
00:05:09,163 --> 00:05:11,169
מה שמביא אותנו, למעשה, לתמריץ השלישי

98
00:05:11,169 --> 00:05:15,031
והחזק ביותר שדוחק את קבלת ההחלטות

99
00:05:15,031 --> 00:05:18,373
מידי בני האדם ולעבר כלי הנשק:

100
00:05:18,373 --> 00:05:21,666
הכחשה סבירה.

101
00:05:21,666 --> 00:05:24,553
אנחנו חיים כיום בכלכלה גלובלית.

102
00:05:24,553 --> 00:05:28,887
ברוב היבשות מתקיים ייצור של טכנולוגיה מתקדמת.

103
00:05:28,887 --> 00:05:31,801
ריגול קיברנטי מוביל לתפוצה של תוכניות פיתוח

104
00:05:31,801 --> 00:05:33,687
למקומות בלתי ידועים,

105
00:05:33,687 --> 00:05:35,701
ובאווירה כזו, מאוד סביר

106
00:05:35,701 --> 00:05:40,435
שתוכנית ייצור של כטב"ם מוצלח תועתק במפעלים השותפים,

107
00:05:40,435 --> 00:05:42,605
ותשגשג במהירות בשוק האפור.

108
00:05:42,605 --> 00:05:45,065
ובמצב כזה, בחיפוש בין ההריסות

109
00:05:45,065 --> 00:05:48,025
של מתקפת כטב"ם מתאבד, יהיה מאוד קשה לומר

110
00:05:48,025 --> 00:05:52,425
מי שלח את כלי הנשק הזה.

111
00:05:52,425 --> 00:05:55,225
זה מעלה את האפשרות המאוד ממשית

112
00:05:55,225 --> 00:05:58,160
של מלחמה אנונימית.

113
00:05:58,160 --> 00:06:00,774
זה יכול להטות לחלוטין את המאזן הגיאופולטי,

114
00:06:00,774 --> 00:06:04,265
ולהקשות מאוד על מדינה להפנות את כוחה הצבאי

115
00:06:04,265 --> 00:06:07,113
כנגד התוקף, וזה עשוי להטות את האיזון

116
00:06:07,113 --> 00:06:10,877
במאה ה-21 מהגנה להתקפה.

117
00:06:10,877 --> 00:06:14,001
זה עשוי להפוך את הפעולה הצבאית לאפשרות מעשית

118
00:06:14,001 --> 00:06:16,289
לא רק עבור מדינות קטנות,

119
00:06:16,289 --> 00:06:18,834
אלא גם עבור ארגוני פשע, תאגידים פרטיים,

120
00:06:18,834 --> 00:06:21,313
ואפילו אזרחים פרטיים בעלי כוח.

121
00:06:21,313 --> 00:06:24,641
זה עשוי ליצור נוף של אדוני מלחמה יריבים

122
00:06:24,641 --> 00:06:28,321
שמערערים את שלטון החוק ואת החברה האזרחית.

123
00:06:28,321 --> 00:06:31,937
עכשיו אם אחריות ושקיפות

124
00:06:31,937 --> 00:06:34,321
הן אבני הפינה של השלטון הייצוגי,

125
00:06:34,321 --> 00:06:38,641
כלי נשק רובוטיים אוטונומיים עלולים לערער את שתי אלו.

126
00:06:38,641 --> 00:06:40,187
עכשיו אתם אולי חושבים

127
00:06:40,187 --> 00:06:42,433
שלאזרחים במדינות בעלות טכנולוגיה מתקדמת

128
00:06:42,433 --> 00:06:45,136
יהיה יתרון בכל מלחמה רובוטית,

129
00:06:45,136 --> 00:06:48,769
שאזרחים במדינות כאלו יהיו פגיעים פחות,

130
00:06:48,769 --> 00:06:53,057
בעיקר מול מדינות מתפתחות.

131
00:06:53,057 --> 00:06:56,581
אבל אני חושב שהאמת היא בדיוק הפוכה.

132
00:06:56,581 --> 00:06:58,832
אני חושב שאזרחים במדינות בעלות טכנולוגיה מתקדמת

133
00:06:58,832 --> 00:07:02,561
חשופים יותר לפגיעה של כלי נשק רובוטיים,

134
00:07:02,561 --> 00:07:07,026
והסיבה לכך היא במילה אחת: נתונים.

135
00:07:07,026 --> 00:07:10,507
נתונים הם המנוע של חברות טכנולוגיות.

136
00:07:10,507 --> 00:07:13,697
מיקום גיאוגרפי בטלפונים ניידים, נתוני טלקומוניקציה,

137
00:07:13,697 --> 00:07:17,169
מדיה חברתית, דוא"ל, נתוני עסקות פיננסיות,

138
00:07:17,169 --> 00:07:20,701
נתוני שינוע, זהו עושר של נתונים בזמן אמת

139
00:07:20,701 --> 00:07:24,074
על תנועות ואינטראקציות חברתיות בין אנשים.

140
00:07:24,074 --> 00:07:27,849
בקצרה, אנחנו יותר נראים למכונות

141
00:07:27,849 --> 00:07:30,091
בהשוואה לכל אדם בהיסטוריה,

142
00:07:30,091 --> 00:07:35,707
וזה מתאים במדויק לצרכי איתור המטרה של כלי הנשק האוטונומיים.

143
00:07:35,707 --> 00:07:37,445
מה שאתם רואים כאן

144
00:07:37,445 --> 00:07:40,691
זה מפת ניתוח קשרים של קבוצה חברתית.

145
00:07:40,691 --> 00:07:44,325
הקווים מעידים על קישור חברתי בין פרטים.

146
00:07:44,325 --> 00:07:47,205
ומפות מסוג כזה אפשר לחולל אוטומטית

147
00:07:47,205 --> 00:07:51,920
על בסיס עקבות המידע שהאדם המודרני משאיר אחריו.

148
00:07:51,920 --> 00:07:54,397
עכשיו בדר"כ זה משמש לשיווק סחורות ושירותים

149
00:07:54,397 --> 00:07:58,813
לקבוצת אוכלוסייה ייעודית, אבל זו טכנולוגיה דו-שימושית,

150
00:07:58,813 --> 00:08:02,173
כי איתור מטרה משמש גם בהקשר אחר.

151
00:08:02,173 --> 00:08:04,733
שימו לב שחלק מהפרטים מודגשים.

152
00:08:04,733 --> 00:08:08,013
אלו הם מעין מוקדים של רשתות חברתיות.

153
00:08:08,013 --> 00:08:11,603
אלו הם מארגנים, קובעי דעת-קהל, מנהיגים,

154
00:08:11,603 --> 00:08:14,285
וגם האנשים האלו יכולים להיות מזוהים אוטומטית

155
00:08:14,285 --> 00:08:16,667
על פי דפוסי התקשורת שלהם.

156
00:08:16,667 --> 00:08:18,813
עכשיו, אם אתה משווק, אתה יכול להפוך אותם למטרה

157
00:08:18,813 --> 00:08:21,356
לדוגמיות של מוצרים, לנסות להפיץ את המותג שלך

158
00:08:21,356 --> 00:08:24,185
דרך הקבוצה החברתית שלהם.

159
00:08:24,185 --> 00:08:26,138
אבל אם אתה משטר דיכוי

160
00:08:26,138 --> 00:08:30,948
שמחפש אויבים פוליטיים, אתה עלול במקום זה להוריד אותם,

161
00:08:30,948 --> 00:08:33,708
לחסל אותם, לזעזע את הקבוצה החברתית שלהם,

162
00:08:33,708 --> 00:08:36,877
והנותרים מאבדים את הלכידות החברתית

163
00:08:36,877 --> 00:08:39,498
ואת הארגון.

164
00:08:39,498 --> 00:08:42,822
עכשיו בעולם של נשק רובוטי זול ונפוץ,

165
00:08:42,822 --> 00:08:45,457
גבולות יוכלו לספק מעט מאוד הגנה

166
00:08:45,457 --> 00:08:47,403
למבקרים של ממשלות רחוקות

167
00:08:47,403 --> 00:08:51,049
או ארגוני פשע חוצי-עולם.

168
00:08:51,049 --> 00:08:54,542
קבוצות עממיות שפועלות למען שינוי

169
00:08:54,542 --> 00:08:58,151
יהיו ניתנות לזיהוי מוקדם והמנהיגים שלהם יחוסלו

170
00:08:58,151 --> 00:09:01,062
לפני שהרעיונות שלהם יצברו מאסה קריטית.

171
00:09:01,062 --> 00:09:03,653
השגת מאסה קריטית לרעיונות

172
00:09:03,653 --> 00:09:07,589
זו המהות של אקטיביזם פוליטי בשלטון עממי.

173
00:09:07,589 --> 00:09:11,586
כלי נשק קטלניים אנונימיים עשויים להפוך פעולה קטלנית

174
00:09:11,586 --> 00:09:15,368
לאפשרות קלה עבור כל מני אינטרסים מתחרים.

175
00:09:15,368 --> 00:09:19,102
וזה ייבש את חופש הביטוי

176
00:09:19,102 --> 00:09:24,410
ופעילות פוליטית עממית, שהם לב ליבה של הדמוקרטיה.

177
00:09:24,410 --> 00:09:27,324
וזו הסיבה לכך שאנחנו צריכים אמנה בינלאומית

178
00:09:27,324 --> 00:09:30,864
בנושא נשק רובוטי, ובפרט איסור גלובלי

179
00:09:30,864 --> 00:09:34,772
על פיתוח ופריסה של רובוטים קטלניים.

180
00:09:34,772 --> 00:09:38,026
יש לנו כבר אמנות בינלאומיות

181
00:09:38,026 --> 00:09:41,412
בנושא נשק גרעיני וביולוגי, ולמרות שהן לא מושלמות,

182
00:09:41,412 --> 00:09:43,700
בגדול הן עובדות.

183
00:09:43,700 --> 00:09:47,468
אבל כלי נשק רובוטיים עלולים להיות מסוכנים לא פחות,

184
00:09:47,468 --> 00:09:50,756
כי כמעט בוודאות ייעשה בהם שימוש,

185
00:09:50,756 --> 00:09:55,783
והם יהיו הרסניים גם למוסדות הדמוקרטיים שלנו.

186
00:09:55,783 --> 00:09:59,251
בנובמבר 2012 מחלקת ההגנה של ארה"ב

187
00:09:59,251 --> 00:10:01,709
פירסמה הנחיה שדורשת

188
00:10:01,709 --> 00:10:06,228
שבן אדם יהיה נוכח בכל ההחלטות הקטלניות.

189
00:10:06,228 --> 00:10:11,004
למעשה זה אסר באופן זמני שימוש בכלי נשק אוטונומיים בצבא ארה"ב,

190
00:10:11,004 --> 00:10:14,757
אבל ההנחיה הזו צריכה להפוך לקבועה.

191
00:10:14,757 --> 00:10:19,133
והיא יכולה לשמש כפתיח לפעולה גלובלית.

192
00:10:19,133 --> 00:10:22,978
כי אנחנו זקוקים למסגרת חוקית בינלאומית

193
00:10:22,978 --> 00:10:25,116
לכלי נשק רובוטיים.

194
00:10:25,116 --> 00:10:28,044
ואנחנו זקוקים לה עכשיו, לפני שתהיה מתקפה הרסנית

195
00:10:28,044 --> 00:10:31,196
או אירוע טרור שיגרום לאומות העולם

196
00:10:31,196 --> 00:10:33,120
למהר ולאמץ את כלי הנשק הללו

197
00:10:33,120 --> 00:10:36,891
לפני שהספיקו לחשוב לעומק על ההשלכות.

198
00:10:36,891 --> 00:10:39,872
כלי נשק רובוטיים אוטונומיים מרכזים יותר מדי כוח

199
00:10:39,872 --> 00:10:46,155
בקרב מעט מדי ידיים, והם מעמידים בסכנה את הדמוקרטיה עצמה.

200
00:10:46,155 --> 00:10:48,841
עכשיו, אל תבינו אותי לא נכון, אני חושב שיש המון

201
00:10:48,841 --> 00:10:51,459
שימושים נפלאים לכטב"מים אזרחיים לא חמושים:

202
00:10:51,459 --> 00:10:55,398
ניטור סביבתי, חיפוש והצלה, לוגיסטיקה.

203
00:10:55,398 --> 00:10:58,224
אם תהיה לנו אמנה בינלאומית בנושא כלי נשק רובוטיים,

204
00:10:58,224 --> 00:11:01,811
איך נשיג את התועלות שבכטב"מים אוטונומיים

205
00:11:01,811 --> 00:11:04,459
וכלי רכב תוך הגנה על עצמנו

206
00:11:04,459 --> 00:11:08,439
מפני נשק רובוטי בלתי חוקי?

207
00:11:08,439 --> 00:11:13,180
אני חושב שהסוד יהיה בשקיפות.

208
00:11:13,180 --> 00:11:16,193
אסור שאף רובוט יצפה לפרטיות

209
00:11:16,193 --> 00:11:19,644
במקום ציבורי.

210
00:11:19,644 --> 00:11:24,692
(מחיאות כפיים)

211
00:11:24,692 --> 00:11:26,737
לכל רובוט וכטב"ם צריך להיות

212
00:11:26,737 --> 00:11:29,620
זיהוי של חתימה מוצפנת שנצרב בו במפעל

213
00:11:29,620 --> 00:11:32,543
ושיכול לשמש למעקב אחר תנועתו במרחב הציבורי.

214
00:11:32,543 --> 00:11:35,924
יש לנו לוחות רישוי על רכבים, מספר זנב על כלי טיס.

215
00:11:35,924 --> 00:11:37,765
זה לא שונה.

216
00:11:37,765 --> 00:11:39,777
ולכל אזרח צריכה להיות האפשרות להוריד אפליקציה

217
00:11:39,777 --> 00:11:42,902
שמציגה את אוכלוסיית הכטב"מים האוטונומיים

218
00:11:42,902 --> 00:11:45,331
שנעים במרחב הציבורי שמסביבו,

219
00:11:45,331 --> 00:11:48,064
גם עכשיו וגם בעבר.

220
00:11:48,064 --> 00:11:51,612
ומנהיגים אזרחיים צריכים לפרוס סנסורים וכטב"מים אזרחיים

221
00:11:51,612 --> 00:11:53,956
שיזהו כטב"מים אסורים,

222
00:11:53,956 --> 00:11:57,132
ובמקום לשלוח כטב"ם קטלני משלהם כדי ליירט אותם,

223
00:11:57,132 --> 00:12:00,124
הם צריכים ליידע את בני האדם על נוכחותם.

224
00:12:00,124 --> 00:12:02,730
ובאזורים ביטחוניים מסוימים,

225
00:12:02,730 --> 00:12:04,639
כטבמים אזרחיים אולי יציבו להם מלכודת

226
00:12:04,639 --> 00:12:07,480
וימשכו אותם לעבר מתקן מיוחד לסילוק פצצות.

227
00:12:07,480 --> 00:12:10,507
אבל שימו לב, זה יותר מערכת חיסון

228
00:12:10,507 --> 00:12:11,828
מאשר מערכת נשק.

229
00:12:11,828 --> 00:12:14,420
היא תאפשר לנו להפיק תועלת מהשימוש

230
00:12:14,420 --> 00:12:16,452
בכלים אוטונומיים וכטב"מים

231
00:12:16,452 --> 00:12:20,747
ובו בזמן לשמר את החברה האזרחית הפתוחה שלנו.

232
00:12:20,747 --> 00:12:23,746
אנחנו חייבים לאסור את הפריסה והפיתוח

233
00:12:23,746 --> 00:12:25,608
של רובוטים קטלניים.

234
00:12:25,608 --> 00:12:30,458
בואו לא ניכנע לפיתוי של מיכון המלחמות.

235
00:12:30,458 --> 00:12:33,176
ממשלות אוטוקרטיות וארגוני פשיעה

236
00:12:33,176 --> 00:12:36,132
ללא ספק יעשו זאת, אבל בואו לא נצטרף אליהם.

237
00:12:36,132 --> 00:12:38,023
כלי נשק רובוטיים אוטונומיים

238
00:12:38,023 --> 00:12:40,074
ירכזו יותר מדי כוח

239
00:12:40,074 --> 00:12:42,556
בקרב מספר מועט מדי של ידיים בלתי נראות,

240
00:12:42,556 --> 00:12:45,811
וזה יהיה הרסני לשלטון הייצוגי.

241
00:12:45,811 --> 00:12:48,772
בואו נוודא, לפחות לגבי דמוקרטיות,

242
00:12:48,772 --> 00:12:51,376
שרובוטים קטלניים יישארו בגדר מדע בדיוני.

243
00:12:51,376 --> 00:12:52,486
תודה לכם.

244
00:12:52,486 --> 00:12:57,051
(מחיאות כפיים)

245
00:12:57,051 --> 00:13:01,667
תודה לכם. (מחיאות כפיים)