WEBVTT

00:00:00.691 --> 00:00:03.849
אני כותב מותחנים של מדע בדיוני,

00:00:03.849 --> 00:00:06.042
אז אם אני אומר "רובוטים רצחניים",

00:00:06.042 --> 00:00:08.403
אתם בטח חושבים על משהו כמו זה.

00:00:08.403 --> 00:00:10.958
אבל האמת היא שאני כאן לא בכדי לדבר על מדע בדיוני.

00:00:10.958 --> 00:00:13.906
אני כאן בכדי לדבר על רובוטים רצחניים מאוד אמיתיים,

00:00:13.906 --> 00:00:17.028
כטב"מים אוטונומיים קרביים.

NOTE Paragraph

00:00:17.028 --> 00:00:20.655
עכשיו, אני לא מדבר על הכטב"מים "פרדטור" ו"ריפר" ,

00:00:20.655 --> 00:00:23.915
שבהם האדם הוא שמחליט לגבי המטרות.

00:00:23.915 --> 00:00:27.044
אני מדבר על כלי נשק רובוטיים לגמרי אוטונומיים

00:00:27.044 --> 00:00:29.698
שמקבלים החלטות קטלניות על בני אדם

00:00:29.698 --> 00:00:32.115
לגמרי בעצמם.

00:00:32.115 --> 00:00:36.115
יש למעשה מונח טכני לזה: אוטונומיה קטלנית.

NOTE Paragraph

00:00:36.115 --> 00:00:38.971
עכשיו, רובוטים קטלניים אוטונומיים

00:00:38.971 --> 00:00:42.040
לובשים צורות רבות: טסים, נוהגים,

00:00:42.040 --> 00:00:44.786
או סתם נמצאים במארב.

00:00:44.786 --> 00:00:47.895
ולמעשה, הם נהפכים למציאות מהר מאוד.

00:00:47.895 --> 00:00:50.379
אלו שתי תחנות צליפה אוטומטית

00:00:50.379 --> 00:00:54.516
שמוצבות כיום באזור המפורז שבין צפון קוריאה לדרום קוריאה.

00:00:54.516 --> 00:00:56.687
לשתי המערכות יכולות אוטונומיות

00:00:56.687 --> 00:01:00.211
לזיהוי מטרה אנושית ויירוטה,

00:01:00.211 --> 00:01:04.535
זו משמאל ממרחק של למעלה מקילומטר.

00:01:04.535 --> 00:01:08.124
עכשיו, בשני המקרים, יש עדיין בן אדם באמצע

00:01:08.124 --> 00:01:10.496
שמקבל את ההחלטה הקטלנית לירות,

00:01:10.496 --> 00:01:15.909
אבל זו אינה דרישה טכנית. זו בחירה.

00:01:15.909 --> 00:01:19.002
ובדיוק בבחירה הזו אני רוצה להתמקד,

00:01:19.002 --> 00:01:21.643
כי בזמן שאנחנו מעבירים את קבלת ההחלטות הקטלניות

00:01:21.643 --> 00:01:24.752
מבני האדם לתוכנה,

00:01:24.752 --> 00:01:28.228
אנחנו מסתכנים לא רק בכך שנוציא את האנושיות מהמלחמה,

00:01:28.228 --> 00:01:31.754
אלא גם בכך שאנחנו נשנה לחלוטין את הנוף החברתי שלנו,

00:01:31.754 --> 00:01:33.978
גם הרבה מעבר לשדה הקרב.

00:01:33.978 --> 00:01:38.487
וזאת כי האופן שבו בני אדם פותרים סיכסוכים

00:01:38.487 --> 00:01:40.220
מעצב את הנוף החברתי שלנו.

00:01:40.220 --> 00:01:42.853
וכך זה היה תמיד, לאורך כל ההיסטוריה.

NOTE Paragraph

00:01:42.853 --> 00:01:45.514
למשל, אלו היו כלי הנשק הכי מתקדמים

00:01:45.514 --> 00:01:47.593
ב-1400 לספירה.

00:01:47.593 --> 00:01:50.737
הם היו מאוד יקרים הן לבניה והן לתחזוקה,

00:01:50.737 --> 00:01:53.977
אבל באמצעותם יכולת לשלוט בעם,

00:01:53.977 --> 00:01:57.866
והפיזור של הכוח הפוליטי בחברה הפיאודלית שיקף זאת.

00:01:57.866 --> 00:02:00.553
הכוח היה מרוכז ממש בקודקוד.

00:02:00.553 --> 00:02:04.081
ומה השתנה? חדשנות טכנולוגית.

00:02:04.081 --> 00:02:05.952
אבק השריפה, תותחים.

00:02:05.952 --> 00:02:09.769
ומהר מאוד, השריון והטירות הפכו מיושנים,

00:02:09.769 --> 00:02:12.302
וכבר היה חשוב פחות את מי הבאת לשדה הקרב

00:02:12.302 --> 00:02:16.081
לעומת כמה אנשים הבאת לשדה הקרב.

00:02:16.081 --> 00:02:19.719
וככל שצבאות גדלו במספרים, קמו מדינות-הלאום

00:02:19.719 --> 00:02:23.399
כצורך פוליטי ולוגיסטי של ההגנה.

00:02:23.399 --> 00:02:25.775
וככל שמנהיגים נאלצו לסמוך על יותר מבני העם שלהם,

00:02:25.775 --> 00:02:27.608
כך הם החלו לחלוק בכוח.

00:02:27.608 --> 00:02:30.207
ממשלים ייצוגיים החלו להיווצר.

NOTE Paragraph

00:02:30.207 --> 00:02:33.495
אז שוב, הכלים בהם אנחנו משתמשים כדי לפתור סכסוכים

00:02:33.495 --> 00:02:36.799
מעצבים את הנוף החברתי שלנו.

00:02:36.799 --> 00:02:40.863
כלי נשק רובוטיים אוטונומיים הם כלי כזה,

00:02:40.863 --> 00:02:46.031
אלא שבכך שהם מצריכים מעט מאוד אנשים שיצאו למלחמה,

00:02:46.031 --> 00:02:50.871
הם יוצרים את הסיכון שהכוח ישוב ויתרכז בקרב מעט מאוד ידיים,

00:02:50.871 --> 00:02:57.386
ואולי אף יחזירו אחורה מגמה בת 500 שנה של התקדמות לעבר דמוקרטיה.

NOTE Paragraph

00:02:57.386 --> 00:02:59.143
עכשיו, לדעתי, כשיודעים את זה,

00:02:59.143 --> 00:03:03.495
אפשר לנקוט בצעדים החלטיים כדי לשמר את המוסדות הדמוקרטיים שלנו,

00:03:03.495 --> 00:03:07.474
ולעשות את מה שבני האדם עושים הכי טוב, וזה להסתגל.

00:03:07.474 --> 00:03:09.479
אבל הזמן הוא מרכיב חשוב.

00:03:09.479 --> 00:03:12.330
שבעים אומות מפתחות בעצמן כטב"מים

00:03:12.330 --> 00:03:14.487
שנשלטים מרחוק,

00:03:14.487 --> 00:03:17.080
וכפי שתראו, כטב"מים קרביים שנשלטים מרחוק

00:03:17.080 --> 00:03:21.552
הם נושאי הבשורה לכלי הנשק הרובוטיים האוטונומיים.

00:03:21.552 --> 00:03:24.319
וזה כי מרגע שפרסת כטב"מים בשליטה מרחוק,

00:03:24.319 --> 00:03:27.703
ישנם שלושה גורמים מרכזיים שדוחקים את קבלת ההחלטות

00:03:27.703 --> 00:03:32.303
מידי בני האדם ואל מערכת הנשק עצמה.

NOTE Paragraph

00:03:32.303 --> 00:03:37.562
הראשון שבהם הוא מבול הווידיאו שהכטב"מים מייצרים.

00:03:37.562 --> 00:03:41.415
למשל, ב-2004, צי הכטב"מים של ארה"ב הפיק

00:03:41.415 --> 00:03:46.727
בסה"כ 71 שעות של צילומי מעקב לניתוח.

00:03:46.727 --> 00:03:51.226
ב-2011, הנתון עלה ל 300,000 שעות,

00:03:51.226 --> 00:03:54.375
ובכך עקף את היכולת האנושית לצפייה בכל זה,

00:03:54.375 --> 00:03:58.039
אבל אפילו המספר הזה עוד יעלה משמעותית.

00:03:58.039 --> 00:04:00.614
התוכניות של הפנטגון "גורגון סטר" וארגוס"

00:04:00.614 --> 00:04:03.778
יציבו כ-65 עדשות מצלמה שמנוהלות כל אחת בנפרד

00:04:03.778 --> 00:04:05.816
על הפלטפורמה של כל כטב"ם,

00:04:05.816 --> 00:04:09.119
וזה יעלה משמעותית על היכולת האנושית לצפות בתוצרים.

00:04:09.119 --> 00:04:11.279
והמשמעות היא שידרשו תוכנות בינה ויזואלית

00:04:11.279 --> 00:04:15.327
על מנת לסרוק ולאתר מוקדי עניין.

00:04:15.327 --> 00:04:16.675
וזה אומר שבקרוב מאוד

00:04:16.675 --> 00:04:19.422
כטב"מים יגידו לבני האדם על מה להסתכל,

00:04:19.422 --> 00:04:21.919
ולא להיפך.

NOTE Paragraph

00:04:21.919 --> 00:04:24.392
אבל יש תמריץ חזק שני שדוחף

00:04:24.392 --> 00:04:27.775
את קבלת ההחלטות מידי בני האדם לעבר המכונות,

00:04:27.775 --> 00:04:30.647
וזה השיבוש האלקטרומגנטי,

00:04:30.647 --> 00:04:32.883
שמנתק את הקשר שבין הכטב"ם

00:04:32.883 --> 00:04:35.697
למפעיל שלו.

00:04:35.697 --> 00:04:38.315
ראינו דוגמה לזה ב- 2011

00:04:38.315 --> 00:04:41.271
כאשר הכטב"ם סנטינל RQ-170 האמריקאי

00:04:41.271 --> 00:04:45.578
התבלבל קצת מעל איראן בשל מתקפת שיבוש GPS,

00:04:45.578 --> 00:04:50.692
אבל כל כטב"ם הנשלט מרחוק חשוף לסוג כזה של מתקפה,

00:04:50.692 --> 00:04:52.744
וזה אומר שכטב"מים

00:04:52.744 --> 00:04:56.364
יצטרכו לקבל יותר אחריות על קבלת החלטות.

00:04:56.364 --> 00:04:59.407
הם ידענו מה מטרת המשימה,

00:04:59.407 --> 00:05:04.252
והם יגיבו לנסיבות חדשות ללא קבלת הנחיות מבן אנוש.

00:05:04.252 --> 00:05:06.833
הם יתעלמו מאותות רדיו חיצוניים

00:05:06.833 --> 00:05:09.163
וישלחו מעט מאוד אותות משלהם.

NOTE Paragraph

00:05:09.163 --> 00:05:11.169
מה שמביא אותנו, למעשה, לתמריץ השלישי

00:05:11.169 --> 00:05:15.031
והחזק ביותר שדוחק את קבלת ההחלטות

00:05:15.031 --> 00:05:18.373
מידי בני האדם ולעבר כלי הנשק:

00:05:18.373 --> 00:05:21.666
הכחשה סבירה.

00:05:21.666 --> 00:05:24.553
אנחנו חיים כיום בכלכלה גלובלית.

00:05:24.553 --> 00:05:28.887
ברוב היבשות מתקיים ייצור של טכנולוגיה מתקדמת.

00:05:28.887 --> 00:05:31.801
ריגול קיברנטי מוביל לתפוצה של תוכניות פיתוח

00:05:31.801 --> 00:05:33.687
למקומות בלתי ידועים,

00:05:33.687 --> 00:05:35.701
ובאווירה כזו, מאוד סביר

00:05:35.701 --> 00:05:40.435
שתוכנית ייצור של כטב"ם מוצלח תועתק במפעלים השותפים,

00:05:40.435 --> 00:05:42.605
ותשגשג במהירות בשוק האפור.

00:05:42.605 --> 00:05:45.065
ובמצב כזה, בחיפוש בין ההריסות

00:05:45.065 --> 00:05:48.025
של מתקפת כטב"ם מתאבד, יהיה מאוד קשה לומר

00:05:48.025 --> 00:05:52.425
מי שלח את כלי הנשק הזה.

NOTE Paragraph

00:05:52.425 --> 00:05:55.225
זה מעלה את האפשרות המאוד ממשית

00:05:55.225 --> 00:05:58.160
של מלחמה אנונימית.

00:05:58.160 --> 00:06:00.774
זה יכול להטות לחלוטין את המאזן הגיאופולטי,

00:06:00.774 --> 00:06:04.265
ולהקשות מאוד על מדינה להפנות את כוחה הצבאי

00:06:04.265 --> 00:06:07.113
כנגד התוקף, וזה עשוי להטות את האיזון

00:06:07.113 --> 00:06:10.877
במאה ה-21 מהגנה להתקפה.

00:06:10.877 --> 00:06:14.001
זה עשוי להפוך את הפעולה הצבאית לאפשרות מעשית

00:06:14.001 --> 00:06:16.289
לא רק עבור מדינות קטנות,

00:06:16.289 --> 00:06:18.834
אלא גם עבור ארגוני פשע, תאגידים פרטיים,

00:06:18.834 --> 00:06:21.313
ואפילו אזרחים פרטיים בעלי כוח.

00:06:21.313 --> 00:06:24.641
זה עשוי ליצור נוף של אדוני מלחמה יריבים

00:06:24.641 --> 00:06:28.321
שמערערים את שלטון החוק ואת החברה האזרחית.

00:06:28.321 --> 00:06:31.937
עכשיו אם אחריות ושקיפות

00:06:31.937 --> 00:06:34.321
הן אבני הפינה של השלטון הייצוגי,

00:06:34.321 --> 00:06:38.641
כלי נשק רובוטיים אוטונומיים עלולים לערער את שתי אלו.

NOTE Paragraph

00:06:38.641 --> 00:06:40.187
עכשיו אתם אולי חושבים

00:06:40.187 --> 00:06:42.433
שלאזרחים במדינות בעלות טכנולוגיה מתקדמת

00:06:42.433 --> 00:06:45.136
יהיה יתרון בכל מלחמה רובוטית,

00:06:45.136 --> 00:06:48.769
שאזרחים במדינות כאלו יהיו פגיעים פחות,

00:06:48.769 --> 00:06:53.057
בעיקר מול מדינות מתפתחות.

00:06:53.057 --> 00:06:56.581
אבל אני חושב שהאמת היא בדיוק הפוכה.

00:06:56.581 --> 00:06:58.832
אני חושב שאזרחים במדינות בעלות טכנולוגיה מתקדמת

00:06:58.832 --> 00:07:02.561
חשופים יותר לפגיעה של כלי נשק רובוטיים,

00:07:02.561 --> 00:07:07.026
והסיבה לכך היא במילה אחת: נתונים.

00:07:07.026 --> 00:07:10.507
נתונים הם המנוע של חברות טכנולוגיות.

00:07:10.507 --> 00:07:13.697
מיקום גיאוגרפי בטלפונים ניידים, נתוני טלקומוניקציה,

00:07:13.697 --> 00:07:17.169
מדיה חברתית, דוא"ל, נתוני עסקות פיננסיות,

00:07:17.169 --> 00:07:20.701
נתוני שינוע, זהו עושר של נתונים בזמן אמת

00:07:20.701 --> 00:07:24.074
על תנועות ואינטראקציות חברתיות בין אנשים.

00:07:24.074 --> 00:07:27.849
בקצרה, אנחנו יותר נראים למכונות

00:07:27.849 --> 00:07:30.091
בהשוואה לכל אדם בהיסטוריה,

00:07:30.091 --> 00:07:35.707
וזה מתאים במדויק לצרכי איתור המטרה של כלי הנשק האוטונומיים.

NOTE Paragraph

00:07:35.707 --> 00:07:37.445
מה שאתם רואים כאן

00:07:37.445 --> 00:07:40.691
זה מפת ניתוח קשרים של קבוצה חברתית.

00:07:40.691 --> 00:07:44.325
הקווים מעידים על קישור חברתי בין פרטים.

00:07:44.325 --> 00:07:47.205
ומפות מסוג כזה אפשר לחולל אוטומטית

00:07:47.205 --> 00:07:51.920
על בסיס עקבות המידע שהאדם המודרני משאיר אחריו.

00:07:51.920 --> 00:07:54.397
עכשיו בדר"כ זה משמש לשיווק סחורות ושירותים

00:07:54.397 --> 00:07:58.813
לקבוצת אוכלוסייה ייעודית, אבל זו טכנולוגיה דו-שימושית,

00:07:58.813 --> 00:08:02.173
כי איתור מטרה משמש גם בהקשר אחר.

00:08:02.173 --> 00:08:04.733
שימו לב שחלק מהפרטים מודגשים.

00:08:04.733 --> 00:08:08.013
אלו הם מעין מוקדים של רשתות חברתיות.

00:08:08.013 --> 00:08:11.603
אלו הם מארגנים, קובעי דעת-קהל, מנהיגים,

00:08:11.603 --> 00:08:14.285
וגם האנשים האלו יכולים להיות מזוהים אוטומטית

00:08:14.285 --> 00:08:16.667
על פי דפוסי התקשורת שלהם.

00:08:16.667 --> 00:08:18.813
עכשיו, אם אתה משווק, אתה יכול להפוך אותם למטרה

00:08:18.813 --> 00:08:21.356
לדוגמיות של מוצרים, לנסות להפיץ את המותג שלך

00:08:21.356 --> 00:08:24.185
דרך הקבוצה החברתית שלהם.

00:08:24.185 --> 00:08:26.138
אבל אם אתה משטר דיכוי

00:08:26.138 --> 00:08:30.948
שמחפש אויבים פוליטיים, אתה עלול במקום זה להוריד אותם,

00:08:30.948 --> 00:08:33.708
לחסל אותם, לזעזע את הקבוצה החברתית שלהם,

00:08:33.708 --> 00:08:36.877
והנותרים מאבדים את הלכידות החברתית

00:08:36.877 --> 00:08:39.498
ואת הארגון.

00:08:39.498 --> 00:08:42.822
עכשיו בעולם של נשק רובוטי זול ונפוץ,

00:08:42.822 --> 00:08:45.457
גבולות יוכלו לספק מעט מאוד הגנה

00:08:45.457 --> 00:08:47.403
למבקרים של ממשלות רחוקות

00:08:47.403 --> 00:08:51.049
או ארגוני פשע חוצי-עולם.

00:08:51.049 --> 00:08:54.542
קבוצות עממיות שפועלות למען שינוי

00:08:54.542 --> 00:08:58.151
יהיו ניתנות לזיהוי מוקדם והמנהיגים שלהם יחוסלו

00:08:58.151 --> 00:09:01.062
לפני שהרעיונות שלהם יצברו מאסה קריטית.

00:09:01.062 --> 00:09:03.653
השגת מאסה קריטית לרעיונות

00:09:03.653 --> 00:09:07.589
זו המהות של אקטיביזם פוליטי בשלטון עממי.

00:09:07.589 --> 00:09:11.586
כלי נשק קטלניים אנונימיים עשויים להפוך פעולה קטלנית

00:09:11.586 --> 00:09:15.368
לאפשרות קלה עבור כל מני אינטרסים מתחרים.

00:09:15.368 --> 00:09:19.102
וזה ייבש את חופש הביטוי

00:09:19.102 --> 00:09:24.410
ופעילות פוליטית עממית, שהם לב ליבה של הדמוקרטיה.

NOTE Paragraph

00:09:24.410 --> 00:09:27.324
וזו הסיבה לכך שאנחנו צריכים אמנה בינלאומית

00:09:27.324 --> 00:09:30.864
בנושא נשק רובוטי, ובפרט איסור גלובלי

00:09:30.864 --> 00:09:34.772
על פיתוח ופריסה של רובוטים קטלניים.

00:09:34.772 --> 00:09:38.026
יש לנו כבר אמנות בינלאומיות

00:09:38.026 --> 00:09:41.412
בנושא נשק גרעיני וביולוגי, ולמרות שהן לא מושלמות,

00:09:41.412 --> 00:09:43.700
בגדול הן עובדות.

00:09:43.700 --> 00:09:47.468
אבל כלי נשק רובוטיים עלולים להיות מסוכנים לא פחות,

00:09:47.468 --> 00:09:50.756
כי כמעט בוודאות ייעשה בהם שימוש,

00:09:50.756 --> 00:09:55.783
והם יהיו הרסניים גם למוסדות הדמוקרטיים שלנו.

NOTE Paragraph

00:09:55.783 --> 00:09:59.251
בנובמבר 2012 מחלקת ההגנה של ארה"ב

00:09:59.251 --> 00:10:01.709
פירסמה הנחיה שדורשת

00:10:01.709 --> 00:10:06.228
שבן אדם יהיה נוכח בכל ההחלטות הקטלניות.

00:10:06.228 --> 00:10:11.004
למעשה זה אסר באופן זמני שימוש בכלי נשק אוטונומיים בצבא ארה"ב,

00:10:11.004 --> 00:10:14.757
אבל ההנחיה הזו צריכה להפוך לקבועה.

00:10:14.757 --> 00:10:19.133
והיא יכולה לשמש כפתיח לפעולה גלובלית.

00:10:19.133 --> 00:10:22.978
כי אנחנו זקוקים למסגרת חוקית בינלאומית

00:10:22.978 --> 00:10:25.116
לכלי נשק רובוטיים.

00:10:25.116 --> 00:10:28.044
ואנחנו זקוקים לה עכשיו, לפני שתהיה מתקפה הרסנית

00:10:28.044 --> 00:10:31.196
או אירוע טרור שיגרום לאומות העולם

00:10:31.196 --> 00:10:33.120
למהר ולאמץ את כלי הנשק הללו

00:10:33.120 --> 00:10:36.891
לפני שהספיקו לחשוב לעומק על ההשלכות.

00:10:36.891 --> 00:10:39.872
כלי נשק רובוטיים אוטונומיים מרכזים יותר מדי כוח

00:10:39.872 --> 00:10:46.155
בקרב מעט מדי ידיים, והם מעמידים בסכנה את הדמוקרטיה עצמה.

NOTE Paragraph

00:10:46.155 --> 00:10:48.841
עכשיו, אל תבינו אותי לא נכון, אני חושב שיש המון

00:10:48.841 --> 00:10:51.459
שימושים נפלאים לכטב"מים אזרחיים לא חמושים:

00:10:51.459 --> 00:10:55.398
ניטור סביבתי, חיפוש והצלה, לוגיסטיקה.

00:10:55.398 --> 00:10:58.224
אם תהיה לנו אמנה בינלאומית בנושא כלי נשק רובוטיים,

00:10:58.224 --> 00:11:01.811
איך נשיג את התועלות שבכטב"מים אוטונומיים

00:11:01.811 --> 00:11:04.459
וכלי רכב תוך הגנה על עצמנו

00:11:04.459 --> 00:11:08.439
מפני נשק רובוטי בלתי חוקי?

NOTE Paragraph

00:11:08.439 --> 00:11:13.180
אני חושב שהסוד יהיה בשקיפות.

00:11:13.180 --> 00:11:16.193
אסור שאף רובוט יצפה לפרטיות

00:11:16.193 --> 00:11:19.644
במקום ציבורי.

NOTE Paragraph

00:11:19.644 --> 00:11:24.692
(מחיאות כפיים)

NOTE Paragraph

00:11:24.692 --> 00:11:26.737
לכל רובוט וכטב"ם צריך להיות

00:11:26.737 --> 00:11:29.620
זיהוי של חתימה מוצפנת שנצרב בו במפעל

00:11:29.620 --> 00:11:32.543
ושיכול לשמש למעקב אחר תנועתו במרחב הציבורי.

00:11:32.543 --> 00:11:35.924
יש לנו לוחות רישוי על רכבים, מספר זנב על כלי טיס.

00:11:35.924 --> 00:11:37.765
זה לא שונה.

00:11:37.765 --> 00:11:39.777
ולכל אזרח צריכה להיות האפשרות להוריד אפליקציה

00:11:39.777 --> 00:11:42.902
שמציגה את אוכלוסיית הכטב"מים האוטונומיים

00:11:42.902 --> 00:11:45.331
שנעים במרחב הציבורי שמסביבו,

00:11:45.331 --> 00:11:48.064
גם עכשיו וגם בעבר.

00:11:48.064 --> 00:11:51.612
ומנהיגים אזרחיים צריכים לפרוס סנסורים וכטב"מים אזרחיים

00:11:51.612 --> 00:11:53.956
שיזהו כטב"מים אסורים,

00:11:53.956 --> 00:11:57.132
ובמקום לשלוח כטב"ם קטלני משלהם כדי ליירט אותם,

00:11:57.132 --> 00:12:00.124
הם צריכים ליידע את בני האדם על נוכחותם.

00:12:00.124 --> 00:12:02.730
ובאזורים ביטחוניים מסוימים,

00:12:02.730 --> 00:12:04.639
כטבמים אזרחיים אולי יציבו להם מלכודת

00:12:04.639 --> 00:12:07.480
וימשכו אותם לעבר מתקן מיוחד לסילוק פצצות.

NOTE Paragraph

00:12:07.480 --> 00:12:10.507
אבל שימו לב, זה יותר מערכת חיסון

00:12:10.507 --> 00:12:11.828
מאשר מערכת נשק.

00:12:11.828 --> 00:12:14.420
היא תאפשר לנו להפיק תועלת מהשימוש

00:12:14.420 --> 00:12:16.452
בכלים אוטונומיים וכטב"מים

00:12:16.452 --> 00:12:20.747
ובו בזמן לשמר את החברה האזרחית הפתוחה שלנו.

NOTE Paragraph

00:12:20.747 --> 00:12:23.746
אנחנו חייבים לאסור את הפריסה והפיתוח

00:12:23.746 --> 00:12:25.608
של רובוטים קטלניים.

00:12:25.608 --> 00:12:30.458
בואו לא ניכנע לפיתוי של מיכון המלחמות.

00:12:30.458 --> 00:12:33.176
ממשלות אוטוקרטיות וארגוני פשיעה

00:12:33.176 --> 00:12:36.132
ללא ספק יעשו זאת, אבל בואו לא נצטרף אליהם.

00:12:36.132 --> 00:12:38.023
כלי נשק רובוטיים אוטונומיים

00:12:38.023 --> 00:12:40.074
ירכזו יותר מדי כוח

00:12:40.074 --> 00:12:42.556
בקרב מספר מועט מדי של ידיים בלתי נראות,

00:12:42.556 --> 00:12:45.811
וזה יהיה הרסני לשלטון הייצוגי.

00:12:45.811 --> 00:12:48.772
בואו נוודא, לפחות לגבי דמוקרטיות,

00:12:48.772 --> 00:12:51.376
שרובוטים קטלניים יישארו בגדר מדע בדיוני.

NOTE Paragraph

00:12:51.376 --> 00:12:52.486
תודה לכם.

NOTE Paragraph

00:12:52.486 --> 00:12:57.051
(מחיאות כפיים)

00:12:57.051 --> 00:13:01.667
תודה לכם. (מחיאות כפיים)