[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:01.00,0:00:03.22,Default,,0000,0000,0000,,אני אדבר על כשל באינטואיציה
Dialogue: 0,0:00:03.24,0:00:04.84,Default,,0000,0000,0000,,שרבים מאיתנו סובלים ממנו.
Dialogue: 0,0:00:05.48,0:00:08.52,Default,,0000,0000,0000,,זהו למעשה כשל בזיהוי\Nסכנה מסוג מסויים.
Dialogue: 0,0:00:09.36,0:00:11.10,Default,,0000,0000,0000,,אני אתאר תרחיש
Dialogue: 0,0:00:11.12,0:00:14.38,Default,,0000,0000,0000,,שאני חושב שהוא גם מבעית
Dialogue: 0,0:00:14.40,0:00:16.16,Default,,0000,0000,0000,,וגם סביר שיתרחש,
Dialogue: 0,0:00:16.84,0:00:18.50,Default,,0000,0000,0000,,וזה לא שילוב טוב,
Dialogue: 0,0:00:18.52,0:00:20.06,Default,,0000,0000,0000,,כפי שמסתבר.
Dialogue: 0,0:00:20.08,0:00:22.54,Default,,0000,0000,0000,,ולמרות זאת, במקום לפחד, רובכם תרגישו
Dialogue: 0,0:00:22.56,0:00:24.64,Default,,0000,0000,0000,,שמה שאני מדבר עליו הוא די מגניב.
Dialogue: 0,0:00:25.20,0:00:28.18,Default,,0000,0000,0000,,אני אתאר איך ההתקדמויות שלנו
Dialogue: 0,0:00:28.20,0:00:29.98,Default,,0000,0000,0000,,בתחום הבינה המלאכותית
Dialogue: 0,0:00:30.00,0:00:31.78,Default,,0000,0000,0000,,עלולות לבסוף להשמיד אותנו.
Dialogue: 0,0:00:31.80,0:00:34.77,Default,,0000,0000,0000,,ולמעשה, אני חושב שקשה מאוד\Nלראות איך הם לא ישמידו אותנו,
Dialogue: 0,0:00:34.77,0:00:36.96,Default,,0000,0000,0000,,או ימריצו אותנו להשמיד את עצמנו.
Dialogue: 0,0:00:37.40,0:00:39.26,Default,,0000,0000,0000,,ובכל זאת, אם אתם כמוני,
Dialogue: 0,0:00:39.28,0:00:41.94,Default,,0000,0000,0000,,אתם תגלו שכיף לחשוב על דברים כאלה.
Dialogue: 0,0:00:41.96,0:00:45.34,Default,,0000,0000,0000,,והתגובה הזו היא חלק מהבעיה.
Dialogue: 0,0:00:45.36,0:00:47.63,Default,,0000,0000,0000,,התגובה הזו צריכה להדאיג אתכם.
Dialogue: 0,0:00:47.92,0:00:50.58,Default,,0000,0000,0000,,אם הייתי צריך לשכנע אתכם בשיחה הזו
Dialogue: 0,0:00:50.60,0:00:54.02,Default,,0000,0000,0000,,שאנחנו צפויים לסבול מרעב עולמי,
Dialogue: 0,0:00:54.04,0:00:57.10,Default,,0000,0000,0000,,בגלל שינויי אקלים או קטסטרופה אחרת,
Dialogue: 0,0:00:57.12,0:01:03.16,Default,,0000,0000,0000,,ושסביר מאוד שהנכדים שלכם, \Nאו הנכדים שלהם, יחיו כך
Dialogue: 0,0:01:03.20,0:01:04.40,Default,,0000,0000,0000,,לא הייתם חושבים,
Dialogue: 0,0:01:05.44,0:01:06.78,Default,,0000,0000,0000,,"מעניין.
Dialogue: 0,0:01:06.80,0:01:08.39,Default,,0000,0000,0000,,"אני אוהב את ההרצאה הזו."
Dialogue: 0,0:01:09.20,0:01:10.72,Default,,0000,0000,0000,,רעב זה לא כיף.
Dialogue: 0,0:01:11.80,0:01:15.18,Default,,0000,0000,0000,,מוות באמצעות מדע בדיוני,\Nלעומת זאת, הוא כיף.
Dialogue: 0,0:01:15.20,0:01:18.54,Default,,0000,0000,0000,,ואחד הדברים שהכי מדאיגים אותי\Nבנוגע להתפתחות של בינה מלאכותית כיום,
Dialogue: 0,0:01:18.54,0:01:23.30,Default,,0000,0000,0000,,הוא שאנחנו לא מסוגלים לגייס\Nאת התגובה הרגשית המתאימה
Dialogue: 0,0:01:23.32,0:01:25.14,Default,,0000,0000,0000,,לסכנות שצפויות לנו.
Dialogue: 0,0:01:25.16,0:01:29.21,Default,,0000,0000,0000,,אני לא מסוגל לגייס את התגובה הזו,\Nואני מעביר את ההרצאה הזו.
Dialogue: 0,0:01:30.12,0:01:32.82,Default,,0000,0000,0000,,זה כאילו שאנחנו ניצבים בפני שתי דלתות.
Dialogue: 0,0:01:32.84,0:01:34.10,Default,,0000,0000,0000,,מאחורי דלת מספר אחת,
Dialogue: 0,0:01:34.12,0:01:37.42,Default,,0000,0000,0000,,אנחנו מפסיקים להתקדם\Nבבניית מכונות אינטליגנטיות.
Dialogue: 0,0:01:37.44,0:01:41.46,Default,,0000,0000,0000,,חומרות ותוכנות המחשב שלנו\Nמפסיקות להשתפר מסיבה כלשהי.
Dialogue: 0,0:01:41.48,0:01:44.48,Default,,0000,0000,0000,,עכשיו קחו לעצמכם רגע\Nלשקול מדוע זה יכול לקרות.
Dialogue: 0,0:01:45.08,0:01:48.74,Default,,0000,0000,0000,,בהתחשב בערך הרב של\Nאינטלגינציה ואוטומציה עבורנו,
Dialogue: 0,0:01:48.76,0:01:52.28,Default,,0000,0000,0000,,אנחנו נמשיך לשפר את הטכנולוגיה,\Nאם נהיה מסוגלים לכך.
Dialogue: 0,0:01:53.20,0:01:54.87,Default,,0000,0000,0000,,מה יכול לעצור אותנו מלעשות זאת?
Dialogue: 0,0:01:55.80,0:01:57.60,Default,,0000,0000,0000,,מלחמה גרעינית כוללת?
Dialogue: 0,0:01:59.00,0:02:00.56,Default,,0000,0000,0000,,מגיפה כלל-עולמית?
Dialogue: 0,0:02:02.32,0:02:03.64,Default,,0000,0000,0000,,פגיעת אסטרואיד?
Dialogue: 0,0:02:05.64,0:02:08.22,Default,,0000,0000,0000,,ג'סטין ביבר ממונה לנשיא ארה"ב?
Dialogue: 0,0:02:08.24,0:02:10.52,Default,,0000,0000,0000,,(צחוק)
Dialogue: 0,0:02:12.76,0:02:17.30,Default,,0000,0000,0000,,הנקודה היא, משהו יצטרך להשמיד\Nאת הציוויליזציה המוכרת לנו.
Dialogue: 0,0:02:17.36,0:02:21.66,Default,,0000,0000,0000,,אתם חייבים לדמיין כמה נורא זה צריך להיות
Dialogue: 0,0:02:21.68,0:02:25.02,Default,,0000,0000,0000,,בכדי למנוע מאיתנו לבצע\Nשיפורים בטכנולוגיה שלנו
Dialogue: 0,0:02:25.04,0:02:26.26,Default,,0000,0000,0000,,לתמיד.
Dialogue: 0,0:02:26.28,0:02:28.30,Default,,0000,0000,0000,,דור אחרי דור.
Dialogue: 0,0:02:28.32,0:02:30.49,Default,,0000,0000,0000,,כמעט בהגדרה, זהו הדבר הגרוע ביותר
Dialogue: 0,0:02:30.49,0:02:32.50,Default,,0000,0000,0000,,שאי-פעם קרה בהיסטוריה האנושית.
Dialogue: 0,0:02:32.52,0:02:33.82,Default,,0000,0000,0000,,אז האלטרנטיבה היחידה,
Dialogue: 0,0:02:33.84,0:02:36.18,Default,,0000,0000,0000,,וזה מה שנמצא מאחורי דלת מספר שתיים,
Dialogue: 0,0:02:36.20,0:02:39.34,Default,,0000,0000,0000,,היא שנמשיך לשפר\Nאת המכונות האינטליגנטיות שלנו
Dialogue: 0,0:02:39.36,0:02:40.96,Default,,0000,0000,0000,,שנה אחר שנה אחר שנה.
Dialogue: 0,0:02:41.72,0:02:45.36,Default,,0000,0000,0000,,ובנקודה מסוימת, נבנה מכונות \Nשהן חכמות יותר מאיתנו,
Dialogue: 0,0:02:46.08,0:02:48.16,Default,,0000,0000,0000,,וברגע שיהיו לנו מכונות חכמות מאיתנו,
Dialogue: 0,0:02:48.16,0:02:50.71,Default,,0000,0000,0000,,הן יתחילו לשפר את עצמן.
Dialogue: 0,0:02:50.72,0:02:53.46,Default,,0000,0000,0000,,ואז אנחנו מסתכנים במה\Nשהמתמטיקאי איי. ג'יי. גוד קרא לו
Dialogue: 0,0:02:53.48,0:02:55.26,Default,,0000,0000,0000,,"התפוצצות אינטליגנציה",
Dialogue: 0,0:02:55.28,0:02:57.28,Default,,0000,0000,0000,,שהתהליך יכול לצאת משליטתנו.
Dialogue: 0,0:02:58.12,0:03:00.94,Default,,0000,0000,0000,,לרוב זה מתואר כפי שנראה פה,
Dialogue: 0,0:03:00.96,0:03:04.18,Default,,0000,0000,0000,,כפחד מצבאות של רובוטים זדוניים
Dialogue: 0,0:03:04.20,0:03:05.46,Default,,0000,0000,0000,,שיתקפו אותנו.
Dialogue: 0,0:03:05.48,0:03:08.18,Default,,0000,0000,0000,,אבל זה לא התרחיש הסביר ביותר.
Dialogue: 0,0:03:08.20,0:03:13.06,Default,,0000,0000,0000,,זה לא שהמכונות שלנו\Nיהפכו באופן ספונטני למרושעות.
Dialogue: 0,0:03:13.08,0:03:15.70,Default,,0000,0000,0000,,החשש האמיתי הוא שנבנה מכונות
Dialogue: 0,0:03:15.72,0:03:18.08,Default,,0000,0000,0000,,שמוכשרות כל כך הרבה יותר מאיתנו,
Dialogue: 0,0:03:18.08,0:03:21.58,Default,,0000,0000,0000,,שהסטייה הקטנה ביותר \Nבין המטרות שלנו לשלהן
Dialogue: 0,0:03:21.60,0:03:22.80,Default,,0000,0000,0000,,עלולה להשמיד אותנו.
Dialogue: 0,0:03:23.96,0:03:26.04,Default,,0000,0000,0000,,רק תחשבו על היחס שלנו לנמלים.
Dialogue: 0,0:03:26.60,0:03:28.26,Default,,0000,0000,0000,,אנחנו לא שונאים אותן.
Dialogue: 0,0:03:28.28,0:03:30.34,Default,,0000,0000,0000,,אנחנו לא עושים מאמץ מיוחד לפגוע בהן.
Dialogue: 0,0:03:30.36,0:03:32.74,Default,,0000,0000,0000,,למעשה, לפעמים אנחנו מתאמצים\Nכדי שלא לפגוע בהן.
Dialogue: 0,0:03:32.76,0:03:34.78,Default,,0000,0000,0000,,אנחנו צועדים מעליהן במדרכות.
Dialogue: 0,0:03:34.80,0:03:36.94,Default,,0000,0000,0000,,אבל ברגע שהנוכחות שלהן
Dialogue: 0,0:03:36.96,0:03:39.46,Default,,0000,0000,0000,,נמצאת בקונפליקט רציני עם אחת המטרות שלנו,
Dialogue: 0,0:03:39.48,0:03:41.96,Default,,0000,0000,0000,,למשל כשאנחנו בונים בנין כמו זה,
Dialogue: 0,0:03:41.98,0:03:43.94,Default,,0000,0000,0000,,אנחנו משמידים אותן ללא יסורי מצפון.
Dialogue: 0,0:03:44.48,0:03:47.42,Default,,0000,0000,0000,,החשש הוא שיום אחד אנחנו נבנה מכונות
Dialogue: 0,0:03:47.44,0:03:50.18,Default,,0000,0000,0000,,אשר במודע או שלא,
Dialogue: 0,0:03:50.20,0:03:52.20,Default,,0000,0000,0000,,יוכלו להתייחס אלינו בזלזול דומה.
Dialogue: 0,0:03:53.76,0:03:57.29,Default,,0000,0000,0000,,עכשיו, אני חושד שכל זה\Nנשמע מופרך עבור רבים מכם.
Dialogue: 0,0:03:57.36,0:04:03.70,Default,,0000,0000,0000,,אני בטוח שיש בכם כאלה הספקנים לגבי האפשרות\Nלהגיע לבינה מלאכותית סופר-אינטליגנטית כזו,
Dialogue: 0,0:04:03.72,0:04:05.38,Default,,0000,0000,0000,,ובוודאי לחשוב שהיא בלתי נמנעת.
Dialogue: 0,0:04:05.40,0:04:09.02,Default,,0000,0000,0000,,אבל אז אתם צריכים למצוא פגם\Nבאחת מהנחות היסוד הבאות.
Dialogue: 0,0:04:09.04,0:04:10.62,Default,,0000,0000,0000,,ויש רק שלוש מהן.
Dialogue: 0,0:04:11.80,0:04:16.52,Default,,0000,0000,0000,,אינטליגנציה היא ענין של עיבוד מידע \Nבמערכות פיזיות.
Dialogue: 0,0:04:17.32,0:04:19.65,Default,,0000,0000,0000,,למעשה, זו קצת יותר מסתם הנחה.
Dialogue: 0,0:04:19.65,0:04:23.42,Default,,0000,0000,0000,,אנחנו כבר בנינו אינטליגנציה צרה\Nלתוך המכונות שלנו,
Dialogue: 0,0:04:23.44,0:04:25.46,Default,,0000,0000,0000,,ורבות מהמכונות האלה מתפקדות
Dialogue: 0,0:04:25.48,0:04:28.12,Default,,0000,0000,0000,,ברמות של אינטליגנציה על-אנושית כבר כיום.
Dialogue: 0,0:04:28.84,0:04:31.42,Default,,0000,0000,0000,,ואנחנו יודעים שחומר בלבד
Dialogue: 0,0:04:31.44,0:04:34.19,Default,,0000,0000,0000,,יכול לייצר מה שנקרא "אינטליגנציה כללית",
Dialogue: 0,0:04:34.19,0:04:37.74,Default,,0000,0000,0000,,היכולת לחשוב בצורה גמישה\Nמעבר לתחומים רבים,
Dialogue: 0,0:04:37.76,0:04:40.90,Default,,0000,0000,0000,,כי המוח שלנו מצליח לעשות זאת. נכון?
Dialogue: 0,0:04:40.92,0:04:44.86,Default,,0000,0000,0000,,הרי יש כאן רק אטומים,
Dialogue: 0,0:04:44.88,0:04:49.38,Default,,0000,0000,0000,,וכל עוד נמשיך לבנות מערכות של אטומים
Dialogue: 0,0:04:49.40,0:04:52.10,Default,,0000,0000,0000,,שמפגינות התנהגות יותר ויותר אינטליגנטית,
Dialogue: 0,0:04:52.12,0:04:54.66,Default,,0000,0000,0000,,בסוף, אלא אם כן יפריעו לנו,
Dialogue: 0,0:04:54.68,0:04:58.06,Default,,0000,0000,0000,,בסוף, נבנה אינטליגנציה כללית
Dialogue: 0,0:04:58.08,0:04:59.38,Default,,0000,0000,0000,,בתוך המכונות שלנו.
Dialogue: 0,0:04:59.40,0:05:03.06,Default,,0000,0000,0000,,זה חיוני להבין שקצב ההתקדמות אינו משנה,
Dialogue: 0,0:05:03.08,0:05:06.26,Default,,0000,0000,0000,,כיוון שכל התקדמות מספיקה\Nבכדי להביא אותנו לקו הסיום.
Dialogue: 0,0:05:06.28,0:05:10.06,Default,,0000,0000,0000,,אנחנו לא צריכים את חוק מור בשביל להמשיך.\Nאנחנו לא צריכים התקדמות אקספוננציאלית.
Dialogue: 0,0:05:10.08,0:05:11.68,Default,,0000,0000,0000,,אנחנו רק צריכים להמשיך.
Dialogue: 0,0:05:13.48,0:05:16.40,Default,,0000,0000,0000,,ההנחה השניה היא שאנחנו נמשיך.
Dialogue: 0,0:05:17.00,0:05:19.76,Default,,0000,0000,0000,,אנחנו נמשיך לשפר \Nאת המכונות האינטליגנטיות שלנו.
Dialogue: 0,0:05:21.00,0:05:25.38,Default,,0000,0000,0000,,ובהתחשב בחשיבות האינטליגנציה –
Dialogue: 0,0:05:25.40,0:05:28.94,Default,,0000,0000,0000,,אינטליגנציה היא המקור של כל מה שיקר לנו
Dialogue: 0,0:05:28.96,0:05:31.74,Default,,0000,0000,0000,,או שאנחנו זקוקים לה בשביל\Nלשמור על כל מה שיקר לנו.
Dialogue: 0,0:05:31.76,0:05:34.02,Default,,0000,0000,0000,,זהו המשאב הכי יקר שלנו.
Dialogue: 0,0:05:34.04,0:05:35.58,Default,,0000,0000,0000,,אז אנחנו רוצים לעשות את זה.
Dialogue: 0,0:05:35.60,0:05:38.94,Default,,0000,0000,0000,,יש לנו בעיות שאנחנו צריכים לפתור נואשות.
Dialogue: 0,0:05:38.96,0:05:42.16,Default,,0000,0000,0000,,אנחנו רוצים לרפא מחלות כמו אלצהיימר וסרטן.
Dialogue: 0,0:05:42.96,0:05:46.90,Default,,0000,0000,0000,,אנחנו רוצים להבין מערכות כלכליות.\Nאנחנו רוצים לשפר את מדעי האקלים.
Dialogue: 0,0:05:46.92,0:05:49.18,Default,,0000,0000,0000,,אז אנחנו נעשה זאת, אם נוכל.
Dialogue: 0,0:05:49.20,0:05:52.49,Default,,0000,0000,0000,,הרכבת כבר יצאה מהתחנה,\Nואין לה מעצור שנוכל למשוך בו.
Dialogue: 0,0:05:53.88,0:05:59.34,Default,,0000,0000,0000,,לבסוף, אנחנו לא עומדים\Nבפסגת האינטליגנציה,
Dialogue: 0,0:05:59.36,0:06:01.16,Default,,0000,0000,0000,,או אפילו קרוב אליה, ככל הנראה.
Dialogue: 0,0:06:01.64,0:06:03.31,Default,,0000,0000,0000,,וזו באמת התובנה הקריטית ביותר.
Dialogue: 0,0:06:03.31,0:06:05.98,Default,,0000,0000,0000,,זה מה שהופך את המצב שלנו לכל כך מסוכן,
Dialogue: 0,0:06:06.00,0:06:10.04,Default,,0000,0000,0000,,וזה מה שהופך את האינטואיציות שלנו\Nלגבי הסיכון לכל כך לא אמינות.
Dialogue: 0,0:06:11.12,0:06:13.84,Default,,0000,0000,0000,,עכשיו, תחשבו על האדם\Nהחכם ביותר שחי אי פעם.
Dialogue: 0,0:06:14.64,0:06:18.06,Default,,0000,0000,0000,,כמעט כולם כאן ישימו את\Nג'ון פון נוימן איפשהו בראש הרשימה.
Dialogue: 0,0:06:18.08,0:06:21.42,Default,,0000,0000,0000,,הרושם שפון נוימן עשה על האנשים סביבו,
Dialogue: 0,0:06:21.44,0:06:25.50,Default,,0000,0000,0000,,וזה כולל כמה מהמתמטיקאים\Nוהפיזיקאים הגדולים של זמנו,
Dialogue: 0,0:06:25.52,0:06:27.46,Default,,0000,0000,0000,,מתועד בצורה טובה למדי.
Dialogue: 0,0:06:27.48,0:06:31.26,Default,,0000,0000,0000,,אילו חצי מהסיפורים עליו היו חצי נכונים,
Dialogue: 0,0:06:31.28,0:06:32.50,Default,,0000,0000,0000,,אין ספק בכלל
Dialogue: 0,0:06:32.52,0:06:34.98,Default,,0000,0000,0000,,שהוא אחד האנשים החכמים שחיו עלי אדמות.
Dialogue: 0,0:06:35.00,0:06:37.52,Default,,0000,0000,0000,,אז חשבו על רצף האינטליגנציה.
Dialogue: 0,0:06:38.32,0:06:39.75,Default,,0000,0000,0000,,כאן נמצא ג'ון פון נוימן.
Dialogue: 0,0:06:41.56,0:06:42.89,Default,,0000,0000,0000,,וכאן נמצאים אתם ואני.
Dialogue: 0,0:06:44.12,0:06:45.42,Default,,0000,0000,0000,,ופה יש לנו תרנגולת.
Dialogue: 0,0:06:45.44,0:06:47.38,Default,,0000,0000,0000,,(צחוק)
Dialogue: 0,0:06:47.40,0:06:48.62,Default,,0000,0000,0000,,מצטער – תרנגולת.
Dialogue: 0,0:06:48.64,0:06:49.90,Default,,0000,0000,0000,,(צחוק)
Dialogue: 0,0:06:49.92,0:06:52.81,Default,,0000,0000,0000,,אין סיבה שההרצאה הזו \Nתהיה מדכאת יותר מהנדרש.
Dialogue: 0,0:06:52.81,0:06:55.28,Default,,0000,0000,0000,,(צחוק)
Dialogue: 0,0:06:56.34,0:06:59.82,Default,,0000,0000,0000,,אבל סביר מאוד שרצף האינטליגנציה
Dialogue: 0,0:06:59.84,0:07:02.96,Default,,0000,0000,0000,,ממשיך הרבה מעבר למה שאנחנו מכירים כיום,
Dialogue: 0,0:07:03.88,0:07:07.10,Default,,0000,0000,0000,,ושאם נבנה מכונות\Nשהן יותר אינטליגנטיות מאיתנו,
Dialogue: 0,0:07:07.12,0:07:09.42,Default,,0000,0000,0000,,סביר מאוד שהן יחקרו את הרצף הזה
Dialogue: 0,0:07:09.44,0:07:11.30,Default,,0000,0000,0000,,בדרכים שאיננו יכולים לדמיין,
Dialogue: 0,0:07:11.32,0:07:13.84,Default,,0000,0000,0000,,ולעלות עלינו בדרכים שאיננו יכולים לדמיין.
Dialogue: 0,0:07:15.00,0:07:19.34,Default,,0000,0000,0000,,וחשוב להבין שזה נכון ולו רק בזכות המהירות.
Dialogue: 0,0:07:19.36,0:07:24.42,Default,,0000,0000,0000,,נכון? דמיינו שנבנה בינה מלאכותית \Nסופר-אינטליגנטית
Dialogue: 0,0:07:24.44,0:07:27.90,Default,,0000,0000,0000,,שאינה חכמה יותר מצוות ממוצע של חוקרים
Dialogue: 0,0:07:27.92,0:07:30.22,Default,,0000,0000,0000,,בסטנפורד או ב-MIT.
Dialogue: 0,0:07:30.24,0:07:34.49,Default,,0000,0000,0000,,ובכן, מעגלים אלקטרוניים פועלים \Nבערך פי מיליון מהר יותר ממעגלים ביוכימיים,
Dialogue: 0,0:07:34.52,0:07:37.66,Default,,0000,0000,0000,,אז המכונה הזו תוכל לחשוב\Nבערך פי מיליון מהר יותר
Dialogue: 0,0:07:37.68,0:07:39.50,Default,,0000,0000,0000,,מהמוחות שבנו אותה.
Dialogue: 0,0:07:39.52,0:07:41.18,Default,,0000,0000,0000,,אז אתם נותנים לה לרוץ שבוע,
Dialogue: 0,0:07:41.20,0:07:46.33,Default,,0000,0000,0000,,והיא תבצע 20,000 שנות אדם\Nשל עבודה אינטלקטואלית,
Dialogue: 0,0:07:46.40,0:07:48.36,Default,,0000,0000,0000,,שבוע אחרי שבוע אחרי שבוע.
Dialogue: 0,0:07:49.64,0:07:53.01,Default,,0000,0000,0000,,איך נוכל להבין, לא כל שכן להגביל,
Dialogue: 0,0:07:53.01,0:07:55.43,Default,,0000,0000,0000,,מוח שיכול להתקדם כך?
Dialogue: 0,0:07:56.84,0:07:59.51,Default,,0000,0000,0000,,בכנות, הדבר הנוסף שמדאיג,
Dialogue: 0,0:07:59.51,0:08:03.98,Default,,0000,0000,0000,,הוא שאם תדמיינו את התרחיש הטוב ביותר,
Dialogue: 0,0:08:04.00,0:08:08.18,Default,,0000,0000,0000,,דמיינו שפתאום נתקלנו בתכן\Nשל בינה מלאכותית סופר-אינטליגנטית
Dialogue: 0,0:08:08.20,0:08:09.82,Default,,0000,0000,0000,,שאין בו שום דאגות בטיחותיות.
Dialogue: 0,0:08:09.82,0:08:12.86,Default,,0000,0000,0000,,יש לנו את התכן המושלם על הפעם הראשונה.
Dialogue: 0,0:08:12.88,0:08:15.10,Default,,0000,0000,0000,,כאילו שקיבלנו אוֹרַקְל
Dialogue: 0,0:08:15.12,0:08:17.14,Default,,0000,0000,0000,,שמתנהג בדיוק כפי שאנו מצפים.
Dialogue: 0,0:08:17.16,0:08:20.88,Default,,0000,0000,0000,,אז המכונה הזו תהיה \Nהמכשיר המושלם לחיסכון בעבודה.
Dialogue: 0,0:08:21.68,0:08:24.11,Default,,0000,0000,0000,,היא תוכל לתכנן את המכונה\Nשתוכל לבנות את המכונה
Dialogue: 0,0:08:24.13,0:08:25.90,Default,,0000,0000,0000,,שתעשה כל עבודה פיזית,
Dialogue: 0,0:08:25.92,0:08:27.38,Default,,0000,0000,0000,,תופעל בכוח השמש,
Dialogue: 0,0:08:27.40,0:08:30.10,Default,,0000,0000,0000,,פחות או יותר במחיר של חומרי הגלם.
Dialogue: 0,0:08:30.12,0:08:33.38,Default,,0000,0000,0000,,אז אנחנו מדברים על סופה\Nשל עבודת הפרך האנושית.
Dialogue: 0,0:08:33.40,0:08:36.20,Default,,0000,0000,0000,,אנחנו מדברים גם על סופה\Nשל רוב העבודה האינטלקטואלית.
Dialogue: 0,0:08:37.20,0:08:40.26,Default,,0000,0000,0000,,אז מה קופים כמונו יעשו בנסיבות שכאלו?
Dialogue: 0,0:08:40.28,0:08:44.36,Default,,0000,0000,0000,,טוב, נהיה חופשיים לשחק פריסבי\Nולהעניק אחד לשני עיסויים.
Dialogue: 0,0:08:45.84,0:08:48.70,Default,,0000,0000,0000,,תוסיפו קצת אל.אס.די\Nובחירת לבוש מפוקפקת,
Dialogue: 0,0:08:48.72,0:08:51.52,Default,,0000,0000,0000,,וכל העולם יראה כמו אירוע של ברנינג מאן.
Dialogue: 0,0:08:51.52,0:08:52.56,Default,,0000,0000,0000,,(צחוק)
Dialogue: 0,0:08:54.32,0:08:56.32,Default,,0000,0000,0000,,עכשיו, זה אולי נשמע די טוב,
Dialogue: 0,0:08:57.28,0:08:59.66,Default,,0000,0000,0000,,אבל תשאלו את עצמכם מה יקרה
Dialogue: 0,0:08:59.68,0:09:02.42,Default,,0000,0000,0000,,תחת הסדר הכלכלי והפוליטי שלנו היום?
Dialogue: 0,0:09:02.44,0:09:04.86,Default,,0000,0000,0000,,נראה סביר שאנחנו נחזה
Dialogue: 0,0:09:04.88,0:09:09.02,Default,,0000,0000,0000,,ברמות של אי-שויון כלכלי ואבטלה
Dialogue: 0,0:09:09.04,0:09:10.54,Default,,0000,0000,0000,,שלא נצפו קודם לכן מעולם.
Dialogue: 0,0:09:10.56,0:09:13.18,Default,,0000,0000,0000,,ללא רצון להשקיע מיד את כל העושר הזה
Dialogue: 0,0:09:13.20,0:09:14.68,Default,,0000,0000,0000,,לרווחת המין האנושי כולו,
Dialogue: 0,0:09:15.64,0:09:19.26,Default,,0000,0000,0000,,מספר טריליונרים יוכלו לקשט\Nאת השערים של כתבי העת העסקיים
Dialogue: 0,0:09:19.28,0:09:21.72,Default,,0000,0000,0000,,בזמן ששאר העולם יהיה חופשי לרעוב.
Dialogue: 0,0:09:22.32,0:09:24.62,Default,,0000,0000,0000,,ומה הרוסים והסינים יעשו
Dialogue: 0,0:09:24.64,0:09:27.26,Default,,0000,0000,0000,,אם הם ישמעו שחברה כלשהי בעמק הסיליקון
Dialogue: 0,0:09:27.28,0:09:30.02,Default,,0000,0000,0000,,עומדת להשיק בינה מלאכותית \Nסופר-אינטליגנטית?
Dialogue: 0,0:09:30.04,0:09:32.90,Default,,0000,0000,0000,,המכונה הזו תוכל לנהל מלחמה,
Dialogue: 0,0:09:32.92,0:09:35.14,Default,,0000,0000,0000,,בין אם ארצית או במרחב הסייבר,
Dialogue: 0,0:09:35.16,0:09:36.84,Default,,0000,0000,0000,,בעוצמה ללא תקדים.
Dialogue: 0,0:09:38.12,0:09:39.98,Default,,0000,0000,0000,,זה תרחיש שבו המנצח לוקח הכל.
Dialogue: 0,0:09:40.00,0:09:43.14,Default,,0000,0000,0000,,להקדים את התחרות הזו בשישה חודשים
Dialogue: 0,0:09:43.16,0:09:46.73,Default,,0000,0000,0000,,משמעו להקדים את העולם ב-500,000 שנה לפחות.
Dialogue: 0,0:09:47.48,0:09:52.22,Default,,0000,0000,0000,,אז נראה שאפילו שמועות על פריצת דרך שכזו
Dialogue: 0,0:09:52.24,0:09:54.62,Default,,0000,0000,0000,,יכולות לגרום למין שלנו להשתגע.
Dialogue: 0,0:09:54.64,0:09:57.54,Default,,0000,0000,0000,,עכשיו, אחד הדברים המפחידים ביותר,
Dialogue: 0,0:09:57.56,0:10:00.34,Default,,0000,0000,0000,,לראות עיני, ברגע הזה,
Dialogue: 0,0:10:00.36,0:10:04.66,Default,,0000,0000,0000,,אלה הדברים שחוקרי בינה מלאכותית אומרים
Dialogue: 0,0:10:04.68,0:10:06.24,Default,,0000,0000,0000,,כשהם רוצים להרגיע אותנו.
Dialogue: 0,0:10:07.00,0:10:10.46,Default,,0000,0000,0000,,והסיבה הנפוצה ביותר שאומרים\Nלנו שאין סיבה לדאגה היא זמן.
Dialogue: 0,0:10:10.48,0:10:12.54,Default,,0000,0000,0000,,זה עוד רחוק מאוד, אתם יודעים.
Dialogue: 0,0:10:12.56,0:10:15.00,Default,,0000,0000,0000,,זה כנראה רחוק מאיתנו ב-50 או 100 שנים.
Dialogue: 0,0:10:15.72,0:10:16.98,Default,,0000,0000,0000,,חוקר אחד אמר,
Dialogue: 0,0:10:17.00,0:10:18.58,Default,,0000,0000,0000,,"לדאוג מהבטיחות של בינה מלאכותית
Dialogue: 0,0:10:18.60,0:10:20.88,Default,,0000,0000,0000,,"זה כמו לדאוג מצפיפות אוכלוסין על המאדים."
Dialogue: 0,0:10:22.12,0:10:23.74,Default,,0000,0000,0000,,זו הגרסה של עמק הסיליקון
Dialogue: 0,0:10:23.76,0:10:26.50,Default,,0000,0000,0000,,ל"אל תטרידו את עצמכם בזה."
Dialogue: 0,0:10:26.50,0:10:27.50,Default,,0000,0000,0000,,(צחוק)
Dialogue: 0,0:10:27.52,0:10:29.42,Default,,0000,0000,0000,,נראה שאף אחד לא שם לב
Dialogue: 0,0:10:29.44,0:10:32.06,Default,,0000,0000,0000,,שההתייחסות לאופק הזמן
Dialogue: 0,0:10:32.08,0:10:34.66,Default,,0000,0000,0000,,מהווה נון סקוויטר מוחלט.
Dialogue: 0,0:10:34.68,0:10:37.94,Default,,0000,0000,0000,,אם אינטליגנציה היא רק ענין של עיבוד מידע,
Dialogue: 0,0:10:37.96,0:10:40.62,Default,,0000,0000,0000,,ואנחנו ממשיכים לשפר את המכונות שלנו,
Dialogue: 0,0:10:40.64,0:10:44.23,Default,,0000,0000,0000,,אנחנו נייצר סוג כלשהו של סופר-אינטליגנציה.
Dialogue: 0,0:10:44.32,0:10:47.98,Default,,0000,0000,0000,,ואין לנו מושג כמה זמן ייקח לנו
Dialogue: 0,0:10:48.00,0:10:50.40,Default,,0000,0000,0000,,לייצר את התנאים כדי\Nלעשות זאת באופן בטיחותי.
Dialogue: 0,0:10:52.20,0:10:53.50,Default,,0000,0000,0000,,תרשו לי להגיד את זה שוב.
Dialogue: 0,0:10:53.52,0:10:57.34,Default,,0000,0000,0000,,אין לנו מושג כמה זמן ייקח לנו
Dialogue: 0,0:10:57.36,0:11:00.09,Default,,0000,0000,0000,,לייצר את התנאים כדי\Nלעשות זאת באופן בטיחותי.
Dialogue: 0,0:11:00.92,0:11:04.38,Default,,0000,0000,0000,,ואם לא שמתם לב,\N50 שנה זה לא מה שזה היה פעם.
Dialogue: 0,0:11:04.40,0:11:06.86,Default,,0000,0000,0000,,אלה 50 שנים מחולקים לחודשים.
Dialogue: 0,0:11:06.88,0:11:08.72,Default,,0000,0000,0000,,זו כמות הזמן שיש לנו אייפונים.
Dialogue: 0,0:11:09.44,0:11:12.04,Default,,0000,0000,0000,,זו כמות הזמן ש"הסימפסונים"\Nמשודרים בטלויזיה.
Dialogue: 0,0:11:12.68,0:11:15.06,Default,,0000,0000,0000,,חמישים שנים זה לא הרבה זמן
Dialogue: 0,0:11:15.08,0:11:18.24,Default,,0000,0000,0000,,כדי להתמודד עם אחד האתגרים\Nהגדולים ביותר שהמין שלנו יתקל בהם.
Dialogue: 0,0:11:19.64,0:11:23.66,Default,,0000,0000,0000,,שוב, נראה שאנחנו לא מצליחים\Nלייצר את התגובה הרגשית המתאימה
Dialogue: 0,0:11:23.68,0:11:26.38,Default,,0000,0000,0000,,למשהו שאין לנו ספק שהוא מגיע.
Dialogue: 0,0:11:26.40,0:11:30.38,Default,,0000,0000,0000,,למדען המחשבים סטיוארט ראסל\Nיש אנלוגיה נחמדה בנושא זה.
Dialogue: 0,0:11:30.40,0:11:35.30,Default,,0000,0000,0000,,הוא אמר, דמיינו שקיבלנו מסר\Nמתרבות חוצנית כלשהי,
Dialogue: 0,0:11:35.32,0:11:37.02,Default,,0000,0000,0000,,שאומר:
Dialogue: 0,0:11:37.04,0:11:38.58,Default,,0000,0000,0000,,"תושבי כדור הארץ,
Dialogue: 0,0:11:38.60,0:11:40.96,Default,,0000,0000,0000,,"אנחנו נגיע לכוכב שלכם בעוד 50 שנים.
Dialogue: 0,0:11:41.80,0:11:43.38,Default,,0000,0000,0000,,תתכוננו."
Dialogue: 0,0:11:43.40,0:11:47.66,Default,,0000,0000,0000,,ועכשיו אנחנו רק סופרים את החודשים\Nעד שספינת האם תנחת?
Dialogue: 0,0:11:47.68,0:11:50.68,Default,,0000,0000,0000,,אנחנו נרגיש קצת יותר דחיפות\Nממה שאנחנו מרגישים היום.
Dialogue: 0,0:11:52.68,0:11:54.54,Default,,0000,0000,0000,,סיבה נוספת שאומרים לנו לא לדאוג
Dialogue: 0,0:11:54.56,0:11:57.58,Default,,0000,0000,0000,,היא שהמכונות הללו\Nבהכרח יחלֵקו את הערכים שלנו
Dialogue: 0,0:11:57.60,0:12:00.22,Default,,0000,0000,0000,,כי הן יהיו, הלכה למעשה, שלוחות של עצמנו.
Dialogue: 0,0:12:00.24,0:12:02.06,Default,,0000,0000,0000,,הן יושתלו למוחות שלנו,
Dialogue: 0,0:12:02.08,0:12:04.44,Default,,0000,0000,0000,,ואנחנו נהפוך למעשה למערכת הלימבית שלהן.
Dialogue: 0,0:12:05.12,0:12:06.54,Default,,0000,0000,0000,,קחו רגע נוסף בכדי לשקול
Dialogue: 0,0:12:06.56,0:12:11.12,Default,,0000,0000,0000,,אם ההתקדמות הבטוחה והשקולה היחידה המומלצת,
Dialogue: 0,0:12:11.12,0:12:13.92,Default,,0000,0000,0000,,היא להשתיל את הטכנולוגיה הזו\Nישירות לתוך המוח שלנו.
Dialogue: 0,0:12:14.60,0:12:17.98,Default,,0000,0000,0000,,עכשיו, זו אולי באמת הדרך\Nהשקולה והבטוחה להתקדם,
Dialogue: 0,0:12:18.00,0:12:22.77,Default,,0000,0000,0000,,אבל מומלץ לטפל היטב בבטיחות טכנולוגיה
Dialogue: 0,0:12:22.77,0:12:25.23,Default,,0000,0000,0000,,לפני שתוקעים אותה לתוך הראש שלכם.
Dialogue: 0,0:12:25.23,0:12:26.78,Default,,0000,0000,0000,,(צחוק)
Dialogue: 0,0:12:26.80,0:12:32.14,Default,,0000,0000,0000,,הבעיה העמוקה יותר היא שבניית \Nבינה מלאכותית סופר-אינטליגנטית לבדה
Dialogue: 0,0:12:32.16,0:12:33.90,Default,,0000,0000,0000,,נראית קלה יותר
Dialogue: 0,0:12:33.92,0:12:35.78,Default,,0000,0000,0000,,מבניית בינה מלאכותית סופר-אינטליגנטית
Dialogue: 0,0:12:35.80,0:12:37.98,Default,,0000,0000,0000,,וגם הבנה מלאה במדעי המוח
Dialogue: 0,0:12:37.98,0:12:40.74,Default,,0000,0000,0000,,שתאפשר לנו לשלב באופן מושלם \Nאותה עם מוחנו.
Dialogue: 0,0:12:40.80,0:12:43.98,Default,,0000,0000,0000,,ובהתחשב בכך שחברות וממשלות\Nשעושות את העבודה הזו
Dialogue: 0,0:12:44.00,0:12:47.66,Default,,0000,0000,0000,,כנראה יראו את עצמן במרוץ כנגד כל האחרות,
Dialogue: 0,0:12:47.68,0:12:50.94,Default,,0000,0000,0000,,ובהתחשב שנצחון במרוץ הזה \Nמשמעותו לזכות בעולם,
Dialogue: 0,0:12:50.96,0:12:53.42,Default,,0000,0000,0000,,בתנאי שלא תהרסו אותו ברגע שאחרי,
Dialogue: 0,0:12:53.44,0:12:56.06,Default,,0000,0000,0000,,אז נראה סביר שמה שקל יותר לעשות
Dialogue: 0,0:12:56.08,0:12:57.56,Default,,0000,0000,0000,,ייעשה קודם.
Dialogue: 0,0:12:58.56,0:13:01.42,Default,,0000,0000,0000,,למרבה הצער, אין לי פתרון לבעיה הזו,
Dialogue: 0,0:13:01.44,0:13:03.71,Default,,0000,0000,0000,,מלבד להמליץ שיותר מאיתנו יחשבו עליה.
Dialogue: 0,0:13:03.71,0:13:06.46,Default,,0000,0000,0000,,אני חושב שאנחנו צריכים משהו\Nכמו פרויקט מנהטן
Dialogue: 0,0:13:06.48,0:13:08.50,Default,,0000,0000,0000,,לנושא של בינה מלאכותית.
Dialogue: 0,0:13:08.52,0:13:11.26,Default,,0000,0000,0000,,לא כדי לבנות אותה, כי לדעתי \Nזה בלתי נמנע שנעשה זאת,
Dialogue: 0,0:13:11.28,0:13:14.62,Default,,0000,0000,0000,,אלא כדי להבין איך נמנעים ממרוץ חימוש
Dialogue: 0,0:13:14.64,0:13:18.14,Default,,0000,0000,0000,,וכדי לבנות אותה באופן שעולה \Nבקנה אחד עם האינטרסים שלנו.
Dialogue: 0,0:13:18.16,0:13:20.30,Default,,0000,0000,0000,,כשמדברים על בינה מלאכותית סופר-אינטליגנטית
Dialogue: 0,0:13:20.32,0:13:22.58,Default,,0000,0000,0000,,שיכולה לשנות את עצמה,
Dialogue: 0,0:13:22.60,0:13:27.22,Default,,0000,0000,0000,,נראה שיש לנו רק הזדמנות אחת\Nליצור תנאי פתיחה נכונים,
Dialogue: 0,0:13:27.24,0:13:29.30,Default,,0000,0000,0000,,ואפילו אז נצטרך לספוג
Dialogue: 0,0:13:29.32,0:13:32.36,Default,,0000,0000,0000,,את ההשלכות הפוליטיות והכלכליות\Nשקשורות בכך.
Dialogue: 0,0:13:33.76,0:13:35.82,Default,,0000,0000,0000,,אבל ברגע שנודה בכך
Dialogue: 0,0:13:35.84,0:13:39.84,Default,,0000,0000,0000,,שעיבוד מידע הוא המקור לאינטליגנציה,
Dialogue: 0,0:13:40.72,0:13:45.52,Default,,0000,0000,0000,,שמערכת חישובית מתאימה \Nהיא הבסיס לאינטליגנציה,
Dialogue: 0,0:13:46.36,0:13:50.12,Default,,0000,0000,0000,,ונקבל שאנחנו נמשיך לשפר\Nאת המערכות האלו ללא הפסקה,
Dialogue: 0,0:13:51.28,0:13:55.74,Default,,0000,0000,0000,,ונקבל שככל הנראה אופק הקוגניציה רחוק בהרבה
Dialogue: 0,0:13:55.76,0:13:56.96,Default,,0000,0000,0000,,מזה שאנו מכירים כיום,
Dialogue: 0,0:13:58.12,0:13:59.34,Default,,0000,0000,0000,,אז עלינו לקבל
Dialogue: 0,0:13:59.36,0:14:02.00,Default,,0000,0000,0000,,שאנחנו בתהליך של בניית אל כלשהו.
Dialogue: 0,0:14:03.40,0:14:04.98,Default,,0000,0000,0000,,ועכשיו יהיה זמן טוב
Dialogue: 0,0:14:05.00,0:14:06.95,Default,,0000,0000,0000,,לוודא שזה אל שנוכל לחיות איתו.
Dialogue: 0,0:14:08.12,0:14:09.66,Default,,0000,0000,0000,,תודה רבה לכם.
Dialogue: 0,0:14:09.68,0:14:14.77,Default,,0000,0000,0000,,(מחיאות כפיים)