מה קורה כשהמחשבים שלנו נעשים יותר חכמים מאיתנו?
-
0:01 - 0:05אני עובד עם חבורה
של מתמטיקאים, פילוסופים ומדעני מחשב. -
0:05 - 0:10ואנחנו יושבים וחושבים
על העתיד של אינטיליגנצית מכונות, -
0:10 - 0:12בין דברים אחרים.
-
0:12 - 0:17כמה אנשים חושבים שכמה מהדברים האלה
הם סוג של מדע בדיוני, -
0:17 - 0:20רחוקים מאוד, משוגעים.
-
0:20 - 0:21אבל אני אוהב לומר,
-
0:21 - 0:25אוקיי, בואו נביט במצב האנושי המודרני.
-
0:25 - 0:27(צחוק)
-
0:27 - 0:29זאת הדרך הנורמלית של הדברים.
-
0:29 - 0:31אבל אם נחשוב על זה,
-
0:31 - 0:35אנחנו למעשה אורחים
שהגיעו לאחרונה לפלנטה הזו, -
0:35 - 0:37המין האנושי.
-
0:37 - 0:41חשבו על אם כדור הארץ היה נוצר לפני שנה,
-
0:41 - 0:45המין האנושי, אז, היה בן 10 דקות.
-
0:45 - 0:48המהפכה התעשייתית התחילה לפני שתי שניות.
-
0:49 - 0:55דרך נוספת להביט בזה היא לחשוב על התוצר
הלאומי הגולמי ב 10,000 השנים האחרונות, -
0:55 - 0:58אני למעשה טרחתי לצייר את זה
על גרף בשבילכם. -
0:58 - 0:59זה נראה כך.
-
0:59 - 1:01(צחוק)
-
1:01 - 1:03זו צורה מוזרה למצב נורמלי.
-
1:03 - 1:05אני מאוד לא הייתי רוצה לשבת על זה.
-
1:05 - 1:07(צחוק)
-
1:07 - 1:12בואו נשאל את עצמנו,
מהי הסיבה לאנומליה הנוכחית? -
1:12 - 1:14כמה אנשים היו אומרים שזו טכנולוגיה.
-
1:14 - 1:19עכשיו זה נכון, הטכנולוגיה הצטברה
במהלך ההסטוריה האנושית, -
1:19 - 1:24וממש עכשיו, ההתקדמות הטכנולוגית
היא ממש מהירה -- -
1:24 - 1:25זו הסיבה המשוערת,
-
1:25 - 1:28לכן אנחנו כל כך פרודוקטיביים עכשיו.
-
1:28 - 1:32אבל אני רוצה לחשוב אחורה יותר
לסיבה האולטימטיבית. -
1:33 - 1:37הביטו בשני האדונים המאוד נבדלים האלה:
-
1:37 - 1:38יש לנו את קנזי --
-
1:38 - 1:43הוא שולט ב 200 מונחים לשוניים,
מטלה מדהימה. -
1:43 - 1:47ואד וויטן שיחרר את מהפכת מיתרי העל השניה.
-
1:47 - 1:49אם נביט מתחת למכסה המנוע, זה מה שנמצא:
-
1:49 - 1:51בעיקרון אותו הדבר.
-
1:51 - 1:53אחד גדול מעט יותר,
-
1:53 - 1:55אולי יש לו גם כמה טריקים
בצורה בה הוא מחווט. -
1:55 - 1:59ההבדלים הבלתי נראים לא יכולים
להיות כל כך מסובכים, עם זאת, -
1:59 - 2:03מפני שיש הבדל של 250,000 דורות בלבד
-
2:03 - 2:05מאז האב המשותף שלנו.
-
2:05 - 2:09אנחנו יודעים שלמנגנונים מורכבים
לוקח זמן רב להתפתח. -
2:10 - 2:12אז כמה שינויים יחסית קטנים
-
2:12 - 2:16לוקחים אותנו מקנזי לוויטן,
-
2:16 - 2:20מענפים שבורים לטילים בין יבשתיים.
-
2:21 - 2:25אז זה נראה די ברור שכל מה שהשגנו,
-
2:25 - 2:26וכל מה שחשוב לנו,
-
2:26 - 2:31תלוי קריטית בשינויים יחסית מינוריים
שיצרו את המוח האנושי. -
2:33 - 2:36והמקביל לזה, כמובן, זה שכל שינוים עתידיים
-
2:36 - 2:40שיכולים להשפיע משמעותית
על התשתית של החשיבה -
2:40 - 2:43יכולים פוטנציאלית להיות
בעלי תוצאות עצומות. -
2:44 - 2:47כמה מעמיתי חושבים שאנחנו על סף
-
2:47 - 2:51משהו שיוכל לגרום לשינוי משמעותי בתשתית,
-
2:51 - 2:54ושהדבר זה הוא בינת על של מכונות.
-
2:54 - 2:59בינה מלאכותית היתה לשים פקודות במכונה.
-
2:59 - 3:01הייתם צריכים מתכנתים אנושיים
-
3:01 - 3:04שיבנו בעבודה קשה את פריטי הידע.
-
3:04 - 3:06אתם בונים את המערכות המתמחות האלו,
-
3:06 - 3:08והן סוג של יעילות למטרות מסויימות,
-
3:08 - 3:11אבל הן היו מאוד שבירות,
לא יכולתם להגדיל אותן. -
3:11 - 3:14בעיקרון, קיבלתם רק מה שהכנסתם.
-
3:14 - 3:15אבל מאז,
-
3:15 - 3:19היה שינוי פרדיגמה שהתרחש
בשדה של בינה מלאכותית. -
3:19 - 3:22היום, הפעילות סובבת סביב לימוד מכונה.
-
3:22 - 3:28אז במקום לייצר יצוג ותכונות של ידע,
-
3:29 - 3:34יצרנו אלגוריתמים שלומדים,
הרבה פעמים ממידע תפישתי גולמי. -
3:34 - 3:39בעיקרון אותו הדבר שתינוקות אנושיים עושים.
-
3:39 - 3:43התוצאה היא ב"מ שלא מוגבלת לתחום אחד --
-
3:43 - 3:48אותה מערכת יכולה ללמוד
לתרגם בין כל זוג שפות, -
3:48 - 3:53או ללמוד לשחק כל משחק מחשב
על קונסולת האטארי. -
3:53 - 3:55עכשיו כמובן,
-
3:55 - 3:59ב"מ עדיין לא קרובה ליכולות
חוצות התחומים והעוצמה -
3:59 - 4:02והיכולת ללמוד ולתכנן כמו בני אדם.
-
4:02 - 4:04לקורטקס עדיין יש כמה טריקים אלגוריתמיים
-
4:04 - 4:07שאנחנו עדיין לא יודעים איך לדמות במכונות.
-
4:08 - 4:10אז השאלה היא,
-
4:10 - 4:13כמה רחקו אנחנו מלהיות מסוגלים
להשתוות לטריקים האלה? -
4:14 - 4:15לפני כמה שנים,
-
4:15 - 4:18עשינו סקר של כמה ממומחי
הב"מ המובילים בעולם, -
4:18 - 4:21כדי לראות מה הם חושבים,
ואחת השאלות ששאלנו היתה, -
4:21 - 4:25"באיזו שנה אתם חושבים
שיש הסתברות של 50 אחוז -
4:25 - 4:28שנגיע לרמת בינה אנושית במכונות?"
-
4:29 - 4:33הגדרנו רמת בינה אנושית פה כיכולת לבצע
-
4:33 - 4:36כמעט כל עבודה בצורה טובה
לפחות כמו אדם בוגר, -
4:36 - 4:40אז רמה אנושית אמיתית,
לא רק בתוך תחום מסויים. -
4:40 - 4:43והתוצאה החציונית היתה בין 2040 ל 2050,
-
4:43 - 4:46תלוי בדיוק באיזו קבוצת מומחים שאלנו.
-
4:46 - 4:50עכשיו, זה יכול לקרות
הרבה הרבה יותר מאוחר, או מוקדם, -
4:50 - 4:52האמת היא שאף אחד לא באמת יודע.
-
4:53 - 4:58מה שאנחנו כן יודעים זה
שהסף האולטימטיבי לעיבוד מידע -
4:58 - 5:03בתשתית המכונה נמצא
מחוץ למגבלות ברקמה ביולוגית. -
5:03 - 5:06זה בסופו של דבר עניין של פיזיקה.
-
5:06 - 5:10ניורון ביולוגי יורה, אולי,
ב 200 הרץ, 200 פעמים בשניה. -
5:10 - 5:14אבל אפילו טרנזיסטור היום פועל בגיגה הרצים.
-
5:14 - 5:19הניורונים מתפשטים לאט באקסונים
100 מטר בשניה מקסימום. -
5:19 - 5:22אבל במחשבים, האות יכול לנוע במהירות האור.
-
5:23 - 5:25יש גם מגבלות גודל,
-
5:25 - 5:28כמו שמוח אנושי חייב להתאים לתוך הגולגולת,
-
5:28 - 5:33אבל מחשב יכול להיות
בגודל של מחסן או גדול יותר. -
5:33 - 5:38אז הפוטנציאל לבינת על
נמצא רדום בתוך החומר, -
5:38 - 5:44בדומה לכוח האטום שנמצא
רדום במהלך ההסטוריה האנושית, -
5:44 - 5:48בסבלנות עד 1945,
-
5:48 - 5:50במאה הזו,
-
5:50 - 5:54מדענים אולי ילמדו להעיר
את הכוח של בינה מלאכותית. -
5:54 - 5:58ואני חושב שאולי נראה התפוצצות בינה.
-
5:58 - 6:02עכשיו רוב האנשים,
כשהם חושבים על מה זה חכם ומה טיפש, -
6:02 - 6:05אני חושב שיש בראשם תמונה בערך כזו.
-
6:05 - 6:08אז בצד אחד יש לנו את טיפש הכפר,
-
6:08 - 6:10ואז הרחק בצד השני
-
6:10 - 6:15יש לנו את אד וויטן, או אלברט איינשטיין,
או מי שהגורו החביב עליכם. -
6:15 - 6:19אבל אני חושב שמנקודת המבט
של בינה מלאכותית, -
6:19 - 6:23התמונה האמיתית היא למעשה יותר דומה לזה:
-
6:23 - 6:27ב"מ מתחילה בנקודה הזו פה, באפס בינה,
-
6:27 - 6:30ואז, אחרי הרבה, הרבה, שנים של עבודה קשה,
-
6:30 - 6:33אולי לבסוף נגיע לרמת בינה של עכבר,
-
6:33 - 6:36משהו שיכול לנווט בסביבות מורכבות
-
6:36 - 6:38כמו שעכבר יכול.
-
6:38 - 6:42ואז, אחרי עוד הרבה הרבה שנים
של עבודה ממש קשה, הרבה השקעות, -
6:42 - 6:47אולי לבסוף נגיע לרמת בינה של שימפנזה.
-
6:47 - 6:50ואז, אחרי אפילו יותר שנים
של עבודה ממש ממש קשה, -
6:50 - 6:53נגיע לרמה של אידיוט הכפר.
-
6:53 - 6:56וכמה רגעים אחר כך, אנחנו מעבר לאד וויטן.
-
6:56 - 6:59הרכבת לא עוצרת בעיר בני האדם,
-
6:59 - 7:02רוב הסיכוים שהיא תחלוף ביעף.
-
7:02 - 7:04עכשיו יש לזה השלכות עמוקות,
-
7:04 - 7:08בעיקר כשזה מגיע לשאלות של כוח.
-
7:08 - 7:10לדוגמה, שימפנזים חזקים --
-
7:10 - 7:15קילו לקילו, שימפנזה חזקה
בערך פי שתיים מגבר אנושי. -
7:15 - 7:20ועדיין, הגורל של קנזי וחבריו
תלוי הרבה יותר -
7:20 - 7:24במה שאנשים יעשו מאשר במה
שהשימפנזות יעשו בעצמן. -
7:25 - 7:28ברגע שתהייה בינת על,
-
7:28 - 7:31גורל האנושות אולי יהיה תלוי
במה שבינת העל תעשה. -
7:32 - 7:34חשבו על זה:
-
7:34 - 7:39בינת מכונות היא ההמצאה האחרונה
שהמין האנושי יצטרך אי פעם לעשות. -
7:39 - 7:42מכונות יהיו אז טובות יותר בהמצאה מאיתנו,
-
7:42 - 7:44והן יעשו את זה בטווחי זמן דיגיטליים.
-
7:44 - 7:49מה שזה אומר זה בעיקרון טלסקופ של העתיד.
-
7:49 - 7:53חשבו על כל הטכנולוגיות
המשוגעות שתוכלו לדמיין -
7:53 - 7:55שאולי אנשים היו יכולים לפתח במשך הזמן:
-
7:55 - 7:59תרופות להזדקנות, ישוב החלל,
-
7:59 - 8:02ננו רובוטים שמשכפלים את עצמם
או העלאת התודעה שלנו למחשבים, -
8:02 - 8:04כל מיני סוגים של מדע בדיוני
-
8:04 - 8:07שעדיין מתאים לחוקי הפיזיקה.
-
8:07 - 8:11את כל זה בינת העל הזו
יכולה לפתח, ויכול להיות שדי מהר. -
8:12 - 8:16עכשיו בינת על עם כזו בגרות טכנולוגית
-
8:16 - 8:18תהיה חזקה מאוד,
-
8:18 - 8:23ולפחות בכמה מקרים,
היא תהיה מסוגלת להשיג מה שהיא רוצה. -
8:23 - 8:28אז יהיו לנו עתיד שיהיה מעוצב
על ידי ההעדפות של ב"מ זו. -
8:30 - 8:34עכשיו שאלה טובה היא, מהן ההעדפות האלו?
-
8:34 - 8:36פה זה נעשה מסובך.
-
8:36 - 8:37כדי להתקדם בכלל עם זה,
-
8:37 - 8:41אנחנו חייבים ראשית להמנע מאנתרופומורפזינג.
-
8:42 - 8:45וזה אירוני מפני שבכל מאמר בעיתון
-
8:45 - 8:49על העתיד של ב"מ
יש את התמונה הזו: -
8:50 - 8:54אז אני חושב שמה שאנחנו צריכים לעשות זה
לחשוב על הבעיה הזו בצורה יותר מופשטת, -
8:54 - 8:57לא במונחים של תסריטים הוליוודיים.
-
8:57 - 9:01אנחנו צריכים לחשוב על בינה כתהליך מיטוב,
-
9:01 - 9:06תהליך שמנתב את העתיד
לסט מסויים של קונפיגורציות. -
9:06 - 9:10בינת על היא באמת תהליך מיטוב מאוד חזק.
-
9:10 - 9:14היא ממש טובה בשימוש
באמצעים זמינים כדי להשיג מצב -
9:14 - 9:16בו המטרה שלה מושגת.
-
9:16 - 9:19זה אומר שאין חיבור הכרחי בין
-
9:19 - 9:22להיות מאוד נבון במובן הזה,
-
9:22 - 9:27ושתהיה לה מטרה שאנחנו האנשים
נמצא כדאית או משמעותית. -
9:27 - 9:31נניח שניתן לב"מ את המטרה
לגרום לאנשים לחייך. -
9:31 - 9:34כשהב"מ חלשה,
היא מבצעת פעולות מועילות או משעשעות -
9:34 - 9:37שגורמות למשתמשים שלה לחייך.
-
9:37 - 9:39כשהב"מ הופכת לבינת על,
-
9:39 - 9:43היא מבינה שיש דרך יותר יעילה
כדי להשיג את המטרה: -
9:43 - 9:44להשתלט על העולם
-
9:44 - 9:48ולתקוע אלקטרודות בשרירי הפנים של אנשים
-
9:48 - 9:51כדי לגרום לפרצופים מחייכים בקביעות.
-
9:51 - 9:52דוגמה נוספת,
-
9:52 - 9:55נניח שניתן לב"מ את המטרה
לפתור בעיה מתמטית מסובכת. -
9:55 - 9:57כשהב"מ הופכת לבינת על,
-
9:57 - 10:01היא מבינה שהדרך הכי אפקטיבית
לפתור את הבעיה הזו -
10:01 - 10:04היא להפוך את הפלנטה למחשב עצום,
-
10:04 - 10:06כדי להגביר את יכולת החשיבה.
-
10:06 - 10:09ושימו לב שזה נותן לב"מ סיבה משמעותית
-
10:09 - 10:12לעשות דברים לנו שאולי לא נסכים להם.
-
10:12 - 10:13אנשים במודל הזה הם איומים,
-
10:13 - 10:16נוכל למנוע מהבעיה המתמטית מלהפתר.
-
10:17 - 10:21כמובן, יכול להיות שהדברים לא ילכו
לכיוונים לא טובים בדרכים האלה; -
10:21 - 10:22אלה דוגמאות הנפשה.
-
10:22 - 10:24אבל הנקודה העיקרית פה היא חשובה:
-
10:24 - 10:27אם אתם יוצרים תהליך מיטוב ממש חזק
-
10:27 - 10:30כדי למקסם את מטרה X,
-
10:30 - 10:32כדאי שתדאגו שההגדרה שלכם ל X
-
10:32 - 10:34כוללת כל מה שחשוב לכם.
-
10:35 - 10:39זה שיעור שגם מסופר בהרבה מיתוסים.
-
10:39 - 10:45המלך מידאס רצה שכל מה שיגע בו יהפוך לזהב.
-
10:45 - 10:47הוא נוגע בביתו, והיא הופכת לזהב.
-
10:47 - 10:50הוא נוגע באוכל, והוא הופך לזהב.
-
10:50 - 10:53זה יכול להפוך לרלוונטי במיוחד,
-
10:53 - 10:55לא רק כמטאפורה לתאוות בצע,
-
10:55 - 10:56אלא כהדגמה למה שקורה
-
10:56 - 10:59אם אתם יוצרים תהליך מיטוב חזק
-
10:59 - 11:04ונותנים לו מטרות לא מובנות
או לא מוגדרות היטב. -
11:04 - 11:09עכשיו אתם אולי תגידו, אם מחשב יתחיל לתקוע
אלקטרודות לתוך פנים של אנשים, -
11:09 - 11:12פשוט נכבה אותו.
-
11:13 - 11:18ראשית, זה לא בהכרח יהיה פשוט
לעשות אם הפכנו לתלויים במערכת -- -
11:18 - 11:21כמו, איפה מתג הכיבוי לאינטרנט?
-
11:21 - 11:26שנית, למה השימפנזים
לא כיבו את המתג של האנושות, -
11:26 - 11:27או הנאנדרטלים?
-
11:27 - 11:30בהחלט היו להם סיבות.
-
11:30 - 11:33יש לנו מתג כיבוי, לדוגמה, ממש פה.
-
11:33 - 11:34(חנק)
-
11:34 - 11:37הסיבה היא שאנחנו יריב נבון;
-
11:37 - 11:40אנחנו יכולים לצפות איומים ולתכנן סביבם.
-
11:40 - 11:42אבל כך גם תוכל בינת העל,
-
11:42 - 11:46והיא תהיה טובה בזה מאיתנו.
-
11:46 - 11:53הנקודה היא, אנחנו לא צריכים להיות בטוחים
שנוכל לשלוט במצב הזה. -
11:53 - 11:56ונוכל לנסות לעשות את העבודה שלנו
מעט קלה יותר על ידי, נגיד, -
11:56 - 11:58לשים את הב"מ בקופסה,
-
11:58 - 12:00כמו סביבת תוכנה מאובטחת,
-
12:00 - 12:03הדמיית מציאות מדומה
ממנה היא לא יכולה לברוח. -
12:03 - 12:07אבל כמה בטוחים אנחנו יכולים להיות
שהב"מ לא תוכל למצוא באג. -
12:07 - 12:10בהתחשב בזה שהאקרים אנושיים
מוצאים באגים כל הזמן, -
12:10 - 12:13היתי אומר, שכנראה לא כל כך בטוחים.
-
12:14 - 12:19אז ננתק את כבל הרשת כדי ליצור מרווח אויר,
-
12:19 - 12:21אבל שוב, כמו האקרים אנושיים רגילים
-
12:21 - 12:25שעוברים פערי אויר באופן
שוטף בעזרת הנדסה חברתית. -
12:25 - 12:26ממש עכשיו, כשאני מדבר,
-
12:26 - 12:28אני בטוח שיש איזשהו עובדת אי שם
-
12:28 - 12:32ששכנעו אותה לתת את פרטי החשבון שלה
-
12:32 - 12:35על ידי מישהו שטוען
שהוא ממחלקת מערכות המידע. -
12:35 - 12:37תרחישים יותר יצירתיים הם גם אפשריים,
-
12:37 - 12:38כמו אם אתם הב"מ,
-
12:38 - 12:42אתם יכולים לדמיין שינוי
אלקטרודות בחיווט הפנימי שלכם -
12:42 - 12:45כדי ליצור גלי רדיו בהם אתם יכולים
להשתמש כדי לתקשר. -
12:45 - 12:47או אולי תוכלו להעמיד פנים שאתם מקולקלים,
-
12:47 - 12:51ואז כשהמתכנת יפתח אתכם
לראות מה לא תקין איתכם, -
12:51 - 12:53הם יביטי בקוד המקור -- באם! --
-
12:53 - 12:55המניפולציה יכולה להתרחש.
-
12:55 - 12:59או אולי היא תוכל להוציא את התוכנית שלה
לטכנולוגיה ממש מגניבה, -
12:59 - 13:00וכשתיישמו אותה,
-
13:00 - 13:05יהיה לה אפקט משנה חשאי שהב"מ תכננה.
-
13:05 - 13:08הנקודה פה היא שאנחנו לא צריכים
להיות בטוחים ביכולת שלנו -
13:08 - 13:12לשמור על שד בינת העל
נעול בבקבוק שלו לעד. -
13:12 - 13:14במוקדם או במאוחר, הוא יצא.
-
13:15 - 13:18אני מאמין שהתשובה פה היא להבין
-
13:18 - 13:23איך ליצור בינת על כך
שאפילו אם -- מתי - שהיא תברח, -
13:23 - 13:26זה עדיין בטוח מפני שהיא באופן בסיסי לצידנו
-
13:26 - 13:28מפני שהיא חולקת את הערכים שלנו.
-
13:28 - 13:32אני לא רואה דרך לעקוף
את הבעיה המסובכת הזו. -
13:33 - 13:36עכשיו, אני למעשה די אופטימי
שהבעיה הזו יכולה להפתר. -
13:36 - 13:40לא נהיה צריכים לכתוב רשימה ארוכה
של כל מה שאכפת לנו ממנו, -
13:40 - 13:44או גרוע יותר, לאיית את זה בשפת מחשב כלשהיא
-
13:44 - 13:45כמו C++ או פייתון,
-
13:45 - 13:48זו תהיה משימה מעבר לחסרת תקווה.
-
13:48 - 13:52במקום, אנחנו צריכים ליצור ב"מ
שמשמשת בבינה שלה -
13:52 - 13:55כדי ללמוד מה אנחנו מעריכים,
-
13:55 - 14:01ומערכת המוטיבציה שלה מורכבת
בדרך כזו שיש לה מוטיבציה -
14:01 - 14:06לרדוף אחרי הערכים שלנו כדי לבצע
פעולות שהיא צופה שנסכים להן. -
14:06 - 14:09לכן ננצל את הבינה שלה ככל האפשר
-
14:09 - 14:12כדי לפתור בעיות של הטענת ערכים.
-
14:13 - 14:14זה יכול לקרות,
-
14:14 - 14:18והתוצאה תוכל להיות מאוד טובה לאנושות.
-
14:18 - 14:22אבל זה לא קורה אוטומטית.
-
14:22 - 14:25התנאים ההתחלתיים להתפוצצות הבינה
-
14:25 - 14:28אולי צריכים להבנות בדיוק בדרך הנכונה
-
14:28 - 14:31אם אנחנו רוצים שיהיה לנו פיצוץ מבוקר.
-
14:31 - 14:34הערכים שיש לב"מ צריכים להתאים לשלנו,
-
14:34 - 14:36לא רק בהקשר המוכר,
-
14:36 - 14:38כמו איפה אנחנו יכולים לבדוק בקלות
איך הב"מ מתנהגת, -
14:38 - 14:41אלא גם בהקשרים הכי חדשים
שהב"מ אולי תיתקל בהם -
14:41 - 14:43בעתיד הלא בטוח.
-
14:43 - 14:48ויש גם כמה נושאים איזוטריים
שנצטרך לפתור, לארגן: -
14:48 - 14:50הפרטים המדוייקים של תאוריית ההחלטות שלה,
-
14:50 - 14:52איך היא מתמודדת עם
חוסר ודאות לוגי וכך האלה. -
14:53 - 14:56אז הבעיות הטכניות שצריכות להפתר
כדי לגרום לזה לעבוד -
14:56 - 14:58נראים די קשים --
-
14:58 - 15:01לא קשים כמו לעשות ב"מ סופר אינטיליגנטית,
-
15:01 - 15:04אבל די קשים.
-
15:04 - 15:05הנה הדאגה:
-
15:05 - 15:10ליצור ב"מ סופר אינטיליגנטית
זה אתגר מאוד קשה. -
15:10 - 15:13ליצור ב"מ סופר אינטיליגנטית שהיא בטוחה
-
15:13 - 15:15כולל כמה אתגרים נוספים מעבר לזה.
-
15:16 - 15:20הסיכון הוא שמישהו יבין
איך לפצח את האתגר הראשון -
15:20 - 15:23בלי לפתור את האתגר הנוסף
-
15:23 - 15:25של להבטיח בטיחות מושלמת.
-
15:25 - 15:29אז אני חושב שאנחנו צריכים למצוא פיתרון
-
15:29 - 15:32לבעית השליטה מראש,
-
15:32 - 15:34כך שהיא תהיה זמינה בזמן שמצטרך אותה.
-
15:35 - 15:38עכשיו אולי לא נוכל לפתור
את כל בעיית השליטה מראש -
15:38 - 15:41מפני שאולי כמה אלמנטים יכולים להיות במקום
-
15:41 - 15:45רק ברגע שאנחנו יודעים את הפרטים
של הארכיטקטורה בה היא תיושם. -
15:45 - 15:49אבל ככל שנפתור יותר מבעית השליטה מראש,
-
15:49 - 15:53הסיכויים יהיו טובים יותר
שהמעבר לעידן בינת המכונה -
15:53 - 15:54יעבור טוב.
-
15:54 - 15:59זה בשבילי נראה כמו משהו ששווה לעשות
-
15:59 - 16:02ואני יכול לדמיין שאם דברים ילכו טוב,
-
16:02 - 16:07שאנשים בעוד מליון שנה יביטו אחורה במאה הזו
-
16:07 - 16:11ואולי יסתבר שהדבר היחידי שעשינו ובאמת שינה
-
16:11 - 16:13היה לעשות את זה נכון.
-
16:13 - 16:14תודה לכם.
-
16:14 - 16:17(מחיאות כפיים)
- Title:
- מה קורה כשהמחשבים שלנו נעשים יותר חכמים מאיתנו?
- Speaker:
- ניק בוסטרום
- Description:
-
more » « less
בינה מלאכותית נהיית חכמה בקפיצות ענק -- במאה הזו, המחקר מציע, שבינה מלאכותית תוכל להיות "חכמה" כמו אדם. ואז, אומר ניק בוסטרום, היא תעקוף אותנו: "בינת מכונות היא ההמצאה האחרונה שאי פעם נצטרך לעשות." הפילוסוף והטכנולוג, בוסטרום מבקש מאיתנו לחשוב טוב על העולם שאנחנו בונים עכשיו, שמונע על ידי מכונות חושבות. האם המכונות החכמות שלנו יעזרו לנו לשמור על ערכי האנושות -- או האם יהיו להן ערכים משלהן?
- Video Language:
- English
- Team:
closed TED
- Project:
- TEDTalks
- Duration:
- 16:31
|
Tal Dekkers approved Hebrew subtitles for What happens when our computers get smarter than we are? | |
|
|
Tal Dekkers edited Hebrew subtitles for What happens when our computers get smarter than we are? | |
|
|
Tal Dekkers accepted Hebrew subtitles for What happens when our computers get smarter than we are? | |
|
|
Tal Dekkers edited Hebrew subtitles for What happens when our computers get smarter than we are? | |
|
|
Tal Dekkers edited Hebrew subtitles for What happens when our computers get smarter than we are? | |
|
Ido Dekkers edited Hebrew subtitles for What happens when our computers get smarter than we are? | |
|
|
Ido Dekkers edited Hebrew subtitles for What happens when our computers get smarter than we are? | |
|
|
Ido Dekkers edited Hebrew subtitles for What happens when our computers get smarter than we are? |