1 00:00:02,955 --> 00:00:04,765 הבינה המלאכותית, ב"מ, 2 00:00:04,789 --> 00:00:08,318 ידועה בכך שהיא משבשת תעשיות שונות. 3 00:00:08,961 --> 00:00:11,004 מה עם גלידה? 4 00:00:11,879 --> 00:00:15,412 מהם הטעמים החדשים והמדהימים שנוכל להמציא 5 00:00:15,412 --> 00:00:18,518 אם ניעזר בכוחה של ב"מ מתקדמת? 6 00:00:19,011 --> 00:00:23,172 איחדתי כוחות עם קבוצת מתכנתים מחטיבת הביניים של ביה"ס קילינג 7 00:00:23,196 --> 00:00:25,437 כדי למצוא את התשובה לשאלה זו. 8 00:00:25,461 --> 00:00:30,542 הם אספו מעל 1,600 טעמים קיימים של גלידה 9 00:00:30,566 --> 00:00:36,088 וביחד הזנו אותם לאלגוריתם כדי לראות מה הוא יצליח ליצור. 10 00:00:36,112 --> 00:00:39,865 הנה כמה מהטעמים שהב"מ המציאה. 11 00:00:40,114 --> 00:00:41,679 [הפסקת זבל דלעת] 12 00:00:41,679 --> 00:00:43,265 (צחוק) 13 00:00:43,265 --> 00:00:45,834 [סליים חמאת בוטנים] 14 00:00:46,582 --> 00:00:48,029 [מחלת קצפת תות] 15 00:00:48,029 --> 00:00:49,405 (צחוק) 16 00:00:50,049 --> 00:00:54,936 אלה אינם טעמים טעימים, כפי שקיווינו שיהיו. 17 00:00:54,960 --> 00:00:57,994 אז השאלה היא: מה קרה? מה השתבש? 18 00:00:58,116 --> 00:01:00,225 האם הב"מ מנסה להרוג אותנו? 19 00:01:01,027 --> 00:01:05,597 ואולי היא מנסה לעשות מה שביקשנו, והיתה כאן בעיה? 20 00:01:06,567 --> 00:01:09,031 בסרטים, כשמשהו משתבש עם ב"מ, 21 00:01:09,055 --> 00:01:11,611 זה בדרך כלל כי הב"מ החליטה 22 00:01:11,611 --> 00:01:13,917 שהיא כבר לא רוצה לציית לבני האדם 23 00:01:13,917 --> 00:01:16,710 ויש לה מטרות משלה, תודה רבה לכם. 24 00:01:17,266 --> 00:01:20,236 אבל במציאות, הב"מ שיש לנו 25 00:01:20,236 --> 00:01:22,369 ממש לא כל-כך חכמה. 26 00:01:22,781 --> 00:01:26,957 יש לה כוח מיחשוב בערך כמו של שלשול, 27 00:01:26,957 --> 00:01:30,304 ולכל היותר - של דבורת דבש יחידה, 28 00:01:30,304 --> 00:01:32,573 וכנראה פחות מכך. 29 00:01:32,573 --> 00:01:35,347 הרי אנו כל הזמן לומדים דברים חדשים אודות המוח 30 00:01:35,371 --> 00:01:39,731 שמבהירים עד כמה הב"מ אינה בת-השוואה עם מוח אמיתי. 31 00:01:39,755 --> 00:01:45,418 הב"מ של היום מסוגלת לעשות לזהות בתמונה הולך-רגל, 32 00:01:45,442 --> 00:01:48,209 אבל אין לה מושג מהו הולך-רגל 33 00:01:48,209 --> 00:01:53,273 מעבר להיותו אוסף קווים, מרקמים וכדומה. 34 00:01:53,792 --> 00:01:56,313 היא בכלל לא יודעת מהו אדם. 35 00:01:56,822 --> 00:02:00,028 האם הב"מ של ימינו תעשה מה שנבקש ממנה? 36 00:02:00,028 --> 00:02:01,586 כן, אם היא תוכל, 37 00:02:01,586 --> 00:02:04,472 אבל אולי לא בדיוק מה שנרצה. 38 00:02:04,496 --> 00:02:06,911 נניח שאתם רוצים שהב"מ 39 00:02:06,935 --> 00:02:09,554 תיקח את אוסף חלקי הרובוט הזה 40 00:02:09,578 --> 00:02:13,775 ותרכיב מהן רובוט שיגיע מנקודה א' לב'. 41 00:02:13,799 --> 00:02:18,430 אילו ניסיתם לפתור בעיה זו ע"י כתיבת תוכנת מחשב רגילה, 42 00:02:18,499 --> 00:02:22,050 הייתם נותנים לתוכנה הוראות מפורטות 43 00:02:22,050 --> 00:02:23,403 איך לקחת את החלקים האלה, 44 00:02:23,403 --> 00:02:25,880 להרכיב מהם רובוט עם רגליים 45 00:02:25,904 --> 00:02:29,046 ולהשתמש ברגליים האלה כדי ללכת עד נקודה ב'. 46 00:02:29,441 --> 00:02:31,781 אבל כשמשתמשים בב"מ כדי לפתור בעיה זו, 47 00:02:31,805 --> 00:02:32,883 זה שונה. 48 00:02:32,883 --> 00:02:35,269 אינכם אומרים לה איך לפתור את הבעיה, 49 00:02:35,269 --> 00:02:36,712 אלא רק אומרים לה מהי המטרה, 50 00:02:36,712 --> 00:02:40,058 והיא צריכה להבין לבד דרך ניסוי וטעייה 51 00:02:40,058 --> 00:02:41,682 איך להגיע למטרה זו. 52 00:02:42,254 --> 00:02:47,560 ומסתבר שהב"מ נוטה לפתור בעיה מסוימת זו באופן הבא: 53 00:02:47,808 --> 00:02:52,935 היא מרכיבה מהחלקים מגדל שנופל ונוחת על נקודה ב'. 54 00:02:52,990 --> 00:02:55,813 וטכנית, זה פותר את הבעיה. 55 00:02:55,813 --> 00:02:57,622 טכנית, היא הגיעה לנקודה ב'. 56 00:02:57,646 --> 00:03:01,911 הסכנה איננה שהב"מ תתמרד נגדנו, 57 00:03:01,935 --> 00:03:06,209 אלא שתעשה בדיוק מה שאנו דורשים ממנה. 58 00:03:06,876 --> 00:03:09,374 לכן, החוכמה בעבודה עם ב"מ היא, 59 00:03:09,398 --> 00:03:13,546 איך להגדיר את הבעיה כך שהיא תעשה בדיוק את מה שביקשנו? 60 00:03:14,726 --> 00:03:17,966 הרובוט הקטן הזה נשלט ע"י ב"מ. 61 00:03:17,966 --> 00:03:20,870 הב"מ עיצבה את רגלי הרובוט 62 00:03:20,894 --> 00:03:24,866 ומצאה דרך להשתמש בהן כדי לעבור את כל המכשולים האלה. 63 00:03:24,866 --> 00:03:27,737 אבל כשדייויד הא ערך את הניסוי הזה, 64 00:03:27,761 --> 00:03:30,511 היה עליו להגדיר מגבלות נוקשות ביותר 65 00:03:30,511 --> 00:03:33,933 לגבי גודל הרגליים שהב"מ רשאית לקבוע, 66 00:03:33,957 --> 00:03:35,507 כי אחרת... 67 00:03:43,058 --> 00:03:45,939 (צחוק) 68 00:03:48,563 --> 00:03:52,308 וטכנית, היא עברה את מסלול המכשולים. 69 00:03:52,332 --> 00:03:57,274 אז אתם מבינים כמה קשה לגרום לב"מ לעשות משהו פשוט כמו הליכה. 70 00:03:57,298 --> 00:04:01,118 אז כשאתם רואים את הב"מ עושה כך, ודאי תגידו: "זה לא הוגן, 71 00:04:01,142 --> 00:04:03,556 "אסור לך לבנות סתם מגדל שנופל. 72 00:04:03,556 --> 00:04:07,181 "עלייך להשתמש ברגליים כדי ללכת." 73 00:04:07,205 --> 00:04:09,964 ומסתבר שגם זה לא תמיד עובד. 74 00:04:09,988 --> 00:04:12,747 המטלה של הב"מ הזאת היתה לנוע מהר. 75 00:04:13,115 --> 00:04:16,708 לא נאמר לה שצריך לנוע קדימה 76 00:04:16,732 --> 00:04:18,990 או שאסור לה להשתמש בזרועות. 77 00:04:19,487 --> 00:04:24,105 זה מה שמקבלים כשמאמנים את הב"מ לתנועה מהירה: 78 00:04:24,129 --> 00:04:27,663 סלטות והליכה משונה. 79 00:04:27,687 --> 00:04:29,087 זה נפוץ מאד. 80 00:04:29,667 --> 00:04:32,846 כך גם התקדמות של ערימה בעוויתות. 81 00:04:32,870 --> 00:04:34,020 (צחוק) 82 00:04:35,241 --> 00:04:38,279 אז לדעתי, מה שהיה צריך להיות הרבה יותר מוזר 83 00:04:38,279 --> 00:04:39,915 הם הרובוטים של "שליחות קטלנית". 84 00:04:40,256 --> 00:04:44,011 גם פיצוח ה"מטריקס" הוא משהו שב"מ תוכל לעשות אם יתנו לה הזדמנות. 85 00:04:44,035 --> 00:04:46,552 אז אם תאמנו ב"מ בהדמייה, 86 00:04:46,576 --> 00:04:50,689 היא תלמד למשל לפצח את השגיאות המתמטיות של ההדמייה 87 00:04:50,713 --> 00:04:52,920 ולהפיק מהן אנרגיה. 88 00:04:52,944 --> 00:04:58,419 או תמצא איך לנוע מהר יותר ע"י גלישה מתמדת על הרצפה. 89 00:04:58,443 --> 00:05:00,028 כשעובדים עם ב"מ, 90 00:05:00,052 --> 00:05:02,441 זה דומה פחות לעבודה עם יצור אנושי אחר, 91 00:05:02,465 --> 00:05:06,094 ודומה יותר לעבודה עם איזה כוח-טבע מוזר. 92 00:05:06,562 --> 00:05:11,185 ולמעשה, קל מאד לתת לב"מ בטעות את הבעיה הלא-נכונה, 93 00:05:11,209 --> 00:05:15,747 ועל פי רוב איננו מבינים זאת עד שמשהו משתבש. 94 00:05:16,242 --> 00:05:18,322 הנה ניסוי שערכתי, 95 00:05:18,346 --> 00:05:21,528 ובו רציתי שהב"מ תעתיק גווני צבע 96 00:05:21,552 --> 00:05:23,298 כדי להמציא גוונים חדשים, 97 00:05:23,322 --> 00:05:26,309 בהינתן רשימה כמו זו שמשמאל. 98 00:05:26,798 --> 00:05:29,802 והנה הרשימה שהפיקה הב"מ. 99 00:05:29,826 --> 00:05:33,279 [קקי סינדיס, גוון גלל, סבל, אפור ערווה] 100 00:05:33,279 --> 00:05:37,223 (צחוק) 101 00:05:39,177 --> 00:05:41,063 אז טכנית, 102 00:05:41,087 --> 00:05:42,951 הב"מ עשתה מה שביקשתי. 103 00:05:42,975 --> 00:05:46,283 חשבתי שאני מבקשת ממנה שמות חדשים ונחמדים של גוונים, 104 00:05:46,307 --> 00:05:48,614 אבל מה שביקשתי ממנה בפועל 105 00:05:48,638 --> 00:05:51,724 היה רק לחקות את צירופי האותיות 106 00:05:51,748 --> 00:05:53,653 שהיא ראתה במקור. 107 00:05:53,677 --> 00:05:56,775 ולא אמרתי לה דבר על משמעות המילים, 108 00:05:56,799 --> 00:05:59,359 או שאולי יש מילים 109 00:05:59,383 --> 00:06:02,272 שכדאי להימנע מהן בשמות של גווני צבע. 110 00:06:03,141 --> 00:06:06,635 כל עולמה היה הנתונים שנתתי לה. 111 00:06:06,659 --> 00:06:11,217 כמו עם טעמי הגלידה, היא לא מכירה שום דבר נוסף. 112 00:06:12,491 --> 00:06:14,129 משמע שדרך הנתונים 113 00:06:14,153 --> 00:06:18,437 אנו מרבים לטעות ולומר לב"מ לעשות את הדבר הלא-נכון. 114 00:06:18,694 --> 00:06:21,726 זהו דג בשם טינקה. 115 00:06:21,750 --> 00:06:23,565 והיתה קבוצת חוקרים 116 00:06:23,589 --> 00:06:27,463 שאימנה ב"מ לזהות טינקה בתמונות. 117 00:06:27,487 --> 00:06:28,983 אבל כשהם שאלו את הב"מ 118 00:06:28,983 --> 00:06:32,233 באיזה חלק מהתמונה היא השתמשה כדי לזהות את הדג, 119 00:06:32,257 --> 00:06:33,615 זה מה שהיא הדגישה. 120 00:06:35,203 --> 00:06:37,392 נכון, אצבעות אנושיות. 121 00:06:37,416 --> 00:06:41,435 מדוע היא מחפשת אצבעות אנושיות כשהיא מנסה לזהות דג? 122 00:06:42,126 --> 00:06:45,290 מסתבר שאת הטינקה דגים בעיקר כשלל ציד, 123 00:06:45,314 --> 00:06:50,065 ולכן בתמונות רבות של הדג הזה שהב"מ ראתה באימון שלה, 124 00:06:50,114 --> 00:06:51,814 הדג נראה ככה. 125 00:06:51,838 --> 00:06:53,473 (צחוק) 126 00:06:53,497 --> 00:06:57,247 היא לא ידעה שהאצבעות אינן איברים של הדג. 127 00:06:58,808 --> 00:07:02,928 אז אתם מבינים למה קשה כל-כך לתכנן ב"מ 128 00:07:02,952 --> 00:07:06,271 שתוכל להבין מה היא רואה. 129 00:07:06,295 --> 00:07:09,157 ולכן קשה כך-כך לתכנן זיהוי תמונה 130 00:07:09,181 --> 00:07:11,248 במכוניות אוטונומיות, 131 00:07:11,272 --> 00:07:13,477 ומדוע כשלים רבים כל-כך במכוניות אוטונומיות 132 00:07:13,501 --> 00:07:16,386 נובעים מבלבול של הב"מ. 133 00:07:16,410 --> 00:07:20,418 אני רוצה לדבר על דוגמה מ-2016. 134 00:07:20,442 --> 00:07:24,897 היתה תאונה קטלנית כשמישהו השתמש בב"מ של רכב אוטונומי של "טסלה", 135 00:07:24,921 --> 00:07:28,335 אבל במקום להשתמש בה בכביש המהיר, כפי שתוכננה, 136 00:07:28,359 --> 00:07:30,564 הוא השתמש בה ברחובות העיר. 137 00:07:31,239 --> 00:07:32,414 ומה שקרה הוא, 138 00:07:32,438 --> 00:07:35,834 שמשאית חצתה לפני הרכב והרכב לא בלם. 139 00:07:36,507 --> 00:07:41,269 הב"מ הוכשרה בהחלט לזהות משאיות בתמונות. 140 00:07:41,293 --> 00:07:43,438 אבל מה שכנראה קרה הוא, 141 00:07:43,462 --> 00:07:46,393 שהב"מ אומנה לזהות משאיות בכביש המהיר, 142 00:07:46,417 --> 00:07:49,316 ושם הציפיה היא לראות משאיות מאחור. 143 00:07:49,340 --> 00:07:52,760 משאיות במבט צידי לא אמורות להיראות בכביש מהיר, 144 00:07:52,784 --> 00:07:56,239 אז כשב"מ ראתה את המשאית, 145 00:07:56,263 --> 00:08:01,090 היא כנראה זיהתה אותה כשלט דרכים, 146 00:08:01,114 --> 00:08:03,387 כזה שבטוח לעבור מתחתיו. 147 00:08:04,114 --> 00:08:06,694 הנה טעות של ב"מ מתחום שונה. 148 00:08:06,718 --> 00:08:10,032 לאחרונה "אמזון" נאלצה לנטוש אלגוריתם למיון קורות-חיים 149 00:08:10,032 --> 00:08:11,422 שעליו הם עבדו, 150 00:08:11,446 --> 00:08:15,198 כשגילו שהאלגוריתם למד להפלות נגד נשים. 151 00:08:15,198 --> 00:08:18,284 מה שקרה הוא שהם אימנו אותו עם דגימות של קורות-חיים 152 00:08:18,284 --> 00:08:20,360 של אנשים שהם העסיקו בעבר. 153 00:08:20,384 --> 00:08:24,407 ומהדוגמאות, הב"מ למדה להימנע מקורות-חיים של אנשים 154 00:08:24,431 --> 00:08:26,457 שהלכו למכללות של נשים 155 00:08:26,481 --> 00:08:29,287 או שהמילה "נשים" הופיעה בקורות החיים, 156 00:08:29,311 --> 00:08:33,887 כמו "נבחרת כדורגל נשים" או "אגודת הנשים המהנדסות". 157 00:08:33,911 --> 00:08:37,885 הב"מ לא ידעה שהיא לא אמורה להעתיק את הדבר המסוים הזה 158 00:08:37,909 --> 00:08:39,887 מבני האדם. 159 00:08:39,911 --> 00:08:43,088 וטכנית, היא עשתה כפי שהתבקשה. 160 00:08:43,112 --> 00:08:46,349 אלא שביקשו ממנה בטעות לעשות את הדבר הלא-נכון. 161 00:08:46,653 --> 00:08:49,548 וזה קורה כל הזמן עם ב"מ. 162 00:08:50,120 --> 00:08:53,711 ב"מ יכולה להיות הרסנית מאד מבלי לדעת זאת. 163 00:08:53,735 --> 00:08:58,813 אז הב"מ שממליצות על תכנים ב"פייסבוק" ו"יו-טיוב", 164 00:08:58,837 --> 00:09:02,376 ממוטבות להגדיל את מספר הקליקים והצפיות. 165 00:09:02,400 --> 00:09:05,836 למרבה הצער, אחת הדרכים שהן מצאו לעשות זאת 166 00:09:05,860 --> 00:09:10,363 היא להמליץ על תכני תיאוריות-קשר או גזענות. 167 00:09:10,902 --> 00:09:16,204 לב"מ עצמן אין שום מושג מהם בעצם התכנים האלה, 168 00:09:16,228 --> 00:09:19,623 וגם לא מה עלולות להיות התוצאות 169 00:09:19,647 --> 00:09:21,756 של ההמלצה על תכנים כאלה. 170 00:09:22,296 --> 00:09:24,307 אז כשאנו עובדים עם ב"מ, 171 00:09:24,331 --> 00:09:28,513 באחריותנו למנוע בעיות. 172 00:09:28,537 --> 00:09:30,860 ומניעה מדברים להשתבש 173 00:09:30,884 --> 00:09:35,410 יכולה להסתכם בבעייה עתיקת היומין של קצרים בתקשורת. 174 00:09:35,434 --> 00:09:39,179 כשאנו, בני האדם, צריכים ללמוד איך לתקשר עם ב"מ, 175 00:09:39,203 --> 00:09:43,242 עלינו ללמוד מה הב"מ מסוגלת לעשות ומה לא, 176 00:09:43,266 --> 00:09:46,352 ולהבין שעם מוח השלשול הזעיר שלה, 177 00:09:46,376 --> 00:09:50,389 הב"מ לא ממש מבינה מה אנו מנסים לבקש ממנה לעשות. 178 00:09:51,148 --> 00:09:54,469 במלים אחרות, עלינו להיות מוכנים לעבוד עם ב"מ 179 00:09:54,493 --> 00:09:59,751 שאיננה כל-יכולה ויודעת-כל כמו במדע הבדיוני: 180 00:09:59,775 --> 00:10:05,317 עלינו להיות מוכנים לעבוד עם הב"מ שיש לנו בהווה. 181 00:10:05,623 --> 00:10:09,712 והב"מ בהווה היא מספיק מוזרה. 182 00:10:09,712 --> 00:10:11,042 תודה לכם. 183 00:10:11,066 --> 00:10:16,291 (מחיאות כפיים)