WEBVTT

00:00:02.955 --> 00:00:04.765
הבינה המלאכותית, ב"מ,

00:00:04.789 --> 00:00:08.318
ידועה בכך שהיא משבשת
תעשיות שונות.

00:00:08.961 --> 00:00:11.004
מה עם גלידה?

00:00:11.879 --> 00:00:15.412
מהם הטעמים החדשים והמדהימים
שנוכל להמציא

00:00:15.412 --> 00:00:18.518
אם ניעזר בכוחה של ב"מ מתקדמת?

00:00:19.011 --> 00:00:23.172
איחדתי כוחות עם קבוצת מתכנתים
מחטיבת הביניים של ביה"ס קילינג

00:00:23.196 --> 00:00:25.437
כדי למצוא את התשובה לשאלה זו.

00:00:25.461 --> 00:00:30.542
הם אספו מעל 1,600
טעמים קיימים של גלידה

00:00:30.566 --> 00:00:36.088
וביחד הזנו אותם לאלגוריתם
כדי לראות מה הוא יצליח ליצור.

00:00:36.112 --> 00:00:39.865
הנה כמה מהטעמים שהב"מ המציאה.

NOTE Paragraph

00:00:40.114 --> 00:00:41.679
[הפסקת זבל דלעת]

NOTE Paragraph

00:00:41.679 --> 00:00:43.265
(צחוק)

NOTE Paragraph

00:00:43.265 --> 00:00:45.834
[סליים חמאת בוטנים]

NOTE Paragraph

00:00:46.582 --> 00:00:48.029
[מחלת קצפת תות]

NOTE Paragraph

00:00:48.029 --> 00:00:49.405
(צחוק)

NOTE Paragraph

00:00:50.049 --> 00:00:54.936
אלה אינם טעמים טעימים,
כפי שקיווינו שיהיו.

00:00:54.960 --> 00:00:57.994
אז השאלה היא: מה קרה?
מה השתבש?

00:00:58.116 --> 00:01:00.225
האם הב"מ מנסה להרוג אותנו?

00:01:01.027 --> 00:01:05.597
ואולי היא מנסה לעשות מה שביקשנו,
והיתה כאן בעיה?

NOTE Paragraph

00:01:06.567 --> 00:01:09.031
בסרטים, כשמשהו משתבש עם ב"מ,

00:01:09.055 --> 00:01:11.611
זה בדרך כלל כי הב"מ החליטה

00:01:11.611 --> 00:01:13.917
שהיא כבר לא רוצה לציית לבני האדם

00:01:13.917 --> 00:01:16.710
ויש לה מטרות משלה,
תודה רבה לכם.

00:01:17.266 --> 00:01:20.236
אבל במציאות, הב"מ שיש לנו

00:01:20.236 --> 00:01:22.369
ממש לא כל-כך חכמה.

00:01:22.781 --> 00:01:26.957
יש לה כוח מיחשוב
בערך כמו של שלשול,

00:01:26.957 --> 00:01:30.304
ולכל היותר - של דבורת דבש יחידה,

00:01:30.304 --> 00:01:32.573
וכנראה פחות מכך.

00:01:32.573 --> 00:01:35.347
הרי אנו כל הזמן לומדים
דברים חדשים אודות המוח

00:01:35.371 --> 00:01:39.731
שמבהירים עד כמה הב"מ
אינה בת-השוואה עם מוח אמיתי.

00:01:39.755 --> 00:01:45.418
הב"מ של היום מסוגלת לעשות
לזהות בתמונה הולך-רגל,

00:01:45.442 --> 00:01:48.209
אבל אין לה מושג מהו הולך-רגל

00:01:48.209 --> 00:01:53.273
מעבר להיותו אוסף קווים,
מרקמים וכדומה.

00:01:53.792 --> 00:01:56.313
היא בכלל לא יודעת מהו אדם.

00:01:56.822 --> 00:02:00.028
האם הב"מ של ימינו
תעשה מה שנבקש ממנה?

00:02:00.028 --> 00:02:01.586
כן, אם היא תוכל,

00:02:01.586 --> 00:02:04.472
אבל אולי לא בדיוק מה שנרצה.

NOTE Paragraph

00:02:04.496 --> 00:02:06.911
נניח שאתם רוצים שהב"מ

00:02:06.935 --> 00:02:09.554
תיקח את אוסף חלקי הרובוט הזה

00:02:09.578 --> 00:02:13.775
ותרכיב מהן רובוט שיגיע
מנקודה א' לב'.

00:02:13.799 --> 00:02:18.430
אילו ניסיתם לפתור בעיה זו
ע"י כתיבת תוכנת מחשב רגילה,

00:02:18.499 --> 00:02:22.050
הייתם נותנים לתוכנה הוראות מפורטות

00:02:22.050 --> 00:02:23.403
איך לקחת את החלקים האלה,

00:02:23.403 --> 00:02:25.880
להרכיב מהם רובוט עם רגליים

00:02:25.904 --> 00:02:29.046
ולהשתמש ברגליים האלה
כדי ללכת עד נקודה ב'.

00:02:29.441 --> 00:02:31.781
אבל כשמשתמשים בב"מ
כדי לפתור בעיה זו,

00:02:31.805 --> 00:02:32.883
זה שונה.

00:02:32.883 --> 00:02:35.269
אינכם אומרים לה
איך לפתור את הבעיה,

00:02:35.269 --> 00:02:36.712
אלא רק אומרים לה מהי המטרה,

00:02:36.712 --> 00:02:40.058
והיא צריכה להבין לבד
דרך ניסוי וטעייה

00:02:40.058 --> 00:02:41.682
איך להגיע למטרה זו.

00:02:42.254 --> 00:02:47.560
ומסתבר שהב"מ נוטה לפתור
בעיה מסוימת זו באופן הבא:

00:02:47.808 --> 00:02:52.935
היא מרכיבה מהחלקים מגדל שנופל
ונוחת על נקודה ב'.

00:02:52.990 --> 00:02:55.813
וטכנית, זה פותר את הבעיה.

00:02:55.813 --> 00:02:57.622
טכנית, היא הגיעה לנקודה ב'.

00:02:57.646 --> 00:03:01.911
הסכנה איננה שהב"מ
תתמרד נגדנו,

00:03:01.935 --> 00:03:06.209
אלא שתעשה בדיוק
מה שאנו דורשים ממנה.

00:03:06.876 --> 00:03:09.374
לכן, החוכמה בעבודה עם ב"מ היא,

00:03:09.398 --> 00:03:13.546
איך להגדיר את הבעיה כך שהיא
תעשה בדיוק את מה שביקשנו?

NOTE Paragraph

00:03:14.726 --> 00:03:17.966
הרובוט הקטן הזה נשלט ע"י ב"מ.

00:03:17.966 --> 00:03:20.870
הב"מ עיצבה את רגלי הרובוט

00:03:20.894 --> 00:03:24.866
ומצאה דרך להשתמש בהן
כדי לעבור את כל המכשולים האלה.

00:03:24.866 --> 00:03:27.737
אבל כשדייויד הא
ערך את הניסוי הזה,

00:03:27.761 --> 00:03:30.511
היה עליו להגדיר מגבלות
נוקשות ביותר

00:03:30.511 --> 00:03:33.933
לגבי גודל הרגליים שהב"מ
רשאית לקבוע,

00:03:33.957 --> 00:03:35.507
כי אחרת...

NOTE Paragraph

00:03:43.058 --> 00:03:45.939
(צחוק)

NOTE Paragraph

00:03:48.563 --> 00:03:52.308
וטכנית, היא עברה את מסלול המכשולים.

00:03:52.332 --> 00:03:57.274
אז אתם מבינים כמה קשה לגרום
לב"מ לעשות משהו פשוט כמו הליכה.

NOTE Paragraph

00:03:57.298 --> 00:04:01.118
אז כשאתם רואים את הב"מ
עושה כך, ודאי תגידו: "זה לא הוגן,

00:04:01.142 --> 00:04:03.556
"אסור לך לבנות סתם מגדל שנופל.

00:04:03.556 --> 00:04:07.181
"עלייך להשתמש ברגליים כדי ללכת."

00:04:07.205 --> 00:04:09.964
ומסתבר שגם זה לא תמיד עובד.

00:04:09.988 --> 00:04:12.747
המטלה של הב"מ הזאת
היתה לנוע מהר.

00:04:13.115 --> 00:04:16.708
לא נאמר לה שצריך לנוע קדימה

00:04:16.732 --> 00:04:18.990
או שאסור לה להשתמש בזרועות.

00:04:19.487 --> 00:04:24.105
זה מה שמקבלים כשמאמנים
את הב"מ לתנועה מהירה:

00:04:24.129 --> 00:04:27.663
סלטות והליכה משונה.

00:04:27.687 --> 00:04:29.087
זה נפוץ מאד.

00:04:29.667 --> 00:04:32.846
כך גם התקדמות של ערימה בעוויתות.

NOTE Paragraph

00:04:32.870 --> 00:04:34.020
(צחוק)

NOTE Paragraph

00:04:35.241 --> 00:04:38.279
אז לדעתי, מה שהיה צריך
להיות הרבה יותר מוזר

00:04:38.279 --> 00:04:39.915
הם הרובוטים של "שליחות קטלנית".

00:04:40.256 --> 00:04:44.011
גם פיצוח ה"מטריקס" הוא משהו
שב"מ תוכל לעשות אם יתנו לה הזדמנות.

00:04:44.035 --> 00:04:46.552
אז אם תאמנו ב"מ בהדמייה,

00:04:46.576 --> 00:04:50.689
היא תלמד למשל לפצח
את השגיאות המתמטיות של ההדמייה

00:04:50.713 --> 00:04:52.920
ולהפיק מהן אנרגיה.

00:04:52.944 --> 00:04:58.419
או תמצא איך לנוע מהר יותר
ע"י גלישה מתמדת על הרצפה.

00:04:58.443 --> 00:05:00.028
כשעובדים עם ב"מ,

00:05:00.052 --> 00:05:02.441
זה דומה פחות לעבודה
עם יצור אנושי אחר,

00:05:02.465 --> 00:05:06.094
ודומה יותר לעבודה 
עם איזה כוח-טבע מוזר.

00:05:06.562 --> 00:05:11.185
ולמעשה, קל מאד לתת לב"מ
בטעות את הבעיה הלא-נכונה,

00:05:11.209 --> 00:05:15.747
ועל פי רוב איננו מבינים זאת
עד שמשהו משתבש.

NOTE Paragraph

00:05:16.242 --> 00:05:18.322
הנה ניסוי שערכתי,

00:05:18.346 --> 00:05:21.528
ובו רציתי שהב"מ תעתיק גווני צבע

00:05:21.552 --> 00:05:23.298
כדי להמציא גוונים חדשים,

00:05:23.322 --> 00:05:26.309
בהינתן רשימה כמו זו שמשמאל.

00:05:26.798 --> 00:05:29.802
והנה הרשימה שהפיקה הב"מ.

NOTE Paragraph

00:05:29.826 --> 00:05:33.279
[קקי סינדיס, גוון גלל, סבל, אפור ערווה]

NOTE Paragraph

00:05:33.279 --> 00:05:37.223
(צחוק)

NOTE Paragraph

00:05:39.177 --> 00:05:41.063
אז טכנית,

00:05:41.087 --> 00:05:42.951
הב"מ עשתה מה שביקשתי.

00:05:42.975 --> 00:05:46.283
חשבתי שאני מבקשת ממנה
שמות חדשים ונחמדים של גוונים,

00:05:46.307 --> 00:05:48.614
אבל מה שביקשתי ממנה בפועל

00:05:48.638 --> 00:05:51.724
היה רק לחקות את צירופי האותיות

00:05:51.748 --> 00:05:53.653
שהיא ראתה במקור.

00:05:53.677 --> 00:05:56.775
ולא אמרתי לה דבר
על משמעות המילים,

00:05:56.799 --> 00:05:59.359
או שאולי יש מילים

00:05:59.383 --> 00:06:02.272
שכדאי להימנע מהן
בשמות של גווני צבע.

00:06:03.141 --> 00:06:06.635
כל עולמה היה הנתונים שנתתי לה.

00:06:06.659 --> 00:06:11.217
כמו עם טעמי הגלידה,
היא לא מכירה שום דבר נוסף.

NOTE Paragraph

00:06:12.491 --> 00:06:14.129
משמע שדרך הנתונים

00:06:14.153 --> 00:06:18.437
אנו מרבים לטעות ולומר לב"מ
לעשות את הדבר הלא-נכון.

00:06:18.694 --> 00:06:21.726
זהו דג בשם <i>טינקה</i>.

00:06:21.750 --> 00:06:23.565
והיתה קבוצת חוקרים

00:06:23.589 --> 00:06:27.463
שאימנה ב"מ לזהות טינקה בתמונות.

00:06:27.487 --> 00:06:28.983
אבל כשהם שאלו את הב"מ

00:06:28.983 --> 00:06:32.233
באיזה חלק מהתמונה היא השתמשה
כדי לזהות את הדג,

00:06:32.257 --> 00:06:33.615
זה מה שהיא הדגישה.

00:06:35.203 --> 00:06:37.392
נכון, אצבעות אנושיות.

00:06:37.416 --> 00:06:41.435
מדוע היא מחפשת אצבעות אנושיות
כשהיא מנסה לזהות דג?

00:06:42.126 --> 00:06:45.290
מסתבר שאת הטינקה דגים
בעיקר כשלל ציד,

00:06:45.314 --> 00:06:50.065
ולכן בתמונות רבות של הדג הזה
שהב"מ ראתה באימון שלה,

00:06:50.114 --> 00:06:51.814
הדג נראה ככה.

NOTE Paragraph

00:06:51.838 --> 00:06:53.473
(צחוק)

NOTE Paragraph

00:06:53.497 --> 00:06:57.247
היא לא ידעה שהאצבעות
אינן איברים של הדג.

NOTE Paragraph

00:06:58.808 --> 00:07:02.928
אז אתם מבינים למה
קשה כל-כך לתכנן ב"מ

00:07:02.952 --> 00:07:06.271
שתוכל להבין מה היא רואה.

00:07:06.295 --> 00:07:09.157
ולכן קשה כך-כך לתכנן
זיהוי תמונה

00:07:09.181 --> 00:07:11.248
במכוניות אוטונומיות,

00:07:11.272 --> 00:07:13.477
ומדוע כשלים רבים כל-כך
במכוניות אוטונומיות

00:07:13.501 --> 00:07:16.386
נובעים מבלבול של הב"מ.

00:07:16.410 --> 00:07:20.418
אני רוצה לדבר על דוגמה מ-2016.

00:07:20.442 --> 00:07:24.897
היתה תאונה קטלנית כשמישהו השתמש
בב"מ של רכב אוטונומי של "טסלה",

00:07:24.921 --> 00:07:28.335
אבל במקום להשתמש בה
בכביש המהיר, כפי שתוכננה,

00:07:28.359 --> 00:07:30.564
הוא השתמש בה ברחובות העיר.

00:07:31.239 --> 00:07:32.414
ומה שקרה הוא,

00:07:32.438 --> 00:07:35.834
שמשאית חצתה לפני הרכב
והרכב לא בלם.

00:07:36.507 --> 00:07:41.269
הב"מ הוכשרה בהחלט לזהות
משאיות בתמונות.

00:07:41.293 --> 00:07:43.438
אבל מה שכנראה קרה הוא,

00:07:43.462 --> 00:07:46.393
שהב"מ אומנה לזהות משאיות
בכביש המהיר,

00:07:46.417 --> 00:07:49.316
ושם הציפיה היא לראות משאיות מאחור.

00:07:49.340 --> 00:07:52.760
משאיות במבט צידי
לא אמורות להיראות בכביש מהיר,

00:07:52.784 --> 00:07:56.239
אז כשב"מ ראתה את המשאית,

00:07:56.263 --> 00:08:01.090
היא כנראה זיהתה אותה
כשלט דרכים,

00:08:01.114 --> 00:08:03.387
כזה שבטוח לעבור מתחתיו.

NOTE Paragraph

00:08:04.114 --> 00:08:06.694
הנה טעות של ב"מ מתחום שונה.

00:08:06.718 --> 00:08:10.032
לאחרונה "אמזון" נאלצה לנטוש
אלגוריתם למיון קורות-חיים

00:08:10.032 --> 00:08:11.422
שעליו הם עבדו,

00:08:11.446 --> 00:08:15.198
כשגילו שהאלגוריתם
למד להפלות נגד נשים.

00:08:15.198 --> 00:08:18.284
מה שקרה הוא שהם אימנו אותו
עם דגימות של קורות-חיים

00:08:18.284 --> 00:08:20.360
של אנשים שהם העסיקו בעבר.

00:08:20.384 --> 00:08:24.407
ומהדוגמאות, הב"מ למדה
להימנע מקורות-חיים של אנשים

00:08:24.431 --> 00:08:26.457
שהלכו למכללות של נשים

00:08:26.481 --> 00:08:29.287
או שהמילה "נשים" הופיעה
בקורות החיים,

00:08:29.311 --> 00:08:33.887
כמו "נבחרת כדורגל נשים"
או "אגודת הנשים המהנדסות".

00:08:33.911 --> 00:08:37.885
הב"מ לא ידעה שהיא לא אמורה
להעתיק את הדבר המסוים הזה

00:08:37.909 --> 00:08:39.887
מבני האדם.

00:08:39.911 --> 00:08:43.088
וטכנית, היא עשתה כפי שהתבקשה.

00:08:43.112 --> 00:08:46.349
אלא שביקשו ממנה בטעות
לעשות את הדבר הלא-נכון.

NOTE Paragraph

00:08:46.653 --> 00:08:49.548
וזה קורה כל הזמן עם ב"מ.

00:08:50.120 --> 00:08:53.711
ב"מ יכולה להיות הרסנית מאד
מבלי לדעת זאת.

00:08:53.735 --> 00:08:58.813
אז הב"מ שממליצות על תכנים
ב"פייסבוק" ו"יו-טיוב",

00:08:58.837 --> 00:09:02.376
ממוטבות להגדיל את מספר הקליקים והצפיות.

00:09:02.400 --> 00:09:05.836
למרבה הצער, אחת הדרכים
שהן מצאו לעשות זאת

00:09:05.860 --> 00:09:10.363
היא להמליץ על תכני
תיאוריות-קשר או גזענות.

00:09:10.902 --> 00:09:16.204
לב"מ עצמן אין שום מושג
מהם בעצם התכנים האלה,

00:09:16.228 --> 00:09:19.623
וגם לא מה עלולות להיות התוצאות

00:09:19.647 --> 00:09:21.756
של ההמלצה על תכנים כאלה.

NOTE Paragraph

00:09:22.296 --> 00:09:24.307
אז כשאנו עובדים עם ב"מ,

00:09:24.331 --> 00:09:28.513
באחריותנו למנוע בעיות.

00:09:28.537 --> 00:09:30.860
ומניעה מדברים להשתבש

00:09:30.884 --> 00:09:35.410
יכולה להסתכם בבעייה עתיקת היומין
של קצרים בתקשורת.

00:09:35.434 --> 00:09:39.179
כשאנו, בני האדם, צריכים ללמוד
איך לתקשר עם ב"מ,

00:09:39.203 --> 00:09:43.242
עלינו ללמוד מה הב"מ
מסוגלת לעשות ומה לא,

00:09:43.266 --> 00:09:46.352
ולהבין שעם מוח השלשול הזעיר שלה,

00:09:46.376 --> 00:09:50.389
הב"מ לא ממש מבינה
מה אנו מנסים לבקש ממנה לעשות.

00:09:51.148 --> 00:09:54.469
במלים אחרות, עלינו להיות
מוכנים לעבוד עם ב"מ

00:09:54.493 --> 00:09:59.751
שאיננה כל-יכולה ויודעת-כל
כמו במדע הבדיוני:

00:09:59.775 --> 00:10:05.317
עלינו להיות מוכנים לעבוד
עם הב"מ שיש לנו בהווה.

00:10:05.623 --> 00:10:09.712
והב"מ בהווה היא מספיק מוזרה.

NOTE Paragraph

00:10:09.712 --> 00:10:11.042
תודה לכם.

NOTE Paragraph

00:10:11.066 --> 00:10:16.291
(מחיאות כפיים)